आर्टिफिशियल इंटेलिजेंस (AI) का तेजी से बढ़ता उपयोग जहां नई संभावनाओं के द्वार खोल रहा है, वहीं साइबर अपराधियों के लिए भी यह एक शक्तिशाली हथियार बनता जा रहा है। देशभर में साइबर ठगी के मामलों में लगातार बढ़ोतरी देखी जा रही है और एआई आधारित डीपफेक वीडियो, फर्जी तस्वीरें तथा नकली ऑडियो इसके प्रमुख कारणों में शामिल हैं।
Deepfake AI: आर्टिफिशियल इंटेलिजेंस (AI) के तेजी से बढ़ते उपयोग ने दुनिया भर में नई संभावनाओं के साथ-साथ नई चुनौतियां भी पैदा की हैं। विशेष रूप से डीपफेक वीडियो, नकली ऑडियो और एआई-जनित तस्वीरों का बढ़ता इस्तेमाल सरकारों, तकनीकी कंपनियों और साइबर सुरक्षा विशेषज्ञों के लिए चिंता का विषय बन गया है। इसी चुनौती से निपटने के लिए भारत सरकार ने महत्वपूर्ण कदम उठाते हुए सोशल मीडिया प्लेटफॉर्म्स के लिए नए दिशा-निर्देश जारी किए हैं और कई स्वदेशी AI परियोजनाओं को मंजूरी दी है।
सरकार का उद्देश्य ऑनलाइन प्लेटफॉर्म्स पर भ्रामक, फर्जी और गैरकानूनी एआई कंटेंट के प्रसार को रोकना, साइबर अपराधों पर अंकुश लगाना और डिजिटल इकोसिस्टम को अधिक सुरक्षित बनाना है।
Deepfake क्यों बन रहा है बड़ी चुनौती?
डीपफेक तकनीक आर्टिफिशियल इंटेलिजेंस और मशीन लर्निंग की मदद से किसी व्यक्ति की आवाज, चेहरा या वीडियो को इस तरह बदल सकती है कि वह वास्तविक दिखाई दे। पिछले कुछ वर्षों में इस तकनीक का उपयोग फर्जी समाचार, ऑनलाइन धोखाधड़ी, पहचान की चोरी, वित्तीय अपराध और गलत सूचना फैलाने जैसे मामलों में बढ़ा है।
विशेषज्ञों का मानना है कि जैसे-जैसे एआई टूल्स आम लोगों के लिए अधिक सुलभ होते जा रहे हैं, वैसे-वैसे डीपफेक सामग्री बनाना आसान होता जा रहा है। यही कारण है कि कई देशों ने इस क्षेत्र में नियामकीय और तकनीकी उपायों पर काम शुरू कर दिया है।
सोशल मीडिया प्लेटफॉर्म्स के लिए नए दिशा-निर्देश
भारत के इलेक्ट्रॉनिक्स एवं सूचना प्रौद्योगिकी मंत्रालय (MeitY) ने सोशल मीडिया और डिजिटल इंटरमीडियरी प्लेटफॉर्म्स के लिए नए दिशा-निर्देश जारी किए हैं। इनका उद्देश्य एआई द्वारा निर्मित भ्रामक सामग्री की पहचान और नियंत्रण को मजबूत करना है। नए प्रावधानों के तहत प्लेटफॉर्म्स को उपयोगकर्ताओं की सुरक्षा को प्राथमिकता देते हुए ऐसे तंत्र विकसित करने होंगे जो फर्जी या भ्रामक कंटेंट की पहचान तेजी से कर सकें। इसके अलावा, प्लेटफॉर्म्स को शिकायतों पर अधिक त्वरित प्रतिक्रिया देने की भी अपेक्षा की गई है।
AI-जनित कंटेंट पर अनिवार्य लेबलिंग
नई व्यवस्था के सबसे महत्वपूर्ण पहलुओं में से एक एआई-निर्मित कंटेंट की पहचान को स्पष्ट करना है। यदि कोई वीडियो, ऑडियो, फोटो या अन्य डिजिटल सामग्री आर्टिफिशियल इंटेलिजेंस की सहायता से तैयार की गई है, तो उसे स्पष्ट रूप से लेबल करना होगा। इसका उद्देश्य उपयोगकर्ताओं को यह जानकारी देना है कि वे जो सामग्री देख रहे हैं, वह वास्तविक है या एआई द्वारा तैयार की गई है। विशेषज्ञों का मानना है कि कंटेंट लेबलिंग से गलत सूचना के प्रसार को कम करने और डिजिटल पारदर्शिता बढ़ाने में मदद मिलेगी।
सरकार ने आईटी (इंटरमीडियरी गाइडलाइंस एंड डिजिटल मीडिया एथिक्स कोड) नियमों के तहत कार्रवाई की प्रक्रिया को और तेज करने पर जोर दिया है।नई व्यवस्था के अनुसार, यदि किसी प्लेटफॉर्म को गैरकानूनी या भ्रामक सामग्री के संबंध में वैधानिक निर्देश प्राप्त होते हैं, तो उसे निर्धारित समयसीमा के भीतर कार्रवाई करनी होगी। इसका उद्देश्य हानिकारक सामग्री को तेजी से हटाना और उसके व्यापक प्रसार को रोकना है।
डिजिटल नीति विशेषज्ञों का मानना है कि तेज प्रतिक्रिया प्रणाली साइबर अपराधों और ऑनलाइन दुष्प्रचार अभियानों के प्रभाव को कम करने में महत्वपूर्ण भूमिका निभा सकती है।
स्वदेशी Deepfake Detection Technology पर जोर
भारत सरकार ने जिम्मेदार एआई (Responsible AI) से जुड़ी कई अनुसंधान परियोजनाओं को समर्थन दिया है। इन परियोजनाओं का मुख्य लक्ष्य ऐसी स्वदेशी तकनीकों का विकास करना है जो डीपफेक सामग्री की सटीक और त्वरित पहचान कर सकें। देश के प्रमुख तकनीकी और शैक्षणिक संस्थान इस दिशा में अनुसंधान कर रहे हैं ताकि भारत को विदेशी तकनीकों पर निर्भर हुए बिना उन्नत डिजिटल सुरक्षा समाधान उपलब्ध कराए जा सकें।
‘साक्ष्य’ प्रोजेक्ट क्या है?
आईआईटी जोधपुर और आईआईटी मद्रास मिलकर “साक्ष्य” नामक एक उन्नत डीपफेक डिटेक्शन फ्रेमवर्क विकसित कर रहे हैं। यह प्रणाली मल्टी-एजेंट एआई मॉडल पर आधारित होगी, जिसका उद्देश्य वीडियो और तस्वीरों में की गई छेड़छाड़ की पहचान करना है। शोधकर्ताओं का लक्ष्य ऐसी तकनीक विकसित करना है जो विभिन्न प्रकार के डीपफेक कंटेंट का विश्लेषण कर उनकी विश्वसनीयता का आकलन कर सके।
एक अन्य परियोजना के तहत एआई आधारित विश्लेषण प्रणाली विकसित की जा रही है, जो ऑडियो और वीडियो फाइलों की जांच कर यह पता लगाएगी कि उनमें किसी प्रकार का डिजिटल बदलाव या हेरफेर किया गया है या नहीं। इस तरह की तकनीक कानून प्रवर्तन एजेंसियों, मीडिया संगठनों और डिजिटल प्लेटफॉर्म्स के लिए उपयोगी साबित हो सकती है।
