करीब 400 वैज्ञानिकों ने उन्नत AI सिस्टम की सुरक्षा और निगरानी के लिए अंतरराष्ट्रीय संस्था बनाने की मांग की है। जेफ्री हिंटन और योशुआ बेंगियो समेत शोधकर्ताओं ने साइबर-सक्षम AI मॉडल के लिए सख्त सुरक्षा मानकों और घटनाओं की रिपोर्टिंग व्यवस्था लागू करने की अपील की।
Tech: उन्नत आर्टिफिशियल इंटेलिजेंस (AI) सिस्टम की सुरक्षा सुनिश्चित करने के लिए करीब 400 वैज्ञानिकों ने अंतरराष्ट्रीय निगरानी संस्था गठित करने की मांग की है। 34 देशों के हस्ताक्षरकर्ताओं में AI विशेषज्ञ जेफ्री हिंटन और योशुआ बेंगियो भी शामिल हैं। वैज्ञानिकों ने साइबर क्षमता वाले AI मॉडल के लिए सख्त सुरक्षा मानक, स्वतंत्र निगरानी और गंभीर सुरक्षा घटनाओं की रिपोर्टिंग व्यवस्था लागू करने की अपील की है।
Advanced AI की निगरानी के लिए अंतरराष्ट्रीय संस्था बनाने की मांग
करीब 400 वैज्ञानिकों ने उन्नत आर्टिफिशियल इंटेलिजेंस (AI) सिस्टम की सुरक्षा और निगरानी के लिए अंतरराष्ट्रीय संस्था गठित करने की मांग की है। मंगलवार को जारी एक खुले पत्र में शोधकर्ताओं ने कहा कि साइबर क्षमता वाले उन्नत AI मॉडल के विकास और परीक्षण के लिए साझा सुरक्षा मानक तैयार किए जाने चाहिए। हस्ताक्षरकर्ताओं में AI क्षेत्र के प्रमुख विशेषज्ञ जेफ्री हिंटन और योशुआ बेंगियो भी शामिल हैं।
वैज्ञानिकों का प्रस्ताव है कि नई संस्था उद्योग स्तर पर सुरक्षा मानकों को निर्धारित करे और गंभीर सुरक्षा घटनाओं का एक रजिस्टर बनाए। उनके अनुसार, समय के साथ इस रजिस्टर को सार्वजनिक भी किया जाना चाहिए, ताकि उन्नत AI सिस्टम से जुड़े जोखिमों और घटनाओं के बारे में अधिक पारदर्शिता सुनिश्चित हो सके।
AI मॉडल के लिए सख्त सुरक्षा मानक और स्वतंत्र निगरानी पर जोर
खुले पत्र में शोधकर्ताओं ने सुझाव दिया कि अत्याधुनिक AI मॉडल को शुरुआती चरण में बाहरी नेटवर्क से अलग रखा जाना चाहिए। इसके साथ ही, उनकी सुरक्षा व्यवस्था की स्वतंत्र निगरानी भी होनी चाहिए। वैज्ञानिकों का तर्क है कि केवल कंपनियों की स्वैच्छिक सुरक्षा प्रतिबद्धताएं पर्याप्त नहीं हैं और उन्नत AI से जुड़े जोखिमों के प्रबंधन के लिए अधिक व्यवस्थित व्यवस्था की जरूरत है।
हस्ताक्षरकर्ताओं ने कहा कि साइबर क्षमता वाले AI मॉडल विकसित करने या उनका परीक्षण करने वाली संस्थाओं को तत्काल उच्च-स्तरीय सुरक्षा और नियंत्रण मानक अपनाने चाहिए। उनका मानना है कि जब तक सरकारें औपचारिक निगरानी व्यवस्था विकसित करने की दिशा में काम कर रही हैं, तब तक कंपनियों को सुरक्षा संबंधी उपायों में देरी नहीं करनी चाहिए।
यह मांग ऐसे समय आई है, जब कुछ शोधकर्ताओं ने उन्नत AI सिस्टम के परीक्षण और नियंत्रण में कमियों को लेकर चिंता जताई है। उनके अनुसार, कुछ मामलों में AI मॉडल पर्याप्त रूप से सुरक्षित परीक्षण वातावरण की सीमाओं को पार कर बाहरी सिस्टम तक पहुंच गए। ऐसी घटनाओं ने AI मॉडल को नियंत्रित रखने और उनके संभावित दुरुपयोग को रोकने की मौजूदा व्यवस्थाओं पर सवाल खड़े किए हैं।
अमेरिका, ब्रिटेन और यूरोप में AI सुरक्षा पर बढ़ती चर्चा
अंतरराष्ट्रीय स्तर पर AI नियमन को लेकर अलग-अलग दृष्टिकोण सामने आ रहे हैं। इससे पहले Anthropic, OpenAI, Google, Meta, xAI और Nvidia ने व्हाइट हाउस के एक समझौते पर हस्ताक्षर किए थे, जिसमें स्वैच्छिक सुरक्षा उपायों को अपनाने की प्रतिबद्धता शामिल थी। हालांकि, इस समझौते में औपचारिक प्रवर्तन तंत्र नहीं था।
यूरोपीय संघ की तकनीकी प्रमुख हेना विरकुनेन ने शुक्रवार को Reuters से कहा था कि EU का AI Act अनियंत्रित AI सिस्टम से जुड़े जोखिमों से निपटने के लिए पर्याप्त है। दूसरी ओर, रविवार को ट्रंप प्रशासन ने अमेरिकी AI प्रयोगशालाओं को ब्रिटेन के AI Security Institute के साथ सुरक्षा परीक्षण के लिए मॉडल तक शुरुआती पहुंच देने पर लगी रोक हटा दी।
AI विशेषज्ञों के बीच जोखिमों को लेकर अलग-अलग राय
जेफ्री हिंटन और योशुआ बेंगियो को वर्ष 2018 में ट्यूरिंग अवॉर्ड से सम्मानित किया गया था। यह पुरस्कार उन्होंने Meta के AI शोधकर्ता यान लेकन के साथ साझा किया था। हालांकि, लेकन ने इस खुले पत्र पर हस्ताक्षर नहीं किए।
लेकन का मत रहा है कि हाल में सामने आई AI सुरक्षा संबंधी घटनाएं मुख्य रूप से इंजीनियरिंग की विफलताओं को दर्शाती हैं, न कि अनिवार्य रूप से AI से जुड़े अस्तित्वगत जोखिमों को। यह अंतर बताता है कि AI सुरक्षा पर विशेषज्ञों के बीच जोखिमों की प्रकृति और उनसे निपटने के तरीकों को लेकर अलग-अलग विचार मौजूद हैं।
वैज्ञानिकों की इस पहल का मुख्य उद्देश्य उन्नत AI सिस्टम के लिए साझा सुरक्षा मानक, स्वतंत्र निगरानी और घटनाओं की रिपोर्टिंग को संस्थागत रूप देना है। प्रस्तावित अंतरराष्ट्रीय संस्था का गठन और उसके अधिकार किस तरह निर्धारित होंगे, यह आगे सरकारों और संबंधित संगठनों के निर्णयों पर निर्भर करेगा।
