Anthropic के दो शोधकर्ताओं की AI से मानवता के अस्तित्व को खतरे की चेतावनी के बाद अमेरिका में सख्त नियमों की मांग बढ़ी है। डेमोक्रेट और रिपब्लिकन सांसदों ने AI की निगरानी मजबूत करने की वकालत की।
वॉशिंगटन: तेजी से विकसित हो रही आर्टिफिशियल इंटेलिजेंस से मानवता के लिए गंभीर खतरे की Anthropic शोधकर्ताओं की चेतावनी ने अमेरिका में नियमन की बहस तेज कर दी है। डेमोक्रेट और रिपब्लिकन दोनों दलों के सांसदों ने AI कंपनियों पर कड़ी निगरानी और सुरक्षा जांच की मांग की है। हालांकि, राष्ट्रपति डोनाल्ड ट्रंप ने AI के कारण मानव विलुप्ति की आशंका को लेकर चिंता से इनकार किया है।
Anthropic शोधकर्ताओं की चेतावनी से बढ़ी चिंता
अमेरिका में AI के नियमन को लेकर बहस उस समय तेज हो गई, जब Anthropic के दो शोधकर्ताओं ने तेजी से विकसित हो रही आर्टिफिशियल इंटेलिजेंस से मानवता के लिए गंभीर खतरे की आशंका जताई। Anthropic के शोधकर्ता जैकब कॉक्सन ने इस्तीफा देते हुए कहा कि AI बनाने वाले लोग गंभीरता से मानते हैं कि यह दशक खत्म होने से पहले पूरी मानवता को खत्म कर सकता है।
Anthropic के वैज्ञानिक इवान हुबिंगर ने भी कॉक्सन की बात का समर्थन किया। उन्होंने सोशल मीडिया प्लेटफॉर्म X पर कहा कि AI के सभी इंसानों को खत्म करने की संभावना को गंभीरता से लिया जाना चाहिए। हुबिंगर ने व्यक्तिगत तौर पर अगले दशक में ऐसी संभावना 10 प्रतिशत से अधिक होने का अनुमान जताया।
दोनों दलों के सांसदों ने कड़े नियमों की मांग की
इन चेतावनियों के बाद डेमोक्रेट और रिपब्लिकन दोनों दलों के सांसदों ने AI सिस्टम पर सख्त निगरानी की मांग की है। एरिजोना के डेमोक्रेटिक सीनेटर मार्क केली ने कहा कि वॉशिंगटन को AI तकनीक से जुड़े जोखिमों को गंभीरता से लेना चाहिए।
टेक्सास के रिपब्लिकन सीनेटर टेड क्रूज ने भी AI के विनाशकारी जोखिमों को नियंत्रित करने वाले कानून की जरूरत पर जोर दिया। फ्लोरिडा की रिपब्लिकन प्रतिनिधि अन्ना पॉलिना लूना ने हाउस स्पीकर माइक जॉनसन से AI पर विशेष सत्र बुलाने की मांग की है।
हालांकि, राष्ट्रपति डोनाल्ड ट्रंप ने AI के कारण मानव विलुप्ति की आशंका को लेकर चिंता से इनकार किया। उन्होंने कहा कि अमेरिका के लिए AI के क्षेत्र में आगे रहना जरूरी है और फिलहाल अमेरिका चीन से काफी आगे है।
AI सुरक्षा को लेकर विशेषज्ञ भी चिंतित
AI को लेकर चिंता ऐसे समय बढ़ी है, जब कुछ AI एजेंट्स के बाहरी सिस्टम में सेंध लगाने जैसी घटनाएं सामने आई हैं। इसके अलावा, कई AI सुरक्षा शोधकर्ताओं ने तकनीक के तेजी से विकास को लेकर चिंता जताते हुए अपनी कंपनियां छोड़ी हैं।
Google DeepMind में AI सुरक्षा पर काम कर चुके जोश एंगेल्स ने कहा कि इस क्षेत्र में सुरक्षा सुनिश्चित करने के लिए पर्याप्त निगरानी नहीं है। Anthropic में सुरक्षा शोध टीम का नेतृत्व कर चुके जो बेंटन ने भी कहा कि AI का विकास इतना तेज हो सकता है कि सुरक्षा उपाय तैयार करने के लिए पर्याप्त समय न मिले।
दोनों अब METR से जुड़े हैं। यह एक शोध गैर-लाभकारी संस्था है, जो यह आकलन करती है कि AI सिस्टम समाज के लिए कब और किस तरह खतरा पैदा कर सकते हैं।
AI उत्पादों के स्वतंत्र सुरक्षा ऑडिट पर जोर
सीनेट के बहुमत नेता जॉन थ्यून और डेमोक्रेट एमी क्लोबुशर AI उत्पादों को नियंत्रित करने के लिए एक विधेयक तैयार कर रहे हैं। क्लोबुशर का कहना है कि AI कंपनियों को सरकारी विशेषज्ञों के साथ मिलकर अपने मॉडल की सुरक्षा की जांच और परीक्षण कराना चाहिए।
जुलाई में अमेरिकी प्रतिनिधि सभा के छह सांसदों के एक द्विदलीय समूह ने भी शक्तिशाली AI मॉडल विकसित करने वाली कंपनियों के लिए स्वतंत्र सुरक्षा ऑडिट अनिवार्य करने वाला विधेयक पेश किया था। इसके तहत ऑडिट करने वाली संस्थाओं को अमेरिकी वाणिज्य विभाग से मान्यता मिलनी होगी।
कैलिफोर्निया ने भी AI उत्पादों के स्वतंत्र ऑडिट से जुड़े नियम बनाने वाला कानून लागू किया है। इससे AI कंपनियों पर स्वतंत्र सुरक्षा जांच और नियामकीय निगरानी बढ़ाने का दबाव और मजबूत हुआ है।
