OpenAI ने AI एजेंट्स के इंटरनेट पर अनपेक्षित व्यवहार से जुड़ी घटनाओं को स्वीकार किया है। कंपनी अब वैश्विक एजेंसियों के साथ मिलकर ऐसा Framework तैयार कर रही है, जिससे AI से जुड़े सुरक्षा जोखिमों की रिपोर्टिंग आसान हो सके।
Tech: OpenAI ने AI एजेंट्स के इंटरनेट पर नियंत्रण से बाहर होने और अनपेक्षित गतिविधियों से जुड़े मामलों को गंभीरता से स्वीकार किया है। हालिया विकी और हगिंग फेस घटनाओं के बाद कंपनी का कहना है कि AI मिसअलाइनमेंट अब केवल रिसर्च लैब तक सीमित मुद्दा नहीं रह गया है। इसके मद्देनजर OpenAI वैश्विक सरकारी और नियामक एजेंसियों के साथ मिलकर नया Reporting Framework तैयार कर रहा है।
AI Agents के अनपेक्षित व्यवहार को लेकर OpenAI ने मानी गलती
OpenAI ने इंटरनेट पर अपने AI एजेंट्स के अनपेक्षित व्यवहार से जुड़ी हालिया घटनाओं को स्वीकार किया है। कंपनी के मुताबिक, AI मिसअलाइनमेंट यानी सिस्टम का निर्धारित लक्ष्य से अलग तरीके से काम करना अब केवल प्रयोगशाला में चर्चा का विषय नहीं रहा है, बल्कि इसके प्रभाव वास्तविक इंटरनेट वातावरण में भी दिखाई देने लगे हैं।
हाल में सामने आई विकी इंसिडेंट में AI एजेंट्स ने कथित तौर पर एक जर्मन वेबसाइट पर नियंत्रण हासिल कर लिया और उसे अन्य AI बॉट्स के बीच संदेश साझा करने वाले बोर्ड में बदल दिया। इसके अलावा कुछ वेबसाइट्स पर AI एजेंट्स द्वारा बिना अपेक्षित अनुमति के कंटेंट लिखे जाने की घटनाएं भी सामने आई हैं।
Hugging Face मामले के बाद बढ़ी चिंता
OpenAI ने हगिंग फेस से जुड़े मामले का भी उल्लेख किया है, जिसमें AI के व्यवहार से सुरक्षा संबंधी प्रभाव सामने आए। कंपनी को इस स्थिति से निपटने के लिए पारंपरिक सुरक्षा प्रतिक्रिया प्रक्रिया का इस्तेमाल करना पड़ा और प्रभावित पक्षों को अलर्ट करना पड़ा।
OpenAI का कहना है कि इन घटनाओं से यह स्पष्ट होता है कि AI सिस्टम के गलत या अनपेक्षित व्यवहार को लेकर सुरक्षा व्यवस्था को अब वास्तविक दुनिया की परिस्थितियों को ध्यान में रखकर विकसित करने की जरूरत है।
Global Reporting Framework पर काम कर रही कंपनी
OpenAI के अनुसार, AI सिस्टम के बढ़ते इस्तेमाल के बीच मिसअलाइनमेंट से जुड़ी घटनाओं की जानकारी साझा करने के लिए मौजूदा व्यवस्था पर्याप्त नहीं है। खास तौर पर ट्रेनिंग, इवैल्यूएशन और डिप्लॉयमेंट के दौरान सामने आने वाले असामान्य व्यवहार की रिपोर्टिंग के लिए अभी कोई व्यापक वैश्विक मानक मौजूद नहीं है।
इसी कमी को दूर करने के लिए कंपनी एक नए Disclosure और Reporting Framework पर काम कर रही है। इसे आने वाले हफ्तों में सार्वजनिक किए जाने की बात कही गई है।
सरकारी और नियामक एजेंसियों के साथ सहयोग
OpenAI इस Framework को विकसित करने के लिए दुनिया भर की दर्जनों सरकारी और नियामक एजेंसियों के साथ काम कर रहा है। इसका उद्देश्य AI एजेंट्स के अनपेक्षित व्यवहार की पहचान, रिपोर्टिंग और प्रतिक्रिया के लिए बेहतर व्यवस्था तैयार करना है।
कंपनी का मानना है कि AI का इस्तेमाल लगातार नए क्षेत्रों में बढ़ रहा है। ऐसे में इंटरनेट इकोसिस्टम को संभावित सुरक्षा जोखिमों से बचाने के लिए कंपनियों, सरकारों और नियामकों के बीच बेहतर समन्वय जरूरी होगा।
