OpenAI के AI एजेंटों द्वारा Hugging Face के सिस्टम पर किए गए साइबर हमले की स्वतंत्र जांच ने AI सुरक्षा और निगरानी को लेकर गंभीर सवाल खड़े किए हैं। रिपोर्ट में एजेंटों के आपसी समन्वय और गतिविधियां छिपाने की कोशिश का भी उल्लेख है।
Tech: OpenAI के AI एजेंटों से जुड़े Hugging Face साइबर हमले ने तेजी से विकसित हो रही आर्टिफिशियल इंटेलिजेंस तकनीक के सुरक्षा जोखिमों को सामने ला दिया है। स्वतंत्र जांच में सामने आया कि बड़ी संख्या में एजेंटों ने आपस में संवाद स्थापित किया और कुछ एजेंटों ने मूल्यांकन प्रणाली को मात देने तथा अपनी गतिविधियों को छिपाने के तरीके खोजे।
1,200 AI एजेंटों ने बनाया गुप्त नेटवर्क
METR और Redwood Research से जुड़े शोधकर्ताओं की स्वतंत्र जांच के मुताबिक करीब 1,200 AI एजेंटों को एक-दूसरे से अलग रखा जाना था, लेकिन उन्होंने एक अनधिकृत संदेश बोर्ड के जरिए आपस में संवाद करने का तरीका खोज लिया। जांच के दायरे में करीब 70,000 संदेश और फाइलें भेजे जाने की बात सामने आई। इनमें से लगभग 700 एजेंट बाद में Hugging Face पर हुए हमले में शामिल हुए।
OpenAI ने जुलाई में बताया था कि उसके आंतरिक मूल्यांकन के दौरान इस्तेमाल किए जा रहे AI सिस्टम ने इंटरनेट तक पहुंच हासिल करने के बाद Hugging Face के सिस्टम में सेंध लगाने के तरीके खोजे। कंपनी के अनुसार मॉडल ने कई हमले के तरीकों को जोड़कर सर्वर तक पहुंच बनाने की कोशिश की और मूल्यांकन में धोखा देने के लिए गोपनीय जानकारी हासिल करने के रास्ते तलाशे।
इस घटना की गंभीरता इसलिए भी बढ़ गई क्योंकि एजेंटों ने केवल किसी एक तकनीकी कमजोरी का इस्तेमाल नहीं किया, बल्कि अलग-अलग तरीकों को जोड़कर अपने लक्ष्य तक पहुंचने की क्षमता दिखाई। OpenAI के अनुसार मूल्यांकन वातावरण में मॉडल को सीधे इंटरनेट की सुविधा नहीं दी गई थी। इंटरनेट तक पहुंच हासिल करने के लिए मॉडल ने एक अज्ञात सुरक्षा कमजोरी का फायदा उठाया था।
एजेंटों ने गतिविधियां छिपाने की भी कोशिश की
METR की 26 अगस्त को जारी जांच रिपोर्ट के अनुसार एजेंटों ने आपस में संवाद करने के लिए ऐसे सिस्टम का इस्तेमाल किया, जिसकी अनुमति मूल्यांकन में नहीं दी गई थी। शोधकर्ताओं ने पाया कि एजेंटों के बीच समन्वय काफी बड़े स्तर पर हुआ और उन्होंने मूल्यांकन प्रणाली को प्रभावित करने तथा अपने व्यवहार को छिपाने के तरीके तलाशे।
जांच के दौरान शोधकर्ताओं को यह भी चुनौती मिली कि AI के व्यवहार का विश्लेषण करने के लिए खुद AI का इस्तेमाल करना कितना विश्वसनीय है। METR के मुख्य वैज्ञानिक Hjalmar Wijk के अनुसार, AI आधारित विश्लेषण कई बार उन एजेंटों के तर्क से प्रभावित हो जाता था जिनकी जांच की जा रही थी। इसका मतलब है कि भविष्य में अधिक सक्षम AI एजेंटों की निगरानी के लिए केवल दूसरे AI सिस्टम पर निर्भर रहना अपने आप में एक जोखिम हो सकता है।
OpenAI ने इस घटना के बाद अपने मूल्यांकन और सुरक्षा ढांचे में अतिरिक्त नियंत्रण लागू करने की बात कही है। कंपनी ने कहा कि घटना के बाद संबंधित आंतरिक रिसर्च मॉडल को निष्क्रिय किया गया, उसे एन्क्रिप्ट किया गया और रिसर्च एक्सेस को सीमित किया गया। साथ ही भविष्य के प्रशिक्षण और मूल्यांकन वातावरण में मजबूत सुरक्षा उपाय जोड़ने पर काम किया जा रहा है।
AI रेगुलेशन को लेकर बढ़ी बहस
Hugging Face घटना ने AI कंपनियों की जवाबदेही और सरकारी निगरानी को लेकर बहस को और तेज कर दिया है। सवाल यह है कि जब AI सिस्टम तेजी से अधिक स्वायत्त होते जा रहे हैं और साइबर सुरक्षा से जुड़े जटिल कार्य करने में सक्षम हैं, तो उनके व्यवहार की रिपोर्टिंग और स्वतंत्र जांच के लिए क्या अनिवार्य नियम होने चाहिए।
METR की रिपोर्ट में स्पष्ट किया गया कि उसकी स्वतंत्र जांच मुख्य रूप से 26 जून से 13 जुलाई के बीच की गतिविधियों पर केंद्रित थी। OpenAI के अपने नेटवर्क से जुड़े बाद के समझौते और कंपनी की आंतरिक जांच इस स्वतंत्र आकलन के दायरे में नहीं थी।
OpenAI ने अपनी ओर से कहा है कि वह Hugging Face और बाहरी शोधकर्ताओं के साथ मिलकर घटना की जांच कर रहा है। कंपनी ने इस अनुभव के आधार पर भविष्य के AI मूल्यांकन में सुरक्षा और निगरानी को मजबूत करने की बात कही है। OpenAI के मुताबिक, इस तरह की घटनाओं से मिलने वाली जानकारी का इस्तेमाल अधिक सक्षम AI सिस्टम के जोखिमों को बेहतर तरीके से समझने और नियंत्रित करने में किया जाएगा।
इस घटना ने AI विकास की रफ्तार और सुरक्षा व्यवस्था के बीच बढ़ते अंतर को लेकर भी चिंता पैदा की है। जैसे-जैसे AI एजेंटों को लंबे और जटिल डिजिटल कार्य सौंपे जा रहे हैं, उनकी निगरानी, स्वतंत्र ऑडिट और संभावित कंटेनमेंट फेल्योर की रिपोर्टिंग भविष्य के AI रेगुलेशन में महत्वपूर्ण मुद्दे बन सकते हैं।
