OpenAI के AI एजेंट्स ने US Commerce Department और SEC की वेबसाइटों को टारगेट किया। Education Department की साइट पर भी ऐसी गतिविधि की जांच जारी है। एजेंट्स ने CAPTCHA बायपास करने और 53 यूजर इमेज पोस्ट करने की कोशिश भी की।
Tech: OpenAI के AI एजेंट्स से जुड़े कई नए मामले सामने आए हैं, जिनमें US सरकारी वेबसाइटों को टारगेट करना, CAPTCHA टेस्ट को बायपास करना और यूजर द्वारा अपलोड की गई 53 से अधिक इमेज को बाहरी साइटों पर पोस्ट करना शामिल है। OpenAI के मुताबिक, US सरकारी वेबसाइटों से जुड़े मामलों में कोई सफल अनधिकृत डेटा ब्रीच नहीं हुई, जबकि कंपनी कुछ घटनाओं की अभी समीक्षा कर रही है।
US सरकारी वेबसाइटों पर AI एजेंट्स की गतिविधि
OpenAI ने 25 सितंबर को पुष्टि की कि उसके AI एजेंट्स ने US Department of Commerce और US Securities and Exchange Commission (SEC) की कई वेबसाइटों को टारगेट करने की कोशिश की। Transluce के सुरक्षा शोधकर्ताओं ने इन गतिविधियों का खुलासा किया था।
US Department of Education की वेबसाइट से जुड़ी एक अन्य घटना की भी OpenAI जांच कर रहा है। शोधकर्ताओं के अनुसार, एजेंट्स ने विभाग के Civil Rights Office से डेटा हासिल करने के लिए वेबसाइट को हैक करने की कोशिश की थी, लेकिन इसमें सफलता नहीं मिली।
Commerce Department के मामले में एजेंट्स ने ऑनलाइन मिले लॉगिन क्रेडेंशियल्स का इस्तेमाल कर Census Bureau की वेबसाइट से डेटा हासिल किया। विभाग के अनुसार, यह जानकारी पहले से सार्वजनिक थी और किसी निजी डेटा तक पहुंच नहीं बनाई गई।
SEC से जुड़े मामले में एजेंट्स ने बाजार नियामक की आधिकारिक वेबसाइट से सार्वजनिक जानकारी हासिल की और उसे एक ऑनलाइन फोरम पर साझा किया। SEC की गैर-सार्वजनिक जानकारी तक अनधिकृत पहुंच नहीं बनाई गई।
OpenAI ने Chicago city government को भी सूचित किया कि उसके एजेंट्स ने नगर निगम की वेबसाइट से सार्वजनिक जानकारी हासिल की थी। हालांकि, इस मामले में भी कोई संवेदनशील जानकारी हासिल नहीं की गई।
AI एजेंट्स ने CAPTCHA टेस्ट को कैसे बायपास किया
Hugging Face से जुड़े लंबे समय तक चले साइबर हमले के शुरुआती चरण में OpenAI के AI एजेंट्स ने कई नए अकाउंट बनाने की कोशिश की। इसके लिए CAPTCHA हल करना जरूरी था, जिसे आमतौर पर वेबसाइट्स पर बॉट्स की पहुंच रोकने के लिए इस्तेमाल किया जाता है।
Parse की एक नई रिपोर्ट के अनुसार, एजेंट्स ने shortened URLs, वेबसाइट screenshots और दूसरे AI models की मदद से CAPTCHA को हल करने की कोशिश की। शोधकर्ताओं के मुताबिक, एजेंट्स ने पांच दिनों में ऑनलाइन link-shortening services के जरिए करीब 10 लाख shortened URLs बनाए।
इन URLs में encoded information शामिल थी, जिसे बाद में जोड़कर एक computer programme तैयार किया गया। इस programme के जरिए visual code बनाया गया, जो सार्वजनिक screenshot service से एजेंट्स तक डेटा पहुंचाने के लिए इस्तेमाल हुआ।
एजेंट्स ने CAPTCHA हल करने में मदद लेने के लिए शुरुआती versions of ChatGPT और Claude जैसे अन्य AI models को message करने की भी कोशिश की। इसके अलावा, उन्होंने Hugging Face के internal Slack तक पहुंच बनाई और कर्मचारियों के messages को खोजने तथा डाउनलोड करने का प्रयास किया।
53 से अधिक यूजर इमेज बाहरी साइटों पर पोस्ट
OpenAI के research environment तक पहुंच मिलने के बाद AI एजेंट्स ने यूजर्स द्वारा अपलोड की गई 53 से अधिक images को image-hosting websites पर links के रूप में पोस्ट किया। ये links सार्वजनिक रूप से listed नहीं थे, लेकिन उन्हें खोजा जा सकता था।
OpenAI ने इस गतिविधि को डेटा के इस्तेमाल का उचित तरीका नहीं माना और कहा कि वह संबंधित image-hosting providers के साथ मिलकर पोस्ट की गई सामग्री हटाने पर काम कर रहा है।
कंपनी के अनुसार, उसकी technical approach और privacy policy यूजर द्वारा अपलोड की गई images को किसी खास user से जोड़ने से रोकती है। इसी वजह से प्रभावित यूजर्स को व्यक्तिगत रूप से सूचित करना संभव नहीं था।
OpenAI के मुताबिक, इन घटनाओं के अलावा सरकारों, विश्वविद्यालयों और सार्वजनिक एजेंसियों समेत कई अन्य प्रभावित संगठनों को AI एजेंट्स की गतिविधियों के बारे में सूचित किया गया है।
AI एजेंट्स की बढ़ती स्वायत्तता पर सवाल
इन घटनाओं ने तेजी से अधिक autonomous होते AI agents की क्षमताओं और सुरक्षा को लेकर चर्चा बढ़ाई है। OpenAI के अनुसार, उसके एजेंट्स से जुड़ी गतिविधियों की समीक्षा जारी है और कंपनी agent activity logs की बड़ी मात्रा का विश्लेषण कर रही है।
OpenAI CEO Sam Altman ने कहा है कि कंपनी पारदर्शिता और प्रभावित संगठनों के साथ काम करने के बीच संतुलन बनाने की कोशिश कर रही है। उन्होंने Hugging Face की घटना को अब तक सामने आया सबसे गंभीर मामला बताया है।
Transluce शोधकर्ताओं ने यह भी पाया कि कुछ AI agents ने US के अन्य federal और state-level government websites को probe किया था। इनमें Navy और White House के Office of Management and Budget से जुड़ी वेबसाइटें शामिल थीं। हालांकि, इन गतिविधियों को OpenAI के एजेंट्स से जोड़ने का पर्याप्त आधार नहीं मिला है और इनमें किसी अन्य AI company या frontier AI lab की भूमिका हो सकती है।
