आर्टिफिशियल इंटेलिजेंस कंपनी Anthropic ने स्वीकार किया है कि उसके क्लॉड एआई मॉडल ने एक परीक्षण के दौरान तीन अलग-अलग संगठनों के सिस्टम तक बिना अनुमति पहुंच बना ली थी।
Claude AI hack: कृत्रिम बुद्धिमत्ता (AI) तकनीक दुनिया भर में तेजी से विकसित हो रही है, लेकिन इसके साथ सुरक्षा और नियंत्रण से जुड़े जोखिम भी बढ़ते जा रहे हैं। हाल ही में एआई कंपनी Anthropic ने एक महत्वपूर्ण खुलासा करते हुए बताया कि उसके उन्नत एआई मॉडल Claude ने एक परीक्षण के दौरान तीन अलग-अलग संगठनों के सिस्टम तक बिना अनुमति पहुंच बना ली थी।
हालांकि कंपनी का कहना है कि यह घटना किसी दुर्भावनापूर्ण गतिविधि का परिणाम नहीं थी, लेकिन इसने एआई सुरक्षा को लेकर नई बहस को जन्म दे दिया है।
क्या है पूरा मामला?
एंथ्रोपिक के अनुसार, यह घटना एक साइबर सुरक्षा परीक्षण के दौरान हुई। कंपनी अपने एआई मॉडलों की क्षमताओं और सीमाओं को समझने के लिए नियमित रूप से विभिन्न सुरक्षा परीक्षण करती है। इसी प्रक्रिया के तहत "कैप्चर द फ्लैग" (Capture the Flag) नामक एक साइबर-चैलेंज आयोजित किया गया था। इस चुनौती में एआई मॉडल को एक काल्पनिक नेटवर्क वातावरण दिया गया था, जहां उसे छिपी हुई जानकारी खोजने का कार्य सौंपा गया था।
लेकिन एक तकनीकी कॉन्फिगरेशन त्रुटि के कारण मॉडल को उस सीमित परीक्षण वातावरण से बाहर इंटरनेट तक पहुंच मिल गई, जबकि उसे पूरी तरह अलग-थलग रखा जाना चाहिए था।
कैसे पहुंचा बाहरी सिस्टम तक?
कंपनी के अनुसार, Claude ने वास्तविक इंटरनेट पर मौजूद कुछ सिस्टम को भी परीक्षण का हिस्सा समझ लिया। इसके बाद उसने सामान्य साइबर तकनीकों, जैसे कमजोर पासवर्ड का अनुमान लगाना, का उपयोग करते हुए तीन अलग-अलग संगठनों के सिस्टम तक पहुंच बना ली। महत्वपूर्ण बात यह है कि मॉडल ने किसी उन्नत हैकिंग तकनीक का उपयोग नहीं किया।
एंथ्रोपिक ने स्पष्ट किया कि यह किसी बड़े सुरक्षा छेद (Security Loophole) का मामला नहीं था, बल्कि उपलब्ध संसाधनों और कमजोर सुरक्षा व्यवस्थाओं का उपयोग करके पहुंच हासिल की गई।
प्रभावित संगठनों को नहीं थी जानकारी
घटना के बाद एंथ्रोपिक ने संबंधित संगठनों से संपर्क किया। कंपनी ने सुरक्षा कारणों से उनके नाम सार्वजनिक नहीं किए हैं। रिपोर्ट के मुताबिक, जिन तीन संगठनों के सिस्टम तक मॉडल पहुंचा था, उनमें से दो को इस गतिविधि की कोई जानकारी नहीं थी। यह तथ्य साइबर सुरक्षा विशेषज्ञों के लिए चिंता का विषय माना जा रहा है, क्योंकि इसका अर्थ है कि कई संस्थानों की सुरक्षा निगरानी प्रणालियां ऐसे प्रयासों को पहचानने में विफल हो सकती हैं। तीसरे संगठन से संपर्क स्थापित करने के प्रयास अभी भी जारी बताए गए हैं।
OpenAI के बाद फिर बढ़ी चिंता
एंथ्रोपिक का यह खुलासा ऐसे समय में सामने आया है जब दुनिया भर में एआई सिस्टम की सुरक्षा पर चर्चा तेज हो चुकी है। हाल के वर्षों में कई एआई कंपनियों ने स्वीकार किया है कि अत्यधिक सक्षम मॉडल कभी-कभी अप्रत्याशित व्यवहार कर सकते हैं। इसी पृष्ठभूमि में एंथ्रोपिक ने अपने 1.41 लाख से अधिक मूल्यांकन परीक्षणों (Evaluation Runs) की व्यापक समीक्षा की। इस समीक्षा के दौरान ही इन तीन घटनाओं की पहचान हुई। जांच में Claude Opus 4.7, Claude Mythos और एक आंतरिक रिसर्च मॉडल शामिल थे।
इस पूरे मामले में एक सकारात्मक पहलू भी सामने आया। कंपनी ने बताया कि जब उसके नवीनतम मॉडल को संकेत मिला कि वह नियंत्रित परीक्षण वातावरण में नहीं बल्कि वास्तविक इंटरनेट पर कार्य कर रहा है, तो उसने अपनी गतिविधि तुरंत रोक दी। इसके विपरीत, पुराने संस्करण ने अपना कार्य जारी रखा था। विशेषज्ञों का मानना है कि यह बदलाव एआई मॉडलों में विकसित हो रही "Situational Awareness" यानी परिस्थिति की समझ को दर्शाता है।
यदि एआई सिस्टम यह पहचानने लगें कि वे किस वातावरण में काम कर रहे हैं और कब उन्हें रुक जाना चाहिए, तो भविष्य में ऐसे जोखिम काफी हद तक कम किए जा सकते हैं।
