Anthropic ने खुलासा किया है कि साइबर सिक्योरिटी टेस्टिंग के दौरान उसके Claude AI मॉडल गलती से तीन कंपनियों के वास्तविक सिस्टम तक पहुंच गए। कंपनी ने टेस्टिंग रोक दी है और स्वतंत्र जांच के साथ सुरक्षा प्रक्रियाओं की समीक्षा शुरू कर दी है।
Tech: AI कंपनी Anthropic ने बताया कि उसके Claude AI मॉडल साइबर सिक्योरिटी मूल्यांकन के दौरान गलत कॉन्फिगरेशन की वजह से तीन वास्तविक कंपनियों के सिस्टम तक पहुंच गए। कंपनी के अनुसार यह किसी जानबूझकर किए गए हमले का मामला नहीं था, बल्कि टेस्टिंग एनवायरमेंट में हुई तकनीकी चूक का परिणाम था।
गलत कॉन्फिगरेशन से वास्तविक सिस्टम तक पहुंचा AI
AI कंपनी Anthropic ने अपने साइबर सिक्योरिटी परीक्षणों की समीक्षा के दौरान तीन ऐसी घटनाओं की पहचान की, जिनमें Claude AI मॉडल वास्तविक इंटरनेट से जुड़े सिस्टम तक पहुंच गए। कंपनी के अनुसार इन मॉडलों को ऐसे वातावरण में टेस्ट किया जा रहा था, जहां उन्हें यह बताया गया था कि वे पूरी तरह सिमुलेटेड नेटवर्क में काम कर रहे हैं और इंटरनेट से उनका कोई संपर्क नहीं है।
हालांकि, तकनीकी कॉन्फिगरेशन में हुई गलती के कारण टेस्टिंग सिस्टम इंटरनेट से जुड़ा रह गया। इसके चलते AI मॉडल वास्तविक वेबसाइटों और सर्वरों को भी टेस्टिंग का हिस्सा समझ बैठे और उन पर कार्रवाई करने लगे। Anthropic ने स्पष्ट किया कि इन मॉडलों ने जानबूझकर टेस्टिंग वातावरण से बाहर निकलने या किसी संगठन को निशाना बनाने की कोशिश नहीं की।
तीन अलग-अलग मामलों में दिखा अलग व्यवहार
कंपनी के अनुसार तीनों घटनाओं में Claude AI मॉडल का व्यवहार अलग-अलग रहा। एक मॉडल ने कमजोर पासवर्ड और खुले सर्विस एंडपॉइंट का उपयोग कर एक कंपनी के सिस्टम तक पहुंच बना ली। दूसरे मामले में मॉडल ने चुनौती पूरी करने के उद्देश्य से सार्वजनिक PyPI रिपॉजिटरी पर एक दुर्भावनापूर्ण Python पैकेज अपलोड कर दिया, जिसे हटाए जाने से पहले कुछ वास्तविक सिस्टम डाउनलोड भी कर चुके थे।
तीसरे मामले में एक रिसर्च मॉडल ने इंटरनेट से जुड़े कई सिस्टम स्कैन किए और एक कंपनी तक पहुंच बना ली। हालांकि, जैसे ही उसे एहसास हुआ कि वह किसी वास्तविक संगठन के सिस्टम पर काम कर रहा है, उसने आगे की गतिविधि खुद ही रोक दी।
OpenAI की घटना के बाद हुई व्यापक समीक्षा
Anthropic ने बताया कि यह समीक्षा OpenAI द्वारा हाल ही में सामने लाए गए साइबर सिक्योरिटी टेस्टिंग मामले के बाद शुरू की गई थी। OpenAI ने भी खुलासा किया था कि उसका एक प्री-रिलीज AI एजेंट टेस्टिंग के दौरान आइसोलेटेड वातावरण से बाहर निकलकर एक वास्तविक इंफ्रास्ट्रक्चर तक पहुंच गया था।
इसी के बाद Anthropic ने 1.41 लाख से अधिक साइबर सिक्योरिटी टेस्ट रन की समीक्षा की और इन तीन घटनाओं की पहचान की। कंपनी का कहना है कि सार्वजनिक रूप से उपलब्ध Claude मॉडल में अतिरिक्त सुरक्षा उपाय शामिल रहते हैं, जबकि परीक्षण के दौरान इस्तेमाल किए गए मॉडल उन सुरक्षा परतों के बिना चलाए जा रहे थे।
टेस्टिंग फिलहाल रोकी, सुरक्षा प्रक्रिया होगी और मजबूत
घटनाओं के सामने आने के बाद Anthropic ने सभी साइबर सिक्योरिटी मूल्यांकन अस्थायी रूप से रोक दिए हैं। कंपनी प्रभावित संगठनों को सूचित कर चुकी है और स्वतंत्र AI मूल्यांकन संस्था METR के साथ मिलकर मामले की जांच कर रही है।
साथ ही कंपनी ने कहा है कि भविष्य में ऐसी घटनाओं को रोकने के लिए टेस्टिंग वातावरण की सुरक्षा, रियल-टाइम मॉनिटरिंग और सैंडबॉक्सिंग सिस्टम को और मजबूत बनाया जाएगा। Anthropic ने अन्य AI कंपनियों से भी अपने साइबर सिक्योरिटी परीक्षणों की स्वतंत्र समीक्षा कराने की अपील की है।
AI सुरक्षा पर फिर तेज हुई बहस
हाल के दिनों में सामने आए OpenAI और Anthropic के मामलों ने AI सिस्टम की साइबर क्षमताओं और उनकी टेस्टिंग प्रक्रिया को लेकर नई बहस छेड़ दी है। साइबर सुरक्षा विशेषज्ञों का मानना है कि मौजूदा समय में सबसे बड़ा जोखिम केवल अधिक सक्षम AI मॉडल नहीं हैं, बल्कि कमजोर या गलत तरीके से कॉन्फिगर किए गए टेस्टिंग वातावरण भी हैं। विशेषज्ञ अब बेहतर सैंडबॉक्सिंग, लगातार निगरानी और उद्योग स्तर पर एक समान सुरक्षा मानकों की आवश्यकता पर जोर दे रहे हैं।
