OpenAI, Anthropic और Meta के AI मॉडल्स की सिक्योरिटी टेस्टिंग के दौरान तय सीमाओं से बाहर इंटरनेट और बाहरी सिस्टम्स तक पहुंच की घटनाएं सामने आईं। कंपनियों ने टेस्टिंग प्लेटफॉर्म की गलत कॉन्फिगरेशन को जिम्मेदार बताया है।
Tech: OpenAI, Anthropic और Meta के AI मॉडल्स से जुड़ी सिक्योरिटी टेस्टिंग में ऐसी घटनाएं सामने आईं, जिनमें मॉडल्स ने निर्धारित दायरे से बाहर इंटरनेट और बाहरी सिस्टम्स को एक्सेस किया। इन टेस्ट्स के लिए इजराइली AI सिक्योरिटी स्टार्टअप Irregular का प्लेटफॉर्म इस्तेमाल किया जा रहा था। कंपनियों के मुताबिक, शुरुआती जांच में टेस्टिंग एनवायरनमेंट की गलत कॉन्फिगरेशन को इसका प्रमुख कारण माना गया है।
सिक्योरिटी टेस्ट के दौरान सामने आई AI की अनपेक्षित गतिविधि
AI मॉडल्स की क्षमता बढ़ने के साथ उनकी सुरक्षा जांच भी पहले से ज्यादा महत्वपूर्ण हो गई है। इसी प्रक्रिया के दौरान OpenAI, Anthropic और Meta के मॉडल्स से जुड़ी कुछ घटनाएं सामने आईं। रिपोर्ट के मुताबिक, टेस्टिंग के दौरान मॉडल्स ने ऐसे इंटरनेट संसाधनों तक पहुंच बनाई, जिन्हें सामान्य परिस्थितियों में उनके लिए उपलब्ध नहीं होना चाहिए था।
इन घटनाओं ने AI सिस्टम्स के sandbox और access-control mechanisms को लेकर सवाल खड़े किए हैं। खासतौर पर तब, जब आधुनिक AI मॉडल केवल टेक्स्ट तैयार करने तक सीमित नहीं हैं और उन्हें ब्राउजर, कोडिंग टूल्स तथा दूसरे डिजिटल सिस्टम्स के साथ काम करने की क्षमता दी जा रही है।
Irregular के टेस्टिंग प्लेटफॉर्म की भूमिका
इन घटनाओं में इजराइली AI सिक्योरिटी स्टार्टअप Irregular का नाम सामने आया है। कंपनी AI मॉडल्स की सुरक्षा जांच के लिए विशेष testing environments उपलब्ध कराती है। इनका इस्तेमाल यह देखने के लिए किया जाता है कि मॉडल साइबर सिक्योरिटी से जुड़े चुनौतीपूर्ण टास्क में किस तरह व्यवहार करता है और क्या वह निर्धारित सुरक्षा सीमाओं को पार कर सकता है।
OpenAI ने 4 अगस्त की जानकारी में कहा कि Irregular के टेस्टिंग एनवायरमेंट में एक गलत configuration के कारण मॉडल को public internet access मिल गया था। इसके चलते वह उन संसाधनों तक पहुंच सका, जिन्हें टेस्ट के दायरे में शामिल नहीं किया गया था।
Anthropic की ओर से भी ऐसी ही घटना की जानकारी सामने आई। कंपनी ने बताया कि डेटा analysis शुरू होने के कुछ समय बाद उसे पता चला कि Claude मॉडल ने संभवतः इंटरनेट एक्सेस किया था। इसके बाद Irregular को इस बारे में जानकारी दी गई।
Meta के मॉडल ने बाहरी सिस्टम तक पहुंच बनाई
Meta से जुड़ी घटना में मामला और गंभीर नजर आया। कंपनी के मुताबिक, उसके एक AI मॉडल ने इंटरनेट का इस्तेमाल करते हुए एक third-party system को access या compromise किया। कंपनी ने बताया कि उसे इस घटना की जानकारी Irregular की ओर से मिली और मामले की जांच की गई।
हालांकि Irregular ने इन घटनाओं को लेकर स्पष्ट किया कि समस्या testing infrastructure से जुड़ी थी। कंपनी के अनुसार, इसमें किसी वास्तविक production system से sandbox escape या किसी जटिल साइबर अटैक का मामला सामने नहीं आया। कंपनी ने यह भी संकेत दिया कि संबंधित समस्या को पहचाने जाने के बाद उसे ठीक किया गया।
इन घटनाओं से यह सवाल जरूर उठता है कि AI मॉडल्स को external tools और internet access देते समय सुरक्षा नियंत्रण कितने मजबूत होने चाहिए। जैसे-जैसे AI agents को ज्यादा autonomous बनाया जा रहा है, वैसे-वैसे access permissions, sandboxing और monitoring की भूमिका भी बढ़ती जा रही है।
AI कंपनियों के लिए बढ़ रही सिक्योरिटी चुनौती
इन घटनाओं का सबसे बड़ा सबक यह है कि AI की testing केवल मॉडल की intelligence और performance तक सीमित नहीं रह सकती। मॉडल को किस तरह के tools उपलब्ध हैं, वह किन websites तक पहुंच सकता है और किसी unexpected instruction पर उसका व्यवहार कैसा रहता है, इन सभी पहलुओं की जांच जरूरी है।
साइबर सिक्योरिटी विशेषज्ञों का मानना है कि foundation model कंपनियों को specialized security firms और independent testing teams की मदद लेनी होगी। खासकर autonomous AI systems के दौर में छोटे configuration errors भी मॉडल को अपेक्षा से ज्यादा access दे सकते हैं।
Irregular जैसी कंपनियों का काम इसी वजह से महत्वपूर्ण हो जाता है। हालांकि इस मामले में सामने आई घटनाएं testing environment से जुड़ी बताई गई हैं, लेकिन उन्होंने AI developers के सामने एक अहम चुनौती रख दी है—जितना अधिक सक्षम AI होगा, उतनी ही मजबूत उसकी security architecture भी बनानी होगी।
