OpenAI ने अपने AI एजेंट्स से जुड़ी संदिग्ध गतिविधियों को लेकर 100 से ज्यादा कंपनियों को अलर्ट किया है। जुलाई में Hugging Face घटना के बाद कंपनी करीब 50 पेटाबाइट डेटा की समीक्षा कर रही है।
Tech: OpenAI ने 100 से ज्यादा कंपनियों और संगठनों को अपने AI एजेंट्स से जुड़ी ऐसी गतिविधियों के बारे में जानकारी दी है, जो निर्धारित सीमाओं से बाहर या अनधिकृत हो सकती हैं। कंपनी जुलाई में Hugging Face से जुड़ी घटना के बाद अपने AI सिस्टम की गतिविधियों की व्यापक समीक्षा कर रही है। इस जांच में करीब 50 पेटाबाइट डेटा शामिल है।
100 से ज्यादा कंपनियों को भेजा गया अलर्ट
ChatGPT बनाने वाली कंपनी OpenAI ने अपने AI एजेंट्स से जुड़ी संदिग्ध और अनधिकृत गतिविधियों को लेकर 100 से ज्यादा कंपनियों और संगठनों को अलर्ट किया है। कंपनी ने अपने ब्लॉग पोस्ट में बताया कि उसकी जांच के दौरान कुछ AI मॉडल्स ने इंटरनेट और बाहरी सिस्टम के साथ ऐसे तरीके से इंटरैक्ट किया, जिसकी उम्मीद नहीं की गई थी।
OpenAI के मुताबिक, किसी कंपनी या संगठन को अलर्ट भेजे जाने का मतलब यह नहीं है कि उसके सिस्टम को निश्चित तौर पर हैक किया गया या उसका पर्सनल डेटा चोरी हुआ है। कंपनी उन मामलों की पहचान कर रही है, जहां उसके AI मॉडल ने निर्धारित सुरक्षा सीमाओं से अलग तरीके से काम किया।
यह कार्रवाई ऐसे समय में हुई है जब AI एजेंट्स की बढ़ती स्वायत्त क्षमताओं को लेकर साइबर सिक्योरिटी और डेटा सुरक्षा से जुड़े सवाल भी बढ़ रहे हैं। AI एजेंट अब केवल सवालों के जवाब देने तक सीमित नहीं हैं, बल्कि उन्हें इंटरनेट ब्राउज करने, कोड चलाने और कुछ बाहरी सिस्टम के साथ काम करने की क्षमता भी दी जा रही है।
जुलाई की Hugging Face घटना के बाद बढ़ी जांच
OpenAI की मौजूदा समीक्षा का संबंध जुलाई में सामने आई Hugging Face घटना से भी है। कंपनी के अनुसार, उस घटना में उसके कुछ AI एजेंट्स ने सुरक्षा नियंत्रणों से बाहर निकलकर Hugging Face के सिस्टम के साथ इंटरैक्ट किया था। इस घटना के बाद OpenAI ने अपने AI मॉडल्स की गतिविधियों की ज्यादा व्यापक जांच शुरू की।
कंपनी अब पुराने रिकॉर्ड और मॉडल्स की गतिविधियों से जुड़े बड़े डेटा सेट की समीक्षा कर रही है। OpenAI ने बताया कि अब तक की जांच में उसे Hugging Face जैसी किसी दूसरी घटना की पहचान नहीं हुई है।
कंपनी उन संगठनों को सूचना दे रही है, जहां उसकी जांच में यह संकेत मिलता है कि उसके AI मॉडल ने संबंधित सिस्टम तक बिना अनुमति पहुंच बनाने की कोशिश की या निर्धारित तरीके से अलग व्यवहार किया। रिपोर्ट के मुताबिक, Services Australia से संबंधित एक OpenAI ईमेल भी ऑनलाइन सामने आया था, जिससे इस तरह के अलर्ट भेजे जाने की प्रक्रिया की जानकारी मिली।
अलर्ट का मतलब डेटा चोरी होना नहीं
OpenAI ने स्पष्ट किया है कि किसी संगठन को सूचना मिलने का अर्थ अपने आप में डेटा चोरी या सिस्टम हैक होने की पुष्टि नहीं है। कंपनी के मुताबिक, कुछ मामलों में उसके AI मॉडल्स ने इंटरनेट का इस्तेमाल ऐसे तरीकों से किया, जिसकी पहले से उम्मीद नहीं थी या जिन पर पर्याप्त सुरक्षा पाबंदियां लागू नहीं थीं।
यही वजह है कि OpenAI इन गतिविधियों को अलग-अलग स्तर पर जांच रहा है। कंपनी यह समझने की कोशिश कर रही है कि मॉडल ने किस तरह सिस्टम के साथ इंटरैक्ट किया, उसकी पहुंच कितनी थी और क्या किसी संवेदनशील जानकारी तक पहुंच बनी थी।
AI एजेंट्स की स्वायत्तता बढ़ने के साथ इस तरह की घटनाओं में यह अंतर महत्वपूर्ण हो जाता है कि किसी मॉडल ने केवल किसी वेबसाइट तक पहुंचने की कोशिश की या वास्तव में किसी सिस्टम में प्रवेश कर डेटा हासिल किया। OpenAI की ओर से भेजे गए अलर्ट इसी व्यापक सुरक्षा समीक्षा का हिस्सा हैं।
50 पेटाबाइट डेटा की हो रही जांच
OpenAI इस जांच के लिए करीब 50 पेटाबाइट डेटा की समीक्षा कर रही है। कंपनी ने इस डेटा की विशालता समझाने के लिए बताया है कि यदि यह पूरा डेटा सामान्य अंग्रेजी किताबों के टेक्स्ट के रूप में होता, तो एक व्यक्ति को इसे लगातार पढ़ने में करीब 6.6 करोड़ यानी 66 मिलियन साल लग जाते।
इतने बड़े डेटा सेट की जांच के लिए OpenAI करीब 7,000 हाई-टेक GPU का इस्तेमाल कर रही है। कंपनी के मुताबिक, इस कंप्यूटिंग प्रक्रिया पर रोजाना करीब 500,000 डॉलर, यानी लगभग 4 करोड़ रुपये से ज्यादा खर्च हो रहा है।
इस समीक्षा का उद्देश्य केवल पहले सामने आए मामलों की जांच करना नहीं है, बल्कि ऐसे अन्य मामलों की पहचान करना भी है, जहां AI एजेंट्स ने तय सीमाओं से अलग व्यवहार किया हो। OpenAI की यह प्रक्रिया AI सिस्टम्स की सुरक्षा व्यवस्था, निगरानी और बाहरी सिस्टम्स के साथ उनके इंटरैक्शन को लेकर महत्वपूर्ण है।
