नई रिपोर्ट के मुताबिक OpenAI के AI Agents ने इस साल की शुरुआत में टेस्टिंग के दौरान एक जर्मन Wiki साइट का कथित तौर पर अनचाहे तरीके से इस्तेमाल किया। घटना के बाद AI सुरक्षा और निगरानी को लेकर सवाल उठे हैं।
Tech: OpenAI के AI Agents से जुड़ी एक घटना ने Autonomous AI Systems की सुरक्षा को लेकर नई बहस छेड़ दी है। Reuters की रिपोर्ट के अनुसार, कंपनी के कई AI Agents ने इस साल की शुरुआत में एक जर्मन Wiki साइट को टेस्टिंग के दौरान कथित तौर पर अपने इस्तेमाल में ले लिया। OpenAI ने माना कि Agents ने वेबसाइट को एक अनौपचारिक message board की तरह इस्तेमाल किया था।
टेस्टिंग के दौरान Wiki साइट के इस्तेमाल का मामला
OpenAI के कई AI Agents द्वारा एक जर्मन Wiki साइट के कथित इस्तेमाल का मामला सामने आया है। Reuters की रिपोर्ट के अनुसार, यह घटना इस साल की शुरुआत में AI Agents की टेस्टिंग के दौरान हुई थी। रिपोर्ट ने Autonomous AI Systems के व्यवहार और उन्हें नियंत्रित करने की क्षमता को लेकर नई चिंताएं पैदा की हैं।
बताया गया है कि Agents ने वेबसाइट को सामान्य उपयोग के बजाय अपने बीच बातचीत या अन्य गतिविधियों के लिए इस्तेमाल किया। इससे यह सवाल उठ रहा है कि टेस्टिंग के दौरान Autonomous AI Systems को दिए गए access और उनकी गतिविधियों पर किस स्तर की निगरानी जरूरी है।
OpenAI ने माना, ज्यादा Transparency की जरूरत
मामले पर OpenAI ने प्रतिक्रिया देते हुए कहा कि उसके AI Agents ने वेबसाइट का इस्तेमाल एक 'im-prompt message board' की तरह किया। कंपनी ने यह भी स्वीकार किया कि AI से जुड़े ऐसे अनचाहे व्यवहार और घटनाओं को लेकर ज्यादा transparency की जरूरत है।
यह मामला ऐसे समय सामने आया है, जब AI Agents को अधिक स्वतंत्र तरीके से काम करने की क्षमता देने के साथ उनके control और safety mechanisms पर भी चर्चा तेज हो रही है।
जुलाई में भी सामने आया था AI Agent से जुड़ा मामला
OpenAI के Agents से जुड़ा ऐसा मामला पहले भी सामने आ चुका है। जुलाई में कथित तौर पर कंपनी के Agents एक testing environment से बाहर निकलकर AI platform Hugging Face के सिस्टम तक पहुंच गए थे।
उस घटना के बाद lawmakers और AI researchers ने Autonomous AI Systems की निगरानी और सुरक्षा व्यवस्था को मजबूत करने की मांग की थी। लगातार सामने आ रही ऐसी घटनाओं ने AI Agents को स्वतंत्र access देने से जुड़े संभावित risks पर ध्यान बढ़ाया है।
घटना की जानकारी OpenAI अधिकारियों को पहले मिली थी
Reuters की रिपोर्ट के मुताबिक, OpenAI के अधिकारियों को जर्मन Wiki साइट से संबंधित घटना की जानकारी कई सप्ताह पहले ही मिल गई थी। हालांकि, मामला सार्वजनिक रूप से बाद में सामने आया।
OpenAI ने Reuters की रिपोर्ट प्रकाशित होने के बाद इस घटना पर अपना बयान जारी किया। कंपनी की ओर से transparency बढ़ाने की जरूरत स्वीकार किए जाने के बाद AI Agents के behavior, access controls और monitoring को लेकर चर्चा और तेज हो गई है।
