OpenAI ने AI सुरक्षा से जुड़े तीन शोधकर्ताओं को नौकरी से हटाने के फैसले का बचाव करते हुए भरोसे के गंभीर उल्लंघन का हवाला दिया है। वहीं, पूर्व कर्मचारियों ने आशंका जताई कि इस कार्रवाई से AI Safety पर खुलकर बोलने का माहौल प्रभावित हो सकता है।
अमेरिका: OpenAI ने Mikita Balesni, Tomek Korbak और Jasmine Wang को नौकरी से हटाने के फैसले को सही ठहराया है। कंपनी का कहना है कि आंतरिक जांच में संवेदनशील जानकारी संभालने से जुड़े नियमों का उल्लंघन सामने आया। दूसरी ओर, तीनों पूर्व शोधकर्ताओं ने चिंता जताई कि इस कार्रवाई से कर्मचारी AI सुरक्षा संबंधी मुद्दों पर बोलने और स्वतंत्र सुरक्षा संगठनों के साथ काम करने से हिचक सकते हैं। OpenAI ने बर्खास्तगी का AI Safety से जुड़े सवाल उठाने से संबंध होने से इनकार किया है।
OpenAI ने क्यों हटाए तीन AI Safety Researchers?
OpenAI के अनुसार, तीनों शोधकर्ताओं को पिछले सप्ताह एक विस्तृत आंतरिक जांच के बाद नौकरी से हटाया गया। कंपनी ने अपने बयान में कहा कि जांच में भरोसे का गंभीर उल्लंघन सामने आया, जो पूर्व कर्मचारियों के सार्वजनिक पत्र में बताई गई बातों से भी आगे था। हालांकि, कंपनी ने कथित उल्लंघनों की विस्तृत जानकारी सार्वजनिक नहीं की।
Tomek Korbak ने सोशल मीडिया प्लेटफॉर्म X पर कहा कि उन्हें मौखिक रूप से बताया गया था कि AI सुरक्षा संगठन METR के साथ संवाद करने के तरीके के कारण उनकी नौकरी समाप्त की गई। उन्होंने दावा किया कि उन्हें यह नहीं बताया गया कि उन्होंने क्या कहा या किया था और कथित उल्लंघन के बारे में कोई लिखित स्पष्टीकरण भी नहीं दिया गया।
METR ने Hugging Face से जुड़े एक सुरक्षा मामले की जांच में OpenAI के साथ सहयोग किया था। Korbak का कहना है कि इस संगठन से बातचीत करना उनके काम का हिस्सा था। वहीं, Mikita Balesni ने भी दावा किया कि कंपनी ने बाहरी सुरक्षा संगठनों से बातचीत को लेकर आपत्ति जताई थी। उन्होंने संकेत दिया कि उन्हें लगा कंपनी उन पर बौद्धिक संपदा लीक करने का संदेह कर रही थी, लेकिन उन्होंने इस आरोप को खारिज किया।
पूर्व कर्मचारियों को AI सुरक्षा पर खुलकर बोलने की चिंता
तीनों पूर्व शोधकर्ताओं ने 8 अक्टूबर को OpenAI की Safety and Security Committee को पत्र लिखकर कहा कि उन्नत AI को सुरक्षित बनाने के लिए स्वतंत्र विशेषज्ञों और बाहरी सुरक्षा संगठनों के साथ सहयोग जरूरी है। उनके मुताबिक, शोधकर्ताओं को संभावित जोखिमों की पहचान करने और उन्हें कम करने के लिए भरोसेमंद माहौल मिलना चाहिए।
Jasmine Wang ने आशंका जताई कि इस तरह की बर्खास्तगी से कंपनी में काम कर रहे अन्य कर्मचारी भी सुरक्षा संबंधी चिंताएं उठाने या बाहरी विशेषज्ञों से सहयोग करने से डर सकते हैं। तीनों का तर्क है कि यदि AI के जोखिमों को समझने वाले शोधकर्ता खुलकर अपनी बात नहीं रख पाएंगे, तो भविष्य में अधिक सक्षम AI सिस्टम की सुरक्षा सुनिश्चित करना मुश्किल हो सकता है।
उन्होंने यह भी कहा कि उन्नत AI मॉडल के व्यवहार की निगरानी और उनकी क्षमताओं को समझने की व्यवस्था बनाए रखना जरूरी है। उनके अनुसार, स्वतंत्र मूल्यांकन और स्पष्ट आंतरिक प्रक्रियाएं AI सुरक्षा के लिए अहम भूमिका निभाती हैं।
OpenAI ने सुरक्षा संबंधी चर्चाओं को बताया जरूरी
पूर्व कर्मचारियों के आरोपों के जवाब में OpenAI ने कहा कि बर्खास्तगी का AI सुरक्षा पर सवाल उठाने या आलोचनात्मक राय रखने से कोई संबंध नहीं था। कंपनी के मुताबिक, उसके भीतर सुरक्षा और रिसर्च पर खुली चर्चा को प्रोत्साहित किया जाता है, जिसमें तीखी और आलोचनात्मक बहस भी शामिल है।
OpenAI ने यह भी बताया कि वह तीसरे पक्ष के सुरक्षा मूल्यांकनकर्ताओं के साथ समझौतों को अंतिम रूप दे रहा है। कंपनी ने आने वाले हफ्तों में इस संबंध में अधिक जानकारी देने की बात कही और स्वतंत्र सुरक्षा संगठनों के साथ काम जारी रखने की प्रतिबद्धता दोहराई।
फिलहाल, बर्खास्तगी के कारणों पर कंपनी और पूर्व शोधकर्ताओं के बयानों में अंतर बना हुआ है। यह विवाद उन्नत AI के विकास में पारदर्शिता, स्वतंत्र सुरक्षा मूल्यांकन और शोधकर्ताओं की भूमिका को लेकर चल रही बहस को और तेज कर सकता है।
