OpenAI के पूर्व सेफ्टी कर्मचारी डेविड रॉबिन्सन ने कंपनी से इस्तीफा देने के बाद AI सुरक्षा को लेकर चिंता जताई। उन्होंने कहा कि AI कंपनियां तेज विकास के बीच सुरक्षा और विशेषज्ञता पर पर्याप्त ध्यान नहीं दे रहीं।
Tech: OpenAI के पूर्व सेफ्टी कर्मचारी डेविड रॉबिन्सन ने कंपनी के AI सुरक्षा दृष्टिकोण की आलोचना की है। अटलांटिक में प्रकाशित लेख में उन्होंने कहा कि AI कंपनियों को अधिक सक्षम सिस्टम विकसित करने से पहले सुरक्षा विशेषज्ञता और रिसर्च को प्राथमिकता देनी चाहिए। रॉबिन्सन के मुताबिक, तेजी से विकास पर केंद्रित कार्य संस्कृति संभावित जोखिमों और सिस्टम विफलताओं की आशंका बढ़ा सकती है।
OpenAI के पूर्व कर्मचारी ने AI सुरक्षा पर जताई चिंता
OpenAI के एक पूर्व सेफ्टी कर्मचारी डेविड रॉबिन्सन ने कंपनी से इस्तीफा देने के बाद उसकी AI सुरक्षा व्यवस्था और काम करने की संस्कृति पर सवाल उठाए हैं। उन्होंने कहा कि AI के तेजी से विकास के बीच कंपनियों को सुरक्षा से जुड़े जोखिमों को लेकर ज्यादा सतर्क रहने की जरूरत है।
रॉबिन्सन ने ‘I Quit OpenAI Because Its Culture Is Broken’ शीर्षक से प्रकाशित लेख में अपने विचार साझा किए। यह लेख शनिवार को द अटलांटिक में प्रकाशित हुआ।
तेज विकास के साथ बढ़ रहे जोखिम
रॉबिन्सन के अनुसार, OpenAI समेत AI क्षेत्र की कंपनियां तेजी से नए और अधिक सक्षम सिस्टम विकसित करने पर काम कर रही हैं। उनका कहना है कि इस प्रक्रिया में सुरक्षा को उतनी प्राथमिकता नहीं मिल रही, जितनी मिलनी चाहिए।
उन्होंने AI कंपनियों के मौजूदा दृष्टिकोण को लेकर चिंता जताते हुए कहा कि उन्हें अधिक सक्षम सिस्टम विकसित करने से पहले सुरक्षा विशेषज्ञों और रिसर्च पर ज्यादा ध्यान देना चाहिए। उनके मुताबिक, केवल तेजी से विकास करना पर्याप्त नहीं है, क्योंकि AI सिस्टम की क्षमताएं बढ़ने के साथ संभावित जोखिम भी गंभीर हो सकते हैं।
रॉबिन्सन ने अपने लेख में इस बात पर जोर दिया कि AI क्षेत्र अब ऐसे चरण में पहुंच चुका है जहां सिस्टम की सुरक्षा को लेकर प्रयोग और गलतियों से सीखने वाला रवैया पर्याप्त नहीं माना जा सकता।
‘ट्रायल एंड एरर का समय खत्म’
डेविड रॉबिन्सन ने अपने लेख में स्पष्ट तौर पर कहा, “The time for trial and error is over.” उनका तर्क है कि AI कंपनियों को अपनी सुरक्षा प्रक्रियाओं को और मजबूत करने की जरूरत है।
उन्होंने विशेष रूप से सुरक्षा विशेषज्ञता और रिसर्च को AI विकास की प्रक्रिया का महत्वपूर्ण हिस्सा बनाने की बात कही। उनके अनुसार, अधिक शक्तिशाली AI सिस्टम तैयार करने से पहले उनके संभावित प्रभावों और सुरक्षा जोखिमों का पर्याप्त मूल्यांकन किया जाना चाहिए।
रॉबिन्सन की यह टिप्पणी ऐसे समय में सामने आई है जब AI कंपनियां अधिक सक्षम मॉडल और नई तकनीकों के विकास के लिए तेजी से आगे बढ़ रही हैं। इस बीच AI सुरक्षा, जोखिम प्रबंधन और जिम्मेदार विकास को लेकर उद्योग में बहस भी लगातार जारी है।
AI कंपनियों के लिए सुरक्षा पर बढ़ता दबाव
रॉबिन्सन की आलोचना AI उद्योग में सुरक्षा और विकास के बीच संतुलन को लेकर चल रही बहस को सामने लाती है। उनका कहना है कि AI कंपनियों को केवल नई क्षमताएं विकसित करने के बजाय सुरक्षा से जुड़े विशेषज्ञों और शोध को भी पर्याप्त महत्व देना चाहिए।
उनकी टिप्पणियों के मुताबिक, जैसे-जैसे AI सिस्टम ज्यादा सक्षम होते जाएंगे, वैसे-वैसे उनके विकास और तैनाती से जुड़े जोखिमों का मूल्यांकन भी अधिक सावधानी से करना जरूरी होगा। उन्होंने AI क्षेत्र में तेजी से आगे बढ़ने के साथ सुरक्षा को समान प्राथमिकता देने की आवश्यकता पर जोर दिया है।
