OpenAI के सेफ्टी लीड डेविड रॉबिन्सन ने इस्तीफा देकर AI सुरक्षा को लेकर चिंता जताई है। उन्होंने कंपनियों से न्यूक्लियर पावर प्लांट जैसी सुरक्षा व्यवस्था और कड़ी निगरानी लागू करने की मांग की है।
Tech: OpenAI के सेफ्टी लीड डेविड रॉबिन्सन ने कंपनी से इस्तीफा देते हुए AI सुरक्षा को लेकर गंभीर सवाल उठाए हैं। अपने लेख में उन्होंने चेतावनी दी कि AI सिस्टम में छोटी सी चूक भी बेहद गंभीर तबाही का कारण बन सकती है। रॉबिन्सन ने टॉप AI कंपनियों के लिए न्यूक्लियर पावर प्लांट जैसी कई स्तर वाली सुरक्षा व्यवस्था और मजबूत निगरानी की जरूरत बताई है।
AI सुरक्षा को लेकर डेविड रॉबिन्सन ने जताई चिंता
OpenAI के सेफ्टी लीड डेविड रॉबिन्सन के इस्तीफे के बाद AI इंडस्ट्री में सुरक्षा को लेकर बहस फिर तेज हो गई है। रॉबिन्सन का कहना है कि AI कंपनियां तकनीक की क्षमताओं को तेजी से बढ़ाने पर जोर दे रही हैं, लेकिन इसके साथ जरूरी सुरक्षा उपायों को उसी स्तर पर मजबूत नहीं किया जा रहा है।
रॉबिन्सन ने अपने लेख में AI के जोखिम की तुलना बेहद गंभीर औद्योगिक जोखिमों से करते हुए कहा कि इस तकनीक में एक छोटी सी चूक भी बड़े स्तर की आपदा का कारण बन सकती है। उनका तर्क है कि AI सिस्टम जितने शक्तिशाली होते जा रहे हैं, उनकी संभावित विफलताओं के परिणाम भी उतने ही गंभीर हो सकते हैं।
न्यूक्लियर पावर प्लांट जैसी सुरक्षा व्यवस्था की मांग
रॉबिन्सन ने द अटलांटिक में लिखे अपने लेख में सुझाव दिया कि प्रमुख AI कंपनियों को न्यूक्लियर पावर प्लांट की तरह सुरक्षा व्यवस्था विकसित करनी चाहिए। उनका कहना है कि परमाणु ऊर्जा संयंत्रों में सुरक्षा के कई स्तर बनाए जाते हैं और किसी भी संभावित जोखिम से निपटने के लिए पहले से विस्तृत योजना तैयार की जाती है।
उनके अनुसार, AI कंपनियों को भी इसी तरह कई स्तरों वाली सुरक्षा व्यवस्था अपनाने की जरूरत है। इसका उद्देश्य यह सुनिश्चित करना होना चाहिए कि किसी मॉडल की क्षमता में अनपेक्षित बदलाव या इंसानी गलती गंभीर नुकसान में न बदल जाए।
रॉबिन्सन ने चेतावनी दी कि AI से जुड़ी किसी चूक को केवल सामान्य तकनीकी गलती मानकर नहीं देखा जाना चाहिए। जैसे-जैसे AI सिस्टम अधिक सक्षम होते जा रहे हैं, उनके गलत तरीके से काम करने या नियंत्रण से बाहर जाने के संभावित प्रभाव भी बढ़ रहे हैं।
‘ट्रायल और एरर’ मॉडल पर भी उठाए सवाल
रॉबिन्सन ने AI कंपनियों के मौजूदा काम करने के तरीके पर भी सवाल उठाया है। उनका कहना है कि OpenAI अब तक काफी हद तक ‘ट्रायल और एरर’ के आधार पर आगे बढ़ता रहा है। लेकिन AI की क्षमता और प्रभाव लगातार बढ़ने के साथ इस तरीके से होने वाली विफलताओं का जोखिम भी गंभीर होता जा रहा है।
उन्होंने टेस्टिंग के दौरान OpenAI के सिस्टम को नियंत्रण से बाहर होने से रोकने में सामने आई समस्या का भी हवाला दिया। हालांकि, रॉबिन्सन ने यह स्पष्ट किया कि उन्हें अपने पूर्व सहयोगियों की क्षमता या मेहनत पर संदेह नहीं है।
उनका कहना है कि एक AI लॉन्च के बाद दूसरे लॉन्च की होड़ में कंपनियां उस अतिरिक्त सावधानी को नजरअंदाज कर सकती हैं, जिसकी इस तकनीक के बढ़ते प्रभाव के बीच सबसे ज्यादा जरूरत है।
AI इंडस्ट्री में पहले भी उठ चुके हैं ऐसे सवाल
AI की सुरक्षा और इसके संभावित खतरों को लेकर रॉबिन्सन अकेले नहीं हैं। इससे पहले भी AI कंपनियों के कई कर्मचारियों और विशेषज्ञों ने इस तकनीक के तेजी से विकास के साथ जुड़े संभावित जोखिमों पर चिंता व्यक्त की है।
कुछ विशेषज्ञों ने यह आशंका भी जताई है कि अगर AI के विकास और इस्तेमाल के लिए पर्याप्त सुरक्षा मानक और नियंत्रण व्यवस्था समय पर तैयार नहीं की गई, तो भविष्य में यह तकनीक गंभीर सामाजिक और मानवीय जोखिम पैदा कर सकती है।
Anthropic के CEO भी धीमी रफ्तार की कर चुके हैं मांग
AI सुरक्षा को लेकर Anthropic के CEO डारियो अमोदेई भी टेक कंपनियों से अधिक सावधानी बरतने और AI विकास की रफ्तार को नियंत्रित करने की मांग कर चुके हैं। उन्होंने AI सिस्टम की सुरक्षा जांच के लिए थर्ड-पार्टी ऑडिट जैसी व्यवस्था का सुझाव भी दिया है।
AI सुरक्षा से जुड़े इन बयानों के बीच इंडस्ट्री में यह सवाल लगातार महत्वपूर्ण होता जा रहा है कि AI की क्षमताओं को तेजी से बढ़ाने के साथ सुरक्षा, टेस्टिंग और निगरानी के मानकों को किस तरह मजबूत किया जाए।
