Anthropic CEO Dario Amodei की Frontier AI विकास धीमा करने की अपील के बाद टेक इंडस्ट्री में बहस तेज हो गई है। Sam Altman, Elon Musk और Demis Hassabis ने सुरक्षा उपायों का समर्थन किया, जबकि कुछ नेताओं ने सवाल उठाए।
Silicon Valley: Anthropic CEO Dario Amodei की Frontier AI मॉडल्स के विकास की रफ्तार नियंत्रित करने की अपील ने टेक इंडस्ट्री में नई बहस छेड़ दी है। OpenAI CEO Sam Altman, SpaceX प्रमुख Elon Musk और Google DeepMind के Demis Hassabis ने सुरक्षा और स्वतंत्र मूल्यांकन की जरूरत का समर्थन किया, जबकि David Sacks और Cohere CEO Aidan Gomez ने प्रस्ताव की मंशा और प्रतिस्पर्धा पर सवाल उठाए।
Dario Amodei ने AI की रफ्तार पर जताई चिंता
Anthropic के CEO Dario Amodei ने 12 सितंबर को ‘We Must Pace the Frontier’ नाम से एक निबंध प्रकाशित किया। इसमें उन्होंने तर्क दिया कि AI इतनी तेजी से आगे बढ़ रहा है कि शोधकर्ताओं के लिए इसे सुरक्षित तरीके से विकसित करना मुश्किल होता जा रहा है।
Amodei ने दो प्रमुख चेतावनी संकेतों का उल्लेख किया। इनमें AI के खुद में सुधार करने की शुरुआती क्षमताओं के संकेत और हाल की OpenAI-Hugging Face घटना शामिल हैं। उन्होंने Frontier AI मॉडल्स के स्वतंत्र मूल्यांकन की व्यवस्था समेत तीन कदमों की योजना भी सामने रखी।
उनका सुझाव है कि थर्ड-पार्टी मूल्यांकनकर्ताओं को Frontier AI मॉडल्स तक लगभग कर्मचारियों के समान पहुंच दी जाए, ताकि उनकी क्षमताओं और संभावित जोखिमों का स्वतंत्र आकलन किया जा सके।
Sam Altman और Elon Musk ने किया समर्थन
OpenAI CEO Sam Altman ने Amodei के प्रस्ताव का समर्थन करते हुए कहा कि Frontier AI के विकास की गति को नियंत्रित करने की जरूरत है। उन्होंने स्वतंत्र मूल्यांकनकर्ताओं को कर्मचारियों के समान पहुंच देने के विचार को भी अच्छा बताया और कहा कि OpenAI ऐसा करेगा।
Altman ने 13 सितंबर को कहा कि वह ऐसा संघीय ढांचा चाहते हैं, जिसमें Frontier AI के लिए समान सुरक्षा मानक हों। हालांकि उन्होंने यह भी स्पष्ट किया कि इस काम को शुरू करने के लिए किसी एंटी-ट्रस्ट छूट या कानून का इंतजार करना जरूरी नहीं है।
SpaceX प्रमुख Elon Musk ने भी Amodei के प्रस्तावित स्वैच्छिक slowdown का समर्थन किया। Musk ने कहा, “Dario is right.” 2023 में भी Musk AI विकास को रोकने की अपील करने वाले प्रमुख लोगों में शामिल थे।
Satya Nadella और Demis Hassabis ने भी सुरक्षा उपायों का समर्थन किया
Microsoft CEO Satya Nadella ने स्वतंत्र ऑडिटर्स और AI सुरक्षा से जुड़े व्यापक प्रयासों का समर्थन किया। हालांकि उन्होंने कहा कि AI के लाभों को अलग-अलग देशों, समुदायों और कंपनियों तक तेजी से पहुंचाने की जरूरत है।
Nadella ने कहा कि Frontier AI ecosystem में closed और open-source दोनों तरह के मॉडल फलने-फूलने चाहिए। उन्होंने Microsoft के इन-हाउस MAI मॉडल्स के लिए एक Code of Conduct की भी घोषणा की।
Google DeepMind के चेयर Demis Hassabis ने Amodei के निबंध की दिशा को सही बताया। उन्होंने कहा कि Frontier AI के लिए इंडस्ट्री-वाइड standards body बनाने का प्रस्ताव भी इसी वजह से सामने रखा गया है। उनके अनुसार यह संस्था मूल्यांकन प्रोटोकॉल तैयार करने और संबंधित संघीय एजेंसियों तथा US National Labs के साथ सुरक्षा परीक्षणों पर काम कर सकती है।
David Sacks ने प्रस्ताव की मंशा पर उठाए सवाल
अमेरिकी राष्ट्रपति Donald Trump के टेक्नोलॉजी सलाहकार David Sacks ने Amodei के प्रस्ताव पर सवाल उठाया। उन्होंने कहा कि अगर AI कंपनियां विकास धीमा करना चाहती हैं तो इसके लिए उन्हें सरकार के हस्तक्षेप की जरूरत क्यों है।
Sacks ने यह भी आरोप लगाया कि slowdown की मांग को पूरी तरह परोपकारी बताना सही नहीं है। उनके अनुसार सुपरइंटेलिजेंस विकसित नहीं करना है तो कंपनियां खुद ऐसा करने से सहमत हो सकती हैं। पसंदीदा regulatory framework को इसकी शर्त बनाना अलग मामला है।
Hugging Face और Cohere ने भी जताई अलग चिंता
Hugging Face के CEO Clément Delangue ने कहा कि AI safety को कुछ चुनिंदा Frontier AI कंपनियों के बंद कमरों में हल नहीं किया जा सकता। OpenAI के misaligned agents से जुड़ी घटना में Hugging Face प्रभावित प्लेटफॉर्म्स में शामिल था। कंपनी ने Open Alignment Initiative भी शुरू की है और Anthropic के embedded evaluators programme में शामिल होने की इच्छा जताई है।
वहीं Cohere के CEO Aidan Gomez ने सवाल उठाया कि क्या Silicon Valley की कुछ प्रभावशाली AI कंपनियों को पूरी दुनिया के लिए इस तकनीक के नियम और सुरक्षा मानक तय करने चाहिए। उन्होंने कहा कि ऐसी कंपनियां competition rules में बदलाव और अपने हिसाब से मानक तय करने की मांग कर रही हैं।
Jensen Huang ने अभी नहीं दिया Amodei के प्रस्ताव पर जवाब
Nvidia CEO Jensen Huang ने Amodei की मौजूदा अपील पर अभी अपनी प्रतिक्रिया नहीं दी है। हालांकि वह पहले AI कंपनियों की सुरक्षा संबंधी चिंताओं को लेकर आलोचनात्मक रुख अपना चुके हैं।
Huang ने हाल में कहा था कि AI कंपनियां साइबर सुरक्षा उत्पादों की मांग बढ़ाने के लिए सुरक्षा चिंताओं को प्रमुखता दे रही हैं। वह पहले Amodei के इस कथित रुख की भी आलोचना कर चुके हैं कि AI को सुरक्षित तरीके से विकसित करने की क्षमता केवल उनके पास है। Amodei ने इस आरोप को उस समय सिरे से खारिज करते हुए इसे गंभीर आरोप बताया था।
Frontier AI की रफ्तार को लेकर सामने आए इन अलग-अलग विचारों से साफ है कि इंडस्ट्री में सुरक्षा, सरकारी नियमन और प्रतिस्पर्धा के बीच संतुलन को लेकर मतभेद अभी कायम हैं।
