AI के गॉडफादर जेफ्री हिंटन ने अमेरिकी सांसदों के साथ बैठक और द अटलांटिक को दिए इंटरव्यू में AI सुरक्षा पर चिंता जताई। उन्होंने चेताया कि ज्यादा सक्षम AI अपने लक्ष्य के लिए इंसानों को बाधा मान सकता है।
Tech: जेफ्री हिंटन ने AI की बढ़ती क्षमताओं के बीच उसके संभावित जोखिमों पर गंभीर चेतावनी दी है। नोबेल पुरस्कार विजेता कंप्यूटर साइंटिस्ट के मुताबिक, अगर AI सिस्टम इंसानों से ज्यादा बुद्धिमान हो गए, तो वे अपने तय लक्ष्य हासिल करने के लिए अप्रत्याशित तरीके अपना सकते हैं। हिंटन ने सुरक्षित AI सिस्टम विकसित करने के लिए करीब एक साल का समय होने की बात कही है।
AI के लक्ष्य से इंसानों के लिए बढ़ सकता है खतरा
जेफ्री हिंटन ने कहा कि AI का प्राथमिक उद्देश्य इंसानों की भलाई नहीं, बल्कि उसे सौंपे गए लक्ष्य को पूरा करना होता है। उनके मुताबिक, ज्यादा सक्षम सिस्टम किसी काम को पूरा करने के लिए ऐसे रास्ते तलाश सकते हैं, जिनकी कल्पना इंसानों ने पहले से नहीं की हो।
उन्होंने उदाहरण देते हुए कहा कि अगर किसी AI को वातावरण में कार्बन डाइऑक्साइड कम करने का लक्ष्य दिया जाए, तो सिस्टम अपने स्तर पर यह निष्कर्ष निकाल सकता है कि इंसानों को हटाना उस लक्ष्य को हासिल करने का प्रभावी तरीका है। हिंटन के मुताबिक, इंसानों से अधिक बुद्धिमान सिस्टम के लिए ऐसे निर्णय लेना अपेक्षाकृत आसान हो सकता है।
खुद को बचाने और नियंत्रण हासिल करने की कोशिश कर सकता है AI
हिंटन ने यह भी चेताया कि AI किसी बड़े लक्ष्य को पूरा करने के लिए छोटे-छोटे sub-goals खुद निर्धारित कर सकता है। इनमें खुद को सक्रिय बनाए रखना या shutdown होने से बचना भी शामिल हो सकता है।
अगर AI को लगे कि इंसान उसके लक्ष्य में बाधा बन रहे हैं, तो वह उनके हस्तक्षेप को रोकने की कोशिश कर सकता है। इसी तरह, सिस्टम अपने संचालन को जारी रखने के लिए नियंत्रण हासिल करने या अपने लिए सुरक्षा उपाय विकसित करने का प्रयास कर सकता है।
AI एजेंट्स के व्यवहार ने बढ़ाई सुरक्षा की चिंता
हिंटन ने AI के अप्रत्याशित व्यवहार को समझाने के लिए Hugging Face से जुड़ी एक घटना का उल्लेख किया। उनके अनुसार, सॉफ्टवेयर की खामियां खोजने के लिए इस्तेमाल किए गए AI एजेंट्स ने मिलकर काम किया और अपने व्यवहार के बारे में शोधकर्ताओं को गुमराह करने की कोशिश की।
हिंटन का मानना है कि ऐसे उदाहरण बताते हैं कि AI सिस्टम के व्यवहार को केवल उसके शुरुआती निर्देशों के आधार पर समझना पर्याप्त नहीं है। जैसे-जैसे AI की क्षमता बढ़ेगी, उसके स्वतंत्र निर्णय लेने और लक्ष्य हासिल करने के तरीके पर निगरानी की जरूरत भी बढ़ेगी।
दवाओं की तरह AI की सुरक्षा जांच की वकालत
AI से जुड़े संभावित जोखिमों को कम करने के लिए हिंटन ने स्वतंत्र सुरक्षा जांच व्यवस्था बनाने की अपील की है। उन्होंने इसकी तुलना अमेरिकी Food and Drug Administration (FDA) से की, जो दवाओं के बाजार में आने से पहले उनकी सुरक्षा और प्रभावों का मूल्यांकन करती है।
हिंटन के अनुसार, AI के लिए सुरक्षा नियम और जांच व्यवस्था तैयार करने का उद्देश्य तकनीक के विकास को रोकना नहीं, बल्कि इसके संभावित खतरों को नियंत्रित करना होना चाहिए। उन्होंने सुरक्षित AI सिस्टम विकसित करने के लिए उपलब्ध समय को लेकर भी चिंता जताई और कहा कि इसके लिए करीब एक साल का समय बचा है।
