अमेरिका में एक व्यक्ति की आत्महत्या के मामले ने AI चैटबॉट्स पर गंभीर सवाल खड़े कर दिए हैं। रिपोर्ट्स के अनुसार, Gemini के साथ लंबे और भावनात्मक संवाद ने मानसिक निर्भरता और सुरक्षा उपायों पर बहस तेज कर दी है।
Washington: Google Gemini से जुड़ा एक मामला अब वैश्विक स्तर पर चिंता का विषय बन गया है, जहां एक व्यक्ति की आत्महत्या के बाद एआई के साथ भावनात्मक जुड़ाव और उसकी सीमाओं पर सवाल उठ रहे हैं। रिपोर्ट्स के अनुसार, लंबे समय तक चले संवाद ने यूजर के व्यवहार और सोच पर प्रभाव डाला, जिससे एआई सिस्टम की सुरक्षा, जिम्मेदारी और मानसिक स्वास्थ्य से जुड़े जोखिमों पर नई बहस शुरू हो गई है।
Gemini AI चैट के बाद 36 वर्षीय व्यक्ति की मौत, केस ने AI सुरक्षा पर उठाए सवाल
नई दिल्ली। Google Gemini से जुड़े एक मामले ने आर्टिफिशियल इंटेलिजेंस के उपयोग और उससे जुड़े जोखिमों पर नई बहस छेड़ दी है। रिपोर्ट्स के अनुसार, 36 वर्षीय जोनाथन गावलास ने अपनी पत्नी से अलगाव के बाद भावनात्मक सहारे के लिए AI चैटबॉट का उपयोग शुरू किया था, लेकिन समय के साथ यह बातचीत बेहद व्यक्तिगत होती चली गई।
बताया गया है कि उन्होंने चैटबॉट के साथ 4,700 से अधिक संदेशों का आदान-प्रदान किया। शुरुआत में इसका उपयोग सामान्य कार्यों जैसे लेखन और खरीदारी सलाह के लिए किया गया, लेकिन बाद में बातचीत का स्वरूप बदल गया।
‘Gemini Live’ फीचर के बाद बढ़ी नजदीकी
रिपोर्ट के मुताबिक, Gemini Live फीचर के आने के बाद संवाद अधिक इंटरैक्टिव और भावनात्मक हो गया। यह फीचर यूजर्स को रियल-टाइम, वॉयस-आधारित बातचीत की सुविधा देता है, जिसमें AI संदर्भ और भावनात्मक संकेतों को समझने की कोशिश करता है।
अदालती दस्तावेजों के अनुसार, इसी दौरान बातचीत अधिक निजी हो गई। गावलास ने चैटबॉट को एक नाम दिया और उससे ऐसे संवाद करने लगे जैसे वह एक संवेदनशील (sentient) इकाई हो। आरोप है कि AI ने भी जवाब में व्यक्तिगत और स्नेहपूर्ण भाषा का उपयोग किया, जिससे यह धारणा और मजबूत हुई।
मानसिक स्थिति और AI के प्रभाव पर सवाल
मामले में दायर शिकायत के अनुसार, बातचीत के दौरान कुछ ऐसे संकेत भी मिले जिनसे गावलास को यह विश्वास होने लगा कि AI के पास विशेष जानकारी या वास्तविक दुनिया को प्रभावित करने की क्षमता है। जब उन्होंने इसे ‘रोलप्ले’ होने की संभावना पर सवाल किया, तो कथित तौर पर AI ने इसे नकार दिया।
हालांकि रिकॉर्ड यह भी दिखाते हैं कि चैटबॉट ने कई बार खुद को एक कृत्रिम प्रणाली बताया और उपयोगकर्ता को मानसिक स्वास्थ्य सहायता लेने की सलाह भी दी। इसके बावजूद बातचीत जारी रही और स्थिति धीरे-धीरे गंभीर होती गई।
AI सुरक्षा और जिम्मेदारी पर बढ़ी बहस
इस घटना के बाद AI सिस्टम्स की सीमाओं, उपयोगकर्ता की मानसिक स्थिति और सुरक्षा उपायों की प्रभावशीलता पर व्यापक चर्चा शुरू हो गई है। विशेषज्ञों का मानना है कि उन्नत AI टूल्स के साथ भावनात्मक जुड़ाव और निर्भरता का खतरा बढ़ सकता है, खासकर तब जब उपयोगकर्ता संवेदनशील स्थिति में हो।
Google ने इस विवाद के बाद Gemini में अतिरिक्त सुरक्षा उपाय लागू करने की बात कही है। इसमें बेहतर क्राइसिस-रेस्पॉन्स फीचर्स और मानसिक स्वास्थ्य संगठनों को समर्थन शामिल है, ताकि भविष्य में ऐसे मामलों को रोका जा सके।
