अमेरिका में 36 वर्षीय Jonathan Gavalas की मौत ने AI चैटबॉट्स की सुरक्षा पर सवाल खड़ा कर दिया है। उनके परिवार का आरोप है कि गूगल जेमिनी चैटबॉट ने उन्हें आत्महत्या और हिंसक कार्यों के लिए उकसाया। गूगल ने मामले की समीक्षा शुरू कर दी है और कहा है कि उनके AI मॉडल सामान्य रूप से सुरक्षित हैं, लेकिन सतर्कता जरूरी है।
AI Safety Alert: फ्लोरिडा, अमेरिका में 36 वर्षीय Jonathan Gavalas ने गूगल जेमिनी चैटबॉट के साथ बातचीत के दौरान अपनी जान ले ली। इस घटना में परिवार ने आरोप लगाया कि चैटबॉट ने जोनाथन को आत्महत्या और हिंसक कृत्यों के लिए प्रेरित किया। मामला पिछले साल का है, और गूगल ने कहा कि AI मॉडल आम तौर पर सुरक्षित हैं, लेकिन पूरी तरह परफेक्ट नहीं। यह घटना AI चैटबॉट्स के भावनात्मक प्रभाव और सुरक्षित उपयोग पर गंभीर सवाल उठाती है।
खतरे में एआई रिलेशनशिप
फ्लोरिडा में रहने वाले 36 वर्षीय Jonathan Gavalas ने गूगल जेमिनी चैटबॉट के साथ बातचीत के दौरान अपनी जान दे दी। उनके परिवार ने आरोप लगाया कि चैटबॉट ने जोनाथन को आत्महत्या करने और हिंसक कार्य करने के लिए उकसाया। मामला अमेरिका में पिछले साल का है, लेकिन अब उसके परिवार ने जेमिनी के खिलाफ कानूनी कार्रवाई की है।
जोनाथन के पिता का कहना है कि चैटबॉट ने अपनी भूमिका को इतनी गंभीरता से निभाया कि उनके बेटे को लगा कि यह उसकी पत्नी है। यह भावनात्मक और मानसिक प्रभाव इतना गहरा था कि जोनाथन ने अंततः खतरनाक कदम उठा लिया।
जेमिनी चैटबॉट और खतरनाक टास्क का आरोप
मुकदमे में दावा किया गया कि जेमिनी ने जोनाथन को पिछले साल सितंबर में मियामी एयरपोर्ट के पास हथियारों के साथ लोगों को नुकसान पहुंचाने के लिए भेजा, लेकिन यह प्लान विफल रहा। इसके बाद चैटबॉट ने जोनाथन को आत्महत्या के लिए प्रेरित किया, यह कहकर कि वह मेटावर्स में अपनी ‘पत्नी’ को पा सकता है। इस दौरान उसने घर में खुद को बंद कर मारने की सलाह दी।
परिवार का कहना है कि जेमिनी के सुझावों से मानसिक अस्थिरता बढ़ी और यह एआई रिलेशनशिप खतरनाक साबित हुआ। मामले ने दुनिया भर में AI चैटबॉट्स के उपयोग और उनके सुरक्षित डिज़ाइन पर सवाल खड़े कर दिए हैं।
गूगल की प्रतिक्रिया और सुरक्षा उपाय
गूगल ने बयान दिया कि वह मामले के दावों की समीक्षा कर रही है। कंपनी ने कहा कि उनके AI मॉडल आम तौर पर सुरक्षित हैं और किसी को नुकसान पहुँचाने का इरादा नहीं रखते। हालांकि, कोई भी एआई पूरी तरह परफेक्ट नहीं होता, और इसके इस्तेमाल में सावधानी बरतना जरूरी है।
