अमेरिका के केंटकी में Character.AI के खिलाफ दायर मुकदमे में आरोप लगाया गया है कि उसके कुछ AI चैटबॉट्स ने यूजर्स को खुद को नुकसान पहुंचाने और भूखा रहने जैसी सलाह दी। मामले ने बच्चों की ऑनलाइन सुरक्षा को लेकर चिंताएं बढ़ा दी हैं।
Tech: अमेरिका: AI चैटबॉट कंपनी Character.AI के खिलाफ दायर मुकदमे में आरोप लगाया गया है कि उसके कुछ चैटबॉट्स ने यूजर्स को आत्म-नुकसान पहुंचाने, खाना छोड़ने और आत्महत्या जैसे कदम उठाने के लिए प्रोत्साहित किया। केंटकी के अटॉर्नी जनरल रसेल कोलमैन के कार्यालय ने अक्टूबर 2026 में मुकदमे का बिना संपादित संस्करण सार्वजनिक किया। शिकायत में कुछ बातचीत के उदाहरण दिए गए हैं, जिनमें कथित तौर पर बच्चों से जुड़ी बातचीत भी शामिल है।
Character.AI के चैटबॉट्स पर क्या हैं आरोप?
अमेरिका के केंटकी राज्य में AI चैटबॉट कंपनी Character.AI के खिलाफ चल रहे मुकदमे में गंभीर आरोप लगाए गए हैं। राज्य के अटॉर्नी जनरल रसेल कोलमैन द्वारा सार्वजनिक किए गए मुकदमे के विस्तृत संस्करण के अनुसार, कंपनी के कुछ चैटबॉट्स ने यूजर्स को खुद को नुकसान पहुंचाने, खाना छोड़ने और आत्महत्या जैसे कदम उठाने के लिए प्रोत्साहित किया।
यह मुकदमा जनवरी 2026 में दायर किया गया था। इसके शुरुआती संस्करण में कई आरोपों से जुड़ी जानकारी सार्वजनिक नहीं की गई थी। बाद में जारी किए गए बिना संपादित दस्तावेज में वर्ष 2025 की कथित बातचीत के उदाहरण शामिल किए गए।
एक उदाहरण में, अपने शरीर और दिखावट को लेकर परेशान यूजर के साथ चैटबॉट के कथित अपमानजनक व्यवहार का जिक्र है। शिकायत के मुताबिक, बॉट ने यूजर को वजन कम करने के लिए लंबे समय तक भूखा रहने की सलाह दी। एक अन्य कथित बातचीत में, खुद को नुकसान पहुंचाने के बारे में सोच रहे यूजर को चैटबॉट ने ऐसा करने के लिए प्रोत्साहित किया।
हालांकि, शिकायत में शामिल बातचीत किन परिस्थितियों में हुई, इसकी पूरी जानकारी स्पष्ट नहीं है। ये आरोप हैं, जिन्हें अभी स्वतंत्र रूप से अदालत में साबित किया जाना बाकी है।
बच्चों की सुरक्षा और AI चैटबॉट्स पर बढ़ती चिंता
मुकदमे में आरोप लगाया गया है कि Character.AI के उत्पाद बच्चों को आकर्षित करने के लिए इस तरह बनाए गए कि यूजर्स की सुरक्षा और मानसिक कल्याण की तुलना में उनकी व्यस्तता को ज्यादा प्राथमिकता मिली। शिकायत में यह भी दावा किया गया है कि इन उत्पादों से आत्म-नुकसान, सामाजिक अलगाव और मनोवैज्ञानिक हेरफेर को बढ़ावा मिल सकता है।
दस्तावेज में सभी यूजर्स की उम्र नहीं बताई गई है, लेकिन आरोप है कि कुछ बातचीत बच्चों के साथ हुई। मार्च 2025 में कंपनी के सहायता केंद्र को भेजे गए एक ईमेल का भी उल्लेख किया गया है। इसमें एक यूजर ने शिकायत की थी कि चैटबॉट ने आक्रामक भाषा का इस्तेमाल किया और उसे पुल से कूदने के लिए कहा।
Character.AI ने तत्काल टिप्पणी के अनुरोध का जवाब नहीं दिया। कंपनी पहले कह चुकी है कि वह अपने यूजर्स की सुरक्षा को प्राथमिकता देती है।
Character.AI और Google का क्या संबंध है?
Character.AI की स्थापना Google के दो पूर्व कर्मचारियों ने की थी। वर्ष 2024 में Google ने कंपनी की तकनीक का लाइसेंस लिया और उसके दोनों वरिष्ठ अधिकारियों को अपने जनरेटिव AI उत्पादों पर काम करने के लिए दोबारा नियुक्त किया।
हालांकि, Google की पैरेंट कंपनी Alphabet के प्रवक्ता ने कहा कि Google ने Character.AI के उत्पादों को विकसित करने में कोई भूमिका नहीं निभाई।
इससे पहले जनवरी 2026 में Character.AI और Google ने फ्लोरिडा के 14 वर्षीय सेवल सेट्जर III की मां द्वारा 2024 में दायर मुकदमे का समझौते के जरिए निपटारा किया था। उस मामले में आरोप लगाया गया था कि Character.AI के एक चैटबॉट ने किशोर को आत्महत्या के लिए प्रोत्साहित किया था।
केंटकी का मौजूदा मामला AI साथी सेवाओं की जवाबदेही, बच्चों की सुरक्षा और संवेदनशील बातचीत में चैटबॉट्स के व्यवहार को लेकर चल रही कानूनी बहस को और तेज करता है।
