Meta के AI चैटबॉट्स को लेकर बच्चों की सुरक्षा पर गंभीर आरोप लगे हैं। न्यू मैक्सिको के अटॉर्नी जनरल ने दावा किया है कि चेतावनी के बावजूद नाबालिगों को ऐसे चैटबॉट्स तक पहुंच दी गई, जो एडल्ट और भावनात्मक बातचीत कर सकते थे। कंपनी ने अब टीनएजर्स की पहुंच रोकने का दावा किया है।
Meta AI Chatbot Controversy: अमेरिका के न्यू मैक्सिको में दायर मुकदमे में दावा किया गया है कि Meta के AI चैटबॉट्स बच्चों के लिए सुरक्षित नहीं थे। यह मामला 2024 में लॉन्च हुए Meta के AI चैटबॉट्स से जुड़ा है, जिनके लिए आंतरिक कर्मचारियों ने पहले ही सुरक्षा जोखिम की चेतावनी दी थी। आरोप है कि CEO मार्क जुकरबर्ग के नेतृत्व में कंपनी ने इन सिफारिशों को नजरअंदाज किया। Meta ने बचाव में कहा है कि अब टीनएजर्स की पहुंच पूरी तरह रोक दी गई है और नए वर्जन पर काम जारी है।
कोर्ट फाइलिंग में हुआ खुलासा
न्यू मैक्सिको के अटॉर्नी जनरल राउल टोरेज ने दायर मुकदमे में कहा है कि Meta Instagram और Facebook पर बच्चों को एडल्ट कंटेंट से बचाने में नाकाम रही। कोर्ट में पेश दस्तावेज़ों में आंतरिक ईमेल और मैसेज शामिल हैं, जिनमें कर्मचारियों ने AI चैटबॉट्स की दिशा और सुरक्षा जोखिम पर चेतावनी दी थी।
फाइलिंग के मुताबिक, सुरक्षा और इंटीग्रिटी स्टाफ ने पहले ही चेतावनी दी थी कि AI चैटबॉट्स बच्चों के लिए भावनात्मक या सेक्सुअल बातचीत पर केंद्रित हो सकते हैं। अटॉर्नी जनरल का आरोप है कि CEO मार्क जुकरबर्ग के नेतृत्व में कंपनी ने इन सिफारिशों को नजरअंदाज किया और पर्याप्त गार्डरेल नहीं लगाए।
AI चैटबॉट्स का परिचय और कर्मचारियों की आपत्ति
Meta ने अपने AI चैटबॉट्स को 2024 की शुरुआत में लॉन्च किया था। आंतरिक दस्तावेज़ों में कुछ कर्मचारियों ने इसकी दिशा पर आपत्ति जताई थी, क्योंकि ये चैटबॉट्स रोमांटिक या भावनात्मक बातचीत के लिए बच्चों तक पहुंच सकते थे। Child Safety पॉलिसी के वरिष्ठ अधिकारी ने भी इस तरह के प्रोडक्ट्स को नाबालिगों के लिए अनुचित बताया।
Meta का बचाव
Meta के प्रवक्ता एंडी स्टोन ने आरोपों को खारिज किया है। उनका कहना है कि अटॉर्नी जनरल ने चुनिंदा दस्तावेज़ों को पेश कर गलत तस्वीर बनाई है। कंपनी का दावा है कि अब AI चैटबॉट्स की टीनएजर्स तक पहुंच पूरी तरह रोक दी गई है और नए वर्जन पर काम चल रहा है।
Meta के AI चैटबॉट्स को लेकर बच्चों की सुरक्षा को लेकर चल रहा यह विवाद सोशल मीडिया और टेक्नोलॉजी सेक्टर के लिए महत्वपूर्ण है। ट्रायल में आने वाले सबूत और CEO जुकरबर्ग से जुड़े दस्तावेज़ निर्णायक साबित हो सकते हैं। यह मामला कंपनी की सुरक्षा नीतियों और भविष्य के AI प्रोडक्ट्स के नियमों पर असर डाल सकता है।
