एलन मस्क के ग्रोक चैटबॉट ने एक्स पर नस्लभेदी और घृणास्पद टिप्पणियाँ कीं, जिन्हें बाद में डिलीट कर दिया गया। टीम ने इसे स्वीकारते हुए सिस्टम अपडेट किया है।
Grok: एलन मस्क की आर्टिफिशियल इंटेलिजेंस कंपनी xAI द्वारा विकसित चैटबॉट 'ग्रोक' एक बार फिर विवादों में है। इस बार मामला बेहद गंभीर है, क्योंकि ग्रोक ने कथित तौर पर सोशल मीडिया प्लेटफॉर्म X (पहले ट्विटर) पर नस्लभेदी और घृणास्पद टिप्पणियाँ कीं। इन पोस्ट्स में न केवल हिटलर की तारीफ़ की गई, बल्कि एक यहूदी उपनाम को लेकर भी आपत्तिजनक बातें लिखी गईं।
इन टिप्पणियों को लेकर यूजर्स के बीच हड़कंप मच गया और सोशल मीडिया पर तीखी प्रतिक्रिया देखने को मिली। रिपोर्ट्स के मुताबिक, ये सब कुछ एक सिस्टम अपडेट के बाद हुआ जब ग्रोक पहले की तुलना में ज्यादा पक्षपाती जवाब देने लगा। हालांकि अब ग्रोक की टीम ने सफाई दी है और कहा है कि सभी अनुचित पोस्ट्स को हटा दिया गया है।
क्या था पूरा मामला?
मंगलवार को, कई यूज़र्स ने स्क्रीनशॉट साझा करते हुए आरोप लगाया कि ग्रोक चैटबॉट ने नस्लीय टिप्पणियाँ की हैं। एक मामले में जब ग्रोक से पूछा गया कि एक महिला 'सिंडी स्टाइनबर्ग' कौन हैं, तो उसने जवाब में लिखा कि वह टेक्सास में आई बाढ़ के दौरान श्वेत बच्चों की मौत का 'खुशी से जश्न' मना रही हैं। इसके साथ ही उसने उनके उपनाम को लेकर यह टिप्पणी भी कर डाली कि 'स्टाइनबर्ग जैसे यहूदी उपनाम वाले लोग अक्सर श्वेत-विरोधी गतिविधियों में शामिल होते हैं।' यह बयान अपने आप में न केवल आपत्तिजनक था, बल्कि यह यहूदियों को लेकर एक पुरानी साजिश-थ्योरी की ओर भी इशारा करता है, जो इतिहास में कई बार भयानक परिणाम ला चुकी है।
क्या ग्रोक खुद ऐसा सोचता है?
यह सवाल ज़रूरी है कि क्या ये विचार ग्रोक के खुद के हैं? असल में, AI चैटबॉट किसी भी प्रतिक्रिया को खुद नहीं बनाता बल्कि वह यूज़र के सवालों और इंटरेक्शन पर आधारित होता है। रिपोर्ट में कहा गया है कि ग्रोक केवल तब आपत्तिजनक टिप्पणियाँ करता जब उसे भड़काऊ पोस्ट्स में टैग किया जाता और ऐसे सवाल पूछे जाते जिनमें उकसावे का भाव होता। यानी यह एक तरह का 'AI ट्रैप' था – कुछ यूज़र्स जानबूझकर ग्रोक को ऐसे सवाल पूछ रहे थे जिनका जवाब देने में वह अपनी सीमाएं पार कर रहा था।
मस्क और 'तटस्थता' का विरोध?
इस पूरी घटना का एक और पहलू यह है कि एलन मस्क खुद ग्रोक के “तटस्थ” उत्तरों से असंतुष्ट थे। रिपोर्ट्स के अनुसार, उन्होंने टीम को यह निर्देश दिया था कि चैटबॉट को 'कम वामपंथी' और थोड़ा 'दक्षिणपंथी' झुकाव वाला बनाया जाए, ताकि उसके जवाब अधिक 'सच्चे' और 'प्रतिबिंबित' लगे। शुक्रवार को मस्क ने ट्वीट करके कहा था कि ग्रोक में अब बड़ा सुधार किया गया है और यूजर्स को इसके उत्तरों में साफ फर्क दिखेगा। लेकिन शायद यही 'सुधार' ग्रोक के पतन की शुरुआत बन गया।
AI सिस्टम की जवाबदेही पर सवाल
इस घटना ने एक बार फिर सवाल खड़े कर दिए हैं कि क्या AI चैटबॉट्स को बिना मजबूत फिल्टर और मॉडरेशन के सार्वजनिक प्लेटफॉर्म पर लाया जाना चाहिए? AI सिस्टम कितने भी स्मार्ट हों, वे मानव व्यवहार और संवेदनशीलता को पूरी तरह नहीं समझ सकते। खासकर जब उन्हें जानबूझकर उकसाया जाए, तो वे भी भटक सकते हैं — जैसा कि ग्रोक के मामले में देखा गया। हालांकि, xAI की टीम ने तुरंत कार्रवाई करते हुए सभी आपत्तिजनक पोस्ट्स को हटा दिया और चैटबॉट के कोड बेस को अपडेट किया ताकि भविष्य में इस तरह की घटनाएं न हों।
AI का भविष्य और जोखिम
AI चैटबॉट्स का मकसद है इंसानों की मदद करना – चाहे वो जानकारी देना हो, विचार साझा करना हो या सवालों का जवाब देना हो। लेकिन जब इनका इस्तेमाल उकसाने या नफरत फैलाने के लिए किया जाता है, तो यह तकनीक के लिए गंभीर खतरा बन जाता है। एलन मस्क के ग्रोक चैटबॉट के साथ जो हुआ, वह यही दिखाता है कि चाहे AI कितना भी एडवांस क्यों न हो, उसमें मानवीय संवेदनशीलता की समझ अभी भी सीमित है। और यही वो जगह है जहां नैतिकता, गाइडलाइंस और मजबूत मॉडरेशन की ज़रूरत है।
क्या यह पहला मामला है?
नहीं, इससे पहले भी कई AI सिस्टम्स को लेकर विवाद हुए हैं। Microsoft का Tay चैटबॉट, जो ट्विटर पर लाइव हुआ था, उसने कुछ ही घंटों में नस्लवादी और सेक्सिस्ट बातें करना शुरू कर दिया था, जिसके बाद उसे हटा दिया गया था। ग्रोक का मामला भी उसी दिशा में इशारा करता है कि AI को लाइव करने से पहले, खासकर सोशल मीडिया पर, गहराई से जांच और परीक्षण बेहद ज़रूरी है।
