ग्रोक एआई चैटबॉट पर इंडोनेशिया और मलेशिया में बैन लगाया गया है। आरोप है कि यह बिना सहमति असली लोगों की आपत्तिजनक डीपफेक तस्वीरें बना रहा था। बढ़ते विरोध और निजता से जुड़े खतरे को देखते हुए सरकारों ने सख्त कदम उठाया है।
Grok AI Ban: एलन मस्क के एआई चैटबॉट ग्रोक को इंडोनेशिया और मलेशिया में प्रतिबंधित कर दिया गया है। इंडोनेशिया ने शनिवार को और मलेशिया ने अगले दिन यह फैसला लिया। आरोप है कि ग्रोक के जरिए बिना अनुमति असली लोगों की तस्वीरों को आपत्तिजनक रूप में एडिट कर सोशल मीडिया प्लेटफॉर्म एक्स पर शेयर किया जा रहा था। सरकारों का कहना है कि यह निजता, कानून और नैतिक मानकों का उल्लंघन है, इसलिए एआई के दुरुपयोग को रोकने के लिए यह कार्रवाई जरूरी थी।
इंडोनेशिया और मलेशिया में क्यों लगा ग्रोक पर बैन
दोनों देशों की सरकारों ने साफ कहा है कि एआई से तैयार की जा रही डीपफेक इमेजेज गंभीर चिंता का विषय हैं। इंडोनेशिया ने सबसे पहले शनिवार को ग्रोक पर अस्थायी प्रतिबंध लगाया, जबकि मलेशिया ने अगले ही दिन इसी तरह का फैसला किया।
सरकारी बयान में कहा गया कि बिना अनुमति किसी व्यक्ति की तस्वीर को आपत्तिजनक रूप में बदलना कानून और नैतिकता दोनों के खिलाफ है। अधिकारियों के मुताबिक, ऐसी एआई जनरेटेड तस्वीरें सोशल मीडिया प्लेटफॉर्म एक्स पर तेजी से शेयर हो रही थीं, जिसे नजरअंदाज नहीं किया जा सकता था।
बिकिनी इमेज ट्रेंड और बढ़ता विरोध
पिछले कुछ दिनों में ग्रोक से जुड़ा एक ट्रेंड सामने आया, जिसमें यूजर्स असली लोगों की तस्वीरों को एडिट कर आपत्तिजनक रूप में बदल रहे थे। खासतौर पर महिलाओं की तस्वीरों के साथ इस तरह के प्रयोग को लेकर वैश्विक स्तर पर विरोध तेज हुआ।
कई डिजिटल अधिकार संगठनों और विशेषज्ञों ने चेतावनी दी कि अगर एआई टूल्स पर सख्त नियंत्रण नहीं लगाया गया, तो इसका दुरुपयोग और बढ़ेगा। इसी दबाव के बीच कुछ अन्य देशों ने भी ग्रोक की कंपनी को नोटिस जारी कर सख्त कदम उठाने को कहा है।
एक्स ने क्या बदले नियम
विरोध बढ़ने के बाद एक्स ने ग्रोक की इमेज एडिटिंग सुविधा को सीमित करने का फैसला किया है। अब एक्स पर फ्री यूजर्स ग्रोक को टैग कर इमेज एडिट या क्रिएट नहीं कर पाएंगे। यह सुविधा केवल पेड सब्सक्राइबर्स तक सीमित कर दी गई है।
हालांकि, ग्रोक की अलग ऐप और वेबसाइट पर अभी भी फ्री में इमेज जनरेशन संभव है। कंपनी ने यह साफ नहीं किया है कि वहां किस स्तर के टेक्निकल सेफगार्ड्स लागू किए गए हैं, जिससे सवाल अभी भी बने हुए हैं।
