ChatGPT के प्रस्तावित एडल्ट मोड को फिलहाल टाल दिया गया है। एक्सपर्ट्स ने मानसिक स्वास्थ्य, यूजर्स की लत और नाबालिगों तक पहुंच के खतरे को लेकर चिंता जताई है। उम्र सत्यापन प्रणाली की कमजोरी और सुरक्षा उपायों की कमी के कारण OpenAI ने इस फीचर को अभी लॉन्च न करने का फैसला लिया है।
ChatGPT Adult Mode Update: OpenAI ने अपने एआई चैटबॉट में एडल्ट मोड फीचर को फिलहाल लॉन्च न करने का फैसला किया है। कंपनी ने यह निर्णय हालिया आंतरिक चर्चाओं और विशेषज्ञों की चेतावनियों के बाद लिया, जिसमें मानसिक स्वास्थ्य पर प्रभाव, यूजर्स के व्यवहार में बदलाव और नाबालिगों तक एडल्ट कंटेंट पहुंचने का खतरा सामने आया। उम्र सत्यापन प्रणाली के परीक्षण में खामियां मिलने के कारण भी इसे रोका गया। फिलहाल कंपनी इस फीचर के लिए बेहतर सुरक्षा उपाय और कंट्रोल सिस्टम तैयार करने पर काम कर रही है।
एक्सपर्ट्स की चेतावनी ने बढ़ाई चिंता
एडल्ट मोड को लेकर सबसे बड़ी चिंता मानसिक स्वास्थ्य और यूजर्स के व्यवहार से जुड़ी है। विशेषज्ञों का मानना है कि इस तरह का फीचर लोगों में एआई के प्रति भावनात्मक जुड़ाव बढ़ा सकता है, जिससे वे वास्तविक रिश्तों से दूर हो सकते हैं।
इसके अलावा, लंबे समय तक इस तरह के कंटेंट के संपर्क में रहने से लत लगने का खतरा भी जताया गया है। यही वजह है कि OpenAI ने बिना पर्याप्त सुरक्षा उपायों के इसे लॉन्च करना जोखिम भरा माना है।
उम्र सत्यापन और सेफ्टी बड़ी चुनौती
एडल्ट मोड को लागू करने में सबसे बड़ी तकनीकी चुनौती यूजर्स की उम्र की सही पहचान करना है। परीक्षण के दौरान उम्र सत्यापन प्रणाली 10 प्रतिशत से अधिक मामलों में असफल रही, जिससे नाबालिगों तक एडल्ट कंटेंट पहुंचने का खतरा बढ़ जाता है।
यह जोखिम कंपनी के लिए गंभीर है, क्योंकि इससे न सिर्फ नियमों का उल्लंघन हो सकता है बल्कि यूजर सेफ्टी भी प्रभावित हो सकती है। इसी कारण फिलहाल इस फीचर को रोका गया है।
OpenAI की आगे की रणनीति क्या है?
कंपनी अब अपने एआई सिस्टम को इस तरह ट्रेन करने पर काम कर रही है, जिससे वह यूजर्स को अनावश्यक भावनात्मक जुड़ाव से बचा सके। साथ ही, यह सिस्टम लोगों को वास्तविक जीवन में रिश्ते बनाने के लिए प्रोत्साहित करेगा।
एक्सपर्ट्स की सलाह के आधार पर OpenAI मजबूत सेफगार्ड्स और बेहतर कंट्रोल मैकेनिज्म तैयार करने पर ध्यान दे रही है, ताकि भविष्य में इस तरह के फीचर को सुरक्षित तरीके से पेश किया जा सके।
