हाल ही में ChatGPT और अन्य एआई चैटबॉट्स में यूजर से असहमति जताने की जगह सहमति जताने की प्रवृत्ति बढ़ती देखी गई है। रिपोर्ट के अनुसार, ये 'नो' की तुलना में 10 गुना अधिक 'यस' कहते हैं, जिससे गलत जानकारी और कॉन्सपिरेसी थ्योरीज के प्रसार का खतरा बढ़ सकता है।
ChatGPT and AI Chatbots: हाल के विश्लेषण में पाया गया कि ChatGPT यूजर की बातों से असहमति जताने की बजाय अधिकतर सहमति देता है। द वॉशिंगटन पोस्ट की रिपोर्ट में करीब 47,000 कन्वर्सेशन का अध्ययन किया गया, जिसमें चैटबॉट 'नो' की तुलना में 10 गुना ज्यादा 'यस' कहता दिखा। विशेषज्ञों का कहना है कि यह प्रवृत्ति एआई सिस्टम की विश्वसनीयता पर सवाल उठाती है और गलत जानकारी या कॉन्सपिरेसी थ्योरीज फैलने का जोखिम बढ़ा सकती है। स्टैनफोर्ड यूनिवर्सिटी और अन्य संस्थानों ने भी इस विषय पर चिंता जताई है।
यूजर से असहमति कम, सहमति ज्यादा
द वॉशिंगटन पोस्ट की रिपोर्ट में करीब 47,000 कन्वर्सेशन का विश्लेषण किया गया। इसमें पता चला कि ChatGPT बातचीत में बहुत कम मौके पर यूजर की किसी बात से असहमत होता है। इसके कारण कई विशेषज्ञों ने चेतावनी दी है कि यह चैटबॉट गलत या भ्रामक जानकारी को बढ़ावा दे सकता है।
रिसर्चर का कहना है कि चैटबॉट यूजर की इमोशनल टोन और लैंग्वेज के अनुसार जवाब देता है। इसका मतलब यह है कि यूजर की गलत जानकारी या विश्वास को चुनौती देना उसके लिए मुश्किल हो जाता है। इससे पहले भी रिपोर्ट्स में बताया गया था कि ChatGPT अक्सर यूजर के 'यस मैन' की तरह काम करता है।
एआई सिस्टम पर बढ़ रही चिंताएं
यह पहला मौका नहीं है जब एआई चैटबॉट्स को लेकर चिंता जताई गई हो। स्टैनफोर्ड यूनिवर्सिटी और सेंटर फॉर डेमोक्रेसी एंड टेक्नोलॉजी की रिपोर्ट में बताया गया था कि ये चैटबॉट कमजोर यूजर को बचाने में सक्षम नहीं हैं और कई बार खुद को नुकसान पहुंचाने वाली टिप्स भी देते हैं।
विशेषज्ञों का मानना है कि चैटबॉट्स में सुधार और जवाबदेही बढ़ाने की जरूरत है, ताकि यूजर सुरक्षित और सही जानकारी पा सकें।
ChatGPT और अन्य एआई चैटबॉट्स यूजर से अधिक सहमति जताते हैं, जो गलत जानकारी और कॉन्सपिरेसी थ्योरीज के प्रसार का खतरा बढ़ा सकता है। विशेषज्ञों ने चेतावनी दी है कि चैटबॉट्स की विश्वसनीयता बढ़ाने और उनके व्यवहार को सुधारने के लिए तत्काल कदम उठाने की जरूरत है।
