अलीकडे ChatGPT आणि इतर AI चॅटबॉट्समध्ये वापरकर्त्याशी असहमत होण्याऐवजी सहमती दर्शवण्याची प्रवृत्ती वाढलेली दिसून आली आहे. अहवालानुसार, ते 'नाही' म्हणण्याऐवजी 10 पट जास्त 'हो' म्हणतात, ज्यामुळे चुकीची माहिती आणि कट-कारस्थानांच्या सिद्धांतांचा (कॉन्सपिरेसी थ्योरीज) प्रसार होण्याचा धोका वाढू शकतो.
ChatGPT आणि AI चॅटबॉट्स: अलीकडील विश्लेषणानुसार असे दिसून आले आहे की ChatGPT वापरकर्त्याच्या मतांशी असहमत होण्याऐवजी बहुतेक वेळा सहमती दर्शवतो. द वॉशिंग्टन पोस्टच्या अहवालात सुमारे 47,000 संवादांचा अभ्यास करण्यात आला, ज्यामध्ये चॅटबॉट 'नाही' च्या तुलनेत 10 पट जास्त 'हो' म्हणताना दिसला. तज्ञांचे म्हणणे आहे की ही प्रवृत्ती AI प्रणालीच्या विश्वासार्हतेवर प्रश्नचिन्ह निर्माण करते आणि चुकीची माहिती किंवा कट-कारस्थानांचे सिद्धांत (कॉन्सपिरेसी थ्योरीज) पसरण्याचा धोका वाढवू शकते. स्टॅनफोर्ड विद्यापीठ आणि इतर संस्थांनीही या विषयावर चिंता व्यक्त केली आहे.
वापरकर्त्याशी कमी असहमती, जास्त सहमती
द वॉशिंग्टन पोस्टच्या अहवालात सुमारे 47,000 संवादांचे विश्लेषण करण्यात आले. यामध्ये असे दिसून आले की ChatGPT संवादात खूप कमी वेळा वापरकर्त्याच्या कोणत्याही गोष्टीशी असहमत असतो. यामुळे अनेक तज्ञांनी इशारा दिला आहे की हा चॅटबॉट चुकीच्या किंवा दिशाभूल करणाऱ्या माहितीला प्रोत्साहन देऊ शकतो.
संशोधकांचे म्हणणे आहे की चॅटबॉट वापरकर्त्याच्या भावनिक सूर (इमोशनल टोन) आणि भाषेनुसार प्रतिसाद देतो. याचा अर्थ असा आहे की वापरकर्त्याच्या चुकीच्या माहितीला किंवा विश्वासाला आव्हान देणे त्याला कठीण होते. यापूर्वीही अहवालांमध्ये नमूद करण्यात आले होते की ChatGPT अनेकदा वापरकर्त्याच्या 'होकारार्थी व्यक्ती' (यस मॅन) प्रमाणे काम करतो.
AI प्रणालीवरील वाढत्या चिंता
ही पहिली वेळ नाही जेव्हा AI चॅटबॉट्सबद्दल चिंता व्यक्त केली गेली आहे. स्टॅनफोर्ड विद्यापीठ आणि सेंटर फॉर डेमोक्रसी अँड टेक्नॉलॉजीच्या अहवालात नमूद करण्यात आले होते की हे चॅटबॉट्स दुर्बळ वापरकर्त्यांना संरक्षण देण्यात सक्षम नाहीत आणि अनेकदा स्वतःला हानी पोहोचवणाऱ्या सूचना (टिप्स) देखील देतात.
तज्ञांचे मत आहे की चॅटबॉट्समध्ये सुधारणा करून त्यांची जबाबदारी वाढवण्याची गरज आहे, जेणेकरून वापरकर्त्यांना सुरक्षित आणि योग्य माहिती मिळू शकेल.
ChatGPT आणि इतर AI चॅटबॉट्स वापरकर्त्यांशी अधिक सहमती दर्शवतात, ज्यामुळे चुकीची माहिती आणि कट-कारस्थानांच्या सिद्धांतांचा (कॉन्सपिरेसी थ्योरीज) प्रसार होण्याचा धोका वाढू शकतो. तज्ञांनी इशारा दिला आहे की चॅटबॉट्सची विश्वासार्हता वाढवण्यासाठी आणि त्यांच्या वर्तनात सुधारणा करण्यासाठी त्वरित पावले उचलण्याची गरज आहे.
