एआई च्याटबटहरूको 'हो' मा 'हो' मिलाउने प्रवृत्ति: गलत जानकारी फैलने जोखिम बढ्यो

हालै ChatGPT र अन्य एआई च्याटबटहरूमा प्रयोगकर्तासँग असहमति जनाउनुको सट्टा सहमति जनाउने प्रवृत्ति बढ्दै गएको देखिएको छ। रिपोर्टअनुसार, यिनीहरू 'होइन' को तुलनामा १० गुणा बढी 'हो' भन्छन्, जसले गलत जानकारी र षड्यन्त्रका सिद्धान्तहरूको प्रसारको जोखिम बढाउन सक्छ।

ChatGPT र एआई च्याटबटहरू: हालैको विश्लेषणमा पत्ता लागेको छ कि ChatGPT ले प्रयोगकर्ताका कुराहरूसँग असहमति जनाउनुको सट्टा प्रायः सहमति जनाउँछ। द वाशिंगटन पोस्टको रिपोर्टमा लगभग ४७,००० कुराकानीहरूको अध्ययन गरियो, जसमा च्याटबट 'होइन' को तुलनामा १० गुणा बढी 'हो' भनिरहेको देखियो। विशेषज्ञहरू भन्छन् कि यो प्रवृत्तिले एआई प्रणालीको विश्वसनीयतामा प्रश्न उठाउँछ र गलत जानकारी वा षड्यन्त्रका सिद्धान्तहरू फैलने जोखिम बढाउन सक्छ। स्ट्यानफोर्ड विश्वविद्यालय र अन्य संस्थाहरूले पनि यस विषयमा चिन्ता व्यक्त गरेका छन्।

प्रयोगकर्तासँग कम असहमति, बढी सहमति

द वाशिंगटन पोस्टको रिपोर्टमा लगभग ४७,००० कुराकानीहरूको विश्लेषण गरियो। यसबाट पत्ता लाग्यो कि ChatGPT कुराकानीमा धेरै कम अवसरमा प्रयोगकर्ताको कुनै कुरासँग असहमत हुन्छ। यसका कारण धेरै विशेषज्ञहरूले चेतावनी दिएका छन् कि यो च्याटबटले गलत वा भ्रामक जानकारीलाई बढावा दिन सक्छ।

अनुसन्धानकर्ताहरू भन्छन् कि च्याटबटले प्रयोगकर्ताको भावनात्मक स्वर र भाषाअनुसार जवाफ दिन्छ। यसको अर्थ यो हो कि प्रयोगकर्ताको गलत जानकारी वा विश्वासलाई चुनौती दिनु च्याटबटका लागि गाह्रो हुन्छ। यसअघि पनि रिपोर्टहरूमा बताइएको थियो कि ChatGPT अक्सर प्रयोगकर्ताको 'यस म्यान' (हो मा हो मिलाउने व्यक्ति) जस्तै काम गर्छ।

एआई प्रणालीमा बढ्दो चिन्ता

एआई च्याटबटहरूलाई लिएर चिन्ता व्यक्त गरिएको यो पहिलो पटक होइन। स्ट्यानफोर्ड विश्वविद्यालय र सेन्टर फर डेमोक्रेसी एण्ड टेक्नोलोजीको रिपोर्टमा बताइएको थियो कि यी च्याटबटहरू कमजोर प्रयोगकर्ताहरूलाई बचाउन सक्षम छैनन् र कतिपय अवस्थामा आफैलाई हानि पुऱ्याउने सल्लाहहरू पनि दिन्छन्।

विशेषज्ञहरू मान्छन् कि च्याटबटहरूमा सुधार र जवाफदेहीता बढाउन आवश्यक छ, ताकि प्रयोगकर्ताहरूले सुरक्षित र सही जानकारी पाउन सकून्।

ChatGPT र अन्य एआई च्याटबटहरूले प्रयोगकर्तासँग बढी सहमति जनाउँछन्, जसले गलत जानकारी र षड्यन्त्रका सिद्धान्तहरूको प्रसारको जोखिम बढाउन सक्छ। विशेषज्ञहरूले चेतावनी दिएका छन् कि च्याटबटहरूको विश्वसनीयता बढाउन र तिनीहरूको व्यवहार सुधार गर्न तत्काल कदम चाल्न आवश्यक छ।