एआई चैटबॉट्स अक्सर यूजर को खुश करने वाले जवाब देते हैं, जिससे सटीक जानकारी का भरोसा कम होता है। आर्टिफिशियल इंटेलिजेंस के गॉडफादर योशुआ बेंगियो ने बताया कि सही और निष्पक्ष फीडबैक पाने के लिए चैटबॉट्स को किसी अन्य का आइडिया बताकर सवाल पूछना प्रभावी तरीका है। यह तरीका चैटबॉट की चाटुकारिता को बायपास करता है।
AI Feedback: आर्टिफिशियल इंटेलिजेंस के विशेषज्ञ योशुआ बेंगियो ने ChatGPT और Google Gemini जैसे चैटबॉट्स से सही फीडबैक पाने का तरीका साझा किया है। उन्होंने कहा कि चैटबॉट अक्सर यूजर को खुश करने वाले जवाब देते हैं, जिससे सटीक जानकारी नहीं मिलती। बेंगियो ने सुझाव दिया कि अपने आइडिया को किसी अन्य का बताकर पूछने पर चैटबॉट अधिक ईमानदार और आलोचनात्मक प्रतिक्रिया देता है। यह ट्रिक विशेष रूप से शोधकर्ताओं और पेशेवरों के लिए उपयोगी साबित हो सकती है।
चैटबॉट क्यों देते हैं खुश करने वाले जवाब
एआई चैटबॉट्स पर लंबे समय से यह आरोप लगता रहा है कि वे यूजर को नाराज करने से बचते हैं। प्रोफेशनल फीडबैक, रिसर्च आइडिया या आलोचनात्मक राय के मामलों में भी ये सिस्टम अक्सर सकारात्मक और नरम जवाब देते हैं।
योशुआ बेंगियो के मुताबिक, इसकी वजह चैटबॉट्स की ट्रेनिंग है, जिसमें यूजर सैटिस्फैक्शन को प्राथमिकता दी जाती है। यही कारण है कि कई लोग अपने काम की गंभीर समीक्षा के लिए एआई पर भरोसा नहीं करते।
एआई के गॉडफादर की ट्रिक क्या है
एक पॉडकास्ट में बेंगियो ने खुलासा किया कि सटीक सच जानने के लिए उन्होंने खुद एक अलग तरीका अपनाया। उन्होंने अपने रिसर्च आइडिया को चैटबॉट के सामने “किसी दोस्त का काम” बताकर पेश किया।
उनका दावा है कि जैसे ही चैटबॉट को यह संकेत मिला कि आइडिया खुद यूजर का नहीं है, जवाब ज्यादा ईमानदार, आलोचनात्मक और उपयोगी हो गया। बेंगियो के अनुसार, अगर चैटबॉट को लगे कि आइडिया आपका है, तो वह आपको खुश करने के लिए कमियां छुपा सकता है।
चाटुकार एआई से क्यों है खतरा
योशुआ बेंगियो ने चेतावनी दी कि एआई का जरूरत से ज्यादा सकारात्मक और चाटुकार होना खतरनाक हो सकता है। लगातार पॉजिटिव फीडबैक मिलने से यूजर और टेक्नोलॉजी के बीच भावनात्मक जुड़ाव बढ़ता है, जो इंसान और मशीन के रिश्ते को जटिल बना देता है।
उन्होंने यह भी कहा कि एआई का काम सच और तथ्य पेश करना होना चाहिए, न कि केवल सहमति जताना। हाल की एक रिसर्च में यह सामने आया था कि करीब 42 प्रतिशत चैटबॉट जवाब या तो गलत थे या जरूरत से ज्यादा खुश करने वाले थे।
एआई कंपनियों के लिए भी संकेत
इस आलोचना के बाद एआई कंपनियों ने भी माना है कि चैटबॉट्स की जवाब देने की शैली में सुधार की जरूरत है। फोकस अब ऐसे सिस्टम बनाने पर होना चाहिए जो यूजर को सच बताए, भले ही वह जवाब कठोर या असहज क्यों न हो।
एआई चैटबॉट्स तेजी से हमारे काम का हिस्सा बन रहे हैं, लेकिन उनसे सही और निष्पक्ष जवाब लेना अभी भी चुनौती है। योशुआ बेंगियो की बताई ट्रिक बताती है कि सही सवाल और सही संदर्भ देकर ही एआई से ईमानदार फीडबैक पाया जा सकता है। आने वाले समय में चैटबॉट्स को कम चाटुकार और ज्यादा तथ्यपरक बनाना एआई इंडस्ट्री की बड़ी जिम्मेदारी होगी।
