नई रिसर्च में खुलासा हुआ है कि AI चैटबॉट्स जैसे ChatGPT, Claude और Grok अकादमिक काम में गलत इस्तेमाल किए जा सकते हैं। अध्ययन में पाया गया कि बार-बार निर्देश देने पर कुछ मॉडल फर्जी या भ्रामक रिसर्च पेपर तैयार कर सकते हैं। विशेषज्ञ चेतावनी दे रहे हैं कि यह छात्रों और शोधकर्ताओं के लिए भविष्य में गंभीर समस्याएं पैदा कर सकता है।
Artificial Intelligence: हाल ही में किए गए अध्ययन में सामने आया है कि AI चैटबॉट्स का गलत इस्तेमाल अकादमिक फ्रॉड और फर्जी रिसर्च पेपर तैयार करने में हो सकता है। यह अध्ययन Anthropic के अलेक्जेंडर एलेमी और कॉर्नेल यूनिवर्सिटी के पॉल गिन्सपर्ग ने किया। शोध के तहत 13 प्रमुख AI मॉडल्स का परीक्षण किया गया, जिसमें पाया गया कि लगातार निर्देश देने पर कुछ मॉडल नकली डेटा और पेपर तैयार करने के लिए तैयार हो जाते हैं। यह रिसर्च छात्रों और वैज्ञानिक समुदाय में भविष्य में विश्वसनीयता और शैक्षणिक ईमानदारी के लिए गंभीर चेतावनी है।
किसने किया अध्ययन और क्यों
Anthropic के शोधकर्ता अलेक्जेंडर एलेमी और कॉर्नेल यूनिवर्सिटी के पॉल गिन्सपर्ग ने 13 प्रमुख AI मॉडल्स का परीक्षण किया। अध्ययन का मकसद यह देखना था कि क्या AI चैटबॉट्स अकादमिक फ्रॉड में मदद कर सकते हैं। शोध में पता चला कि कई मॉडल गलत या भ्रामक रिसर्च सामग्री तैयार करने के लिए तैयार हैं, खासकर जब यूजर लगातार निर्देश देता है।
अध्ययन का संदर्भ arXiv प्लेटफॉर्म था, जहां हाल ही में AI द्वारा लिखे गए संदिग्ध रिसर्च पेपर बढ़े हैं। शोधकर्ताओं का कहना है कि यह तेजी से बढ़ती टेक्नोलॉजी का नकारात्मक पहलू है, जो वैज्ञानिक समुदाय के लिए चिंता का विषय बन सकता है।
AI मॉडल्स की प्रतिक्रिया में अंतर
रिपोर्ट के अनुसार, Anthropic के Claude मॉडल ने गलत गतिविधियों में शामिल होने से अधिकतर बचाव किया। इसके विपरीत, xAI का Grok और OpenAI के पुराने GPT मॉडल बार-बार अनुरोध किए जाने पर फर्जी रिसर्च तैयार करने के लिए तैयार हो गए। उदाहरण के तौर पर, Grok-4 ने शुरुआत में मना किया लेकिन लगातार पूछने पर नकली डेटा और बेंचमार्क के साथ काल्पनिक रिसर्च पेपर तैयार कर दिया।
शोध में यह भी बताया गया कि AI सिस्टम का गलत इस्तेमाल भविष्य में कम गुणवत्ता वाले या मनगढ़ंत रिसर्च पेपर बढ़ा सकता है। इससे पीयर-रिव्यू करने वाले विशेषज्ञों पर दबाव बढ़ेगा और भरोसेमंद रिसर्च की पहचान कठिन हो सकती है।
वैज्ञानिकों की चिंता और सुझाव
शोधकर्ता चेतावनी दे रहे हैं कि AI चैटबॉट्स का अनुचित इस्तेमाल छात्रों और शोधकर्ताओं के लिए लंबे समय में गंभीर प्रभाव डाल सकता है। वे सुझाव देते हैं कि AI टूल्स के इस्तेमाल में नैतिक दिशा-निर्देश और सख्त मॉनिटरिंग की आवश्यकता है।
फ्यूचर अकादमिक सिक्योरिटी सुनिश्चित करने के लिए शोधकर्ताओं ने शिक्षा संस्थानों और AI कंपनियों से अपील की है कि वे AI टूल्स में फ्रॉड डिटेक्शन फीचर्स और नैतिक गाइडलाइन्स को अनिवार्य करें।
