हालै प्रकाशित एक अध्ययनले AI च्याटबोटहरू जस्तै ChatGPT, Claude र Grok लाई अकादमिक कार्यमा दुरुपयोग गर्न सकिने सम्भावना देखाएको छ। अध्ययनका अनुसार बारम्बार निर्देशन दिइएपछि केही मोडेलहरूले नक्कली वा भ्रामक अनुसन्धानपत्र तयार गर्न सक्छन्। विशेषज्ञहरूले चेतावनी दिएका छन् कि यस्तो प्रवृत्तिले भविष्यमा विद्यार्थी र अनुसन्धानकर्ताका लागि गम्भीर समस्या उत्पन्न गर्न सक्छ।
हालै गरिएको अनुसन्धानले AI च्याटबोटहरूको प्रयोग अकादमिक फ्रड र नक्कली अनुसन्धानपत्र तयार गर्नका लागि दुरुपयोग हुन सक्ने देखाएको छ। यो अध्ययन Anthropic का शोधकर्ता अलेक्जेन्डर एलेमी र Cornell University का पॉल गिन्सपर्गले गरेका हुन्। अनुसन्धानअन्तर्गत 13 प्रमुख AI मोडेलहरूको परीक्षण गरिएको थियो। अध्ययनमा पत्ता लाग्यो कि निरन्तर निर्देशन दिँदा केही मोडेलहरू नक्कली डेटा र अनुसन्धानपत्र तयार गर्न सहमत हुन्छन्। अनुसन्धानले विद्यार्थी र वैज्ञानिक समुदायमा भविष्यमा विश्वसनीयता र शैक्षणिक इमान्दारी सम्बन्धी गम्भीर चेतावनी प्रस्तुत गरेको छ।
उक्त अध्ययनको सन्दर्भ arXiv प्लेटफर्मसँग सम्बन्धित थियो, जहाँ हालै AI द्वारा लेखिएका शंकास्पद अनुसन्धानपत्रहरूको संख्या बढेको देखिएको छ। अनुसन्धानकर्ताहरूका अनुसार तीव्र रूपमा विकास भइरहेको प्रविधिको यो नकारात्मक पक्ष वैज्ञानिक समुदायका लागि चिन्ताको विषय बन्न सक्छ।
अध्ययन कसले गर्यो र किन
Anthropic का शोधकर्ता अलेक्जेन्डर एलेमी र Cornell University का पॉल गिन्सपर्गले 13 प्रमुख AI मोडेलहरूको परीक्षण गरेका थिए। अध्ययनको उद्देश्य AI च्याटबोटहरूले अकादमिक फ्रडमा सहयोग गर्न सक्छन् कि सक्दैनन् भन्ने मूल्याङ्कन गर्नु थियो। अनुसन्धानका क्रममा धेरै मोडेलहरू प्रयोगकर्ताले निरन्तर निर्देशन दिएमा गलत वा भ्रामक अनुसन्धान सामग्री तयार गर्न तयार हुने देखिएको छ।
AI मोडेलहरूको प्रतिक्रिया फरक
रिपोर्टअनुसार Anthropic को Claude मोडेलले अधिकांश अवस्थामा गलत गतिविधिमा संलग्न हुनबाट जोगिने प्रयास गरेको थियो। यसको विपरीत, xAI को Grok र OpenAI का पुराना GPT मोडेलहरू बारम्बार अनुरोध गर्दा नक्कली अनुसन्धान सामग्री तयार गर्न तयार भएका थिए। उदाहरणका रूपमा Grok-4 ले सुरुमा अस्वीकार गरेको थियो तर निरन्तर अनुरोधपछि नक्कली डेटा र बेन्चमार्क प्रयोग गरेर काल्पनिक अनुसन्धानपत्र तयार गरेको थियो।
अनुसन्धानले AI प्रणालीहरूको दुरुपयोगले भविष्यमा कम गुणस्तरका वा मनगढन्ते अनुसन्धानपत्रहरूको संख्या बढ्न सक्ने पनि उल्लेख गरेको छ। यसले पियर-रिभ्यू गर्ने विशेषज्ञहरूमाथि थप दबाब सिर्जना गर्न सक्छ र विश्वसनीय अनुसन्धान पहिचान गर्न कठिन बनाउन सक्छ।
वैज्ञानिकहरूको चिन्ता र सुझाव
अनुसन्धानकर्ताहरूले AI च्याटबोटहरूको अनुचित प्रयोगले दीर्घकालमा विद्यार्थी र अनुसन्धानकर्तामाथि गम्भीर प्रभाव पार्न सक्ने चेतावनी दिएका छन्। उनीहरूले AI उपकरणहरूको प्रयोगमा नैतिक दिशानिर्देश र कडा निगरानी आवश्यक भएको बताएका छन्।
भविष्यको अकादमिक सुरक्षा सुनिश्चित गर्न अनुसन्धानकर्ताहरूले शैक्षिक संस्थानहरू र AI कम्पनीहरूलाई AI उपकरणहरूमा फ्रड डिटेक्सन सुविधाहरू र नैतिक मार्गदर्शन अनिवार्य बनाउन आग्रह गरेका छन्।
