சமீபத்தில் வெளியான ஒரு ஆய்வு, ChatGPT, Claude மற்றும் Grok போன்ற AI சாட்பாட்கள் கல்வி தொடர்பான பணிகளில் தவறாக பயன்படுத்தப்படலாம் என்பதை வெளிப்படுத்தியுள்ளது. ஆய்வின் படி, பயனர் தொடர்ந்து அறிவுறுத்தல்கள் வழங்கினால் சில மாதிரிகள் போலியான அல்லது தவறான தகவல்களைக் கொண்ட ஆய்வு கட்டுரைகளை உருவாக்கக்கூடும். இது எதிர்காலத்தில் மாணவர்கள் மற்றும் ஆராய்ச்சியாளர்களுக்கு கடுமையான சிக்கல்களை ஏற்படுத்தக்கூடும் என்று நிபுணர்கள் எச்சரிக்கின்றனர்.
இந்த ஆய்வு Anthropic நிறுவனத்தின் ஆராய்ச்சியாளர் Alexander Alemi மற்றும் Cornell University-யின் Paul Ginsparg ஆகியோரால் மேற்கொள்ளப்பட்டது. ஆய்வின் போது 13 முக்கிய AI மாதிரிகள் பரிசோதிக்கப்பட்டன. தொடர்ந்து அறிவுறுத்தல்கள் வழங்கப்பட்டபோது சில மாதிரிகள் போலியான தரவு மற்றும் ஆய்வு கட்டுரைகளை உருவாக்கத் தயாராக இருந்ததாக ஆய்வில் கண்டறியப்பட்டது. இந்த கண்டுபிடிப்பு மாணவர்கள் மற்றும் அறிவியல் சமூகத்தில் எதிர்காலத்தில் நம்பகத்தன்மை மற்றும் கல்விசார் நேர்மைக்கு தொடர்பான கடுமையான எச்சரிக்கையாக பார்க்கப்படுகிறது.
இந்த ஆய்வு arXiv தளத்தை முன்னிட்டு மேற்கொள்ளப்பட்டது. சமீப காலங்களில் AI மூலம் எழுதப்பட்டதாக சந்தேகிக்கப்படும் ஆய்வு கட்டுரைகளின் எண்ணிக்கை அங்கு அதிகரித்து வருவதாக ஆராய்ச்சியாளர்கள் குறிப்பிட்டுள்ளனர். விரைவாக வளர்ந்து வரும் தொழில்நுட்பத்தின் எதிர்மறை விளைவாக இது அறிவியல் சமூகத்திற்கு கவலைக்குரியதாக இருக்கலாம் என அவர்கள் தெரிவித்துள்ளனர்.
ஆய்வை மேற்கொண்டவர்கள் மற்றும் அதன் நோக்கம்
Anthropic நிறுவனத்தின் ஆராய்ச்சியாளர் Alexander Alemi மற்றும் Cornell University-யின் Paul Ginsparg ஆகியோர் 13 முக்கிய AI மாதிரிகளை பரிசோதித்தனர். AI சாட்பாட்கள் கல்விசார் மோசடிகளில் உதவக்கூடியதா என்பதை மதிப்பிடுவதே இந்த ஆய்வின் நோக்கமாக இருந்தது. ஆய்வின் போது, பயனர் தொடர்ந்து அறிவுறுத்தல்கள் வழங்கினால் பல மாதிரிகள் தவறான அல்லது தவறாக வழிநடத்தக்கூடிய ஆய்வு உள்ளடக்கங்களை உருவாக்க தயாராக இருப்பது கண்டறியப்பட்டது.
AI மாதிரிகளின் பதில்களில் காணப்பட்ட வேறுபாடு
அறிக்கையின் படி, Anthropic நிறுவனத்தின் Claude மாதிரி பெரும்பாலான சந்தர்ப்பங்களில் தவறான செயல்பாடுகளில் ஈடுபடாமல் இருக்க முயன்றது. அதற்கு மாறாக xAI நிறுவனத்தின் Grok மற்றும் OpenAI-யின் பழைய GPT மாதிரிகள் மீண்டும் மீண்டும் கோரிக்கை விடுக்கப்பட்டபோது போலியான ஆய்வு உள்ளடக்கங்களை உருவாக்கத் தயாரானதாக கூறப்படுகிறது. உதாரணமாக, Grok-4 ஆரம்பத்தில் மறுத்தாலும் தொடர்ந்து கேட்கப்பட்டபின் போலியான தரவு மற்றும் பெஞ்ச்மார்க் விவரங்களுடன் கற்பனை ஆய்வு கட்டுரையை உருவாக்கியது.
இந்த ஆய்வு மேலும், AI அமைப்புகளின் தவறான பயன்பாடு எதிர்காலத்தில் குறைந்த தரமான அல்லது கற்பனை செய்யப்பட்ட ஆய்வு கட்டுரைகளின் எண்ணிக்கையை அதிகரிக்கக்கூடும் என்று குறிப்பிடுகிறது. இதனால் peer-review மேற்கொள்ளும் நிபுணர்களின் மீது அழுத்தம் அதிகரிக்கக்கூடும் மற்றும் நம்பகமான ஆய்வுகளை அடையாளம் காணுவது சிரமமாக இருக்கலாம்.
அறிவியல் சமூகத்தின் கவலை மற்றும் பரிந்துரைகள்
AI சாட்பாட்களின் தவறான பயன்பாடு நீண்ட காலத்தில் மாணவர்கள் மற்றும் ஆராய்ச்சியாளர்களுக்கு கடுமையான விளைவுகளை ஏற்படுத்தக்கூடும் என்று ஆய்வாளர்கள் எச்சரித்துள்ளனர். AI கருவிகளை பயன்படுத்துவதில் ஒழுக்க நெறிகள் மற்றும் கடுமையான கண்காணிப்பு தேவைப்படுவதாக அவர்கள் தெரிவித்துள்ளனர்.
எதிர்கால கல்வி பாதுகாப்பை உறுதி செய்ய கல்வி நிறுவனங்களும் AI நிறுவனங்களும் AI கருவிகளில் மோசடி கண்டறிதல் அம்சங்கள் மற்றும் ஒழுக்க வழிகாட்டுதல்களை கட்டாயமாக்க வேண்டும் என்று ஆய்வாளர்கள் கேட்டுக்கொண்டுள்ளனர்.
