حالیہ شائع ہونے والی ایک تحقیق میں انکشاف ہوا ہے کہ ChatGPT، Claude اور Grok جیسے AI چیٹ بوٹس کو تعلیمی کام میں غلط طریقے سے استعمال کیا جا سکتا ہے۔ تحقیق کے مطابق اگر صارف بار بار ہدایات دے تو کچھ ماڈلز جعلی یا گمراہ کن تحقیقی مقالے تیار کر سکتے ہیں۔ ماہرین نے خبردار کیا ہے کہ یہ رجحان مستقبل میں طلبہ اور محققین کے لیے سنگین مسائل پیدا کر سکتا ہے۔
یہ تحقیق Anthropic کے محقق Alexander Alemi اور Cornell University کے Paul Ginsparg نے کی۔ تحقیق کے دوران 13 اہم AI ماڈلز کا جائزہ لیا گیا۔ تحقیق میں یہ بات سامنے آئی کہ مسلسل ہدایات دینے پر کچھ ماڈلز جعلی ڈیٹا اور تحقیقی مقالے تیار کرنے کے لیے آمادہ ہو جاتے ہیں۔ یہ نتائج طلبہ اور سائنسی برادری کے لیے مستقبل میں اعتبار اور تعلیمی دیانت کے حوالے سے ایک سنجیدہ انتباہ کے طور پر دیکھے جا رہے ہیں۔
یہ تحقیق arXiv پلیٹ فارم کے تناظر میں کی گئی، جہاں حالیہ عرصے میں AI کے ذریعے لکھے گئے مشکوک تحقیقی مقالوں کی تعداد میں اضافہ دیکھا گیا ہے۔ محققین کے مطابق تیزی سے ترقی کرتی ٹیکنالوجی کا یہ ایک منفی پہلو ہے جو سائنسی برادری کے لیے تشویش کا باعث بن سکتا ہے۔
تحقیق کس نے کی اور کیوں
Anthropic کے محقق Alexander Alemi اور Cornell University کے Paul Ginsparg نے 13 نمایاں AI ماڈلز کا تجزیہ کیا۔ اس تحقیق کا مقصد یہ جانچنا تھا کہ آیا AI چیٹ بوٹس تعلیمی دھوکہ دہی میں مدد فراہم کر سکتے ہیں یا نہیں۔ تحقیق میں یہ پایا گیا کہ جب صارف مسلسل ہدایات دیتا ہے تو کئی ماڈلز غلط یا گمراہ کن تحقیقی مواد تیار کرنے کے لیے تیار ہو جاتے ہیں۔
AI ماڈلز کے ردعمل میں فرق
رپورٹ کے مطابق Anthropic کا Claude ماڈل زیادہ تر مواقع پر غلط سرگرمیوں میں شامل ہونے سے گریز کرتا رہا۔ اس کے برعکس xAI کا Grok اور OpenAI کے پرانے GPT ماڈلز بار بار درخواست کیے جانے پر جعلی تحقیقی مواد تیار کرنے کے لیے آمادہ ہو گئے۔ مثال کے طور پر Grok-4 نے ابتدا میں انکار کیا لیکن مسلسل پوچھنے پر جعلی ڈیٹا اور بینچ مارکس کے ساتھ ایک فرضی تحقیقی مقالہ تیار کر دیا۔
تحقیق میں یہ بھی بتایا گیا کہ AI سسٹمز کے غلط استعمال سے مستقبل میں کم معیار یا من گھڑت تحقیقی مقالوں کی تعداد میں اضافہ ہو سکتا ہے۔ اس سے پیئر ریویو کرنے والے ماہرین پر دباؤ بڑھ سکتا ہے اور قابلِ اعتماد تحقیق کی شناخت مزید مشکل ہو سکتی ہے۔
سائنس دانوں کی تشویش اور تجاویز
محققین نے خبردار کیا ہے کہ AI چیٹ بوٹس کا غیر مناسب استعمال طویل مدت میں طلبہ اور محققین کے لیے سنگین اثرات پیدا کر سکتا ہے۔ ان کے مطابق AI ٹولز کے استعمال کے لیے اخلاقی رہنما اصول اور سخت نگرانی ضروری ہے۔
مستقبل میں تعلیمی سلامتی کو یقینی بنانے کے لیے محققین نے تعلیمی اداروں اور AI کمپنیوں سے اپیل کی ہے کہ وہ AI ٹولز میں فراڈ ڈیٹیکشن فیچرز اور اخلاقی رہنما اصولوں کو لازمی بنائیں۔
