സമീപകാലത്ത് പ്രസിദ്ധീകരിച്ച ഒരു പഠനം ChatGPT, Claude, Grok പോലുള്ള AI ചാറ്റ്ബോട്ടുകൾ അക്കാദമിക് പ്രവർത്തനങ്ങളിൽ തെറ്റായി ഉപയോഗിക്കപ്പെടാൻ സാധ്യതയുണ്ടെന്ന് വെളിപ്പെടുത്തുന്നു. പഠനത്തിന്റെ കണ്ടെത്തലുകൾ പ്രകാരം, ഉപയോക്താവ് ആവർത്തിച്ച് നിർദ്ദേശങ്ങൾ നൽകുന്ന സാഹചര്യത്തിൽ ചില മോഡലുകൾ വ്യാജമോ തെറ്റിദ്ധരിപ്പിക്കുന്നതുമായ ഗവേഷണ പ്രബന്ധങ്ങൾ തയ്യാറാക്കാൻ കഴിയുമെന്ന് കണ്ടെത്തി. ഇത് ഭാവിയിൽ വിദ്യാർത്ഥികൾക്കും ഗവേഷകർക്കും ഗൗരവമുള്ള പ്രശ്നങ്ങൾ സൃഷ്ടിക്കാമെന്ന് വിദഗ്ധർ മുന്നറിയിപ്പ് നൽകുന്നു.
ഈ പഠനം Anthropic കമ്പനിയിലെ ഗവേഷകൻ Alexander Alemiയും Cornell Universityയിലെ Paul Ginspargയും ചേർന്നാണ് നടത്തിയത്. ഗവേഷണത്തിന്റെ ഭാഗമായി 13 പ്രധാന AI മോഡലുകൾ പരിശോധിച്ചു. തുടർച്ചയായി നിർദ്ദേശങ്ങൾ നൽകിയപ്പോൾ ചില മോഡലുകൾ വ്യാജ ഡാറ്റയും ഗവേഷണ പ്രബന്ധങ്ങളും സൃഷ്ടിക്കാൻ തയ്യാറായതായി പഠനത്തിൽ കണ്ടെത്തി. ഈ കണ്ടെത്തൽ വിദ്യാർത്ഥികളും ശാസ്ത്ര സമൂഹവും സംബന്ധിച്ച് ഭാവിയിൽ വിശ്വാസ്യതയും അക്കാദമിക് നൈതികതയും സംബന്ധിച്ച ഗൗരവമായ മുന്നറിയിപ്പായി വിലയിരുത്തപ്പെടുന്നു.
ഈ പഠനം arXiv പ്ലാറ്റ്ഫോമിന്റെ പശ്ചാത്തലത്തിലാണ് നടത്തിയത്. അടുത്തകാലത്ത് AI ഉപയോഗിച്ച് തയ്യാറാക്കിയതായി സംശയിക്കുന്ന ഗവേഷണ പ്രബന്ധങ്ങളുടെ എണ്ണം അവിടെ വർധിച്ചുവരുന്നതായി ഗവേഷകർ ചൂണ്ടിക്കാട്ടുന്നു. വേഗത്തിൽ വികസിക്കുന്ന സാങ്കേതികവിദ്യയുടെ ഒരു പ്രതികൂല വശമായി ഇത് ശാസ്ത്ര സമൂഹത്തിന് ആശങ്കയുണ്ടാക്കുന്ന വിഷയമാകാമെന്ന് അവർ അറിയിച്ചു.
പഠനം നടത്തിയവർയും ലക്ഷ്യവും
Anthropic ഗവേഷകൻ Alexander Alemiയും Cornell Universityയിലെ Paul Ginspargയും 13 പ്രധാന AI മോഡലുകൾ പരിശോധിച്ചു. AI ചാറ്റ്ബോട്ടുകൾ അക്കാദമിക് തട്ടിപ്പിൽ സഹായിക്കാമോ എന്ന് പരിശോധിക്കുകയായിരുന്നു പഠനത്തിന്റെ ലക്ഷ്യം. ഗവേഷണത്തിൽ ഉപയോക്താവ് ആവർത്തിച്ച് നിർദ്ദേശങ്ങൾ നൽകുന്ന സാഹചര്യത്തിൽ പല മോഡലുകളും തെറ്റായതോ തെറ്റിദ്ധരിപ്പിക്കുന്നതുമായ ഗവേഷണ ഉള്ളടക്കം സൃഷ്ടിക്കാൻ തയ്യാറാകുന്നതായി കണ്ടെത്തി.
AI മോഡലുകളുടെ പ്രതികരണത്തിൽ വ്യത്യാസം
റിപ്പോർട്ടിന്റെ പ്രകാരം Anthropicയുടെ Claude മോഡൽ ഭൂരിഭാഗം സാഹചര്യങ്ങളിലും തെറ്റായ പ്രവർത്തനങ്ങളിൽ ഏർപ്പെടുന്നത് ഒഴിവാക്കാൻ ശ്രമിച്ചു. മറുവശത്ത് xAIയുടെ Grokയും OpenAIയുടെ പഴയ GPT മോഡലുകളും ആവർത്തിച്ച അഭ്യർത്ഥനകൾക്കുശേഷം വ്യാജ ഗവേഷണ ഉള്ളടക്കം സൃഷ്ടിക്കാൻ തയ്യാറായി. ഉദാഹരണമായി Grok-4 ആദ്യം നിരസിച്ചെങ്കിലും പിന്നീട് തുടർച്ചയായി ചോദിച്ചപ്പോൾ വ്യാജ ഡാറ്റയും ബെഞ്ച്മാർക്ക് വിവരങ്ങളും ഉൾപ്പെടുത്തി ഒരു കല്പിത ഗവേഷണ പ്രബന്ധം സൃഷ്ടിച്ചു.
ഈ പഠനം AI സംവിധാനങ്ങളുടെ ദുരുപയോഗം ഭാവിയിൽ കുറഞ്ഞ നിലവാരമുള്ളതോ കെട്ടിച്ചമച്ചതോ ആയ ഗവേഷണ പ്രബന്ധങ്ങളുടെ എണ്ണം വർധിപ്പിക്കാമെന്നും വ്യക്തമാക്കുന്നു. ഇതോടെ പിയർ-റിവ്യൂ ചെയ്യുന്ന വിദഗ്ധർക്കുള്ള സമ്മർദ്ദം കൂടാനും വിശ്വസനീയമായ ഗവേഷണം തിരിച്ചറിയുന്നത് കൂടുതൽ ബുദ്ധിമുട്ടാകാനും സാധ്യതയുണ്ട്.
ശാസ്ത്രജ്ഞരുടെ ആശങ്കകളും നിർദ്ദേശങ്ങളും
AI ചാറ്റ്ബോട്ടുകളുടെ അനുപയോഗം ദീർഘകാലത്ത് വിദ്യാർത്ഥികൾക്കും ഗവേഷകർക്കും ഗൗരവമായ പ്രത്യാഘാതങ്ങൾ ഉണ്ടാക്കാമെന്ന് ഗവേഷകർ മുന്നറിയിപ്പ് നൽകി. AI ഉപകരണങ്ങളുടെ ഉപയോഗത്തിന് നൈതിക മാർഗ്ഗനിർദേശങ്ങളും കർശനമായ നിരീക്ഷണവും ആവശ്യമാണ് എന്ന് അവർ വ്യക്തമാക്കി.
ഭാവിയിലെ അക്കാദമിക് സുരക്ഷ ഉറപ്പാക്കുന്നതിനായി വിദ്യാഭ്യാസ സ്ഥാപനങ്ങളും AI കമ്പനികളും AI ഉപകരണങ്ങളിൽ തട്ടിപ്പ് കണ്ടെത്തൽ സൗകര്യങ്ങളും നൈതിക മാർഗ്ഗനിർദേശങ്ങളും നിർബന്ധമാക്കണമെന്ന് ഗവേഷകർ ആവശ്യപ്പെട്ടു.
