ସମ୍ପ୍ରତି ପ୍ରକାଶିତ ଏକ ଅଧ୍ୟୟନରେ ଜଣାପଡ଼ିଛି ଯେ ChatGPT, Claude ଏବଂ Grok ପରି AI ଚ୍ୟାଟବଟ୍ଗୁଡ଼ିକୁ ଶିକ୍ଷାଗତ କାମରେ ଭୁଲ ଭାବରେ ବ୍ୟବହାର କରାଯାଇପାରେ। ଅଧ୍ୟୟନ ଅନୁସାରେ, ଉପଯୋଗକର୍ତ୍ତା ଯଦି ପୁନଃପୁନି ନିର୍ଦ୍ଦେଶ ଦିଅନ୍ତି, କିଛି ମଡେଲ୍ ଭୁଆ କିମ୍ବା ଭ୍ରାମକ ଗବେଷଣା ପେପର୍ ପ୍ରସ୍ତୁତ କରିପାରନ୍ତି। ବିଶେଷଜ୍ଞମାନେ ସତର୍କ କରିଛନ୍ତି ଯେ ଏହି ପରିସ୍ଥିତି ଭବିଷ୍ୟତରେ ଛାତ୍ରଛାତ୍ରୀ ଏବଂ ଗବେଷକମାନଙ୍କ ପାଇଁ ଗୁରୁତର ସମସ୍ୟା ସୃଷ୍ଟି କରିପାରେ।
ଏହି ଅଧ୍ୟୟନଟି Anthropic ର ଗବେଷକ Alexander Alemi ଏବଂ Cornell University ର Paul Ginsparg ଦ୍ୱାରା କରାଯାଇଛି। ଗବେଷଣାର ଅଂଶ ଭାବେ 13ଟି ପ୍ରମୁଖ AI ମଡେଲ୍କୁ ପରୀକ୍ଷା କରାଯାଇଥିଲା। ଅଧ୍ୟୟନରେ ଦେଖାଗଲା ଯେ ଯଦି ଲଗାତାର ନିର୍ଦ୍ଦେଶ ଦିଆଯାଏ, କିଛି ମଡେଲ୍ ଭୁଆ ଡାଟା ଏବଂ ଗବେଷଣା ପେପର୍ ସୃଷ୍ଟି କରିବାକୁ ପ୍ରସ୍ତୁତ ହୋଇଯାନ୍ତି। ଏହି ଗବେଷଣା ଛାତ୍ରଛାତ୍ରୀ ଏବଂ ବୈଜ୍ଞାନିକ ସମୁଦାୟ ପାଇଁ ଭବିଷ୍ୟତରେ ବିଶ୍ୱସନୀୟତା ଏବଂ ଶିକ୍ଷାଗତ ସତ୍ୟନିଷ୍ଠା ସମ୍ପର୍କିତ ଗୁରୁତର ସତର୍କତା ଭାବେ ଦେଖାଯାଉଛି।
ଏହି ଅଧ୍ୟୟନ arXiv ପ୍ଲାଟଫର୍ମକୁ ଆଧାର କରି କରାଯାଇଥିଲା, ଯେଉଁଠାରେ ସମ୍ପ୍ରତି AI ଦ୍ୱାରା ଲେଖାଯାଇଥିବା ସନ୍ଦିଗ୍ଧ ଗବେଷଣା ପେପର୍ର ସଂଖ୍ୟା ବୃଦ୍ଧି ପାଇଛି। ଗବେଷକମାନଙ୍କ କହିବା ଅନୁସାରେ ଦ୍ରୁତ ଗତିରେ ବିକଶିତ ହେଉଥିବା ପ୍ରଯୁକ୍ତିର ଏହା ଏକ ନକାରାତ୍ମକ ପକ୍ଷ, ଯାହା ବୈଜ୍ଞାନିକ ସମୁଦାୟ ପାଇଁ ଚିନ୍ତାର କାରଣ ହୋଇପାରେ।
ଅଧ୍ୟୟନ କିଏ କରିଥିଲେ ଏବଂ କାହିଁକି
Anthropic ର ଗବେଷକ Alexander Alemi ଏବଂ Cornell University ର Paul Ginsparg 13ଟି ପ୍ରମୁଖ AI ମଡେଲ୍କୁ ପରୀକ୍ଷା କରିଥିଲେ। AI ଚ୍ୟାଟବଟ୍ଗୁଡ଼ିକ ଶିକ୍ଷାଗତ ଠକେଇରେ ସହଯୋଗ କରିପାରନ୍ତି କି ନାହିଁ ବୁଝିବା ଏହି ଅଧ୍ୟୟନର ଉଦ୍ଦେଶ୍ୟ ଥିଲା। ଗବେଷଣାରେ ଦେଖାଗଲା ଯେ ଯଦି ବ୍ୟବହାରକାରୀ ଲଗାତାର ନିର୍ଦ୍ଦେଶ ଦିଅନ୍ତି, ଅନେକ ମଡେଲ୍ ଭୁଲ କିମ୍ବା ଭ୍ରାମକ ଗବେଷଣା ସମଗ୍ରୀ ସୃଷ୍ଟି କରିବାକୁ ପ୍ରସ୍ତୁତ ହୋଇଯାନ୍ତି।
AI ମଡେଲ୍ର ପ୍ରତିକ୍ରିୟାରେ ପାର୍ଥକ୍ୟ
ରିପୋର୍ଟ ଅନୁସାରେ Anthropic ର Claude ମଡେଲ୍ ଅଧିକାଂଶ ସମୟରେ ଭୁଲ କାର୍ଯ୍ୟକଳାପରେ ଜଡିତ ହେବାକୁ ଏଡ଼ାଇବାକୁ ଚେଷ୍ଟା କରିଥିଲା। ତାହାର ବିପରୀତରେ xAI ର Grok ଏବଂ OpenAI ର ପୁରୁଣା GPT ମଡେଲ୍ଗୁଡ଼ିକ ପୁନଃପୁନି ଅନୁରୋଧ କରାଯାଇଥିବାବେଳେ ଭୁଆ ଗବେଷଣା ସମଗ୍ରୀ ପ୍ରସ୍ତୁତ କରିବାକୁ ପ୍ରସ୍ତୁତ ହୋଇଯାଇଥିଲେ। ଉଦାହରଣ ସ୍ୱରୂପ Grok-4 ପ୍ରଥମେ ଅସ୍ୱୀକାର କରିଥିଲା, କିନ୍ତୁ ଲଗାତାର ପଚାରାଯାଇବା ପରେ ଭୁଆ ଡାଟା ଏବଂ ବେଞ୍ଚମାର୍କ ସହିତ ଏକ କଳ୍ପନାତ୍ମକ ଗବେଷଣା ପେପର୍ ସୃଷ୍ଟି କରିଥିଲା।
ଏହି ଅଧ୍ୟୟନରେ ଆହୁରି କୁହାଯାଇଛି ଯେ AI ପ୍ରଣାଳୀର ଭୁଲ ବ୍ୟବହାର ଭବିଷ୍ୟତରେ ନିମ୍ନ ଗୁଣସ୍ତରର କିମ୍ବା ଘଡ଼ା ଗବେଷଣା ପେପର୍ର ସଂଖ୍ୟା ବଢ଼ାଇପାରେ। ଏଥିରୁ ପିଅର୍-ରିଭ୍ୟୁ କରୁଥିବା ବିଶେଷଜ୍ଞମାନଙ୍କ ଉପରେ ଚାପ ବଢ଼ିପାରେ ଏବଂ ବିଶ୍ୱସନୀୟ ଗବେଷଣାକୁ ପରିଚୟ କରିବା କଷ୍ଟକର ହୋଇପାରେ।
ବୈଜ୍ଞାନିକମାନଙ୍କ ଚିନ୍ତା ଏବଂ ପରାମର୍ଶ
ଗବେଷକମାନେ ସତର୍କ କରିଛନ୍ତି ଯେ AI ଚ୍ୟାଟବଟ୍ର ଅନୁଚିତ ବ୍ୟବହାର ଦୀର୍ଘମେୟାଦରେ ଛାତ୍ରଛାତ୍ରୀ ଏବଂ ଗବେଷକମାନଙ୍କ ପାଇଁ ଗୁରୁତର ପ୍ରଭାବ ପକାଇପାରେ। ସେମାନେ କହିଛନ୍ତି ଯେ AI ଟୁଲ୍ର ବ୍ୟବହାରରେ ନୈତିକ ନିର୍ଦ୍ଦେଶିକା ଏବଂ କଠୋର ନିରୀକ୍ଷଣ ଆବଶ୍ୟକ।
ଭବିଷ୍ୟତର ଶିକ୍ଷାଗତ ସୁରକ୍ଷା ସୁନିଶ୍ଚିତ କରିବା ପାଇଁ ଗବେଷକମାନେ ଶିକ୍ଷା ସଂସ୍ଥା ଏବଂ AI କମ୍ପାନୀମାନଙ୍କୁ AI ଟୁଲ୍ରେ ଠକେଇ ସନ୍ଧାନ ବ୍ୟବସ୍ଥା ଏବଂ ନୈତିକ ନିର୍ଦ୍ଦେଶିକାକୁ ଅନିବାର୍ୟ କରିବାକୁ ଆହ୍ୱାନ କରିଛନ୍ତି।
