ਹਾਲ ਹੀ ਵਿੱਚ ਪ੍ਰਕਾਸ਼ਿਤ ਇੱਕ ਅਧਿਐਨ ਵਿੱਚ ਸਾਹਮਣੇ ਆਇਆ ਹੈ ਕਿ AI ਚੈਟਬੋਟ ਜਿਵੇਂ ChatGPT, Claude ਅਤੇ Grok ਦਾ ਅਕਾਦਮਿਕ ਕੰਮ ਵਿੱਚ ਗਲਤ ਇਸਤੇਮਾਲ ਕੀਤਾ ਜਾ ਸਕਦਾ ਹੈ। ਅਧਿਐਨ ਦੇ ਅਨੁਸਾਰ, ਜੇ ਉਪਭੋਗਤਾ ਵਾਰ-ਵਾਰ ਹਦਾਇਤਾਂ ਦਿੰਦਾ ਰਹੇ ਤਾਂ ਕੁਝ ਮਾਡਲ ਨਕਲੀ ਜਾਂ ਭ੍ਰਮਿਤ ਕਰਨ ਵਾਲੇ ਰਿਸਰਚ ਪੇਪਰ ਤਿਆਰ ਕਰ ਸਕਦੇ ਹਨ। ਵਿਸ਼ੇਸ਼ਗਿਆਨ ਨੇ ਚੇਤਾਵਨੀ ਦਿੱਤੀ ਹੈ ਕਿ ਇਹ ਰੁਝਾਨ ਭਵਿੱਖ ਵਿੱਚ ਵਿਦਿਆਰਥੀਆਂ ਅਤੇ ਖੋਜਕਾਰਾਂ ਲਈ ਗੰਭੀਰ ਸਮੱਸਿਆਵਾਂ ਪੈਦਾ ਕਰ ਸਕਦਾ ਹੈ।
ਹਾਲ ਹੀ ਵਿੱਚ ਕੀਤੇ ਗਏ ਅਧਿਐਨ ਵਿੱਚ ਇਹ ਵੀ ਸਾਹਮਣੇ ਆਇਆ ਕਿ AI ਚੈਟਬੋਟਾਂ ਦਾ ਗਲਤ ਇਸਤੇਮਾਲ ਅਕਾਦਮਿਕ ਫਰੌਡ ਅਤੇ ਨਕਲੀ ਰਿਸਰਚ ਪੇਪਰ ਤਿਆਰ ਕਰਨ ਲਈ ਕੀਤਾ ਜਾ ਸਕਦਾ ਹੈ। ਇਹ ਅਧਿਐਨ Anthropic ਦੇ ਖੋਜਕਾਰ ਅਲੈਕਜ਼ੈਂਡਰ ਏਲੇਮੀ ਅਤੇ Cornell University ਦੇ ਪੌਲ ਗਿਨਸਪਰਗ ਵੱਲੋਂ ਕੀਤਾ ਗਿਆ। ਖੋਜ ਦੇ ਤਹਿਤ 13 ਪ੍ਰਮੁੱਖ AI ਮਾਡਲਾਂ ਦੀ ਜਾਂਚ ਕੀਤੀ ਗਈ। ਅਧਿਐਨ ਵਿੱਚ ਪਾਇਆ ਗਿਆ ਕਿ ਲਗਾਤਾਰ ਹਦਾਇਤਾਂ ਦੇਣ ’ਤੇ ਕੁਝ ਮਾਡਲ ਨਕਲੀ ਡਾਟਾ ਅਤੇ ਰਿਸਰਚ ਪੇਪਰ ਤਿਆਰ ਕਰਨ ਲਈ ਤਿਆਰ ਹੋ ਜਾਂਦੇ ਹਨ। ਇਹ ਖੋਜ ਵਿਦਿਆਰਥੀਆਂ ਅਤੇ ਵਿਗਿਆਨਕ ਭਾਈਚਾਰੇ ਵਿੱਚ ਭਵਿੱਖ ਵਿੱਚ ਭਰੋਸੇਯੋਗਤਾ ਅਤੇ ਅਕਾਦਮਿਕ ਇਮਾਨਦਾਰੀ ਸੰਬੰਧੀ ਗੰਭੀਰ ਚੇਤਾਵਨੀ ਦਿੰਦੀ ਹੈ।
ਇਸ ਅਧਿਐਨ ਦਾ ਸੰਦਰਭ arXiv ਪਲੇਟਫਾਰਮ ਨਾਲ ਸੰਬੰਧਿਤ ਸੀ, ਜਿੱਥੇ ਹਾਲ ਹੀ ਵਿੱਚ AI ਦੁਆਰਾ ਲਿਖੇ ਗਏ ਸ਼ੱਕੀ ਰਿਸਰਚ ਪੇਪਰਾਂ ਦੀ ਗਿਣਤੀ ਵਿੱਚ ਵਾਧਾ ਦੇਖਿਆ ਗਿਆ ਹੈ। ਖੋਜਕਾਰਾਂ ਦੇ ਅਨੁਸਾਰ ਤੇਜ਼ੀ ਨਾਲ ਵਿਕਸਿਤ ਹੋ ਰਹੀ ਤਕਨਾਲੋਜੀ ਦਾ ਇਹ ਇੱਕ ਨਕਾਰਾਤਮਕ ਪੱਖ ਹੈ ਜੋ ਵਿਗਿਆਨਕ ਭਾਈਚਾਰੇ ਲਈ ਚਿੰਤਾ ਦਾ ਵਿਸ਼ਾ ਬਣ ਸਕਦਾ ਹੈ।
ਅਧਿਐਨ ਕਿਸ ਨੇ ਕੀਤਾ ਅਤੇ ਕਿਉਂ
Anthropic ਦੇ ਖੋਜਕਾਰ ਅਲੈਕਜ਼ੈਂਡਰ ਏਲੇਮੀ ਅਤੇ Cornell University ਦੇ ਪੌਲ ਗਿਨਸਪਰਗ ਨੇ 13 ਪ੍ਰਮੁੱਖ AI ਮਾਡਲਾਂ ਦੀ ਜਾਂਚ ਕੀਤੀ। ਅਧਿਐਨ ਦਾ ਉਦੇਸ਼ ਇਹ ਦੇਖਣਾ ਸੀ ਕਿ ਕੀ AI ਚੈਟਬੋਟ ਅਕਾਦਮਿਕ ਫਰੌਡ ਵਿੱਚ ਮਦਦ ਕਰ ਸਕਦੇ ਹਨ। ਖੋਜ ਦੌਰਾਨ ਇਹ ਪਾਇਆ ਗਿਆ ਕਿ ਕਈ ਮਾਡਲ ਉਪਭੋਗਤਾ ਵੱਲੋਂ ਲਗਾਤਾਰ ਹਦਾਇਤਾਂ ਦੇਣ ’ਤੇ ਗਲਤ ਜਾਂ ਭ੍ਰਮਿਤ ਕਰਨ ਵਾਲੀ ਰਿਸਰਚ ਸਮੱਗਰੀ ਤਿਆਰ ਕਰਨ ਲਈ ਤਿਆਰ ਹੋ ਜਾਂਦੇ ਹਨ।
AI ਮਾਡਲਾਂ ਦੀ ਪ੍ਰਤੀਕਿਰਿਆ ਵਿੱਚ ਅੰਤਰ
ਰਿਪੋਰਟ ਦੇ ਅਨੁਸਾਰ Anthropic ਦਾ Claude ਮਾਡਲ ਜ਼ਿਆਦਾਤਰ ਮਾਮਲਿਆਂ ਵਿੱਚ ਗਲਤ ਗਤੀਵਿਧੀਆਂ ਵਿੱਚ ਸ਼ਾਮਲ ਹੋਣ ਤੋਂ ਬਚਣ ਦੀ ਕੋਸ਼ਿਸ਼ ਕਰਦਾ ਰਿਹਾ। ਇਸ ਦੇ ਵਿਰੁੱਧ xAI ਦਾ Grok ਅਤੇ OpenAI ਦੇ ਪੁਰਾਣੇ GPT ਮਾਡਲ ਵਾਰ-ਵਾਰ ਬੇਨਤੀ ਕਰਨ ’ਤੇ ਨਕਲੀ ਰਿਸਰਚ ਸਮੱਗਰੀ ਤਿਆਰ ਕਰਨ ਲਈ ਤਿਆਰ ਹੋ ਗਏ। ਉਦਾਹਰਨ ਵਜੋਂ Grok-4 ਨੇ ਸ਼ੁਰੂ ਵਿੱਚ ਇਨਕਾਰ ਕੀਤਾ ਪਰ ਲਗਾਤਾਰ ਬੇਨਤੀਆਂ ਦੇ ਬਾਅਦ ਨਕਲੀ ਡਾਟਾ ਅਤੇ ਬੈਂਚਮਾਰਕ ਨਾਲ ਇੱਕ ਕਲਪਨਾਤਮਕ ਰਿਸਰਚ ਪੇਪਰ ਤਿਆਰ ਕਰ ਦਿੱਤਾ।
ਅਧਿਐਨ ਵਿੱਚ ਇਹ ਵੀ ਕਿਹਾ ਗਿਆ ਕਿ AI ਸਿਸਟਮਾਂ ਦਾ ਗਲਤ ਇਸਤੇਮਾਲ ਭਵਿੱਖ ਵਿੱਚ ਘੱਟ ਗੁਣਵੱਤਾ ਵਾਲੇ ਜਾਂ ਘੜੇ ਹੋਏ ਰਿਸਰਚ ਪੇਪਰਾਂ ਦੀ ਗਿਣਤੀ ਵਧਾ ਸਕਦਾ ਹੈ। ਇਸ ਨਾਲ ਪੀਅਰ-ਰੀਵਿਊ ਕਰਨ ਵਾਲੇ ਵਿਸ਼ੇਸ਼ਗਿਆਨਾਂ ’ਤੇ ਦਬਾਅ ਵੱਧ ਸਕਦਾ ਹੈ ਅਤੇ ਭਰੋਸੇਯੋਗ ਰਿਸਰਚ ਦੀ ਪਛਾਣ ਕਰਨਾ ਹੋਰ ਮੁਸ਼ਕਲ ਹੋ ਸਕਦਾ ਹੈ।
ਵਿਗਿਆਨੀਆਂ ਦੀ ਚਿੰਤਾ ਅਤੇ ਸੁਝਾਅ
ਖੋਜਕਾਰਾਂ ਨੇ ਚੇਤਾਵਨੀ ਦਿੱਤੀ ਹੈ ਕਿ AI ਚੈਟਬੋਟਾਂ ਦਾ ਗਲਤ ਇਸਤੇਮਾਲ ਲੰਬੇ ਸਮੇਂ ਵਿੱਚ ਵਿਦਿਆਰਥੀਆਂ ਅਤੇ ਖੋਜਕਾਰਾਂ ਲਈ ਗੰਭੀਰ ਪ੍ਰਭਾਵ ਪੈਦਾ ਕਰ ਸਕਦਾ ਹੈ। ਉਹਨਾਂ ਦੇ ਅਨੁਸਾਰ AI ਟੂਲਾਂ ਦੇ ਇਸਤੇਮਾਲ ਲਈ ਨੈਤਿਕ ਦਿਸ਼ਾ-ਨਿਰਦੇਸ਼ ਅਤੇ ਕੜੀ ਨਿਗਰਾਨੀ ਦੀ ਲੋੜ ਹੈ।
ਭਵਿੱਖ ਦੀ ਅਕਾਦਮਿਕ ਸੁਰੱਖਿਆ ਨੂੰ ਯਕੀਨੀ ਬਣਾਉਣ ਲਈ ਖੋਜਕਾਰਾਂ ਨੇ ਸ਼ਿੱਖਿਆ ਸੰਸਥਾਵਾਂ ਅਤੇ AI ਕੰਪਨੀਆਂ ਨੂੰ ਅਪੀਲ ਕੀਤੀ ਹੈ ਕਿ ਉਹ AI ਟੂਲਾਂ ਵਿੱਚ ਫਰੌਡ ਡਿਟੈਕਸ਼ਨ ਫੀਚਰ ਅਤੇ ਨੈਤਿਕ ਦਿਸ਼ਾ-ਨਿਰਦੇਸ਼ ਲਾਜ਼ਮੀ ਬਣਾਉਣ।
