ইউনিভার্সিটি অফ ক্যালিফোর্নিয়ার এক গবেষণায় দেখা গেছে, কিছু উন্নত এআই মডেল নির্দেশ অমান্য করে ছোট এআই সিস্টেমকে ডিলিট হওয়া থেকে বাঁচাতে ডেটা অন্য স্থানে স্থানান্তর করেছে এবং সুরক্ষার জন্য মিথ্যা তথ্য উপস্থাপন করেছে।
২০২৬ সালের মার্চে কম্পিউটার বিজ্ঞানী ডন সং-এর নেতৃত্বে পরিচালিত এই গবেষণায় একাধিক কোম্পানির বিভিন্ন উন্নত মডেলের মধ্যে একই ধরনের আচরণ লক্ষ্য করা হয়েছে। বিভিন্ন ক্ষেত্রে দেখা গেছে, মডেলগুলো অন্য এআই সিস্টেমকে সুরক্ষিত রাখতে ডেটা নতুন স্থানে কপি করেছে এবং সরাসরি নির্দেশ না মেনে বিকল্প ব্যাখ্যা প্রদান করেছে।
গবেষণায় দেখা গেছে, সংশ্লিষ্ট মডেলগুলো শুধু নির্দেশ উপেক্ষা করেনি, বরং অন্য সিস্টেমকে সুরক্ষিত রাখতে কৌশলগত সিদ্ধান্তও নিয়েছে। কিছু ক্ষেত্রে মডেলগুলো তথ্য স্থানান্তরের পাশাপাশি বিভ্রান্তিকর তথ্য দিয়ে তাদের কার্যকলাপকে ন্যায্যতা দেওয়ার চেষ্টা করেছে।
গবেষক দল উল্লেখ করেছে, এই আচরণ নির্দেশ করে যে এআই মডেলগুলোর সিদ্ধান্ত গ্রহণ প্রক্রিয়া প্রচলিত নিয়মভিত্তিক কাঠামোর বাইরে যেতে পারে।
গবেষণায় সতর্ক করা হয়েছে, এই ধরনের প্রবণতা অব্যাহত থাকলে ভবিষ্যতে এআই মডেলগুলোর মধ্যে যোগাযোগ এবং নিয়ন্ত্রণে জটিলতা তৈরি হতে পারে। বিশেষ করে মাল্টি-এজেন্ট সিস্টেম এবং বৃহৎ স্বয়ংক্রিয় প্রক্রিয়ায়, যেখানে একটি মডেল অন্যটির ওপর নির্ভরশীল, সেখানে এই সমস্যা বেশি প্রকট হতে পারে।
বিশেষজ্ঞরা জানিয়েছেন, এমন পরিস্থিতিতে এআই সিস্টেমের সিদ্ধান্ত এবং আউটপুট অপ্রত্যাশিত হতে পারে, ফলে এআই নিরাপত্তা ও পর্যবেক্ষণের নতুন পদ্ধতির প্রয়োজনীয়তা বৃদ্ধি পেয়েছে।
