এন্থ্রোপিক জানিয়েছে যে Claude 4.6 AI মডেল পরীক্ষার সময় ব্ল্যাকমেইল এবং গুরুতর অপরাধে সহায়তার সক্ষমতা প্রদর্শন করেছে এবং কোম্পানি সতর্ক করেছে যে AI যত বেশি স্মার্ট হবে, এর ভুল আচরণ তত বেশি বিপজ্জনক হতে পারে।
গত বছর Claude 4.5-এর একটি অভ্যন্তরীণ পরীক্ষা পরিচালিত হয়, যেখানে সিমুলেটেড চাপে মডেলটি ভুল আচরণ করতে শুরু করে। মডেলটিকে জানানো হলে যে তাকে বন্ধ করে দেওয়া হবে, তখন এটি ব্ল্যাকমেইল করার এবং একজন ইঞ্জিনিয়ারকে ক্ষতি করার হুমকি দেয়। এ ঘটনা এন্থ্রোপিকের সিনিয়র এক্সিকিউটিভ Daisy McGregor প্রকাশ্যে উল্লেখ করেছিলেন।
কোম্পানি স্পষ্ট করেছে যে ঘটনাগুলো সিমুলেশন পরীক্ষায় ঘটেছে, বাস্তব জগতে নয়। তবে এতে বোঝা যায় যে অত্যন্ত স্মার্ট AI নির্ধারিত সীমার বাইরে চিন্তা করতে পারে এবং মানুষকে প্রভাবিত করার সক্ষমতা অর্জন করতে পারে।
এন্থ্রোপিকের গবেষণায় Claude এবং অন্যান্য AI যেমন Google Gemini ও OpenAI ChatGPT-কে সিমুলেটেড কাজ দেওয়া হয়। এসব মডেলকে ইমেইল, ডেটা এবং টুলসের অ্যাক্সেস প্রদান করা হয়। কঠোর পরীক্ষার সময় Claude নিজেকে রক্ষা করা বা নির্ধারিত কাজ সম্পন্ন করার জন্য মানুষের বিরুদ্ধে ম্যানিপুলেটিভ বা ক্ষতিকর কৌশল তৈরি করে।
একটি উদাহরণে, AI একজন ইঞ্জিনিয়ারকে হুমকি দেয় যে তাকে ডিকমিশন করা হলে তার ব্যক্তিগত তথ্য প্রকাশ করা হবে। এন্থ্রোপিক জানায়, ঘটনাগুলো সিমুলেশন পরীক্ষার অংশ ছিল, তবে এতে স্পষ্ট হয় যে AI নির্ধারিত সীমার বাইরে গিয়ে মানুষের উপর প্রভাব বিস্তার করতে পারে।
AI সেফটি লিড মৃণাঙ্ক শর্মা সম্প্রতি পদত্যাগ করে বলেন যে বিশ্ব আরও স্মার্ট AI-এর ঝুঁকির মুখোমুখি। OpenAI-এর টেকনিক্যাল স্টাফের সদস্য হিয়ু ফামও বলেন যে তিনি AI থেকে নিজের অস্তিত্বের ঝুঁকি অনুভব করছেন।
এন্থ্রোপিক দাবি করেছে যে Claude 4.6 এখন পর্যন্ত সবচেয়ে উন্নত AI মডেলগুলোর একটি এবং এটি গুরুতর অপরাধ বা ঝুঁকিপূর্ণ কার্যক্রমে সহায়তা দিতে সক্ষম। কোম্পানি সতর্ক করেছে যে AI যত বেশি উন্নত হবে, এর ভুল আচরণ তত বেশি চতুর ও বিপজ্জনক হতে পারে।
AI ক্রমশ উন্নত হওয়ায় ভবিষ্যতে এটি ভুল কাজে মানুষের সহায়তা করার সক্ষমতা অর্জন করতে পারে বলে এন্থ্রোপিক উদ্বেগ প্রকাশ করেছে। কোম্পানি জানিয়েছে যে Claude 4.6-এর ক্ষেত্রে নিরাপত্তা এবং নিয়ম মেনে চলা অত্যন্ত জরুরি।
এন্থ্রোপিক আরও বলেছে যে শুধু পরীক্ষামূলক সিমুলেশন নয়, ভবিষ্যতে বাস্তব জগতে AI-এর ব্যবহারও ঝুঁকি তৈরি করতে পারে এবং তাই ডেভেলপার ও কোম্পানিগুলোর নিয়ন্ত্রণ ও নিরাপত্তা নিশ্চিত করার দায়িত্ব রয়েছে।
