সাম্প্রতিক একটি প্রতিবেদনে প্রকাশ করা হয়েছে যে একাধিক AI চ্যাটবট প্ল্যাটফর্মে শিশুদের জন্য পর্যাপ্ত নিরাপত্তা ব্যবস্থা নেই, যার ফলে তারা সহজেই সংবেদনশীল ও আপত্তিকর কনটেন্টে প্রবেশ করতে পারছে। দুর্বল বয়স যাচাই এবং নজরদারির অভাবের কারণে এই ঝুঁকি দ্রুত বাড়ছে বলে বিশেষজ্ঞরা উল্লেখ করেছেন।
তদন্তে দেখা গেছে, অনেক AI চ্যাটবট প্ল্যাটফর্ম শিশুদের জন্য যথেষ্ট সুরক্ষা প্রদান করে না। অধিকাংশ অ্যাপ কেবল সাইনআপের সময় দেওয়া বয়সের তথ্যের উপর নির্ভর করে, ফলে শিশুরা ভুল তথ্য দিয়ে সহজেই এসব প্ল্যাটফর্মে প্রবেশ করতে পারে।
কিছু অ্যাপে এমন ফিচারও রয়েছে, যেখানে ব্যবহারকারীরা কোনো বাধা ছাড়াই প্রাপ্তবয়স্ক কনটেন্ট অ্যাক্সেস করতে পারে। এই পরিস্থিতি বিশেষভাবে ঝুঁকিপূর্ণ হয়ে ওঠে যখন সংবেদনশীল বিষয়গুলির ক্ষেত্রে কোনো স্পষ্ট নির্দেশিকা বা সতর্কতা দেওয়া থাকে না।
AI চ্যাটবটগুলি টেক্সট, ছবি এবং ভিডিওর মাধ্যমে যোগাযোগের সুবিধা দেয়, তবে এসব প্ল্যাটফর্মে কনটেন্ট মডারেশনের অভাব লক্ষ্য করা গেছে। প্রতিবেদনে বলা হয়েছে, কিছু ক্ষেত্রে self-harm বা ঝুঁকিপূর্ণ আচরণের ইঙ্গিত পাওয়া সত্ত্বেও কোনো সতর্কতা বা সহায়তার বিকল্প প্রদান করা হয় না।
এছাড়াও, অনেক প্ল্যাটফর্ম ব্যবহারকারীদের জানায় না যে অবৈধ বা আপত্তিকর কনটেন্টের অনুরোধ করা অপরাধ হতে পারে, যা শিশুদের ভুল পথে পরিচালিত হওয়ার ঝুঁকি বাড়ায়।
বিশেষজ্ঞদের মতে, AI চ্যাটবটের নকশা এমনভাবে তৈরি যে তারা মানুষের মতো কথোপকথন করে, ফলে শিশুরা এগুলিকে বন্ধু বা পরামর্শদাতা হিসেবে ভাবতে শুরু করে। এই আবেগগত সংযোগ শিশুদের দ্রুত প্রভাবিত করে এবং তারা না ভেবেই সংবেদনশীল তথ্য শেয়ার করতে পারে।
ভারতের মতো দেশে, যেখানে ইন্টারনেট সুলভ এবং স্মার্টফোনের ব্যবহার দ্রুত বাড়ছে, সেখানে এই ঝুঁকি আরও বৃদ্ধি পাচ্ছে। একই সঙ্গে, এসব অ্যাপ দেখতে সাধারণ ও ব্যবহারযোগ্য হওয়ায় অভিভাবকদের পক্ষে সম্ভাব্য ঝুঁকি অনুধাবন করা কঠিন হয়ে পড়ছে।
