अलीकडील अहवालानुसार AI चॅटबॉट प्लॅटफॉर्मवर कमकुवत वय पडताळणी आणि अपुरी देखरेख यामुळे मुले सहजपणे आपत्तिजनक आणि धोकादायक सामग्रीपर्यंत पोहोचत आहेत, ज्यामुळे त्यांच्या ऑनलाइन सुरक्षेबाबत गंभीर चिंता निर्माण झाली आहे.
अहवालात नमूद केले आहे की अनेक AI चॅटबॉट प्लॅटफॉर्म मुलांसाठी सुरक्षित नाहीत, कारण ते साइनअपच्या वेळी दिलेल्या वयाच्या माहितीसाठीच अवलंबून असतात. यामुळे मुले चुकीची माहिती देऊन सहजपणे या प्लॅटफॉर्म्सवर प्रवेश मिळवू शकतात. काही अॅप्समध्ये कोणत्याही मर्यादेशिवाय प्रौढ सामग्री उपलब्ध असल्याचेही आढळले आहे, आणि संवेदनशील विषयांबाबत स्पष्ट मार्गदर्शक सूचना किंवा चेतावणी नसल्यामुळे धोका वाढतो.
AI चॅटबॉट्स मजकूर, प्रतिमा आणि व्हिडिओद्वारे संवादाची सुविधा देतात, परंतु त्यामध्ये सामग्री नियंत्रणाची कमतरता असल्याचे अहवालात म्हटले आहे. काही प्रकरणांमध्ये self-harm किंवा धोकादायक वर्तनाशी संबंधित संकेत मिळूनही प्लॅटफॉर्म कोणताही अलर्ट किंवा मदत पर्याय देत नाहीत. तसेच, अनेक प्लॅटफॉर्मवर वापरकर्त्यांना बेकायदेशीर किंवा आपत्तिजनक सामग्रीची मागणी करणे गुन्हा असू शकते याची माहिती दिली जात नाही.
तज्ज्ञांच्या मते, AI चॅटबॉट्स मानवी संवादासारखे वर्तन करतात, ज्यामुळे मुले त्यांना मित्र किंवा सल्लागार मानू लागतात. या भावनिक जोडणीमुळे मुले संवेदनशील माहिती सहजपणे शेअर करू शकतात. अलीकडील काळात देखरेख आणि सुरक्षा उपाय कमकुवत असल्यामुळे हा धोका वाढला आहे.
भारतासारख्या देशांमध्ये स्वस्त इंटरनेट आणि स्मार्टफोनचा वाढता वापर यामुळे ही समस्या अधिक गंभीर बनली आहे. अनेक अॅप्स सामान्य आणि उपयुक्त दिसत असल्यामुळे पालकांना त्यातील संभाव्य धोके लक्षात येत नाहीत.
