હાલની એક રિપોર્ટમાં AI ચેટબોટ્સને લઈને બાળકોની ઑનલાઇન સુરક્ષા અંગે ગંભીર પ્રશ્નો ઊભા થયા છે, જેમાં નબળી એજ વેરિફિકેશન અને દેખરેખની અછતના કારણે બાળકો સરળતાથી સંવેદનશીલ અને જોખમી કન્ટેન્ટ સુધી પહોંચી રહ્યા હોવાનું સામે આવ્યું છે।
રિપોર્ટ મુજબ અનેક AI ચેટબોટ પ્લેટફોર્મ્સ બાળકો માટે સુરક્ષિત નથી, જ્યાં કડક ચકાસણી વગર તેઓ સંવેદનશીલ કન્ટેન્ટ સુધી પહોંચ મેળવી શકે છે। આ સમસ્યા વૈશ્વિક સ્તરે સામે આવી છે, ખાસ કરીને તે એપ્સમાં જે બાળકો દ્વારા ઉપયોગમાં લેવાઈ રહી છે। નિષ્ણાતોના અનુસાર, તાજેતરના સમયમાં દેખરેખ અને સુરક્ષા ઉપાયોની નબળાઈને કારણે આ જોખમ ઝડપથી વધી રહ્યું છે, જે બાળકોની માનસિક અને ડિજિટલ સુરક્ષાને અસર કરી શકે છે।
તપાસમાં જાણવા મળ્યું છે કે ઘણા AI ચેટબોટ પ્લેટફોર્મ્સ પર બાળકો માટે પૂરતા સુરક્ષા ઉપાયો નથી। મોટાભાગની એપ્સ માત્ર સાઇનઅપ દરમિયાન આપવામાં આવેલી ઉંમરની માહિતી પર આધાર રાખે છે, જેના કારણે બાળકો ખોટી માહિતી આપીને સરળતાથી આ પ્લેટફોર્મ્સનો ઉપયોગ કરી શકે છે।
કેટલીક એપ્સમાં એવા ફીચર્સ પણ છે જ્યાં યુઝર્સ કોઈ પ્રતિબંધ વિના એડલ્ટ કન્ટેન્ટ એક્સેસ કરી શકે છે। આવી સ્થિતિ ખાસ કરીને ત્યારે જોખમી બની જાય છે જ્યારે પ્લેટફોર્મ પર સંવેદનશીલ વિષયો અંગે કોઈ સ્પષ્ટ માર્ગદર્શિકા અથવા ચેતવણી ઉપલબ્ધ ન હોય।
AI ચેટબોટ્સ ટેક્સ્ટ, ઈમેજ અને વિડિયો દ્વારા સંવાદની સુવિધા આપે છે, પરંતુ તેમાં કન્ટેન્ટ મૉડરેશનની અછત જોવા મળી છે। રિપોર્ટ મુજબ કેટલાક કેસોમાં self-harm અથવા જોખમી વર્તન સાથે સંબંધિત સંકેતો મળ્યા છતાં પ્લેટફોર્મ કોઈ એલર્ટ અથવા મદદનો વિકલ્પ પ્રદાન કરતા નથી।
તે ઉપરાંત, ઘણા પ્લેટફોર્મ્સ પર યુઝર્સને એ બાબતની માહિતી આપવામાં આવતી નથી કે ગેરકાયદેસર અથવા અપત્તિજનક કન્ટેન્ટની માંગ કરવી ગુનો બની શકે છે, જેના કારણે બાળકોના ખોટી દિશામાં જવાના જોખમમાં વધારો થાય છે।
નિષ્ણાતોના અનુસાર, AI ચેટબોટ્સનું ડિઝાઇન એવું હોય છે કે તે માનવોની જેમ સંવાદ કરે છે, જેના કારણે બાળકો તેમને મિત્ર અથવા સલાહકાર તરીકે માનવા લાગે છે। આ ભાવનાત્મક જોડાણ બાળકોને ઝડપી અસર કરે છે અને તેઓ વિચાર્યા વિના સંવેદનશીલ માહિતી શેર કરી શકે છે।
ભારત જેવા દેશોમાં, જ્યાં ઇન્ટરનેટ સસ્તું છે અને સ્માર્ટફોનની પહોંચ ઝડપથી વધી રહી છે, ત્યાં આ જોખમ વધુ વધી શકે છે। સાથે સાથે, આ એપ્સ દેખાવમાં સામાન્ય અને ઉપયોગી લાગતી હોવાને કારણે માતા-પિતાને તેમાં રહેલા સંભવિત જોખમોની જાણ થતી નથી।
