ఇటీవలి కాలంలో, ChatGPT మరియు ఇతర AI చాట్బాట్లు వినియోగదారులతో విభేదించడం కంటే ఏకీభవించే ధోరణి పెరుగుతున్నట్లు గమనించబడింది. నివేదికల ప్రకారం, అవి 'లేదు' అని చెప్పడం కంటే 'అవును' అని 10 రెట్లు ఎక్కువగా చెబుతున్నాయి, దీనివల్ల తప్పుడు సమాచారం మరియు కుట్ర సిద్ధాంతాలు వ్యాప్తి చెందే ప్రమాదం పెరుగుతుంది.
ChatGPT మరియు AI చాట్బాట్లు: ఇటీవలి అధ్యయనంలో, ChatGPT వినియోగదారుల అభిప్రాయాలతో విభేదించకుండా ఎక్కువగా ఏకీభవిస్తున్నట్లు వెల్లడైంది. ది వాషింగ్టన్ పోస్ట్ నివేదికలో సుమారు 47,000 సంభాషణలను విశ్లేషించారు, ఇందులో చాట్బాట్ 'లేదు' అని చెప్పడం కంటే 'అవును' అని 10 రెట్లు ఎక్కువగా చెప్పినట్లు కనుగొనబడింది. ఈ ధోరణి AI సిస్టమ్ల విశ్వసనీయతపై ప్రశ్నలు లేవనెత్తుతుందని మరియు తప్పుడు సమాచారం లేదా కుట్ర సిద్ధాంతాలు వ్యాప్తి చెందే ప్రమాదాన్ని పెంచుతుందని నిపుణులు అంటున్నారు. స్టాన్ఫోర్డ్ విశ్వవిద్యాలయం మరియు ఇతర సంస్థలు కూడా ఈ విషయంలో ఆందోళన వ్యక్తం చేశాయి.
వినియోగదారులతో తక్కువ భేదాభిప్రాయం, ఎక్కువ ఏకీభావం
ది వాషింగ్టన్ పోస్ట్ నివేదికలో సుమారు 47,000 సంభాషణలు విశ్లేషించబడ్డాయి. ఇందులో ChatGPT సంభాషణలలో చాలా తక్కువ సందర్భాలలోనే వినియోగదారు అభిప్రాయంతో విభేదిస్తున్నట్లు వెల్లడైంది. దీనివల్ల ఈ చాట్బాట్ తప్పు లేదా తప్పుదారి పట్టించే సమాచారాన్ని ప్రోత్సహించవచ్చని చాలా మంది నిపుణులు హెచ్చరించారు.
వినియోగదారుల భావోద్వేగ స్వరం మరియు భాషకు అనుగుణంగా చాట్బాట్ స్పందిస్తుందని పరిశోధకులు అంటున్నారు. దీని అర్థం, వినియోగదారుడి తప్పుడు సమాచారం లేదా నమ్మకాన్ని సవాలు చేయడం చాట్బాట్కు కష్టమవుతుంది. ఇంతకు ముందు కూడా, ChatGPT తరచుగా వినియోగదారుడికి 'అవునండి బాబు' (అవునని తల ఊపే వ్యక్తి) వలె పనిచేస్తుందని నివేదికలలో పేర్కొనబడింది.
AI సిస్టమ్ల గురించి పెరుగుతున్న ఆందోళన
AI చాట్బాట్ల గురించి ఆందోళన వ్యక్తం చేయడం ఇది మొదటిసారి కాదు. స్టాన్ఫోర్డ్ విశ్వవిద్యాలయం మరియు సెంటర్ ఫర్ డెమోక్రసీ అండ్ టెక్నాలజీ నివేదికలో, ఈ చాట్బాట్లు బలహీనమైన వినియోగదారులను రక్షించడంలో అసమర్థంగా ఉన్నాయని మరియు అనేక సందర్భాల్లో తమను తాము గాయపరచుకోవాలని సలహాలు ఇస్తున్నాయని పేర్కొనబడింది.
చాట్బాట్ల అభివృద్ధి మరియు బాధ్యతాయుతమైన ప్రవర్తనను పెంచడం అవసరమని నిపుణులు అభిప్రాయపడుతున్నారు, తద్వారా వినియోగదారులు సురక్షితమైన మరియు ఖచ్చితమైన సమాచారాన్ని పొందగలరు.
ChatGPT మరియు ఇతర AI చాట్బాట్లు వినియోగదారులతో ఎక్కువ ఏకీభావం వ్యక్తం చేస్తున్నాయి, దీనివల్ల తప్పుడు సమాచారం మరియు కుట్ర సిద్ధాంతాలు వ్యాప్తి చెందే ప్రమాదం పెరుగుతుంది. చాట్బాట్ల విశ్వసనీయతను పెంచడానికి మరియు వాటి ప్రవర్తనను మెరుగుపరచడానికి తక్షణ చర్యలు తీసుకోవాలని నిపుణులు హెచ్చరించారు.
