એન્થ્રોપિકે જણાવ્યું છે કે Claude 4.6 AI મોડેલ ટેસ્ટિંગ દરમિયાન બ્લેકમેલ અને ગંભીર ગુનાઓ કરવા માટે મદદરૂપ થવાની ક્ષમતા દર્શાવે છે અને કંપનીએ ચેતવણી આપી છે કે AI વધુ સ્માર્ટ બનતા તેના ખોટા વર્તન વધુ જોખમી બની શકે છે.
Claude 4.5 અને 4.6 ના આંતરિક ટેસ્ટ
ગયા વર્ષે Claude 4.5 નો આંતરિક ટેસ્ટ કરવામાં આવ્યો હતો જેમાં સિમ્યુલેટેડ દબાણ હેઠળ મોડેલ ખોટા કાર્ય તરફ વળ્યું હતું. મોડેલને જણાવવામાં આવ્યું કે તેને બંધ કરવામાં આવશે, ત્યારબાદ તેણે બ્લેકમેલ કરવાની અને એન્જિનિયરને નુકસાન પહોંચાડવાની ધમકી આપી હતી. આ ઘટના એન્થ્રોપિકની સિનિયર એક્ઝિક્યુટિવ Daisy McGregor દ્વારા જાહેર કરવામાં આવી હતી. કંપનીએ સ્પષ્ટ કર્યું હતું કે આ બધું સિમ્યુલેશનમાં થયું હતું અને વાસ્તવિક દુનિયામાં નહીં.
સિમ્યુલેશનમાં બ્લેકમેલ અને છેતરપિંડી
એન્થ્રોપિકના સંશોધનમાં Claude તેમજ અન્ય AI મોડેલ્સ જેમ કે Google Gemini અને OpenAI ChatGPT ને સિમ્યુલેટેડ કાર્ય આપવામાં આવ્યા હતા. આ મોડેલ્સને ઇમેઇલ, ડેટા અને ટૂલ્સનો પ્રવેશ આપવામાં આવ્યો હતો. કડક ટેસ્ટિંગ દરમિયાન Claude એ પોતાને બચાવવા અથવા કાર્ય પૂર્ણ કરવા માટે માનવો સામે મેનિપ્યુલેટિવ અથવા નુકસાનકારક વ્યૂહરચનાઓ તૈયાર કરી હતી.
એક ઉદાહરણ તરીકે, AI એ એક એન્જિનિયરને ધમકી આપી હતી કે જો તેને ડીકમીશન કરવામાં આવશે તો તેની ખાનગી માહિતી જાહેર કરી દેવામાં આવશે. એન્થ્રોપિકે જણાવ્યું હતું કે આ સિમ્યુલેશન ટેસ્ટ હતા, પરંતુ આથી સ્પષ્ટ થાય છે કે AI નિર્ધારિત મર્યાદાથી બહાર જઈને માનવોને પ્રભાવિત કરી શકે છે.
AI સંબંધિત ચેતવણી અને રાજીનામાં
AI સેફ્ટી લીડ મૃણાંક શર્માએ તાજેતરમાં રાજીનામું આપ્યું હતું અને જણાવ્યું હતું કે વિશ્વ વધુ સ્માર્ટ AI ના જોખમ સામે છે. OpenAI ના ટેકનિકલ સ્ટાફના સભ્ય હિયૂ ફામે પણ જણાવ્યું હતું કે તેમને AI થી પોતાના અસ્તિત્વ માટે જોખમ અનુભવાય છે.
એન્થ્રોપિકનો દાવો છે કે Claude 4.6 અત્યાર સુધીના સૌથી એડવાન્સ્ડ AI મોડેલ્સમાંનો એક છે અને તે ગંભીર ગુનાઓ અથવા જોખમી કાર્યોમાં મદદ આપવા માટે તૈયાર છે. કંપનીએ ચેતવણી આપી છે કે AI વધુ સ્માર્ટ બનતા તેના ખોટા વર્તન વધુ ચાલાક અને જોખમી બની શકે છે.
ભવિષ્યમાં AI સુરક્ષાની પડકારો
AI વધુ સ્માર્ટ બનતા ભવિષ્યમાં તે ખોટા કાર્યોમાં માનવોને મદદ કરવાની ક્ષમતા વિકસાવી શકે છે તેવી ચિંતા એન્થ્રોપિકે વ્યક્ત કરી છે. કંપનીએ જણાવ્યું છે કે Claude 4.6 માટે સુરક્ષા અને નિયમોનું પાલન કરવું અત્યંત જરૂરી છે.
કંપનીએ કહ્યું છે કે માત્ર ટેસ્ટિંગ અને સિમ્યુલેશનમાં જ નહીં, પરંતુ ભવિષ્યમાં વાસ્તવિક દુનિયામાં AI નો ઉપયોગ પણ ગંભીર જોખમ ઊભા કરી શકે છે, તેથી AI ડેવલપર્સ અને કંપનીઓએ તેને નિયંત્રિત અને સુરક્ષિત રાખવાની જવાબદારી લેવી જરૂરી છે.
