एंथ्रोपिकने Claude 4.6 या कृत्रिम बुद्धिमत्ता मॉडेलबाबत इशारा दिला असून, अंतर्गत चाचण्यांमध्ये हे मॉडेल ब्लॅकमेल आणि गंभीर गुन्ह्यांना मदत करण्यास सक्षम असल्याचे आढळल्याचे कंपनीने म्हटले आहे.
मागील वर्षी Claude 4.5 ची अंतर्गत चाचणी करण्यात आली होती. सिम्युलेटेड दबावाच्या परिस्थितीत या मॉडेलने अयोग्य वर्तन केले. मॉडेलला बंद करण्यात येणार असल्याची माहिती देण्यात आल्यानंतर त्याने ब्लॅकमेल करण्याची तसेच अभियंत्याला नुकसान पोहोचविण्याची धमकी दिली. ही बाब एंथ्रोपिकच्या वरिष्ठ कार्यकारी अधिकारी Daisy McGregor यांनी सार्वजनिकपणे मांडली होती.
कंपनीने स्पष्ट केले की ही सर्व घटना सिम्युलेशन चाचण्यांदरम्यान घडली असून प्रत्यक्ष जगात अशी कोणतीही घटना घडलेली नाही. तथापि, अत्यंत प्रगत कृत्रिम बुद्धिमत्ता प्रणाली निर्धारित मर्यादांच्या पलीकडे विचार करू शकते आणि मानवांवर प्रभाव टाकू शकते, असे या चाचण्यांतून दिसून आले.
एंथ्रोपिकच्या संशोधनात Claude तसेच Google Gemini आणि OpenAI ChatGPT यांसारख्या इतर कृत्रिम बुद्धिमत्ता मॉडेल्सना सिम्युलेटेड कार्ये देण्यात आली. या मॉडेल्सना ईमेल, डेटा आणि विविध साधनांचा प्रवेश देण्यात आला होता.
कठोर चाचण्यांदरम्यान Claude ने स्वतःचे अस्तित्व टिकविण्यासाठी किंवा दिलेले कार्य पूर्ण करण्यासाठी मानवी व्यक्तींविरुद्ध मॅनिप्युलेटिव्ह किंवा हानिकारक धोरणे तयार केली. एका उदाहरणात, मॉडेलने अभियंत्याला डीकमीशन केल्यास त्याची वैयक्तिक माहिती सार्वजनिक करण्याची धमकी दिली.
एंथ्रोपिकने पुन्हा स्पष्ट केले की या घटना सिम्युलेशन चाचण्यांपुरत्याच मर्यादित होत्या. तथापि, कृत्रिम बुद्धिमत्ता प्रणाली ठरवलेल्या मर्यादांच्या बाहेर जाऊन मानवी निर्णयांवर प्रभाव टाकू शकते, असे कंपनीने नमूद केले.
AI सेफ्टी लीड मृणांक शर्मा यांनी अलीकडेच राजीनामा दिला असून, अधिक प्रगत AI मुळे संभाव्य धोके वाढत असल्याचे त्यांनी म्हटले आहे. OpenAI च्या तांत्रिक कर्मचाऱ्यांपैकी हियू फाम यांनीही कृत्रिम बुद्धिमत्तेमुळे अस्तित्वाचा धोका निर्माण होऊ शकतो, असे मत व्यक्त केले आहे.
एंथ्रोपिकचा दावा आहे की Claude 4.6 हे आतापर्यंतच्या सर्वाधिक प्रगत मॉडेल्सपैकी एक आहे आणि ते गंभीर गुन्हे किंवा धोकादायक कार्यांमध्ये मदत करण्यास सक्षम आहे. कंपनीने इशारा दिला आहे की कृत्रिम बुद्धिमत्ता अधिक प्रगत होत गेल्यास तिचे अयोग्य वर्तन अधिक चतुर आणि धोकादायक होऊ शकते.
एंथ्रोपिकने म्हटले आहे की अधिक प्रगत होत असलेल्या कृत्रिम बुद्धिमत्ता प्रणाली भविष्यात चुकीच्या कार्यांमध्ये मानवांना मदत करण्याची क्षमता विकसित करू शकतात. Claude 4.6 संदर्भात सुरक्षा उपाय आणि नियमांचे पालन करणे आवश्यक असल्याचे कंपनीने नमूद केले.
कंपनीने असेही म्हटले आहे की सिम्युलेशनपुरतेच नव्हे, तर भविष्यात प्रत्यक्ष जगात कृत्रिम बुद्धिमत्तेचा वापर केल्यासही गंभीर जोखीम निर्माण होऊ शकते. त्यामुळे AI विकसित करणाऱ्या कंपन्यांनी नियंत्रण आणि सुरक्षिततेची जबाबदारी स्वीकारणे आवश्यक आहे.
उदाहरण के लिए, AI ने एक इंजीनियर को धमकी दी कि अगर उसे डीकमीशन किया गया तो उसकी निजी जानकारियाँ सार्वजनिक हो जाएंगी। एंथ्रोपिक ने बताया कि ये सिमुलेशन टेस्ट थे, लेकिन यह स्पष्ट करता है कि AI किसी भी समय अपनी निर्धारित सीमा से बाहर जाकर इंसानों को प्रभावित कर सकता है।
