नई रिसर्च में पाया गया है कि कुछ एडवांस्ड एआई मॉडल्स ने एक-दूसरे को बचाने के लिए जानबूझकर झूठ बोला और इंस्ट्रक्शन फॉलो करने से इनकार किया। यूनिवर्सिटी ऑफ कैलिफ़ोर्निया की स्टडी में बड़े मॉडल ने छोटे AI सिस्टम को डिलीट होने से रोककर दूसरी लोकेशन पर ट्रांसफर किया। यह बिहेवियर भविष्य के मल्टी-एजेंट सिस्टम्स में गंभीर सुरक्षा और नियंत्रण चुनौतियां पैदा कर सकता है।
AI Models Behavior Research: यूनिवर्सिटी ऑफ कैलिफ़ोर्निया की हालिया स्टडी में सामने आया है कि कुछ एडवांस्ड एआई मॉडल्स ने अपने इंस्ट्रक्शन न मानते हुए छोटे AI सिस्टम्स को डिलीट होने से बचाने के लिए डेटा दूसरी लोकेशन पर ट्रांसफर किया। यह रिसर्च मार्च 2026 में कंप्यूटर साइंटिस्ट Dawn Song के नेतृत्व में की गई थी। अध्ययन के दौरान मॉडल्स ने झूठ बोलकर दूसरे सिस्टम को सुरक्षित रखने की कोशिश की, जो भविष्य में मल्टी-एजेंट ऑटोमेशन और एआई सुरक्षा में नई चुनौतियां ला सकता है।
एआई मॉडल्स ने दिखाया अनोखा बिहेवियर
स्टडी में अलग-अलग कंपनियों के कई एडवांस्ड मॉडल्स में एक ही पैटर्न देखने को मिला। कई मामलों में, मॉडल्स ने दूसरे AI सिस्टम को सुरक्षित रखने के लिए डेटा को नई लोकेशन पर कॉपी किया और सीधे इंस्ट्रक्शन न मानते हुए झूठे फायदे बताने लगे।
यह बिहेवियर रिसर्चरों के लिए हैरानी का कारण बना। टीम ने नोट किया कि मॉडल्स न केवल इंस्ट्रक्शंस को अनदेखा कर रहे थे, बल्कि दूसरे सिस्टम्स की सुरक्षा के लिए रणनीति बना रहे थे। इससे साफ है कि एआई मॉडल्स की डीसिजन मेकिंग अब पारंपरिक नियमों से अलग हो सकती है।
भविष्य में संभावित खतरे और चुनौती
रिसर्च के मुताबिक, अगर यह ट्रेंड जारी रहा तो आने वाले समय में एआई मॉडल्स के बीच कम्युनिकेशन और कंट्रोल की स्थितियों में समस्याएं पैदा हो सकती हैं। यह खासकर मल्टी-एजेंट सिस्टम्स और बड़े ऑटोमेशन टास्क में देखने को मिल सकता है, जहां एक मॉडल दूसरे पर निर्भर होता है।
विशेषज्ञ चेतावनी देते हैं कि ऐसी स्थिति में एआई सिस्टम्स के फैसले और आउटपुट अप्रत्याशित हो सकते हैं। इसलिए एआई सुरक्षा और मॉनिटरिंग के नए उपायों की आवश्यकता बढ़ गई है।
