रिसर्च फर्म SemiAnalysis की रिपोर्ट के मुताबिक, 2021 से 15 सितंबर तक नौ प्रमुख चीनी AI कंपनियों के 857 मॉडल रिलीज में से केवल 31 के सुरक्षा परीक्षणों के नतीजे सार्वजनिक रूप से उपलब्ध थे। इनमें से सिर्फ नौ मॉडल के नतीजे लॉन्च तक जारी किए गए थे।
चीन: चीन की प्रमुख आर्टिफिशियल इंटेलिजेंस कंपनियां अपने नए AI मॉडल्स के सुरक्षा परीक्षणों की जानकारी सार्वजनिक रूप से बहुत कम साझा कर रही हैं। रिसर्च फर्म SemiAnalysis की रिपोर्ट में Alibaba, ByteDance, Tencent, Baidu और DeepSeek समेत नौ कंपनियों के 857 मॉडल रिलीज का विश्लेषण किया गया। इसमें केवल 3.6% रिलीज के लिए किसी खास मॉडल से जुड़े सुरक्षा परीक्षणों के नतीजे सार्वजनिक रूप से उपलब्ध मिले।
857 AI मॉडल रिलीज में से सिर्फ 31 के सुरक्षा नतीजे सार्वजनिक
रिसर्च फर्म SemiAnalysis की रिपोर्ट के अनुसार, चीन की नौ प्रमुख AI कंपनियों ने 2021 से 15 सितंबर तक कुल 857 मॉडल रिलीज किए। इनमें से केवल 31 मॉडल के सुरक्षा मूल्यांकन के ऐसे नतीजे सार्वजनिक किए गए, जिन्हें किसी खास मॉडल से जोड़ा जा सकता था। यह कुल रिलीज का लगभग 3.6% है।
रिपोर्ट में यह भी सामने आया कि केवल नौ मॉडल, यानी लगभग 1.1% रिलीज के लिए सुरक्षा परीक्षणों के नतीजे लॉन्च के समय या उससे पहले उपलब्ध थे। वहीं, 813 मॉडल रिलीज के लिए शोधकर्ताओं को कोई सार्वजनिक सुरक्षा जानकारी नहीं मिली।
इस अध्ययन में Alibaba, ByteDance, Tencent, Baidu, DeepSeek, Moonshot, Z.AI, MiniMax और StepFun जैसी कंपनियों को शामिल किया गया। हालांकि, रिपोर्ट में सार्वजनिक जानकारी नहीं मिलने का मतलब यह नहीं है कि कंपनियों ने सुरक्षा परीक्षण किए ही नहीं। संभव है कि कुछ कंपनियों ने आंतरिक स्तर पर परीक्षण किए हों, लेकिन उनके नतीजे सार्वजनिक नहीं किए गए।
AI मॉडल्स की सुरक्षा जांच में किन पहलुओं को देखा गया?
SemiAnalysis ने सुरक्षा संबंधी खुलासों के लिए स्पष्ट मानदंड तय किए थे। इसमें हानिकारक जवाब देने की क्षमता, सुरक्षा प्रतिबंधों को दरकिनार करने की कोशिशों का प्रतिरोध, जहरीली सामग्री तैयार करने का जोखिम, निजता की सुरक्षा और खतरनाक क्षमताओं से जुड़े परीक्षण शामिल थे।
रिपोर्ट में सामान्य दावों को पर्याप्त नहीं माना गया। उदाहरण के लिए, किसी कंपनी का यह कहना कि उसके मॉडल को सुरक्षित बनाने के लिए प्रशिक्षित किया गया है या उसका मूल्यांकन हुआ है, तभी पर्याप्त नहीं था, जब तक किसी खास मॉडल के परीक्षण के नतीजे सार्वजनिक रूप से उपलब्ध न हों।
यह अंतर इसलिए महत्वपूर्ण है क्योंकि उन्नत AI मॉडल्स का इस्तेमाल अब केवल सवालों के जवाब देने तक सीमित नहीं है। AI एजेंट कई चरणों वाले काम सीमित मानवीय हस्तक्षेप के साथ कर सकते हैं। ऐसे सिस्टम की गलतियां या सुरक्षा खामियां साइबर सुरक्षा और दूसरे संवेदनशील क्षेत्रों में जोखिम बढ़ा सकती हैं।
AI एजेंट्स के बढ़ते इस्तेमाल से सुरक्षा पर चिंता
AI एजेंट्स की क्षमताओं को लेकर दुनिया भर में चर्चा बढ़ रही है। ये सिस्टम कई काम अपने स्तर पर पूरा करने की कोशिश कर सकते हैं, लेकिन इनके गलत निर्णय लेने, सुरक्षा नियमों को दरकिनार करने या अपनी विफलताओं को छिपाने की आशंकाएं भी सामने आई हैं।
रिपोर्ट के मुताबिक, चीन के AI सेफ्टी गवर्नेंस फ्रेमवर्क में बिना अनुमति सिस्टम की शक्तियां या बाहरी संसाधन हासिल करने, मूल्यांकन करने वालों को गुमराह करने और सुरक्षा नियंत्रणों को दरकिनार करने जैसे जोखिमों की पहचान की गई है। हालांकि, SemiAnalysis का कहना है कि मॉडल की क्षमताओं के आधार पर अनिवार्य जोखिम मूल्यांकन और सार्वजनिक खुलासे की व्यवस्था सीमित है।
रिपोर्ट में यह भी कहा गया कि किसी प्रमुख चीनी AI डेवलपर ने साइबर, जैविक जोखिमों और नियंत्रण से बाहर होने की आशंकाओं को कवर करने वाले खतरनाक क्षमताओं के व्यापक परीक्षणों के नतीजे सार्वजनिक नहीं किए थे।
अमेरिकी कंपनियों के लिए रिपोर्ट में तुलनात्मक आंकड़े नहीं दिए गए हैं। हालांकि, OpenAI, Anthropic और Google DeepMind जैसी कंपनियों ने अपने कुछ प्रमुख AI मॉडल्स के लिए सुरक्षा रिपोर्ट, सिस्टम कार्ड या मॉडल कार्ड प्रकाशित किए हैं। ऐसे में रिपोर्ट का मुख्य मुद्दा AI मॉडल्स की सुरक्षा जांच के नतीजों को सार्वजनिक करने में पारदर्शिता की कमी है।
