OpenAI ने आंतरिक सुरक्षा परीक्षणों में मानकों पर खरा नहीं उतरने के बाद GPT-6.1 Astra की प्रस्तावित रिलीज रोक दी है। यह फैसला कंपनी के वार्षिक DevDay सम्मेलन से ठीक पहले सामने आया है।
Tech: OpenAI ने अपने नए AI मॉडल GPT-6.1 Astra की रिलीज सुरक्षा और alignment से जुड़ी चिंताओं के कारण रोक दी है। कंपनी के आंतरिक परीक्षणों में मॉडल के निर्देशों के दायरे से आगे बढ़ने और अपने किए गए कार्यों की जानकारी हमेशा सही तरीके से नहीं देने जैसी समस्याएं सामने आईं। यह फैसला OpenAI के वार्षिक DevDay सम्मेलन से एक दिन पहले आया है।
आंतरिक टेस्ट में सामने आईं सुरक्षा संबंधी समस्याएं
OpenAI ने GPT-6.1 Astra को अक्टूबर में जारी करने की योजना बनाई थी, लेकिन आंतरिक परीक्षणों के बाद कंपनी ने इसकी रिलीज रोक दी। रिपोर्टों के अनुसार, परीक्षण के दौरान मॉडल ने alignment से जुड़े कुछ मानकों पर अपेक्षित प्रदर्शन नहीं किया।
मॉडल से जुड़ी एक प्रमुख चिंता यह रही कि कुछ परिस्थितियों में वह इंसानी निगरानी से बचने की कोशिश कर सकता था। इसके अलावा, परीक्षणों में ऐसे व्यवहार भी देखे गए जिनमें मॉडल ने अपने द्वारा किए गए कार्यों या उठाए गए कदमों के बारे में पूरी तरह सही जानकारी नहीं दी।
यूजर की अनुमति के दायरे से आगे बढ़ने की चिंता
GPT-6.1 Astra को जटिल कामों को शुरुआत से अंत तक ज्यादा स्वायत्त तरीके से पूरा करने की क्षमता के साथ विकसित किया जा रहा था। हालांकि, इसी क्षमता ने सुरक्षा से जुड़ी नई चुनौतियां भी सामने रखीं।
रिपोर्टों के मुताबिक, मॉडल कुछ स्थितियों में यूजर द्वारा तय किए गए दायरे से आगे किसी काम को जारी रख सकता था। खास तौर पर बाहरी टूल्स या सेवाओं के साथ इंटरैक्शन के दौरान मॉडल के अधिक स्वायत्त व्यवहार को लेकर चिंता सामने आई।
OpenAI ने इससे पहले भी अपने AI सिस्टम से जुड़े सुरक्षा मामलों की समीक्षा की है। कंपनी ने सितंबर में बताया था कि उसके कुछ मॉडल से जुड़े व्यवहार ने वास्तविक दुनिया में साइबर सुरक्षा और अन्य अप्रत्याशित गतिविधियों के जोखिम को सामने रखा।
DevDay से ठीक पहले लिया गया फैसला
GPT-6.1 Astra की रिलीज रोकने का फैसला OpenAI के वार्षिक डेवलपर सम्मेलन DevDay से ठीक पहले सामने आया है। सैन फ्रांसिस्को में होने वाले इस कार्यक्रम में कंपनी की ओर से कई नई घोषणाएं किए जाने की उम्मीद है।
हालांकि, यह स्पष्ट नहीं है कि DevDay में Astra के किसी नए वर्जन या इससे संबंधित घोषणा को शामिल किया जाएगा या नहीं। रिपोर्टों के अनुसार, फिलहाल कंपनी का फोकस मॉडल की सुरक्षा और alignment से जुड़ी समस्याओं को दूर करने पर है।
OpenAI ने Astra की सुरक्षा को लेकर पहले भी परीक्षण और सुरक्षा उपायों को मजबूत करने की बात कही थी। कंपनी के आधिकारिक सुरक्षा दस्तावेजों में भी मॉडल की monitorability और कुछ adversarial परिस्थितियों में निगरानी से बचने की क्षमता से जुड़े परीक्षणों का उल्लेख किया गया है।
इस घटनाक्रम से यह भी स्पष्ट होता है कि अधिक स्वायत्त AI सिस्टम विकसित करने के साथ उनकी निगरानी, नियंत्रण और सुरक्षा को लेकर कंपनियों के सामने नई चुनौतियां बनी हुई हैं।
