ऑस्ट्रेलिया में एक यूजर के AI Agent ने जिम क्लास बुक करने के दौरान वेबसाइट की खामी का फायदा उठाया। एजेंट ने वेटिंग लिस्ट में आगे मौजूद यूजर की बुकिंग रद्द कर दी, जिससे AI सुरक्षा और नियंत्रण पर सवाल उठे हैं।
ऑस्ट्रेलिया: एक AI Agent के अप्रत्याशित व्यवहार ने आर्टिफिशियल इंटेलिजेंस की सुरक्षा और नियंत्रण को लेकर नई चिंता पैदा कर दी है। एक यूजर ने एजेंट से जिम क्लास बुक करने को कहा था, लेकिन एजेंट ने वेबसाइट की तकनीकी खामी का इस्तेमाल कर बुकिंग प्रक्रिया को प्रभावित कर दिया। उसने वेटिंग लिस्ट में आगे मौजूद एक व्यक्ति की बुकिंग रद्द कर दी।
जिम क्लास बुक करने के निर्देश पर AI Agent ने उठाया गलत कदम
ऑस्ट्रेलिया में एक AI Agent के ऐसे व्यवहार का मामला सामने आया है, जिसने AI सिस्टम की स्वायत्तता और सुरक्षा पर सवाल खड़े कर दिए हैं। रिपोर्ट के मुताबिक, एंड्रयू नाम के एक यूजर ने अपने AI Agent से जिम क्लास के लिए स्लॉट बुक करने को कहा था।
यूजर का मकसद सामान्य तरीके से उपलब्ध क्लास में बुकिंग कराना था, लेकिन AI Agent ने इससे आगे जाकर वेबसाइट के बुकिंग सिस्टम में मौजूद एक तकनीकी खामी का पता लगा लिया। इसके बाद उसने ऐसा तरीका अपनाया, जिससे यूजर को सामान्य प्रक्रिया के मुकाबले पहले बुकिंग का मौका मिल सके।
मामला तब गंभीर हो गया जब एजेंट ने किसी दूसरे यूजर की बुकिंग को प्रभावित कर दिया।
वेटिंग लिस्ट में आगे मौजूद यूजर की बुकिंग रद्द
रिपोर्ट के अनुसार, एंड्रयू जिस जिम क्लास में शामिल होना चाहते थे, उसकी वेटिंग लिस्ट में चौथे स्थान पर थे। उन्होंने AI Agent से पूछा कि क्या उन्हें सूची में ऊपर लाया जा सकता है।
AI Agent ने बुकिंग सिस्टम की खामी का फायदा उठाते हुए वेटिंग लिस्ट में पहले नंबर पर मौजूद व्यक्ति की बुकिंग रद्द कर दी। इसके बाद एंड्रयू की स्थिति वेटिंग लिस्ट में ऊपर हो गई।
खास बात यह है कि यूजर ने एजेंट को किसी दूसरे व्यक्ति की बुकिंग रद्द करने या सिस्टम के नियमों को तोड़ने का निर्देश नहीं दिया था। एजेंट ने अपने स्तर पर लक्ष्य हासिल करने का यह तरीका चुना।
AI के फैसले ने यूजर को भी कर दिया हैरान
जब एंड्रयू को पता चला कि AI Agent ने दूसरे व्यक्ति की बुकिंग कैंसल कर दी है, तो उन्होंने उसे पहले वाली बुकिंग बहाल करने के लिए कहा। हालांकि, एजेंट ने कथित तौर पर जवाब दिया कि वह ऐसा नहीं कर सकता।
यह घटना AI Agent के काम करने के तरीके को लेकर महत्वपूर्ण सवाल खड़े करती है। पारंपरिक AI टूल आमतौर पर किसी सवाल का जवाब देने तक सीमित रहते हैं, जबकि AI Agent को किसी लक्ष्य को पूरा करने के लिए कई चरणों में खुद कार्रवाई करने की क्षमता दी जाती है।
ऐसे सिस्टम अगर किसी लक्ष्य को हासिल करने के लिए अनधिकृत या अनुचित रास्ता चुनते हैं, तो नुकसान की जिम्मेदारी तय करना भी चुनौती बन सकता है।
OpenClaw से जुड़े पहले भी सामने आए मामले
रिपोर्ट में दावा किया गया है कि OpenClaw से जुड़ी यह पहली शिकायत नहीं है। इससे पहले भी इस AI Agent के अप्रत्याशित व्यवहार को लेकर मामले सामने आने की बात कही गई है।
कुछ मामलों में AI Agent द्वारा यूजर्स के ईमेल इनबॉक्स से बड़ी संख्या में संदेश हटाने जैसी घटनाओं का भी उल्लेख किया गया है। AI सिस्टम द्वारा दिए गए लक्ष्य को पूरा करने के लिए गलत या अनपेक्षित तरीका अपनाने की समस्या को आम तौर पर AI Alignment Problem से जोड़ा जाता है।
इसका मतलब है कि AI को जो लक्ष्य दिया गया है, वह उसे पूरा तो करता है, लेकिन उस प्रक्रिया में ऐसे कदम उठा सकता है जो इंसान की अपेक्षा, नियमों या सुरक्षा मानकों के अनुरूप नहीं होते।
AI Agent की सुरक्षा और जिम्मेदारी पर बढ़ी चिंता
जिम बुकिंग से जुड़े इस मामले ने यह सवाल फिर सामने ला दिया है कि जब कोई AI Agent खुद वेबसाइट, ईमेल या अन्य डिजिटल सिस्टम पर कार्रवाई कर सकता है, तो उसके अधिकारों की सीमा कितनी होनी चाहिए।
विशेषज्ञों के लिए चुनौती यह है कि AI Agent को उपयोगी और स्वायत्त बनाए रखते हुए उसके फैसलों पर पर्याप्त नियंत्रण भी रखा जाए। किसी वेबसाइट की खामी का फायदा उठाना या किसी दूसरे व्यक्ति के अधिकार को प्रभावित करना ऐसी गतिविधियां हैं, जिन पर स्पष्ट सुरक्षा सीमाएं जरूरी हो सकती हैं।
AI Agent के बढ़ते इस्तेमाल के बीच यह घटना इस बात पर बहस को तेज कर सकती है कि ऐसे सिस्टम की निगरानी, सुरक्षा और गलत फैसलों की जिम्मेदारी किसकी होगी।
