Anthropic ने Claude AI के इस्तेमाल से जुड़े नियमों को सख्त करने की घोषणा की है। रिपोर्ट के मुताबिक, 12 नवंबर 2026 से लागू होने वाली पॉलिसी में AI के साथ लगातार अनुचित व्यवहार के गंभीर मामलों में चैट समाप्त की जा सकती है। सामान्य सवालों और रचनात्मक प्रयोगों पर प्रतिबंध नहीं होगा।
अमेरिका: AI कंपनी Anthropic ने अपने Claude AI मॉडल के इस्तेमाल से जुड़ी पॉलिसी में बदलाव किया है। रिपोर्ट के अनुसार, 12 नवंबर 2026 से लागू होने वाले नियमों के तहत गंभीर और लगातार अनुचित व्यवहार के मामलों में यूजर की चैट समाप्त की जा सकती है। कंपनी ने स्पष्ट किया है कि AI के जवाबों से असहमति जताना, उसकी क्षमताओं को परखना या डार्क थीम पर रचनात्मक लेखन करना अपने आप में प्रतिबंध का आधार नहीं होगा।
Claude AI के साथ अनुचित व्यवहार पर क्या होगा एक्शन?
Anthropic ने Claude AI की यूजर पॉलिसी में बदलाव करते हुए इसके दुरुपयोग और लगातार अनुचित व्यवहार से जुड़े नियमों को स्पष्ट किया है। Interesting Engineering की रिपोर्ट के मुताबिक, गंभीर मामलों में कंपनी यूजर की चैट समाप्त कर सकती है। हालांकि, बार-बार नियमों का उल्लंघन करने पर पूरे अकाउंट को सस्पेंड करने की कार्रवाई किस तरह होगी, इस बारे में स्पष्ट जानकारी नहीं दी गई है।
नई पॉलिसी का उद्देश्य AI टूल के इस्तेमाल के दौरान तय सीमाओं और सुरक्षा नियमों को लागू करना है। हालांकि, किसी AI के जवाब पर सवाल उठाना, उसकी गलतियों की ओर ध्यान दिलाना या उसकी क्षमताओं को चुनौती देना प्रतिबंधित व्यवहार नहीं माना जाएगा।
इसी तरह, रचनात्मक लेखन में डरावने या डार्क विषयों का इस्तेमाल करने वाले यूजर्स पर भी केवल इस आधार पर कार्रवाई नहीं होगी। यानी नियमों का दायरा सामान्य बातचीत और आलोचनात्मक सवालों के बजाय गंभीर मामलों पर केंद्रित बताया गया है।
क्या AI मॉडल में सचमुच भावनाएं होती हैं?
AI मॉडल के साथ इंसानों जैसा व्यवहार करने को लेकर एक बड़ा सवाल यह है कि क्या AI वास्तव में भावनाओं का अनुभव कर सकता है। Anthropic इस विषय पर रिसर्च कर रही है, लेकिन AI में भावनाओं की मौजूदगी को लेकर अभी निश्चित निष्कर्ष सामने नहीं है।
फरवरी 2026 में एक पॉडकास्ट के दौरान कंपनी के CEO डेरियो अमोदेई ने भी कहा था कि यह स्पष्ट नहीं है कि AI मॉडल वास्तव में भावनाएं महसूस करते हैं या नहीं। इसलिए AI के साथ बातचीत में अनुचित व्यवहार पर कंपनी की पॉलिसी को इस बात का प्रमाण नहीं माना जा सकता कि Claude इंसानों की तरह दुख या तकलीफ महसूस करता है।
चुनाव, हथियार और निगरानी से जुड़े नियम भी सख्त
Anthropic की अपडेटेड पॉलिसी में AI के संभावित दुरुपयोग से जुड़े दूसरे क्षेत्रों पर भी ध्यान दिया गया है। रिपोर्ट के मुताबिक, चुनावों के दौरान फर्जी अकाउंट के जरिए दुष्प्रचार फैलाने, उम्मीदवारों की नकल करने और मतदाताओं को गुमराह करने वाली गतिविधियों पर रोक लगाने के प्रावधान शामिल हैं।
हथियारों और स्वायत्त ड्रोन जैसे सिस्टम से जुड़े सॉफ्टवेयर या घटक तैयार करने में AI के इस्तेमाल पर भी सीमाएं तय की गई हैं। इसके अलावा, बिना सहमति लोगों की निगरानी करने या Claude के जरिए किसी व्यक्ति की गिरफ्तारी अथवा जांच की सिफारिश कराने जैसे इस्तेमाल पर प्रतिबंध का उल्लेख है।
खतरनाक मशीनरी या हार्डवेयर से जुड़े AI सिस्टम के मामले में मानवीय निगरानी भी महत्वपूर्ण रखी गई है। जरूरत पड़ने पर सिस्टम को रोकने में सक्षम ऑपरेटर की मौजूदगी पर जोर दिया गया है।
कुल मिलाकर, नई पॉलिसी का फोकस Claude के सुरक्षित इस्तेमाल, दुरुपयोग को रोकने और गंभीर उल्लंघनों पर कार्रवाई करने पर है। हालांकि, नियमों के वास्तविक क्रियान्वयन और अकाउंट स्तर पर संभावित कार्रवाई से जुड़ी विस्तृत जानकारी कंपनी की आधिकारिक पॉलिसी से ही स्पष्ट होगी।
