ओपनएआई ने ChatGPT पर नया Age Prediction System लॉन्च किया है, जो यूजर के बिहेवियर और अकाउंट सिग्नल के आधार पर उम्र का अनुमान लगाएगा। 18 साल से कम उम्र के यूजर्स के लिए ऑटोमैटिक सेफ्टी सेटिंग्स लागू होंगी, जिससे संवेदनशील और नुकसानदेह कंटेंट को सीमित किया जाएगा।
ChatGPT Age Prediction System: ओपनएआई ने ChatGPT प्लेटफॉर्म पर टीन यूजर्स की सुरक्षा बढ़ाने के लिए नया फीचर शुरू किया है, जिसमें सिस्टम यूजर की उम्र का अनुमान खुद लगाएगा। यह व्यवस्था ग्लोबल लेवल पर लागू की जा रही है और इसका मकसद नाबालिग यूजर्स को सुरक्षित डिजिटल माहौल देना है। बिहेवियरल पैटर्न, अकाउंट एक्टिविटी और साइन-अप डिटेल के आधार पर सिस्टम तय करेगा कि यूजर माइनर है या एडल्ट। अगर उम्र को लेकर संदेह होगा तो सेफ्टी मोड ऑटोमैटिक एक्टिव हो जाएगा, जिससे टीन यूजर्स को जोखिम भरे कंटेंट से बचाया जा सकेगा।
कैसे काम करेगा उम्र पहचानने वाला सिस्टम?
ओपनएआई के मुताबिक, ChatGPT एक खास ऐज प्रेडिक्शन मॉडल का इस्तेमाल करेगा, जो कई तरह के बिहेवियरल और अकाउंट-लेवल सिग्नल को देखकर यूजर की उम्र का अंदाजा लगाएगा। इसमें यह देखा जाएगा कि अकाउंट कितने समय से एक्टिव है, यूजर का एक्टिविटी पैटर्न क्या है, प्लेटफॉर्म पर इंटरैक्शन किस तरह का है और साइन-अप के समय दी गई उम्र की जानकारी क्या थी।
इन सभी संकेतों को मिलाकर सिस्टम तय करेगा कि यूजर माइनर है या एडल्ट। कंपनी का कहना है कि यह मॉडल समय के साथ यूजर फीडबैक के आधार पर और बेहतर होता जाएगा, ताकि उम्र का अनुमान ज्यादा सटीक लगाया जा सके।
अगर सिस्टम ने गलत उम्र बता दी तो क्या होगा?
ओपनएआई ने यह भी साफ किया है कि अगर मॉडल किसी यूजर की उम्र को लेकर कन्फ्यूज हो जाता है, तो वह एहतियात के तौर पर सेफ्टी मोड ऑन कर देगा। यानी ऐसे मामलों में भी यूजर को पहले सुरक्षित कैटेगरी में रखा जाएगा।
अगर किसी यूजर को लगता है कि उसे गलती से 18 साल से कम दिखाया गया है, तो वह अपनी पहचान सेल्फी वेरिफिकेशन के जरिए साबित कर सकता है। वेरिफिकेशन पूरा होने के बाद सिस्टम उसकी सही उम्र के अनुसार सेटिंग्स अपडेट कर देगा।
टीन यूजर्स को किस तरह का कंटेंट नहीं दिखेगा?
नई पॉलिसी के तहत 18 साल से कम उम्र के यूजर्स को ग्राफिक हिंसा, खतरनाक वायरल चैलेंज, सेक्सुअल या वायलेंट रोल-प्ले जैसे कंटेंट कम या बिल्कुल नहीं दिखाए जाएंगे। इसके अलावा एक्सट्रीम ब्यूटी स्टैंडर्ड, अनहेल्दी डाइटिंग और बॉडी शेमिंग से जुड़ी सामग्री पर भी रोक लगाई जाएगी।
कंपनी का मानना है कि इससे टीन यूजर्स को मानसिक और भावनात्मक रूप से सुरक्षित डिजिटल माहौल मिलेगा और वे बिना किसी नुकसानदेह प्रभाव के एआई टेक्नोलॉजी का इस्तेमाल कर सकेंगे।
