आर्टिफिशियल इंटेलिजेंस के बढ़ते इस्तेमाल के बीच सोशल मीडिया प्लेटफॉर्म पर AI से बने कंटेंट की मॉडरेशन भी बड़ी चुनौती बनती जा रही है। Meta के Facebook और Instagram पर AI से तैयार कंटेंट को सिर्फ इस वजह से हटाने की नीति नहीं है कि वह AI से बनाया गया है। कंपनी के अनुसार, यदि कोई पोस्ट उसकी Community Standards का उल्लंघन करता है तो उसे कंटेंट के AI या इंसान द्वारा बनाए जाने की परवाह किए बिना हटाया जा सकता है।
Meta AI Content Moderation: सोशल मीडिया प्लेटफॉर्म पर आर्टिफिशियल इंटेलिजेंस (AI) का इस्तेमाल तेजी से बढ़ रहा है। कंटेंट की निगरानी, संदिग्ध पोस्ट की पहचान और प्लेटफॉर्म की नीतियों के उल्लंघन का पता लगाने में AI अब महत्वपूर्ण भूमिका निभाता है। हालांकि, हर पोस्ट को केवल मशीन के भरोसे हटाना सही नहीं माना जाता। खासकर ऐसे मामलों में जहां किसी शब्द या तस्वीर का अर्थ उसके संदर्भ पर निर्भर करता है, वहां Human Review की जरूरत पड़ सकती है।
Meta के प्लेटफॉर्म Facebook, Instagram और Threads पर हर दिन बड़ी मात्रा में कंटेंट प्रकाशित होता है। इतनी बड़ी संख्या में पोस्ट की मैनुअल जांच करना व्यावहारिक नहीं है। इसलिए कंपनी AI आधारित सिस्टम का इस्तेमाल शुरुआती स्तर पर संभावित उल्लंघनों की पहचान करने के लिए करती है। लेकिन सवाल यह है कि AI किसी पोस्ट को कब खुद हटा सकता है और कब मामला इंसानी मॉडरेटर तक पहुंचता है?
क्या Meta सिर्फ Keywords देखकर पोस्ट हटाता है?
कंटेंट मॉडरेशन को लेकर सरकार और टेक कंपनियों के बीच एक अहम सवाल यह रहा है कि क्या AI किसी पोस्ट में मौजूद केवल एक शब्द या टर्म के आधार पर कार्रवाई कर सकता है। आलोचकों की चिंता है कि अगर किसी सिस्टम ने सिर्फ कुछ खास शब्दों की मौजूदगी को देखकर पोस्ट को हटा दिया, तो संदर्भ पूरी तरह नजरअंदाज हो सकता है। उदाहरण के लिए, किसी संवेदनशील शब्द का इस्तेमाल किसी खबर, शैक्षणिक चर्चा, व्यंग्य या जागरूकता अभियान में अलग अर्थ में किया जा सकता है।
ऐसी स्थिति में केवल Keyword Matching के आधार पर पोस्ट हटाने से गलत कार्रवाई की संभावना बढ़ सकती है। इसी वजह से ह्यूमन रिव्यू को महत्वपूर्ण माना जाता है।
Meta का AI सिस्टम कैसे करता है कंटेंट की जांच?
Meta का कहना है कि उसका मॉडरेशन सिस्टम केवल किसी एक शब्द को देखकर पोस्ट हटाने के लिए डिजाइन नहीं किया गया है। AI किसी कंटेंट के अलग-अलग हिस्सों का विश्लेषण कर सकता है। इसमें टेक्स्ट, तस्वीरें और अन्य उपलब्ध संकेत शामिल हो सकते हैं। सिस्टम यह आकलन करने की कोशिश करता है कि संबंधित पोस्ट प्लेटफॉर्म की कम्युनिटी स्टैंडर्ड्स का उल्लंघन करती है या नहीं। यदि AI को स्पष्ट और गंभीर उल्लंघन दिखाई देता है, तो प्लेटफॉर्म की नीतियों के अनुसार ऑटोमेटेड कार्रवाई की जा सकती है।
हालांकि, हर स्थिति इतनी सीधी नहीं होती। कई बार किसी पोस्ट का वास्तविक अर्थ उसके संदर्भ से तय होता है। ऐसे मामलों में मशीन के लिए सही फैसला लेना चुनौतीपूर्ण हो सकता है।
कब पड़ती है Human Review की जरूरत?
Human Review की जरूरत खास तौर पर उन मामलों में पड़ सकती है जहां AI को कंटेंट का संदर्भ समझने में कठिनाई होती है। उदाहरण के लिए, किसी शब्द का इस्तेमाल किसी व्यक्ति को निशाना बनाने के लिए किया गया है या किसी सामाजिक मुद्दे पर चर्चा के लिए—यह अंतर केवल शब्द देखकर हमेशा तय नहीं किया जा सकता।
इसी तरह व्यंग्य, हास्य, उद्धरण, समाचार रिपोर्ट, शैक्षणिक सामग्री और सामाजिक जागरूकता से जुड़े पोस्ट में संवेदनशील शब्द मौजूद हो सकते हैं, लेकिन इसका मतलब यह नहीं कि वह कंटेंट प्लेटफॉर्म की नीतियों का उल्लंघन करता है। मानवीय मॉडरेटर ऐसे मामलों में पोस्ट के पूरे संदर्भ को देखकर निर्णय ले सकता है। इससे गलत तरीके से कंटेंट हटाए जाने की संभावना कम हो सकती है।
Hate Speech के मामलों में चुनौती ज्यादा
Hate Speech से जुड़े मामलों में AI मॉडरेशन और भी जटिल हो जाता है। किसी शब्द का इस्तेमाल किस व्यक्ति, समुदाय या परिस्थिति के संदर्भ में हुआ है, यह समझना जरूरी होता है। एक ही शब्द अलग-अलग परिस्थितियों में अलग अर्थ दे सकता है। यदि AI केवल शब्दों या पैटर्न के आधार पर फैसला लेता है, तो वैध बातचीत और वास्तविक नफरत फैलाने वाले कंटेंट के बीच अंतर करना मुश्किल हो सकता है। इसी वजह से संदिग्ध या जटिल मामलों में मानव मॉडरेटर की भूमिका महत्वपूर्ण हो जाती है।
AI और इंसान का कॉम्बिनेशन क्यों जरूरी?
सोशल मीडिया पर हर पोस्ट की इंसानी जांच संभव नहीं है, क्योंकि प्लेटफॉर्म पर हर सेकंड भारी मात्रा में नया कंटेंट आता है। दूसरी तरफ, केवल AI पर पूरी तरह निर्भर रहने से संदर्भ आधारित गलत फैसलों का जोखिम बना रहता है। ऐसे में AI को बड़ी मात्रा में कंटेंट की शुरुआती स्क्रीनिंग और स्पष्ट उल्लंघनों की पहचान के लिए इस्तेमाल किया जा सकता है, जबकि जटिल मामलों को Human Review के लिए भेजा जा सकता है।
