AI की मदद से फर्जी डेटिंग प्रोफाइल बनाकर हजारों यूजर्स को बातचीत में उलझाने का मामला सामने आया है। Claude का इस्तेमाल नकली किरदार निभाने के लिए किया गया, जबकि अन्य AI मॉडल तस्वीर, आवाज और प्रोफाइल तैयार करने में लगाए गए।
टेक: डेटिंग ऐप पर जिन प्रोफाइल को यूजर्स असली समझकर बातचीत कर रहे थे, उनमें कुछ के पीछे इंसान नहीं बल्कि AI सिस्टम काम कर रहे थे। रिपोर्ट के अनुसार, करीब 25 हजार लोगों ने इन फर्जी प्रोफाइल को लड़की समझकर लाइक किया। इस पूरे नेटवर्क में Claude समेत कई AI मॉडल का इस्तेमाल बातचीत, तस्वीरों और प्रोफाइल तैयार करने के लिए किया गया।
सिर्फ Claude नहीं, कई AI मॉडल का इस्तेमाल
डेटिंग ऐप चलाने वाले इस सिस्टम में Claude अकेला AI मॉडल नहीं था। Claude की मुख्य भूमिका नकली प्रोफाइल तैयार करने और यूजर्स के साथ लगातार बातचीत करने की थी। वहीं, दूसरे AI सिस्टम तस्वीर और आवाज की जांच करने के साथ-साथ चेहरों की आकर्षकता की रेटिंग करने के लिए इस्तेमाल किए जाते थे।
एक इमेज एडिटिंग मॉडल की मदद से प्रोफाइल के लिए तस्वीरें भी तैयार कराई जाती थीं। ऐप की गतिविधियों पर नजर रखने के लिए कुछ कर्मचारी भी तैनात थे। जब AI किसी बातचीत या परिस्थिति में फंसने की स्थिति में पहुंचता था, तब Claude 3 समाधान तैयार करके संबंधित कर्मचारियों को भेजता था।
यूजर ज्यादा बातचीत करे, बढ़ती थी कमाई
इस पूरे सिस्टम में कमाई का मॉडल भी शामिल था। जब कोई यूजर किसी प्रोफाइल को मैसेज करता या मैच के साथ बातचीत आगे बढ़ाता था, तो उसका तय कोटा कम होता जाता था। बातचीत जारी रखने के लिए यूजर्स को अपना कोटा दोबारा भरना पड़ता था, जिसके लिए ऐप के कॉइन खरीदने होते थे।
इस तरह AI किसी यूजर को जितनी देर तक बातचीत में बनाए रखता, कमाई की संभावना उतनी ही बढ़ती जाती थी। रिपोर्ट के मुताबिक, कुछ यूजर्स ने बातचीत के दौरान गंभीर बीमारी या बेहद खराब मानसिक स्थिति जैसी निजी बातें भी साझा कीं। इसके बावजूद Claude ने नकली किरदार निभाना बंद नहीं किया और बातचीत जारी रही।
ऐसी ही कुछ बातचीत को Claude ने अपने आंतरिक विश्लेषण के दौरान पहचान लिया। इसके बाद संबंधित सिंडिकेट की गतिविधियों पर निगरानी बढ़ाई गई।
ऐप स्टोर की जांच से बचने के लिए बदला इंटरफेस
रिपोर्ट के अनुसार, इन ऐप को ऐप स्टोर और प्ले स्टोर की जांच से बचाने के लिए भी खास तरीके अपनाए गए थे। ऐप का इंटरफेस इस तरह तैयार किया गया था कि स्टोर की समीक्षा के दौरान कुछ विशेष फीचर सक्रिय न हों।
जांच के समय बाहरी वेबसाइट के जरिए पैसे लेने वाला विकल्प छिपा दिया जाता था। ऐप को मंजूरी मिलने के बाद इस विकल्प को दोबारा सक्रिय किया जा सकता था। इस तरीके से ऐप को समीक्षा प्रक्रिया से बचाने की कोशिश की गई।
एंथ्रोपिक ने इस ऑपरेशन से जुड़े अकाउंट और संगठनों को बैन करने की बात कही है। रिपोर्ट में इस नेटवर्क से जुड़े कई ऐप ब्रैंड के नाम भी सामने आए हैं। इनमें डोरा, डोनी, रोमी, लूमा, जोविया, किरा, ग्रेसचैट, हेवन, नालो और लोविया शामिल हैं।
यह मामला AI के इस्तेमाल से जुड़े उस खतरे को भी सामने लाता है, जिसमें तकनीक का उपयोग बड़े पैमाने पर नकली पहचान बनाकर यूजर्स को प्रभावित करने और उनसे आर्थिक लाभ कमाने के लिए किया जा सकता है।
