मेटा की कार्रवाई: छह महीने में यौन शोषण से जुड़ी 53 लाख सामग्री हटाई, भारत में एआई रखेगा विज्ञापनों पर नजर

सोशल मीडिया कंपनी मेटा ने बुधवार को बताया कि उसने भारत में 2026 की पहली छमाही के दौरान बच्चों के यौन शोषण से जुड़ी 53 लाख सामग्री पर कार्रवाई की। कंपनी ने कहा कि ऐसी सामग्री को रोकने के लिए उसने नए आर्टिफिशियल इंटेलिजेंस (एआई) टूल भी तैनात किए हैं, जो ऐसे विज्ञापनों की पहचान कर सकेंगे जो छिपे तौर पर यूजर्स को अवैध सामग्री तक पहुंचाने की कोशिश करते हैं।

कंपनी के मुताबिक, भारत में फेसबुक और इंस्टाग्राम पर मिली ऐसी 98 फीसदी से ज्यादा सामग्री की पहचान और उस पर कार्रवाई यूजर्स की शिकायत से पहले ही कर दी गई थी। मेटा ने बताया कि जनवरी से जून 2026 के बीच दुनियाभर में फेसबुक और इंस्टाग्राम पर बच्चों के यौन शोषण से जुड़ी 3.32 करोड़ सामग्री पर कार्रवाई की गई। इनमें से 97 फीसदी से अधिक सामग्री की पहचान कंपनी ने खुद सक्रिय रूप से की।

विज्ञापनों के जरिए बदल रहे अपराधियों के तरीके

कंपनी ने कहा कि ऑनलाइन अपराधियों ने अपनी रणनीति में बदलाव किया है। अब वे विज्ञापनों का इस्तेमाल भी कर रहे हैं। कोई विज्ञापन अपने आप में सामान्य दिखाई दे सकता है, लेकिन उसके जरिए यूजर्स को मेटा के बाहर मौजूद अवैध सामग्री तक पहुंचाने की कोशिश की जा सकती है।

मेटा ने बताया कि इस तरह की गतिविधि की पहचान होने के बाद उसने केवल रिपोर्ट किए गए विज्ञापनों तक जांच सीमित नहीं रखी। कंपनी ने संबंधित अकाउंट्स को बंद किया और उन बाहरी लिंक को भी ब्लॉक किया, जिनका इस्तेमाल यूजर्स को अवैध सामग्री तक पहुंचाने के लिए किया जा रहा था।

AI से होगी विज्ञापनों की गहन जांच

मेटा ने बताया कि उसके नए सुरक्षा उपायों में एक लार्ज लैंग्वेज मॉडल (LLM) आधारित सिस्टम शामिल है। यह ऐसे संकेतों की पहचान करेगा जिन्हें कंपनी ने 'साइनपोस्टिंग' कहा है। इसका मतलब ऐसे विज्ञापन हैं जो देखने में सामान्य लगते हैं, लेकिन उनके जरिए अवैध सामग्री तक पहुंचाने का संदेह होता है।

कंपनी ने विज्ञापन के कंटेंट के साथ-साथ यह जांचने की क्षमता भी बेहतर की है कि विज्ञापन यूजर को आखिर कहां ले जा रहा है। इसके अलावा AI आधारित सिस्टम उन सामग्री को खोजने के लिए भी इस्तेमाल किए जा रहे हैं, जिन्हें पुराने सिस्टम पहचान नहीं पाते थे।

अपने ही सुरक्षा सिस्टम की जांच करेगा AI

मेटा ने बताया कि वह एक एआई रेड-टीमिंग एजेंट का भी इस्तेमाल कर रही है। यह सिस्टम कंपनी की सुरक्षा व्यवस्था में संभावित कमजोरियों को खोजने की कोशिश करेगा। इसके अलावा प्रतिबंधित किए जा चुके यूजर्स की ओर से नए अकाउंट बनाए जाने की पहचान करने की क्षमता भी मजबूत की गई है। मेटा ने कहा कि उसके प्लेटफॉर्म पर बच्चों और युवाओं की सुरक्षा सुनिश्चित करना कंपनी के सबसे महत्वपूर्ण कामों में से एक है और इसके लिए सुरक्षा उपायों को लगातार बेहतर किया जा रहा है।