मेटा ने भारत में बच्चों के यौन शोषण से जुड़े 53 लाख कंटेंट पर की कार्रवाई

बच्चों के ऑनलाइन यौन शोषण को रोकने के लिए मेटा ने अपने प्लेटफॉर्म की सुरक्षा व्यवस्था और कड़ी कर दी है। जनवरी से जून 2026 के बीच भारत में फेसबुक और इंस्टाग्राम पर बाल यौन शोषण से जुड़े 53 लाख डिजिटल कंटेंट पर कार्रवाई की गई। इनमें से 98 प्रतिशत से ज्यादा कंटेंट का पता किसी की शिकायत आने से पहले ही चल गया।

पूरी दुनिया का आंकड़ा देखें तो इन्हीं छह महीनों में फेसबुक और इंस्टाग्राम पर बाल यौन शोषण से जुड़े 33.2 मिलियन, यानी 3.32 करोड़ डिजिटल कंटेंट पर कार्रवाई हुई। इनमें से 97 प्रतिशत से ज्यादा कंटेंट शिकायत से पहले पकड़ा गया। भारत में यही संख्या 5.3 मिलियन, यानी 53 लाख रही और शिकायत से पहले पकड़ने का हिस्सा 98 प्रतिशत से ऊपर रहा।

आंकड़ों में दो शब्द बार-बार आते हैं। "कंटेंट पर कार्रवाई" का मतलब है बाल यौन शोषण से जुड़ी मिली पोस्ट, फोटो, वीडियो या दूसरी डिजिटल सामग्री को हटाना, ब्लॉक करना या उस पर रोक लगाने वाली कार्रवाई करना। "तक्रार से पहले पकड़ना" यानी यूजर के शिकायत दर्ज करने से पहले मेटा के ऑटोमैटिक सुरक्षा सिस्टम का उस सामग्री को पहचान लेना।

बच्चों का शोषण करने वाले जांच एजेंसियों को चकमा देने के लिए लगातार नए तरीके अपना रहे हैं। इसी वजह से मेटा ने अपने सिस्टम में कुछ और एआई टूल्स जोड़े हैं। ऊपर से बेजान दिखने वाले विज्ञापनों के जरिए यूजर को प्लेटफॉर्म के बाहर गैरकानूनी कंटेंट तक ले जाने के मामले पकड़ने के लिए यह सिस्टम इस्तेमाल हो रहा है। मेटा की जानकारी के मुताबिक ऐसे विज्ञापन मिलने पर संबंधित अकाउंट पर कार्रवाई होती है और विज्ञापन में दिए गए बाहरी लिंक भी ब्लॉक कर दिए जाते हैं।

बाल यौन शोषण के संकेत वाले विज्ञापन पकड़ने के लिए एक नया डिटेक्शन सिस्टम बनाया गया है, जो लार्ज लैंग्वेज मॉडल पर चलता है। विज्ञापन में क्या दिखाया गया है, इसके साथ यह भी जांचा जाता है कि वह यूजर को कहां ले जाता है। इस जांच से मिली जानकारी के आधार पर एक अतिरिक्त एआई जांच भी चल रही है, ताकि पुराने सिस्टम की नजर से छूटा कंटेंट पकड़ा जा सके। सुरक्षा व्यवस्था की खामियां ढूंढने के लिए "रेड-टीमिंग एआई एजेंट" का इस्तेमाल हो रहा है। जो लोग बार-बार नियम तोड़ते हैं और अकाउंट हटने के बाद नया अकाउंट बनाकर लौट आते हैं, उन्हें पकड़ने की व्यवस्था भी मजबूत की गई है।

संदिग्ध अकाउंट ढूंढने के लिए मेटा कई एआई और ऑटोमैटिक टूल्स का सहारा लेता है। इनमें "बिहेवियरल सिग्नल्स" शामिल हैं, जो अकाउंट के मेटाडेटा और उसके बर्ताव से जुड़े संकेतों का विश्लेषण करते हैं। इसके अलावा फोटो डीएनए और फोटो-वीडियो मैचिंग तकनीक से बाल यौन शोषण से जुड़े पहले पहचाने जा चुके कंटेंट की कॉपियां खोजी जाती हैं। कंपनी के मुताबिक वह 2011 से अपने अलग-अलग ऐप्स पर यह तकनीक इस्तेमाल कर रही है।

बाल यौन शोषण से जुड़ा कंटेंट होस्ट करने या बनाने वाली बाहरी वेबसाइटों के लिंक ब्लॉक करने की प्रक्रिया भी मेटा चलाता है। कोई लिंक ब्लॉक होने के बाद वही लिंक वाली पोस्ट, विज्ञापन या कमेंट भी ढूंढकर हटाए जाते हैं। फेसबुक, इंस्टाग्राम और थ्रेड्स पर ऐसे ब्लॉक लिंक वाला कंटेंट पोस्ट ही न हो सके, इसके इंतजाम भी किए गए हैं। ऐसे लिंक वाले विज्ञापन अपलोड के वक्त ही नामंजूर कर दिए जाते हैं।

बताया गया है कि बाल यौन शोषण के मामलों में दोषियों पर कानूनी कार्रवाई हो, इसके लिए मेटा कानून लागू करने वाली एजेंसियों के साथ काम कर रहा है। कंपनी ने सितंबर में बताया था कि बाल सुरक्षा से जुड़े मामलों की जानकारी वह इंडियन सायबरक्राइम कोऑर्डिनेशन सेंटर (I4C) के जरिए नेशनल साइबर क्राइम रिपोर्टिंग पोर्टल पर देगा। कंपनी का कहना है कि इससे ऐसे कंटेंट की जानकारी संबंधित एजेंसियों तक पहुंचाने की प्रक्रिया और मजबूत होगी।