फेसबुक, इन्स्टाग्रामवर भारतात ५३ लाख बाल शोषण कंटेंटवर कारवाई, ९८ टक्के आधीच सापडले

ऑनलाइन बाल लैंगिक शोषणाला आळा घालण्यासाठी मेटाने आपल्या प्लॅटफॉर्मवरील सुरक्षा यंत्रणा अधिक मजबूत केल्या आहेत. जानेवारी ते जून २०२६ या काळात भारतात फेसबुक आणि इन्स्टाग्रामवरील बाल लैंगिक शोषणाशी संबंधित ५३ लाख डिजिटल कंटेंट घटकांवर कारवाई करण्यात आली. त्यापैकी ९८ टक्क्यांहून अधिक कंटेंट कोणतीही तक्रार येण्यापूर्वीच शोधून काढण्यात आला.

जगभरातील आकडे पाहिले तर याच सहा महिन्यांत फेसबुक आणि इन्स्टाग्रामवरील ३३.२ दशलक्ष म्हणजेच ३.३२ कोटी डिजिटल कंटेंट घटकांवर कारवाई झाली. त्यातील ९७ टक्क्यांहून अधिक कंटेंट तक्रारीआधीच सापडला. भारतात ही संख्या ५.३ दशलक्ष म्हणजेच ५३ लाख होती आणि त्यातील ९८ टक्क्यांहून अधिक कंटेंटवर तक्रारीपूर्वीच कारवाई झाली.

बाल लैंगिक शोषण करणारे घटक तपास यंत्रणांना चकवा देण्यासाठी सतत नवनव्या पद्धती वापरतात. त्यामुळे मेटाने आपल्या सिस्टीममध्ये आणखी एआय टूल्स जोडली आहेत. वरवर निरुपद्रवी वाटणाऱ्या जाहिरातींमधून वापरकर्त्यांना प्लॅटफॉर्मच्या बाहेरील बेकायदेशीर कंटेंटकडे नेले जाते, असे प्रकार शोधण्यासाठी ही यंत्रणा वापरली जात आहे. मेटाच्या माहितीनुसार अशा जाहिराती सापडल्या की संबंधित अकाउंट्सवर कारवाई होते आणि त्यातील बाहेरच्या लिंक्सही ब्लॉक केल्या जातात.

बाल लैंगिक शोषणाचे संकेत असलेल्या जाहिराती हुडकण्यासाठी नवीन लार्ज लँग्वेज मॉडेलवर आधारित डिटेक्शन सिस्टीम तयार करण्यात आली आहे. जाहिरात नेमके काय दाखवते, तसेच ती वापरकर्त्याला कुठे घेऊन जाते, हेही तपासले जाते. या तपासातून मिळालेल्या माहितीच्या आधारे, आधीच्या यंत्रणांच्या नजरेतून निसटलेला कंटेंट शोधण्यासाठी अतिरिक्त एआय तपासणी केली जात आहे. सुरक्षा यंत्रणांमधील त्रुटी शोधण्यासाठी 'रेड-टीमिंग एआय एजंट'चाही वापर होत आहे. अकाउंट हटवल्यानंतर नवीन अकाउंट काढून परत येणाऱ्या, वारंवार नियम मोडणाऱ्यांना शोधण्याची यंत्रणाही अधिक सक्षम केली आहे.

संशयास्पद अकाउंट्सचा शोध मेटाच्या विविध एआय आणि ऑटोमेटेड टूल्सद्वारे घेतला जातो. त्यात अकाउंटचा मेटाडेटा आणि वर्तनाशी संबंधित संकेतांचे विश्लेषण करणाऱ्या 'बिहेव्हियरल सिग्नल्स'चा समावेश आहे. शिवाय फोटो डीएनए आणि फोटो-व्हिडिओ मॅचिंग तंत्रज्ञानाने, यापूर्वी ओळखलेल्या बाल लैंगिक शोषणाशी संबंधित कंटेंटच्या प्रती शोधल्या जातात. कंपनीने सांगितले की हे तंत्रज्ञान २०११ पासून मेटाच्या विविध अॅप्सवर वापरले जात आहे.

बाल लैंगिक शोषणाशी संबंधित कंटेंट होस्ट करणाऱ्या किंवा तयार करणाऱ्या बाहेरील वेबसाइट्सच्या लिंक्स ब्लॉक करण्याची प्रक्रिया मेटा राबवते. एखादी लिंक ब्लॉक झाली की तीच लिंक असलेले पोस्ट, जाहिरात किंवा कमेंट शोधून हटवली जाते. फेसबुक, इन्स्टाग्राम आणि थ्रेड्सवर अशा ब्लॉक केलेल्या लिंक्स असलेला कंटेंट पोस्टच करता येऊ नये, यासाठीही उपाय केले आहेत. अशा लिंक्स असलेल्या जाहिराती अपलोड करतानाच नाकारल्या जातात.

आकडेवारीतील दोन संज्ञा समजून घेणे गरजेचे आहे. 'कंटेंटवर कारवाई' म्हणजे बाल लैंगिक शोषणाशी संबंधित आढळलेली पोस्ट, फोटो, व्हिडिओ किंवा इतर डिजिटल सामग्री हटवणे, ब्लॉक करणे किंवा त्यावर प्रतिबंधात्मक कारवाई करणे. 'तक्रारीपूर्वी शोध' म्हणजे वापरकर्त्याने तक्रार नोंदवण्याआधीच मेटाच्या स्वयंचलित सुरक्षा यंत्रणांनी ती सामग्री ओळखणे.

अशा प्रकरणांत संबंधित व्यक्तींवर कायदेशीर कारवाई व्हावी, यासाठी मेटा कायदा अंमलबजावणी संस्थांसोबत काम करत असल्याचे सांगण्यात आले आहे. मेटाने सप्टेंबरमध्ये बाल सुरक्षेशी संबंधित प्रकरणांची माहिती इंडियन सायबरक्राईम कोऑर्डिनेशन सेंटरच्या (I4C) माध्यमातून नॅशनल सायबर क्राईम रिपोर्टिंग पोर्टलवर देणार असल्याचे सांगितले होते. त्यामुळे अशा कंटेंटची माहिती संबंधित यंत्रणांपर्यंत पोहोचवण्याची प्रक्रिया अधिक मजबूत होणार असल्याचे कंपनीने स्पष्ट केले आहे.