सोशल मीडिया पर बच्चों की सुरक्षा को लेकर Meta ने अपनी निगरानी और सख्त कर दी है। Facebook और Instagram की पैरेंट कंपनी ने बच्चों के यौन शोषण से जुड़े कंटेंट और ऑनलाइन गतिविधियों पर कार्रवाई के लिए नए AI टूल्स और तकनीकी उपायों को शामिल किया है। कंपनी का कहना है कि इन तकनीकों की मदद से ऐसे कंटेंट, विज्ञापनों और ऑनलाइन नेटवर्क की पहचान की जा रही है, जो लोगों को सीधे या छिपे तरीके से गैरकानूनी गतिविधियों तक पहुंचा सकते हैं।
भारत में 53 लाख कंटेंट पर कार्रवाई
Meta के मुताबिक, जनवरी से जून 2026 के बीच भारत में Facebook और Instagram पर बच्चों के यौन शोषण से जुड़े करीब 53 लाख कंटेंट पर कार्रवाई की गई। इनमें 98 प्रतिशत से ज्यादा मामलों की पहचान Meta के सिस्टम ने यूजर की शिकायत आने से पहले ही कर ली थी। दुनियाभर में इसी अवधि के दौरान ऐसे 3.32 करोड़ कंटेंट पर कार्रवाई की गई, जिनमें 97 प्रतिशत से ज्यादा की पहचान किसी यूजर की रिपोर्ट आने से पहले हो गई थी।
सामान्य दिखने वाले विज्ञापनों पर भी नजर
कंपनी ने बताया कि अपराधी लगातार अपनी रणनीति बदलते रहते हैं और प्लेटफॉर्म के सुरक्षा सिस्टम से बचने की कोशिश करते हैं। इसी वजह से Meta ने विज्ञापनों की जांच के लिए AI आधारित नए उपाय जोड़े हैं। इनमें Large Language Model आधारित तकनीक भी शामिल है। यह ऐसे विज्ञापनों को पहचानने की कोशिश करती है जो देखने में सामान्य लग सकते हैं, लेकिन यूजर को अवैध या खतरनाक कंटेंट तक पहुंचाने के संकेत दे सकते हैं।
विज्ञापन के पीछे की वेबसाइट भी होगी जांच
Meta अब केवल विज्ञापन में दिखाई देने वाली सामग्री की जांच तक सीमित नहीं रहेगा। कंपनी यह भी देखेगी कि किसी विज्ञापन पर क्लिक करने के बाद यूजर किस वेबसाइट या ऑनलाइन गंतव्य पर पहुंचता है। इसके अलावा AI-driven sweeps और एक red-teaming AI agent का इस्तेमाल किया जा रहा है। इनका उद्देश्य सुरक्षा सिस्टम की संभावित कमजोरियों को पहले से पहचानना और उन्हें मजबूत करना है।
संदिग्ध नेटवर्क और नए अकाउंट भी रडार पर
Meta ऐसे संदिग्ध नेटवर्क की पहचान पर भी काम कर रहा है, जो बच्चों के शोषण से जुड़ी गतिविधियों में शामिल हो सकते हैं। कंपनी उन लोगों पर भी नजर रख रही है जो कार्रवाई के बाद नए अकाउंट बनाकर दोबारा प्लेटफॉर्म का इस्तेमाल करने की कोशिश करते हैं। पहले से पहचाने गए अवैध कंटेंट की कॉपी को पहचानने और हटाने के लिए PhotoDNA जैसी तकनीकों का भी इस्तेमाल किया जा रहा है।
अधिकारियों के साथ भी साझा की जा रही जानकारी
भारत में Meta बाल सुरक्षा से जुड़े मामलों की रिपोर्ट National Cyber Crime Reporting Portal के जरिए अधिकारियों को कर रहा है। कंपनी के अनुसार, मकसद सिर्फ आपत्तिजनक कंटेंट को हटाना नहीं है, बल्कि उसके पीछे मौजूद लोगों और नेटवर्क के खिलाफ कार्रवाई में मदद करना भी है। Meta का कहना है कि AI और दूसरी तकनीकों के इस्तेमाल से बच्चों के लिए सोशल मीडिया को सुरक्षित बनाने की कोशिशों को और मजबूत किया जा रहा है।
प्रदीप पाण्डेय टाइम्स नाउ नवभारत डिजिटल में टेक और ऑटो बीट पर कंटेंट तैयार करते हैं। डिजिटल मीडिया में 10 वर्षों के अनुभव के साथ प्रदीप तकनीक की दुनिया को समझने और उसे आम पाठकों तक सरल व उपयोगी रूप में पहुंचाने के लिए जाने जाते हैं। प्रदीप अब तक 11,000 से अधिक आर्टिकल्स लिख चुके हैं। वह गैजेट रिव्यू, आर्टिफिशियल इंटेलिजेंस, टेक टिप्स और नवीनतम टेक इनोवेशन पर लगातार काम करते हैं। एआई टूल्स पर एक्सपेरिमेंट करना, नए ऐप्स टेस्ट करना और टेक से जुड़े प्रैक्टिकल सॉल्यूशंस खोजने में उनकी खास रुचि है।
और पढ़ें