भारत में बच्चों के यौन शोषण के खिलाफ Meta का बड़ा कदम, AI से होगी निगरानी

सामान्य दिखने वाले विज्ञापनों पर भी नजर

कंपनी ने बताया कि अपराधी लगातार अपनी रणनीति बदलते रहते हैं और प्लेटफॉर्म के सुरक्षा सिस्टम से बचने की कोशिश करते हैं। इसी वजह से Meta ने विज्ञापनों की जांच के लिए AI आधारित नए उपाय जोड़े हैं। इनमें Large Language Model आधारित तकनीक भी शामिल है। यह ऐसे विज्ञापनों को पहचानने की कोशिश करती है जो देखने में सामान्य लग सकते हैं, लेकिन यूजर को अवैध या खतरनाक कंटेंट तक पहुंचाने के संकेत दे सकते हैं।

विज्ञापन के पीछे की वेबसाइट भी होगी जांच

Meta अब केवल विज्ञापन में दिखाई देने वाली सामग्री की जांच तक सीमित नहीं रहेगा। कंपनी यह भी देखेगी कि किसी विज्ञापन पर क्लिक करने के बाद यूजर किस वेबसाइट या ऑनलाइन गंतव्य पर पहुंचता है। इसके अलावा AI-driven sweeps और एक red-teaming AI agent का इस्तेमाल किया जा रहा है। इनका उद्देश्य सुरक्षा सिस्टम की संभावित कमजोरियों को पहले से पहचानना और उन्हें मजबूत करना है।

संदिग्ध नेटवर्क और नए अकाउंट भी रडार पर

Meta ऐसे संदिग्ध नेटवर्क की पहचान पर भी काम कर रहा है, जो बच्चों के शोषण से जुड़ी गतिविधियों में शामिल हो सकते हैं। कंपनी उन लोगों पर भी नजर रख रही है जो कार्रवाई के बाद नए अकाउंट बनाकर दोबारा प्लेटफॉर्म का इस्तेमाल करने की कोशिश करते हैं। पहले से पहचाने गए अवैध कंटेंट की कॉपी को पहचानने और हटाने के लिए PhotoDNA जैसी तकनीकों का भी इस्तेमाल किया जा रहा है।

अधिकारियों के साथ भी साझा की जा रही जानकारी

भारत में Meta बाल सुरक्षा से जुड़े मामलों की रिपोर्ट National Cyber Crime Reporting Portal के जरिए अधिकारियों को कर रहा है। कंपनी के अनुसार, मकसद सिर्फ आपत्तिजनक कंटेंट को हटाना नहीं है, बल्कि उसके पीछे मौजूद लोगों और नेटवर्क के खिलाफ कार्रवाई में मदद करना भी है। Meta का कहना है कि AI और दूसरी तकनीकों के इस्तेमाल से बच्चों के लिए सोशल मीडिया को सुरक्षित बनाने की कोशिशों को और मजबूत किया जा रहा है।