Meta ने किशोरों की ऑनलाइन सुरक्षा को मजबूत करने के लिए नए पैरेंटल सेफ्टी टूल्स पेश किए हैं। इन फीचर्स का उद्देश्य ऐसे मामलों में माता-पिता को समय रहते सतर्क करना है, जब कोई किशोर Meta AI से आत्महत्या या खुद को नुकसान पहुंचाने जैसे संवेदनशील विषयों पर बातचीत करता है। फिलहाल यह सुविधा अमेरिका, ब्रिटेन, ऑस्ट्रेलिया और कनाडा में उपलब्ध कराई गई है। कंपनी का कहना है कि साल के अंत तक इसे अन्य देशों में भी चरणबद्ध तरीके से शुरू किया जाएगा।
Meta AI से संवेदनशील बातचीत होने पर जाएगा अलर्ट
Meta के अनुसार, यदि कोई किशोर Instagram या Facebook पर Meta AI के साथ आत्महत्या या Self-Harm से जुड़ी बातचीत करता है, तो Instagram Supervision Tools का उपयोग कर रहे माता-पिता को इसकी सूचना भेजी जाएगी। सिर्फ अलर्ट ही नहीं, Meta माता-पिता को विशेषज्ञों द्वारा तैयार किए गए संसाधन (Resources) भी उपलब्ध कराएगा, जिससे वे अपने बच्चों से इस विषय पर सही तरीके से बातचीत कर सकें।
AI खुद पहचान करेगा जोखिम वाली बातचीत
कंपनी ने बताया कि इस फीचर को विकसित करने से पहले उसने माता-पिता और मानसिक स्वास्थ्य विशेषज्ञों के साथ मिलकर यह समझने की कोशिश की कि किन परिस्थितियों में अलर्ट भेजना जरूरी होना चाहिए। इसके बाद Meta ने एक विशेष AI सिस्टम तैयार किया, जो ऐसी बातचीत की पहचान करेगा जिसमें कोई किशोर खुद को नुकसान पहुंचाने का संकेत देता हो, चाहे वह संकेत बहुत हल्का या अप्रत्यक्ष ही क्यों न हो।
अलर्ट भेजने से पहले होगी मानव समीक्षा
Meta ने स्पष्ट किया है कि AI द्वारा चिन्हित हर बातचीत पर सीधे अलर्ट नहीं भेजा जाएगा। पहले कंपनी की टीम उस चैट की मैन्युअल समीक्षा करेगी। यदि समीक्षा के दौरान यह लगे कि किशोर की मंशा स्पष्ट नहीं है, तब भी एहतियात के तौर पर माता-पिता को सूचना भेजी जा सकती है।
पहले से मौजूद हैं ये सुरक्षा उपाय
Meta पहले से ही Instagram पर ऐसे मामलों में माता-पिता को अलर्ट भेजता है, जब कोई किशोर बार-बार आत्महत्या या Self-Harm से जुड़े शब्द सर्च करता है। इसके अलावा Meta AI ऐसे यूजर्स को संकट सहायता (Crisis Helpline) की जानकारी देता है और उन्हें अपने माता-पिता, किसी काउंसलर या भरोसेमंद व्यक्ति से बात करने की सलाह भी देता है।
इमरजेंसी सर्विस से भी करेगा संपर्क
Meta ने यह भी घोषणा की है कि वह एक नए फीचर पर काम कर रहा है, जिसके तहत यदि Meta AI को किसी बातचीत से लगे कि कोई व्यक्ति—चाहे वह किशोर हो या वयस्क- आत्महत्या या Self-Harm के तत्काल खतरे में है, तो कंपनी सीधे इमरजेंसी सर्विस से संपर्क कर सकेगी। कंपनी के मुताबिक, पिछले वर्ष उसने दुनिया भर में ऐसे 19,000 से अधिक मामलों की जानकारी संबंधित एजेंसियों को दी थी, ताकि जरूरत पड़ने पर लोगों की सुरक्षा सुनिश्चित की जा सके।
मानसिक स्वास्थ्य विशेषज्ञों की सलाह से तैयार हुआ फीचर
Meta का कहना है कि इस फीचर को विकसित करने के दौरान उसने 75 से अधिक मानसिक स्वास्थ्य विशेषज्ञों से सुझाव लिए। इसके अलावा कंपनी AI Wellbeing Expert Council, Suicide and Self-Harm Advisory Group और Youth Advisors के साथ मिलकर भी काम कर रही है, ताकि Meta AI संवेदनशील परिस्थितियों में अधिक जिम्मेदारी से प्रतिक्रिया दे सके।
प्रदीप पाण्डेय टाइम्स नाउ नवभारत डिजिटल में टेक और ऑटो बीट पर कंटेंट तैयार करते हैं। डिजिटल मीडिया में 10 वर्षों के अनुभव के साथ प्रदीप तकनीक की दुनिया को समझने और उसे आम पाठकों तक सरल व उपयोगी रूप में पहुंचाने के लिए जाने जाते हैं। प्रदीप अब तक 11,000 से अधिक आर्टिकल्स लिख चुके हैं। वह गैजेट रिव्यू, आर्टिफिशियल इंटेलिजेंस, टेक टिप्स और नवीनतम टेक इनोवेशन पर लगातार काम करते हैं। एआई टूल्स पर एक्सपेरिमेंट करना, नए ऐप्स टेस्ट करना और टेक से जुड़े प्रैक्टिकल सॉल्यूशंस खोजने में उनकी खास रुचि है।
और पढ़ें