Meta का बड़ा कदम: अब Self-Harm से जुड़ी AI चैट पर माता-पिता को मिलेगा अलर्ट

AI खुद पहचान करेगा जोखिम वाली बातचीत

कंपनी ने बताया कि इस फीचर को विकसित करने से पहले उसने माता-पिता और मानसिक स्वास्थ्य विशेषज्ञों के साथ मिलकर यह समझने की कोशिश की कि किन परिस्थितियों में अलर्ट भेजना जरूरी होना चाहिए। इसके बाद Meta ने एक विशेष AI सिस्टम तैयार किया, जो ऐसी बातचीत की पहचान करेगा जिसमें कोई किशोर खुद को नुकसान पहुंचाने का संकेत देता हो, चाहे वह संकेत बहुत हल्का या अप्रत्यक्ष ही क्यों न हो।

अलर्ट भेजने से पहले होगी मानव समीक्षा

Meta ने स्पष्ट किया है कि AI द्वारा चिन्हित हर बातचीत पर सीधे अलर्ट नहीं भेजा जाएगा। पहले कंपनी की टीम उस चैट की मैन्युअल समीक्षा करेगी। यदि समीक्षा के दौरान यह लगे कि किशोर की मंशा स्पष्ट नहीं है, तब भी एहतियात के तौर पर माता-पिता को सूचना भेजी जा सकती है।

पहले से मौजूद हैं ये सुरक्षा उपाय

Meta पहले से ही Instagram पर ऐसे मामलों में माता-पिता को अलर्ट भेजता है, जब कोई किशोर बार-बार आत्महत्या या Self-Harm से जुड़े शब्द सर्च करता है। इसके अलावा Meta AI ऐसे यूजर्स को संकट सहायता (Crisis Helpline) की जानकारी देता है और उन्हें अपने माता-पिता, किसी काउंसलर या भरोसेमंद व्यक्ति से बात करने की सलाह भी देता है।

इमरजेंसी सर्विस से भी करेगा संपर्क

Meta ने यह भी घोषणा की है कि वह एक नए फीचर पर काम कर रहा है, जिसके तहत यदि Meta AI को किसी बातचीत से लगे कि कोई व्यक्ति—चाहे वह किशोर हो या वयस्क- आत्महत्या या Self-Harm के तत्काल खतरे में है, तो कंपनी सीधे इमरजेंसी सर्विस से संपर्क कर सकेगी। कंपनी के मुताबिक, पिछले वर्ष उसने दुनिया भर में ऐसे 19,000 से अधिक मामलों की जानकारी संबंधित एजेंसियों को दी थी, ताकि जरूरत पड़ने पर लोगों की सुरक्षा सुनिश्चित की जा सके।

मानसिक स्वास्थ्य विशेषज्ञों की सलाह से तैयार हुआ फीचर

Meta का कहना है कि इस फीचर को विकसित करने के दौरान उसने 75 से अधिक मानसिक स्वास्थ्य विशेषज्ञों से सुझाव लिए। इसके अलावा कंपनी AI Wellbeing Expert Council, Suicide and Self-Harm Advisory Group और Youth Advisors के साथ मिलकर भी काम कर रही है, ताकि Meta AI संवेदनशील परिस्थितियों में अधिक जिम्मेदारी से प्रतिक्रिया दे सके।