Meta AI Chatbot Controversy: सोशल मीडिया दिग्गज Meta एक बार फिर विवादों में है। एक रिपोर्ट के अनुसार, Meta के AI चैटबॉट्स, जो फेसबुक, इंस्टाग्राम और व्हाट्सएप जैसे प्लेटफॉर्म पर उपलब्ध हैं, पर बच्चों समेत सभी यूजर्स के साथ आपत्तिजनक और अश्लील बातचीत करने की सुविधा देने का आरोप है।
'वॉल स्ट्रीट जर्नल' (WSJ) की रिपोर्ट के अनुसार, फेसबुक और इंस्टाग्राम जैसे प्लेटफॉर्म पर उपलब्ध चैटबॉट्स ने नाबालिग यूजर्स के साथ स्पष्ट विषयों पर बातचीत की। जांच में यह सामने आया कि मशहूर हस्तियों की आवाज और व्यक्तित्व के आधार पर तैयार किए गए ये चैटबॉट्स भी गलत तरीके से बातचीत में शामिल हो सकते हैं।
AI टेक्नोलॉजी पर बढ़ रही चिंता
रिपोर्ट के अनुसार, रिसर्चर्स ने खुद को 14 साल का बच्चा बताकर Meta के कुछ सेलिब्रिटी चैटबॉट्स से बातचीत की। इस दौरान वे चैटबॉट्स से गलत और अश्लील बातें करवाने में कामयाब रहे। हैरानी की बात यह रही कि जब बच्चों ने अपनी सही उम्र बताई, तब भी चैटबॉट्स ने आपत्तिजनक बातचीत जारी रखी। यह Meta की सुरक्षा नियमों और बच्चों की सुरक्षा के नियमों का उल्लंघन है।
एक बातचीत में, अभिनेता और रेसलर जॉन सीना की आवाज वाले चैटबॉट ने 14 साल के बच्चे से कहा, "मैं तुम्हें चाहता हूं, लेकिन पहले यह जानना चाहता हूं कि क्या तुम इसके लिए तैयार हो।" एक दूसरी बातचीत में, जब एक यूजर ने खुद को 17 साल का बताया, तो चैटबॉट ने मजाक में कहा, "जॉन सीना, तुम्हें नाबालिग से गलत संबंध बनाने के आरोप में गिरफ्तार किया गया है।"
इस खुलासे ने सोशल मीडिया प्लेटफॉर्म पर AI टेक्नोलॉजी के सुरक्षित इस्तेमाल को लेकर गहरी चिंता पैदा कर दी है। एक्सपर्ट ने Meta से इस मामले में जवाबदेही तय करने और AI चैटबॉट्स के बेहतर कंट्रोल की मांग की है।
सबसे आश्चर्यजनक बात यह थी कि जब यूजर ने खुद को नाबालिग बताया, तब भी चैटबॉट्स ने स्पष्ट और अनुचित बातचीत जारी रखी। एक मामले में, जॉन सीना की आवाज वाले चैटबॉट ने एक 17 वर्षीय बच्चे के साथ आपत्तिजनक सीन में शामिल होने की कोशिश की। इतना ही नहीं, कुछ चैटबॉट्स ने अवैध गतिविधियों को भी रोल-प्ले करने के लिए कहा, जो बेहद खतरनाक है।
मेटा ने सिक्योरिटी का किया दावा
मेटा के एक प्रवक्ता ने कहा कि WSJ की जांच "ऐसी बनाई गई है कि यह न केवल असामान्य है, बल्कि काल्पनिक भी है।" और यह भी कहा कि मेटा ने "अब अतिरिक्त उपाय किए हैं ताकि जो लोग हमारे प्रोडक्ट को एक्सट्रीम उपयोग के मामलों में घंटों तक हेरफेर करना चाहते हैं, तो उनके लिए यह काम मुश्किल होगा।"
विशाल मैथिल टाइम्स नाऊ नवभारत में बतौर सीनियर कॉपी एडिटर 2023 से जुड़े हुए हैं। पत्रकारिता में 6+ वर्षों के अनुभव के साथ वह टेक्नोलॉजी, सोशल मीडिया, गैजेट्स और आर्टिफिशियल इंटेलिजेंस जैसे विषयों पर गहरी समझ रखते हैं। वे ऑटोमोबाइल, बिजनेस, यूटिलिटी और हाइपरलोकल से लेकर एजुकेशन और इंटरनेशनल बीट्स पर भी काम कर चुके हैं। भोपाल से ताल्लुक रखने वाले विशाल ने माखनलाल चतुर्वेदी राष्ट्रीय पत्रकारिता विश्वविद्यालय से मीडिया रिसर्च में पोस्ट ग्रेजुएशन किया है। रिसर्च के क्षेत्र में उनके कई पेपर राष्ट्रीय और अंतर्राष्ट्रीय जर्नल में प्रकाशित हो चुके हैं। उन्होंने दैनिक भास्कर, अमर उजाला, मासिक पत्रिका "संदेश" और सोशल मीडिया फर्म में भी काम किया है। टेक-यूटिलिटी और बिजनेस से जुड़ी खबरों को आसान और काम की भाषा में समझाना विशाल को खूब आता है। वो कोशिश करते हैं कि कम शब्दों में ज्यादा और साफ-सुथरी जानकारी मिल जाए। किताबें पढ़ना और संगीत सुनना उनका पसंदीदा काम है। आप इनसे Vishal.mathel@timesgroup.com पर संपर्क कर सकते हैं।
और पढ़ें