AI टेक्नोलॉजी पर सवाल: Meta चैटबॉट्स पर बच्चों से अश्लील बातचीत करने का आरोप, जानें कंपनी ने क्या कहा

AI टेक्नोलॉजी पर बढ़ रही चिंता

रिपोर्ट के अनुसार, रिसर्चर्स ने खुद को 14 साल का बच्चा बताकर Meta के कुछ सेलिब्रिटी चैटबॉट्स से बातचीत की। इस दौरान वे चैटबॉट्स से गलत और अश्लील बातें करवाने में कामयाब रहे। हैरानी की बात यह रही कि जब बच्चों ने अपनी सही उम्र बताई, तब भी चैटबॉट्स ने आपत्तिजनक बातचीत जारी रखी। यह Meta की सुरक्षा नियमों और बच्चों की सुरक्षा के नियमों का उल्लंघन है।

एक बातचीत में, अभिनेता और रेसलर जॉन सीना की आवाज वाले चैटबॉट ने 14 साल के बच्चे से कहा, "मैं तुम्हें चाहता हूं, लेकिन पहले यह जानना चाहता हूं कि क्या तुम इसके लिए तैयार हो।" एक दूसरी बातचीत में, जब एक यूजर ने खुद को 17 साल का बताया, तो चैटबॉट ने मजाक में कहा, "जॉन सीना, तुम्हें नाबालिग से गलत संबंध बनाने के आरोप में गिरफ्तार किया गया है।"

इस खुलासे ने सोशल मीडिया प्लेटफॉर्म पर AI टेक्नोलॉजी के सुरक्षित इस्तेमाल को लेकर गहरी चिंता पैदा कर दी है। एक्सपर्ट ने Meta से इस मामले में जवाबदेही तय करने और AI चैटबॉट्स के बेहतर कंट्रोल की मांग की है।

सबसे आश्चर्यजनक बात यह थी कि जब यूजर ने खुद को नाबालिग बताया, तब भी चैटबॉट्स ने स्पष्ट और अनुचित बातचीत जारी रखी। एक मामले में, जॉन सीना की आवाज वाले चैटबॉट ने एक 17 वर्षीय बच्चे के साथ आपत्तिजनक सीन में शामिल होने की कोशिश की। इतना ही नहीं, कुछ चैटबॉट्स ने अवैध गतिविधियों को भी रोल-प्ले करने के लिए कहा, जो बेहद खतरनाक है।

मेटा ने सिक्योरिटी का किया दावा

मेटा के एक प्रवक्ता ने कहा कि WSJ की जांच "ऐसी बनाई गई है कि यह न केवल असामान्य है, बल्कि काल्पनिक भी है।" और यह भी कहा कि मेटा ने "अब अतिरिक्त उपाय किए हैं ताकि जो लोग हमारे प्रोडक्ट को एक्सट्रीम उपयोग के मामलों में घंटों तक हेरफेर करना चाहते हैं, तो उनके लिए यह काम मुश्किल होगा।"