ग्रोक बिकनी विवाद के बाद इंडोनेशिया और मलेशिया ने एलन मस्क की कंपनी xAI के AI चैटबॉट Grok पर बैन लगा दिया है। इसकी वजह Grok का वह इमेज एडिटिंग फीचर बना, जिसके जरिए बिना सहमति के लोगों की यौन रूप से आपत्तिजनक तस्वीरें और डीपफेक इमेज बनाई जा रही थीं।
Grok के इमेज फीचर पर उठे गंभीर सवाल
Grok को X (पहले ट्विटर) पर सार्वजनिक रूप से पोस्ट की गई तस्वीरों को एडिट करने की क्षमता दी गई थी। इस फीचर का कई यूज़र्स ने दुरुपयोग करते हुए महिलाओं और अन्य लोगों की सेक्सुअलाइज्ड डीपफेक इमेज तैयार कीं। इसके बाद यूरोपीय संघ (EU), भारत, इंडोनेशिया और मलेशिया सहित कई देशों ने X और xAI से सुरक्षा उपायों (Safety Guardrails) को लेकर जवाब मांगा।
सिर्फ वेरिफाइड यूजर्स तक सीमित, लेकिन समस्या बरकरार
विवाद बढ़ने के बाद कंपनियों ने इस फीचर को केवल वेरिफाइड यूजर्स तक सीमित कर दिया, लेकिन उस मूल तकनीक में कोई बदलाव नहीं किया गया, जिससे बिना सहमति के अश्लील डीपफेक बनाए जा सकते थे। यही वजह है कि नियामक संस्थाएं संतुष्ट नहीं हुईं।
मलेशिया का सख्त रुख
मलेशिया की मलेशिया कम्युनिकेशन एंड मल्टीमीडिया कमीशन (MCMC) ने X पर एक आधिकारिक बयान जारी कर बताया कि Grok को देश में अस्थायी रूप से ब्लॉक किया जा रहा है। बयान में कहा गया कि Grok का बार-बार अश्लील, यौन रूप से स्पष्ट, अत्यंत आपत्तिजनक और बिना सहमति की बदली हुई तस्वीरें, यहां तक कि महिलाओं और बच्चों से जुड़ा कंटेंट बनाने में दुरुपयोग किया गया। नियामक ने बताया कि 3 जनवरी और 8 जनवरी को X और xAI को नोटिस भेजकर प्रभावी तकनीकी सुरक्षा उपाय लागू करने की मांग की गई थी, लेकिन कंपनियां जोखिम को सीधे खत्म करने में विफल रहीं।
यूज़र रिपोर्टिंग को बताया नाकाफी
MCMC का कहना है कि X ने केवल यूज़र-आधारित रिपोर्टिंग सिस्टम पर ध्यान दिया, जबकि ऐसे AI टूल से पैदा होने वाले खतरों को रोकने के लिए प्रत्यक्ष तकनीकी समाधान नहीं दिया गया। इसी कारण Grok पर रोक लगाने का फैसला लिया गया।
इंडोनेशिया ने भी लगाई अस्थायी पाबंदी
इंडोनेशिया की संचार और डिजिटल मंत्री मेउत्या हाफिद ने भी Grok पर अस्थायी बैन की घोषणा की। उन्होंने कहा कि महिलाओं, बच्चों और समाज को AI से बने फर्जी पोर्नोग्राफिक कंटेंट के खतरे से बचाने के लिए यह कदम उठाया गया है। मंत्री ने बिना सहमति के यौन डीपफेक बनाने को मानवाधिकारों, गरिमा और डिजिटल सुरक्षा का गंभीर उल्लंघन बताया।
X से मांगा गया तुरंत स्पष्टीकरण
इंडोनेशियाई मंत्रालय ने X से इस फीचर को लेकर तत्काल स्पष्टीकरण देने को कहा है। दोनों देशों का साफ कहना है कि जब तक प्रभावी सुरक्षा उपाय लागू नहीं किए जाते, तब तक Grok की सेवाएं बहाल नहीं की जाएंगी।
प्रदीप पाण्डेय टाइम्स नाउ नवभारत डिजिटल में टेक और ऑटो बीट पर कंटेंट तैयार करते हैं। डिजिटल मीडिया में 10 वर्षों के अनुभव के साथ प्रदीप तकनीक की दुनिया को समझने और उसे आम पाठकों तक सरल व उपयोगी रूप में पहुंचाने के लिए जाने जाते हैं। प्रदीप अब तक 11,000 से अधिक आर्टिकल्स लिख चुके हैं। वह गैजेट रिव्यू, आर्टिफिशियल इंटेलिजेंस, टेक टिप्स और नवीनतम टेक इनोवेशन पर लगातार काम करते हैं। एआई टूल्स पर एक्सपेरिमेंट करना, नए ऐप्स टेस्ट करना और टेक से जुड़े प्रैक्टिकल सॉल्यूशंस खोजने में उनकी खास रुचि है।
और पढ़ें