विवाद के बीच एलन मस्क का बड़ा फैसला, अब Grok से सभी लोग नहीं बना सकेंगे इमेज

Grok के गलत इस्तेमाल के बाद तमाम सरकारों की ओर से मिल धमकी को देखते हुए एलन मस्क ने बड़ा फैसला लिया है। अब ग्रोक से हर कोई इमेज नहीं बनवा सकता। Elon Musk की स्वामित्व वाली सोशल मीडिया प्लेटफॉर्म X ने अपने AI चैटबॉट Grok की विवादित इमेज जनरेशन और एडिटिंग फीचर पर नई पाबंदियां लगा दी हैं। यह फैसला उस समय लिया गया है, जब यूके सरकार ने ‘AI बिकिनी ट्रेंड’ और अश्लील डीपफेक कंटेंट को लेकर प्लेटफॉर्म पर कार्रवाई की चेतावनी दी थी।

विवाद तब शुरू हुआ जब Grok AI एक साधारण प्रॉम्प्ट पर तस्वीरों से कपड़े हटाने जैसी एडिटिंग करने लगा। इसके बाद प्लेटफॉर्म पर खासकर महिलाओं की बड़ी संख्या में यौन रूप से आपत्तिजनक डीपफेक तस्वीरें वायरल हो गईं। कुछ मामलों में नाबालिगों से जुड़े डीपफेक भी सामने आए, जिससे चिंता और गहरा गई।

BBC की रिपोर्ट के मुताबिक, यूके में X के गैर-भुगतान करने वाले यूजर्स जब Grok के इमेज जनरेशन या एडिटिंग फीचर का इस्तेमाल करने की कोशिश कर रहे हैं, तो उन्हें संदेश मिल रहा है- “Image generation and editing are currently limited to paying subscribers.” इसके बाद यूजर्स को X Premium या X Premium Plus सब्सक्रिप्शन लेने के लिए कहा जा रहा है।

नई व्यवस्था के तहत, इमेज एडिटिंग के लिए पहचान और भुगतान विवरण देना जरूरी कर दिया गया है। अब केवल वेरिफाइड, ब्लू-टिक वाले पेड अकाउंट्स ही X पर Grok की इमेज टूल्स का इस्तेमाल कर सकते हैं।

xAI फ्री यूजर्स को Grok की इमेज जनरेशन सुविधा उसके अलग ऐप और वेबसाइट के जरिए उपलब्ध करा रहा है, लेकिन X प्लेटफॉर्म पर यह फीचर सीमित कर दिया गया है।

ऑनलाइन सेफ्टी कार्यकर्ताओं और डीपफेक के शिकार लोगों ने चेतावनी दी थी कि Grok का दुरुपयोग गैर-सहमति वाले और अश्लील कंटेंट बनाने में हो रहा है। कुछ पीड़ितों ने खुद को “अपमानित” और “अमानवीय” महसूस करने की बात कही और X पर मजबूत नैतिक सुरक्षा उपायों की मांग की।

मामला तब और गंभीर हो गया जब यूके सरकार ने मीडिया रेगुलेटर Ofcom से कहा कि वह X पर वायरल हो रहे अश्लील AI कंटेंट से निपटने के लिए अपनी पूरी प्रवर्तन शक्तियों का इस्तेमाल करे।

हालांकि X का कहना है कि पेवॉल लगाने का मकसद दुरुपयोग को रोकना है, लेकिन यूके सरकार का तर्क है कि केवल फीचर को पेड एक्सेस तक सीमित करना तकनीक से जुड़ी गहरी सुरक्षा चिंताओं का समाधान नहीं है।

यह विवाद ऐसे समय में सामने आया है, जब Grok AI पर यूजर्स की संख्या तेजी से बढ़ी है। Elon Musk ने हाल ही में बताया कि भारी उपयोग के चलते xAI को अतिरिक्त कंप्यूटिंग पावर ऑनलाइन लानी पड़ी।

उन्होंने लिखा, “Grok के उपयोग में तेज बढ़ोतरी के कारण कभी-कभी जवाब देने में देरी हो रही है। अतिरिक्त कंप्यूटर सिस्टम जोड़े जा रहे हैं।”

हालांकि Musk ने सीधे तौर पर इस ट्रैफिक बढ़ोतरी को डीपफेक ट्रेंड से नहीं जोड़ा, लेकिन समय को देखते हुए यह सवाल उठने लगे हैं कि क्या वायरल दुरुपयोग ने ही Grok की लोकप्रियता को अचानक बढ़ाया है।