Grok के गलत इस्तेमाल के बाद तमाम सरकारों की ओर से मिल धमकी को देखते हुए एलन मस्क ने बड़ा फैसला लिया है। अब ग्रोक से हर कोई इमेज नहीं बनवा सकता। Elon Musk की स्वामित्व वाली सोशल मीडिया प्लेटफॉर्म X ने अपने AI चैटबॉट Grok की विवादित इमेज जनरेशन और एडिटिंग फीचर पर नई पाबंदियां लगा दी हैं। यह फैसला उस समय लिया गया है, जब यूके सरकार ने ‘AI बिकिनी ट्रेंड’ और अश्लील डीपफेक कंटेंट को लेकर प्लेटफॉर्म पर कार्रवाई की चेतावनी दी थी।
Elon Musk Banned Grok AI Image for Free User
‘अनड्रेसिंग ट्रेंड’ से मचा बवाल
विवाद तब शुरू हुआ जब Grok AI एक साधारण प्रॉम्प्ट पर तस्वीरों से कपड़े हटाने जैसी एडिटिंग करने लगा। इसके बाद प्लेटफॉर्म पर खासकर महिलाओं की बड़ी संख्या में यौन रूप से आपत्तिजनक डीपफेक तस्वीरें वायरल हो गईं। कुछ मामलों में नाबालिगों से जुड़े डीपफेक भी सामने आए, जिससे चिंता और गहरा गई।
फ्री यूजर्स के लिए बंद हुआ फीचर
BBC की रिपोर्ट के मुताबिक, यूके में X के गैर-भुगतान करने वाले यूजर्स जब Grok के इमेज जनरेशन या एडिटिंग फीचर का इस्तेमाल करने की कोशिश कर रहे हैं, तो उन्हें संदेश मिल रहा है- “Image generation and editing are currently limited to paying subscribers.” इसके बाद यूजर्स को X Premium या X Premium Plus सब्सक्रिप्शन लेने के लिए कहा जा रहा है।
अब सिर्फ ब्लू टिक और पेड अकाउंट्स को अनुमति
नई व्यवस्था के तहत, इमेज एडिटिंग के लिए पहचान और भुगतान विवरण देना जरूरी कर दिया गया है। अब केवल वेरिफाइड, ब्लू-टिक वाले पेड अकाउंट्स ही X पर Grok की इमेज टूल्स का इस्तेमाल कर सकते हैं।
फ्री यूजर्स के लिए सीमित विकल्प
xAI फ्री यूजर्स को Grok की इमेज जनरेशन सुविधा उसके अलग ऐप और वेबसाइट के जरिए उपलब्ध करा रहा है, लेकिन X प्लेटफॉर्म पर यह फीचर सीमित कर दिया गया है।
सेफ्टी कैंपेनर्स और पीड़ितों की नाराजगी
ऑनलाइन सेफ्टी कार्यकर्ताओं और डीपफेक के शिकार लोगों ने चेतावनी दी थी कि Grok का दुरुपयोग गैर-सहमति वाले और अश्लील कंटेंट बनाने में हो रहा है। कुछ पीड़ितों ने खुद को “अपमानित” और “अमानवीय” महसूस करने की बात कही और X पर मजबूत नैतिक सुरक्षा उपायों की मांग की।
यूके सरकार का दबाव बढ़ा
मामला तब और गंभीर हो गया जब यूके सरकार ने मीडिया रेगुलेटर Ofcom से कहा कि वह X पर वायरल हो रहे अश्लील AI कंटेंट से निपटने के लिए अपनी पूरी प्रवर्तन शक्तियों का इस्तेमाल करे।
पेवॉल पर भी सवाल
हालांकि X का कहना है कि पेवॉल लगाने का मकसद दुरुपयोग को रोकना है, लेकिन यूके सरकार का तर्क है कि केवल फीचर को पेड एक्सेस तक सीमित करना तकनीक से जुड़ी गहरी सुरक्षा चिंताओं का समाधान नहीं है।
Grok पर बढ़ा सर्वर लोड
यह विवाद ऐसे समय में सामने आया है, जब Grok AI पर यूजर्स की संख्या तेजी से बढ़ी है। Elon Musk ने हाल ही में बताया कि भारी उपयोग के चलते xAI को अतिरिक्त कंप्यूटिंग पावर ऑनलाइन लानी पड़ी।
उन्होंने लिखा, “Grok के उपयोग में तेज बढ़ोतरी के कारण कभी-कभी जवाब देने में देरी हो रही है। अतिरिक्त कंप्यूटर सिस्टम जोड़े जा रहे हैं।”
डीपफेक ट्रेंड से बढ़ी लोकप्रियता पर सवाल
हालांकि Musk ने सीधे तौर पर इस ट्रैफिक बढ़ोतरी को डीपफेक ट्रेंड से नहीं जोड़ा, लेकिन समय को देखते हुए यह सवाल उठने लगे हैं कि क्या वायरल दुरुपयोग ने ही Grok की लोकप्रियता को अचानक बढ़ाया है।
Premium