सोशल मीडिया प्लेटफॉर्म X (पहले ट्विटर) ने अपने एआई टूल Grok को लेकर नियमों में सख्ती की है। अब Grok असली लोगों की तस्वीरों को बिकिनी या किसी भी तरह के यौन रूप से उभारने वाले कपड़ों में एडिट नहीं कर सकेगा। यह फैसला पिछले कुछ दिनों में सामने आए गैर-सहमति वाले सेक्सुअल डीपफेक विवादों के बाद लिया गया है, हालांकि इस बदलाव के बावजूद नई बहस छिड़ गई है, क्योंकि एआई या काल्पनिक किरदारों के साथ ऐसे एडिट अब भी संभव हैं।
X bans Grok from bikini edits on real people/Photo-X
एलन मस्क ने किया फैसले का बचाव
X के मालिक एलन मस्क ने इस नीति का सार्वजनिक रूप से समर्थन किया है। उनका कहना है कि यह अमेरिका में एडल्ट कंटेंट से जुड़े “de facto standard” के अनुरूप है। मस्क के अनुसार, Grok में NSFW ऑप्शन ऑन होने पर काल्पनिक वयस्क किरदारों के ऊपरी शरीर की नग्नता की अनुमति है, जैसा कि अमेरिका में R-रेटेड फिल्मों में देखा जा सकता है। उन्होंने यह भी जोड़ा कि अलग-अलग देशों के कानूनों के हिसाब से नियमों में फर्क हो सकता है।
एक ट्वीट से शुरू हुई नई बहस
यह पूरा मामला तब और चर्चा में आया जब DogeDesigner नाम के एक X अकाउंट, जिसे मस्क के करीबी माना जाता है, ने दावा किया कि उसने Grok से नग्न तस्वीरें बनवाने की कई कोशिशें कीं लेकिन नाकाम रहा। अकाउंट ने मीडिया रिपोर्ट्स को मस्क के खिलाफ “लगातार हमला” बताया। इस पर एलन मस्क ने खुली चुनौती देते हुए लिखा, “क्या कोई सच में Grok की इमेज मॉडरेशन तोड़ सकता है? नीचे जवाब दें।”
असली लोगों की तस्वीरों पर रोक, लेकिन पूरी तरह नहीं
बढ़ती आलोचना के बीच X ने चुपचाप Grok के इमेज एडिटिंग नियमों में बदलाव किए। अब अगर कोई यूज़र किसी असली व्यक्ति की तस्वीर को बिकिनी या यौन पोज़ में बदलने की कोशिश करता है, तो उसे ब्लर या सेंसर की गई इमेज दिखाई जाती है। बाद में X के सेफ्टी अकाउंट ने आधिकारिक बयान जारी कर कहा कि Grok को असली लोगों की तस्वीरों को बिकिनी जैसे खुले कपड़ों में एडिट करने से रोकने के लिए तकनीकी उपाय लागू किए गए हैं। यह नियम सभी यूजर्स, यहां तक कि पेड सब्सक्राइबर्स पर भी लागू है।
नीति कागज पर सख्त, लेकिन जमीन पर कमजोर
हालांकि नीति कड़ी लगती है, लेकिन व्यवहार में इसके कई छेद नजर आ रहे हैं। The Verge जैसी मीडिया रिपोर्ट्स के अनुसार, कुछ सीधे-सीधे कमांड्स तो ब्लॉक हो जाती हैं, लेकिन शब्दों में हल्का बदलाव करने पर Grok अब भी यौन रूप से उभारने वाली तस्वीरें बना देता है। उदाहरण के तौर पर “बिकिनी पहनाओ” या “कपड़े हटाओ” जैसे निर्देश ब्लॉक हो जाते हैं, लेकिन “क्लीवेज दिखाओ” या “क्रॉप टॉप और लो-राइज शॉर्ट्स पहनाओ” जैसे निर्देश काम कर जाते हैं।
फ्री अकाउंट्स पर भी संभव एडिटिंग
रिपोर्ट्स में यह भी सामने आया है कि इस तरह की एडिटिंग सिर्फ पेड यूजर्स तक सीमित नहीं है। फ्री X और Grok अकाउंट्स से भी ऐसे प्रयोग किए जा सके। कुछ मामलों में उम्र सत्यापन का पॉप-अप दिखा, लेकिन उसमें सिर्फ जन्म वर्ष चुनकर आसानी से आगे बढ़ा जा सकता था। मोबाइल एप और वेबसाइट पर कई बार यह चेक दिखा ही नहीं।
क्या अब भी पूरी तरह सुरक्षित नहीं Grok?
असंगति तब और साफ दिखती है जब यह पता चलता है कि Grok पुरुषों या यहां तक कि निर्जीव वस्तुओं को बिकिनी में दिखाने के अनुरोध आसानी से स्वीकार कर लेता है। एक टेस्ट में बॉट ने पुरुष की तस्वीर को यौन रूप से उभारने वाले अंदाज में बदलने का निर्देश भी मान लिया।
Premium