Elon Musk के लिए बुरी खबर! इन दो देशों ने AI Grok पर लगाया बैन, वजह जान भारतीय भी हो जाएंगे चौकन्ना

इंडोनेशिया की संचार और डिजिटल मामलों की मंत्री मेउत्या हाफिद ने एक बयान में कहा, 'सरकार गैर-सहमति वाले डीपफेक को मानवाधिकारों, गरिमा और डिजिटल क्षेत्र में नागरिकों की सुरक्षा का गंभीर उल्लंघन मानती है।' मंत्रालय ने कहा कि यह कदम AI के जरिए बनाई जा रही नकली अश्लील सामग्री से महिलाओं, बच्चों और व्यापक समुदाय की सुरक्षा के लिए उठाया गया है।

'छवि के अधिकारों का उल्लंघन...'

डिजिटल स्पेस निगरानी के महानिदेशक अलेक्जेंडर साबर ने कहा कि प्रारंभिक जांच में पाया गया है कि Grok में ऐसे प्रभावी सुरक्षा उपाय नहीं हैं, जो इंडोनेशियाई नागरिकों की वास्तविक तस्वीरों के आधार पर अश्लील सामग्री के निर्माण और प्रसार को रोक सकें। उन्होंने कहा कि बिना सहमति तस्वीरों में हेरफेर या साझा किए जाने से निजता और छवि के अधिकारों का उल्लंघन होता है, जिससे मानसिक, सामाजिक और प्रतिष्ठा संबंधी नुकसान हो सकता है।

कुआलालंपुर में मलेशियाई संचार और मल्टीमीडिया आयोग ने रविवार को Grok पर अस्थायी प्रतिबंध का आदेश दिया। आयोग ने कहा कि इस टूल का बार-बार दुरुपयोग कर अश्लील, यौन आधारित और बिना सहमति के चित्र तैयार किए गए, जिनमें महिलाओं और नाबालिगों से जुड़ी सामग्री भी शामिल थी।

नियामक ने बताया कि इस महीने एक्स कॉर्प और एक्सएआई को मजबूत सुरक्षा उपाय लागू करने के लिए भेजे गए नोटिस के जवाब संतोषजनक नहीं थे। आयोग ने कहा, 'कानूनी और नियामक प्रक्रियाओं के जारी रहने तक यह प्रतिबंध एक निवारक और संतुलित कदम के रूप में लगाया गया है,” और प्रभावी सुरक्षा उपाय लागू होने तक प्रतिबंध जारी रहेगा। वर्ष 2023 में शुरू किया गया Grok एक्स पर मुफ्त उपलब्ध है। पिछले साल कंपनी ने 'ग्रोक इमैजिन' नाम से इमेज जनरेशन फीचर जोड़ा था, जिसमें वयस्क सामग्री तैयार करने वाला तथाकथित 'स्पाइसी मोड' भी शामिल था।

ये देश भी Grok की जांच कर रहे

दक्षिण-पूर्व एशिया में लगाए गए ये प्रतिबंध ऐसे समय में आए हैं, जब यूरोपीय संघ, ब्रिटेन, भारत और फ्रांस सहित अन्य देशों में भी Grok को लेकर कड़ी जांच हो रही है। बीते सप्ताह वैश्विक आलोचना के बाद कंपनी ने इमेज जनरेशन और एडिटिंग को भुगतान करने वाले उपयोगकर्ताओं तक सीमित कर दिया था। आलोचकों का कहना है कि यह कदम समस्या के समाधान के लिए पर्याप्त नहीं है।