Elon Musk के लिए बुरी खबर! इन दो देशों ने AI Grok पर लगाया बैन, वजह जान भारतीय भी हो जाएंगे चौकन्ना

Elon Musk News: मलेशिया और इंडोनेशिया एलन मस्क की कंपनी 'xAI' द्वारा विकसित कृत्रिम बुद्धिमत्ता (AI) चैटबॉट 'ग्रोक' (Grok) पर प्रतिबंध लगाने वाले दुनिया के पहले देश बन गए हैं। अधिकारियों का कहना है कि इस टूल का दुरुपयोग अश्लील और बिना सहमति के डीपफेक चित्र तैयार करने में किया जा रहा था। मलेशिया और इंडोनेशिया के इस कदम से जनरेटिव AI को लेकर वैश्विक चिंता झलकती है, क्योंकि ऐसे टूल वास्तविक जैसे दिखने वाले चित्र, आवाज और लिखित संदेश तैयार कर सकते हैं, जबकि मौजूदा सुरक्षा उपाय उनके दुरुपयोग को रोकने में नाकाम साबित हो रहे हैं। भारत में भी AI डीपफेक के आए दिन खतरनाक मामले सामने आते हैं, जो किसी के जीने मरने तक का सवाल पैदा कर देते हैं।

मस्क के ही सोशल मीडिया मंच X के माध्यम से उपलब्ध Grok पर महिलाओं और बच्चों से जुड़े आपत्तिजनक और छेड़छाड़ वाले तैयार करने के आरोप लगे हैं। दक्षिण-पूर्व एशिया के इन दोनों देशों के नियामकों ने कहा कि मौजूदा नियंत्रण उपाय नकली अश्लील सामग्री, खासकर महिलाओं और नाबालिगों से जुड़ी सामग्री के निर्माण और प्रसार को रोकने में असफल रहे हैं। इंडोनेशिया सरकार ने शनिवार को Grok तक पहुंच अस्थायी रूप से बंद की, जबकि मलेशिया ने रविवार को ऐसा ही कदम उठाया।

इंडोनेशिया की संचार और डिजिटल मामलों की मंत्री मेउत्या हाफिद ने एक बयान में कहा, 'सरकार गैर-सहमति वाले डीपफेक को मानवाधिकारों, गरिमा और डिजिटल क्षेत्र में नागरिकों की सुरक्षा का गंभीर उल्लंघन मानती है।' मंत्रालय ने कहा कि यह कदम AI के जरिए बनाई जा रही नकली अश्लील सामग्री से महिलाओं, बच्चों और व्यापक समुदाय की सुरक्षा के लिए उठाया गया है।

डिजिटल स्पेस निगरानी के महानिदेशक अलेक्जेंडर साबर ने कहा कि प्रारंभिक जांच में पाया गया है कि Grok में ऐसे प्रभावी सुरक्षा उपाय नहीं हैं, जो इंडोनेशियाई नागरिकों की वास्तविक तस्वीरों के आधार पर अश्लील सामग्री के निर्माण और प्रसार को रोक सकें। उन्होंने कहा कि बिना सहमति तस्वीरों में हेरफेर या साझा किए जाने से निजता और छवि के अधिकारों का उल्लंघन होता है, जिससे मानसिक, सामाजिक और प्रतिष्ठा संबंधी नुकसान हो सकता है।

कुआलालंपुर में मलेशियाई संचार और मल्टीमीडिया आयोग ने रविवार को Grok पर अस्थायी प्रतिबंध का आदेश दिया। आयोग ने कहा कि इस टूल का बार-बार दुरुपयोग कर अश्लील, यौन आधारित और बिना सहमति के चित्र तैयार किए गए, जिनमें महिलाओं और नाबालिगों से जुड़ी सामग्री भी शामिल थी।

नियामक ने बताया कि इस महीने एक्स कॉर्प और एक्सएआई को मजबूत सुरक्षा उपाय लागू करने के लिए भेजे गए नोटिस के जवाब संतोषजनक नहीं थे। आयोग ने कहा, 'कानूनी और नियामक प्रक्रियाओं के जारी रहने तक यह प्रतिबंध एक निवारक और संतुलित कदम के रूप में लगाया गया है,” और प्रभावी सुरक्षा उपाय लागू होने तक प्रतिबंध जारी रहेगा। वर्ष 2023 में शुरू किया गया Grok एक्स पर मुफ्त उपलब्ध है। पिछले साल कंपनी ने 'ग्रोक इमैजिन' नाम से इमेज जनरेशन फीचर जोड़ा था, जिसमें वयस्क सामग्री तैयार करने वाला तथाकथित 'स्पाइसी मोड' भी शामिल था।

दक्षिण-पूर्व एशिया में लगाए गए ये प्रतिबंध ऐसे समय में आए हैं, जब यूरोपीय संघ, ब्रिटेन, भारत और फ्रांस सहित अन्य देशों में भी Grok को लेकर कड़ी जांच हो रही है। बीते सप्ताह वैश्विक आलोचना के बाद कंपनी ने इमेज जनरेशन और एडिटिंग को भुगतान करने वाले उपयोगकर्ताओं तक सीमित कर दिया था। आलोचकों का कहना है कि यह कदम समस्या के समाधान के लिए पर्याप्त नहीं है।