माइक्रोसॉफ्ट के अलर्ट के बाद सरकार की सख्ती, AI कंटेंट और डीपफेक पर डिजिटल कंपनियों को चेताया

Centre On Action Against AI Content: माइक्रोसॉफ्ट ने चीन को लेकर भारत सहित अमेरिका और दक्षिण कोरिया को चेतावनी दी है कि चीन लोक सभा चुनाव में खलल डालने के लिए आर्टिफिशियल इंटेलिजेंस की मदद ले सकता है। माइक्रोसॉफ्ट की चेतावनी के बाद केंद्र सरकार ने कड़ा रुख अपनाया है। सरकार ने सख्ती के साथ ग्लोबल डिजिटल कंपनियों को एआई और चुनावों के दौरान इसके संभावित दुरुपयोग के बारे में एक नई एडवाइजरी के अनुरूप अपने प्लेटफार्मों में सुधार करने के लिए कहा है।

इस वर्ष दुनिया भर में विशेष रूप से भारत, दक्षिण कोरिया और अमेरिका में प्रमुख चुनाव हो रहे हैं। माइक्रोसॉफ्ट के थ्रेट्स एनालिस्ट सेंटर के जनरल मैनेजन क्लिंट वाट्स के अनुसार, "हमारा आकलन है कि चीन अपने लाभ के लिए AI- जेनरेटेड कंटेंट का निर्माण और विस्तार करेगा।" एक्सपोजर मैनेजमेंट कंपनी टेनेबल के अनुसार, एआई-जनित डीपफेक और फर्जी कंटेंट के माध्यम से फैली गलत सूचना आगामी चुनावों के लिए सबसे बड़ा खतरा है।

ये भी पढ़ें: अब फ्री में जानकारी नहीं देगा Google, चाहो न चाहो लेना पड़ेगा सब्सक्रिप्शन!

माइक्रोसॉफ्ट की चेतावनी के बाद सरकार अलर्ट मोड में आ गई है। आईटी मंत्रालय ने एआई से संबंधित एक नई एडवाइजरी जारी की है। जिसमें कहा गया है कि डिजिटल प्लेटफॉर्म को पूरी जवाबदेही लेनी होगी और वह ऐसा कहकर बच नहीं सकते कि यह एआई मॉडल "टेस्टिंग मोड" में हैं। एआई के संभावित दुरुपयोग से चिंतित, केंद्र ने पिछले महीने कहा था कि सोशल मीडिया मध्यस्थों को "किसी भी पूर्वाग्रह या भेदभाव की अनुमति नहीं देनी चाहिए या चुनावी प्रक्रिया की अखंडता को खतरे में नहीं डालना चाहिए।"

एडवाइजरी के अनुसार, "आईटी अधिनियम और/या आईटी नियमों के प्रावधानों का अनुपालन न करने पर मध्यस्थों या प्लेटफार्म या इसके यूजरों की पहचान होने पर संभावित दंडात्मक परिणाम होंगे, जिसमें आईटी अधिनियम और आपराधिक संहिता के कई अन्य कानूनों के तहत अभियोजन शामिल है, लेकिन यह इन्हीं तक सीमित नहीं है।"

पिछले महीने के अंत में माइक्रोसॉफ्ट के सह-संस्थापक बिल गेट्स और पीएम मोदी ने मुलाकात की थी। बातचीत में दौरान पीएम मोदी ने कहा था कि भारत जैसे लोकतांत्रिक देश में डीपफेक बड़ी चिंता का विषय है। पीएम मोदी ने जोर देकर कहा थाा, "मैंने एआई और इसके जोखिमों पर अग्रणी विचारकों के साथ बातचीत की है। इसकी पहचान के लिए वॉटरमार्क लगाना चाहिए"

प्रधानमंत्री ने बिल गेट्स से कहा था कि कोई लोगों को धोखा देने के लिए मेरी आवाज का दुरुपयोग भी कर सकता है और इस तरह के डीपफेक से बड़े पैमाने पर हंगामा हो सकता है। हमें डीपफेक पर 'क्या करें और क्या न करें' के बारे में मजबूती से विचार करने की जरूरत है।

द गार्जियन के अनुसार, अमेरिकी टेक फर्म ने कहा कि उसे आशंका है कि चीन के समर्थन वाले साइबर ग्रुप 2024 में हाई-प्रोफाइल चुनावों को निशाना बनाएंगे, जिसमें उत्तर कोरिया भी शामिल होगा। माइक्रोसॉफ्ट के मुताबिक चीनी हैकर्स मीम्स, वीडियो और ऑडियो के जरिए चुनावों को प्रभावित करने का प्रयास करेंगे। टेक दिग्गज के अनुसार, चीन वोटर्स को वांटने के लिए फर्जी सोशल मीडिया अकाउंट का उपयोग कर रहा है। यहां पढ़ें पूरी खबर