डीपफेक पर सरकार की सख्ती: सोशल मीडिया पर AI कंटेंट की निगरानी हुई कड़ी, 3 घंटे में हटानी होगी अवैध सामग्री

सरकार ने उठाए ये कदम

सरकार ने 10 फरवरी 2026 को IT Rules में संशोधन कर सिंथेटिकली जनरेटेड इंफॉर्मेशन (SGI), जैसे डीपफेक और AI से बनाए गए कंटेंट, से होने वाले नुकसान को रोकने के लिए नए प्रावधान जोड़े हैं। इसके तहत अब सोशल मीडिया कंपनियों को तकनीकी उपाय अपनाने होंगे, जिससे फेक या भ्रामक AI कंटेंट को बनने और फैलने से रोका जा सके। नए नियमों के अनुसार, प्लेटफॉर्म्स को यह सुनिश्चित करना होगा कि AI से बनाए गए वैध कंटेंट पर स्पष्ट लेबलिंग और ट्रेसेबल मेटाडेटा हो, ताकि यूजर्स आसानी से पहचान सकें कि यह कंटेंट असली है या कृत्रिम रूप से तैयार किया गया है। इसके अलावा, यूजर्स को यह भी जागरूक करना होगा कि अवैध AI कंटेंट बनाने या साझा करने के क्या कानूनी परिणाम हो सकते हैं।

सरकार ने यह भी स्पष्ट किया है कि बच्चों से जुड़े यौन शोषण सामग्री, गैर-सहमति वाली निजी तस्वीरें (NCII), किसी की पहचान की नकल (इंपर्सोनेशन) और अन्य हानिकारक AI कंटेंट को रोकना प्लेटफॉर्म्स की जिम्मेदारी होगी। ऐसे मामलों में तुरंत कार्रवाई करना अनिवार्य होगा। एक अहम प्रावधान के तहत अब सोशल मीडिया प्लेटफॉर्म्स को किसी अदालत या सरकार के आदेश मिलने के तीन घंटे के भीतर अवैध कंटेंट हटाना होगा। यह नियम डिजिटल प्लेटफॉर्म्स पर जवाबदेही बढ़ाने की दिशा में बड़ा कदम माना जा रहा है।

सरकार ने पहले ही 11 नवंबर 2025 को एक स्टैंडर्ड ऑपरेटिंग प्रोसीजर (SOP) जारी किया था, जिसमें बिना सहमति के साझा की गई निजी तस्वीरों (NCII) के खिलाफ कार्रवाई के लिए स्पष्ट दिशा-निर्देश दिए गए थे। इसमें पीड़ितों, प्लेटफॉर्म्स और कानून प्रवर्तन एजेंसियों की भूमिका तय की गई है।