AI तकनीक के बढ़ते इस्तेमाल के साथ इंटरनेट पर फर्जी और भ्रामक तस्वीरों यानी डीपफेक का खतरा भी तेजी से बढ़ रहा है। इसी चुनौती से निपटने के लिए OpenAI ने नया कदम उठाया है। कंपनी ने एक मुफ्त AI इमेज वेरिफिकेशन टूल लॉन्च किया है, जिसकी मदद से यूजर्स यह पता लगा सकेंगे कि कोई तस्वीर AI से बनाई गई है या नहीं।
कैसे काम करेगा नया वेरिफिकेशन टूल?
OpenAI का यह नया टूल दो प्रमुख संकेतों के आधार पर काम करता है। पहला है SynthID वॉटरमार्क और दूसरा है C2PA नाम का ओपन स्टैंडर्ड। C2PA किसी AI-जनरेटेड इमेज की मेटाडेटा जानकारी में संकेत जोड़ता है, जिससे यह पहचानना आसान हो जाता है कि तस्वीर AI से बनी है या नहीं, हालांकि फिलहाल यह टूल केवल ChatGPT, OpenAI API और Codex से बनी तस्वीरों की पहचान करने में सक्षम है। कंपनी का कहना है कि भविष्य में इसे दूसरे AI प्लेटफॉर्म्स तक भी विस्तारित किया जाएगा।
डीपफेक के बढ़ते खतरे के बीच बड़ा कदम
आज के समय में AI इमेज जनरेशन टूल्स पहले से कहीं ज्यादा एडवांस हो चुके हैं। इंटरनेट पर ऐसे टूल्स आसानी से उपलब्ध हैं, जिससे असली और नकली तस्वीरों में फर्क करना मुश्किल होता जा रहा है। ऐसे में OpenAI का यह कदम गलत जानकारी और फर्जी तस्वीरों के प्रसार को रोकने में मददगार साबित हो सकता है।
कंपनी ने अपने ब्लॉग पोस्ट में कहा कि वॉटरमार्क स्क्रीनशॉट, रिसाइजिंग और एडिटिंग जैसी प्रक्रियाओं के बाद भी बने रह सकते हैं, जबकि मेटाडेटा अतिरिक्त जानकारी उपलब्ध कराता है। दोनों तकनीकों का संयुक्त उपयोग किसी एक सिस्टम की तुलना में ज्यादा मजबूत सुरक्षा प्रदान करता है।
ऐसे करें AI इमेज की जांच
OpenAI के नए वेरिफिकेशन टूल का इस्तेमाल करना काफी आसान है। यूजर्स को केवल एक इमेज अपलोड करनी होगी। यह टूल PNG, JPG और WEBP फॉर्मेट को सपोर्ट करता है। इमेज अपलोड करने के बाद टूल यह जांचता है कि उसमें C2PA मेटाडेटा, SynthID वॉटरमार्क या कोई अन्य समर्थित संकेत मौजूद है या नहीं। बेहतर रिजल्ट के लिए कंपनी ने सलाह दी है कि इमेज को ज्यादा क्रॉप न करें और एक बार में केवल एक ही तस्वीर अपलोड करें।
C2PA और SynthID में क्या अंतर है?
C2PA एक गैर-लाभकारी संगठन है, जिसकी स्थापना 2021 में AI से बनने वाली भ्रामक तस्वीरों के असर को कम करने के उद्देश्य से की गई थी। यह सिस्टम इमेज की मेटाडेटा जानकारी में संकेत जोड़ता है, लेकिन इसे बदला भी जा सकता है।
वहीं SynthID को Google DeepMind ने विकसित किया है। इसे इस तरह डिजाइन किया गया है कि स्क्रीनशॉट, रिसाइजिंग या एडिटिंग के बाद भी इसका वॉटरमार्क बना रहे।
प्रदीप पाण्डेय टाइम्स नाउ नवभारत डिजिटल में टेक और ऑटो बीट पर कंटेंट तैयार करते हैं। डिजिटल मीडिया में 10 वर्षों के अनुभव के साथ प्रदीप तकनीक की दुनिय... और देखें