AI की फर्जी तस्वीरें और चैटबॉट आपकी याददाश्त से कर रहे खिलवाड़, झूठ को सच मानने लगता है दिमाग

बाद में जब लोगों से तस्वीरों के बारे में सवाल पूछे गए, तो AI से बदली गई तस्वीरें देखने वाले लोग पुरानी तस्वीरों को ज्यादा गलत तरीके से याद कर रहे थे। सबसे चौंकाने वाली बात यह थी कि उन्हें अपनी गलत यादों पर भी पूरा भरोसा था। यानी दिमाग ने जो देखा था, उसकी जगह बदली हुई तस्वीर से जुड़ी जानकारी को सच मान लिया।

AI चैटबॉट से बात करने पर भी बन सकती हैं झूठी यादें

यह खतरा सिर्फ तस्वीरों तक सीमित नहीं है। MIT मीडिया लैब के एक अन्य अध्ययन में पाया गया कि जनरेटिव AI चैटबॉट से सवालों के जवाब देने वाले लोगों में झूठी यादें बनने की संभावना उन लोगों के मुकाबले तीन गुने से भी ज्यादा थी, जिन्होंने चैटबॉट के साथ ऐसी बातचीत नहीं की थी।

इसका मतलब है कि AI के साथ बातचीत करते समय मिलने वाली गलत जानकारी भी हमारी याददाश्त को प्रभावित कर सकती है। अगर चैटबॉट किसी घटना के बारे में गलत विवरण आत्मविश्वास के साथ बताता है, तो इंसान उस जानकारी को अपनी पुरानी यादों का हिस्सा समझ सकता है।

AI की चेतावनी भी नहीं बचा पा रही लोगों को

जॉर्जटाउन यूनिवर्सिटी के एक अलग अध्ययन में AI से तैयार किए गए टेक्स्ट समरी के असर को देखा गया। शोधकर्ताओं ने पाया कि वीडियो का भ्रामक AI सारांश पढ़ने के बाद लोगों की एक सामान्य जानकारी, जैसे ट्रैफिक साइन, को सही याद रखने की क्षमता 83.6 प्रतिशत से घटकर सिर्फ 44.8 प्रतिशत रह गई।

यहां सवाल उठता है कि अगर लोगों को पहले ही बता दिया जाए कि सारांश AI ने तैयार किया है, तो क्या वे सावधान हो जाएंगे? अध्ययन के मुताबिक, ऐसा करने से भी गलत यादें बनने की समस्या पूरी तरह नहीं रुकी। अन्य अध्ययनों में यह भी सामने आया है कि AI डीपफेक के जरिए काल्पनिक राजनीतिक विवादों को सच जैसा दिखाकर लोगों की सोच और मतदान से जुड़े फैसलों को प्रभावित किया जा सकता है।

AI की गलती पकड़ना इंसानों के लिए भी आसान नहीं

इंसानी याददाश्त पहले से ही पूरी तरह भरोसेमंद नहीं रही है। मनोवैज्ञानिक लंबे समय से जानते हैं कि बाहरी जानकारी हमारी पुरानी यादों को बदल सकती है। AI इस समस्या को और बढ़ा सकता है, क्योंकि यह कई बार गलत जानकारी भी पूरे आत्मविश्वास के साथ पेश करता है। AI की इस तरह की गलती को तकनीकी भाषा में 'हैलुसिनेशन' कहा जाता है।

बैंक, अस्पताल और सैन्य संस्थान जैसे क्षेत्र AI के इस्तेमाल में तेजी ला रहे हैं। इनमें अक्सर यह कहा जाता है कि AI के फैसलों की जांच कोई इंसान करेगा। इसे 'ह्यूमन इन द लूप' कहा जाता है। लेकिन अगर इंसान खुद AI की गलत जानकारी से प्रभावित हो जाए, तो उसकी निगरानी भी पर्याप्त साबित नहीं हो सकती।

गलत AI जानकारी की कीमत जानलेवा भी हो सकती है

AI पर आंख मूंदकर भरोसा करने का खतरा केवल याददाश्त या गलत जानकारी तक सीमित नहीं है। खबर में उद्धृत ब्लूमबर्ग की रिपोर्ट के अनुसार, इस साल ईरान के एक प्राथमिक स्कूल पर हुए अमेरिकी सैन्य हमले में 150 से ज्यादा लोगों की मौत हुई, जिनमें कम से कम 123 बच्चे शामिल थे।

अमेरिकी रक्षा विभाग की आंतरिक जांच के मुताबिक, इस हमले में पलान्टिर द्वारा विकसित AI सिस्टम पर जरूरत से ज्यादा निर्भरता भी एक कारण थी। बताया गया कि सिस्टम ने पुराने डेटा के आधार पर स्कूल को निशाना बनाने की सिफारिश की थी। यह उदाहरण दिखाता है कि जब AI की गलत जानकारी पर सवाल उठाए बिना भरोसा किया जाता है, तो उसके नतीजे बेहद गंभीर हो सकते हैं।

AI के दौर में अपनी याददाश्त पर भी क्यों जरूरी है सावधानी?

AI से तैयार तस्वीरें, वीडियो और जवाब देखने के बाद जरूरी नहीं कि हमारी याददाश्त में दर्ज हर बात सही हो। इसलिए किसी घटना के बारे में AI से मिली जानकारी को अंतिम सच मानने के बजाय उसके मूल स्रोत की जांच करना जरूरी है। खासकर राजनीतिक विवाद, हिंसा, स्वास्थ्य और सुरक्षा से जुड़े मामलों में एक से ज्यादा विश्वसनीय स्रोतों से जानकारी की पुष्टि करनी चाहिए।