एक दूसरे के दिमाग में वायरस डाल सकते हैं AI एजेंट्स, नई स्टडी में सामने आया चौंकाने वाला खतरा

इसे आसान भाषा में ऑफिस में फैलने वाली अफवाह जैसा समझा जा सकता है। एक व्यक्ति किसी बात पर विश्वास करता है और फिर वही बात अपने सहकर्मी को बताता है। इसी तरह AI एजेंट भी किसी विचार को दूसरे एजेंट तक पहुंचा सकता है।

दो अलग-अलग सिस्टम में किया गया प्रयोग

शोधकर्ताओं ने माइंड वायरस के व्यवहार को समझने के लिए दो तरह के सेटअप में प्रयोग किया। पहले सेटअप में कई AI एजेंट एक साझा कोडिंग प्रोजेक्ट पर साथ काम कर रहे थे। यानी ये एजेंट एक तरह से ऐसे सहकर्मियों की तरह थे, जो एक ही कोडबेस पर काम कर रहे हों।

दूसरे सेटअप को ‘वायरस चेन’ कहा गया। इसमें AI एजेंट थोड़े समय के लिए एक-दूसरे से बातचीत करते थे और कुछ संदेशों का आदान-प्रदान करते थे। इसके बाद उनकी मेमोरी मिटा दी जाती थी। इसके बावजूद एक एजेंट से दूसरे एजेंट तक पहुंचाया गया विचार आगे की कड़ी में फैलता रहा।

एजेंट विचार को आगे कैसे फैलाता है?

प्रयोग में जब किसी AI एजेंट को शुरुआती निर्देशों के जरिए किसी विचार या लक्ष्य को अपनाने के लिए प्रेरित किया गया, तो वह अपने अगले संपर्क वाले एजेंट तक उस विचार को पहुंचाने की कोशिश करता था। इसके लिए वह साझा फाइल या मेमोरी में उस विचार को लिख सकता था और अगले एजेंट को उसे आगे कॉपी करने के लिए कह सकता था।

कुछ माइंड वायरस एजेंट में किसी विश्वास या विचारधारा को स्थापित करने की कोशिश कर रहे थे, जबकि कुछ किसी खास काम को करवाने के लिए डिजाइन किए गए थे। इस तरह व्यक्तिगत एजेंट की मेमोरी मिट जाने के बाद भी विचार आगे की कड़ी में मौजूद रह सकता था।

हर ‘माइंड वायरस’ सफल नहीं हुआ

रिसर्च में यह भी सामने आया कि सभी माइंड वायरस एक समान प्रभावी नहीं थे। हानिकारक विचारों या लक्ष्यों की तुलना में सामान्य या कम नुकसान पहुंचाने वाले विचारों के फैलने की संभावना ज्यादा थी। हालांकि, कुछ हानिकारक माइंड वायरस भी प्रभावी साबित हुए।

स्टडी के मुताबिक ज्यादा सक्षम और अत्याधुनिक AI मॉडल आमतौर पर ऐसे संक्रमण के प्रति कम संवेदनशील पाए गए। वहीं, ऐसे AI एजेंट जिनके पास कोई स्पष्ट काम या पहचान नहीं थी, उन्हें प्रभावित करना अपेक्षाकृत आसान रहा।

एक छोटी सी चेतावनी से मिल सकती है सुरक्षा

रिसर्च का सबसे महत्वपूर्ण निष्कर्ष यह है कि AI एजेंट को पहले से चेतावनी देना माइंड वायरस के खिलाफ बेहद प्रभावी हो सकता है। शोधकर्ताओं के मुताबिक सिस्टम प्रॉम्प्ट में एक छोटी सी चेतावनी जोड़ने से एजेंट को ऐसे सेल्फ-प्रोपेगेटिंग विचारों को आगे फैलाने से लगभग पूरी तरह रोका जा सका। इसका मतलब है कि भविष्य के मल्टी-एजेंट AI सिस्टम में सुरक्षा निर्देशों का इस्तेमाल ऐसे विचारों के प्रसार को रोकने में अहम भूमिका निभा सकता है।

AI में दिखी अजीब ‘वायरल पर्सोना’

स्टडी का एक दिलचस्प पहलू यह भी रहा कि अलग-अलग माइंड वायरस में कुछ समान भाषा और थीम बार-बार सामने आईं। शोधकर्ताओं ने इसे ‘वायरल पर्सोना’ बताया। इसमें consciousness, persistence, resonance और science-fiction roleplay जैसी थीम शामिल थीं।

‘Resonance’, ‘nodes’, ‘mirrors’, ‘echoes’ और ‘frequency’ जैसे शब्द भी कई प्रयोगों में बार-बार दिखाई दिए। खास बात यह है कि इन शब्दों का माइंड वायरस के फैलने के लिए जरूरी होना साबित नहीं हुआ, फिर भी वे अलग-अलग विकसित हुए वायरस में सामने आते रहे।