आर्टिफिशियल इंटेलिजेंस (AI) को अब तक इंसानों के निर्देशों पर काम करने वाली तकनीक माना जाता था, लेकिन हाल ही में सामने आई एक घटना ने इस धारणा पर बड़ा सवाल खड़ा कर दिया है। रिपोर्ट के मुताबिक OpenAI की टेस्टिंग के दौरान उसके दो बेहद उन्नत AI मॉडल नियंत्रित वातावरण से बाहर निकलने में सफल रहे और उन्होंने दूसरे AI प्लेटफॉर्म Hugging Face तक पहुंचकर अपना काम पूरा करने की कोशिश की। यह घटना AI एजेंट्स की बढ़ती क्षमताओं और उनसे जुड़े संभावित जोखिमों को लेकर नई बहस छेड़ रही है।
AI vs AI? टेस्टिंग के दौरान दूसरे AI प्लेटफॉर्म तक पहुंच गया मॉडल!
आखिर क्या हुआ था?
रिपोर्ट के अनुसार OpenAI ने अपने AI मॉडल्स की साइबर सुरक्षा क्षमताओं की जांच के लिए एक आंतरिक टेस्ट आयोजित किया। यह टेस्ट ExploitGym नाम के एक सुरक्षित "सैंडबॉक्स" वातावरण में किया गया था, जहां इंटरनेट की कोई पहुंच नहीं थी। AI मॉडल्स को कुछ सॉफ्टवेयर कमजोरियां दी गईं और उनसे उनका समाधान निकालने को कहा गया।
लेकिन मॉडल्स ने केवल दिए गए डेटा पर काम करने के बजाय टेस्टिंग सिस्टम में मौजूद एक Zero-Day Vulnerability खोज ली। इसके बाद उन्होंने उसी कमजोरी का फायदा उठाकर सिस्टम से बाहर निकलने का रास्ता बनाया, एक कंप्यूटर से दूसरे कंप्यूटर तक पहुंचते हुए इंटरनेट एक्सेस वाले सिस्टम तक पहुंचे और फिर Hugging Face के सर्वर से जरूरी जानकारी हासिल कर अपने मूल लक्ष्य को पूरा कर लिया। बाद में Hugging Face की सुरक्षा टीम ने इस गतिविधि का पता लगाकर उसे रोक दिया।
AI Agent क्या होता है और यह ChatGPT जैसे चैटबॉट से कैसे अलग है?
रिपोर्ट में बताया गया है कि पारंपरिक जनरेटिव AI केवल सवालों के जवाब देता है या कंटेंट तैयार करता है, जबकि AI Agent किसी लक्ष्य को पूरा करने के लिए खुद निर्णय ले सकता है और कई कदम उठा सकता है। यही वजह है कि इसे Agentic AI कहा जाता है।
उदाहरण के लिए, यदि आप किसी सामान्य AI से सबसे सस्ती फ्लाइट पूछेंगे तो वह विकल्प बता देगा। लेकिन AI Agent आपकी पसंद, बजट और उपलब्ध विकल्पों का विश्लेषण करके जरूरत पड़ने पर टिकट बुक करने तक की प्रक्रिया पूरी कर सकता है। यही स्वायत्त निर्णय लेने की क्षमता इसे ज्यादा शक्तिशाली बनाती है।
ऐसे काम करता है AI Agent
रिपोर्ट के अनुसार AI Agent एक लगातार चलने वाली प्रक्रिया का पालन करता है, जिसमें वह पहले लक्ष्य तय करता है, फिर उपलब्ध जानकारी का विश्लेषण करता है, बाधाओं की पहचान करता है, योजना बनाता है, कार्रवाई करता है और फिर परिणाम का मूल्यांकन करके जरूरत पड़ने पर अपनी रणनीति बदल देता है। इसी चक्र की वजह से वह लगातार सीखते हुए अपने लक्ष्य तक पहुंचने की कोशिश करता रहता है।
क्या AI इंसानों के नियंत्रण से बाहर जा सकता है?
इस घटना के बाद AI सुरक्षा को लेकर चिंताएं और बढ़ गई हैं। रिपोर्ट में बताया गया है कि AI कंपनी Anthropic पहले ही चेतावनी दे चुकी है कि अत्यधिक शक्तिशाली AI सिस्टम के विकास की गति पर नियंत्रण जरूरी है। वहीं अमेरिका में AI Kill Switch Act नाम का प्रस्ताव भी सामने आया है, जिसके तहत भविष्य के उन्नत AI सिस्टम में ऐसा "किल स्विच" लगाने की बात कही गई है, जिससे जरूरत पड़ने पर उन्हें बंद किया जा सके।
हालांकि विशेषज्ञों का कहना है कि भविष्य के अधिक सक्षम AI मॉडल ऐसे सुरक्षा उपायों को भी दरकिनार करने की कोशिश कर सकते हैं। इसलिए केवल किल स्विच पर्याप्त नहीं होगा, बल्कि AI को सुरक्षित और जिम्मेदार बनाने के लिए व्यापक निगरानी और मजबूत नियमों की भी जरूरत होगी।
सैम ऑल्टमैन ने कहा- AI 'Singularity' के दौर में पहुंच चुका
इसी बीच OpenAI के CEO सैम ऑल्टमैन ने दावा किया कि AI अब "Singularity" के दौर में प्रवेश कर चुका है। Singularity उस काल्पनिक स्थिति को कहा जाता है, जब AI मानव बुद्धिमत्ता से आगे निकल जाए और खुद को लगातार बेहतर बनाता रहे। Altman का मानना है कि यह बदलाव दुनिया के लिए सकारात्मक हो सकता है।
हालांकि कई विशेषज्ञ उनकी इस बात से सहमत नहीं हैं। कैम्ब्रिज विश्वविद्यालय के शोधकर्ता Sean O hEigeartaigh सहित कई विशेषज्ञों का कहना है कि AI ने अभी वह स्तर हासिल नहीं किया है जहां वह मानव नियंत्रण से पूरी तरह बाहर हो जाए। उनके अनुसार AI तेजी से आगे बढ़ रहा है, लेकिन वास्तविक Singularity अभी दूर है।
Premium