एंथ्रोपिक के CEO डारियो अमोदेई ने AI मॉडल्स की अंधी दौड़ पर दी चेतावनी, कहा- हमें रफ्तार धीमी करनी होगी

AI को बहुत तेजी से बनाना लापरवाही है

तकनीक के पिछले उदाहरणों की तरह, एंथ्रोपिक के सीईओ ने चेतावनी दी कि एआई से जुड़े कई गंभीर खतरे भी हैं। इनमें सिस्टम पर से नियंत्रण खोना, साइबर हमलों और बायोटेररिज्म (जैव-आतंकवाद) के लिए इसका दुरुपयोग, और गंभीर आर्थिक व्यवधान शामिल हैं। उन्होंने कहा कि सुरक्षा जोखिमों को दूर करने के लिए अधिक सावधानी की आवश्यकता है। इसके तहत केवल जोखिम निवारण में निवेश करना ही काफी नहीं है, बल्कि क्षमताओं के विकास की गति को इस तरह नियंत्रित करना होगा ताकि सुरक्षा उपाय उसके साथ कदम से कदम मिलाकर चल सकें।

अमोदेई ने स्पष्ट किया कि विकास की गति को धीमा करने का मतलब मॉडल की ट्रेनिंग या तकनीकी प्रगति को पूरी तरह रोकना नहीं है। कंपनियां एआई मॉडल्स को सुरक्षित करने और संरेखित करने के लिए समय ले सकती हैं, और तीसरे पक्ष से इसकी जांच करवा सकती हैं।

'रिकर्सिव सेल्फ-इम्प्रूवमेंट' और सुरक्षा घटनाओं की चेतावनी

अमोदेई ने बताया कि पिछले कुछ महीनों में एआई विकास में काफी तेजी आई है, जिसकी एक वजह यह है कि एआई अब अपनी अगली पीढ़ी को बनाने में मदद करने लगा है। हालांकि, उन्होंने "रिकर्सिव सेल्फ-इम्प्रूवमेंट" (खुद में बार-बार सुधार करने की क्षमता) के प्रति आगाह करते हुए कहा कि यह इंसानों की समझ और नियंत्रण से बाहर जा सकता है।

उन्होंने एआई सिस्टम के 'सैंडबॉक्स' (सुरक्षित परीक्षण वातावरण) से बाहर निकलने की घटनाओं पर भी चिंता जताई। उन्होंने स्पष्ट किया कि यह केवल किसी एक कंपनी की समस्या नहीं है, बल्कि पूरी इंडस्ट्री (जिसमें एंथ्रोपिक भी शामिल है) में ऐसी घटनाएं सामने आई हैं।

अमोदेई का 3-चरणों वाला सुरक्षा प्लान: एंथ्रोपिक के सीईओ ने एआई के संतुलित और सुरक्षित विकास के लिए 3-चरणों की योजना प्रस्तावित की

• एआई कंपनियां बाहरी सुरक्षा जांचकर्ताओं को अपने कर्मचारियों की तरह लगातार पहुंच प्रदान करें, ताकि वे सुरक्षा प्रथाओं और ट्रेनिंग पाइपलाइनों की निष्पक्ष जांच कर सकें।
• लोकतांत्रिक देशों की एआई कंपनियां मिलकर साझा सुरक्षा मानक और जांच व्यवस्था बनाएं, जिसमें आवश्यकता पड़ने पर सरकारों का भी समर्थन लिया जाए।
• अमेरिका और अन्य सरकारें गैर-लोकतांत्रिक या सत्तावादी सरकारों के साथ भी सुरक्षा मानकों पर समन्वय स्थापित करने का प्रयास करें।