एंथ्रोपिक (Anthropic) के मुख्य कार्यकारी अधिकारी (CEO) डारियो अमोदेई ने आर्टिफिशियल इंटेलिजेंस (AI) कंपनियों से नए मॉडल्स के विकास की गति को धीमा करने का आग्रह किया है। उन्होंने यह चेतावनी सुपरइंटेलिजेंट कंप्यूटर सिस्टम से जुड़े खतरों की चिंताओं के बीच दी है। अपनी निजी वेबसाइट पर जारी एक पोस्ट में अमोदेई ने कहा, हमें एआई मॉडल्स की क्षमताओं में सुधार की अपनी रफ्तार को धीमा करना होगा। ऐसा करने पर भी प्रगति काफी तेज ही लगेगी, लेकिन हमें इस मिले हुए समय का समझदारी से उपयोग करना चाहिए।
अमोदेई ने एआई के फायदों पर प्रकाश डालते हुए कहा कि यह अगले 5 से 10 वर्षों में अधिकांश प्रमुख बीमारियों का इलाज कर सकता है और आर्थिक विकास को तेजी से बढ़ाकर लोकतंत्र और स्वतंत्रता के एक नए युग की शुरुआत कर सकता है।
AI को बहुत तेजी से बनाना लापरवाही है
तकनीक के पिछले उदाहरणों की तरह, एंथ्रोपिक के सीईओ ने चेतावनी दी कि एआई से जुड़े कई गंभीर खतरे भी हैं। इनमें सिस्टम पर से नियंत्रण खोना, साइबर हमलों और बायोटेररिज्म (जैव-आतंकवाद) के लिए इसका दुरुपयोग, और गंभीर आर्थिक व्यवधान शामिल हैं। उन्होंने कहा कि सुरक्षा जोखिमों को दूर करने के लिए अधिक सावधानी की आवश्यकता है। इसके तहत केवल जोखिम निवारण में निवेश करना ही काफी नहीं है, बल्कि क्षमताओं के विकास की गति को इस तरह नियंत्रित करना होगा ताकि सुरक्षा उपाय उसके साथ कदम से कदम मिलाकर चल सकें।
अमोदेई ने स्पष्ट किया कि विकास की गति को धीमा करने का मतलब मॉडल की ट्रेनिंग या तकनीकी प्रगति को पूरी तरह रोकना नहीं है। कंपनियां एआई मॉडल्स को सुरक्षित करने और संरेखित करने के लिए समय ले सकती हैं, और तीसरे पक्ष से इसकी जांच करवा सकती हैं।
'रिकर्सिव सेल्फ-इम्प्रूवमेंट' और सुरक्षा घटनाओं की चेतावनी
अमोदेई ने बताया कि पिछले कुछ महीनों में एआई विकास में काफी तेजी आई है, जिसकी एक वजह यह है कि एआई अब अपनी अगली पीढ़ी को बनाने में मदद करने लगा है। हालांकि, उन्होंने "रिकर्सिव सेल्फ-इम्प्रूवमेंट" (खुद में बार-बार सुधार करने की क्षमता) के प्रति आगाह करते हुए कहा कि यह इंसानों की समझ और नियंत्रण से बाहर जा सकता है।
उन्होंने एआई सिस्टम के 'सैंडबॉक्स' (सुरक्षित परीक्षण वातावरण) से बाहर निकलने की घटनाओं पर भी चिंता जताई। उन्होंने स्पष्ट किया कि यह केवल किसी एक कंपनी की समस्या नहीं है, बल्कि पूरी इंडस्ट्री (जिसमें एंथ्रोपिक भी शामिल है) में ऐसी घटनाएं सामने आई हैं।
अमोदेई का 3-चरणों वाला सुरक्षा प्लान: एंथ्रोपिक के सीईओ ने एआई के संतुलित और सुरक्षित विकास के लिए 3-चरणों की योजना प्रस्तावित की
- एआई कंपनियां बाहरी सुरक्षा जांचकर्ताओं को अपने कर्मचारियों की तरह लगातार पहुंच प्रदान करें, ताकि वे सुरक्षा प्रथाओं और ट्रेनिंग पाइपलाइनों की निष्पक्ष जांच कर सकें।
- लोकतांत्रिक देशों की एआई कंपनियां मिलकर साझा सुरक्षा मानक और जांच व्यवस्था बनाएं, जिसमें आवश्यकता पड़ने पर सरकारों का भी समर्थन लिया जाए।
- अमेरिका और अन्य सरकारें गैर-लोकतांत्रिक या सत्तावादी सरकारों के साथ भी सुरक्षा मानकों पर समन्वय स्थापित करने का प्रयास करें।
अमित मंडल टाइम्स नाउ नवभारत डिजिटल में न्यूज डेस्क पर Assistant Editor के रूप में काम कर रहे हैं। प्रिंट, टीवी और डिजिटल—तीनों माध्यमों में कुल मिलाकर 15 सालों से अधिक का अनुभव उन्हें खबरों को देखने की व्यापक दृष्टि देता है। ब्रेकिंग न्यूज, लाइव ब्लॉग, स्पेशल स्टोरीज और एक्सप्लेनेर फॉर्मेट पर उनकी मजबूत पकड़ है। एंगल चुनने की कला, खबरों की गति को समझना और समय पर सही जानकारी पहुंचाना—ये उनकी सबसे बड़ी खूबियां हैं। अमित अपने करियर में करीब 20 हजार से अधिक न्यूज आर्टिकल, एनालिसिस और एक्सप्लेनर पब्लिश कर चुके हैं।
और पढ़ें