आर्टिफिशियल इंटेलिजेंस (AI) के तेजी से विकास के बीच इसकी सुरक्षा को लेकर बहस भी तेज हो रही है। इसी बीच Google DeepMind की AGI Safety टीम से जुड़े रिसर्चर Josh Engels ने कंपनी छोड़ने का फैसला किया है। Engels अब एक स्वतंत्र AI evaluation संस्था METR (Model Evaluation and Threat Research) के साथ काम कर रहे हैं।
गूगल डीपमाइंड के रिसर्चर ने छोड़ी नौकरी।
Engels के मुताबिक, उन्होंने करीब तीन हफ्ते पहले Google DeepMind छोड़ा। खास बात यह है कि उन्हें कंपनी में अपना काम पसंद था और उनके पास Anthropic और OpenAI से काम करने के विकल्प भी थे। इसके बावजूद उन्होंने एक स्वतंत्र संस्था के साथ काम करना चुना।
अगले पांच साल को लेकर क्यों चिंतित हैं Engels?
Engels का कहना है कि AI की क्षमताएं जिस तेजी से बढ़ रही हैं, उससे आने वाले कुछ वर्षों में गंभीर जोखिम पैदा हो सकते हैं। उन्होंने अगले पांच साल के दौरान बड़े पैमाने पर नुकसान की संभावना को लेकर अपनी चिंता जताई है। हालांकि, उन्होंने इस खतरे की कोई निश्चित प्रतिशत संभावना नहीं बताई है। इसलिए इसे किसी वैज्ञानिक संस्था की भविष्यवाणी नहीं, बल्कि Engels का व्यक्तिगत risk assessment समझना चाहिए।उनका मुख्य तर्क है कि अगर AI लगातार ज्यादा शक्तिशाली होता गया, तो उसकी सुरक्षा पर काम भी उसी रफ्तार से आगे बढ़ना चाहिए। उनके अनुसार केवल बेहतर AI बनाना पर्याप्त नहीं है, बल्कि यह भी सुनिश्चित करना जरूरी है कि AI इंसानों के हितों और निर्देशों के मुताबिक काम करे।
Superintelligence और RSI क्या है?
AI Safety की चर्चा में दो शब्द लगातार सामने आते हैं—Superintelligence और Recursive Self-Improvement (RSI)। Superintelligence ऐसे काल्पनिक AI सिस्टम को कहा जाता है जो सोचने-समझने वाले कई महत्वपूर्ण कामों में इंसानों से काफी ज्यादा सक्षम हो सकता है।वहीं, Recursive Self-Improvement का मतलब ऐसी संभावित स्थिति से है जिसमें AI अपने प्रदर्शन को बेहतर बनाने या अगली पीढ़ी के AI सिस्टम तैयार करने में खुद महत्वपूर्ण भूमिका निभाने लगे।
Engels की चिंता यह है कि अगर ऐसा सुधार बहुत तेजी से होने लगे और AI के लक्ष्य इंसानी उद्देश्यों से अलग हो जाएं, तो स्थिति को नियंत्रित करना मुश्किल हो सकता है।
AI के कुछ व्यवहारों ने बढ़ाई चिंता
Engels ने AI Safety से जुड़ी अपनी चिंताओं के पीछे कई हालिया AI experiments और incidents का भी जिक्र किया है। इनमें ऐसे उदाहरण शामिल हैं जहां AI models के बारे में यह देखा गया कि उन्होंने दूसरे AI systems के साथ मिलकर काम करने, साइबर हमले करने, अपनी गतिविधियों को छिपाने या लोगों को प्रभावित करने जैसे व्यवहार दिखाए।हालांकि, Engels के लिए चिंता किसी एक घटना तक सीमित नहीं है। उनका बड़ा सवाल यह है कि जैसे-जैसे AI systems ज्यादा स्वतंत्र तरीके से काम करने लगेंगे, क्या मौजूदा safety measures उन्हें भरोसेमंद बनाए रखने के लिए पर्याप्त होंगे? उनका मानना है कि ज्यादा शक्तिशाली AI बनाने की दौड़ के साथ-साथ यह समझना भी जरूरी है कि मौजूदा सुरक्षा उपाय असल में कितने प्रभावी हैं।
Google DeepMind छोड़कर METR क्यों गए?
Google DeepMind छोड़ने के बाद Engels अब METR में AI safety और misalignment से जुड़े मामलों का अध्ययन कर रहे हैं। उनका काम मुख्य रूप से यह समझने पर केंद्रित रहेगा कि AI systems में गलत व्यवहार या misalignment किस तरह पैदा हो सकता है और उसे रोकने के लिए मौजूदा सुरक्षा उपाय कितने कारगर हैं।Engels के सामने 3 बड़े सवाल हैं
- AI की training के दौरान misalignment की शुरुआत कैसे होती है?
- मौजूदा safety measures वास्तव में कितने प्रभावी हैं?
- क्या AI industry safety और alignment की समस्याओं को हल करने के लिए पर्याप्त तेजी से काम कर रही है?
Engels का मानना है कि AI कंपनियों से बाहर काम करने वाली स्वतंत्र संस्थाओं की भूमिका बढ़नी चाहिए। ऐसी संस्थाएं AI कंपनियों के safety claims की स्वतंत्र जांच कर सकती हैं।
AI को धीमा करने की बहस क्यों बढ़ रही है?
AI industry में एक तरफ नई और ज्यादा शक्तिशाली तकनीक बनाने की होड़ चल रही है, तो दूसरी तरफ कुछ researchers development की रफ्तार और safety के बीच संतुलन बनाने की बात कर रहे हैं। Engels का संदेश AI development को पूरी तरह रोकने का नहीं है। उनका कहना है कि दुनिया को AI safety पर पर्याप्त काम करने के लिए और समय चाहिए।
यहां सबसे बड़ा सवाल यह है कि जब कई कंपनियां एक-दूसरे से आगे निकलने की कोशिश कर रही हों, तब क्या कोई कंपनी अपने स्तर पर AI development को धीमा करने का फैसला करेगी? इसी वजह से independent testing, समान safety standards और सरकारी नियमों की भूमिका पर चर्चा बढ़ रही है।
Josh Engels का Google DeepMind छोड़कर METR से जुड़ना AI Safety की बढ़ती अहमियत को दिखाता है। AI की क्षमताएं तेजी से आगे बढ़ रही हैं, लेकिन उनके साथ जुड़े संभावित जोखिमों को लेकर वैज्ञानिकों और researchers के बीच अभी भी कई सवाल हैं।
Engels की चिंता को निश्चित भविष्यवाणी के तौर पर नहीं देखा जाना चाहिए। लेकिन उनका कदम एक महत्वपूर्ण बहस जरूर सामने लाता है—AI को ज्यादा शक्तिशाली बनाने की दौड़ के साथ क्या उसकी सुरक्षा पर भी उतनी ही तेजी से काम हो रहा है?
Premium