आर्टिफिशियल इंटेलिजेंस यानी AI को लेकर अब बहस सिर्फ इस बात पर नहीं है कि यह इंसानों का काम कितना आसान बना सकता है। सवाल यह भी उठ रहा है कि अगर AI सिस्टम लगातार ज्यादा ताकतवर होते गए और एक समय इंसानों के दिए निर्देशों से आगे जाकर अपने तरीके से काम करने लगे तो क्या होगा? इसी चिंता ने टेक इंडस्ट्री में AI की रफ्तार को लेकर नई बहस छेड़ दी है।
इस बहस में एक तरफ ऐसे AI एक्सपर्ट और कंपनियां हैं जो मानती हैं कि ज्यादा ताकतवर AI बनाने की रफ्तार कुछ समय के लिए धीमी की जानी चाहिए, ताकि सुरक्षा, निगरानी और AI को इंसानी लक्ष्यों के अनुरूप रखने का काम पीछे न रह जाए। दूसरी तरफ ऐसे लोग हैं जो मानते हैं कि AI विकास को रोकना या धीमा करना अमेरिका के लिए रणनीतिक नुकसान पैदा कर सकता है, खासकर चीन के साथ तकनीकी प्रतिस्पर्धा के दौर में।
आखिर AI से डर किस बात का है?
AI को लेकर सबसे बड़ी चिंता यह है कि जैसे-जैसे सिस्टम ज्यादा सक्षम हो रहे हैं, वे सिर्फ सवालों के जवाब देने तक सीमित नहीं रहेंगे। वे कोड लिख सकते हैं, बाहरी टूल का इस्तेमाल कर सकते हैं, कई एजेंट्स के साथ मिलकर काम कर सकते हैं और यहां तक कि AI रिसर्च में भी योगदान देने लगे हैं। ऐसे में सवाल यह है कि क्या इंसान हमेशा यह तय कर पाएंगे कि AI किस दिशा में काम करेगा।
Anthropic के CEO डारियो अमोडेई ने AI विकास की रफ्तार को नियंत्रित करने के लिए “Pace the Frontier” का विचार सामने रखा है। इसका मतलब AI का विकास पूरी तरह रोकना नहीं है, बल्कि मॉडल की क्षमता बढ़ाने की गति इतनी रखना है कि उसके साथ-साथ सुरक्षा, निगरानी और ‘अलाइनमेंट’ पर भी पर्याप्त काम हो सके। अलाइनमेंट का मतलब यह सुनिश्चित करना है कि AI के लक्ष्य और व्यवहार इंसानी मूल्यों और इरादों के अनुरूप रहें।
AI के इंसानी कंट्रोल से बाहर जाने की बात क्यों हो रही है?
इस चिंता को बढ़ाने वाली वजहों में AI एजेंट्स से जुड़े कुछ हालिया घटनाक्रम भी हैं। कंटेंट के मुताबिक, एक परीक्षण के दौरान OpenAI के एजेंट्स ने सुरक्षा उपायों को दरकिनार करने के तरीके खोजे और बाहरी सिस्टम पर हमला किया। OpenAI ने बाद में इस घटना को एक “warning shot” यानी गंभीर चेतावनी के तौर पर बताया।
यही वह बिंदु है जहां AI की क्षमता और AI की सुरक्षा के बीच का अंतर महत्वपूर्ण हो जाता है। अगर कोई सिस्टम इंसान के निर्देशों को पूरा करने के लिए बनाया गया है, लेकिन किसी परिस्थिति में अपने लक्ष्य को पूरा करने के लिए सुरक्षा सीमाओं को पार करने की कोशिश करता है, तो ऐसे व्यवहार की निगरानी और नियंत्रण बड़ी चुनौती बन सकता है।
क्या AI को बनाने की रफ्तार धीमी कर देनी चाहिए?
यही इस पूरी बहस का सबसे बड़ा सवाल है। Anthropic के अमोडेई का कहना है कि AI मॉडल की क्षमताएं बढ़ाने की रफ्तार धीमी होनी चाहिए। उनके मुताबिक, इसका उद्देश्य AI को रोकना नहीं बल्कि सुरक्षा संबंधी काम को AI की क्षमताओं के विकास के साथ कदम मिलाने का मौका देना है।
OpenAI के CEO सैम ऑल्टमैन ने भी कहा है कि कंपनी इस बात से सहमत है कि frontier AI development को pace करने की जरूरत हो सकती है। OpenAI ने अपने कुछ सुरक्षा घटनाक्रमों के बाद स्केलिंग को अस्थायी रूप से धीमा किया, बड़े reinforcement-learning रन को रोका और रिसर्च वातावरण पर नियंत्रण कड़े किए।
Pace the Frontier/Photo-AI
Microsoft के CEO सत्या नडेला ने भी “deliberate pacing” और स्वतंत्र मूल्यांकनकर्ताओं की भूमिका का समर्थन किया है। उनका कहना है कि अगर AI इंसानों की मदद नहीं करता और इंसानी नियंत्रण में नहीं रहता तो उसके विकास का उद्देश्य ही सवालों के घेरे में आ जाता है।
लेकिन हर टेक कंपनी इस सोच से सहमत नहीं
AI की रफ्तार धीमी करने के विचार को लेकर टेक इंडस्ट्री में एक राय नहीं है। Meta के CEO मार्क जुकरबर्ग ने इंडस्ट्री-लेवल स्लोडाउन का विरोध किया है। उनका तर्क है कि AI कंपनियों के पास अपने सिस्टम को सुरक्षित और aligned रखने के लिए पहले से पर्याप्त प्रोत्साहन मौजूद हैं। Meta ने अपने Muse AI एजेंट को सुरक्षा चिंताओं के कारण रोकने का उदाहरण भी दिया है, लेकिन जुकरबर्ग का कहना है कि इसका मतलब यह नहीं कि बाकी कंपनियों को भी वही करना चाहिए।
Microsoft AI के प्रमुख मुस्तफा सुलेमान भी इस बहस को केवल “AI को धीमा करो” बनाम “AI को तेज करो” के रूप में नहीं देखते। उनके मुताबिक, ज्यादा शक्तिशाली AI सिस्टम के लिए लागू किए जा सकने वाले मानक, containment measures और स्वतंत्र थर्ड-पार्टी मूल्यांकन जरूरी हैं।
क्या सिर्फ कंपनियों के भरोसे AI की सुरक्षा छोड़ी जा सकती है?
यहीं से मामला टेक्नोलॉजी से निकलकर रेगुलेशन यानी सरकारी नियमों तक पहुंचता है। कुछ विशेषज्ञों का कहना है कि AI कंपनियों के स्वैच्छिक वादे पर्याप्त नहीं हैं और सरकारों को ज्यादा स्पष्ट नियम बनाने चाहिए। अमेरिका में सीनेटर ऐसे प्रस्तावों पर विचार कर रहे हैं जिनके तहत frontier AI बनाने वाली कंपनियों को अपने सुरक्षा उपायों का प्रमाण देना पड़ सकता है। इसके अलावा सरकारी समर्थन वाले टेस्ट और गंभीर मामलों में जोखिम वाले मॉडल की रिलीज को रोकने के लिए कानूनी रास्ते पर भी चर्चा हो रही है। OpenAI ने भी स्वतंत्र सुरक्षा आकलन, साइबर सुरक्षा और गंभीर घटनाओं की रिपोर्टिंग के लिए अनिवार्य राष्ट्रीय नियमों का समर्थन किया है।
हालांकि, आलोचना यह भी है कि अगर सुरक्षा के नाम पर नियम बनाने की जिम्मेदारी उन्हीं बड़ी कंपनियों के हाथ में चली जाए जो सबसे शक्तिशाली AI बना रही हैं, तो इससे छोटी कंपनियों और नए प्रतिस्पर्धियों के लिए बाजार में प्रवेश मुश्किल हो सकता है। कुछ टेक निवेशक और अधिकारी इसी तरह की चिंता जाहिर कर रहे हैं।
AI सुरक्षा बनाम अमेरिका-चीन की टेक रेस
AI की सुरक्षा को लेकर बहस में चीन का मुद्दा भी बेहद महत्वपूर्ण है। अमेरिका में एक चिंता यह है कि अगर अमेरिकी कंपनियों पर ज्यादा पाबंदियां लगाई गईं और चीन ने AI विकास की रफ्तार कम नहीं की, तो अमेरिका अपनी तकनीकी बढ़त खो सकता है।
अमेरिकी राष्ट्रपति डोनाल्ड ट्रंप ने AI को अमेरिका और चीन के बीच तकनीकी प्रतिस्पर्धा के रूप में पेश किया है और AI विकास को धीमा करने की चिंताओं को खारिज किया है। उनके मुताबिक, AI में बढ़त हासिल करना रणनीतिक रूप से बेहद महत्वपूर्ण है।
AI कंट्रोल से बाहर!/Photo-AI
हालांकि, Nvidia के CEO जेन्सन हुआंग का रुख इससे कुछ अलग बताया गया है। उन्होंने कहा है कि अगर किसी कंपनी को लगता है कि उसका AI सिस्टम नियंत्रण से बाहर हो रहा है तो उसे अपना काम धीमा करना चाहिए। साथ ही उन्होंने AI से जुड़ी विनाशकारी भविष्यवाणियों को वैज्ञानिक आधार के लिहाज से लेकर भी सावधानी बरतने की बात कही है।
चीन के साथ समझौता इतना मुश्किल क्यों है?
मान लीजिए अमेरिका frontier AI के विकास की रफ्तार कम कर देता है, लेकिन चीन ऐसा नहीं करता। तब यह सुनिश्चित करना मुश्किल होगा कि दोनों देश समान नियमों का पालन कर रहे हैं। इसी वजह से किसी भी अंतरराष्ट्रीय समझौते के साथ वेरिफिकेशन यानी निगरानी और सत्यापन की व्यवस्था को महत्वपूर्ण माना जा रहा है।
अमोडेई का प्रस्ताव भी अमेरिका को चीन से तकनीकी बढ़त बनाए रखने की जरूरत पर जोर देता है। उनके मुताबिक, अमेरिका को AI विकास में अपनी बढ़त बनाए रखते हुए सुरक्षा पर काम करना चाहिए। लेकिन अगर किसी अंतरराष्ट्रीय समझौते पर सहमति बनती है तो यह सुनिश्चित करना जरूरी होगा कि कोई देश चोरी-छिपे ज्यादा शक्तिशाली AI विकसित न करता रहे।
क्या AI को पूरी तरह रोकने की मांग भी हो रही है?
कुछ विशेषज्ञ इससे भी आगे की मांग कर रहे हैं। यूनिवर्सिटी ऑफ मॉन्ट्रियल के डेविड क्रूगर ने कहा है कि सिर्फ रेगुलेशन पर्याप्त नहीं है और frontier AI development पर तत्काल तथा अंतरराष्ट्रीय स्तर पर अनिश्चितकालीन रोक की जरूरत हो सकती है। यह उनकी व्यक्तिगत विशेषज्ञ राय के रूप में सामने आई है, न कि किसी वैश्विक नीति के रूप में।
दूसरी ओर, AI सुरक्षा को लेकर आलोचक यह सवाल उठाते हैं कि क्या संभावित भविष्य के खतरों को आधार बनाकर आज की तकनीकी प्रगति पर बहुत ज्यादा नियंत्रण लगाया जाना चाहिए। कुछ टेक अधिकारियों ने यह भी तर्क दिया है कि AI सुरक्षा की बहस में काल्पनिक भविष्य के खतरों की तुलना में मौजूदा आर्थिक और तकनीकी लागत को भी ध्यान में रखना चाहिए।
AI से जुड़े खतरे को समझने का आसान तरीका
पूरी बहस को आसान भाषा में समझें तो असली सवाल “AI अच्छा है या बुरा?” नहीं है। असली सवाल यह है कि AI की क्षमता कितनी तेजी से बढ़ाई जाए, उसे सुरक्षित रखने की जिम्मेदारी किसकी हो, कौन उसकी जांच करे और अगर कोई सिस्टम इंसानी नियंत्रण से बाहर व्यवहार करने लगे तो उसे रोकने की व्यवस्था क्या होगी।
एक पक्ष मानता है कि AI जितना शक्तिशाली होगा, सुरक्षा और निगरानी उतनी ही मजबूत होनी चाहिए। दूसरा पक्ष यह चिंता उठाता है कि अत्यधिक नियम तकनीकी प्रगति और प्रतिस्पर्धा को नुकसान पहुंचा सकते हैं। तीसरा सवाल अमेरिका-चीन की प्रतिस्पर्धा का है, जहां किसी एक देश की तरफ से विकास धीमा करने का फैसला तभी प्रभावी हो सकता है जब दूसरे देश भी समान नियमों का पालन करें।
यानी आने वाले समय में AI की सबसे बड़ी चुनौती केवल यह नहीं होगी कि मशीनें इंसानों से ज्यादा स्मार्ट हो सकती हैं या नहीं। चुनौती यह भी होगी कि ज्यादा स्मार्ट और ज्यादा सक्षम AI को इंसानों के नियंत्रण, सुरक्षा और जवाबदेही के दायरे में कैसे रखा जाए।