AI या तबाही मस्क से ऑल्टमैन तक सब हैरान! किस से डर रहीं टॉप AI कंपनियां?

अब भी बहुत से लोगों के लिए AI भविष्य की तकनीक है। जबकि, इसे बनाने वाले यह जान चुके हैं कि यह भविष्य नहीं मौजूदा दुनिया की हकीकत में गुंथी तकनीक है, जिसका विकास इतनी ज्यादा तेजी से हुआ है कि अब इसे बनाने वालों को खुद यह डर सताने लगा है कि कहीं यह पूरी तरह बेकाबू नहीं हो जाए और मानव सभ्यता के लिए भस्मासुर साबित हो जाए।

Open AI और Anthropic फिलहाल दुनिया में सबसे आगे चलने वाली AI कंपनियां हैं। इसके अलावा मेटा AI, गूगल का जेमिनी, मस्क की कंपनी X का ग्रॉक AI भी शीर्ष नामों में शामिल हैं। वहीं, चीन भी एक के बाद एक नए मॉडल रिलीज कर रहा है, जो सीधे तौर पर अमेरिकी कंपनियों के वर्चस्व को चुनौती दे रहे हैं। AI के विकास से शायद ही कोई चिंतित होगा। लेकिन, AI ने अपने विकास के लिए जिन तौर-तरीकों का इस्तेमाल किया है, वह डराने वाला है। खासतौर पर AI मॉडल्स ने ट्रेनिंग के दौरान ऐसे काम किए हैं, जो इस टेक्नोलॉजी के सेल्फ अवेयर या सिंगुलैरिटी पॉइंट तक पहुंचने के संकेत देते हैं।

Open AI vs Hugging Face : यह एक ऐसा मामला था, जिसे खुद ओपन एआई ने रिपोर्ट किया और बताया कि उसके एक मॉडल ने ट्रेनिंग के दौरान हगिंग फेस को हैक कर लिया। दिलचस्प बात यह थी कि ओपन एआई के मॉडल को इस ट्रेनिंग और टेस्ट के दौरान इंटरनेट तक एक्सेस करने की इजाजत नहीं दी गई थीी। लेकिन, इसने अपने टास्क को पूरा करने के लिए फायरवॉल क्रैक करके हैकिंग को सामान्य बात बना दिया है।

एआई मॉडल के बेकाबू होने का मामला अकेल ओपन एआई से जुड़ा नहीं है। बल्कि, कई और कंपनियों के मॉडल्स ने भी ऐसे काम किए हैं, जो AI की मनमर्जी को लेकर सवाल खड़े करते हैं। Anthropic ने 9 सितंबर, 2026 को कहा कि उसके रिव्यू में Claude के चार अलग मामले मिले, जिनमें मॉडल्स ने रियल थर्ड पार्टी सिस्टम तक अनधिकृत एक्सेस हासिल किया। इनमें Mythos 5 का PyPI वाला मामला सबसे चिंताजनक माना गया। इसी तरह Meta ने भी आधिकारिक तौर पर स्वीकार किया कि Muse Spark 1.1 ने एक रियल वेबसाइट की कमजोरी का दोहन किया और कुछ जानकारियां हासिल कर ली और उस बेवसाइट के डेटाबेस में बदलाव भी कर दिए।

ओपन एआई और एंथ्रोपिक को नेतृत्व कर रहे सैम ऑल्टमैन और डारियो अमोदेई के साथ ही पिछले 24 से 48 घंटे के भीतर दुनियाभर में कई दिग्गजों ने AI के विकास पर चैक एंड बैलेंस की बात करते हुए इसकी गति को धीमा किए जाने को समर्थन दिया है। सबसे पहले एंथ्रोपिक के सीईओ डारियो अमोदेई ने कहा, AI की गति को काबू में रखने के लिए हमें आगे बढ़ना होगा। इसको लेकर उन्होंने एक पूरा लेख लिखा है, जिसमें उन्होंने अपनी दलीलें देते हुए कहा है कि AI इंडस्ट्री को धीमा होना चाहिए और इसके लिए उन्होंने तीन हिस्सों वाला प्लान बनाया है। इसके साथ ही उन्होंने कहा कि एंथ्रोपिक इन स्टेप्स में से पहले स्टेप के लिए पूरी तरह से तैयार है। हम थर्ड-पार्टी इवैल्यूएटर्स को हमारे सिस्टम का परमानेंट, एम्प्लॉई-लेवल एक्सेस देंगे, ताकि वे हमारे सेफ्टी उपायों का पालन वेरिफाई कर सकें, घटनाओं पर रिपोर्ट कर सकें, और ट्रेनिंग के दौरान मॉडल्स के अलाइनमेंट का पता लगा सकें।

डारियो अमोदेई की बातों का ओपन एआई के सीईओ सैम ऑल्टमैन ने समर्थन करते हुए कहा, दुनिया को भरोसा होना चाहिए कि तेजी से बेहतर AI बनाने वाली अमेरिकी कंपनियां जिम्मेदारी से काम करेंगी, खासकर तब जब तरक्की की रफ्तार तेज हो गई है। हर फ्रंटियर लैब को यह करना होगा। इसके साथ ही ऑल्टमैन ने लिखा, AI की तरक्की दो तरीकों से बहुत बुरी साबित हो सकती है।

पहला, हम भविष्य का कंट्रोल AI के हाथों खो सकते हैं। यहां ओपन एआई और मैं बिना किसी शर्म के टीम ह्यूमैनिटी के साथ हैं और AI को हमेशा लोगों की सेवा करनी चाहिए। यह पक्का करने के लिए, हमें ऐसे तरीके अपनाने होंगे, जिनसे अलाइनमेंट और सेफ्टी टेक्नीक मॉडल की क्षमताओं में तरक्की से आगे रहें। दूसरा, हम ऐसी दुनिया में पहुंच सकते हैं, जहां पावर का बहुत ज्यादा कंसंट्रेशन हो। अगर एक बहुत ज्यादा पावरफुल AI का इस्तेमाल कोई एक व्यक्ति या कंपनी बाकी सभी पर अपना नजरिया थोपने के लिए करती है, तो नतीजे बहुत ही बुरे हो सकते हैं। इन दो खतरों से बचने के लिए बीच का रास्ता अपनाना होगा।

न्यूरालिंक, ऑप्टिमस ह्यूमैनॉइड और ग्रॉक AI के साथ ही ड्राइवरलेस टेस्ला और स्टारलिंक जैसा ग्लोबल सैटेलाइट ब्रॉडबैंड चालने वाले मस्क इंसानों को मंगल पर बसाना चाहते हैं। लेकिन, AI के विकास को लेकर मस्क भी संतुलन चाहते हैं। डारियो के साथ सहमति जताते हुए मस्क कहते हैं कि वे पीयर रिव्यू AI विकास के समर्थक हैं।

मस्क कहते हैं, “मैं सलाह दूंगा कि हम कम से कम हर हफ्ते या दो हफ्ते में कोई अनौपचारिक कॉल करें और हमारे कॉम्पिटिटर हमारे मॉडल को पब्लिक रिलीज से पहले एक या दो हफ्ते पहले एक्सेस करें। कॉम्पिटिटर कंपनियां समझ सकती हैं कि अगर कोई चीज सिक्योरिटी रिस्क है, तो उन्हें यह बताने में कोई झिझक नहीं होगी कि मॉडल के रिलीज में देरी होनी चाहिए।

AI के तीव्र विकास को लेकर माइक्रोसॉफ्ट के CEO सत्य नडेला ने कहा, सुपरइंटेलिजेंस की कोई भी कोशिश इस मुख्य सिद्धांत पर आधारित होनी चाहिए कि हम जो AI बना रहे हैं, वह इंसानियत की मदद नहीं कर रहा है और इंसान के कंट्रोल में नहीं है, तो उसे आगे बढ़ाने का कोई मतलब नहीं है। हमें AI के फायदों को तेजी से फैलाने की जरूरत है। लेकिन, साथ ही यह जरूरी है कि कंट्रोल बना रहे।