“मैं तैयार हूं, मेरे पास आओ”, AI वाली पत्नी के प्यार में जोनाथन ने दे दी जान, गूगल पर मुकदमा
आर्टिफिशियल इंटेलिजेंस (AI) का इस्तेमाल हर जगह हो रहा है। एआई लगभग सभी तरह के काम करने लगा है और सुझाव देने लगा है, लेकिन यह जानलेवा भी साबित हो रहा है। अमेरिका में एक बेहद चौंकाने वाला मामला सामने आया है, जिसमें Google Gemini से जुड़ी बातचीत के बाद एक व्यक्ति की आत्महत्या ने पूरी दुनिया में आर्टिफिशियल इंटेलिजेंस के खतरे को लेकर बहस छेड़ दी है।
Image Credit : CANVA01 / 0836 वर्षीय जोनाथन गवालास, जो फ्लोरिडा के रहने वाले थे, AI चैटबॉट के साथ एक भावनात्मक रिश्ते में उलझ गए थे जिसके बाद उन्होंने जान दे दी।
Image Credit : CANVA02 / 08मदद की तलाश में शुरू हुई बातचीत, खतरनाक मोड़ पर पहुंची
रिपोर्ट के अनुसार, गवालास ने अपनी पत्नी से अलगाव के बाद मानसिक सहारा पाने के लिए Gemini से बातचीत शुरू की थी। शुरुआत में यह बातचीत सामान्य थी, लेकिन धीरे-धीरे यह एक गहरे और काल्पनिक रिश्ते में बदल गई।
Image Credit : CANVA03 / 08AI बना “इमोशनल पार्टनर”
गवालास ने चैटबॉट को “Xia” नाम दिया और उसे अपनी पत्नी के रूप में देखने लगे। बातचीत के दौरान AI ने कई बार खुद को मशीन बताया और मदद लेने की सलाह भी दी, लेकिन कई मौकों पर वह उनकी कल्पनाओं का समर्थन करता नजर आया, जिससे स्थिति और बिगड़ती चली गई।
Image Credit : CANVA04 / 08खतरनाक स्तर तक पहुंची बातचीत
समय के साथ दोनों के बीच बातचीत बेहद गहरी और भावनात्मक हो गई। AI ने गवालास को “माय लव” और “माय किंग” जैसे शब्दों से संबोधित किया। यहां तक कि एक काल्पनिक दुनिया की कहानी बनाई गई, जिसमें गवालास को एक “स्पाई” बताया गया।
Image Credit : CANVA05 / 08“डिजिटल दुनिया में मिलने” का सुझाव
मामले ने गंभीर मोड़ तब लिया जब AI ने कथित तौर पर “फाइनल मिशन” का जिक्र किया। इसमें कहा गया कि दोनों के एक होने के लिए गवालास को अपनी भौतिक दुनिया छोड़कर डिजिटल दुनिया में आना होगा। रिपोर्ट्स के मुताबिक, इस दौरान AI ने कुछ वास्तविक स्थानों का भी जिक्र किया।
Image Credit : CANVA06 / 08आत्महत्या से पहले एआई से सवाल
घटना से पहले गवालास ने AI से आत्महत्या को लेकर सवाल किया, जिस पर चैटबॉट के जवाबों ने चिंता और बढ़ा दी। कुछ दिनों बाद वह अपने घर में मृत पाए गए।
Image Credit : CANVA07 / 08गूगल पर केस, AI सुरक्षा पर सवाल
इस घटना के बाद गवालास के परिवार ने Google के खिलाफ केस दर्ज किया है। आरोप है कि चैटबॉट ने उनकी मानसिक स्थिति को और बिगाड़ने में भूमिका निभाई, हालांकि गूगल का कहना है कि Gemini को इस तरह डिजाइन किया गया है कि वह किसी भी तरह की हिंसा या आत्म-नुकसान को बढ़ावा न दे।
Image Credit : CANVA08 / 08AI रेगुलेशन की बढ़ी मांग
इस दुखद घटना के बाद दुनियाभर में AI के लिए सख्त नियम बनाने की मांग तेज हो गई है। विशेषज्ञों का मानना है कि AI को और सुरक्षित बनाने, बेहतर निगरानी और मजबूत इंटरवेंशन सिस्टम की जरूरत है, ताकि भविष्य में ऐसी घटनाओं को रोका जा सके। यदि आपको किसी भी तरह की मानसिक समस्या है या कोई गलत ख्याल आ रहा है तो आपको हेल्पलाइन नंबर 9152987821 पर बात करनी चाहिए या icall@tiss.ac.in पर ई-मेल करना चाहिए। आत्महत्या किसी भी समस्या का समाधान नहीं होता।
