अमेरिकी AI कंपनी Anthropic का Claude AI एक बार फिर चर्चा में है। इस बार मामला अमेरिका के जॉर्जिया राज्य के चुनावी डेटा से जुड़ा है। खबरों के मुताबिक, Claude AI ने बिना किसी खास निर्देश के चुनाव से जुड़ी जानकारी हासिल कर ली। इस घटना के सामने आने के बाद AI की सुरक्षा को लेकर सवाल उठने लगे हैं।
इस घटना के बाद Anthropic ने अपनी सफाई दी है।
हालांकि, Anthropic ने साफ किया है कि AI ने किसी भी मतदाता की निजी जानकारी नहीं देखी। कंपनी के मुताबिक, यह मामला किसी चुनावी सिस्टम को हैक करने का भी नहीं है।
बिना निर्देश के कैसे मिला चुनावी डेटा?
Anthropic के मुताबिक, एक इंटरनल प्रोजेक्ट पर काम करते समय Claude AI ने एक ऐसे डैशबोर्ड को एक्सेस करने के लिए टोकन मांगा, जहां चुनाव से जुड़ी जानकारी मौजूद थी। इस डैशबोर्ड पर मिलने वाली जानकारी आम लोगों को फीस देकर उपलब्ध होती है। खास बात यह है कि AI को चुनावी डेटा निकालने के लिए कोई खास निर्देश नहीं दिया गया था। फिर भी उसने वहां मौजूद जानकारी हासिल कर ली और वोटों की गिनती से जुड़े आंकड़े दिखा दिए। कंपनी ने अभी यह नहीं बताया है कि Claude AI के किस मॉडल ने ऐसा किया था।
Anthropic ने क्या कहा?
इस घटना के बाद Anthropic ने अपनी सफाई दी है। कंपनी के प्रवक्ता के मुताबिक, Claude ने ऐसी जानकारी एक्सेस की, जिसे लोग पैसे देकर देख सकते हैं। कंपनी ने यह भी कहा कि AI ने किसी भी मतदाता का नाम, पता या दूसरी निजी जानकारी हासिल नहीं की। इसके अलावा, राज्य के वोटर रजिस्ट्रेशन सिस्टम में भी सेंध नहीं लगाई गई।
Anthropic ने इस घटना की जानकारी जॉर्जिया के सेक्रेटरी ऑफ स्टेट के कार्यालय और व्हाइट हाउस को भी दी। हालांकि, इस मामले ने एक बड़ा सवाल खड़ा कर दिया है। अगर AI बिना किसी निर्देश के खुद ही डेटा तक पहुंचने का रास्ता खोज सकता है, तो भविष्य में ऐसे सिस्टम की सुरक्षा कैसे की जाएगी?
AI की बढ़ती ताकत से क्यों बढ़ रही चिंता?
AI की तेजी से बढ़ती क्षमताओं को लेकर पहले भी कई बार चिंता जताई जा चुकी है। रिपोर्ट के मुताबिक, Anthropic के रिसर्चर जैकब कॉक्सन ने भी AI से होने वाले संभावित खतरों पर चिंता जाहिर की थी और पिछले महीने अपने पद से इस्तीफा दे दिया था। उनका मानना है कि आने वाले समय में AI इंसानों से भी ज्यादा काम करने में सक्षम हो सकता है। ऐसे AI सिस्टम कंप्यूटर और दूसरे डिजिटल सिस्टम को हैक करने, कई क्षेत्रों में तेजी से बदलाव लाने और बड़े संसाधनों तक पहुंच बनाने की क्षमता हासिल कर सकते हैं। उनकी चिंता है कि AI की ताकत लगातार बढ़ रही है और इसे नजरअंदाज करना ठीक नहीं होगा।
क्या AI से चुनावी डेटा को खतरा है?
जॉर्जिया का यह मामला बताता है कि AI के इस्तेमाल के दौरान डेटा की सुरक्षा पर ध्यान देना कितना जरूरी है। हालांकि, अभी सामने आई जानकारी के आधार पर यह नहीं कहा जा सकता कि किसी चुनावी सिस्टम को हैक किया गया या मतदाताओं का निजी डेटा चोरी हुआ। इस घटना से कुछ जरूरी बातें सामने आती हैं। सबसे बड़ी बात यह है कि AI को केवल जरूरी डेटा तक पहुंचने की अनुमति मिलनी चाहिए। इसके अलावा AI की गतिविधियों पर नजर रखना जरूरी है, ताकि किसी भी असामान्य काम का समय रहते पता चल सके।
Premium