आर्टिफिशियल इंटेलिजेंस (AI) की ताकत बढ़ने के साथ इसके गलत इस्तेमाल का खतरा भी तेजी से बढ़ रहा है। AI कंपनी Anthropic ने अपनी एक विस्तृत सेफ्टी रिपोर्ट में खुलासा किया है कि उसके Claude AI मॉडल का इस्तेमाल हथियारों से जुड़े काम, जैविक अनुसंधान, बड़े पैमाने पर निगरानी, साइबर जासूसी और दुष्प्रचार जैसे मामलों में करने की कोशिश की गई। कंपनी ने दिसंबर 2025 से अगस्त 2026 के बीच सामने आए कई मामलों को रोकने या बाधित करने का दावा किया है।
जैविक हथियार रिसर्च में Claude के इस्तेमाल की कोशिश
Anthropic के मुताबिक सबसे संवेदनशील मामलों में कुछ वैज्ञानिकों ने Claude की मदद से ऐसे जैविक रिसर्च कार्यों में सहायता लेने की कोशिश की, जिनका इस्तेमाल खतरनाक वायरस को अधिक नुकसानदायक बनाने के लिए किया जा सकता था। एक मामले में एक वैज्ञानिक ने चिकनगुनिया वायरस पर gain-of-function रिसर्च के लिए ग्रांट आवेदन तैयार कराने में मदद मांगी। कंपनी का कहना है कि इस रिसर्च में वायरस में ऐसे बदलाव करने की योजना थी, जिससे वह ज्यादा नुकसानदायक बन सके।
एक अन्य मामले में Claude Opus की मदद से orthopoxvirus से जुड़ी immune-evasion रिसर्च का ग्रांट आवेदन तैयार किया गया। Anthropic ने बताया कि ऐसे मामलों में उसने अकाउंट बैन करने के साथ मॉडल की क्षमता सीमित करने और संवेदनशील अनुरोधों को रोकने जैसे कदम उठाए।
मिसाइल, ड्रोन और हथियारों के लिए भी AI का इस्तेमाल
रिपोर्ट में दावा किया गया है कि Claude का इस्तेमाल पारंपरिक हथियारों से जुड़े सॉफ्टवेयर विकसित करने की कोशिशों में भी हुआ। Anthropic ने चीन, रूस और यमन से जुड़े कुल छह मामलों का उल्लेख किया है, जिनमें मिसाइल, ड्रोन, इलेक्ट्रॉनिक वॉरफेयर और अन्य हथियार प्रणालियों से जुड़े काम शामिल थे।
रूस से जुड़े एक मामले में Claude Code का इस्तेमाल स्वायत्त kamikaze ड्रोन स्वॉर्म विकसित करने के लिए किए जाने की बात कही गई है। वहीं चीन से जुड़े एक मामले में इलेक्ट्रॉनिक वॉरफेयर और एयर-डिफेंस सिस्टम से संबंधित सॉफ्टवेयर तैयार करने की कोशिश सामने आई।
बड़े पैमाने पर निगरानी और जासूसी
Anthropic ने नौ सर्विलांस मामलों का भी जिक्र किया। कंपनी के अनुसार चीन से जुड़े कुछ समूहों ने AI की मदद से लोगों और पत्रकारों की प्रोफाइलिंग, निगरानी और भर्ती की कोशिश की। ईरान से जुड़े मामलों में हजारों लोगों की प्रोफाइलिंग और सोशल मीडिया पोस्ट का विश्लेषण करने के लिए Claude के इस्तेमाल का दावा किया गया है।
साइबर हमलों और दुष्प्रचार में भी AI का इस्तेमाल
रिपोर्ट के मुताबिक एक रूसी-भाषी अभिनेता ने Claude का इस्तेमाल 20 से ज्यादा सरकारी, रक्षा और राजनयिक संस्थानों तथा ड्रोन कंपनियों को निशाना बनाने वाले साइबर अभियानों में किया। AI की मदद से मैलवेयर को सुरक्षा सिस्टम से बचाने के लिए अपने आप बदलाव करने की कोशिश भी की गई।
इसके अलावा Anthropic ने रूस, चीन, ईरान, बांग्लादेश और केन्या से जुड़े कम से कम नौ influence operations को बाधित करने की बात कही है, जहां Claude का इस्तेमाल कंटेंट तैयार करने और अभियानों की योजना बनाने में किया गया।
फर्जी डेटिंग साइट और AI से बने हजारों प्रोफाइल
AI के दुरुपयोग का एक चौंकाने वाला मामला फर्जी डेटिंग नेटवर्क का भी सामने आया। Anthropic के अनुसार अप्रैल 2026 में चीन से जुड़े एक नेटवर्क में 20 से ज्यादा डेटिंग ऐप शामिल थे, जहां हजारों AI personas को असली इंसानों की तरह पेश किया गया। कंपनी ने करीब 4,700 से 5,000 AI personas की पहचान की, जिन्होंने कम से कम 25,000 वास्तविक यूजर्स को 23 लाख से ज्यादा मैसेज भेजे।
Anthropic ने कहा कि इन सभी मामलों के बाद उसने संदिग्ध अकाउंट्स को बैन किया, सुरक्षा सिस्टम को मजबूत किया और जरूरत पड़ने पर संबंधित जानकारी अधिकारियों, रिसर्चर्स और इंडस्ट्री पार्टनर्स के साथ साझा की। कंपनी का कहना है कि जैसे-जैसे AI मॉडल अधिक सक्षम होंगे, उनका दुरुपयोग रोकने के लिए सुरक्षा उपायों को भी उसी तेजी से मजबूत करना जरूरी होगा।
प्रदीप पाण्डेय टाइम्स नाउ नवभारत डिजिटल में टेक और ऑटो बीट पर कंटेंट तैयार करते हैं। डिजिटल मीडिया में 10 वर्षों के अनुभव के साथ प्रदीप तकनीक की दुनिया को समझने और उसे आम पाठकों तक सरल व उपयोगी रूप में पहुंचाने के लिए जाने जाते हैं। प्रदीप अब तक 11,000 से अधिक आर्टिकल्स लिख चुके हैं। वह गैजेट रिव्यू, आर्टिफिशियल इंटेलिजेंस, टेक टिप्स और नवीनतम टेक इनोवेशन पर लगातार काम करते हैं। एआई टूल्स पर एक्सपेरिमेंट करना, नए ऐप्स टेस्ट करना और टेक से जुड़े प्रैक्टिकल सॉल्यूशंस खोजने में उनकी खास रुचि है।
और पढ़ें