AI ने चिप्स के पैकेट को समझ लिया बंदूक, 16 साल के बच्चे को घर से उठा ले गई पुलिस

टैकी ने स्थानीय चैनल WMAR-2 News से कहा- “पुलिस ने बंदूकें मेरी ओर तान दीं और मुझसे कहा- नीचे लेट जाओ। फिर उन्होंने मुझे हथकड़ी लगा दी।” हालांकि, बाल्टीमोर काउंटी पुलिस विभाग ने बाद में बताया कि टैकी को गिरफ्तार नहीं किया गया, बल्कि “स्थिति को सुरक्षित रूप से सुलझा लिया गया क्योंकि कोई खतरा नहीं पाया गया।”

एआई सिस्टम की गलती कैसे हुई

पुलिस के अनुसार, स्कूल में लगे AI गन डिटेक्शन सिस्टम ने टैकी के हाथ में चिप्स के पैकेट को गलती से फायरआर्म (बंदूक) समझ लिया और अलर्ट जारी कर दिया। यह अलर्ट पहले मानव समीक्षकों को भेजा गया, जिन्होंने कोई खतरा नहीं पाया, लेकिन स्कूल प्रिंसिपल यह सूचना मिस कर गईं और उन्होंने सुरक्षा टीम को सूचित कर दिया, जिसने बाद में पुलिस को बुला लिया।

स्कूल और कंपनी की प्रतिक्रिया

स्कूल की प्रिंसिपल केट स्मिथ ने अभिभावकों को पत्र लिखते हुए बताया कि स्कूल की सुरक्षा टीम ने तुरंत अलर्ट की समीक्षा की और उसे रद्द किया, लेकिन पुलिस तब तक पहुंच चुकी थी। AI सिस्टम बनाने वाली कंपनी Omnilert ने इस घटना पर खेद जताते हुए कहा- “हमें इस घटना का अफसोस है और हम छात्र व समुदाय से अपनी संवेदना व्यक्त करते हैं।”

कंपनी ने कहा कि उसका सिस्टम सुरक्षा प्राथमिकता के तहत काम करता है और इंसानी समीक्षा के बाद अलर्ट को स्कूल की सुरक्षा टीम को भेजा गया था। बाद में जब यह तय हुआ कि वस्तु हथियार नहीं है, तो मामला सिस्टम में “resolved” मार्क कर दिया गया।