Google Secure AI Framework: गूगल ने आर्टिफिशियल इंटेलिजेंस (AI) मॉडल को लागू करने के लिए एक नया "Secure AI Framework (SAIF) टूल" लॉन्च किया है, जो AI मॉडल्स को सुरक्षित रूप से डिप्लॉय करने में सहायक है। इस टूल का उद्देश्य गूगल के एआई सिक्योरिटी गाइडलाइन को साझा करना है, ताकि अन्य कंपनियां भी सुरक्षित मॉडल बना सकें। इसके अलावा गूगल ने अपने कोलिशन फॉर सिक्योर एआई (CoSAI) में 35 इंडस्ट्री पार्टनर्स को जोड़ने की भी घोषणा की।
Google Secure AI Framework (image-Google)
क्या है गूगल का नया Secure AI Framework
यह टूल एक प्रश्नावली के माध्यम से काम करता है, जिसमें डेवलपर्स और एंटरप्राइजेज विभिन्न प्रश्नों का उत्तर देकर एक कस्टम चेक पोस्ट प्राप्त कर सकते हैं। यह चेकलिस्ट AI सुरक्षा के विभिन्न खतरों, जैसे डेटा पॉइजनिंग और प्रॉम्प्ट इंजेक्शन, को पहचानने और हल करने में सहायक है।
गूगल का नया SAIF टूल
एक ब्लॉग पोस्ट में , तकनीकी दिग्गज ने कहा कि कंपनी ने एक नया टूल पेश किया है जो AI इंडस्ट्री में दूसरों को AI मॉडल को तैनात करने में Google बेस्ट प्रैक्टिस से सीखने में मदद करेगा। गूगल ने कहा कि बड़े भाषा मॉडल हानिकारक प्रभावों की एक पूरी सीरीज में सक्षम हैं, अनुचित और अभद्र टेक्स्ट, डीपफेक और फेक न्यूज जनरेट करने से लेकर रासायनिक, जैविक, रेडियोलॉजिकल और परमाणु (CBRN) हथियारों सहित हानिकारक जानकारी जनरेट करना शामिल है।
एआई के खतरे से बचने के लिए SAIF रिस्क असेसमेंट SAIF को एक वैचारिक ढांचे से बदलकर अपने AI सिस्टम को सुरक्षित रखने के लिए जिम्मेदार प्रैक्टिशनर के लिए एक कार्रवाई योग्य चेक लिस्ट में बदलने में मदद करता है। प्रैक्टिशनर इस टूल को नए SAIF.Google होमपेज के मेनू बार पर चेक कर सकते हैं। यह टूल डेटा पॉइजनिंग, प्रॉम्प्ट इंजेक्शन, मॉडल सोर्स से छेड़छाड़ और अन्य जोखिमों से निपटने में सक्षम है। इनमें से प्रत्येक जोखिम की पहचान प्रश्नावली में की गई है और टूल समस्या का एक स्पेसिफिक समाधान भी देता है।
Premium