Google Secure AI Framework: गूगल ने आर्टिफिशियल इंटेलिजेंस (AI) मॉडल को लागू करने के लिए एक नया "Secure AI Framework (SAIF) टूल" लॉन्च किया है, जो AI मॉडल्स को सुरक्षित रूप से डिप्लॉय करने में सहायक है। इस टूल का उद्देश्य गूगल के एआई सिक्योरिटी गाइडलाइन को साझा करना है, ताकि अन्य कंपनियां भी सुरक्षित मॉडल बना सकें। इसके अलावा गूगल ने अपने कोलिशन फॉर सिक्योर एआई (CoSAI) में 35 इंडस्ट्री पार्टनर्स को जोड़ने की भी घोषणा की।
क्या है गूगल का नया Secure AI Framework
यह टूल एक प्रश्नावली के माध्यम से काम करता है, जिसमें डेवलपर्स और एंटरप्राइजेज विभिन्न प्रश्नों का उत्तर देकर एक कस्टम चेक पोस्ट प्राप्त कर सकते हैं। यह चेकलिस्ट AI सुरक्षा के विभिन्न खतरों, जैसे डेटा पॉइजनिंग और प्रॉम्प्ट इंजेक्शन, को पहचानने और हल करने में सहायक है।
गूगल का नया SAIF टूल
एक ब्लॉग पोस्ट में , तकनीकी दिग्गज ने कहा कि कंपनी ने एक नया टूल पेश किया है जो AI इंडस्ट्री में दूसरों को AI मॉडल को तैनात करने में Google बेस्ट प्रैक्टिस से सीखने में मदद करेगा। गूगल ने कहा कि बड़े भाषा मॉडल हानिकारक प्रभावों की एक पूरी सीरीज में सक्षम हैं, अनुचित और अभद्र टेक्स्ट, डीपफेक और फेक न्यूज जनरेट करने से लेकर रासायनिक, जैविक, रेडियोलॉजिकल और परमाणु (CBRN) हथियारों सहित हानिकारक जानकारी जनरेट करना शामिल है।
एआई के खतरे से बचने के लिए SAIF रिस्क असेसमेंट SAIF को एक वैचारिक ढांचे से बदलकर अपने AI सिस्टम को सुरक्षित रखने के लिए जिम्मेदार प्रैक्टिशनर के लिए एक कार्रवाई योग्य चेक लिस्ट में बदलने में मदद करता है। प्रैक्टिशनर इस टूल को नए SAIF.Google होमपेज के मेनू बार पर चेक कर सकते हैं। यह टूल डेटा पॉइजनिंग, प्रॉम्प्ट इंजेक्शन, मॉडल सोर्स से छेड़छाड़ और अन्य जोखिमों से निपटने में सक्षम है। इनमें से प्रत्येक जोखिम की पहचान प्रश्नावली में की गई है और टूल समस्या का एक स्पेसिफिक समाधान भी देता है।
विशाल मैथिल टाइम्स नाऊ नवभारत में बतौर सीनियर कॉपी एडिटर 2023 से जुड़े हुए हैं। पत्रकारिता में 6+ वर्षों के अनुभव के साथ वह टेक्नोलॉजी, सोशल मीडिया, गैजेट्स और आर्टिफिशियल इंटेलिजेंस जैसे विषयों पर गहरी समझ रखते हैं। वे ऑटोमोबाइल, बिजनेस, यूटिलिटी और हाइपरलोकल से लेकर एजुकेशन और इंटरनेशनल बीट्स पर भी काम कर चुके हैं। भोपाल से ताल्लुक रखने वाले विशाल ने माखनलाल चतुर्वेदी राष्ट्रीय पत्रकारिता विश्वविद्यालय से मीडिया रिसर्च में पोस्ट ग्रेजुएशन किया है। रिसर्च के क्षेत्र में उनके कई पेपर राष्ट्रीय और अंतर्राष्ट्रीय जर्नल में प्रकाशित हो चुके हैं। उन्होंने दैनिक भास्कर, अमर उजाला, मासिक पत्रिका "संदेश" और सोशल मीडिया फर्म में भी काम किया है। टेक-यूटिलिटी और बिजनेस से जुड़ी खबरों को आसान और काम की भाषा में समझाना विशाल को खूब आता है। वो कोशिश करते हैं कि कम शब्दों में ज्यादा और साफ-सुथरी जानकारी मिल जाए। किताबें पढ़ना और संगीत सुनना उनका पसंदीदा काम है। आप इनसे Vishal.mathel@timesgroup.com पर संपर्क कर सकते हैं।
और पढ़ें