OpenAI Warns ChatGPT Users: ओपनएआई ने अपने जेनएआई टूल चैटजीपीटी को लेकर बड़ी चेतावनी जारी की है। एआई स्टार्टअप ने यूजर्स को आगाह किया है वह एआई टूल के साथ सामाजिक संबंध बना सकते हैं। ओपनएआई ने चैटजीपीटी के वॉयस मोड को लेकर चिंता जताई है। कंपनी ने कहा कि चूंकि वॉयस मोड स्पीच को मॉड्यूलेट कर सकता है और वास्तविक मानव के समान भावनाओं को व्यक्त कर सकता है, इसलिए इसका परिणाम यह हो सकता है कि यूजर्स इसके प्रति लगाव विकसित कर सकते हैं।
OpenAI Warns ChatGPT Users (istock)
क्या है चैटजीपीटी वॉयस मोड
बता दें कि ओपनएआई ने सितंबर 2023 में चैटजीपीटी में वॉयस और इमेज का सपोर्ट देने की घोषणा की थी। जिसके बाद कंपनी ने इस साल मई में एक नया मल्टी मॉडल लैंग्वेज मॉडल GPT-4o पेश किया। जिसके बारे में कहा गया कि यह ChatGPT में एडवांस वॉयस मोड को एनेबल करेगा। इसके बाद ओपनएआई ने अपने जेनरेटिव एआई टूल में वॉयस मोड की सुविधा को जारी किया है। इस फीचर की मदद से यूजर्स ChatGPT से इंसानों की तरह बातचीत कर सकते हैं।
कैसे काम करता है चैटजीपीटी वॉयस मोड
चैटजीपीटी से बात करने के लिए वॉइस मोड औसतन 2.8 सेकंड (जीपीटी-3.5) और 5.4 सेकंड (जीपीटी-4) की लेटेंसी के साथ काम करता है। यह लेटेंसी तीन अलग-अलग मॉडलों की डेटा प्रोसेसिंग पाइपलाइन का रिजल्ट है: एक सिंपल मॉडल ऑडियो को टेक्स्ट में ट्रांसक्राइब करता है, जीपीटी-3.5 या जीपीटी-4 टेक्स्ट लेता है और टेक्स्ट आउटपुट करता है, और तीसरा सिंपल मॉडल उस टेक्स्ट को वापस ऑडियो में बदल देता है।
क्या है OpenAI का अलर्ट
एआई फर्म ने इस बात पर प्रकाश डाला कि एंथ्रोमोर्फाइजेशन, जिसका अनिवार्य रूप से अर्थ है गैर-मानव संस्थाओं को मानवीय विशेषताओं या व्यवहारों का श्रेय देना। यह जानकारी कंपनी के GPT-4o के लिए सिस्टम कार्ड का हिस्सा थी , जो एआई मॉडल के संभावित जोखिमों और संभावित सुरक्षा उपायों के बारे में एक विस्तृत एनालिसिस है जिसकी कंपनी ने टेस्टिंग और इंवेस्टिगेशन की है। कंपनी ने यूजर्स को आगाह किया है कि वह चैटबॉट से लगाव लगा सकते हैं, जो खतरनाक हो सकता है।
