ElevenLabs ने वॉइस AI सुरक्षा शोध के लिए यूके सरकार के साथ साझेदारी की

ElevenLabs ने AI वॉइस तकनीक के सामाजिक और सुरक्षा संबंधी प्रभावों का अध्ययन करने के लिए यूके सरकार के साथ तीन साल की नई साझेदारी की है। हम इस बात पर शोध करेंगे कि लोग कितनी प्रभावी ढंग से पहचान पाते हैं कि वे किसी AI एजेंट से बात कर रहे हैं, और क्या यह जानकारी उनके व्यवहार को बदलती है।

कन्वर्सेशनल AI एजेंट्स व्यक्तिगत ट्यूशन से लेकर 24/7 कस्टमर सर्विस तक बड़े फायदे देंगे—लेकिन यह सुनिश्चित करना बेहद ज़रूरी है कि इस तकनीक का इस्तेमाल धोखा देने या शोषण के लिए न हो। दुरुपयोग से बचाने के लिए, हम अपने प्रोडक्ट्स में सीधे व्यापक सुरक्षा उपाय शामिल करते हैं और AI सुरक्षा मानक तय करने के लिए सरकारों के साथ मिलकर काम करते हैं।

इस नए समझौता ज्ञापन के तहत, हम बड़े पैमाने पर नियंत्रित शोध के लिए यूके सरकार को अपने फ्रंटियर वॉइस मॉडल्स का एक्सेस दे रहे हैं। इस काम में यह जांचा जाएगा कि स्वाभाविक, दो-तरफ़ा बातचीत के दौरान लोग किसी इंसान और AI एजेंट के बीच कितनी अच्छी तरह अंतर कर पाते हैं। शोधकर्ता यह भी देखेंगे कि लोगों के व्यवहार और जानकारी साझा करने की इच्छा में इस आधार पर कैसे बदलाव आता है कि वे खुद को इंसान या एजेंट से बात करता मानते हैं।

यह काम AI क्षेत्र में यूके की नेतृत्व क्षमता पर भरोसे का संकेत है: एक अग्रणी AI कंपनी का यूके में अपना आधार बनाने और गंभीर, ठोस व अभिनव शोध के लिए हमारे विश्व-अग्रणी AI सिक्योरिटी इंस्टीट्यूट के साथ साझेदारी करने का फैसला। ऐसे काम और साझेदारियां ही हमें AI को ऐसी तकनीक के रूप में अपनाने में मदद करती हैं, जिस पर लोग भरोसा कर सकें और जिससे उनके जीवन को लाभ मिले।

— कनिष्क नारायण, AI और ऑनलाइन सुरक्षा मंत्री

AI की पूरी क्षमता तक पहुंचने का सबसे स्वाभाविक तरीका वॉइस है, लेकिन लोग इस बदलाव को तभी अपनाएंगे जब उन्हें इस तकनीक पर भरोसा होगा। हमने ElevenLabs प्लेटफ़ॉर्म के हर हिस्से में सुरक्षा उपाय बनाए हैं, और यूके सरकार के साथ यह नई शोध साझेदारी AI को ज़िम्मेदारी से लागू करना सुनिश्चित करने की दिशा में एक और अहम कदम है।

— माती स्टानिशेव्स्की, ElevenLabs के सीईओ

यह सुनिश्चित करने के लिए कि हमारी तकनीक का इस्तेमाल ज़िम्मेदारी से हो, हम व्यापक सुरक्षा उपाय लागू करते हैं। इनमें राजनीतिक हस्तियों और सेलिब्रिटीज़ की आवाज़ों की क्लोनिंग को ब्लॉक करना, वॉइस क्लोनिंग के लिए सत्यापन अनिवार्य करना, और लोगों को यह पता लगाने में मदद के लिए AI ऑडियो क्लासिफ़ायर उपलब्ध कराना शामिल है कि कोई ऑडियो क्लिप ElevenLabs ने जनरेट की है या नहीं।

यह साझेदारी पिछले सप्ताह ElevenLabs फॉर गवर्नमेंट के लॉन्च के बाद हुई है, जो सार्वजनिक क्षेत्र के संगठनों को 24/7, बहुभाषी सेवाएं देने में मदद करता है। यूक्रेन सरकार जैसे शुरुआती उपयोगकर्ता पहले ही इस तकनीक से नागरिकों को ज़रूरी सेवाओं तक पहुंचने में मदद कर रहे हैं, जबकि अन्य एजेंसियां प्रतिदिन लगभग 5,000 कॉल संभालने के लिए AI एजेंट्स का इस्तेमाल कर रही हैं।