ElevenLabs werkt samen met de Britse overheid aan onderzoek naar de veiligheid van stem-AI
- Gepubliceerd
LuisterenLuister naar dit artikel
ElevenLabs is een nieuw driejarig partnerschap aangegaan met de Britse overheid om de maatschappelijke en veiligheidsimplicaties van AI-stemtechnologie te onderzoeken. We werken samen aan onderzoek naar hoe goed mensen kunnen herkennen wanneer ze met een AI-agent spreken, en of die kennis hun gedrag verandert.
Conversationele AI-agents kunnen enorme voordelen bieden – van gepersonaliseerde begeleiding tot klantenservice die 24/7 beschikbaar is – maar het is essentieel dat we ervoor zorgen dat de technologie niet wordt gebruikt om mensen te misleiden of uit te buiten. Om misbruik te voorkomen, bouwen we uitgebreide waarborgen rechtstreeks in onze producten in en werken we nauw samen met overheden om AI-veiligheidsnormen vast te stellen.
Volgens deze nieuwe intentieverklaring geven we de Britse overheid toegang tot onze frontier-stemmodellen voor grootschalig, gecontroleerd onderzoek. In dit onderzoek wordt nagegaan hoe goed mensen tijdens natuurlijke gesprekken heen en weer onderscheid kunnen maken tussen een mens en een AI-agent. Onderzoekers onderzoeken ook hoe het gedrag van mensen en hun bereidheid om informatie te delen veranderen, afhankelijk van of ze denken met een mens of een agent te praten.
Dit onderzoek is een blijk van vertrouwen in het AI-leiderschap van het VK: een toonaangevend AI-bedrijf dat ervoor kiest zich in het VK te vestigen en samen te werken met ons toonaangevende AI Security Institute aan serieus, inhoudelijk en innovatief onderzoek. Met werk en samenwerkingen als deze benutten we AI als een technologie waarin mensen vertrouwen kunnen stellen en die hun leven ten goede komt.
Stem is de meest natuurlijke manier om het volledige potentieel van AI te benutten, maar mensen zullen deze verandering alleen omarmen als ze de technologie vertrouwen. We hebben waarborgen ingebouwd in elk onderdeel van het ElevenLabs-platform, en dit nieuwe onderzoekspartnerschap met de Britse overheid is opnieuw een belangrijke stap om ervoor te zorgen dat AI verantwoord wordt ingezet.
Om ervoor te zorgen dat onze technologie verantwoord wordt gebruikt, zetten we een uitgebreide reeks waarborgen in. Hieronder vallen het blokkeren van het klonen van stemmen van politici en beroemdheden, het vereisen van verificatie voor stemklonen, en het aanbieden van een AI Audio Classifier waarmee mensen kunnen bepalen of een audioclip door ElevenLabs is gegenereerd.
Dit partnerschap volgt op de lancering van ElevenLabs for Government vorige week, waarmee organisaties in de publieke sector 24/7 meertalige diensten kunnen aanbieden. Vroege gebruikers, zoals de Oekraïense overheid gebruiken deze technologie al om burgers toegang te geven tot essentiële diensten, terwijl andere instanties AI-agents gebruiken om ongeveer 5.000 telefoontjes per dag af te handelen.
.png&w=3840&q=80)
