ElevenLabs samarbetar med Storbritanniens regering om forskning kring säkerhet för röst-AI

ElevenLabs har ingått ett nytt treårigt partnerskap med Storbritanniens regering för att studera de samhälleliga konsekvenserna och säkerhetsaspekterna av AI-röstteknik. Vi kommer att samarbeta kring forskning om hur väl människor kan avgöra när de talar med en AI-agent och om den kunskapen påverkar deras beteende.

Conversational AI kommer att ge enorma fördelar – från personligt anpassad undervisning till kundservice dygnet runt – men det är avgörande att vi ser till att tekniken inte används för att vilseleda eller utnyttja människor. För att skydda mot missbruk bygger vi in omfattande skyddsåtgärder direkt i våra produkter och samarbetar nära med regeringar för att fastställa standarder för AI-säkerhet.

Genom denna nya avsiktsförklaring ger vi Storbritanniens regering tillgång till våra avancerade röstmodeller för storskalig, kontrollerad forskning. Arbetet kommer att undersöka hur väl människor kan skilja mellan en människa och en AI-agent i naturliga samtal med fram och åter. Forskarna kommer även att undersöka hur människors beteende och vilja att lämna ut information förändras beroende på om de tror att de talar med en människa eller en agent.

Det här arbetet är ett förtroendevotum för Storbritanniens ledarskap inom AI: ett ledande AI-företag som väljer att etablera sig i Storbritannien och att samarbeta med vårt världsledande AI Security Institute kring seriös, betydelsefull och innovativ forskning. Det är genom arbete och partnerskap som detta som vi kan använda AI som en teknik människor kan lita på och som förbättrar deras liv.

— Kanishka Narayan, minister för AI och onlinesäkerhet

Rösten är det mest naturliga sättet att få tillgång till AI:s fulla potential, men människor kommer bara att ta till sig denna förändring om de litar på tekniken. Vi har byggt in skyddsåtgärder i varje del av ElevenLabs plattform, och det här nya forskningspartnerskapet med Storbritanniens regering är ett viktigt steg till för att säkerställa att AI används ansvarsfullt.

— Mati Staniszewski, VD för ElevenLabs

För att säkerställa att vår teknik används ansvarsfullt tillämpar vi en omfattande uppsättning skyddsåtgärder. Det innebär bland annat att blockera kloning av politikers och kändisars röster, kräva verifiering för Voice Cloning, och erbjuda en AI Audio Classifier som hjälper människor att avgöra om ett ljudklipp har genererats av ElevenLabs.

Detta partnerskap följer på lanseringen av ElevenLabs for Government förra veckan, som hjälper organisationer inom offentlig sektor att erbjuda flerspråkiga tjänster dygnet runt. Tidiga användare som Ukrainas regering använder redan tekniken för att hjälpa medborgare att få tillgång till viktiga tjänster, medan andra myndigheter använder AI-agenter för att hantera omkring 5 000 samtal per dag.