ElevenLabs samarbetar med brittiska regeringen om forskning kring AI-röstsäkerhet

ElevenLabs har ingått ett nytt treårigt partnerskap med brittiska regeringen för att studera samhälleliga och säkerhetsmässiga konsekvenser av AI-röstteknik. Vi kommer att samarbeta kring forskning om hur bra människor kan avgöra om de pratar med en AI-agent, och om den vetskapen påverkar deras beteende.

Conversational AI gör det möjligt för agenter att ge stora fördelar – från personlig undervisning till kundservice dygnet runt – men det är viktigt att vi ser till att tekniken inte används för att lura eller utnyttja. För att förhindra missbruk bygger vi in omfattande skydd direkt i våra produkter och samarbetar med myndigheter för att ta fram AI-säkerhetsstandarder.

Genom detta nya samförståndsavtal ger vi brittiska regeringen tillgång till våra avancerade röstmodeller för storskalig, kontrollerad forskning. Arbetet ska undersöka hur bra människor kan skilja mellan en människa och en AI-agent i naturliga samtal. Forskare kommer också att titta på hur människors beteende och vilja att dela information förändras beroende på om de tror att de pratar med en människa eller en agent.

Det här arbetet visar förtroende för Storbritanniens ledarskap inom AI: ett ledande AI-företag väljer att etablera sig i Storbritannien och samarbeta med vårt världsledande AI Security Institute kring seriös och nyskapande forskning. Sådana samarbeten är vägen till att AI blir en teknik människor kan lita på och som förbättrar deras liv.

— Kanishka Narayan, minister för AI och onlinesäkerhet

Röst är det mest naturliga sättet att utnyttja AI:s fulla potential, men människor kommer bara att ta till sig tekniken om de litar på den. Vi har byggt in skydd i varje del av ElevenLabs, och det här nya forskningssamarbetet med brittiska regeringen är ytterligare ett viktigt steg för att säkerställa att AI används ansvarsfullt.

— Mati Staniszewski, VD för ElevenLabs

För att säkerställa att vår teknik används ansvarsfullt har vi infört ett omfattande skydd. Det innebär bland annat att vi blockerar kloning av politiska och kända röster, kräver verifiering för Voice Cloning och erbjuder en AI Audio Classifier som hjälper människor avgöra om ett ljudklipp har skapats av ElevenLabs.

Detta samarbete kommer efter lanseringen av ElevenLabs för offentlig sektor förra veckan, som hjälper offentliga verksamheter att erbjuda flerspråkig service dygnet runt. Tidiga användare som Ukrainas regering använder redan tekniken för att hjälpa invånare få tillgång till viktiga tjänster, medan andra myndigheter använder AI-agenter för att hantera cirka 5 000 samtal per dag.