ElevenLabs collabora con il Governo britannico nella ricerca sulla sicurezza delle voci IA

ElevenLabs ha siglato una nuova partnership triennale con il Governo britannico per studiare le implicazioni sociali e di sicurezza della tecnologia vocale IA. Collaboreremo alla ricerca su quanto efficacemente le persone riescano a riconoscere quando parlano con un agente IA e se questa consapevolezza modifica il loro comportamento.

IA conversazionale fornirà enormi vantaggi, dal tutoraggio personalizzato al servizio clienti 24 ore su 24, 7 giorni su 7 , ma è fondamentale garantire che la tecnologia non venga usata per ingannare o sfruttare le persone. Per proteggerci dagli abusi, integriamo misure di sicurezza complete direttamente nei nostri prodotti e collaboriamo strettamente con i governi per definire standard di sicurezza per l'IA.

In base a questo nuovo memorandum d'intesa, stiamo offrendo al Governo britannico l'accesso ai nostri modelli vocali di frontiera per una ricerca controllata e su larga scala. Questo lavoro valuterà quanto bene le persone riescano a distinguere tra un essere umano e un agente IA durante conversazioni naturali e interattive. I ricercatori esamineranno inoltre come cambino il comportamento delle persone e la loro disponibilità a condividere informazioni in base al fatto che credano di parlare con un essere umano o con un agente.

Questo lavoro è un attestato di fiducia nella leadership del Regno Unito nel campo dell'IA: un'azienda IA leader che sceglie di stabilirsi nel Regno Unito e di collaborare con il nostro AI Security Institute, leader mondiale, su una ricerca seria, concreta e innovativa. Lavori e partnership come questa ci permettono di sviluppare un'IA di cui le persone possano fidarsi e che migliori la loro vita.

— Kanishka Narayan, Ministro per l'IA e la sicurezza online

La voce è il modo più naturale per accedere al pieno potenziale dell'IA, ma le persone adotteranno questo cambiamento solo se si fidano della tecnologia. Abbiamo integrato misure di sicurezza in ogni parte della piattaforma ElevenLabs e questa nuova partnership di ricerca con il Governo britannico è un altro passo importante per garantire che l'IA venga impiegata in modo responsabile.

— Mati Staniszewski, CEO di ElevenLabs

Per garantire un uso responsabile della nostra tecnologia, adottiamo un insieme completo di misure di sicurezza. Tra queste, impediamo la clonazione delle voci di politici e celebrità, richiediamo la verifica per la clonazione vocale, e offriamo un Classificatore audio IA per aiutare le persone a capire se una clip audio è stata generata da ElevenLabs.

Questa partnership segue il lancio, avvenuto la scorsa settimana, di ElevenLabs per la pubblica amministrazione, che aiuta le organizzazioni del settore pubblico a offrire servizi multilingue 24 ore su 24, 7 giorni su 7. I primi utilizzatori, come il Governo dell'Ucraina, usano già questa tecnologia per aiutare i cittadini ad accedere ai servizi essenziali, mentre altre agenzie usano agenti IA agenti per gestire circa 5.000 chiamate al giorno.