ElevenLabs collabora con il Governo britannico per la ricerca sulla sicurezza dell’IA vocale

ElevenLabs ha avviato una nuova partnership triennale con il Governo britannico per studiare le implicazioni sociali e di sicurezza della tecnologia vocale IA. Collaboreremo per capire quanto le persone riescano a riconoscere quando stanno parlando con un agente IA e se questa consapevolezza influisce sul loro comportamento.

L’IA conversazionale permetterà agli agenti di offrire grandi vantaggi – dalla formazione personalizzata a un servizio clienti attivo 24/7 – ma è fondamentale garantire che la tecnologia non venga usata per ingannare o sfruttare. Per prevenire abusi, integriamo solide misure di sicurezza direttamente nei nostri prodotti e collaboriamo con i governi per definire standard di sicurezza per l’IA.

Con questo nuovo protocollo d’intesa, diamo al Governo britannico accesso ai nostri modelli vocali avanzati per ricerche su larga scala e in ambiente controllato. L’obiettivo è capire quanto le persone riescano a distinguere tra un essere umano e un agente IA durante conversazioni naturali e interattive. I ricercatori analizzeranno anche come cambiano i comportamenti e la propensione a condividere informazioni a seconda che si creda di parlare con una persona o con un agente.

Questo progetto è una conferma della leadership del Regno Unito nell’IA: una delle principali aziende IA sceglie di stabilirsi nel Regno Unito e di collaborare con il nostro AI Security Institute su ricerche serie, concrete e innovative. È grazie a iniziative e partnership come questa che possiamo fare dell’IA una tecnologia affidabile e utile per tutti.

— Kanishka Narayan, Ministro per l’IA e la Sicurezza Online

La voce è il modo più naturale per sfruttare appieno il potenziale dell’IA, ma le persone adotteranno questa novità solo se si fidano della tecnologia. Abbiamo inserito misure di sicurezza in ogni parte della piattaforma ElevenLabs e questa nuova collaborazione con il Governo britannico è un altro passo importante per garantire un uso responsabile dell’IA.

— Mati Staniszewski, CEO di ElevenLabs

Per garantire un uso responsabile della nostra tecnologia, adottiamo una serie completa di misure di sicurezza. Blocchiamo la clonazione di voci di politici e personaggi famosi, richiediamo la verifica per la clonazione vocale e offriamo un AI Audio Classifier per aiutare le persone a capire se un audio è stato generato da ElevenLabs.

Questa partnership segue il lancio di ElevenLabs per la Pubblica Amministrazione la scorsa settimana, che aiuta le organizzazioni del settore pubblico a offrire servizi multilingue attivi 24/7. I primi utilizzatori come il Governo dell’Ucraina stanno già usando questa tecnologia per aiutare i cittadini ad accedere a servizi essenziali, mentre altre agenzie impiegano agenti IA per gestire circa 5.000 chiamate al giorno.