Un aggiornamento sulla nostra preparazione alle elezioni

In ElevenLabs, ci impegniamo a rendere i contenuti accessibili e coinvolgenti in qualsiasi lingua, voce e suono. Crediamo profondamente nel potere della nostra tecnologia di creare un mondo più connesso e informato e, di conseguenza, di contribuire positivamente al processo democratico. Abbiamo permesso ai legislatori di riappropriarsi delle proprie voci, aiutandoli a continuare a battersi per i loro elettori e per le cause che stanno loro a cuore. Abbiamo fatto lo stesso per gli attivisti, sostenendo i loro sforzi per promuovere il cambiamento e migliorare la vita delle persone. E il nostro lavoro per rimuovere le barriere alla conoscenza, alla partecipazione e alla comunità è appena iniziato. 

Crediamo inoltre che spetti a tutti noi – settore privato, governi, società civile e singoli individui – non solo promuovere il processo democratico, ma anche proteggerlo. Nel corso del 2024, un anno elettorale cruciale per i Paesi di tutto il mondo, abbiamo adottato misure concrete per prevenire l'uso improprio dei nostri strumenti. In vista delle elezioni statunitensi del 5 novembre, ecco un aggiornamento sulle nostre iniziative.

Policy

Abbiamo rivisto la nostra Policy sugli utilizzi vietati per rafforzare e chiarire le nostre regole sull'uso dei nostri strumenti nel contesto elettorale.

• Divieto di propaganda elettorale e di impersonificazione dei candidati. Vietiamo rigorosamente l'uso dei nostri strumenti per la propaganda politica, inclusa la promozione o il sostegno a un candidato, una causa o una posizione specifici, oppure la richiesta di voti o contributi finanziari. Vietiamo inoltre l'uso dei nostri strumenti per imitare le voci di candidati politici e funzionari governativi eletti.

• Divieto di soppressione del voto e di interferenze nel processo elettorale. Vietiamo l'uso dei nostri strumenti per incitare alla soppressione del voto o ad altre interferenze nei processi elettorali o civici, parteciparvi o agevolarli. Questo include la creazione, la distribuzione o la facilitazione della diffusione di informazioni fuorvianti.

Prevenzione

Abbiamo rafforzato le nostre misure di sicurezza per prevenire l'uso improprio dei nostri strumenti nel contesto elettorale. 

• Verifica degli utenti. Tutti gli utenti dei nostri strumenti di clonazione vocale devono fornire informazioni di contatto e pagamento, che ci aiutano a bloccare al momento della registrazione gli account collegati ad attività fraudolente o ad aree geografiche ad alto rischio.

• Voci “No-Go”. La nostra tecnologia No-Go Voice impedisce la generazione delle voci di centinaia di candidati, funzionari eletti, altre figure politiche e celebrità. Abbiamo ampliato continuamente questa misura di sicurezza per aumentarne l'efficacia e monitoriamo gli utenti che tentano di generare voci bloccate, intervenendo di conseguenza.

Rilevamento e applicazione

Per integrare le nostre misure preventive, abbiamo potenziato le nostre capacità di rilevamento e applicazione.

• Monitoraggio degli usi impropri. I nostri classificatori proprietari migliorati, incluso uno progettato specificamente per identificare i contenuti politici, insieme alla moderazione automatizzata e ai revisori umani, ci aiutano a rilevare i contenuti che violano i nostri termini. Collaboriamo inoltre con team esterni di threat intelligence che forniscono informazioni su potenziali usi impropri volti a interferire con le elezioni e abbiamo istituito canali di condivisione delle informazioni con partner governativi e del settore.

• Applicazione rigorosa. Quando identifichiamo un uso improprio, interveniamo con decisione, rimuovendo voci, mettendo gli utenti in prova, escludendoli dalla nostra piattaforma e, se opportuno, segnalando il caso alle autorità. Se trovi contenuti problematici che ritieni possano provenire da ElevenLabs, segnalacelo.

• Sostegno alle iniziative governative. Crediamo che l'azione dei governi sia fondamentale per scoraggiare gli usi impropri. A luglio, siamo stati orgogliosi di annunciare il nostro sostegno al Protect Elections from Deceptive AI Act, una legge bipartisan guidata dai senatori Amy Klobuchar, Josh Hawley, Chris Coons, Susan Collins, Maria Cantwell, Todd Young, John Hickenlooper e Marsha Blackburn, che chiederebbe conto ai malintenzionati che usano l'IA nelle pubblicità elettorali per ingannare gli elettori. Continueremo a collaborare con i responsabili politici negli Stati Uniti e nel mondo sulle iniziative per la sicurezza dell'IA, comprese quelle relative alle elezioni.

Provenienza e trasparenza

Consentire l'identificazione chiara dei contenuti generati dall'IA, anche attraverso un'ampia collaborazione, rimane un aspetto fondamentale dell'impegno di ElevenLabs per uno sviluppo responsabile.

• AI Speech Classifier. Il nostro AI Speech Classifier, disponibile al pubblico da giugno 2023, consente a chiunque di caricare un campione audio per analizzare se proviene da ElevenLabs. Rendendo pubblico questo strumento, puntiamo a limitare la diffusione della disinformazione, rendendo più semplice identificare la fonte dell'audio.

• Collaborazione con il settore. Quando si parla di provenienza e trasparenza dei contenuti IA, non possiamo agire da soli: è necessario uno sforzo che coinvolga l'intero settore. Per questo facciamo parte della Content Authenticity Initiative (CAI), che riunisce importanti aziende dei media e della tecnologia per sviluppare standard di provenienza. Attraverso la Coalition for Content Provenance and Authenticity (C2PA), stiamo implementando questi standard incorporando metadati firmati crittograficamente nell'audio generato sulla nostra piattaforma. Questo consente ai canali di distribuzione dei contenuti che adottano gli strumenti della CAI, come le principali piattaforme di social media, di riconoscere il nostro audio come generato dall'IA.

• Sostegno agli strumenti di rilevamento di terze parti. Collaboriamo con aziende terze specializzate nella sicurezza dell'IA per migliorare i loro strumenti di identificazione dei contenuti generati dall'IA, inclusi i deepfake legati alle elezioni. A luglio, abbiamo avviato una partnership con Reality Defender – un'azienda di cybersecurity specializzata nel rilevamento dei deepfake – fornendole accesso ai nostri modelli e dati per potenziare i suoi strumenti di rilevamento. La nostra partnership aiuta i clienti di Reality Defender, inclusi governi e grandi imprese, a rilevare in tempo reale le minacce generate dall'IA, proteggendo le persone in tutto il mondo dalla disinformazione e dalle frodi sofisticate. Siamo inoltre coinvolti in altri progetti accademici e commerciali, incluse iniziative di ricerca presso la School of Information della UC Berkeley, per far progredire il rilevamento dei contenuti IA.

Nei prossimi giorni e settimane, continueremo a imparare e ad affinare queste misure di sicurezza. Riconosciamo di non poter prevedere tutti i modi in cui potrebbero essere usati i nostri strumenti. Ma continueremo ad agire con determinazione per prevenire gli abusi, utilizzando al tempo stesso la nostra tecnologia per creare un mondo più connesso e informato.