Rafforzare e proteggere le elezioni

Il processo democratico funziona al meglio quando ogni elettore idoneo può partecipare. Ma troppo spesso le persone non riescono ad accedere alle informazioni su come registrarsi, dove votare e quali sono le posizioni dei candidati, in una lingua e in un formato che comprendono. Per molti cittadini con disabilità visive, con un basso livello di alfabetizzazione o non madrelingua, le tradizionali email elettorali e i volantini stampati sono semplicemente inaccessibili. 

Di fronte a queste barriere comunicative, la voce IA può essere uno strumento incredibilmente potente per la democrazia. Può leggere le informazioni ad alta voce per le persone con disabilità visive, rispondere alle domande nella lingua o nel dialetto preferiti da un cittadino e trasformare documenti ufficiali complessi in una conversazione parlata. Ma, come ogni nuova tecnologia, queste stesse capacità potrebbero essere sfruttate da malintenzionati per ingannare o disinformare gli elettori. 

Il 2026 è un anno elettorale importante, con elezioni nazionali, regionali e locali in ogni regione del mondo, comprese importanti elezioni negli Stati Uniti e in Brasile. È anche uno dei primi anni elettorali in cui la voce IA espressiva e dal suono naturale è ampiamente disponibile. Di seguito spieghiamo come stiamo impiegando la voce IA per rafforzare il processo democratico, prevenendo e rilevando al contempo gli usi impropri di questa tecnologia.

Rafforzare il processo democratico 

La voce IA svolge già un ruolo fondamentale nelle elezioni, ampliando l'accesso alle informazioni ufficiali fornite da istituzioni affidabili; il Brasile è all'avanguardia a livello globale.

In vista delle elezioni di ottobre, il Tribunale Elettorale Superiore del Brasile (TSE) sta aggiungendo un livello vocale al proprio «Assistente Elettorale», affinché i cittadini possano usare la voce per ottenere informazioni dal sito web, dall'app e dai canali WhatsApp del TSE. Grazie alla nostra tecnologia di Text to Speech e Speech to Text, questa nuova interfaccia vocale è progettata per contribuire a contrastare la disinformazione elettorale e ampliare l'accesso a informazioni affidabili per tutti i cittadini brasiliani. Abbiamo formalizzato la partnership con un memorandum d'intesa con il TSE, il nostro primo con un'autorità elettorale nazionale, e abbiamo aderito al Programma permanente del TSE per il contrasto alla disinformazione elettorale.

Stiamo inoltre collaborando con organizzazioni brasiliane che usano la voce IA per sostenere le attività di verifica delle informazioni. Da quasi un decennio, Comprova, una coalizione di 42 organizzazioni mediatiche brasiliane guidata dall'Associazione Brasiliana di Giornalismo Investigativo (Abraji), lavora instancabilmente per individuare contenuti manipolati. Formeremo i partner di Comprova all'uso del nostro AI Speech Classifier e di altri strumenti di rilevamento nei loro workflow di verifica. 

Negli Stati Uniti collaboriamo con legislatori, organismi di settore e importanti aziende tecnologiche per proteggere le elezioni di metà mandato. Lavoriamo con gli altri membri della Countering Tech-Enabled Fraud Task Force della California per contrastare le truffe basate sulla voce. Collaboriamo con Google DeepMind per applicare filigrane ai nostri audio, così da renderli identificabili come generati dall'IA, e con Reality Defender, azienda di rilevamento dei deepfake, per rafforzarne gli strumenti di rilevamento in tempo reale utilizzati da grandi aziende e governi. Attraverso ElevenLabs for Government, aiutiamo governi e organizzazioni della società civile a fornire servizi ai cittadini sempre disponibili in più lingue e stiamo lavorando per offrire questa capacità alle istituzioni civiche negli Stati Uniti in vista delle elezioni del 2026.

Prevenire e rilevare gli usi impropri della voce IA 

Oltre a impiegare la nostra tecnologia per ampliare l'accesso democratico, investiamo nelle misure di sicurezza che contrastano gli usi impropri da parte di malintenzionati. Adottiamo un approccio alla sicurezza completo e su più livelli, con protezioni sovrapposte che coprono i nostri modelli e prodotti, affinché, se un livello viene aggirato, ne restino altri. Queste misure di sicurezza includono: 

• No Go Voices. I campioni audio caricati per creare cloni vengono sottoposti al nostro sistema proprietario di protezione «No Go Voices» (NGV), progettato per bloccare la creazione di voci appartenenti a persone ad alto rischio, come funzionari pubblici, candidati politici, celebrità e altre figure ampiamente riconosciute. Perfezioniamo e ampliamo costantemente NGV in base al monitoraggio interno, agli eventi attuali, alle segnalazioni degli utenti e a informazioni esterne, anche all'inizio di nuovi cicli elettorali.
• Voice CAPTCHA. Voice CAPTCHA confronta la voce in un campione caricato con una registrazione in tempo reale dell'utente che legge uno script generato dinamicamente. 
• Moderazione in tempo reale e asincrona. Utilizziamo sistemi automatizzati per rilevare contenuti che potrebbero violare le nostre policy, inclusi lo sfruttamento e l'abuso sessuale minorile, l'incitamento all'odio, le truffe e le frodi. Questi sistemi possono bloccare determinati contenuti prima che vengano creati. I contenuti generati possono inoltre essere classificati automaticamente per supportare la revisione umana, le indagini e l'applicazione delle policy.
• Applicazione delle policy. Adottiamo misure appropriate nei confronti degli utenti che violano le nostre policy, tentano di aggirare le nostre misure di sicurezza o svolgono attività che creano un rischio di danni gravi.
• Tracciabilità e trasparenza. I nostri sistemi sono progettati per risalire dal contenuto generato all'account che lo ha creato. Dal 2023 offriamo inoltre gratuitamente un AI Speech Classifier, che consente a chiunque di verificare se un campione audio contiene contenuti generati dall'IA e creati su ElevenLabs. Di recente, abbiamo avviato una collaborazione con Google DeepMind per portare la sua tecnologia di filigrana SynthID nei contenuti generati su ElevenLabs, affinché possano essere identificati come generati dall'IA usando il nostro Audio Detector.  

Il nostro impegno costante 

Crediamo fermamente negli enormi benefici della voce IA nella vita pubblica e siamo determinati a garantire che la nostra tecnologia venga usata per il bene. Continueremo a rafforzare le nostre misure di sicurezza, a imparare dalle partnership che abbiamo in tutto il mondo e ad adattare il nostro approccio man mano che emergono nuovi rischi e opportunità. Siamo lieti di lavorare a stretto contatto con governi e organizzazioni della società civile a livello globale e non vediamo l'ora di approfondire le nostre partnership durante questo ciclo elettorale e oltre.