Rafforzare e proteggere le elezioni

Il processo democratico funziona al meglio quando ogni elettore avente diritto può partecipare. Troppo spesso, però, le persone non riescono ad accedere alle informazioni su come registrarsi, dove votare e quali sono le posizioni dei candidati in una lingua e in un formato comprensibili. Per molti cittadini con disabilità visive, con bassi livelli di alfabetizzazione o che non sono madrelingua, le email e i volantini elettorali tradizionali sono semplicemente inaccessibili.

Di fronte a queste barriere comunicative, la voce IA può essere uno strumento davvero potente per la democrazia. Può leggere le informazioni ad alta voce per chi ha disabilità visive, rispondere alle domande nella lingua o nel dialetto preferito dal cittadino e trasformare documenti ufficiali complessi in una conversazione parlata. Ma, come ogni nuova tecnologia, anche queste funzionalità potrebbero essere usate in modo improprio da chi vuole ingannare o disinformare gli elettori.

Il 2026 sarà un anno elettorale importante, con elezioni nazionali, regionali e locali in tutto il mondo, comprese le principali elezioni negli Stati Uniti e in Brasile. È anche uno dei primi anni in cui la voce IA espressiva e naturale è ampiamente disponibile. Qui sotto spieghiamo come stiamo usando la voce IA per rafforzare il processo democratico, prevenendo e rilevando allo stesso tempo eventuali abusi di questa tecnologia.

Rafforzare il processo democratico

La voce IA sta già svolgendo un ruolo fondamentale nelle elezioni, ampliando l’accesso alle informazioni ufficiali da parte di istituzioni affidabili – e il Brasile è all’avanguardia a livello globale.

In vista delle elezioni di ottobre, il Tribunale Superiore Elettorale (TSE) del Brasile sta aggiungendo una componente vocale al suo ‘Assistente Elettorale’, così i cittadini possono usare la voce per ottenere informazioni dal sito, dall’app e dai canali WhatsApp del TSE. Grazie alla nostra tecnologia di text-to-speech e speech-to-text, questa nuova interfaccia vocale è pensata per contrastare la disinformazione elettorale e ampliare l’accesso a informazioni affidabili per tutti i cittadini brasiliani. Abbiamo formalizzato la collaborazione con un MoU con il TSE – il nostro primo con un’autorità elettorale nazionale – e siamo entrati a far parte del Programma Permanente del TSE contro la Disinformazione Elettorale.

Collaboriamo anche con organizzazioni brasiliane che usano la voce IA per sostenere le attività di verifica delle informazioni. Da quasi dieci anni, Comprova – una coalizione di 42 media brasiliani guidata dall’Associazione Brasiliana di Giornalismo Investigativo (Abraji) – lavora senza sosta per individuare contenuti manipolati. Formeremo i partner di Comprova all’uso del nostro AI Speech Classifier e di altri strumenti di rilevamento come parte dei loro workflow di verifica.

Negli Stati Uniti collaboriamo con policy maker, associazioni di settore e aziende tecnologiche leader per proteggere le elezioni di metà mandato. Lavoriamo insieme agli altri membri della Countering Tech-Enabled Fraud Task Force della California per contrastare le truffe vocali. Siamo partner di Google DeepMind per applicare watermark ai nostri audio, così da renderli riconoscibili come generati da IA, e collaboriamo con Reality Defender, azienda specializzata nel rilevamento di deepfake, per rafforzare i loro strumenti di rilevamento in tempo reale utilizzati da grandi aziende e governi. Con ElevenLabs for Government aiutiamo governi e organizzazioni della società civile a offrire servizi ai cittadini sempre disponibili in più lingue, e stiamo lavorando per portare questa possibilità anche alle istituzioni civiche degli Stati Uniti in vista delle elezioni del 2026.

Prevenire e rilevare gli abusi della voce IA

Oltre a usare la nostra tecnologia per ampliare l’accesso democratico, investiamo anche in misure di sicurezza per contrastare gli abusi da parte di malintenzionati. Adottiamo un approccio completo e multilivello alla sicurezza, con protezioni sovrapposte che coprono i nostri modelli e prodotti, così che se un livello viene aggirato, gli altri restano attivi. Alcune di queste misure includono:

• No Go Voices. I campioni audio caricati per creare cloni vengono controllati tramite la nostra protezione proprietaria "No Go Voices" (NGV), pensata per bloccare la creazione di voci appartenenti a persone ad alto rischio come funzionari pubblici, candidati politici, celebrità e altre figure molto riconosciute. Miglioriamo e aggiorniamo costantemente NGV grazie al monitoraggio interno, agli eventi attuali, alle segnalazioni degli utenti e a fonti esterne – anche in occasione di nuove tornate elettorali.
• Voice CAPTCHA. Il Voice CAPTCHA confronta la voce di un campione caricato con una registrazione in tempo reale dell’utente che legge uno script generato dinamicamente.
• Moderazione in tempo reale e asincrona. Usiamo sistemi automatici per rilevare contenuti che potrebbero violare le nostre policy, inclusi sfruttamento e abusi sessuali su minori, discorsi d’odio, truffe e frodi. Questi sistemi possono bloccare alcuni contenuti prima che vengano creati. I contenuti generati possono anche essere classificati automaticamente per supportare la revisione umana, le indagini e l’applicazione delle regole.
• Enforcement. Prendiamo provvedimenti contro gli utenti che violano le nostre policy, cercano di aggirare le nostre protezioni o svolgono attività che comportano un rischio di danni gravi.
• Tracciabilità e trasparenza. I nostri sistemi sono progettati per tracciare i contenuti generati fino all’account che li ha creati. Dal 2023 offriamo anche gratuitamente il AI Speech Classifier, che permette a chiunque di verificare se un campione audio contiene contenuti generati da IA su ElevenLabs. Recentemente abbiamo avviato una collaborazione con Google DeepMind per portare la tecnologia di watermark SynthID sui contenuti generati su ElevenLabs, così che possano essere riconosciuti come generati da IA tramite il nostro Audio Detector gratuito.

Il nostro impegno continuo

Crediamo fortemente nei grandi benefici della voce IA nella vita pubblica e siamo determinati a fare in modo che la nostra tecnologia venga usata per il bene comune. Continueremo a rafforzare le nostre protezioni, imparando dalle collaborazioni in tutto il mondo e adattando il nostro approccio man mano che emergono nuovi rischi e opportunità. Siamo felici di lavorare a stretto contatto con governi e organizzazioni della società civile a livello globale e non vediamo l’ora di rafforzare queste partnership durante questo ciclo elettorale e oltre.