Rafforzare e proteggere le elezioni

Il processo democratico funziona al meglio quando ogni elettore idoneo può partecipare. Ma troppo spesso le persone non riescono ad accedere alle informazioni su come registrarsi, dove votare e quali sono le posizioni dei candidati, in una lingua e in un formato che comprendono. Per molti cittadini con disabilità visive, scarsa alfabetizzazione o che non sono madrelingua, le email elettorali tradizionali e i volantini stampati sono semplicemente inaccessibili. 

Di fronte a queste barriere comunicative, la voce IA può essere uno strumento estremamente potente per la democrazia. Può leggere le informazioni ad alta voce per le persone con disabilità visive, rispondere alle domande nella lingua o nel dialetto preferito dal cittadino e trasformare documenti ufficiali complessi in una conversazione parlata. Ma, come ogni nuova tecnologia, queste stesse capacità potrebbero essere usate impropriamente da malintenzionati per ingannare o disinformare gli elettori. 

Il 2026 è un anno elettorale importante, con elezioni nazionali, regionali e locali in ogni area del mondo, incluse importanti elezioni negli Stati Uniti e in Brasile. È anche uno dei primi anni elettorali in cui la voce IA espressiva e dal suono naturale è ampiamente disponibile. Di seguito spieghiamo come usiamo la voce IA per rafforzare il processo democratico, prevenendo e rilevando al contempo gli usi impropri di questa tecnologia.

Rafforzare il processo democratico 

La voce IA sta già svolgendo un ruolo fondamentale nelle elezioni, ampliando l'accesso alle informazioni ufficiali provenienti da istituzioni affidabili, e il Brasile è all'avanguardia a livello globale.

In vista delle elezioni di ottobre, il Tribunale Elettorale Superiore del Brasile (TSE) sta aggiungendo un livello vocale al suo «Assistente elettorale», affinché i cittadini possano usare la voce per ottenere informazioni dal sito web, dall'app e dai canali WhatsApp del TSE. Grazie alla nostra tecnologia di Text to Speech e Speech to Text, questa nuova interfaccia vocale è progettata per contrastare la disinformazione elettorale e ampliare l'accesso a informazioni affidabili per tutti i cittadini brasiliani. Abbiamo formalizzato la partnership attraverso un MoU con il TSE, il nostro primo accordo con un'autorità elettorale nazionale, e abbiamo aderito al Programma permanente del TSE per il contrasto alla disinformazione elettorale.

Collaboriamo inoltre con organizzazioni brasiliane che usano la voce IA per sostenere le attività di verifica delle informazioni. Da quasi un decennio, Comprova, una coalizione di 42 organizzazioni mediatiche brasiliane guidata dall'Associazione brasiliana di giornalismo investigativo (Abraji), lavora instancabilmente per identificare contenuti manipolati. Formeremo i partner di Comprova all'uso del nostro AI Speech Classifier e di altri strumenti di rilevamento nei loro workflow di verifica. 

Negli Stati Uniti collaboriamo con responsabili politici, organismi di settore e aziende tecnologiche leader per proteggere le elezioni di metà mandato. Lavoriamo con gli altri membri della Countering Tech-Enabled Fraud Task Force della California per contrastare le truffe abilitate dalla voce. Collaboriamo con Google DeepMind per inserire watermark nei nostri audio, affinché possano essere identificati come generati dall'IA, e con l'azienda di rilevamento dei deepfake Reality Defender per rafforzare i suoi strumenti di rilevamento in tempo reale, utilizzati da grandi aziende e governi. Attraverso ElevenLabs for Government, aiutiamo governi e organizzazioni della società civile a fornire servizi ai cittadini sempre disponibili in più lingue e lavoriamo per offrire questa capacità alle istituzioni civiche negli Stati Uniti con l'avvicinarsi delle elezioni del 2026.

Prevenire e rilevare l'uso improprio della voce IA 

Oltre a utilizzare la nostra tecnologia per ampliare l'accesso democratico, investiamo nelle misure di sicurezza che contrastano gli usi impropri da parte di malintenzionati. Adottiamo un approccio alla sicurezza completo e su più livelli, con protezioni sovrapposte che riguardano i nostri modelli e prodotti, così che, se un livello viene aggirato, gli altri restino attivi. Alcune di queste misure includono: 

• No Go Voices. I campioni audio caricati per creare cloni vengono sottoposti a controlli tramite la nostra protezione proprietaria «No Go Voices» (NGV), progettata per bloccare la creazione di voci appartenenti a persone ad alto rischio, come funzionari pubblici, candidati politici, celebrità e altre figure ampiamente riconosciute. Perfezioniamo e ampliamo continuamente NGV sulla base del monitoraggio interno, dell'attualità, delle segnalazioni degli utenti e di informazioni esterne, anche all'inizio di nuovi cicli elettorali.
• Voice CAPTCHA. Voice CAPTCHA confronta la voce di un campione caricato con una registrazione in tempo reale dell'utente che legge un testo generato dinamicamente. 
• Moderazione in tempo reale e asincrona. Utilizziamo sistemi automatizzati per rilevare contenuti che potrebbero violare le nostre policy, inclusi sfruttamento e abusi sessuali sui minori, incitamento all'odio, truffe e frodi. Questi sistemi possono bloccare determinati contenuti prima che vengano creati. I contenuti generati possono anche essere classificati automaticamente per supportare la revisione umana, le indagini e l'applicazione delle policy.
• Applicazione delle policy. Adottiamo misure appropriate nei confronti degli utenti che violano le nostre policy, tentano di aggirare le nostre misure di sicurezza o svolgono attività che creano un rischio di danni gravi.
• Tracciabilità e trasparenza. I nostri sistemi sono progettati per ricondurre i contenuti generati all'account che li ha creati. Dal 2023 offriamo anche gratuitamente AI Speech Classifier, che consente a chiunque di verificare se un campione audio contiene contenuti generati dall'IA e creati su ElevenLabs. Di recente abbiamo avviato una collaborazione con Google DeepMind per introdurre la sua tecnologia di watermarking SynthID nei contenuti generati su ElevenLabs, affinché possano essere identificati come generati dall'IA usando il nostro Audio Detector gratuito.  

Il nostro impegno costante 

Crediamo fermamente negli enormi benefici della voce IA nella vita pubblica e siamo determinati a garantire che la nostra tecnologia venga usata per il bene comune. Continueremo a rafforzare le nostre misure di sicurezza, imparando dalle partnership che abbiamo in tutto il mondo e adattando il nostro approccio man mano che emergono nuovi rischi e opportunità. Siamo lieti di lavorare a stretto contatto con governi e organizzazioni della società civile a livello globale e non vediamo l'ora di rafforzare ulteriormente le nostre partnership durante questo ciclo elettorale e oltre.