Stärka och skydda val

Den demokratiska processen fungerar bäst när alla röstberättigade kan delta. Men alltför ofta kan människor inte få information om hur man registrerar sig, var man röstar och vad kandidaterna står för på ett språk och i ett format som de förstår. För många med synnedsättning, låg läskunnighet eller ett annat modersmål är traditionella e-postutskick inför val och tryckta broschyrer helt enkelt inte tillgängliga. 

Inför dessa kommunikationshinder kan röst-AI vara ett oerhört kraftfullt verktyg för demokratin. Den kan läsa upp information för personer med synnedsättning, svara på frågor på invånarens föredragna språk eller dialekt och omvandla omfattande officiella dokument till ett talat samtal. Men precis som all ny teknik kan samma möjligheter missbrukas av illvilliga aktörer för att vilseleda eller sprida felaktig information till väljare. 

2026 är ett betydelsefullt valår, med nationella, regionala och lokala val i alla delar av världen, däribland stora val i USA och Brasilien. Det är också ett av de första valåren då uttrycksfull röst-AI som låter naturlig är allmänt tillgänglig. Nedan berättar vi hur vi använder röst-AI för att stärka den demokratiska processen, samtidigt som vi förebygger och upptäcker missbruk av tekniken.

Stärka den demokratiska processen 

Röst-AI spelar redan en avgörande roll i val genom att öka tillgången till officiell information från betrodda institutioner – och Brasilien leder utvecklingen globalt.

Inför valet i oktober lägger Brasiliens högsta valdomstol (TSE) till ett röstlager i sin ”Electoral Assistant”, så att invånare kan använda rösten för att få information från TSE:s webbplats, app och WhatsApp-kanaler. Med vår text-till-tal- och tal-till-text-teknik ska detta nya röstgränssnitt bidra till att motverka felaktig information om valet och ge alla brasilianska invånare bättre tillgång till tillförlitlig information. Vi formaliserade samarbetet genom ett samförståndsavtal med TSE – vårt första med en nationell valmyndighet – och anslöt oss till TSE:s permanenta program för att bekämpa felaktig information om val.

Vi samarbetar också med brasilianska organisationer som använder röst-AI för att stödja arbetet med att verifiera information. I nästan ett decennium har Comprova – en koalition med 42 brasilianska medieorganisationer under ledning av Brazilian Association of Investigative Journalism (Abraji) – arbetat outtröttligt för att identifiera manipulerat innehåll. Vi kommer att utbilda Comprovas partner i att använda vår AI Speech Classifier och andra upptäcktsverktyg som en del av deras verifieringsarbetsflöden. 

I USA samarbetar vi med beslutsfattare, branschorganisationer och ledande teknikföretag för att skydda mellanårsvalen. Tillsammans med andra medlemmar i Kaliforniens Countering Tech-Enabled Fraud Task Force motverkar vi röstbaserade bedrägerier. Vi samarbetar med Google DeepMind för att vattenmärka vårt ljud så att det kan identifieras som AI-genererat, och med deepfake-detekteringsföretaget Reality Defender för att stärka deras verktyg för realtidsdetektering, som används av stora företag och myndigheter. Genom ElevenLabs for Government hjälper vi myndigheter och civilsamhället att erbjuda medborgartjänster dygnet runt på flera språk, och vi arbetar för att ge samhällsinstitutioner i USA tillgång till denna möjlighet inför valet 2026.

Förebygga och upptäcka missbruk av röst-AI 

Utöver att använda vår teknik för att bredda den demokratiska tillgången investerar vi i skyddsåtgärder som motverkar missbruk av illvilliga aktörer. Vi har en heltäckande säkerhetsstrategi i flera lager, med överlappande skydd i våra modeller och produkter, så att andra skydd finns kvar om ett lager kringgås. Några av dessa skyddsåtgärder är: 

• No Go Voices. Ljudprover som laddas upp för att skapa kloner kontrolleras mot vår egen skyddsåtgärd ”No Go Voices” (NGV), som är utformad för att blockera skapandet av röster som tillhör högriskpersoner, till exempel offentliga tjänstemän, politiska kandidater, kändisar och andra välkända personer. Vi förfinar och utökar kontinuerligt NGV baserat på intern övervakning, aktuella händelser, användarrapporter och extern information – även när nya valcykler inleds.
• Voice CAPTCHA. Voice CAPTCHA jämför rösten i ett uppladdat prov med en realtidsinspelning av användaren som läser ett dynamiskt genererat manus. 
• Moderering i realtid och asynkront. Vi använder automatiserade system för att upptäcka innehåll som kan bryta mot våra policyer, inklusive sexuellt utnyttjande och övergrepp mot barn, hatpropaganda samt bedrägerier och svindlerier. Dessa system kan blockera visst innehåll innan det skapas. Genererat innehåll kan också klassificeras automatiskt för att underlätta mänsklig granskning, utredning och verkställighet.
• Åtgärder. Vi vidtar lämpliga åtgärder mot användare som bryter mot våra policyer, försöker kringgå våra skyddsåtgärder eller ägnar sig åt verksamhet som medför risk för allvarlig skada.
• Spårbarhet och transparens. Våra system är utformade för att spåra genererat innehåll tillbaka till kontot som skapade det. Sedan 2023 erbjuder vi även en kostnadsfri AI Speech Classifier, som gör det möjligt för alla att kontrollera om ett ljudprov innehåller AI-genererat innehåll som skapats på ElevenLabs. Nyligen inledde vi ett samarbete med Google DeepMind för att använda deras vattenmärkningsteknik SynthID för innehåll som genereras på ElevenLabs, så att det kan identifieras som AI-genererat med vår kostnadsfria Audio Detector.  

Vårt fortsatta engagemang 

Vi tror starkt på de stora fördelarna med röst-AI i det offentliga livet och är fast beslutna att säkerställa att vår teknik används för gott. Vi kommer att fortsätta stärka våra skyddsåtgärder, lära av våra samarbeten runt om i världen och anpassa vårt arbetssätt när nya risker och möjligheter uppstår. Vi är glada över att arbeta nära myndigheter och civilsamhällesorganisationer globalt och ser fram emot att fördjupa våra samarbeten under denna valcykel och framöver.