Stärka och skydda val

Den demokratiska processen fungerar bäst när alla röstberättigade kan delta. Men ofta har människor inte tillgång till information om hur man registrerar sig, var man röstar och vad kandidaterna står för – på ett språk och i ett format de förstår. För många som har en synnedsättning, låg läskunnighet eller inte har svenska som modersmål, är traditionella valmejl och tryckta broschyrer helt enkelt otillgängliga.

Mot dessa kommunikationshinder kan AI-röst vara ett otroligt kraftfullt verktyg för demokratin. Den kan läsa upp information för personer med synnedsättning, svara på frågor på medborgarens eget språk eller dialekt och göra tunga officiella dokument till ett samtal. Men precis som med all ny teknik kan dessa möjligheter också missbrukas av personer som vill vilseleda eller sprida felaktig information till väljare.

2026 är ett viktigt valår, med nationella, regionala och lokala val i hela världen, inklusive stora val i USA och Brasilien. Det är också ett av de första valåren där uttrycksfull, naturtrogen AI-röst finns tillgänglig för många. Nedan berättar vi hur vi använder AI-röst för att stärka den demokratiska processen, samtidigt som vi förebygger och upptäcker missbruk av tekniken.

Stärka den demokratiska processen

AI-röst spelar redan en viktig roll i val genom att öka tillgången till officiell information från pålitliga institutioner – och Brasilien leder utvecklingen globalt.

Inför valet i oktober lägger Brasiliens högsta valdomstol (TSE) till ett röstlager i sin ‘Valassistent’, så att medborgare kan använda sin röst för att få information från TSE:s webbplats, app och WhatsApp-kanaler. Med hjälp av vår text-to-speech och speech-to-text-teknik är det nya röstgränssnittet utformat för att motverka valdesinformation och öka tillgången till tillförlitlig information för alla brasilianska medborgare. Vi formaliserade samarbetet genom ett MoU med TSE – vårt första med en nationell valmyndighet – och gick med i TSE:s permanenta program mot valdesinformation.

Vi samarbetar också med brasilianska organisationer som använder AI-röst för att stödja arbetet med att verifiera information. I nästan tio år har Comprova – ett samarbete mellan 42 brasilianska medieorganisationer lett av den brasilianska föreningen för undersökande journalistik (Abraji) – arbetat hårt för att identifiera manipulerat innehåll. Vi kommer att utbilda Comprovas partners i att använda vår AI Speech Classifier och andra verktyg för upptäckt som en del av deras verifieringsarbete.

I USA samarbetar vi med beslutsfattare, branschorganisationer och ledande teknikföretag för att skydda mellanårsvalen. Vi samarbetar med andra medlemmar i Kaliforniens Countering Tech-Enabled Fraud Task Force för att motverka röstbaserade bedrägerier. Vi samarbetar med Google DeepMind för att vattenmärka vårt ljud så att det kan identifieras som AI-genererat, och med deepfake-upptäckarföretaget Reality Defender för att stärka deras verktyg för realtidsupptäckt som används av stora företag och myndigheter. Genom ElevenLabs for Government hjälper vi myndigheter och civilsamhället att erbjuda tillgänglig service på flera språk, och vi arbetar för att ta denna möjlighet till offentliga institutioner i USA inför valet 2026.

Förebygga och upptäcka missbruk av AI-röst

Förutom att använda vår teknik för att öka demokratisk tillgång, investerar vi i skydd som motverkar missbruk. Vi har en bred, flerskiktad strategi för säkerhet, med överlappande skydd i våra modeller och produkter, så att om ett lager kringgås finns andra kvar. Några av dessa skydd är:

• No Go Voices. Ljudklipp som laddas upp för att skapa kloner kontrolleras mot vårt eget "No Go Voices" (NGV)-skydd, som är utformat för att blockera skapandet av röster som tillhör högriskpersoner som offentliga tjänstemän, politiska kandidater, kändisar och andra välkända personer. Vi förbättrar och utökar ständigt NGV baserat på intern övervakning, aktuella händelser, användarrapporter och extern information – särskilt när nya valcykler inleds.
• Voice CAPTCHA. Voice CAPTCHA jämför rösten i ett uppladdat ljudklipp med en inspelning i realtid där användaren läser ett dynamiskt genererat manus.
• Realtids- och asynkron moderering. Vi använder automatiska system för att upptäcka innehåll som kan bryta mot våra riktlinjer, till exempel sexuella övergrepp mot barn, hatpropaganda samt bedrägerier och bluffar. Dessa system kan blockera visst innehåll innan det skapas. Genererat innehåll kan också automatiskt klassificeras för att underlätta mänsklig granskning, utredning och åtgärder.
• Åtgärder. Vi vidtar lämpliga åtgärder mot användare som bryter mot våra riktlinjer, försöker kringgå våra skydd eller ägnar sig åt aktiviteter som innebär risk för allvarlig skada.
• Spårbarhet och transparens. Våra system är utformade för att kunna spåra genererat innehåll tillbaka till det konto som skapade det. Sedan 2023 erbjuder vi också ett gratis AI Speech Classifier, som gör det möjligt för vem som helst att kontrollera om ett ljudklipp innehåller AI-genererat innehåll skapat på ElevenLabs. Nyligen började vi samarbeta med Google DeepMind för att använda deras SynthID-vattenmärkning på innehåll som genereras på ElevenLabs, så att det kan identifieras som AI-genererat med vårt kostnadsfria Audio Detector.

Vårt fortsatta engagemang

Vi tror starkt på de stora fördelarna med AI-röst i samhället och vi är fast beslutna att se till att vår teknik används på rätt sätt. Vi fortsätter att stärka våra skydd, lära oss av samarbeten världen över och anpassa oss när nya risker och möjligheter dyker upp. Vi är glada över att arbeta nära myndigheter och civilsamhällesorganisationer globalt, och ser fram emot att fördjupa våra samarbeten under denna valcykel och framöver.