En uppdatering om våra förberedelser inför val

På ElevenLabs arbetar vi för att göra innehåll tillgängligt och engagerande oavsett språk, röst och ljud. Vi tror starkt på vår tekniks förmåga att skapa en mer sammanlänkad och välinformerad värld och därigenom bidra positivt till den demokratiska processen. Vi har hjälpt lagstiftare att återfå sina röster, så att de kan fortsätta kämpa för sina väljare och de frågor som ligger dem varmt om hjärtat. Vi har gjort samma sak för förespråkare, och stöttat deras arbete för förändring och bättre liv. Och vårt arbete med att ta bort hinder för kunskap, delaktighet och gemenskap har bara börjat. 

Vi anser också att det är allas vårt ansvar – branschens, regeringars, civilsamhällets och enskilda personers – att inte bara främja den demokratiska processen, utan också skydda den. Under hela 2024, ett avgörande valår i länder över hela världen, har vi vidtagit konkreta åtgärder för att förhindra missbruk av våra verktyg. Inför det amerikanska valet den 5 november kommer här en uppdatering om vårt arbete.

Policyer

Vi har reviderat vår policy för förbjuden användning för att stärka och förtydliga våra regler för användning av våra verktyg i samband med val.

• Förbud mot kampanjer och utgivning för att vara kandidater. Vi förbjuder strikt användning av våra verktyg för politisk kampanjverksamhet, inklusive att marknadsföra eller förespråka en viss kandidat, fråga eller ståndpunkt, eller att be om röster eller ekonomiska bidrag. Vi förbjuder även användning av våra verktyg för att efterlikna rösterna hos politiska kandidater och folkvalda företrädare.

• Förbud mot väljarförtryck och störningar av valprocessen. Vi förbjuder användning av våra verktyg för att uppmana till, delta i eller underlätta väljarförtryck eller andra störningar av val- eller samhällsprocesser. Detta omfattar att skapa, sprida eller underlätta spridningen av vilseledande information.

Förebyggande åtgärder

Vi har förbättrat våra skyddsåtgärder för att förhindra missbruk av våra verktyg i samband med val. 

• Granskning av användare. Alla användare av våra verktyg för Voice Cloning måste lämna kontakt- och betalningsuppgifter, vilket hjälper oss att blockera konton som är kopplade till bedräglig verksamhet eller geografiska områden med hög risk vid registrering.

• ”No-Go”-röster. Vår No-Go Voice-teknik hindrar rösterna hos hundratals kandidater, folkvalda företrädare, andra politiska personer och kändisar från att genereras. Vi har kontinuerligt utökat denna skyddsåtgärd för att göra den mer effektiv, och vi övervakar och vidtar åtgärder mot användare som försöker generera blockerade röster.

Upptäckt och efterlevnad

Som komplement till våra förebyggande åtgärder har vi stärkt vår förmåga att upptäcka och hantera överträdelser.

• Övervakning av missbruk. Våra förbättrade egenutvecklade klassificerare, däribland en som specifikt är utformad för att identifiera politiskt innehåll, hjälper oss tillsammans med automatisk moderering och mänskliga granskare att upptäcka innehåll som bryter mot våra villkor. Vi samarbetar också med externa team för hotinformation som ger insikter om potentiellt missbruk avsett att störa val, och vi har inrättat kanaler för informationsdelning med myndigheter och branschpartners.

• Strikt efterlevnad. När vi identifierar missbruk agerar vi beslutsamt, bland annat genom att ta bort röster, sätta användare på prövotid, stänga av användare från vår plattform och, när det är lämpligt, rapportera till myndigheter. Om du stöter på problematiskt innehåll som du tror kan komma från ElevenLabs, meddela oss gärna.

• Stöd för myndigheters arbete. Vi anser att myndighetsåtgärder är avgörande för att motverka missbruk. I juli var vi stolta över att tillkännage vårt stöd för Protect Elections from Deceptive AI Act, en lag med stöd från båda partierna, ledd av senatorerna Amy Klobuchar, Josh Hawley, Chris Coons, Susan Collins, Maria Cantwell, Todd Young, John Hickenlooper och Marsha Blackburn. Lagen skulle ställa aktörer som använder AI i kampanjannonser för att vilseleda väljare till svars. Vi kommer att fortsätta samarbeta med beslutsfattare i USA och runt om i världen kring initiativ för AI-säkerhet, inklusive sådana som rör val.

Ursprung och transparens

Att möjliggöra tydlig identifiering av AI-genererat innehåll, bland annat genom breda samarbeten, är fortsatt en viktig del av ElevenLabs arbete med ansvarsfull utveckling.

• AI Speech Classifier. Vår AI Speech Classifier, som har varit tillgänglig för allmänheten sedan juni 2023, låter vem som helst ladda upp ett ljudprov för analys av om det kommer från ElevenLabs. Genom att göra verktyget offentligt vill vi begränsa spridningen av felaktig information genom att göra ljudets källa lättare att identifiera.

• Samarbete med branschen. När det gäller ursprung och transparens för AI-innehåll kan vi inte göra det ensamma – det krävs en gemensam insats från hela branschen. Därför är vi en del av Content Authenticity Initiative (CAI), som samlar stora medie- och teknikföretag för att utveckla standarder för ursprung. Genom Coalition for Content Provenance and Authenticity (C2PA) inför vi dessa standarder genom att bädda in kryptografiskt signerade metadata i ljudet som genereras på vår plattform. Det säkerställer att innehållsdistributionskanaler som använder CAI:s verktyg, exempelvis ledande sociala medieplattformar, kan känna igen vårt ljud som AI-genererat.

• Stöd för tredjepartsverktyg för upptäckt. Vi samarbetar med tredjepartsföretag inom AI-säkerhet för att förbättra deras verktyg för att identifiera AI-genererat innehåll, inklusive deepfakes kopplade till val. I juli inledde vi ett partnerskap med Reality Defender – ett cybersäkerhetsföretag med fokus på upptäckt av deepfakes – och gav dem tillgång till våra modeller och data för att stärka deras verktyg för upptäckt. Vårt partnerskap hjälper Reality Defenders kunder, däribland myndigheter och stora företag, att upptäcka AI-genererade hot i realtid och skyddar människor världen över från felaktig information och avancerade bedrägerier. Vi deltar också i andra akademiska och kommersiella projekt, inklusive forskningsinitiativ vid UC Berkeleys School of Information, för att utveckla upptäckten av AI-innehåll.

Under de kommande dagarna och veckorna kommer vi att fortsätta lära oss och förbättra dessa skyddsåtgärder. Vi inser att vi inte kan förutse alla sätt som våra verktyg kan användas på. Men vi kommer att fortsätta vidta kraftfulla åtgärder för att förhindra missbruk, samtidigt som vi använder vår teknik för att skapa en mer sammanlänkad och välinformerad värld.