Een update over onze voorbereidingen op verkiezingen

Bij ElevenLabs zetten we ons ervoor in om content toegankelijk en boeiend te maken, ongeacht taal, stem of geluid. We geloven sterk in de kracht van onze technologie om een meer verbonden en beter geïnformeerde wereld te creëren en daarmee een positieve kracht te zijn voor het democratische proces. We hebben volksvertegenwoordigers geholpen hun stem terug te krijgen, zodat zij zich kunnen blijven inzetten voor hun kiezers en de kwesties die hun na aan het hart liggen. Hetzelfde hebben we gedaan voor belangenbehartigers, door hun inspanningen te ondersteunen om verandering teweeg te brengen en levens te verbeteren. En ons werk om barrières voor kennis, participatie en gemeenschap weg te nemen, is nog maar net begonnen. 

We geloven ook dat het aan ons allemaal is – de industrie, overheden, het maatschappelijk middenveld en individuen – om het democratische proces niet alleen te bevorderen, maar ook te beschermen. Gedurende 2024, een cruciaal verkiezingsjaar in landen over de hele wereld, hebben we concrete stappen gezet om misbruik van onze tools te voorkomen. In aanloop naar de Amerikaanse verkiezingen van 5 november geven we hier een update over onze inspanningen.

Beleid

We hebben ons Beleid voor verboden gebruik aangepast om onze regels voor het gebruik van onze tools in de context van verkiezingen te versterken en te verduidelijken.

• Verbod op campagnevoering en het nabootsen van kandidaten. We verbieden ten strengste het gebruik van onze tools voor politieke campagnevoering, waaronder het promoten of bepleiten van een specifieke kandidaat, kwestie of standpunt, of het vragen om stemmen of financiële bijdragen. We verbieden ook het gebruik van onze tools om de stemmen van politieke kandidaten en gekozen overheidsfunctionarissen na te bootsen.

• Verbod op kiezersonderdrukking en verstoring van het verkiezingsproces. We verbieden het gebruik van onze tools om kiezersonderdrukking of andere verstoringen van electorale of maatschappelijke processen aan te zetten, eraan deel te nemen of deze mogelijk te maken. Dit omvat het creëren, verspreiden of faciliteren van de verspreiding van misleidende informatie.

Preventie

We hebben onze waarborgen versterkt om misbruik van onze tools in de context van verkiezingen te voorkomen. 

• Gebruikersscreening. Alle gebruikers van onze tools voor stemklonen moeten contact- en betaalgegevens verstrekken. Dit helpt ons bij registratie accounts te blokkeren die gekoppeld zijn aan frauduleuze activiteiten of regio's met een hoog risico.

• ‘No-Go’-stemmen. Onze No-Go Voice-technologie voorkomt dat stemmen van honderden kandidaten, gekozen functionarissen, andere politieke figuren en beroemdheden worden gegenereerd. We hebben deze waarborg voortdurend uitgebreid om de effectiviteit ervan te vergroten en we monitoren gebruikers die geblokkeerde stemmen proberen te genereren en nemen maatregelen tegen hen.

Detectie en handhaving

Als aanvulling op onze preventieve maatregelen hebben we onze mogelijkheden voor detectie en handhaving uitgebreid.

• Monitoring op misbruik. Onze verbeterde eigen classifiers, waaronder één die speciaal is ontworpen om politieke content te identificeren, helpen ons samen met geautomatiseerde moderatie en menselijke reviewers content te detecteren die onze voorwaarden schendt. We werken ook samen met externe threat intelligence-teams die inzicht bieden in mogelijk misbruik om verkiezingen te verstoren, en hebben kanalen opgezet om informatie te delen met partners uit de overheid en de industrie.

• Strenge handhaving. Wanneer we misbruik vaststellen, nemen we daadkrachtige maatregelen, waaronder het verwijderen van stemmen, gebruikers op proef plaatsen, gebruikers van ons platform weren en, waar passend, dit melden bij de autoriteiten. Als je problematische content tegenkomt waarvan je denkt dat die afkomstig kan zijn van ElevenLabs, laat het ons weten.

• Ondersteuning van overheidsinspanningen. We geloven dat maatregelen van de overheid cruciaal zijn om misbruik af te schrikken. In juli waren we er trots op aan te kondigen dat we de Protect Elections from Deceptive AI Act steunen, een wetgevingsvoorstel van beide partijen onder leiding van de senatoren Amy Klobuchar, Josh Hawley, Chris Coons, Susan Collins, Maria Cantwell, Todd Young, John Hickenlooper en Marsha Blackburn. Dit voorstel zou kwaadwillenden aansprakelijk stellen die AI in campagneadvertenties gebruiken om kiezers te misleiden. We blijven samenwerken met beleidsmakers in de VS en wereldwijd aan initiatieven voor AI-veiligheid, waaronder initiatieven rond verkiezingen.

Herkomst en transparantie

Het mogelijk maken van een duidelijke identificatie van door AI gegenereerde content, onder meer door brede samenwerking, blijft een belangrijk onderdeel van ElevenLabs’ inspanningen voor verantwoorde ontwikkeling.

• AI Speech Classifier. Onze AI Speech Classifier, die sinds juni 2023 publiek beschikbaar is, stelt iedereen in staat een audiofragment te uploaden om te analyseren of het afkomstig is van ElevenLabs. Door deze tool openbaar te maken, willen we de verspreiding van misinformatie beperken door de herkomst van audio gemakkelijker herkenbaar te maken.

• Samenwerking met de industrie. Als het gaat om de herkomst en transparantie van AI-content, kunnen we dit niet alleen doen – een gezamenlijke inspanning van de hele industrie is noodzakelijk. Daarom maken we deel uit van het Content Authenticity Initiative (CAI), dat grote media- en technologiebedrijven samenbrengt om standaarden voor herkomst te ontwikkelen. Via de Coalition for Content Provenance and Authenticity (C2PA) implementeren we deze standaarden door cryptografisch ondertekende metadata in de audio te verwerken die op ons platform wordt gegenereerd. Zo kunnen contentdistributiekanalen die de tools van CAI toepassen, zoals toonaangevende socialemediaplatforms, onze audio herkennen als door AI gegenereerd.

• Ondersteuning van detectietools van derden. We werken samen met externe bedrijven voor AI-veiligheid om hun tools voor het identificeren van door AI gegenereerde content, waaronder verkiezingsgerelateerde deepfakes, te verbeteren. In juli werkten we samen met Reality Defender – een cybersecuritybedrijf dat zich richt op deepfakedetectie – en gaven we toegang tot onze modellen en data om hun detectietools te versterken. Ons partnerschap helpt de klanten van Reality Defender, waaronder overheden en grote ondernemingen, om door AI gegenereerde dreigingen realtime te detecteren en mensen over de hele wereld te beschermen tegen misinformatie en geavanceerde fraude. We zijn ook betrokken bij andere academische en commerciële projecten, waaronder onderzoeksinitiatieven van UC Berkeley’s School of Information, om de detectie van AI-content te bevorderen.

In de komende dagen en weken blijven we leren en deze waarborgen verfijnen. We erkennen dat we niet kunnen voorzien op welke manieren onze tools allemaal kunnen worden gebruikt. Maar we blijven krachtig optreden om misbruik te voorkomen, terwijl we onze technologie inzetten om een meer verbonden en beter geïnformeerde wereld te creëren.