Stärkung und Schutz von Wahlen

Der demokratische Prozess funktioniert am besten, wenn alle Wahlberechtigten teilnehmen können. Doch zu oft haben Menschen keinen Zugang zu Informationen darüber, wie sie sich registrieren, wo sie wählen und wofür Kandidaten stehen – in einer Sprache und einem Format, die sie verstehen. Für viele Bürgerinnen und Bürger mit Sehbehinderung, geringer Lesekompetenz oder ohne muttersprachliche Kenntnisse sind herkömmliche Wahl-E-Mails und gedruckte Informationsblätter schlicht nicht zugänglich. 

Angesichts dieser Kommunikationsbarrieren kann Voice AI ein äußerst wirkungsvolles Instrument für die Demokratie sein. Sie kann Informationen für Menschen mit Sehbehinderung vorlesen, Fragen in der bevorzugten Sprache oder dem Dialekt einer Bürgerin oder eines Bürgers beantworten und umfangreiche offizielle Dokumente in ein gesprochenes Gespräch verwandeln. Doch wie jede neue Technologie könnten auch diese Fähigkeiten von böswilligen Akteuren genutzt werden, um Wählerinnen und Wähler zu täuschen oder falsch zu informieren. 

2026 ist ein bedeutendes Wahljahr: In allen Regionen der Welt finden nationale, regionale und lokale Wahlen statt, darunter wichtige Wahlen in den USA und Brasilien. Es ist auch eines der ersten Wahljahre, in denen ausdrucksstarke, natürlich klingende Voice AI breit verfügbar ist. Im Folgenden zeigen wir, wie wir Voice AI einsetzen, um den demokratischen Prozess zu stärken und zugleich den Missbrauch dieser Technologie zu verhindern und zu erkennen.

Den demokratischen Prozess stärken 

Voice AI spielt bei Wahlen bereits eine wichtige Rolle: Sie erweitert den Zugang zu offiziellen Informationen vertrauenswürdiger Institutionen – und Brasilien nimmt weltweit eine Vorreiterrolle ein.

Vor den Wahlen im Oktober ergänzt Brasiliens Oberstes Wahlgericht (TSE) seinen „Wahlassistenten“ um eine Sprachschnittstelle. Bürgerinnen und Bürger können so per Sprache Informationen über die Website, App und WhatsApp-Kanäle des TSE abrufen. Unsere Text to Speech- und Speech-to-Text-Technologie bildet die Grundlage dieser neuen Sprachschnittstelle. Sie soll Fehlinformationen zu Wahlen entgegenwirken und allen brasilianischen Bürgerinnen und Bürgern einen breiteren Zugang zu zuverlässigen Informationen ermöglichen. Wir haben die Partnerschaft mit dem TSE durch eine Absichtserklärung formalisiert – unsere erste mit einer nationalen Wahlbehörde – und sind dem ständigen Programm des TSE zur Bekämpfung von Wahldesinformation beigetreten.

Wir arbeiten auch mit brasilianischen Organisationen zusammen, die Voice AI zur Unterstützung der Informationsprüfung einsetzen. Seit fast einem Jahrzehnt identifiziert Comprova – ein Zusammenschluss von 42 brasilianischen Medienorganisationen unter Leitung der Brasilianischen Vereinigung für investigativen Journalismus (Abraji) – unermüdlich manipulierte Inhalte. Wir werden Comprova-Partner im Einsatz unseres AI Speech Classifiers und anderer Erkennungstools als Teil ihrer Prüfprozesse schulen. 

In den USA arbeiten wir mit politischen Entscheidungsträgern, Branchenverbänden und führenden Technologieunternehmen zusammen, um die Zwischenwahlen zu schützen. Gemeinsam mit anderen Mitgliedern der kalifornischen Countering Tech-Enabled Fraud Task Force gehen wir gegen sprachbasierte Betrugsmaschen vor. Wir arbeiten mit Google DeepMind zusammen, um unsere Audiodateien mit Wasserzeichen zu versehen, damit sie als KI-generiert erkennbar sind. Zudem unterstützen wir das Deepfake-Erkennungsunternehmen Reality Defender bei der Stärkung seiner Echtzeit-Erkennungstools, die von Großunternehmen und Regierungen genutzt werden. Über ElevenLabs for Government helfen wir Regierungen und zivilgesellschaftlichen Organisationen, mehrsprachige Bürgerdienste rund um die Uhr bereitzustellen. Mit Blick auf die Wahlen 2026 arbeiten wir daran, diese Fähigkeit auch zivilgesellschaftlichen Institutionen in den USA zugänglich zu machen.

Missbrauch von Voice AI verhindern und erkennen 

Neben dem Einsatz unserer Technologie zur Erweiterung des demokratischen Zugangs investieren wir in Schutzmaßnahmen gegen den Missbrauch durch böswillige Akteure. Wir verfolgen einen umfassenden, mehrschichtigen Sicherheitsansatz mit sich überschneidenden Schutzmechanismen in unseren Modellen und Produkten. Wird eine Schicht umgangen, bleiben andere bestehen. Zu diesen Maßnahmen gehören: 

• No Go Voices. Audiodateien, die zum Erstellen von Stimmklonen hochgeladen werden, prüfen wir mit unserem proprietären Schutzmechanismus „No Go Voices“ (NGV). Dieser soll verhindern, dass Stimmen von Personen mit hohem Risiko erstellt werden, etwa von Amtsträgern, politischen Kandidaten, Prominenten und anderen weithin bekannten Personen. Wir verfeinern und erweitern NGV kontinuierlich auf Grundlage internen Monitorings, aktueller Ereignisse, Nutzerberichte und externer Erkenntnisse – auch wenn neue Wahlzyklen beginnen.
• Voice CAPTCHA. Voice CAPTCHA vergleicht die Stimme in einer hochgeladenen Audiodatei mit einer Echtzeitaufnahme, in der die nutzende Person ein dynamisch generiertes Skript vorliest. 
• Echtzeit- und asynchrone Moderation. Wir nutzen automatisierte Systeme, um Inhalte zu erkennen, die möglicherweise gegen unsere Richtlinien verstoßen, darunter sexuelle Ausbeutung und Missbrauch von Kindern, Hassrede sowie Betrug und Täuschung. Diese Systeme können bestimmte Inhalte blockieren, bevor sie erstellt werden. Generierte Inhalte können außerdem automatisch klassifiziert werden, um die menschliche Prüfung, Untersuchung und Durchsetzung zu unterstützen.
• Durchsetzung. Wir ergreifen angemessene Maßnahmen gegen Nutzerinnen und Nutzer, die gegen unsere Richtlinien verstoßen, versuchen, unsere Schutzmaßnahmen zu umgehen, oder Aktivitäten ausüben, die ein Risiko schwerwiegender Schäden schaffen.
• Rückverfolgbarkeit und Transparenz. Unsere Systeme sind darauf ausgelegt, generierte Inhalte bis zu dem Konto zurückzuverfolgen, das sie erstellt hat. Seit 2023 bieten wir außerdem einen kostenlosen AI Speech Classifier, mit dem jeder prüfen kann, ob eine Audiodatei KI-generierte Inhalte enthält, die mit ElevenLabs erstellt wurden. Kürzlich haben wir eine Partnerschaft mit Google DeepMind begonnen, um dessen SynthID-Wasserzeichentechnologie in auf ElevenLabs generierte Inhalte zu integrieren. So lassen sie sich mit unserem kostenlosen Audio Detector als KI-generiert erkennen.  

Unser kontinuierliches Engagement 

Wir sind fest von den großen Vorteilen von Voice AI im öffentlichen Leben überzeugt und entschlossen, sicherzustellen, dass unsere Technologie verantwortungsvoll eingesetzt wird. Wir werden unsere Schutzmaßnahmen weiter stärken, aus unseren weltweiten Partnerschaften lernen und unseren Ansatz anpassen, wenn neue Risiken und Chancen entstehen. Wir freuen uns über die enge Zusammenarbeit mit Regierungs- und zivilgesellschaftlichen Organisationen weltweit und wollen unsere Partnerschaften in diesem Wahlzyklus und darüber hinaus weiter vertiefen.