Stärkung und Schutz von Wahlen

Der demokratische Prozess funktioniert am besten, wenn alle Wahlberechtigten teilnehmen können. Doch oft haben Menschen keinen Zugang zu Informationen darüber, wie sie sich registrieren, wo sie wählen und wofür Kandidatinnen und Kandidaten stehen – und zwar in einer Sprache und einem Format, die sie verstehen. Für viele Menschen mit Sehbehinderung, geringer Lesekompetenz oder ohne muttersprachliche Kenntnisse sind herkömmliche Wahl-E-Mails und gedruckte Informationsblätter schlicht nicht zugänglich. 

Angesichts dieser Kommunikationsbarrieren kann Voice AI ein äußerst wirksames Werkzeug für die Demokratie sein. Sie kann Informationen für Menschen mit Sehbehinderung vorlesen, Fragen in der bevorzugten Sprache oder dem Dialekt einer Person beantworten und umfangreiche offizielle Dokumente in ein gesprochenes Gespräch verwandeln. Doch wie jede neue Technologie können auch diese Funktionen von böswilligen Akteuren missbraucht werden, um Wähler zu täuschen oder falsch zu informieren. 

2026 ist ein bedeutendes Wahljahr: In allen Regionen der Welt finden nationale, regionale und lokale Wahlen statt, darunter wichtige Wahlen in den Vereinigten Staaten und Brasilien. Es ist zudem eines der ersten Wahljahre, in denen ausdrucksstarke, natürlich klingende Voice AI breit verfügbar ist. Im Folgenden zeigen wir, wie wir Voice AI einsetzen, um den demokratischen Prozess zu stärken und zugleich den Missbrauch dieser Technologie zu verhindern und zu erkennen.

Den demokratischen Prozess stärken 

Voice AI spielt bei Wahlen bereits eine entscheidende Rolle, indem sie den Zugang zu offiziellen Informationen vertrauenswürdiger Institutionen erweitert – und Brasilien nimmt dabei weltweit eine Vorreiterrolle ein.

Im Vorfeld der Wahlen im Oktober ergänzt Brasiliens Oberstes Wahlgericht (TSE) seinen „Wahlassistenten“ um eine Sprachschnittstelle. So können Bürgerinnen und Bürger per Sprache Informationen über die Website, App und WhatsApp-Kanäle des TSE abrufen. Unsere Text to Speech- und Speech to Text-Technologie ermöglicht diese neue Sprachschnittstelle. Sie soll Falschinformationen zu Wahlen entgegenwirken und allen brasilianischen Bürgerinnen und Bürgern einen breiteren Zugang zu verlässlichen Informationen ermöglichen. Wir haben die Partnerschaft mit dem TSE durch eine Absichtserklärung formalisiert – unsere erste mit einer nationalen Wahlbehörde – und sind dem ständigen Programm des TSE zur Bekämpfung von Wahldesinformation beigetreten.

Wir arbeiten zudem mit brasilianischen Organisationen zusammen, die Voice AI zur Unterstützung der Faktenprüfung einsetzen. Seit fast einem Jahrzehnt arbeitet Comprova – ein Zusammenschluss von 42 brasilianischen Medienorganisationen unter Leitung der Brasilianischen Vereinigung für investigativen Journalismus (Abraji) – unermüdlich daran, manipulierte Inhalte zu identifizieren. Wir werden die Partner von Comprova darin schulen, unseren AI Speech Classifier und andere Erkennungstools in ihren Prüfprozessen einzusetzen. 

In den Vereinigten Staaten arbeiten wir mit politischen Entscheidungsträgern, Branchenverbänden und führenden Technologieunternehmen zusammen, um die Zwischenwahlen zu schützen. Gemeinsam mit anderen Mitgliedern der kalifornischen Countering Tech-Enabled Fraud Task Force gehen wir gegen sprachbasierte Betrugsmaschen vor. Mit Google DeepMind arbeiten wir daran, unsere Audiodateien mit Wasserzeichen zu versehen, damit sie als KI-generiert erkannt werden können. Gemeinsam mit dem Deepfake-Erkennungsunternehmen Reality Defender stärken wir dessen Echtzeit-Erkennungstools, die von Großunternehmen und Behörden eingesetzt werden. Über ElevenLabs for Government helfen wir Regierungen und der Zivilgesellschaft, mehrsprachige, jederzeit verfügbare Bürgerservices bereitzustellen. Mit Blick auf die Wahlen 2026 arbeiten wir daran, diese Möglichkeit auch zivilgesellschaftlichen Institutionen in den Vereinigten Staaten zugänglich zu machen.

Missbrauch von Voice AI verhindern und erkennen 

Neben dem Einsatz unserer Technologie zur Erweiterung des demokratischen Zugangs investieren wir in Schutzmaßnahmen gegen den Missbrauch durch böswillige Akteure. Wir verfolgen einen umfassenden, mehrschichtigen Sicherheitsansatz mit überlappenden Schutzmechanismen für unsere Modelle und Produkte. So bleiben andere Schutzebenen bestehen, wenn eine Ebene umgangen wird. Zu diesen Schutzmaßnahmen gehören: 

• No Go Voices. Audioproben, die zum Klonen hochgeladen werden, werden mit unserer proprietären Schutzmaßnahme „No Go Voices“ (NGV) abgeglichen. Sie soll verhindern, dass Stimmen von Personen mit hohem Risiko erstellt werden, etwa von Amtsträgern, politischen Kandidatinnen und Kandidaten, Prominenten und anderen weithin bekannten Personen. Wir verbessern und erweitern NGV kontinuierlich auf Grundlage interner Überwachung, aktueller Ereignisse, Nutzerberichten und externer Erkenntnisse – auch wenn neue Wahlzyklen beginnen.
• Voice CAPTCHA. Voice CAPTCHA vergleicht die Stimme in einer hochgeladenen Probe mit einer Echtzeitaufnahme, in der die nutzende Person ein dynamisch erzeugtes Skript vorliest. 
• Echtzeit- und asynchrone Moderation. Wir verwenden automatisierte Systeme, um Inhalte zu erkennen, die möglicherweise gegen unsere Richtlinien verstoßen. Dazu gehören sexuelle Ausbeutung und Missbrauch von Kindern, Hassrede sowie Betrug und Täuschung. Diese Systeme können bestimmte Inhalte blockieren, bevor sie erstellt werden. Generierte Inhalte können zudem automatisch klassifiziert werden, um menschliche Prüfung, Untersuchung und Durchsetzung zu unterstützen.
• Durchsetzung. Wir ergreifen angemessene Maßnahmen gegen Nutzer, die gegen unsere Richtlinien verstoßen, versuchen, unsere Schutzmaßnahmen zu umgehen, oder Aktivitäten nachgehen, die ein Risiko schwerwiegender Schäden schaffen.
• Rückverfolgbarkeit und Transparenz. Unsere Systeme sind darauf ausgelegt, generierte Inhalte bis zum Konto zurückzuverfolgen, das sie erstellt hat. Seit 2023 bieten wir außerdem einen kostenlosen AI Speech Classifier, mit dem jeder prüfen kann, ob eine Audioprobe auf ElevenLabs erstellte KI-generierte Inhalte enthält. Kürzlich haben wir zudem eine Partnerschaft mit Google DeepMind begonnen, um dessen SynthID-Wasserzeichentechnologie für auf ElevenLabs generierte Inhalte einzusetzen. Diese können damit über unseren kostenlosen Audio Detector als KI-generiert erkannt werden.  

Unser fortlaufendes Engagement 

Wir sind überzeugt vom großen Nutzen von Voice AI im öffentlichen Leben und entschlossen, dafür zu sorgen, dass unsere Technologie verantwortungsvoll eingesetzt wird. Wir werden unsere Schutzmaßnahmen weiter stärken, aus unseren Partnerschaften weltweit lernen und unseren Ansatz an neue Risiken und Chancen anpassen. Wir freuen uns über die enge Zusammenarbeit mit Regierungs- und zivilgesellschaftlichen Organisationen weltweit und möchten unsere Partnerschaften in diesem Wahlzyklus und darüber hinaus weiter vertiefen.