Ein Update zu unseren Vorbereitungen auf Wahlen

Bei ElevenLabs setzen wir uns dafür ein, Inhalte über jede Sprache, Stimme und jeden Klang hinweg zugänglich und ansprechend zu machen. Wir sind überzeugt, dass unsere Technologie eine stärker vernetzte und besser informierte Welt schaffen und damit die Demokratie stärken kann. Wir haben Abgeordneten ermöglicht, ihre Stimmen zurückzugewinnen, damit sie sich weiterhin für ihre Wählerinnen und Wähler und die Themen einsetzen können, die ihnen wichtig sind. Dasselbe haben wir für Engagierte und Aktivisten getan und sie bei ihrem Einsatz für Veränderungen und ein besseres Leben unterstützt. Unsere Arbeit, Barrieren für Wissen, Teilhabe und Gemeinschaft abzubauen, hat gerade erst begonnen. 

Wir glauben auch, dass wir alle – Industrie, Regierungen, Zivilgesellschaft und Einzelpersonen – nicht nur den demokratischen Prozess fördern, sondern ihn auch schützen müssen. Im Laufe des Jahres 2024, einem entscheidenden Wahljahr in Ländern weltweit, haben wir konkrete Maßnahmen ergriffen, um den Missbrauch unserer Tools zu verhindern. Vor der US-Wahl am 5. November geben wir einen Überblick über unsere Maßnahmen.

Richtlinien

Wir haben unsere Richtlinie zur unzulässigen Nutzung überarbeitet, um unsere Regeln für den Einsatz unserer Tools im Zusammenhang mit Wahlen zu stärken und klarer zu formulieren.

• Verbot von Wahlkampf und der Nachahmung von Kandidaten. Wir untersagen strikt den Einsatz unserer Tools für politische Wahlkämpfe. Dazu zählen die Unterstützung oder Bewerbung bestimmter Kandidaten, Themen oder Positionen sowie die Aufforderung zu Stimmabgaben oder finanziellen Beiträgen. Außerdem untersagen wir, unsere Tools zur Nachahmung der Stimmen politischer Kandidaten und gewählter Amtsträger einzusetzen.

• Verbot von Wählerunterdrückung und Störungen des Wahlprozesses. Wir untersagen den Einsatz unserer Tools, um Wählerunterdrückung oder andere Störungen von Wahl- oder zivilgesellschaftlichen Prozessen anzustiften, daran mitzuwirken oder sie zu ermöglichen. Dazu gehören das Erstellen, Verbreiten oder Ermöglichen der Verbreitung irreführender Informationen.

Prävention

Wir haben unsere Schutzmaßnahmen verstärkt, um den Missbrauch unserer Tools im Zusammenhang mit Wahlen zu verhindern. 

• Nutzerprüfung. Alle Nutzer unserer Tools zum Klonen von Stimmen müssen Kontakt- und Zahlungsinformationen angeben. Das hilft uns, Konten zu sperren, die mit betrügerischen Aktivitäten oder Hochrisikoregionen verbunden sind.

• „No-Go“-Stimmen. Unsere No-Go-Voice-Technologie verhindert die Generierung der Stimmen von Hunderten Kandidaten, gewählten Amtsträgern, anderen politischen Persönlichkeiten und Prominenten. Wir haben diese Schutzmaßnahme kontinuierlich erweitert, um ihre Wirksamkeit zu erhöhen. Außerdem überwachen wir Nutzer, die versuchen, gesperrte Stimmen zu generieren, und ergreifen Maßnahmen gegen sie.

Erkennung und Durchsetzung

Ergänzend zu unseren Präventionsmaßnahmen haben wir unsere Fähigkeiten zur Erkennung und Durchsetzung ausgebaut.

• Überwachung auf Missbrauch. Unsere verbesserten proprietären Klassifikatoren, darunter ein speziell zur Erkennung politischer Inhalte entwickelter Klassifikator, sowie automatisierte Moderation und menschliche Prüfer helfen uns, Inhalte zu erkennen, die gegen unsere Nutzungsbedingungen verstoßen. Zudem arbeiten wir mit externen Threat-Intelligence-Teams zusammen, die Erkenntnisse zu möglichem Missbrauch zur Störung von Wahlen liefern. Mit Partnern aus Regierung und Industrie haben wir Kanäle für den Informationsaustausch eingerichtet.

• Konsequente Durchsetzung. Wenn wir Missbrauch feststellen, ergreifen wir entschlossene Maßnahmen. Dazu gehören das Entfernen von Stimmen, die Verwarnung von Nutzern, der Ausschluss von Nutzern von unserer Plattform und gegebenenfalls Meldungen an die Behörden. Wenn Sie auf problematische Inhalte stoßen, die Ihrer Meinung nach von ElevenLabs stammen könnten, teilen Sie uns dies bitte mit.

• Unterstützung staatlicher Maßnahmen. Wir sind überzeugt, dass staatliche Maßnahmen entscheidend sind, um Missbrauch abzuschrecken. Im Juli haben wir mit Stolz bekannt gegeben, dass wir den Protect Elections from Deceptive AI Act unterstützen – ein parteiübergreifendes Gesetzesvorhaben unter Führung der Senatoren Amy Klobuchar, Josh Hawley, Chris Coons, Susan Collins, Maria Cantwell, Todd Young, John Hickenlooper und Marsha Blackburn. Es soll Akteure zur Verantwortung ziehen, die KI in Wahlkampfanzeigen einsetzen, um Wähler zu täuschen. Wir werden weiterhin mit politischen Entscheidungsträgern in den USA und weltweit an Initiativen für KI-Sicherheit arbeiten, auch im Zusammenhang mit Wahlen.

Herkunft und Transparenz

Die eindeutige Identifizierung KI-generierter Inhalte zu ermöglichen, auch durch breite Zusammenarbeit, bleibt ein zentraler Aspekt der verantwortungsvollen Entwicklung bei ElevenLabs.

• KI-Sprachklassifikator. Unser KI-Sprachklassifikator, der seit Juni 2023 öffentlich verfügbar ist, ermöglicht es allen, eine Audioaufnahme hochzuladen und analysieren zu lassen, ob sie von ElevenLabs stammt. Indem wir dieses Tool öffentlich bereitstellen, wollen wir die Verbreitung von Fehlinformationen begrenzen und die Herkunft von Audio leichter erkennbar machen.

• Zusammenarbeit mit der Branche. Bei Herkunft und Transparenz von KI-Inhalten können wir nicht allein handeln – dafür ist ein branchenweiter Einsatz nötig. Deshalb sind wir Teil der Content Authenticity Initiative (CAI), die führende Medien- und Technologieunternehmen zusammenbringt, um Standards für die Herkunft von Inhalten zu entwickeln. Über die Coalition for Content Provenance and Authenticity (C2PA) setzen wir diese Standards um, indem wir kryptografisch signierte Metadaten in die auf unserer Plattform generierten Audiodateien einbetten. So können Vertriebskanäle für Inhalte, die CAI-Tools nutzen – etwa führende Social-Media-Plattformen –, unsere Audiodateien als KI-generiert erkennen.

• Unterstützung von Erkennungstools Dritter. Wir arbeiten mit externen Unternehmen für KI-Sicherheit zusammen, um ihre Tools zur Erkennung KI-generierter Inhalte zu verbessern, darunter wahlbezogene Deepfakes. Im Juli sind wir eine Partnerschaft mit Reality Defender eingegangen – einem Cybersicherheitsunternehmen mit Fokus auf Deepfake-Erkennung. Wir geben Zugang zu unseren Modellen und Daten, um dessen Erkennungstools zu stärken. Unsere Partnerschaft hilft den Kunden von Reality Defender, darunter Regierungen und große Unternehmen, KI-generierte Bedrohungen in Echtzeit zu erkennen. So schützt sie Menschen weltweit vor Fehlinformationen und raffiniertem Betrug. Darüber hinaus beteiligen wir uns an weiteren akademischen und kommerziellen Projekten, darunter Forschungsinitiativen an der School of Information der UC Berkeley, um die Erkennung von KI-Inhalten voranzutreiben.

In den kommenden Tagen und Wochen werden wir weiter lernen und diese Schutzmaßnahmen verfeinern. Uns ist bewusst, dass wir nicht jede mögliche Nutzung unserer Tools vorhersehen können. Doch wir werden weiterhin entschlossen gegen Missbrauch vorgehen und unsere Technologie einsetzen, um eine stärker vernetzte und besser informierte Welt zu schaffen.