ElevenLabs kooperiert mit der britischen Regierung bei Forschung zur Sicherheit von KI-Stimmen

ElevenLabs hat eine neue dreijährige Partnerschaft mit der britischen Regierung vereinbart, um die gesellschaftlichen und sicherheitsrelevanten Auswirkungen von KI-Stimmtechnologie zu erforschen. Gemeinsam untersuchen wir, wie gut Menschen erkennen können, ob sie mit einem KI-Agenten sprechen, und ob dieses Wissen ihr Verhalten beeinflusst.

Konversationelle KI-Agenten bieten große Vorteile – von personalisierter Nachhilfe bis zu 24/7-Kundendienst – aber es ist entscheidend, dass wir sicherstellen, dass die Technologie nicht zur Täuschung oder Ausnutzung verwendet wird. Um Missbrauch zu verhindern, integrieren wir umfassende Schutzmechanismen direkt in unsere Produkte und arbeiten eng mit Regierungen zusammen, um Sicherheitsstandards für KI zu etablieren.

Im Rahmen dieser neuen Vereinbarung erhält die britische Regierung Zugang zu unseren fortschrittlichen Stimmenmodellen für groß angelegte, kontrollierte Forschung. Dabei wird untersucht, wie gut Menschen in natürlichen Dialogen zwischen Mensch und KI-Agent unterscheiden können. Außerdem wird erforscht, wie sich das Verhalten und die Bereitschaft zur Informationsweitergabe verändern, je nachdem, ob sie glauben, mit einem Menschen oder einem Agenten zu sprechen.

Diese Zusammenarbeit ist ein Vertrauensbeweis für die britische Führungsrolle im KI-Bereich: Ein führendes KI-Unternehmen entscheidet sich für den Standort Großbritannien und für eine Partnerschaft mit unserem weltweit anerkannten AI Security Institute für ernsthafte und innovative Forschung. Solche Projekte und Partnerschaften ermöglichen es, KI als vertrauenswürdige Technologie zu etablieren, die das Leben der Menschen verbessert.

— Kanishka Narayan, Minister für KI und Online-Sicherheit

Stimme ist der natürlichste Zugang zum vollen Potenzial von KI – aber Menschen werden diesen Wandel nur annehmen, wenn sie der Technologie vertrauen. Wir haben in jede Komponente der ElevenLabs-Plattform Schutzmechanismen integriert. Diese neue Forschungspartnerschaft mit der britischen Regierung ist ein weiterer wichtiger Schritt, um einen verantwortungsvollen Einsatz von KI sicherzustellen.

— Mati Staniszewski, CEO von ElevenLabs

Um einen verantwortungsvollen Einsatz unserer Technologie zu gewährleisten, setzen wir umfassende Schutzmaßnahmen ein. Dazu gehören das Blockieren des Klonens politischer und prominenter Stimmen, eine Verifizierungspflicht für das Klonen von Stimmen sowie ein KI-Audio-Klassifizierer, der erkennt, ob ein Audioclip von ElevenLabs generiert wurde.

Diese Partnerschaft folgt auf die Einführung von ElevenLabs für Behörden in der vergangenen Woche, das öffentlichen Einrichtungen ermöglicht, mehrsprachige Services rund um die Uhr bereitzustellen. Frühe Anwender wie die Regierung der Ukraine nutzen diese Technologie bereits, um Bürgerinnen und Bürgern Zugang zu wichtigen Dienstleistungen zu ermöglichen, während andere Behörden mit KI-Agenten etwa 5.000 Anrufe pro Tag bearbeiten.