ElevenLabs arbeitet mit der britischen Regierung an der Sicherheitsforschung für Voice AI
- Veröffentlicht
AnhörenArtikel anhören
ElevenLabs hat mit der britischen Regierung eine neue dreijährige Partnerschaft vereinbart, um die gesellschaftlichen und sicherheitsrelevanten Auswirkungen von KI-Sprachtechnologie zu untersuchen. Gemeinsam erforschen wir, wie zuverlässig Menschen erkennen, ob sie mit einem KI-Agenten sprechen, und ob dieses Wissen ihr Verhalten verändert.
Dialogorientierte KI-Agenten werden immense Vorteile bieten – von personalisiertem Unterricht bis hin zu Kundenservice rund um die Uhr – doch wir müssen sicherstellen, dass die Technologie nicht zur Täuschung oder Ausbeutung eingesetzt wird. Um Missbrauch zu verhindern, integrieren wir umfassende Schutzmechanismen direkt in unsere Produkte und arbeiten eng mit Regierungen zusammen, um KI-Sicherheitsstandards festzulegen.
Im Rahmen dieser neuen Absichtserklärung geben wir der britischen Regierung Zugang zu unseren fortschrittlichen Stimmenmodellen für groß angelegte, kontrollierte Forschung. Untersucht wird, wie gut Menschen in natürlichen Dialogen zwischen einem Menschen und einem KI-Agenten unterscheiden können. Die Forschenden analysieren außerdem, wie sich das Verhalten und die Bereitschaft zur Preisgabe von Informationen verändern – je nachdem, ob Menschen glauben, mit einem Menschen oder einem Agenten zu sprechen.
Diese Arbeit ist ein Vertrauensbeweis für die KI-Führungsrolle des Vereinigten Königreichs: Ein führendes KI-Unternehmen entscheidet sich für den Standort Großbritannien und für eine Partnerschaft mit unserem weltweit führenden AI Security Institute bei ernsthafter, fundierter und innovativer Forschung. Mit Arbeit und Partnerschaften wie dieser machen wir KI zu einer Technologie, der Menschen vertrauen können und die ihr Leben verbessert.
Die Stimme ist der natürlichste Weg, das volle Potenzial von KI zu nutzen. Doch Menschen werden diesen Wandel nur annehmen, wenn sie der Technologie vertrauen. Wir haben Schutzmechanismen in jeden Teil der ElevenLabs-Plattform integriert. Diese neue Forschungspartnerschaft mit der britischen Regierung ist ein weiterer wichtiger Schritt, um KI verantwortungsvoll einzusetzen.
Damit unsere Technologie verantwortungsvoll eingesetzt wird, nutzen wir umfassende Schutzmechanismen. Dazu gehören das Blockieren des Klonens von Stimmen aus Politik und Öffentlichkeit, die verpflichtende Verifizierung für KI-Stimme klonen sowie ein KI-Audio-Classifier, mit dem sich feststellen lässt, ob ein Audioclip von ElevenLabs erstellt wurde.
Diese Partnerschaft folgt auf die Einführung von ElevenLabs für Behörden in der vergangenen Woche. Das Angebot unterstützt Organisationen des öffentlichen Sektors dabei, mehrsprachige Dienste rund um die Uhr bereitzustellen. Frühe Nutzer wie die ukrainische Regierung nutzen diese Technologie bereits, um Bürgerinnen und Bürgern den Zugang zu grundlegenden Dienstleistungen zu erleichtern. Andere Behörden nutzen KI-Agenten zur Bearbeitung von rund 5.000 Anrufen pro Tag.
.png&w=3840&q=80)
