Direkt zum Inhalt
AnmeldenRegistrieren
KontaktAnmelden

Im Fokus: ElevenLabs bei MIT EmTech Digital

Veröffentlicht

AnhörenArtikel anhören

Vertrieb kontaktieren
Mehr erfahren
Letzte Woche habe ich auf der MIT EmTech Digital Konferenz in London an einer Podiumsdiskussion teilgenommen. Thema war, wie Unternehmen, Behörden und Wissenschaft gemeinsam Chancen nutzen und Herausforderungen im Umgang mit fortschrittlichen KI-Produkten bewältigen können.

Mit ElevenLabs waren außerdem Vertreter des Alan Turing Institute, des Ada Lovelace Institute und von BT auf dem Panel. Die Diskussion wurde von Melissa Heikkilä vom MIT Technology Review moderiert.

Dreistufiger Ansatz für KI-Sicherheit

Bei ElevenLabs entwickeln wir Audio-KI-Technologie mit Blick auf ihre Auswirkungen. In meiner Rolle als Verantwortliche für KI-Sicherheit konzentriere ich mich darauf, Kreative, Unternehmen und Nutzer zu stärken, Missbrauch zu verhindern und böswillige Akteure abzuschrecken. Im Panel habe ich die Maßnahmen vorgestellt, mit denen wir ElevenLabs sicherer und innovativer machen, und für Strategien geworben, die die Lösung von KI-Sicherheitsfragen in den Mittelpunkt stellen. Dazu gehören:

Herkunftsnachweis: bedeutet, KI-generierte Inhalte von echten Inhalten zu unterscheiden, indem man deren Ursprung nachvollzieht. Upstream-KI-Erkennungstools wie Klassifizierer sind probabilistische Modelle, die darauf trainiert sind, KI-generierte Inhalte zu erkennen. Bei ElevenLabs haben wir den AI Speech Classifier entwickelt, mit dem jeder prüfen kann, ob eine Audiodatei von unserer Plattform stammt. Zudem arbeiten wir mit Loccus zusammen, um die Klassifizierung von KI-Inhalten weiter zu verbessern. Klassifizierer sind jedoch keine vollständige Lösung für den Herkunftsnachweis; sie haben ihre Grenzen. Deshalb gibt es auch Downstream-Methoden wie Metadaten, Wasserzeichen und Fingerprinting. Wir unterstützen branchenweite Initiativen wie den kryptografisch signierten Metadaten-Standard C2PA, der offen und interoperabel ist und die Kennzeichnung von KI-Inhalten auf wichtigen Plattformen wie Instagram oder Facebook ermöglichen kann.

Nachverfolgbarkeit:stellt sicher, dass KI-generierte Inhalte einem bestimmten Nutzer zugeordnet werden können. Unsere Systeme bei ElevenLabs ermöglichen es, Inhalte auf das jeweilige Nutzerkonto zurückzuführen. Unsere Tools zum Klonen von Stimmen sind nur für Nutzer zugänglich, die ihr Konto mit Bankdaten verifiziert haben. Der Fokus auf Nachverfolgbarkeit sorgt dafür, dass Nutzer für ihre Handlungen auf KI-Plattformen verantwortlich gemacht und bei Bedarf von Behörden identifiziert werden können.

Moderation: bedeutet, klare Richtlinien für zulässige Inhalte und deren Nutzung festzulegen und zu verhindern, dass Nutzer Inhalte erzeugen, die diesen Richtlinien widersprechen. Bei ElevenLabs setzen wir automatisierte Systeme ein, um unangemessene Inhalte zu erkennen, zu markieren und zu blockieren. Menschliche Moderatoren prüfen gemeldete Inhalte, um eine einheitliche Umsetzung der Richtlinien sicherzustellen. Wir entwickeln unsere Moderationstechnologie kontinuierlich weiter, um die Entstehung von Inhalten zu verhindern, die das öffentliche Vertrauen oder die Sicherheit gefährden könnten. Open-Source-Moderationsschnittstellen wie die von OpenAI ermöglichen eine einfache Integration von Moderation in jede KI-Anwendung.

Gemeinsam für ein Ziel

Auch wenn wir sichere KI-Entwicklung priorisieren, kann kein Unternehmen Missbrauch allein verhindern. Auf dem Panel wurde deutlich, dass es eine breite Zusammenarbeit zwischen Technologieunternehmen, Regierungen, zivilgesellschaftlichen Gruppen und der Öffentlichkeit braucht, um gesellschaftliche und ökologische Veränderungen zu bewältigen und eine sichere digitale Zukunft zu gewährleisten. Bei ElevenLabs setzen wir auf offenen Dialog in unserer Community und unterstützen Initiativen wie die Content Authenticity Initiative und das Elections Safety Accord, um Desinformation entgegenzuwirken.

KI-Sicherheit zukunftsfähig machen

Im Panel waren wir uns einig: KI-Produkte müssen sicher entwickelt und eingesetzt werden. Gleichzeitig sollten kreative und unerwartete Anwendungen möglich bleiben. Wir sehen bei ElevenLabs oft, dass unsere Plattform genutzt wird, um digitale Inhalte für Menschen mit Bedarf an Audiotranskriptionen zugänglicher zu machen oder Betroffenen von ALS und anderen Erkrankungen ihre Stimme zurückzugeben. Damit KI-Anwendungen erfolgreich sind, ist es wichtig, das Bewusstsein für KI-Medien zu stärken, den kritischen Umgang mit digitalen Inhalten zu fördern, Tools zur Überprüfung der Echtheit bereitzustellen und sowohl die Öffentlichkeit als auch Institutionen über den ethischen Einsatz von KI aufzuklären.

Ähnliche Artikel

Erstellen Sie mit hochwertiger KI-Audio

Vertrieb kontaktierenRegistrieren