Wir stellen Eleven v4 vorLernen Sie Eleven v4 kennen, unser bisher ausdrucksstärkstes Modell.

Einlösen
Zum Inhalt springen
AnmeldenRegistrieren
KontaktAnmelden

Im Fokus: ElevenLabs auf der MIT EmTech Digital

Veröffentlicht

AnhörenArtikel anhören

Vertrieb kontaktieren
Mehr erfahren
Last week at the MIT EmTech Digital conference in London, I participated in a panel focused on how business, government, and academia can collaborate to maximize opportunities and manage challenges associated with advanced AI products.

Alongside ElevenLabs, the panel included leaders from the Alan Turing Institute, the Ada Lovelace Institute, and BT, with MIT Technology Review’s Melissa Heikkilä moderating the discussion.

Dreigleisiger Ansatz für KI-Sicherheit

Bei ElevenLabs entwickeln wir Audio-KI-Technologie mit Blick auf ihre Auswirkungen. In meiner Rolle als Verantwortliche für KI-Sicherheit konzentriere ich mich darauf, Kreative, Unternehmen und Nutzende zu stärken, während wir Missbrauch verhindern und böswillige Akteure abschrecken. Im Panel erläuterte ich die Schritte, die wir unternommen haben, um ElevenLabs sicherer und innovativer zu machen, und sprach mich für Strategien aus, die Herausforderungen der KI-Sicherheit priorisieren. Dazu gehören:

Provenance: involves distinguishing AI-generated content from real content by understanding its origins. Upstream AI detection tools, such as classifiers, are probabilistic models trained to recognize AI-generated outputs. At ElevenLabs, we’ve developed the AI Speech Classifier that lets anyone upload samples to check if they originate from our platform. We’re also collaborating with Loccus to enhance AI content classification capabilities. Classifiers, however, are not a panacea solution for provenance; they have their limitations. To address them, downstream AI detection methods have emerged, including metadata, watermarks, and fingerprinting solutions. We endorse industry-wide efforts such as cryptographically signed metadata standard C2PA, which present the benefit of being open and interoperable and could enable labeling of AI-generated content across main distribution channels like Instagram or Facebook.

Rückverfolgbarkeit: Sie stellt sicher, dass KI-generierte Inhalte einem einzelnen Nutzer zugeordnet werden können. Bei ElevenLabs ermöglichen unsere Systeme, auf unserer Plattform generierte Inhalte mit dem ursprünglichen Konto zu verknüpfen. Unsere Tools zum Klonen von Stimmen sind nur für Nutzer zugänglich, die ihre Konten mit Bankdaten verifiziert haben. Der Fokus auf Rückverfolgbarkeit stellt sicher, dass alle Nutzer von KI-Plattformen für ihre Handlungen zur Rechenschaft gezogen und bei Bedarf von Behörden identifiziert werden können.

Moderation: which involves defining clear policies on acceptable content and use, and preventing users from generating content that does not comply with such policies. At ElevenLabs, we use automated systems to scan, flag, and block inappropriate content. Human moderators review flagged content to ensure consistent policy enforcement. We are continually advancing our moderation technology to prevent the generation of content that could harm public trust or safety. Open source moderation endpoints, such as the one provided by OpenAI, enable easy integration of prompt moderation into any AI applications.

Working together towards a common goal

While we prioritize safe AI development, no company can tackle AI misuse alone. At the panel, we recognized the need for widespread collaboration among tech companies, governments, civil rights groups, and the public to confront social and environmental changes and ensure a secure digital future. At ElevenLabs, we’re dedicated to maintaining open dialogue in our community and supporting initiatives like the Content Authenticity Initiative and the Elections Safety Accord to combat misinformation.

KI-Sicherheit zukunftssicher gestalten

Im Panel waren wir uns alle einig, dass KI-Produkte sicher entwickelt und eingesetzt werden müssen. Gleichzeitig müssen wir auch kreative und unerwartete Einsatzmöglichkeiten zulassen. Bei ElevenLabs sehen wir häufig, dass unsere Plattform genutzt wird, um die Zugänglichkeit digitaler Inhalte für Menschen zu verbessern, die Audio-Transkriptionen benötigen, und um Menschen ihre Stimme zurückzugeben, die sie durch ALS oder andere Erkrankungen verloren haben. Damit KI-Anwendungen ihr Potenzial entfalten können, ist es entscheidend, das Bewusstsein für KI-Medien zu stärken, einen kritischen Umgang mit digitalen Inhalten zu fördern, Tools zur Überprüfung der Authentizität voranzubringen und sowohl die Öffentlichkeit als auch Institutionen über den ethischen Einsatz von KI aufzuklären.

Ähnliche Artikel

Erstellen Sie mit hochwertiger KI-Audio

Vertrieb kontaktierenRegistrieren