Maak kennis met Eleven v4Maak kennis met Eleven v4, ons meest expressieve model tot nu toe.

Ontdek
Naar content
InloggenRegistreren
Neem contact op met salesInloggen

Uitgelicht: ElevenLabs op MIT EmTech Digital

Gepubliceerd

LuisterenLuister naar dit artikel

Neem contact op met sales
Meer informatie
Last week at the MIT EmTech Digital conference in London, I participated in a panel focused on how business, government, and academia can collaborate to maximize opportunities and manage challenges associated with advanced AI products.

Alongside ElevenLabs, the panel included leaders from the Alan Turing Institute, the Ada Lovelace Institute, and BT, with MIT Technology Review’s Melissa Heikkilä moderating the discussion.

Drievoudige aanpak voor AI-veiligheid

Bij ElevenLabs ontwikkelen we AI-audiotechnologie met oog voor de impact ervan. In mijn rol, waarin ik toezicht houd op AI Safety, richt ik me op het ondersteunen van creators, bedrijven en gebruikers, terwijl we misbruik voorkomen en kwaadwillenden afschrikken. Tijdens het panel lichtte ik de stappen toe die we hebben gezet om ElevenLabs veiliger en innovatiever te maken. Ook pleitte ik voor strategieën die prioriteit geven aan het aanpakken van uitdagingen rond AI-veiligheid. Deze strategieën omvatten:

Provenance: involves distinguishing AI-generated content from real content by understanding its origins. Upstream AI detection tools, such as classifiers, are probabilistic models trained to recognize AI-generated outputs. At ElevenLabs, we’ve developed the AI Speech Classifier that lets anyone upload samples to check if they originate from our platform. We’re also collaborating with Loccus to enhance AI content classification capabilities. Classifiers, however, are not a panacea solution for provenance; they have their limitations. To address them, downstream AI detection methods have emerged, including metadata, watermarks, and fingerprinting solutions. We endorse industry-wide efforts such as cryptographically signed metadata standard C2PA, which present the benefit of being open and interoperable and could enable labeling of AI-generated content across main distribution channels like Instagram or Facebook.

Traceerbaarheid: zorgt ervoor dat AI-gegenereerde content kan worden herleid tot een individuele gebruiker. Met onze systemen bij ElevenLabs kunnen we content die op ons platform is gegenereerd koppelen aan het oorspronkelijke account, en onze Voice Cloning-tools zijn alleen toegankelijk voor gebruikers die hun account met bankgegevens hebben geverifieerd. Door te focussen op traceerbaarheid kunnen gebruikers van AI-platforms verantwoordelijk worden gehouden voor hun acties en, wanneer nodig, door juridische autoriteiten worden geïdentificeerd.

Moderation: which involves defining clear policies on acceptable content and use, and preventing users from generating content that does not comply with such policies. At ElevenLabs, we use automated systems to scan, flag, and block inappropriate content. Human moderators review flagged content to ensure consistent policy enforcement. We are continually advancing our moderation technology to prevent the generation of content that could harm public trust or safety. Open source moderation endpoints, such as the one provided by OpenAI, enable easy integration of prompt moderation into any AI applications.

Working together towards a common goal

While we prioritize safe AI development, no company can tackle AI misuse alone. At the panel, we recognized the need for widespread collaboration among tech companies, governments, civil rights groups, and the public to confront social and environmental changes and ensure a secure digital future. At ElevenLabs, we’re dedicated to maintaining open dialogue in our community and supporting initiatives like the Content Authenticity Initiative and the Elections Safety Accord to combat misinformation.

AI-veiligheid toekomstbestendig maken

Tijdens het panel waren we het er allemaal over eens dat AI-producten veilig moeten worden ontwikkeld en gebruikt. Tegelijkertijd moeten we ruimte bieden voor creatieve en onverwachte toepassingen ervan. Bij ElevenLabs zien we ons platform vaak worden gebruikt om digitale content toegankelijker te maken voor mensen die audiotranscripties nodig hebben, en om mensen die hun stem zijn verloren door ALS of andere gezondheidsproblemen weer een stem te geven. Om AI-toepassingen te laten floreren, is het essentieel om het bewustzijn rond AI-media te vergroten, kritisch omgaan met digitale content te stimuleren, tools voor het verifiëren van authenticiteit te bevorderen en zowel het publiek als instellingen voor te lichten over ethisch AI-gebruik.

Vergelijkbare artikelen

Creëer met AI-audio van de hoogste kwaliteit

Neem contact op met salesRegistreren