Vi presenterar Eleven v4Möt Eleven v4, vår mest uttrycksfulla modell hittills. Med 3× fler krediter inkluderade i Creator+ till och med den 12 oktober

Lös in
Hoppa till innehållet
Logga inRegistrera dig
Kontakta ossLogga in

I fokus: ElevenLabs på MIT EmTech Digital

Publicerad

LyssnaLyssna på den här artikeln

Kontakta säljteamet
Läs mer
Last week at the MIT EmTech Digital conference in London, I participated in a panel focused on how business, government, and academia can collaborate to maximize opportunities and manage challenges associated with advanced AI products.

Alongside ElevenLabs, the panel included leaders from the Alan Turing Institute, the Ada Lovelace Institute, and BT, with MIT Technology Review’s Melissa Heikkilä moderating the discussion.

Ett tredelat arbetssätt för AI-säkerhet

På ElevenLabs utvecklar vi AI-ljudteknik med hänsyn till dess påverkan. I min roll med ansvar för AI-säkerhet fokuserar jag på att stärka kreatörer, företag och användare, samtidigt som vi förebygger missbruk och avskräcker illvilliga aktörer. Under panelen beskrev jag de åtgärder vi har vidtagit för att göra ElevenLabs till en säkrare och mer innovativ plats, och förespråkade strategier som prioriterar AI-säkerhetsutmaningar. Strategierna omfattar:

Provenance: involves distinguishing AI-generated content from real content by understanding its origins. Upstream AI detection tools, such as classifiers, are probabilistic models trained to recognize AI-generated outputs. At ElevenLabs, we’ve developed the AI Speech Classifier that lets anyone upload samples to check if they originate from our platform. We’re also collaborating with Loccus to enhance AI content classification capabilities. Classifiers, however, are not a panacea solution for provenance; they have their limitations. To address them, downstream AI detection methods have emerged, including metadata, watermarks, and fingerprinting solutions. We endorse industry-wide efforts such as cryptographically signed metadata standard C2PA, which present the benefit of being open and interoperable and could enable labeling of AI-generated content across main distribution channels like Instagram or Facebook.

Spårbarhet: gör det möjligt att spåra AI-genererat innehåll tillbaka till en enskild användare. På ElevenLabs kan våra system koppla innehåll som har genererats på vår plattform till det konto som skapade det, och våra verktyg för Voice Cloning är endast tillgängliga för användare som har verifierat sina konton med bankuppgifter. Fokus på spårbarhet innebär att alla som använder AI-plattformar kan hållas ansvariga för sina handlingar och identifieras av rättsliga myndigheter vid behov.

Moderation: which involves defining clear policies on acceptable content and use, and preventing users from generating content that does not comply with such policies. At ElevenLabs, we use automated systems to scan, flag, and block inappropriate content. Human moderators review flagged content to ensure consistent policy enforcement. We are continually advancing our moderation technology to prevent the generation of content that could harm public trust or safety. Open source moderation endpoints, such as the one provided by OpenAI, enable easy integration of prompt moderation into any AI applications.

Working together towards a common goal

While we prioritize safe AI development, no company can tackle AI misuse alone. At the panel, we recognized the need for widespread collaboration among tech companies, governments, civil rights groups, and the public to confront social and environmental changes and ensure a secure digital future. At ElevenLabs, we’re dedicated to maintaining open dialogue in our community and supporting initiatives like the Content Authenticity Initiative and the Elections Safety Accord to combat misinformation.

Framtidssäkra AI-säkerheten

I panelen var vi alla överens om att AI-produkter måste utvecklas och användas på ett säkert sätt. Samtidigt måste vi också ge utrymme för kreativa och oväntade användningsområden. På ElevenLabs ser vi ofta att vår plattform används för att göra digitalt innehåll mer tillgängligt för personer som behöver ljudtranskriberingar och för att ge rösten tillbaka till personer som har förlorat den på grund av ALS eller andra hälsotillstånd. För att AI-applikationer ska kunna utvecklas är det viktigt att öka kunskapen om AI-medier, uppmuntra ett kritiskt förhållningssätt till digitalt innehåll, främja verktyg för att verifiera äkthet och utbilda både allmänheten och institutioner om etisk användning av AI.

Liknande artiklar

Skapa med AI-ljud av högsta kvalitet

Prata med försäljningRegistrera dig