Introducing Eleven v4Introducing Eleven v4, our fastest and most emotive voice model

Riscatta
Vai al contenuto
AccediRegistrati
ContattaciAccedi

In primo piano: ElevenLabs al MIT EmTech Digital

Pubblicato

AscoltaAscolta questo articolo

Contatta il team vendite
Scopri di più
Last week at the MIT EmTech Digital conference in London, I participated in a panel focused on how business, government, and academia can collaborate to maximize opportunities and manage challenges associated with advanced AI products.

Alongside ElevenLabs, the panel included leaders from the Alan Turing Institute, the Ada Lovelace Institute, and BT, with MIT Technology Review’s Melissa Heikkilä moderating the discussion.

Un approccio alla sicurezza dell'IA su tre fronti

In ElevenLabs sviluppiamo tecnologie audio IA consapevoli del loro impatto. Nel mio ruolo di responsabile della sicurezza dell'IA, mi concentro sul supportare creator, aziende e utenti, prevenendo al tempo stesso gli abusi e scoraggiando i malintenzionati. Durante il panel, ho illustrato le misure che abbiamo adottato per rendere ElevenLabs uno spazio più sicuro e innovativo e ho sostenuto l'adozione di strategie che diano priorità alle sfide legate alla sicurezza dell'IA. Queste strategie includono:

Provenance: involves distinguishing AI-generated content from real content by understanding its origins. Upstream AI detection tools, such as classifiers, are probabilistic models trained to recognize AI-generated outputs. At ElevenLabs, we’ve developed the AI Speech Classifier that lets anyone upload samples to check if they originate from our platform. We’re also collaborating with Loccus to enhance AI content classification capabilities. Classifiers, however, are not a panacea solution for provenance; they have their limitations. To address them, downstream AI detection methods have emerged, including metadata, watermarks, and fingerprinting solutions. We endorse industry-wide efforts such as cryptographically signed metadata standard C2PA, which present the benefit of being open and interoperable and could enable labeling of AI-generated content across main distribution channels like Instagram or Facebook.

Tracciabilità: garantisce che i contenuti generati dall'IA possano essere ricondotti a un singolo utente. In ElevenLabs, i nostri sistemi ci consentono di collegare i contenuti generati sulla nostra piattaforma all'account di origine e i nostri strumenti di clonazione vocale sono accessibili esclusivamente agli utenti che hanno verificato i propri account con informazioni bancarie. L'attenzione alla tracciabilità garantisce che chiunque utilizzi piattaforme IA possa essere ritenuto responsabile delle proprie azioni e identificato dalle autorità legali quando necessario.

Moderation: which involves defining clear policies on acceptable content and use, and preventing users from generating content that does not comply with such policies. At ElevenLabs, we use automated systems to scan, flag, and block inappropriate content. Human moderators review flagged content to ensure consistent policy enforcement. We are continually advancing our moderation technology to prevent the generation of content that could harm public trust or safety. Open source moderation endpoints, such as the one provided by OpenAI, enable easy integration of prompt moderation into any AI applications.

Working together towards a common goal

While we prioritize safe AI development, no company can tackle AI misuse alone. At the panel, we recognized the need for widespread collaboration among tech companies, governments, civil rights groups, and the public to confront social and environmental changes and ensure a secure digital future. At ElevenLabs, we’re dedicated to maintaining open dialogue in our community and supporting initiatives like the Content Authenticity Initiative and the Elections Safety Accord to combat misinformation.

Una sicurezza dell'IA a prova di futuro

Durante il panel, abbiamo tutti concordato che i prodotti IA debbano essere sviluppati e utilizzati in modo sicuro. Allo stesso tempo, dobbiamo consentirne anche usi creativi e inaspettati. In ElevenLabs, vediamo spesso la nostra piattaforma utilizzata per migliorare l'accessibilità dei contenuti digitali per le persone che necessitano di trascrizioni audio e per restituire la voce a chi l'ha persa a causa della SLA o di altre condizioni di salute. Per far prosperare le applicazioni IA, è essenziale aumentare la consapevolezza sui contenuti multimediali generati dall'IA, incoraggiare un'interazione critica con i contenuti digitali, promuovere strumenti per verificarne l'autenticità e formare sia il pubblico sia le istituzioni a un uso etico dell'IA.

Articoli simili

Crea con l'audio IA della massima qualità

Parla con il team commercialeRegistrati