Découvrez Eleven v4Découvrez Eleven v4, notre modèle le plus expressif à ce jour. Avec 3× plus de crédits inclus avec Creator+ jusqu’au 12 octobre

Utiliser
Aller au contenu
Se connecterS'inscrire
Nous contacterSe connecter

Focus : ElevenLabs au MIT EmTech Digital

Publié

ÉcouterÉcouter cet article

Contacter l’équipe commerciale
En savoir plus
Last week at the MIT EmTech Digital conference in London, I participated in a panel focused on how business, government, and academia can collaborate to maximize opportunities and manage challenges associated with advanced AI products.

Alongside ElevenLabs, the panel included leaders from the Alan Turing Institute, the Ada Lovelace Institute, and BT, with MIT Technology Review’s Melissa Heikkilä moderating the discussion.

Une approche de la sécurité de l’IA sur trois axes

Chez ElevenLabs, nous développons une technologie d’audio IA consciente de son impact. Dans mon rôle de responsable de la sécurité de l’IA, je veille à donner les moyens aux créateurs, aux entreprises et aux utilisateurs, tout en prévenant les usages abusifs et en dissuadant les acteurs malveillants. Lors de cette table ronde, j’ai présenté les mesures prises pour faire d’ElevenLabs un espace plus sûr et plus innovant, et plaidé pour l’adoption de stratégies qui donnent la priorité aux enjeux de sécurité de l’IA. Elles comprennent :

Provenance: involves distinguishing AI-generated content from real content by understanding its origins. Upstream AI detection tools, such as classifiers, are probabilistic models trained to recognize AI-generated outputs. At ElevenLabs, we’ve developed the AI Speech Classifier that lets anyone upload samples to check if they originate from our platform. We’re also collaborating with Loccus to enhance AI content classification capabilities. Classifiers, however, are not a panacea solution for provenance; they have their limitations. To address them, downstream AI detection methods have emerged, including metadata, watermarks, and fingerprinting solutions. We endorse industry-wide efforts such as cryptographically signed metadata standard C2PA, which present the benefit of being open and interoperable and could enable labeling of AI-generated content across main distribution channels like Instagram or Facebook.

Traçabilité : elle permet de relier un contenu généré par l’IA à un utilisateur donné. Chez ElevenLabs, nos systèmes nous permettent d’associer les contenus générés sur notre plateforme au compte d’origine, et nos outils de Clonage de Voix sont réservés aux utilisateurs ayant vérifié leur compte à l’aide d’informations bancaires. Mettre l’accent sur la traçabilité garantit que toute personne utilisant des plateformes d’IA peut être tenue responsable de ses actes et, si nécessaire, identifiée par les autorités compétentes.

Moderation: which involves defining clear policies on acceptable content and use, and preventing users from generating content that does not comply with such policies. At ElevenLabs, we use automated systems to scan, flag, and block inappropriate content. Human moderators review flagged content to ensure consistent policy enforcement. We are continually advancing our moderation technology to prevent the generation of content that could harm public trust or safety. Open source moderation endpoints, such as the one provided by OpenAI, enable easy integration of prompt moderation into any AI applications.

Working together towards a common goal

While we prioritize safe AI development, no company can tackle AI misuse alone. At the panel, we recognized the need for widespread collaboration among tech companies, governments, civil rights groups, and the public to confront social and environmental changes and ensure a secure digital future. At ElevenLabs, we’re dedicated to maintaining open dialogue in our community and supporting initiatives like the Content Authenticity Initiative and the Elections Safety Accord to combat misinformation.

Préparer la sécurité de l’IA pour l’avenir

Lors de cette table ronde, nous avons tous convenu que les produits IA doivent être développés et utilisés en toute sécurité. Nous devons aussi permettre leurs usages créatifs et inattendus. Chez ElevenLabs, nous voyons souvent notre plateforme améliorer l’accessibilité des contenus numériques pour les personnes ayant besoin de transcriptions audio, et redonner une voix à celles qui l’ont perdue en raison de la SLA ou d’autres problèmes de santé. Pour permettre aux applications d’IA de prospérer, il est essentiel de sensibiliser aux médias générés par l’IA, d’encourager une approche critique des contenus numériques, de promouvoir des outils de vérification de l’authenticité et de former le public comme les institutions à un usage éthique de l’IA.

Articles similaires

Créez avec l'audio IA de la plus haute qualité

Nous contacterS'inscrire