Passer au contenu
Se connecterInscrivez-vous
Contactez-nousSe connecter

À la une : ElevenLabs au MIT EmTech Digital

Publié

ÉcouterÉcouter cet article

Contacter l’équipe commerciale
En savoir plus
La semaine dernière, lors de la conférence MIT EmTech Digital à Londres, j’ai participé à une table ronde sur la collaboration entre entreprises, gouvernements et universités pour maximiser les opportunités et relever les défis liés aux produits IA avancés.

Aux côtés d’ElevenLabs, la table ronde réunissait des responsables de l’Alan Turing Institute, de l’Ada Lovelace Institute et de BT, avec Melissa Heikkilä du MIT Technology Review comme modératrice.

Une approche en trois volets pour la sécurité de l’IA

Chez ElevenLabs, nous développons des technologies audio IA en tenant compte de leur impact. En tant que responsable de la sécurité IA, je m’attache à donner plus de moyens aux créateurs, entreprises et utilisateurs, tout en empêchant les abus et en dissuadant les comportements malveillants. Pendant la table ronde, j’ai présenté les mesures mises en place pour faire d’ElevenLabs un espace plus sûr et innovant, et j’ai encouragé l’adoption de stratégies qui placent la sécurité de l’IA au premier plan. Ces stratégies incluent :

Provenance : il s’agit de distinguer les contenus générés par l’IA des contenus réels en identifiant leur origine. Les outils de détection en amont, comme les classificateurs, sont des modèles probabilistes entraînés à reconnaître les contenus produits par l’IA. Chez ElevenLabs, nous avons développé le Classificateur de Parole IA, qui permet à chacun de vérifier si un échantillon provient de notre plateforme. Nous collaborons aussi avec Loccus pour améliorer la classification des contenus IA. Les classificateurs ne sont cependant pas une solution miracle pour la provenance ; ils ont leurs limites. Pour y remédier, des méthodes de détection en aval ont vu le jour, comme les métadonnées, les filigranes et l’empreinte numérique. Nous soutenons les efforts du secteur, comme la norme de métadonnées signées cryptographiquement C2PA, qui présente l’avantage d’être ouverte et interopérable, et pourrait permettre d’indiquer les contenus générés par l’IA sur les principaux canaux de diffusion comme Instagram ou Facebook.

Traçabilité : garantit que les contenus générés par l’IA peuvent être reliés à un utilisateur précis. Chez ElevenLabs, nos systèmes nous permettent d’associer chaque contenu généré sur notre plateforme au compte d’origine, et nos outils de clonage de voix ne sont accessibles qu’aux utilisateurs ayant vérifié leur compte avec des informations bancaires. La traçabilité permet de responsabiliser les utilisateurs des plateformes IA et de les identifier par les autorités si besoin.

Modération : cela consiste à définir des règles claires sur les contenus et usages acceptés, et à empêcher la génération de contenus non conformes à ces règles. Chez ElevenLabs, nous utilisons des systèmes automatisés pour détecter, signaler et bloquer les contenus inappropriés. Des modérateurs examinent ensuite les contenus signalés pour garantir une application cohérente des règles. Nous faisons évoluer en permanence notre technologie de modération pour éviter la création de contenus pouvant nuire à la confiance ou à la sécurité du public. Des points d’accès open source à la modération, comme celui proposé par OpenAI, facilitent l’intégration de la modération dans toute application IA.

Agir ensemble pour un objectif commun

Nous faisons de la sécurité de l’IA une priorité, mais aucune entreprise ne peut lutter seule contre les abus. Lors de la table ronde, nous avons souligné l’importance d’une collaboration large entre entreprises technologiques, gouvernements, associations et citoyens pour faire face aux évolutions sociales et environnementales et garantir un avenir numérique sûr. Chez ElevenLabs, nous encourageons le dialogue ouvert au sein de notre communauté et soutenons des initiatives comme la Content Authenticity Initiative et l’Accord sur la sécurité des élections pour lutter contre la désinformation.

Anticiper la sécurité de l’IA

Lors de la table ronde, nous étions tous d’accord : les produits IA doivent être développés et utilisés de façon responsable, tout en laissant place à la créativité et aux usages inattendus. Chez ElevenLabs, nous voyons souvent notre plateforme utilisée pour améliorer l’accessibilité des contenus numériques grâce à la transcription audio, ou pour redonner une voix à ceux qui l’ont perdue à cause de la SLA ou d’autres maladies. Pour permettre à l’IA de s’épanouir, il est essentiel de sensibiliser aux médias IA, d’encourager l’esprit critique face aux contenus numériques, de promouvoir les outils de vérification de l’authenticité et de former le public et les institutions à un usage éthique de l’IA.

Articles similaires

Créez avec l'audio IA de la plus haute qualité

Contactez les ventesInscrivez-vous