Présentation d’ElevenLabs AI Speech Classifier

Utilisée à sa capacité maximale, l’IA générative stimule la productivité, la créativité et le bien-être humains. Chez ElevenLabs, nous croyons au potentiel transformateur de cette technologie. Toutefois, pour en tirer pleinement parti, il faut en garantir une utilisation sûre et responsable. Nous lançons aujourd’hui AI Speech Classifier, un classificateur qui contribue à emppêcher la propagation de la désinformation, tout en facilitant l’évaluation de la source du contenu audio. Testez-le vous-même :

Transparence sur le contenu généré par l'IA

Avec notre classificateur, tout utilisateur peut télécharger un échantillon et l'analyser pour déterminer s'il contient ou non un l'audio AI de chez ElevenLabs. Il s’agit du premier mécanisme propriétaire de ce type dans le domaine audio. C’est une étape cruciale de notre mission visant à développer un suivi efficace des médias générés par l’IA. Avec son lancement d’aujourd’hui, nous cherchons à renforcer plus avant notre engagement en faveur de la transparence ambiante.

Mécanisme et limites connues

L'audio généré par nos modèles présente certaines caractéristiques détectables. Lorsque vous téléchargez un échantillon audio dans l'IA Speech Classifier, notre algorithme l'analyse pour évaluer si le contenu a bien été généré par notre plateforme. Une précision de plus de 99 % est alors maintenue si l'entrée n'a pas été modifiée. Si cette dernière a subi des transformations au niveau du codec ou de la réverbération, le classificateur est précis à plus de 90 %. Plus le contenu a été post-traité, plus ce pourcentage diminue. L'ajout de pistes audio supplémentaires affectera également le résultat.

Nous analysons et améliorons continuellement notre modèle pour pouvoir détecter davantage de transformations audio, et nous prévoyons une amélioration de ces résultats.

Appel à contributions

Pour encourager les initiatives de détection de l’IA, nous lançons aujourd’hui publiquement notre classificateur. Pour améliorer la transparence en matière de contenu généré par l’IA, nous commençons par le nôtre. Une pléthore de contenus IA provenant d’autres modèles commerciaux et open source passe sous le radar. Nous encourageons les autres acteurs à se joindre à nos efforts et nous encourageons la signalisation les cas suspects à mesure que nous continuons d'améliorer la précision et les capacités de détection de notre classificateur pour couvrir davantage de transformations audio, ainsi que le contenu généré sur d'autres plates-formes, y compris les modèles commerciaux et open source. Nous nous réjouissons de collaborer avec des partenaires intéressés par une intégration plus approfondie des API et une amélioration de la valeur de cet outil.

Contactez-nous si vous êtes intéressé par un partenariat ou une intégration.

Un engagement pour la transparence

Chez EleventLabs, nous avons pour objectif de produire des outils sûrs capables de créer un contenu remarquable. Nous pensons que notre statut d’entreprise nous donne la capacité de créer et d’appliquer des mesures de protection qui font souvent défaut aux modèles open source. Avec le lancement d'AI Speech Classifier, nous souhaitons également permettre aux entreprises et aux institutions de tirer parti de nos recherches et de notre technologie pour renforcer leurs mesures de protection respectives.

Consultez notre page relative à la sécurité pour en savoir plus sur les mesures de protection de l'IA chez ElevenLabs.