Point sur nos préparatifs pour les élections

Chez ElevenLabs, nous nous engageons à rendre les contenus accessibles et attrayants, quelles que soient la langue, la voix ou la sonorité. Nous croyons profondément au potentiel de notre technologie pour créer un monde plus connecté et mieux informé, et ainsi contribuer positivement au processus démocratique. Nous avons permis à des élus de retrouver leur voix, afin qu’ils puissent continuer à défendre leurs administrés et les causes qui leur tiennent à cœur. Nous avons fait de même pour des militants, en soutenant leurs actions pour faire évoluer les choses et améliorer des vies. Et notre travail pour lever les obstacles à la connaissance, à la participation et à la vie collective ne fait que commencer. 

Nous pensons également qu’il incombe à chacun — acteurs de l’industrie, pouvoirs publics, société civile et citoyens — non seulement de promouvoir le processus démocratique, mais aussi de le protéger. Tout au long de 2024, année électorale décisive dans de nombreux pays, nous avons pris des mesures concrètes pour prévenir l’utilisation abusive de nos outils. À l’approche de l’élection américaine du 5 novembre, voici un point sur nos efforts.

Politiques

Nous avons révisé notre Politique d’utilisation interdite afin de renforcer et de clarifier nos règles concernant l’utilisation de nos outils dans le contexte des élections.

• Interdiction des campagnes électorales et de l’usurpation de l’identité de candidats. Nous interdisons strictement l’utilisation de nos outils à des fins de campagne politique, notamment pour promouvoir ou défendre un candidat, un enjeu ou une position en particulier, ou pour solliciter des votes ou des contributions financières. Nous interdisons également l’utilisation de nos outils pour imiter la voix de candidats politiques et de responsables publics élus.

• Interdiction de la suppression des votes et des perturbations du processus électoral. Nous interdisons l’utilisation de nos outils pour inciter à la suppression des votes, s’y livrer ou la faciliter, ainsi que toute autre perturbation des processus électoraux ou civiques. Cela inclut la création, la diffusion ou la facilitation de la propagation d’informations trompeuses.

Prévention

Nous avons renforcé nos garde-fous afin de prévenir l’utilisation abusive de nos outils dans le contexte des élections. 

• Vérification des utilisateurs. Tous les utilisateurs de nos outils de Clonage de Voix doivent fournir leurs coordonnées et informations de paiement, ce qui nous aide à bloquer, dès l’inscription, les comptes liés à des activités frauduleuses ou à des zones géographiques à haut risque.

• Voix « No-Go ». Notre technologie No-Go Voice empêche la génération des voix de centaines de candidats, d’élus, d’autres personnalités politiques et de célébrités. Nous élargissons continuellement cette protection afin d’en accroître l’efficacité, et nous surveillons les utilisateurs qui tentent de générer des voix bloquées et prenons des mesures à leur encontre.

Détection et application

Pour compléter nos mesures préventives, nous avons renforcé nos capacités de détection et d’application de nos règles.

• Surveillance des utilisations abusives. Nos classificateurs propriétaires améliorés, dont l’un est spécialement conçu pour identifier les contenus politiques, ainsi que la modération automatisée et nos équipes de vérification, nous aident à détecter les contenus qui enfreignent nos conditions. Nous collaborons également avec des équipes externes de renseignement sur les menaces, qui nous éclairent sur les utilisations abusives potentielles visant à perturber les élections, et avons mis en place des canaux de partage d’informations avec des partenaires gouvernementaux et du secteur.

• Application stricte. Lorsque nous identifions une utilisation abusive, nous agissons avec détermination : suppression de voix, mise à l’essai d’utilisateurs, exclusion de notre plateforme et, le cas échéant, signalement aux autorités. Si vous rencontrez un contenu problématique qui, selon vous, pourrait provenir d’ElevenLabs, veuillez nous le signaler.

• Soutien aux initiatives gouvernementales. Nous considérons que l’action des pouvoirs publics est essentielle pour dissuader les utilisations abusives. En juillet, nous avons eu le plaisir d’annoncer notre soutien au Protect Elections from Deceptive AI Act, un texte bipartisan porté par les sénateurs Amy Klobuchar, Josh Hawley, Chris Coons, Susan Collins, Maria Cantwell, Todd Young, John Hickenlooper et Marsha Blackburn, qui vise à responsabiliser les acteurs malveillants utilisant l’IA dans des publicités de campagne pour tromper les électeurs. Nous continuerons à travailler avec les décideurs politiques aux États-Unis et dans le monde entier sur des initiatives de sécurité de l’IA, y compris celles liées aux élections.

Provenance et transparence

Permettre l’identification claire des contenus générés par l’IA, notamment grâce à une large collaboration, reste un aspect clé des efforts d’ElevenLabs en matière de développement responsable.

• AI Speech Classifier. Notre AI Speech Classifier, accessible au public depuis juin 2023, permet à chacun d’importer un extrait audio afin d’analyser s’il provient d’ElevenLabs. En rendant cet outil accessible au public, nous visons à limiter la propagation de la désinformation en facilitant l’identification de la source des contenus audio.

• Collaboration avec le secteur. En matière de provenance et de transparence des contenus générés par l’IA, nous ne pouvons pas agir seuls : un effort à l’échelle du secteur est indispensable. C’est pourquoi nous faisons partie de la Content Authenticity Initiative (CAI), qui réunit de grandes entreprises des médias et de la technologie afin d’élaborer des normes de provenance. Par l’intermédiaire de la Coalition for Content Provenance and Authenticity (C2PA), nous mettons ces normes en œuvre en intégrant des métadonnées signées cryptographiquement aux contenus audio générés sur notre plateforme. Les canaux de distribution de contenus qui adoptent les outils de la CAI, comme les principales plateformes de réseaux sociaux, peuvent ainsi reconnaître nos contenus audio comme générés par l’IA.

• Soutien aux outils de détection tiers. Nous collaborons avec des entreprises tierces spécialisées dans la sécurité de l’IA afin d’améliorer leurs outils d’identification des contenus générés par l’IA, notamment les deepfakes liés aux élections. En juillet, nous avons noué un partenariat avec Reality Defender — une entreprise de cybersécurité spécialisée dans la détection des deepfakes — en lui donnant accès à nos modèles et à nos données afin de renforcer ses outils de détection. Notre partenariat aide les clients de Reality Defender, notamment les pouvoirs publics et les grandes entreprises, à détecter en temps réel les menaces générées par l’IA, protégeant ainsi les populations du monde entier contre la désinformation et les fraudes sophistiquées. Nous participons également à d’autres projets universitaires et commerciaux, dont des initiatives de recherche à la School of Information de l’UC Berkeley, afin de faire progresser la détection des contenus générés par l’IA.

Dans les jours et les semaines à venir, nous continuerons d’apprendre et d’affiner ces garde-fous. Nous reconnaissons ne pas pouvoir anticiper toutes les utilisations possibles de nos outils. Mais nous continuerons à prendre des mesures fermes pour prévenir les abus, tout en déployant notre technologie afin de créer un monde plus connecté et mieux informé.