Renforcer et protéger les élections

Le processus démocratique fonctionne au mieux lorsque chaque électeur éligible peut y participer. Pourtant, trop souvent, les citoyens n’ont pas accès, dans une langue et un format qu’ils comprennent, aux informations sur les modalités d’inscription, les lieux de vote et les programmes des candidats. Pour de nombreux citoyens malvoyants, peu alphabétisés ou non natifs, les e-mails électoraux traditionnels et les tracts imprimés restent tout simplement inaccessibles. 

Face à ces obstacles de communication, l’IA vocale peut être un outil extrêmement puissant pour la démocratie. Elle peut lire des informations à voix haute pour les personnes malvoyantes, répondre aux questions dans la langue ou le dialecte privilégié par chaque citoyen et transformer des documents officiels complexes en conversation orale. Mais, comme toute nouvelle technologie, ces mêmes capacités peuvent être détournées par des acteurs malveillants pour tromper ou désinformer les électeurs. 

2026 est une année électorale majeure, avec des élections nationales, régionales et locales organisées dans toutes les régions du monde, dont d’importants scrutins aux États-Unis et au Brésil. C’est aussi l’une des premières années électorales où une IA vocale expressive et naturelle est largement accessible. Nous expliquons ci-dessous comment nous mettons l’IA vocale au service du processus démocratique, tout en prévenant et en détectant les usages abusifs de cette technologie.

Renforcer le processus démocratique 

L’IA vocale joue déjà un rôle essentiel dans les élections en élargissant l’accès aux informations officielles provenant d’institutions de confiance, et le Brésil montre la voie à l’échelle mondiale.

À l’approche de ses élections d’octobre, le Tribunal supérieur électoral du Brésil (TSE) ajoute une interface vocale à son « Assistant électoral », afin que les citoyens puissent utiliser leur voix pour obtenir des informations depuis le site web, l’application et les canaux WhatsApp du TSE. Propulsée par notre technologie de Text to Speech et de Speech to Text, cette nouvelle interface vocale vise à lutter contre la désinformation électorale et à élargir l’accès à des informations fiables pour tous les citoyens brésiliens. Nous avons officialisé ce partenariat par un protocole d’accord avec le TSE — notre premier avec une autorité électorale nationale — et rejoint le programme permanent du TSE de lutte contre la désinformation électorale.

Nous collaborons également avec des organisations brésiliennes qui utilisent l’IA vocale pour soutenir les efforts de vérification de l’information. Depuis près de dix ans, Comprova — une coalition de 42 organisations médiatiques brésiliennes dirigée par l’Association brésilienne de journalisme d’investigation (Abraji) — œuvre sans relâche pour identifier les contenus manipulés. Nous formerons les partenaires de Comprova à l’utilisation de notre AI Speech Classifier et d’autres outils de détection dans le cadre de leurs processus de vérification. 

Aux États-Unis, nous travaillons avec les décideurs publics, les organismes sectoriels et les principales entreprises technologiques afin de protéger les élections de mi-mandat. Nous collaborons avec les autres membres de la Countering Tech-Enabled Fraud Task Force de Californie pour lutter contre les arnaques utilisant la voix. Nous travaillons avec Google DeepMind pour apposer un filigrane sur nos contenus audio afin qu’ils puissent être identifiés comme générés par IA, ainsi qu’avec Reality Defender, spécialiste de la détection de deepfakes, pour renforcer ses outils de détection en temps réel utilisés par de grandes entreprises et des gouvernements. Avec ElevenLabs for Government, nous aidons les gouvernements et la société civile à fournir des services aux citoyens disponibles en permanence et dans plusieurs langues. À l’approche des élections américaines de 2026, nous œuvrons à proposer cette capacité aux institutions civiques du pays.

Prévenir et détecter les usages abusifs de l’IA vocale 

En plus de déployer notre technologie pour élargir l’accès à la démocratie, nous investissons dans des mesures de sécurité qui combattent les usages abusifs par des acteurs malveillants. Notre approche de la sécurité est complète et multicouche : nos modèles et produits intègrent des protections qui se recoupent, de sorte que si une couche est contournée, les autres restent en place. Ces mesures comprennent notamment : 

• No Go Voices. Les échantillons audio importés pour créer des clones sont contrôlés par notre dispositif propriétaire « No Go Voices » (NGV), conçu pour empêcher la création de voix appartenant à des personnes à haut risque, telles que des responsables publics, des candidats politiques, des célébrités et d’autres personnalités largement reconnues. Nous affinons et étendons continuellement NGV à partir de notre surveillance interne, de l’actualité, des signalements d’utilisateurs et de renseignements externes, notamment au début de nouveaux cycles électoraux.
• Voice CAPTCHA. Voice CAPTCHA compare la voix d’un échantillon importé à un enregistrement en temps réel de l’utilisateur lisant un script généré dynamiquement. 
• Modération en temps réel et asynchrone. Nous utilisons des systèmes automatisés pour aider à détecter les contenus susceptibles d’enfreindre nos politiques, notamment l’exploitation et les abus sexuels sur mineurs, les discours de haine, les escroqueries et les fraudes. Ces systèmes peuvent bloquer certains contenus avant leur création. Les contenus générés peuvent également être automatiquement classifiés afin d’étayer les examens, enquêtes et mesures d’application menés par des humains.
• Application des règles. Nous prenons les mesures appropriées à l’encontre des utilisateurs qui enfreignent nos politiques, tentent de contourner nos mesures de sécurité ou mènent des activités créant un risque de préjudice grave.
• Traçabilité et transparence. Nos systèmes sont conçus pour remonter des contenus générés jusqu’au compte qui les a créés. Depuis 2023, nous proposons également gratuitement notre AI Speech Classifier, qui permet à chacun de vérifier si un échantillon audio contient du contenu généré par IA sur ElevenLabs. Récemment, nous avons commencé à collaborer avec Google DeepMind pour intégrer sa technologie de filigrane SynthID aux contenus générés sur ElevenLabs, afin qu’ils puissent être identifiés comme générés par IA grâce à notre Audio Detector.  

Notre engagement continu 

Nous sommes convaincus des immenses bénéfices de l’IA vocale dans la vie publique et déterminés à veiller à ce que notre technologie soit utilisée à bon escient. Nous continuerons à renforcer nos mesures de sécurité, à tirer les enseignements de nos partenariats dans le monde entier et à adapter notre approche à mesure que de nouveaux risques et opportunités émergent. Nous sommes heureux de travailler étroitement avec des organisations gouvernementales et de la société civile partout dans le monde, et nous avons hâte d’approfondir ces partenariats tout au long de ce cycle électoral et au-delà.