Reforzando y protegiendo las elecciones

El proceso democrático funciona mejor cuando todos los votantes con derecho a voto pueden participar. Sin embargo, con demasiada frecuencia, las personas no pueden acceder a información sobre cómo inscribirse, dónde votar y qué defienden los candidatos en un idioma y formato que comprendan. Para muchos ciudadanos con discapacidad visual, bajo nivel de alfabetización o que no son hablantes nativos, los correos electrónicos electorales tradicionales y los folletos impresos son sencillamente inaccesibles. 

Ante estas barreras de comunicación, la voz IA puede ser una herramienta increíblemente útil para la democracia. Puede leer información en voz alta para personas con discapacidad visual, responder preguntas en el idioma o dialecto preferido de cada ciudadano y transformar documentos oficiales densos en una conversación hablada. Pero, como cualquier tecnología nueva, estas mismas capacidades podrían ser utilizadas indebidamente por actores malintencionados para engañar o desinformar a los votantes. 

2026 es un año electoral importante, con elecciones nacionales, regionales y locales en todas las regiones del mundo, incluidas grandes elecciones en Estados Unidos y Brasil. También es uno de los primeros años electorales en los que la voz IA expresiva y de sonido natural está ampliamente disponible. A continuación, explicamos cómo estamos usando la voz IA para reforzar el proceso democrático, al tiempo que prevenimos y detectamos el uso indebido de esta tecnología.

Reforzar el proceso democrático 

La voz IA ya desempeña un papel fundamental en las elecciones al ampliar el acceso a información oficial de instituciones de confianza; Brasil está liderando el camino a nivel mundial.

De cara a las elecciones de octubre, el Tribunal Superior Electoral de Brasil (TSE) está añadiendo una capa de voz a su «Asistente Electoral» para que los ciudadanos puedan usar la voz para obtener información del sitio web, la app y los canales de WhatsApp del TSE. Gracias a nuestra tecnología de Texto a Voz y Voz a Texto, esta nueva interfaz de voz está diseñada para ayudar a combatir la desinformación electoral y ampliar el acceso a información fiable para todos los ciudadanos brasileños. Formalizamos la colaboración mediante un memorando de entendimiento con el TSE —el primero con una autoridad electoral nacional— y nos unimos al Programa Permanente del TSE para Combatir la Desinformación Electoral.

También trabajamos con organizaciones brasileñas que usan voz IA para apoyar las labores de verificación de información. Durante casi una década, Comprova —una coalición de 42 organizaciones de medios brasileñas liderada por la Asociación Brasileña de Periodismo de Investigación (Abraji)— ha trabajado sin descanso para identificar contenido manipulado. Formaremos a los socios de Comprova para que utilicen nuestro Clasificador de Voz IA y otras herramientas de detección como parte de sus procesos de verificación. 

En Estados Unidos, trabajamos con responsables políticos, organismos del sector y empresas tecnológicas líderes para proteger las elecciones de mitad de mandato. Colaboramos con otros miembros del grupo de trabajo de California para combatir el fraude facilitado por la tecnología con el fin de contrarrestar las estafas basadas en voz. Colaboramos con Google DeepMind para incluir marcas de agua en nuestro audio y que pueda identificarse como generado por IA, y con la empresa de detección de deepfakes Reality Defender para reforzar sus herramientas de detección en tiempo real, utilizadas por grandes empresas y gobiernos. A través de ElevenLabs for Government, ayudamos a gobiernos y organizaciones de la sociedad civil a ofrecer servicios ciudadanos permanentes en varios idiomas, y trabajamos para llevar esta capacidad a instituciones cívicas de Estados Unidos ante la proximidad de las elecciones de 2026.

Prevenir y detectar el uso indebido de la voz IA 

Además de implementar nuestra tecnología para ampliar el acceso democrático, invertimos en medidas de protección que combaten el uso indebido por parte de actores malintencionados. Adoptamos un enfoque integral y multicapa de la seguridad, con protecciones superpuestas en nuestros modelos y productos, de modo que, si se elude una capa, las demás se mantengan. Estas medidas de protección incluyen: 

• No Go Voices. Las muestras de audio que se suben para crear clones se comparan con nuestra protección patentada «No Go Voices» (NGV), diseñada para impedir la creación de voces pertenecientes a personas de alto riesgo, como cargos públicos, candidatos políticos, celebridades y otras figuras ampliamente reconocidas. Perfeccionamos y ampliamos continuamente NGV a partir de la supervisión interna, la actualidad, los informes de usuarios e información externa, también cuando comienzan nuevos ciclos electorales.
• Voice CAPTCHA. Voice CAPTCHA compara la voz de una muestra subida con una grabación en tiempo real del usuario leyendo un guion generado dinámicamente. 
• Moderación en tiempo real y asíncrona. Usamos sistemas automatizados para ayudar a detectar contenido que pueda infringir nuestras políticas, incluida la explotación y el abuso sexual infantil, el discurso de odio y las estafas y fraudes. Estos sistemas pueden bloquear cierto contenido antes de que se cree. El contenido generado también puede clasificarse automáticamente para facilitar la revisión, investigación y aplicación de medidas por parte de personas.
• Aplicación de medidas. Tomamos las medidas adecuadas contra usuarios que infringen nuestras políticas, intentan eludir nuestras medidas de protección o participan en actividades que generan riesgo de daños graves.
• Trazabilidad y transparencia. Nuestros sistemas están diseñados para rastrear el contenido generado hasta la cuenta que lo creó. Desde 2023, también ofrecemos gratis un Clasificador de Voz IA, que permite a cualquier persona comprobar si una muestra de audio contiene contenido generado por IA creado en ElevenLabs. Recientemente, empezamos a colaborar con Google DeepMind para incorporar su tecnología de marcas de agua SynthID al contenido generado en ElevenLabs, de modo que pueda identificarse como generado por IA mediante nuestro Detector de Audio.  

Nuestro compromiso continuo 

Creemos firmemente en los enormes beneficios de la voz IA en la vida pública y estamos decididos a garantizar que nuestra tecnología se use para el bien. Seguiremos reforzando nuestras medidas de protección, aprendiendo de nuestras colaboraciones en todo el mundo y adaptando nuestro enfoque a medida que surjan nuevos riesgos y oportunidades. Nos alegra trabajar estrechamente con organizaciones gubernamentales y de la sociedad civil de todo el mundo, y esperamos profundizar en nuestras colaboraciones durante este ciclo electoral y más allá.