Actualización sobre nuestra preparación para las elecciones

En ElevenLabs, nos comprometemos a hacer que el contenido sea accesible y atractivo en cualquier idioma, voz y sonido. Creemos firmemente en el poder de nuestra tecnología para crear un mundo más conectado e informado y, a su vez, para contribuir positivamente al proceso democrático. Hemos ayudado a representantes políticos a recuperar sus voces, permitiéndoles seguir defendiendo a sus electores y las causas que les importan. Hemos hecho lo mismo con defensores de causas sociales, apoyando sus esfuerzos por impulsar cambios y mejorar vidas. Y nuestro trabajo para eliminar barreras al conocimiento, la participación y la comunidad no ha hecho más que empezar. 

También creemos que todos —el sector, los gobiernos, la sociedad civil y las personas— debemos no solo promover el proceso democrático, sino también protegerlo. A lo largo de 2024, un año electoral decisivo en países de todo el mundo, hemos tomado medidas concretas para prevenir el uso indebido de nuestras herramientas. Ante las elecciones de Estados Unidos del 5 de noviembre, compartimos una actualización sobre nuestras iniciativas.

Políticas

Hemos revisado nuestra Política de Uso Prohibido para reforzar y aclarar nuestras normas sobre el uso de nuestras herramientas en el contexto electoral.

• Prohibición de las campañas y de la suplantación de candidatos. Prohibimos estrictamente el uso de nuestras herramientas para campañas políticas, incluido promocionar o defender a un candidato, una cuestión o una postura concretos, así como solicitar votos o contribuciones económicas. También prohibimos usar nuestras herramientas para imitar las voces de candidatos políticos y cargos públicos electos.

• Prohibición de la supresión del voto y de las alteraciones del proceso electoral. Prohibimos el uso de nuestras herramientas para incitar, participar o facilitar la supresión del voto u otras alteraciones de los procesos electorales o cívicos. Esto incluye crear, distribuir o facilitar la difusión de información engañosa.

Prevención

Hemos mejorado nuestras medidas de seguridad para prevenir el uso indebido de nuestras herramientas en el contexto electoral. 

• Verificación de usuarios. Todos los usuarios de nuestras herramientas de clonación de voz deben proporcionar información de contacto y pago, lo que nos ayuda a bloquear, durante el registro, cuentas vinculadas a actividades fraudulentas o a zonas geográficas de alto riesgo.

• Voces «No-Go». Nuestra tecnología No-Go Voice impide generar las voces de cientos de candidatos, cargos electos, otras figuras políticas y celebridades. Hemos ampliado continuamente esta medida de seguridad para aumentar su eficacia, y supervisamos y tomamos medidas contra usuarios que intentan generar voces bloqueadas.

Detección y aplicación

Para complementar nuestras medidas preventivas, hemos reforzado nuestras capacidades de detección y aplicación.

• Supervisión del uso indebido. Nuestros clasificadores propios mejorados, incluido uno diseñado específicamente para identificar contenido político, junto con la moderación automatizada y revisores humanos, nos ayudan a detectar contenido que infringe nuestras condiciones. También trabajamos con equipos externos de inteligencia sobre amenazas que aportan información sobre posibles usos indebidos destinados a alterar las elecciones, y hemos establecido canales para compartir información con socios gubernamentales y del sector.

• Aplicación firme. Cuando identificamos un uso indebido, actuamos con determinación: eliminamos voces, imponemos periodos de prueba a usuarios, expulsamos a usuarios de nuestra plataforma y, cuando procede, informamos a las autoridades. Si encuentras contenido problemático que crees que puede proceder de ElevenLabs, por favor avísanos.

• Apoyo a las iniciativas gubernamentales. Creemos que la acción de los gobiernos es fundamental para disuadir del uso indebido. En julio, nos enorgulleció anunciar nuestro apoyo a la Protect Elections from Deceptive AI Act, una iniciativa legislativa bipartidista liderada por las senadoras y los senadores Amy Klobuchar, Josh Hawley, Chris Coons, Susan Collins, Maria Cantwell, Todd Young, John Hickenlooper y Marsha Blackburn, que exigiría responsabilidades a quienes usan IA en anuncios de campaña para engañar a votantes. Seguiremos trabajando con responsables políticos de Estados Unidos y de todo el mundo en iniciativas de seguridad de la IA, incluidas las relacionadas con las elecciones.

Procedencia y transparencia

Facilitar la identificación clara del contenido generado por IA, también mediante una amplia colaboración, sigue siendo un aspecto clave de los esfuerzos de ElevenLabs por desarrollar tecnología de forma responsable.

• AI Speech Classifier. Nuestro AI Speech Classifier, disponible públicamente desde junio de 2023, permite a cualquiera subir una muestra de audio para analizar si procede de ElevenLabs. Al poner esta herramienta a disposición del público, buscamos limitar la difusión de información falsa facilitando la identificación del origen del audio.

• Colaboración con el sector. Cuando se trata de la procedencia y la transparencia del contenido de IA, no podemos hacerlo solos: es necesario un esfuerzo de todo el sector. Por eso formamos parte de la Content Authenticity Initiative (CAI), que reúne a grandes empresas de medios y tecnología para desarrollar estándares de procedencia. A través de la Coalition for Content Provenance and Authenticity (C2PA), estamos aplicando estos estándares incorporando metadatos firmados criptográficamente en el audio generado en nuestra plataforma. Esto permite que los canales de distribución de contenido que adopten las herramientas de CAI, como las principales plataformas de redes sociales, reconozcan nuestro audio como generado por IA.

• Apoyo a herramientas de detección de terceros. Trabajamos con empresas externas de seguridad de IA para mejorar sus herramientas de identificación de contenido generado por IA, incluidos deepfakes relacionados con elecciones. En julio, nos asociamos con Reality Defender —una empresa de ciberseguridad centrada en la detección de deepfakes— y le proporcionamos acceso a nuestros modelos y datos para reforzar sus herramientas de detección. Nuestra colaboración ayuda a los clientes de Reality Defender, entre ellos gobiernos y grandes empresas, a detectar amenazas generadas por IA en tiempo real y a proteger a personas de todo el mundo frente a la desinformación y el fraude sofisticado. También participamos en otros proyectos académicos y comerciales, incluidas iniciativas de investigación de la School of Information de UC Berkeley, para avanzar en la detección de contenido generado por IA.

En los próximos días y semanas, seguiremos aprendiendo y perfeccionando estas medidas de seguridad. Reconocemos que no podemos prever todas las formas en que podrían utilizarse nuestras herramientas. Pero seguiremos tomando medidas firmes para prevenir los abusos, al tiempo que desplegamos nuestra tecnología para crear un mundo más conectado e informado.