Cómo se prepara ElevenLabs para las elecciones de 2024

A lo largo de 2024 se celebrarán una serie de elecciones en todo el mundo. A medida que se acercan, nos centramos en promover el uso seguro y justo de las voces de IA. 

Nuestra tecnología nació de nuestro compromiso por romper las barreras del idioma y fomentar la comprensión mundial. Actualmente sigue encontrando aplicaciones inspiradoras en la educación, el entretenimiento y la accesibilidad y, al mismo tiempo, hace que el contenido sea más atractivo e inclusivo. 

Sin embargo, reconocemos el panorama cambiante de la tecnología de IA y sus implicaciones para el proceso político. Nuestra prioridad es garantizar que nuestros sistemas se desarrollen, implementen y utilicen de forma segura y estamos tomando medidas adicionales para combatir el uso indebido y la difusión de desinformación a medida que la tecnología evoluciona. 

Prevención del uso indebido

En nuestros continuos esfuerzos por garantizar una experiencia positiva para todos los usuarios de nuestra plataforma, estamos tomando medidas específicas para evitar que las voces de IA se utilicen para difundir desinformación. Aunque en nuestras condiciones ya se prohíbe el uso de nuestra plataforma para suplantar o dañar a otros, estamos tomando la medida adicional de introducir una protecciónde voces prohibidas. Esta protección está diseñada para detectar y prevenir la creación de voces que imiten a candidatos políticos que participan activamente en elecciones presidenciales o de primer ministro, empezando por las de Estados Unidos y el Reino Unido. Estamos trabajando para ampliar esta protección a otros idiomas y ciclos electorales. También pretendemos perfeccionar continuamente esta medida mediante pruebas prácticas y comentarios. Invitamos a otras empresas y socios de IA a colaborar con nosotros para explorar formas de mejorar y ampliar estas protecciones de manera efectiva.

También estamos probando activamente nuevas formas de contrarrestar la creación de contenido político que pueda afectar a la participación en el proceso democrático o engañar a los votantes. Nuestros sistemas siempre nos han permitido rastrear el contenido generado en nuestra plataforma hasta la cuenta de origen. Estamos desarrollando activamente nuevos mecanismos de moderación y revisión interna para identificar y abordar los casos de abuso de manera más efectiva. Tergiversar los procesos electorales, el cumplimiento de requisitos de los votantes o el valor del voto socava la democracia y nos oponemos firmemente al uso de la IA para crear confusión o desconfianza en el sistema democrático. El uso de nuestra tecnología para actividades de campaña política que impliquen hacerse pasar por otros, crear chatbots o realizar llamadas automáticas es una violación directa de nuestras condiciones.

Transparencia sobre el contenido generado por IA

Permitir la identificación clara del contenido generado con IA es un aspecto clave de nuestros esfuerzos de desarrollo responsable.

El pasado mes de junio lanzamos el AI Speech Classifier, que permite a cualquier persona cargar muestras de audio para analizar si la muestra es audio generado con la IA de ElevenLabs. Nuestro objetivo es ayudar a prevenir la propagación de desinformación haciendo que sea más fácil evaluar la fuente del contenido de audio. Si estás interesado en una colaboración o una integración, ponte en contacto con nosotros en legal@elevenlabs.io. Si encuentras algo preocupante en nuestra plataforma o que crees que se ha creado en nuestra plataforma, indícanoslo aquí.

Equilibrio entre innovación y responsabilidad 

Nos inspiran las aplicaciones positivas que nuestra comunidad sigue encontrando para nuestra tecnología. A lo largo de 2024 y más allá, seguiremos comprometidos con la innovación responsable manteniendo un diálogo continuo con nuestra comunidad, socios, sociedad civil y partes interesadas clave.