ElevenLabs colabora con el Gobierno del Reino Unido en investigación sobre la seguridad de la voz IA

ElevenLabs ha acordado una nueva colaboración de tres años con el Gobierno del Reino Unido para estudiar las implicaciones sociales y de seguridad de la tecnología de voz IA. Colaboraremos en investigaciones sobre hasta qué punto las personas pueden identificar cuándo hablan con un agente de IA y si saberlo modifica su comportamiento.

IA conversacional ofrecerán los agentes enormes beneficios, desde tutorías personalizadas hasta atención al cliente 24/7; pero es fundamental garantizar que la tecnología no se utilice para engañar ni explotar a nadie. Para prevenir usos indebidos, incorporamos medidas de seguridad exhaustivas directamente en nuestros productos y colaboramos estrechamente con gobiernos para establecer estándares de seguridad de la IA.

En virtud de este nuevo memorando de entendimiento, damos al Gobierno del Reino Unido acceso a nuestros modelos de voz de vanguardia para realizar investigaciones controladas a gran escala. Este trabajo estudiará hasta qué punto las personas pueden distinguir entre un humano y un agente de IA en conversaciones naturales de ida y vuelta. Investigadores también analizarán cómo cambian el comportamiento de las personas y su disposición a revelar información según crean que hablan con un humano o con un agente.

Este trabajo demuestra confianza en el liderazgo del Reino Unido en IA: una empresa líder en IA que decide establecerse en el Reino Unido y colaborar con nuestro Instituto de Seguridad de la IA, líder mundial, en una investigación seria, rigurosa e innovadora. Trabajos y colaboraciones como este nos permiten aprovechar la IA como una tecnología en la que las personas pueden confiar y que beneficia sus vidas.

— Kanishka Narayan, ministro de IA y Seguridad en Línea

La voz es la forma más natural de acceder a todo el potencial de la IA, pero las personas solo aceptarán este cambio si confían en la tecnología. Hemos integrado medidas de seguridad en cada parte de la plataforma de ElevenLabs, y esta nueva colaboración de investigación con el Gobierno del Reino Unido es otro paso importante para garantizar que la IA se implemente de forma responsable.

— Mati Staniszewski, CEO de ElevenLabs

Para garantizar que nuestra tecnología se utilice de forma responsable, aplicamos un conjunto exhaustivo de medidas de seguridad. Esto incluye bloquear la clonación de voces de políticos y celebridades, exigir verificación para clonar voz, y ofrecer un Clasificador de Audio IA para ayudar a las personas a determinar si un clip de audio ha sido generado por ElevenLabs.

Esta colaboración llega después del lanzamiento la semana pasada de ElevenLabs para Gobiernos, que ayuda a organizaciones del sector público a ofrecer servicios multilingües 24/7. Adoptantes iniciales como el Gobierno de Ucrania ya utilizan esta tecnología para ayudar a la ciudadanía a acceder a servicios esenciales, mientras que otros organismos usan agentes de IA para gestionar aproximadamente 5.000 llamadas al día.