ElevenLabs colabora con el Gobierno del Reino Unido en investigación sobre seguridad de la voz IA

ElevenLabs ha firmado una colaboración de tres años con el Gobierno del Reino Unido para estudiar las implicaciones sociales y de seguridad de la tecnología de voz IA. Vamos a investigar juntos cómo de fácil es para las personas identificar si están hablando con un agente IA y si saberlo cambia su comportamiento.

La IA conversacional permitirá que agentes ofrezcan grandes ventajas: desde tutorías personalizadas hasta atención al cliente 24/7 – pero es fundamental asegurarnos de que la tecnología no se use para engañar o aprovecharse de otros. Para evitar un mal uso, integramos medidas de seguridad en nuestros productos y colaboramos con gobiernos para establecer estándares de seguridad en IA.

Con este nuevo acuerdo, damos acceso al Gobierno del Reino Unido a nuestros modelos de voz más avanzados para realizar investigaciones a gran escala y de forma controlada. El objetivo es analizar cómo de bien las personas distinguen entre un humano y un agente IA en conversaciones naturales. También se estudiará cómo cambia el comportamiento y la disposición a compartir información según si creen que hablan con una persona o con un agente.

Este trabajo demuestra la confianza en el liderazgo del Reino Unido en IA: una empresa líder en IA que decide establecerse en el Reino Unido y colaborar con nuestro Instituto de Seguridad en IA en investigaciones serias, relevantes e innovadoras. Así es como conseguimos que la IA sea una tecnología en la que la gente pueda confiar y que mejore sus vidas.

— Kanishka Narayan, Ministro de IA y Seguridad Online

La voz es la forma más natural de aprovechar todo el potencial de la IA, pero solo se adoptará si la gente confía en la tecnología. Hemos integrado medidas de seguridad en cada parte de la plataforma de ElevenLabs, y esta nueva colaboración con el Gobierno del Reino Unido es otro paso importante para garantizar un uso responsable de la IA.

— Mati Staniszewski, CEO de ElevenLabs

Para garantizar un uso responsable de nuestra tecnología, aplicamos un conjunto completo de medidas de seguridad. Esto incluye bloquear la clonación de voces de políticos y famosos, exigir verificación para clonar voces y ofrecer un Clasificador de Audio IA para ayudar a identificar si un audio ha sido generado por ElevenLabs.

Esta colaboración llega tras el lanzamiento de ElevenLabs para Gobiernos la semana pasada, que ayuda a organizaciones del sector público a ofrecer servicios multilingües y disponibles 24/7. Los primeros en adoptarla, como el Gobierno de Ucrania, ya están usando esta tecnología para facilitar el acceso de la ciudadanía a servicios esenciales, mientras que otras agencias gestionan unas 5.000 llamadas diarias con agentes IA.