ElevenLabs y Reality Defender colaboran para desarrollar iniciativas de seguridad de IA

Nos hemos asociado con Reality Defender, una empresa de ciberseguridad especializada en la detección de deepfakes, para impulsar el desarrollo de modelos de detección de deepfakes de audio.

La colaboración busca ofrecer una mayor protección frente a los deepfakes de audio aprovechando nuestros modelos y métodos propios para mejorar la eficacia y solidez de las herramientas de detección de Reality Defender. Esto permitirá a clientes de Reality Defender, entre ellos gobiernos y empresas internacionales, detectar y prevenir amenazas generadas con IA en tiempo real, y proteger a millones de personas de la desinformación y el fraude sofisticado.

La colaboración se basa en nuestras iniciativas actuales para garantizar el desarrollo responsable y el uso transparente del audio creado con IA, mediante la moderación y la rendición de cuentas, incluido el uso de medios técnicos para impedir la generación de contenido prohibido e identificar a actores malintencionados. Puedes leer más sobre nuestras iniciativas de seguridad en curso aquí.

"En ElevenLabs trabajamos cada día para desarrollar e implementar medidas de protección líderes en el sector que eviten el uso indebido de nuestros productos. Colaborar con otras empresas tecnológicas, el ámbito académico y responsables políticos para desarrollar métodos fiables de detección de contenido generado con IA es un pilar fundamental de nuestros esfuerzos en materia de seguridad", afirmó Aleksandra Pedraszewska, responsable de Seguridad de IA en ElevenLabs. "Nos entusiasma colaborar con Reality Defender, líderes en la detección de información generada con IA, para desarrollar nuevas medidas de protección que disuadan a actores malintencionados de utilizar nuestras herramientas."

El enfoque multimodelo patentado de Reality Defender permite a su plataforma web y API en la nube para la detección de deepfakes identificar con gran precisión fraudes, campañas de desinformación y deepfakes dañinos. Al combinar nuestra experiencia en IA generativa basada en audio con las avanzadas capacidades de detección de Reality Defender, la colaboración ofrecerá una protección sin precedentes frente a amenazas generadas con IA. Se suma a nuestro compromiso de garantizar la integridad y la seguridad de las elecciones democráticas de 2024 mediante el Acuerdo sobre Elecciones e IA.

"Estamos encantados de colaborar con ElevenLabs, pionera en herramientas de audio creado con IA", afirmó Ben Colman, cofundador y CEO de Reality Defender. "Su compromiso con la seguridad de la IA y el desarrollo responsable de la IA coincide con nuestra misión de detectar y prevenir deepfakes. Esta colaboración, la primera de Reality Defender, nos permitirá ofrecer una detección de audio muy avanzada que se mantiene varios pasos por delante de actores malintencionados y estafadores."