ElevenLabs y Reality Defender colaboran para desarrollar iniciativas de seguridad de IA

Colaboramos con Reality Defender, una empresa de ciberseguridad especializada en la detección de deepfakes, para avanzar en el desarrollo de modelos de detección de deepfakes de audio.

La asociación tiene como objetivo brindar una protección mejorada contra los deepfakes de audio aprovechando nuestros modelos y métodos patentados para mejorar la eficacia y la solidez de las herramientas de detección de Reality Defender. Esto permitirá a los clientes de Reality Defender, incluidos gobiernos y empresas internacionales, detectar y prevenir amenazas generadas por IA en tiempo real y proteger a millones de personas de la desinformación y el fraude sofisticado.

La colaboración se basa en nuestras iniciativas existentes para garantizar el desarrollo responsable y el uso transparente de la IA de audio, a través de la moderación y la responsabilidad, incluyendo el uso de medios técnicos para evitar la generación de contenido prohibido e identificar a las personas malintencionadas. Aquí puedes leer más sobre nuestras iniciativas de seguridad en curso.

«En ElevenLabs trabajamos todos los días para desarrollar e implementar las mejores medidas de seguridad que eviten el uso indebido de nuestros productos. La colaboración con otras empresas tecnológicas, el mundo académico y los responsables de las políticas para desarrollar métodos fiables de detección de contenido mediante IA es un pilar clave de nuestros esfuerzos de seguridad.» afirmó Aleksandra Pedraszewska, directora de seguridad de IA en ElevenLabs. «Estamos entusiasmados de colaborar con Reality Defender, líder en detección de información generada por IA, para desarrollar nuevas protecciones que disuadan a las personas malintencionadas de usar nuestras herramientas.»

El enfoque multimodelo patentado de Reality Defender permite que su plataforma web y API de detección de deepfakes basadas en la nube identifiquen fraudes, campañas de desinformación y deepfakes dañinos con gran precisión. Al combinar nuestra experiencia en IA generativa basada en audio con las capacidades de detección avanzadas de Reality Defender, la colaboración brindará una protección incomparable contra las amenazas generadas por IA. Esto se ajusta a nuestro compromiso de garantizar la integridad y la seguridad de las elecciones democráticas de 2024 a través del Acuerdo electoral de IA.

«Estamos encantados de colaborar con ElevenLabs, una empresa pionera en herramientas de IA de audio», afirmó Ben Colman, cofundador y CEO de Reality Defender. «Su compromiso con la seguridad de la IA y el desarrollo responsable de la IA se concuerda con nuestra misión de detectar y prevenir deepfakes. Esta colaboración, la primera para Reality Defender, nos permitirá ofrecer una detección de audio muy avanzada que se mantiene varios pasos por delante de las personas malintencionadas y los estafadores.»