Presentamos AI Speech Classifier de ElevenLabs

En el mejor de los casos, la IA generativa puede impulsar la productividad, la creatividad y el bienestar humanos. En ElevenLabs, creemos en el potencial transformador de estas tecnologías, pero también reconocemos que, para aprovechar plenamente sus beneficios, debemos garantizar su uso seguro y responsable. Ahora lanzamos AI Speech Classifier para evitar la propagación de desinformación al hacer que sea más fácil evaluar la fuente del contenido de audio. Pruébalo tú mismo:

Transparencia sobre el contenido generado con IA

AI Speech Classifier permite a cualquier persona cargar una muestra y analizar si contiene audio creado con IA de ElevenLabs. Es el primer mecanismo patentado de este tipo en el ámbito del audio y supone un paso fundamental en nuestra misión de desarrollar un seguimiento eficiente para los medios audiovisuales generados con IA. Con el lanzamiento de hoy, buscamos reforzar aún más nuestro compromiso con la transparencia

Mecanismo y limitaciones conocidas

El audio generado por nuestros modelos tiene ciertas características detectables. Al cargar una muestra de audio en AI Speech Classifier, nuestro algoritmo la escanea para evaluar si el contenido realmente se ha generado con nuestra plataforma, que tiene actualmente una precisión de >99 % si el material de entrada no se ha modificado. Si se ha sometido a transformaciones de códec o reverberación, AI Speech Classifier tiene una precisión superior al 90 %. Esta cifra disminuye cuanto más posprocesado esté el contenido. Añadir más pistas de audio también afectará al resultado.

Analizamos y mejoramos continuamente nuestro modelo para poder detectar más transformaciones de audio y esperamos que estos resultados mejoren.

Llamamiento a la participación

Hoy lanzamos al público AI Speech Classifier para fomentar iniciativas de detección de IA. Queremos mejorar la transparencia sobre el contenido generado con IA comenzando por el nuestro. Hay una gran cantidad de contenido de IA de otros modelos comerciales y de código abierto que no se detecta. Animamos a otros a sumarse a nuestro esfuerzo y a denunciar casos sospechosos a medida que continuamos mejorando la precisión y las capacidades de detección de AI Speech Classifier para cubrir más transformaciones de audio, así como contenido generado en otras plataformas, incluyendo modelos comerciales y de código abierto. Estamos ansiosos por colaborar con socios interesados en una integración de API más completa y mejorar el valor de esta herramienta.

Ponte en contacto con nosotros si estás interesado en una colaboración o integración.

Un compromiso con la transparencia

Nuestro objetivo en ElevenLabs es producir herramientas seguras que puedan crear contenido extraordinario. Creemos que nuestra condición de organización nos da la capacidad de crear y aplicar medidas de seguridad que a menudo faltan en los modelos de código abierto. Con el lanzamiento de AI Speech Classifier también pretendemos dar poder a las empresas e instituciones para que aprovechen nuestra investigación y tecnología para reforzar sus respectivas protecciones.

Consulta nuestra página de seguridad para obtener más información sobre las protecciones de IA en ElevenLabs.