Presentamos Eleven v4Conoce Eleven v4, nuestro modelo más expresivo hasta la fecha. Con 3 veces más créditos incluidos en Creator+ hasta el 12 de octubre

Canjear
Ir al contenido
Inicia sesiónRegístrate
Contactar ventasInicia sesión

En detalle: ElevenLabs en MIT EmTech Digital

Publicado

EscucharEscucha este artículo

Contacta con ventas
Más información
Last week at the MIT EmTech Digital conference in London, I participated in a panel focused on how business, government, and academia can collaborate to maximize opportunities and manage challenges associated with advanced AI products.

Alongside ElevenLabs, the panel included leaders from the Alan Turing Institute, the Ada Lovelace Institute, and BT, with MIT Technology Review’s Melissa Heikkilä moderating the discussion.

Un enfoque de tres pilares para la seguridad de la IA

En ElevenLabs desarrollamos tecnología de audio con IA teniendo en cuenta su impacto. En mi función al frente de la Seguridad de la IA, me centro en ayudar a creadores, empresas y usuarios, al tiempo que prevenimos usos indebidos y disuadimos a actores malintencionados. Durante el panel, expuse las medidas que hemos adoptado para que ElevenLabs sea un espacio más seguro e innovador, y defendí la adopción de estrategias que prioricen los retos de seguridad de la IA. Estas estrategias incluyen:

Provenance: involves distinguishing AI-generated content from real content by understanding its origins. Upstream AI detection tools, such as classifiers, are probabilistic models trained to recognize AI-generated outputs. At ElevenLabs, we’ve developed the AI Speech Classifier that lets anyone upload samples to check if they originate from our platform. We’re also collaborating with Loccus to enhance AI content classification capabilities. Classifiers, however, are not a panacea solution for provenance; they have their limitations. To address them, downstream AI detection methods have emerged, including metadata, watermarks, and fingerprinting solutions. We endorse industry-wide efforts such as cryptographically signed metadata standard C2PA, which present the benefit of being open and interoperable and could enable labeling of AI-generated content across main distribution channels like Instagram or Facebook.

Trazabilidad: garantiza que el contenido generado por IA pueda vincularse a un usuario concreto. En ElevenLabs, nuestros sistemas nos permiten asociar el contenido generado en nuestra plataforma con la cuenta de origen, y nuestras herramientas de clonación de voz solo están disponibles para usuarios que hayan verificado sus cuentas con información bancaria. Centrarnos en la trazabilidad garantiza que cualquier persona que use plataformas de IA pueda responder por sus acciones y ser identificada por las autoridades legales cuando sea necesario.

Moderation: which involves defining clear policies on acceptable content and use, and preventing users from generating content that does not comply with such policies. At ElevenLabs, we use automated systems to scan, flag, and block inappropriate content. Human moderators review flagged content to ensure consistent policy enforcement. We are continually advancing our moderation technology to prevent the generation of content that could harm public trust or safety. Open source moderation endpoints, such as the one provided by OpenAI, enable easy integration of prompt moderation into any AI applications.

Working together towards a common goal

While we prioritize safe AI development, no company can tackle AI misuse alone. At the panel, we recognized the need for widespread collaboration among tech companies, governments, civil rights groups, and the public to confront social and environmental changes and ensure a secure digital future. At ElevenLabs, we’re dedicated to maintaining open dialogue in our community and supporting initiatives like the Content Authenticity Initiative and the Elections Safety Accord to combat misinformation.

Preparar la seguridad de la IA para el futuro

En el panel, todos coincidimos en que los productos de IA deben desarrollarse y utilizarse de forma segura. Al mismo tiempo, también debemos permitir usos creativos e inesperados. En ElevenLabs, vemos a menudo que nuestra plataforma se utiliza para mejorar la accesibilidad de contenido digital para personas que necesitan transcripciones de audio y para devolver la voz a quienes la han perdido a causa de la ELA u otras afecciones de salud. Para que las aplicaciones de IA prosperen, es fundamental concienciar sobre los contenidos multimedia generados con IA, fomentar una interacción crítica con el contenido digital, promover herramientas para verificar su autenticidad y formar tanto al público como a las instituciones en el uso ético de la IA.

Artículos relacionados

Crea con el audio IA de la más alta calidad

Habla con ventasRegístrate