IA asegurable: un nuevo estándar para agentes de voz

A medida que aumentan las capacidades de los agentes de IA, también lo hacen los riesgos. Manipularon al agente de un concesionario para que ofreciera un coche por un dólar. El chatbot de una aerolínea inventó una política de reembolsos que la empresa se vio obligada a respetar. Los marcos de seguridad tradicionales no se diseñaron para sistemas no deterministas que hablan con clientes.

Basado en el estándar AIUC-1, este informe técnico ofrece un marco práctico para validar la seguridad, protección y fiabilidad de los agentes antes de implementarlos:

• Las seis categorías de riesgo de AIUC-1, desde los datos y la privacidad hasta la responsabilidad, y qué debes hacer bien en cada una
• Por qué los agentes de voz tienen un perfil de riesgo distinto al del texto y qué implica para tus controles
• Cómo son unas buenas pruebas adversariales y cómo un perfil de riesgo empírico permite asegurar a los agentes de IA
• Cómo Immobiliare.it obtuvo la certificación completa en cuatro semanas con ElevenAgents

Escrito para responsables jurídicos, de seguridad y de riesgos que evalúan agentes de voz orientados a clientes.