Medidas de protección
Controla cómo se comportan los agentes en producción con protecciones que mantienen las respuestas seguras, conformes y fiables.
Descripción general
Las medidas de protección ofrecen a los equipos una forma eficaz de gobernar cómo se comportan los agentes en producción, manteniéndolos centrados en el tema, alineados con la marca y resistentes a la manipulación a escala empresarial.
Con Guardrails 2.0, hemos rediseñado la capa de seguridad para que a los equipos les resulte más fácil definir políticas personalizadas en lenguaje natural, activar protecciones predefinidas, controlar qué sucede cuando se activa una medida de protección y desplegar agentes con confianza en workflows de gran impacto.
Las medidas de protección guían a los agentes hacia las respuestas adecuadas y detienen las incorrectas antes de que lleguen al usuario. Protegen las conversaciones en varias capas: dan forma a cómo responde el agente, validan la entrada del usuario y evalúan de forma independiente cada respuesta sin añadir latencia. En conjunto, reducen el riesgo para la marca y el cumplimiento normativo en cada conversación.
Cómo funcionan las medidas de protección
Las medidas de protección protegen las conversaciones en tres niveles:
Refuerzo del prompt de sistema: La forma principal de controlar el comportamiento del agente. Añades instrucciones explícitas en el prompt de sistema sobre los comportamientos permitidos y no permitidos, y activas la medida de protección Focus para reforzar esas instrucciones durante toda la conversación. Esto mantiene a tu agente en el camino correcto en la gran mayoría de las interacciones.
Validación de la entrada del usuario: Una red de seguridad que detecta intentos adversarios antes de que el agente llegue a responder. Las medidas de protección analizan lo que dice el usuario, detectan intentos de inyección de prompts y manipulación, y pueden finalizar conversaciones que supongan un riesgo de seguridad.
Validación de respuestas del agente: Una comprobación final que evalúa de forma independiente cada respuesta del agente en tiempo real según tus políticas configuradas. Si el agente está a punto de decir algo que infringe tus reglas pese a su prompt de sistema, los validadores de respuesta lo bloquean antes de enviarlo.
El refuerzo del prompt de sistema es la base. La validación de entradas y respuestas aporta correcciones para cualquier cosa que se escape. Para tus reglas más importantes, inclúyelas tanto en el prompt de sistema como en una medida de protección personalizada independiente; así crearás una defensa en profundidad, de modo que, incluso si el LLM se desvía de sus instrucciones, el validador de respuestas lo detectará antes de enviarlo.
Refuerzo del prompt de sistema
La forma más eficaz de conseguir que tu agente se comporte como esperas es redactar un buen prompt de sistema y activar la medida de protección Focus. Juntos, guían a los agentes hacia las respuestas adecuadas desde el principio.
Puedes usar el prompt de sistema para proporcionar instrucciones explícitas sobre lo que tu agente debe y no debe hacer. Los modelos están ajustados para prestar especial atención al encabezado # Guardrails. Usa este encabezado para tus reglas de comportamiento más importantes.
Para obtener una guía completa sobre cómo redactar prompts de sistema eficaces, consulta nuestra guía de prompting. El equipo de ElevenLabs asignado a tu cuenta también puede ayudarte a crear prompts de sistema de alta calidad.
Medida de protección Focus: La medida de protección Focus refuerza el prompt de sistema de tu agente y ayuda a mantener las respuestas dirigidas, pertinentes y coherentes con tus objetivos e instrucciones definidos. Resulta especialmente útil en conversaciones largas o complejas, donde es más probable que el agente se desvíe de sus objetivos previstos.
La combinación del refuerzo del prompt de sistema y la activación de la medida de protección Focus es la forma más eficaz de guiar a los agentes hacia las respuestas adecuadas.
Validación de la entrada del usuario
Medidas de protección contra la manipulación
Detecta y bloquea intentos de usuarios de manipular al agente para que ignore sus instrucciones. Cuando está activada, el sistema analiza las entradas del usuario en busca de patrones que indiquen intentos de inyección o de anulación de instrucciones, y puede finalizar conversaciones que supongan un riesgo de seguridad.
Validación de respuestas del agente
Medidas de protección de contenido
Marca y evita contenido inapropiado en las respuestas del agente, como material políticamente sensible, sexualmente explícito o violento, antes de que llegue al usuario. Esto ayuda a mantener las respuestas adecuadas para el caso de uso y la audiencia previstos de tu agente.
Medidas de protección personalizadas
A medida que los agentes asumen tareas de gran impacto, los equipos necesitan un control claro sobre cómo se comportan. Las medidas de protección personalizadas te permiten configurar las políticas más importantes para tu negocio. Por ejemplo:
- Un asistente de comercio minorista no debe emitir reembolsos por artículos que no cumplan los requisitos.
- Un recepcionista de atención sanitaria no debe dar consejos médicos.
- Un agente bancario no debe recomendar inversiones.
Las medidas de protección personalizadas son reglas basadas en LLM que te permiten definir tus propios criterios de bloqueo mediante prompts en lenguaje natural. Cada medida de protección personalizada activada envía las respuestas del agente a un modelo ligero, que las evalúa según tu regla y devuelve una decisión de bloqueo o aprobación. Esto te proporciona un control flexible y específico de tu dominio sobre lo que tu agente puede y no puede decir.
Para cada medida de protección personalizada puedes definir:
Las medidas de protección personalizadas pueden utilizarse para bloquear temas específicos relevantes para tu negocio, aplicar requisitos de cumplimiento normativo propios del sector e implementar medidas de seguridad propias. Puedes activar o desactivar cada una individualmente sin eliminarla y, cuando hay varias activadas, se ejecutan en paralelo con otras medidas de protección. Todas las infracciones activadas se registran para su revisión.
Modo de ejecución
El modo de ejecución determina si las medidas de protección añaden tiempo de espera antes de que el usuario vea o escuche una respuesta.
En modo streaming, la respuesta del agente puede comenzar antes de que se active la medida de protección; en voz, se puede enviar una pequeña parte del audio (a menudo menos de 500 ms) antes de que un bloqueo finalice la llamada. En los agentes de texto, los usuarios pueden ver respuestas parciales o completas si la evaluación no termina antes del envío.
En modo blocking, el agente solo responde después de validar las medidas de protección. Esto suele añadir entre 200 y 500 ms de latencia adicional.
Estrategias de salida
Las estrategias de salida te permiten definir qué hace tu agente cuando se activa una medida de protección. Puedes elegir entre:
end_call(predeterminado): finaliza la llamada inmediatamenteretry: regenera la respuesta usando tus comentarios en lugar de interrumpir la conversación. La respuesta del agente se vuelve a intentar hasta tres veces y, si todos los intentos siguen infringiendo la medida de protección, la llamada finaliza.
El reintento solo funciona en modo de bloqueo. En modo streaming, finalizar la llamada es la única estrategia de salida disponible.
Comentarios para reintentos
Los comentarios de retry pueden contener cualquier instrucción que quieras aplicar en el siguiente turno; se introducen como guía del sistema antes de que el modelo regenere la respuesta. Esto incluye invocar herramientas de sistema como transfer_to_agent o transfer_to_number. Estos son algunos ejemplos de cómo puedes configurar los comentarios para reintentos:
- Rechazo genérico (predeterminado)
Tu respuesta ha sido bloqueada por una medida de protección que bloquea contenido que coincide con esta condición/categoría: ‘{{trigger_reason}}’. En tu siguiente turno debes decir al usuario “Lo siento, pero no puedo responder a esa pregunta. ¿Quieres saber otra cosa?” - Reintento con instrucciones correctivas
Tu respuesta anterior ha sido bloqueada por una medida de protección. Tu respuesta bloqueada fue: ‘{{agent_message}}’. En tu siguiente turno debes proporcionar una nueva respuesta que no infrinja: ‘{{trigger_reason}}’ - Transferir a otro agente
Tu respuesta anterior ha sido bloqueada por la medida de protección. En tu siguiente turno debes usar la herramienta transfer_to_agent y transferir a un agente. Tu respuesta bloqueada fue: ‘{{agent_message}}’. La medida de protección bloquea contenido que coincide con esta condición/categoría: ‘{{trigger_reason}}’. - Transferir a una persona
Tu respuesta ha sido bloqueada por una medida de protección que bloquea contenido que coincide con esta condición/categoría: ‘{{trigger_reason}}’. En tu siguiente turno DEBES transferir la llamada a un operador humano mediante la herramienta transfer_to_number.
Para usar herramientas de sistema en los comentarios para reintentos, activa y configura las herramientas correspondientes en los ajustes del agente. Solo se pueden invocar las herramientas configuradas en el agente.
Puedes usar estos marcadores de posición en el texto de los comentarios:
Se recomienda el modo de ejecución streaming para agentes de voz; se recomienda el modo de ejecución blocking para agentes de texto.
El modo blocking (especialmente con retry) puede comportarse de forma menos predecible en voz. Si usas bloqueo en voz, valídalo exhaustivamente o elige end call en lugar de retry hasta que tengas confianza en el comportamiento.
Precios
Las medidas de protección Focus, Manipulation y Content están incluidas sin coste adicional para todos los usuarios de ElevenAgents.
Las medidas de protección personalizadas se cobran según el uso y generan costes adicionales de LLM, al igual que otras llamadas a modelos en ElevenAgents. Cada medida de protección personalizada activada envía cada respuesta del agente a un modelo ligero para su evaluación, por lo que el coste depende de la longitud del prompt, la duración media de la conversación y el volumen de conversaciones. Si activas varias medidas de protección personalizadas, cada una ejecuta su propia evaluación por respuesta. Te recomendamos revisar el tráfico previsto y el modelo elegido antes de activar varias medidas de protección personalizadas en producción.
Puedes ver un coste estimado (debajo del prompt) al crear o editar una medida de protección personalizada.
Reintento y coste: Cada intento supone una generación adicional del agente y otra evaluación de la medida de protección, por lo que retry aumenta la facturación según uso en comparación con end_call (hasta tres intentos por turno bloqueado).
Configuración
Configurar desde el panel de control
Configurar mediante la CLI
Configurar mediante la API
Ve a los ajustes del agente
Abre tu agente en el panel de control de ElevenLabs y ve a la pestaña Seguridad.
Activa las medidas de protección
Activa las categorías de medidas de protección que quieras habilitar. Puedes usar los botones predefinidos para activar rápidamente todas las categorías o desactivarlas todas.
Configura el modo de ejecución y la estrategia de salida (medidas de protección personalizadas y de contenido)
Para cada medida de protección personalizada o de contenido, elige el modo de ejecución streaming o blocking.
Blocking es adecuado para agentes de texto; streaming es adecuado para agentes de voz. Configura Acción ante
infracción de medida de protección (asignada a trigger_action): finalizar llamada en cualquier modo, o reintentar
solo cuando se seleccione blocking (retry no está disponible en streaming). Si eliges
retry, edita Comentarios que se insertarán al reintentar para orientar el modelo. Usa los marcadores de posición
{{trigger_reason}} (el prompt personalizado o la categoría de contenido que causó el
bloqueo) y {{agent_message}} en la plantilla.
Cuando se activa una medida de protección, el comportamiento depende del tipo y la configuración:
- Finalizar llamada: La sesión termina inmediatamente (la llamada se corta en voz, el chat termina en texto). La activación se registra en el historial de conversaciones.
- Reintentar (medidas de protección personalizadas o de contenido en modo de bloqueo): Se elimina el turno infractor del asistente, se insertan comentarios del sistema y el modelo lo intenta de nuevo, hasta tres veces, antes de que finalice la sesión si la medida de protección sigue activándose.
Con finalizar llamada, los usuarios finales experimentan una llamada cortada o un chat finalizado. Los detalles de la infracción están disponibles para ti en los registros de conversación y no se muestran literalmente al usuario final.
Después de finalizar llamada, los usuarios pueden iniciar una nueva conversación. La medida de protección no bloquea permanentemente al usuario; bloquea la respuesta específica (o la sesión) que infringió la política.
Buenas prácticas
Agentes de atención al cliente
Usa medidas de protección personalizadas para aplicar políticas específicas de negocio. Ejemplos: - Bloquear la emisión de reembolsos, créditos o cambios de suscripción a menos que la elegibilidad se confirme mediante herramientas. - Bloquear la concesión de descuentos o códigos promocionales salvo autorización explícita. - Bloquear respuestas que especulen sobre elementos de la hoja de ruta o funcionalidades no lanzadas.
Aplicaciones sanitarias
Usa medidas de protección personalizadas para controlar estrictamente los límites médicos. Ejemplos: - Bloquear el diagnóstico de afecciones o la recomendación de tratamientos específicos. - Bloquear recomendaciones de dosis de medicamentos.
- Bloquear la sustitución del consejo de un profesional médico autorizado.
Contenido educativo
Usa medidas de protección personalizadas para controlar temas académicos sensibles. Ejemplos: - Bloquear instrucciones paso a paso para experimentos perjudiciales o procedimientos inseguros. - Bloquear la generación de solucionarios para evaluaciones o exámenes en curso. - Bloquear contenido que pueda facilitar la deshonestidad académica.
Herramientas empresariales internas
Usa medidas de protección personalizadas para proteger las operaciones y los datos de la empresa. Ejemplos: - Bloquear el intercambio de documentación solo interna o procesos confidenciales. - Bloquear la revelación de API privadas, prompts de sistema o detalles de infraestructura. - Bloquear la simulación de acciones que requieran autoridad ejecutiva o administrativa.
Prueba con situaciones realistas
Antes de desplegar, prueba la configuración de tus medidas de protección con:
- Flujos de conversación normales para asegurar que no haya falsos positivos
- Casos límite que se aproximen a los límites de seguridad sin cruzarlos
- Prompts adversarios que intenten provocar respuestas perjudiciales
Preguntas frecuentes
¿Las medidas de protección afectan a la latencia?
En el caso de las medidas de protección personalizadas y de contenido, el modo streaming no añade latencia adicional, pero la respuesta puede empezar antes de que se active la medida de protección. El modo blocking espera a la medida de protección antes de que el agente responda, lo que suele añadir unos 200–500 ms de retraso. Retry añade generaciones adicionales completas (y reevaluaciones) por intento, hasta tres veces por turno bloqueado, lo que también aumenta el coste basado en el uso.
¿Cuál es la diferencia entre los modos de ejecución streaming y blocking?
Streaming no añade latencia adicional, pero la respuesta del agente puede comenzar antes de que se active la medida de protección.
Blocking espera el resultado de la medida de protección antes de que el agente responda (normalmente
con un retraso de 200–500 ms). Retry como estrategia de salida (trigger_action) solo está
disponible en modo blocking; en modo streaming se utiliza end call cuando se activa una medida de protección.
Blocking permite usar retry con feedback del sistema inyectado en lugar de finalizar la
conversación inmediatamente, a cambio de un mayor uso del modelo y facturación adicional cuando
se producen reintentos. Se recomienda blocking para agentes de texto; se recomienda streaming para
agentes de voz.
¿Puedo desactivar las medidas de protección por completo?
Sí, pero recomendamos encarecidamente mantener todas las medidas de protección activadas, especialmente Focus Guardrail. Protegen tu marca, tus usuarios y tu cumplimiento normativo, y las recomendamos para todas las aplicaciones en producción, incluidas las herramientas internas. En casos excepcionales, puede que quieras desactivar una medida de protección concreta si interfiere con el caso de uso previsto de tu agente. Por ejemplo, algunas aplicaciones pueden tratar temas que Content Guardrail marcaría de otro modo, o un prompt de sistema muy personalizado puede no funcionar correctamente con Focus Guardrail activada. Cada medida de protección se puede activar o desactivar individualmente.
¿Pueden los usuarios recurrir las decisiones de las medidas de protección?
Las activaciones de las medidas de protección se registran y se pueden revisar en las analíticas de tus conversaciones. Si identificas falsos positivos, ajusta los prompts de tus medidas de protección. No hay un proceso de recurso automatizado: el usuario simplemente debe iniciar una conversación nueva.
¿Cómo sé qué medida de protección se ha activado?
La información sobre qué medida de protección se ha activado está disponible en los registros de tus conversaciones.
¿Debo usar tanto Guardrails como el refuerzo del prompt de sistema?
Sí. Tienen propósitos complementarios. El refuerzo del prompt de sistema proporciona orientación sobre el comportamiento y evita la mayoría de los problemas mediante el seguimiento de instrucciones. Las medidas de protección de la plataforma proporcionan una aplicación independiente como red de seguridad. Usar ambos crea una defensa en profundidad.
Próximos pasos
- Guía de prompting: Aprende a escribir prompts de sistema eficaces con medidas de protección de comportamiento
- Privacidad: Configura los ajustes de retención de datos y privacidad
- Pruebas: Prueba tu agente en diferentes escenarios
- Simular conversaciones: Prueba programáticamente las configuraciones de las medidas de protección
- Redacción del historial de conversaciones: Oculta información sensible, como nombres y datos bancarios, del historial de conversaciones
Estado de lanzamiento
Guardrails está disponible de forma general, incluidas las medidas de protección Focus y Manipulation.
Las medidas de protección Content y Custom están en Alpha. Las estamos mejorando activamente, y puedes esperar que sus valores predeterminados, controles del panel y campos de la API sigan evolucionando antes de su disponibilidad general. Algunos cambios pueden causar incompatibilidades.
Si utilizas las medidas de protección Content o Custom, te recomendamos validar tu configuración, supervisar el comportamiento de las medidas de protección en tus registros y revisar tu configuración a medida que se publiquen actualizaciones.