Guardrails 2.0: Un nuovo livello di controllo in ElevenAgents

Man mano che gli agenti vocali svolgono attività ad alto impatto nell'assistenza clienti, nelle vendite, nel marketing, nei workflow interni e altro ancora, i team devono avere la certezza che rimangano sicuri, in linea con il brand e conformi su scala aziendale.

Guardrails 2.0 in ElevenAgents è un livello di controllo riprogettato che aiuta a guidare gli agenti verso le risposte corrette e a evitare quelle sbagliate prima che raggiungano l'utente finale.

Protezione su più livelli in tempo reale

Un system prompt ben progettato porta a un comportamento prevedibile nella maggior parte delle interazioni. Tuttavia, poiché gli agenti sono sistemi non deterministici, possono perdere la direzione nelle conversazioni lunghe, gli utenti possono trovare modi creativi per superare i limiti e persino policy ben definite non sempre reggono quando il modello è sotto pressione.

Per questo i team che distribuiscono agenti in produzione hanno bisogno di difese su più livelli: un system prompt solido come base, oltre a controlli indipendenti su ciò che dicono gli utenti e su come rispondono gli agenti.

Guardrails 2.0 protegge le conversazioni su tre livelli, ciascuno dei quali rafforza gli altri:

Protezioni preconfigurate

Le protezioni preconfigurate coprono le aree di rischio più comuni.

Focus Guardrail rafforza il system prompt del tuo agente, contribuendo a mantenere le risposte mirate, pertinenti e coerenti con gli obiettivi e le istruzioni che hai definito. È particolarmente utile nelle conversazioni lunghe o complesse, in cui è più probabile che l'agente si discosti dagli obiettivi previsti.

Manipulation Guardrails rileva e blocca i tentativi degli utenti di aggirare le istruzioni di sistema. Quando è abilitato, il sistema analizza gli input degli utenti alla ricerca di pattern che indicano tentativi di prompt injection o di sovrascrittura delle istruzioni e può terminare le conversazioni che rappresentano un rischio per la sicurezza.

Content Guardrails aiuta a garantire risposte appropriate dell'agente, analizzando più categorie di contenuti potenzialmente sensibili o non sicuri, ciascuna con soglie regolabili per un controllo preciso.

Custom Guardrails: le tue regole, applicate automaticamente

Custom Guardrails ti consente di definire policy specifiche per il tuo dominio in linguaggio naturale e applicarle automaticamente a ogni chiamata. Ciò aiuta a ridurre incidenti, escalation e cicli di revisione della conformità normativa che possono rallentare la distribuzione.

Un modello leggero valuta ogni risposta dell'agente rispetto alle tue regole e restituisce una decisione di blocco o autorizzazione, operando in modo indipendente e parallelo alla generazione della risposta.

Controllo completo sull'esecuzione dei guardrail

Puoi controllare come vengono intercettate le violazioni delle policy e cosa succede dopo.

Modalità di esecuzione. Configura il compromesso tra velocità e rigore: essenziale per la voce, dove la latenza conta più di tutto. Puoi eseguire i guardrail insieme alla risposta per un ritardo quasi nullo, anche se una frazione di secondo di audio potrebbe essere riprodotta prima dell'intercettazione. Oppure puoi trattenere le risposte finché non vengono completamente approvate: è leggermente più lento, ma nulla raggiunge l'utente senza essere controllato.

Strategie di uscita. Quando viene attivato un guardrail, definisci cosa succede dopo: termina la conversazione, trasferiscila a un altro agente, inoltrala a una persona o riprova la risposta con istruzioni correttive.

Livelli di sensibilità dei contenuti. Regola la sensibilità per le singole categorie di contenuti, rendendo l'applicazione più rigorosa per i casi d'uso a rischio più elevato e meno severa dove bloccare eccessivamente comprometterebbe l'esperienza utente.

Configurazione granulare. Ogni guardrail può essere abilitato o disabilitato individualmente e agenti diversiagenti possono utilizzare configurazioni diverse.

Visibilità completa. Ogni attivazione viene registrata nelle analisi delle tue conversazioni, incluso il guardrail attivato e l'azione intrapresa. In questo modo i team dispongono dei dati necessari per perfezionare nel tempo system prompt e guardrail.

Redazione della cronologia delle conversazioni

Al termine di una chiamata, puoi oscurare automaticamente le informazioni sensibili da trascrizioni, registrazioni e payload webhook. Conserva tutto ciò che ti serve per analisi, QA e formazione, rimuovendo ciò che non ti serve.

Le entità rilevate vengono sostituite da segnaposto nel testo e da segnali acustici nell'audio. Puoi controllare il livello di granularità fino ai singoli tipi di entità: oscura tutti i nomi o solo i cognomi, tutti gli identificatori finanziari o solo i numeri delle carte di pagamento.

Questa funzionalità si affianca a controlli dei dati più ampi, come Zero Retention Mode, utilizzabile per distribuzioni con requisiti di conformità normativa più rigorosi.

La redazione della cronologia delle conversazioni e Zero Retention Mode sono disponibili per i clienti enterprise. Contatta il team vendite per ottenere l'accesso.

Parte di una più ampia base di fiducia e sicurezza

Guardrails 2.0 e le funzionalità per la privacy dei dati supportano le distribuzioni enterprise di ElevenAgents, insieme a strumenti di sicurezza per ogni fase del ciclo di vita dell'agente:

Sviluppo dell'agente

• Progettazione del system prompt, configurazione dei guardrail, red teaming e simulazioni per sottoporre a stress test il comportamento prima che gli agenti entrino in funzione

Ogni conversazione

• Durante: Guardrails 2.0 (Focus, Manipulation, Content e Custom Guardrails), log, Zero Retention Mode opzionale
• Dopo: Criteri di valutazione, monitoraggio, redazione della cronologia delle conversazioni opzionale

Insieme, questi strumenti offrono ai team i controlli necessari per passare dal progetto pilota alla produzione con meno incidenti, cicli di approvazione più rapidi e un comportamento degli agenti più coerente. Queste basi della piattaforma supportano inoltre l'idoneità alla certificazione AIUC-1 e l'accesso alle prime polizze assicurative per agenti del settore.

Inizia a usare Guardrails oggi

Negli ultimi mesi abbiamo rilasciato gradualmente queste funzionalità e l'intera suite Guardrails 2.0 è ora disponibile in alpha in ElevenAgents.

Abilitali nella scheda Sicurezza delle impostazioni dell'agente, oppure configurali tramite API. Per maggiori informazioni sulle distribuzioni enterprise, contatta il nostro team vendite.

Per istruzioni sulla configurazione e best practice, consulta:

• Documentazione sui Guardrails
• Documentazione sulla redazione della cronologia delle conversazioni