Presentazione delle Procedure in ElevenAgents

Quando gli agenti IA si occupano di attività importanti come rimborsi, problemi di fatturazione o assistenza sui prodotti, hai bisogno di un modo chiaro per guidare il loro comportamento in ogni situazione.

Così come i dipendenti seguono le Procedure Operative Standard (SOP), le Procedure ti permettono di fornire agli agenti una serie di istruzioni da seguire negli scenari più comuni. Sono facili da creare, gestire e aggiornare sia per chi ha competenze tecniche sia per chi non le ha, così puoi costruire agenti davvero efficaci.

Le Procedure permettono agli agenti di gestire sia compiti ben definiti che attività più aperte.

Un prompt di sistema ben progettato porta a comportamenti prevedibili nella maggior parte delle interazioni. Tuttavia, poiché gli agenti sono sistemi non deterministici, possono perdere il focus nelle conversazioni lunghe, gli utenti possono trovare modi creativi per aggirare i limiti e anche le policy più chiare non sempre reggono quando il modello è sotto pressione.

Procedure strutturate

Procedure libere

Se hai già delle SOP che vuoi far seguire al tuo agente, puoi importarle come doc, PDF o file txt e ElevenAgents crea una bozza di Procedura che puoi confermare o modificare.

Le protezioni predefinite coprono le aree di rischio più comuni.

Un modo in più per personalizzare il tuo agente rafforza il prompt di sistema dell’agente, aiutando a mantenere le risposte mirate, pertinenti e coerenti con gli obiettivi e le istruzioni definite. È particolarmente utile nelle conversazioni lunghe o complesse, dove l’agente rischia di allontanarsi dagli obiettivi previsti.

Le Procedure ti aiutano a controllare il tuo agente, insieme al prompt di sistema, ai workflow e ai limiti che già usi. Con un comportamento dell’agente ben definito puoi ottenere risultati migliori per i clienti, da tassi di upsell più alti a una risoluzione più rapida dei ticket. rilevano e bloccano i tentativi degli utenti di aggirare le istruzioni di sistema. Se attivati, analizzano gli input degli utenti per individuare pattern che indicano tentativi di prompt injection o override delle istruzioni e possono terminare le conversazioni che rappresentano un rischio per la sicurezza.

Le Procedure sono ora disponibili in ElevenAgents, attualmente in Alpha. aiutano a garantire risposte appropriate da parte dell’agente, filtrando diverse categorie di contenuti potenzialmente sensibili o rischiosi, ciascuna con soglie regolabili per un controllo preciso.

Scopri di più:

I Custom Guardrails ti permettono di definire policy specifiche per il tuo settore in linguaggio naturale e di applicarle automaticamente a ogni chiamata. Questo aiuta a ridurre incidenti, escalation e cicli di revisione per la conformità che possono rallentare la distribuzione.

Un modello leggero valuta ogni risposta dell’agente rispetto alle tue regole e restituisce una decisione di blocco o autorizzazione, lavorando in modo indipendente e parallelo alla generazione della risposta.

Controllo totale su come funzionano i guardrail

Puoi decidere come vengono rilevate le violazioni delle policy e cosa succede dopo.

Modalità di esecuzione.Configura il bilanciamento tra velocità e rigidità: fondamentale per la voce, dove la latenza è cruciale. Puoi eseguire i guardrail insieme alla risposta per un ritardo quasi nullo, anche se una frazione di secondo di audio potrebbe essere riprodotta prima dell’intercettazione. Oppure puoi bloccare la risposta fino al controllo completo: leggermente più lento, ma nulla arriva all’utente senza verifica.

Strategie di uscita. Quando un guardrail viene attivato, decidi tu cosa succede: termina la conversazione, trasferisci a un altro agente, passa a un operatore umano oppure riprova la risposta con istruzioni correttive.

Livelli di sensibilità dei contenuti. Regola la sensibilità per ogni categoria di contenuto, aumentando il controllo nei casi d’uso più rischiosi e allentandolo dove un blocco eccessivo peggiorerebbe l’esperienza utente.

Configurazione granulare. Ogni protezione può essere attivata o disattivata singolarmente e diversi

Visibilità completa. Ogni attivazione viene registrata nelle analytics delle conversazioni, indicando quale guardrail è intervenuto e quale azione è stata eseguita. Così i team hanno i dati necessari per migliorare prompt di sistema e guardrail nel tempo.

Redazione della cronologia delle conversazioni

Dopo la fine di una chiamata, puoi oscurare automaticamente le informazioni sensibili da trascrizioni, registrazioni e payload dei webhook. Conserva tutto ciò che ti serve per analytics, QA e training, eliminando solo ciò che non ti serve.

Le entità rilevate vengono sostituite da placeholder nel testo e da beep nell’audio. Puoi decidere il livello di dettaglio fino al singolo tipo di entità: oscurare tutti i nomi o solo i cognomi, tutti gli identificativi finanziari o solo i numeri delle carte di pagamento.

Questa funzione si affianca ad altri controlli sui dati come la Modalità senza conservazione, utile per le distribuzioni con requisiti di conformità più stringenti.

La redazione della cronologia delle conversazioni e la Zero Retention Mode sono disponibili per i clienti enterprise.Contatta il team commerciale per l’accesso.

Parte di una base più ampia di fiducia e sicurezza

Guardrails 2.0 e le funzionalità di privacy dei dati supportano le distribuzioni enterprise di ElevenAgents insieme agli strumenti di sicurezza per ogni fase del ciclo di vita dell’agente:

Sviluppo dell’agente

• Progettazione del prompt di sistema, configurazione dei guardrail, red teaming e simulazioni per testare il comportamento prima della messa in produzione

Ogni conversazione

• Durante: Guardrails 2.0 (Focus, Manipulation, Content e Custom Guardrails), logging, Zero Retention Mode opzionale
• Dopo: Criteri di valutazione, monitoraggio, redazione opzionale della cronologia delle conversazioni

Insieme, questi strumenti danno ai team il controllo necessario per passare dal pilot alla produzione con meno incidenti, approvazioni più rapide e comportamenti degli agenti più coerenti. Queste basi della piattaforma supportano anche l’idoneità alla certificazione AIUC-1 e l’accesso alle prime polizze assicurative per agenti del settore.

Inizia a usare Guardrails oggi stesso

Abbiamo introdotto nuove funzionalità negli ultimi mesi e l’intera suite Guardrails 2.0 è ora disponibile in alpha su ElevenAgents.

Attivali nella scheda Sicurezza delle impostazioni dell’agente, oppure configura tramite API. Per maggiori informazioni sulle distribuzioni enterprise, contatta il nostro team commerciale.

Per indicazioni sulla configurazione e best practice, consulta:

• Documentazione Guardrails
• Documentazione Redazione Cronologia Conversazioni