Guardrails 2.0: Ett omarbetat kontrollager i ElevenAgents

När röstassistenter tar sig an viktiga uppgifter inom support, försäljning, marknadsföring, interna arbetsflöden med mera behöver team känna sig trygga med att de förblir säkra, följer varumärket och uppfyller kraven i stor skala.

Guardrails 2.0 i ElevenAgents är ett omarbetat kontrollager som hjälper till att styra agenter mot rätt svar och förhindra felaktiga svar innan de når slutanvändaren.

Flerlagersskydd i realtid

En välformulerad systemprompt ger förutsägbart beteende i de flesta interaktioner. Men eftersom agenter är icke-deterministiska system kan de tappa fokus i långa samtal, användare kan hitta kreativa sätt att tänja på gränserna och även väldefinierade policyer håller inte alltid när modellen sätts under press.

Därför behöver team som driftsätter agenter i produktion ett flerskiktat skydd: en robust systemprompt som grund, kompletterad med oberoende kontroller av vad användare säger och hur agenter svarar.

Guardrails 2.0 skyddar samtal på tre nivåer, som alla förstärker varandra:

Inbyggda skydd

De inbyggda skydden täcker de vanligaste riskområdena.

Focus Guardrail förstärker agentens systemprompt och hjälper till att hålla svaren fokuserade, relevanta och i linje med dina definierade mål och instruktioner. Det är särskilt användbart i långa eller komplexa samtal där agenten löper större risk att avvika från sina avsedda mål.

Manipulation Guardrails upptäcker och blockerar användares försök att kringgå systeminstruktioner. När funktionen är aktiverad analyserar systemet användarinmatningar efter mönster som tyder på prompt injection eller försök att åsidosätta instruktioner, och kan avsluta samtal som innebär en säkerhetsrisk.

Content Guardrails hjälper till att säkerställa lämpliga agentsvar genom att granska flera kategorier av potentiellt känsligt eller osäkert innehåll, med justerbara tröskelvärden för exakt kontroll.

Custom Guardrails: Dina regler tillämpas automatiskt

Med Custom Guardrails kan du definiera områdesspecifika policyer på naturligt språk och tillämpa dem automatiskt i varje samtal. Det hjälper till att minska incidenter, eskaleringar och de granskningar för regelefterlevnad som kan bromsa driftsättningen.

En lättviktig modell utvärderar varje agentsvar mot dina regler och fattar beslut om att blockera eller tillåta det, oberoende av och parallellt med svarsgenereringen.

Full kontroll över hur guardrails körs

Du kan styra hur policyöverträdelser fångas upp och vad som händer sedan.

Körlägen. Konfigurera avvägningen mellan hastighet och strikthet – avgörande för röst, där svarstiden är särskilt viktig. Du kan köra guardrails parallellt med svaret för nästintill ingen fördröjning, men en bråkdel av en sekunds ljud kan spelas upp innan det stoppas. Eller vänta med svar tills de har godkänts helt – något långsammare, men inget når användaren utan kontroll.

Avslutsstrategier. När en guardrail utlöses bestämmer du vad som händer sedan: avsluta samtalet, överför till en annan agent, eskalera till en människa eller försök igen med korrigerande instruktioner.

Känslighetsnivåer för innehåll. Justera känsligheten för enskilda innehållskategorier, med striktare tillämpning för användningsfall med högre risk och mindre strikt där överblockering skulle försämra användarupplevelsen.

Detaljerad konfiguration. Varje guardrail kan aktiveras eller inaktiveras individuellt, och olika agenter kan köra olika konfigurationer.

Full insyn. Varje utlösning loggas i din samtalsanalys, inklusive vilken guardrail som utlöstes och vilken åtgärd som vidtogs. Det ger team den data de behöver för att förbättra sina systemprompter och guardrails över tid.

Redigering av samtalshistorik

När ett samtal avslutas kan du automatiskt redigera bort känslig information från transkriptioner, inspelningar och webhook-payloads. Behåll allt du behöver för analys, QA och träning, och ta bort det du inte behöver.

Identifierade entiteter ersätts med platshållare i text och pipljud i ljud. Du styr detaljnivån ned till enskilda entitetstyper: redigera bort alla namn eller bara efternamn, alla finansiella identifierare eller bara betalkortsnummer.

Detta kompletterar bredare datakontroller som Zero Retention Mode, som kan användas för driftsättningar med strängare krav på regelefterlevnad.

Redigering av samtalshistorik och Zero Retention Mode är tillgängliga för företagskunder. Kontakta säljteamet för att få åtkomst.

En del av en bredare grund för tillit och säkerhet

Guardrails 2.0 och funktioner för dataskydd stödjer företagsdriftsättningar av ElevenAgents, tillsammans med säkerhetsverktyg för varje steg i agentens livscykel:

Agentutveckling

• Utformning av systemprompter, konfiguration av guardrails, red teaming och simuleringar för att stresstesta beteendet innan agenter tas i drift

Varje samtal

• Under: Guardrails 2.0 (Focus, Manipulation, Content och Custom Guardrails), loggning, valfritt Zero Retention Mode
• Efter: Utvärderingskriterier, övervakning, valfri redigering av samtalshistorik

Tillsammans ger dessa team den kontroll de behöver för att gå från pilotprojekt till produktion med färre incidenter, snabbare godkännandeprocesser och mer konsekvent agentbeteende. Den här grunden i plattformen stödjer även möjligheten att kvalificera sig för AIUC-1-certifiering och få tillgång till branschens första försäkringspolicyer för agenter.

Börja använda Guardrails i dag

Vi har lanserat funktioner under de senaste månaderna, och hela Guardrails 2.0-sviten finns nu tillgänglig i alfa i ElevenAgents.

Aktivera dem på fliken Säkerhet i agentens inställningar, eller konfigurera dem via API:t. Kontakta vårt säljteam om du vill veta mer om företagsdriftsättningar.

Se följande för vägledning om konfigurering och bästa praxis:

• Guardrails-dokumentation
• Dokumentation för redigering av samtalshistorik