Maak kennis met Eleven v4Maak kennis met Eleven v4, ons meest expressieve model tot nu toe.

Naar content

Guardrails 2.0: een vernieuwde controlelaag in ElevenAgents

Gepubliceerd
Laatst bijgewerkt

LuisterenLuister naar dit artikel

Naarmate spraakagents belangrijk werk uitvoeren in support, sales, marketing, interne workflows en meer, hebben teams de zekerheid nodig dat ze veilig, merkgetrouw en compliant blijven op ondernemingsschaal.

Guardrails 2.0 in ElevenAgents is een vernieuwde controlelaag die agents helpt naar de juiste antwoorden te sturen en verkeerde antwoorden te voorkomen voordat ze de eindgebruiker bereiken.

Guardrails Cover

Gelaagde bescherming in realtime

Een goed opgestelde system prompt zorgt bij de meeste interacties voor voorspelbaar gedrag. Omdat agents echter niet-deterministische systemen zijn, kunnen ze in lange gesprekken afdwalen, kunnen gebruikers creatieve manieren vinden om grenzen te verleggen, en houden zelfs goed gedefinieerde beleidsregels niet altijd stand wanneer het model onder druk staat.

Daarom hebben teams die agents in productie inzetten gelaagde bescherming nodig: een robuuste system prompt als basis, aangevuld met onafhankelijke controles op wat gebruikers zeggen en hoe agents reageren.

Guardrails 2.0 beschermt gesprekken op drie niveaus, die elkaar elk versterken:

Wat het doet
Versterking van system prompts
Definieer toegestaan en niet-toegestaan gedrag in de system prompt. De Focus Guardrail versterkt deze instructies gedurende het hele gesprek.
Validatie van gebruikersinvoer
Een vangnet dat pogingen tot prompt injection en manipulatie opvangt en gesprekken beëindigt die een veiligheidsrisico vormen.
Validatie van agentreacties
Beoordeelt elk antwoord in realtime aan de hand van je beleidsregels. Als een antwoord je regels schendt, kan het vóór verzending worden geblokkeerd.
Guardrails
Versterking van system prompts
Focus
Validatie van gebruikersinvoer
Manipulatie
Validatie van agentreacties
Content, Custom Guardrails

Ingebouwde bescherming

Ingebouwde waarborgen dekken de meest voorkomende risicogebieden.

De Focus Guardrail versterkt de system prompt van je agent, zodat antwoorden gericht, relevant en consistent met je gedefinieerde doelen en instructies blijven. Dit is vooral nuttig in lange of complexe gesprekken, waarin de kans groter is dat de agent afwijkt van de beoogde doelstellingen.

Manipulation Guardrails detecteren en blokkeren pogingen van gebruikers om system instructions te omzeilen. Als ze zijn ingeschakeld, analyseert het systeem gebruikersinvoer op patronen die wijzen op prompt injection of pogingen om instructies te overschrijven, en kan het gesprekken beëindigen die een veiligheidsrisico vormen.

Content Guardrails helpen passende agentreacties te waarborgen door meerdere categorieën van mogelijk gevoelige of onveilige content te screenen, elk met instelbare drempelwaarden voor nauwkeurige controle.

Custom Guardrails: je regels, automatisch gehandhaafd

Met Custom Guardrails kun je domeinspecifieke beleidsregels in natuurlijke taal definiëren en deze automatisch handhaven bij elk gesprek. Dit helpt incidenten, escalaties en compliancebeoordelingscycli te verminderen die de implementatie kunnen vertragen.

Custom Guardrail Configuration Example

Een lichtgewicht model beoordeelt elke agentreactie aan de hand van je regels en geeft een beslissing om te blokkeren of toe te staan, onafhankelijk en parallel aan het genereren van reacties.

Volledige controle over hoe guardrails werken

Je bepaalt hoe beleidsschendingen worden opgevangen en wat er daarna gebeurt.

Uitvoeringsmodi. Stel de afweging tussen snelheid en strengheid in – essentieel voor spraak, waar latentie het belangrijkst is. Je kunt guardrails naast de reactie uitvoeren voor vrijwel geen vertraging, hoewel een fractie van een seconde audio kan worden afgespeeld voordat er wordt ingegrepen. Of houd reacties vast totdat ze volledig zijn goedgekeurd – iets langzamer, maar niets bereikt de gebruiker ongecontroleerd.

Exitstrategieën. Wanneer een guardrail wordt geactiveerd, bepaal je wat er daarna gebeurt: beëindig het gesprek, zet het door naar een andere agent, escaleer naar een persoon of probeer de reactie opnieuw met corrigerende instructies.

Gevoeligheidsniveaus voor content. Stem de gevoeligheid af per afzonderlijke contentcategorie: verscherp de handhaving voor toepassingen met een hoger risico en versoepel deze waar te veel blokkeren de gebruikerservaring zou schaden.

Gedetailleerde configuratie. Elke guardrail kan afzonderlijk worden in- of uitgeschakeld, en verschillende agents kunnen verschillende configuraties gebruiken.

Volledig inzicht. Elke activering wordt vastgelegd in je gespreksanalyse, inclusief welke guardrail werd geactiveerd en welke actie is ondernomen. Zo krijgen teams de data die ze nodig hebben om hun system prompts en guardrails in de loop van de tijd te verfijnen.

Redactie van gesprekshistorie

Nadat een gesprek is beëindigd, kun je gevoelige informatie automatisch redigeren uit transcripten, opnames en webhook-payloads. Bewaar alles wat je nodig hebt voor analyse, QA en training, terwijl je verwijdert wat je niet nodig hebt.

Gedetecteerde entiteiten worden vervangen door placeholders in tekst en pieptonen in audio. Je bepaalt de granulariteit tot op het niveau van afzonderlijke entiteitstypen: redigeer alle namen of alleen achternamen, alle financiële identificatiegegevens of alleen betaalkaartnummers.

Dit vormt een aanvulling op bredere datacontroles zoals Zero Retention Mode, die kan worden gebruikt voor implementaties met strengere compliancevereisten.

Conversation History Redaction Example

Redactie van gesprekshistorie en Zero Retention Mode zijn beschikbaar voor enterprise-klanten. Neem contact op met sales voor toegang.

Onderdeel van een bredere basis voor vertrouwen en veiligheid

Guardrails 2.0 en functies voor dataprivacy ondersteunen enterprise-implementaties van ElevenAgents, naast veiligheidstools voor elke fase van de agentlevenscyclus:

Agentontwikkeling

  • Ontwerp van system prompts, guardrailconfiguratie, red teaming en simulaties om gedrag te stresstesten voordat agents live gaan

Elk gesprek

  • Tijdens: Guardrails 2.0 (Focus, Manipulation, Content en Custom Guardrails), logging, optionele Zero Retention Mode
  • Na afloop: Evaluatiecriteria, monitoring, optionele Conversation History Redaction

Samen geven deze teams de controles die ze nodig hebben om van pilot naar productie te gaan met minder incidenten, snellere goedkeuringscycli en consistenter agentgedrag. Deze platformfundamenten ondersteunen ook de geschiktheid voor AIUC-1-certificering en toegang tot de eerste verzekeringspolissen voor agents in de sector.

Begin vandaag met Guardrails

We hebben de afgelopen maanden functies uitgerold en de volledige Guardrails 2.0-suite is nu als alpha beschikbaar in ElevenAgents.

Schakel ze in op het tabblad Security van de instellingen van je agent, of configureer ze via de API. Neem voor meer informatie over enterprise-implementaties contact op met ons salesteam.

Bekijk voor hulp bij de installatie en best practices:

Krijg toegang tot enterprise-datacontroles

Hulp nodig? Ga naar ons Helpcentrum

Geschreven door

Eli is on the ElevenAgents growth team, helping drive awareness and adoption of conversational agents. Previously, he was on the growth teams at Rippling and Spot AI, and studied Management Science & Engineering at Stanford University.

Vergelijkbare artikelen

Creëer met AI-audio van de hoogste kwaliteit