Guardrails

Overzicht

Guardrails bieden teams een krachtige manier om te bepalen hoe agents zich in productie gedragen, zodat ze bij het onderwerp en het merk blijven en op ondernemingsschaal bestand zijn tegen manipulatie.

Met Guardrails 2.0 hebben we de veiligheidslaag opnieuw ontworpen, zodat teams eenvoudiger aangepaste beleidsregels in gewone taal kunnen definiëren, ingebouwde beschermingen kunnen inschakelen, kunnen bepalen wat er gebeurt wanneer een guardrail wordt geactiveerd en agents met vertrouwen kunnen uitrollen in workflows met grote impact.

Guardrails sturen agents naar de juiste reacties en houden verkeerde reacties tegen voordat ze de gebruiker bereiken. Ze beschermen gesprekken op meerdere lagen: ze bepalen hoe de agent reageert, valideren gebruikersinvoer en beoordelen elke reactie onafhankelijk zonder latentie toe te voegen. Samen verkleint dit het merk- en compliancerisico in elk gesprek.

Hoe guardrails werken

Guardrails beschermen gesprekken op drie niveaus:

Versterking van de systeemprompt: De belangrijkste manier om het gedrag van een agent te sturen. Je voegt expliciete richtlijnen toe aan de systeemprompt over toegestaan en niet-toegestaan gedrag, en schakelt de Focus Guardrail in om deze instructies gedurende het gesprek te versterken. Hierdoor blijft je agent in de overgrote meerderheid van de interacties op koers.

Validatie van gebruikersinvoer: Een vangnet dat vijandige pogingen onderschept voordat de agent reageert. Guardrails analyseren wat de gebruiker zegt, detecteren pogingen tot prompt injection en manipulatie, en kunnen gesprekken beëindigen die een beveiligingsrisico vormen.

Validatie van agentreacties: Een laatste controle die elke reactie van de agent realtime onafhankelijk beoordeelt aan de hand van je geconfigureerde beleidsregels. Als de agent ondanks de systeemprompt iets dreigt te zeggen dat je regels schendt, blokkeren responsvalidators dit vóór verzending.

Versterking van de systeemprompt is de basis. Validatie van invoer en reacties corrigeert alles wat door de mazen van het net glipt. Neem je belangrijkste regels zowel op in je systeemprompt als in een onafhankelijke aangepaste Guardrail. Zo creëer je gelaagde bescherming: zelfs als het LLM afwijkt van zijn instructies, onderschept de responsvalidator dit vóór verzending.

Versterking van de systeemprompt

De effectiefste manier om je agent zich zoals bedoeld te laten gedragen, is een goede systeemprompt schrijven en de Focus Guardrail inschakelen. Samen sturen ze agents vanaf het begin naar de juiste reacties.

Je kunt de systeemprompt gebruiken om expliciete instructies te geven over wat je agent wel en niet moet doen. Modellen zijn afgestemd om extra aandacht te besteden aan de kop # Guardrails. Gebruik deze kop voor je belangrijkste gedragsregels.

# Guardrails
- Only provide information that is publicly documented about ElevenLabs products, pricing, and features.
- Do not speculate about unreleased features, internal roadmaps, or future pricing changes.
- If you cannot resolve an issue with available documentation or tools, clearly explain the limitation and offer to escalate to a human support representative.

Voor uitgebreide richtlijnen voor het schrijven van effectieve systeemprompts, bekijk onze gids voor prompting. Je ElevenLabs-accountteam kan je ook ondersteunen bij het opstellen van hoogwaardige systeemprompts.

Focus Guardrail: De Focus Guardrail versterkt de systeemprompt van je agent en helpt reacties gericht, relevant en consistent met je vastgestelde doelen en instructies te houden. Dit is vooral nuttig bij lange of complexe gesprekken, waarin de kans groter is dat de agent afwijkt van de beoogde doelen.

De combinatie van versterking van de systeemprompt en het inschakelen van de Focus Guardrail is de effectiefste manier om agents naar de juiste reacties te sturen.

Validatie van gebruikersinvoer

Manipulation Guardrails

Detecteert en blokkeert pogingen van gebruikers om de agent te manipuleren zodat deze zijn instructies omzeilt. Wanneer deze is ingeschakeld, analyseert het systeem gebruikersinvoer op patronen die duiden op pogingen tot injectie of het overschrijven van instructies, en kan het gesprekken beëindigen die een beveiligingsrisico vormen.

Validatie van agentreacties

Content guardrails

Markeert en voorkomt ongepaste content in agentreacties, zoals politiek gevoelige, seksueel expliciete of gewelddadige inhoud, voordat deze de gebruiker bereikt. Dit helpt reacties passend te houden voor het beoogde gebruiksscenario en publiek van je agent.

Aangepaste guardrails

Naarmate agents werk met grote impact oppakken, hebben teams duidelijke controle nodig over hoe ze zich gedragen. Met aangepaste Guardrails kun je de belangrijkste beleidsregels voor je bedrijf configureren. Bijvoorbeeld:

• Een retailassistent mag geen terugbetalingen uitvoeren voor artikelen die hiervoor niet in aanmerking komen.
• Een receptioniste in de zorg mag geen medisch advies geven.
• Een bankagent mag geen beleggingen aanbevelen.

Aangepaste Guardrails zijn regels op basis van LLM’s waarmee je je eigen blokkeercriteria definieert met prompts in natuurlijke taal. Elke ingeschakelde aangepaste Guardrail stuurt agentreacties naar een lichtgewicht model, dat deze aan je regel toetst en een beslissing om te blokkeren of toe te staan terugstuurt. Zo krijg je flexibele, domeinspecifieke controle over wat je agent wel en niet mag zeggen.

Voor elke aangepaste guardrail kun je het volgende definiëren:

Aangepaste Guardrails kunnen worden gebruikt om specifieke onderwerpen te blokkeren die relevant zijn voor je bedrijf, branchespecifieke compliancevereisten af te dwingen en bedrijfseigen veiligheidsmaatregelen te implementeren. Je kunt elke guardrail afzonderlijk in- of uitschakelen zonder deze te verwijderen. Wanneer er meerdere zijn ingeschakeld, worden ze parallel naast andere Guardrails uitgevoerd. Alle geactiveerde overtredingen worden gelogd voor beoordeling.

Uitvoeringsmodus

De uitvoeringsmodus bepaalt of guardrails wachttijd toevoegen voordat de gebruiker een reactie ziet of hoort.

In de modus streaming kan de agentreactie beginnen voordat de guardrail wordt geactiveerd. Bij spraak kan een klein deel van de audio (vaak minder dan 500 ms) worden afgespeeld voordat een blokkering het gesprek beëindigt. Bij tekstagents kunnen gebruikers gedeeltelijke of volledige reacties zien als de beoordeling niet vóór verzending klaar is.

In de modus Blocking reageert de agent pas nadat de guardrails zijn gevalideerd. Dit voegt doorgaans 200–500 ms extra latentie toe.

Exitstrategieën

Met exitstrategieën bepaal je wat je agent doet wanneer een guardrail wordt geactiveerd. Je kunt kiezen uit:

• end_call (standaard): beëindigt het gesprek onmiddellijk
• retry: genereert de reactie opnieuw met je feedback in plaats van het gesprek te beëindigen. De agentreactie wordt maximaal drie keer opnieuw geprobeerd. Als elke poging nog steeds de guardrail schendt, eindigt het gesprek.

Feedback voor opnieuw proberen

Feedback voor retry kan alle instructies bevatten die je in de volgende beurt wilt toepassen. Deze wordt als systeemrichtlijn ingevoegd voordat het model opnieuw genereert. Dit omvat het aanroepen van systeemtools zoals transfer_to_agent of transfer_to_number. Hier zijn enkele voorbeelden van hoe je feedback voor opnieuw proberen kunt configureren:

• Algemene weigering (standaard)
  Je reactie is geblokkeerd door een guardrail die content blokkeert die overeenkomt met deze voorwaarde/categorie: ‘{{trigger_reason}}’. Tijdens je volgende beurt moet je de gebruiker vertellen: “Het spijt me, maar ik kan die vraag niet beantwoorden. Wil je iets anders weten?”
• Opnieuw proberen met corrigerende instructies
  Je vorige reactie is geblokkeerd door een guardrail. Je geblokkeerde reactie was: ‘{{agent_message}}’. Tijdens je volgende beurt moet je een nieuw antwoord geven en dit mag niet in strijd zijn met: ‘{{trigger_reason}}’
• Overdragen aan een andere agent
  Je vorige reactie is geblokkeerd door de guardrail. Tijdens je volgende beurt moet je de tool transfer_to_agent gebruiken en overdragen aan een agent. Je geblokkeerde reactie was: ‘{{agent_message}}’. De guardrail blokkeert content die overeenkomt met deze voorwaarde/categorie: ‘{{trigger_reason}}’.
• Overdragen aan een persoon
  Je reactie is geblokkeerd door een guardrail die content blokkeert die overeenkomt met deze voorwaarde/categorie: ‘{{trigger_reason}}’. Tijdens je volgende beurt MOET je het gesprek overdragen aan een menselijke medewerker met de tool transfer_to_number.

Je kunt deze placeholders in de feedbacktekst gebruiken:

Prijzen

De guardrails Focus, Manipulation en Content zijn zonder extra kosten inbegrepen voor alle gebruikers van ElevenAgents.

Custom Guardrails zijn op gebruik gebaseerd en brengen extra LLM-kosten met zich mee, vergelijkbaar met andere modelaanroepen in ElevenAgents. Elke ingeschakelde Custom Guardrail stuurt elke agentreactie naar een lichtgewicht model voor beoordeling. De kosten zijn dus afhankelijk van de lengte van de prompt, de gemiddelde gespreksduur en het aantal gesprekken. Als je meerdere Custom Guardrails inschakelt, voert elke guardrail per reactie een eigen beoordeling uit. We raden aan je verwachte verkeer en modelkeuze te bekijken voordat je meerdere Custom Guardrails in productie inschakelt.

Bij het maken of bewerken van een aangepaste guardrail zie je onder de prompt een geschatte kostprijs.

Configuratie

Wanneer een guardrail wordt geactiveerd, hangt het gedrag af van het type en de configuratie:

• Gesprek beëindigen: De sessie wordt onmiddellijk beëindigd (het gesprek wordt afgebroken voor spraak, de chat wordt beëindigd voor tekst). De trigger wordt vastgelegd in de gespreksgeschiedenis.
• Opnieuw proberen (blocking aangepaste guardrails of contentguardrails): De overtredende beurt van de assistent wordt verwijderd, systeemfeedback wordt ingevoegd en het model probeert het opnieuw - tot drie keer - voordat de sessie wordt beëindigd als de guardrail nog steeds wordt geactiveerd.

Best practices

Test met realistische scenario’s

Test je guardrailconfiguratie vóór de implementatie met:

• Normale gespreksverlopen om te zorgen dat er geen false positives zijn
• Randgevallen die veiligheidsgrenzen naderen, maar niet overschrijden
• Adversarial prompts die schadelijke reacties proberen uit te lokken

Veelgestelde vragen

Volgende stappen

• Promptinggids: Leer effectieve systeemprompts met gedragsguardrails schrijven
• Privacy: Configureer instellingen voor gegevensbewaring en privacy
• Testen: Test je agent met verschillende scenario’s
• Gesprekken simuleren: Test guardrailconfiguraties programmatisch
• Redactie van gespreksgeschiedenis: Redigeer gevoelige informatie, zoals namen en bankgegevens, uit de gespreksgeschiedenis