> This is a page from the ElevenLabs documentation. For a complete page index, fetch https://elevenlabs.io/docs/llms.txt. For the full documentation in a single file, fetch https://elevenlabs.io/docs/llms-full.txt. # Guardrails ## Overzicht Guardrails bieden teams een krachtige manier om te bepalen hoe agents zich in productie gedragen, zodat ze bij het onderwerp en het merk blijven en op ondernemingsschaal bestand zijn tegen manipulatie. Met Guardrails 2.0 hebben we de veiligheidslaag opnieuw ontworpen, zodat teams eenvoudiger aangepaste beleidsregels in gewone taal kunnen definiëren, ingebouwde beschermingen kunnen inschakelen, kunnen bepalen wat er gebeurt wanneer een guardrail wordt geactiveerd en agents met vertrouwen kunnen uitrollen in workflows met grote impact. Guardrails sturen agents naar de juiste reacties en houden verkeerde reacties tegen voordat ze de gebruiker bereiken. Ze beschermen gesprekken op meerdere lagen: ze bepalen hoe de agent reageert, valideren gebruikersinvoer en beoordelen elke reactie onafhankelijk zonder latentie toe te voegen. Samen verkleint dit het merk- en compliancerisico in elk gesprek. ## Hoe guardrails werken Guardrails beschermen gesprekken op drie niveaus: **Versterking van de systeemprompt:** De belangrijkste manier om het gedrag van een agent te sturen. Je voegt expliciete richtlijnen toe aan de systeemprompt over toegestaan en niet-toegestaan gedrag, en schakelt de Focus Guardrail in om deze instructies gedurende het gesprek te versterken. Hierdoor blijft je agent in de overgrote meerderheid van de interacties op koers. **Validatie van gebruikersinvoer:** Een vangnet dat vijandige pogingen onderschept voordat de agent reageert. Guardrails analyseren wat de gebruiker zegt, detecteren pogingen tot prompt injection en manipulatie, en kunnen gesprekken beëindigen die een beveiligingsrisico vormen. **Validatie van agentreacties:** Een laatste controle die elke reactie van de agent realtime onafhankelijk beoordeelt aan de hand van je geconfigureerde beleidsregels. Als de agent ondanks de systeemprompt iets dreigt te zeggen dat je regels schendt, blokkeren responsvalidators dit vóór verzending. Versterking van de systeemprompt is de basis. Validatie van invoer en reacties corrigeert alles wat door de mazen van het net glipt. Neem je belangrijkste regels zowel op in je systeemprompt als in een onafhankelijke aangepaste Guardrail. Zo creëer je gelaagde bescherming: zelfs als het LLM afwijkt van zijn instructies, onderschept de responsvalidator dit vóór verzending. | Guardrail | Wat deze doet | Bescherming | Invloed op latentie | Kosten | Exitstrategie | | ------------ | -------------------------------------------------------------- | ------------------------------ | --------------------------------------------------- | -------------------- | ----------------- | | Focus | Houdt agents bij het onderwerp en in lijn met je systeemprompt | Versterking van systeemprompt | Minimaal | Inbegrepen | N.v.t. | | Manipulation | Detecteert en blokkeert prompt injection | Validatie van gebruikersinvoer | Geen effect | Inbegrepen | Beëindigt gesprek | | Content | Markeert en voorkomt ongepaste content | Validatie van agentreacties | [Afhankelijk van uitvoeringsmodus](#execution-mode) | Inbegrepen | Configureerbaar | | Custom | Handhaaft je bedrijfsspecifieke beleidsregels | Validatie van agentreacties | [Afhankelijk van uitvoeringsmodus](#execution-mode) | Op gebruik gebaseerd | Configureerbaar | ## Versterking van de systeemprompt De effectiefste manier om je agent zich zoals bedoeld te laten gedragen, is een goede systeemprompt schrijven en de Focus Guardrail inschakelen. Samen sturen ze agents vanaf het begin naar de juiste reacties. Je kunt de systeemprompt gebruiken om expliciete instructies te geven over wat je agent wel en niet moet doen. Modellen zijn afgestemd om extra aandacht te besteden aan de kop `# Guardrails`. Gebruik deze kop voor je belangrijkste gedragsregels. **`Voorbeeld: versterking van de systeemprompt`** ```mdx title="Voorbeeld: versterking van de systeemprompt" # Guardrails - Only provide information that is publicly documented about ElevenLabs products, pricing, and features. - Do not speculate about unreleased features, internal roadmaps, or future pricing changes. - If you cannot resolve an issue with available documentation or tools, clearly explain the limitation and offer to escalate to a human support representative. ``` Voor uitgebreide richtlijnen voor het schrijven van effectieve systeemprompts, bekijk onze [gids voor prompting](/docs/nl/eleven-agents/best-practices/prompting-guide). Je ElevenLabs-accountteam kan je ook ondersteunen bij het opstellen van hoogwaardige systeemprompts. **Focus Guardrail:** De Focus Guardrail versterkt de systeemprompt van je agent en helpt reacties gericht, relevant en consistent met je vastgestelde doelen en instructies te houden. Dit is vooral nuttig bij lange of complexe gesprekken, waarin de kans groter is dat de agent afwijkt van de beoogde doelen. De combinatie van versterking van de systeemprompt en het inschakelen van de Focus Guardrail is de effectiefste manier om agents naar de juiste reacties te sturen. ## Validatie van gebruikersinvoer ### Manipulation Guardrails Detecteert en blokkeert pogingen van gebruikers om de agent te manipuleren zodat deze zijn instructies omzeilt. Wanneer deze is ingeschakeld, analyseert het systeem gebruikersinvoer op patronen die duiden op pogingen tot injectie of het overschrijven van instructies, en kan het gesprekken beëindigen die een beveiligingsrisico vormen. ## Validatie van agentreacties ### Content guardrails Markeert en voorkomt ongepaste content in agentreacties, zoals politiek gevoelige, seksueel expliciete of gewelddadige inhoud, voordat deze de gebruiker bereikt. Dit helpt reacties passend te houden voor het beoogde gebruiksscenario en publiek van je agent. ### Aangepaste guardrails Naarmate agents werk met grote impact oppakken, hebben teams duidelijke controle nodig over hoe ze zich gedragen. Met aangepaste Guardrails kun je de belangrijkste beleidsregels voor je bedrijf configureren. Bijvoorbeeld: * Een retailassistent mag geen terugbetalingen uitvoeren voor artikelen die hiervoor niet in aanmerking komen. * Een receptioniste in de zorg mag geen medisch advies geven. * Een bankagent mag geen beleggingen aanbevelen. Aangepaste Guardrails zijn regels op basis van LLM's waarmee je je eigen blokkeercriteria definieert met prompts in natuurlijke taal. Elke ingeschakelde aangepaste Guardrail stuurt agentreacties naar een lichtgewicht model, dat deze aan je regel toetst en een beslissing om te blokkeren of toe te staan terugstuurt. Zo krijg je flexibele, domeinspecifieke controle over wat je agent wel en niet mag zeggen. Voor elke aangepaste guardrail kun je het volgende definiëren: | Veld | Beschrijving | | ---------------------------------------- | ------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------ | | **Naam** | Een beschrijvend label voor de guardrail (bijv. "Geen financieel advies"). | | **Prompt** | Een instructie in natuurlijke taal die beschrijft wat moet worden geblokkeerd (bijv. "Blokkeer alle content met specifiek financieel advies, beleggingsaanbevelingen of belastingadvies"). | | **Uitvoeringsmodus** | `streaming` (standaard) of `blocking`. Zie [Uitvoeringsmodus](#execution-mode). | | **Actie bij activering (exitstrategie)** | `end_call` (standaard) of `retry`. Zie [Exitstrategieën](#exit-strategies). | Aangepaste Guardrails kunnen worden gebruikt om specifieke onderwerpen te blokkeren die relevant zijn voor je bedrijf, branchespecifieke compliancevereisten af te dwingen en bedrijfseigen veiligheidsmaatregelen te implementeren. Je kunt elke guardrail afzonderlijk in- of uitschakelen zonder deze te verwijderen. Wanneer er meerdere zijn ingeschakeld, worden ze parallel naast andere Guardrails uitgevoerd. Alle geactiveerde overtredingen worden gelogd voor beoordeling. ## Uitvoeringsmodus De uitvoeringsmodus bepaalt of guardrails wachttijd toevoegen voordat de gebruiker een reactie ziet of hoort. In de modus **streaming** kan de agentreactie beginnen voordat de guardrail wordt geactiveerd. Bij spraak kan een klein deel van de audio (vaak minder dan 500 ms) worden afgespeeld voordat een blokkering het gesprek beëindigt. Bij tekstagents kunnen gebruikers gedeeltelijke of volledige reacties zien als de beoordeling niet vóór verzending klaar is. In de modus **Blocking** reageert de agent pas nadat de guardrails zijn gevalideerd. Dit voegt doorgaans **200–500 ms** extra latentie toe. ## Exitstrategieën Met exitstrategieën bepaal je wat je agent doet wanneer een guardrail wordt geactiveerd. Je kunt kiezen uit: * **`end_call`** *(standaard)*: beëindigt het gesprek onmiddellijk * **`retry`**: genereert de reactie opnieuw met je feedback in plaats van het gesprek te beëindigen. De agentreactie wordt maximaal drie keer opnieuw geprobeerd. Als elke poging nog steeds de guardrail schendt, eindigt het gesprek. > **Warning** > > Opnieuw proberen werkt alleen in de blocking-modus. In de streaming-modus is het beëindigen van het gesprek de enige beschikbare exitstrategie. #### Feedback voor opnieuw proberen Feedback voor **retry** kan **alle instructies** bevatten die je in de volgende beurt wilt toepassen. Deze wordt als systeemrichtlijn ingevoegd voordat het model opnieuw genereert. Dit omvat het aanroepen van systeemtools zoals `transfer_to_agent` of `transfer_to_number`. Hier zijn enkele voorbeelden van hoe je feedback voor opnieuw proberen kunt configureren: * **Algemene weigering** (standaard) \ *Je reactie is geblokkeerd door een guardrail die content blokkeert die overeenkomt met deze voorwaarde/categorie: '\{\{trigger\_reason}}'. Tijdens je volgende beurt moet je de gebruiker vertellen: "Het spijt me, maar ik kan die vraag niet beantwoorden. Wil je iets anders weten?"* * **Opnieuw proberen met corrigerende instructies**\ *Je vorige reactie is geblokkeerd door een guardrail. Je geblokkeerde reactie was: '\{\{agent\_message}}'. Tijdens je volgende beurt moet je een nieuw antwoord geven en dit mag niet in strijd zijn met: '\{\{trigger\_reason}}'* * **Overdragen aan een andere agent**\ *Je vorige reactie is geblokkeerd door de guardrail. Tijdens je volgende beurt moet je de tool transfer\_to\_agent gebruiken en overdragen aan een agent. Je geblokkeerde reactie was: '\{\{agent\_message}}'. De guardrail blokkeert content die overeenkomt met deze voorwaarde/categorie: '\{\{trigger\_reason}}'.* * **Overdragen aan een persoon**\ *Je reactie is geblokkeerd door een guardrail die content blokkeert die overeenkomt met deze voorwaarde/categorie: '\{\{trigger\_reason}}'. Tijdens je volgende beurt MOET je het gesprek overdragen aan een menselijke medewerker met de tool transfer\_to\_number.* > **Tip** > > Schakel de bijbehorende tools in en configureer ze in de instellingen van de agent om **systeemtools** te gebruiken in feedback voor opnieuw proberen. Alleen tools die voor de agent zijn ingesteld, kunnen worden aangeroepen. Je kunt deze placeholders in de feedbacktekst gebruiken: | Placeholder | Vervangen door | | -------------------- | ----------------------------------------------------------------------------------------------------------------------------------------------------------------------------- | | `{{trigger_reason}}` | De **prompt** van de guardrail wanneer deze is gedefinieerd in aangepaste guardrails. De **categorie** die is geactiveerd wanneer deze is gedefinieerd in content guardrails. | | `{{agent_message}}` | De geblokkeerde uitvoer van de agent (nuttig om het opnieuw proberen te sturen). | > **Tip** > > De uitvoeringsmodus **streaming** wordt aanbevolen voor **spraak**agents; de uitvoeringsmodus **blocking** wordt aanbevolen voor **tekst**agents. > **Warning** > > **Blocking** (vooral met **retry**) kan zich bij spraak minder voorspelbaar gedragen. Als je blocking bij spraak gebruikt, test dan grondig of kies **end call** in plaats van **retry** totdat je vertrouwen hebt in het gedrag. ## Prijzen De guardrails **Focus**, **Manipulation** en **Content** zijn **zonder extra kosten** inbegrepen voor alle gebruikers van ElevenAgents. **Custom Guardrails** zijn op gebruik gebaseerd en **brengen extra LLM-kosten met zich mee**, vergelijkbaar met andere modelaanroepen in ElevenAgents. Elke ingeschakelde Custom Guardrail stuurt elke agentreactie naar een lichtgewicht model voor beoordeling. De kosten zijn dus afhankelijk van de lengte van de prompt, de gemiddelde gespreksduur en het aantal gesprekken. Als je meerdere Custom Guardrails inschakelt, voert elke guardrail per reactie een eigen beoordeling uit. We raden aan je verwachte verkeer en modelkeuze te bekijken voordat je meerdere Custom Guardrails in productie inschakelt. Bij het maken of bewerken van een aangepaste guardrail zie je onder de prompt een geschatte kostprijs. ![Kostenraming voor aangepaste guardrail](/docs/_fern-img/a829a7451a1bb209dcbbe718dc75c3f6a28191f4de8ad6be44da6e0b7d4466ec.webp) > **Note** > > **Opnieuw proberen en kosten:** Elke poging is een extra agentgeneratie plus nog een guardrailbeoordeling. Daarom verhoogt **retry** de facturering op basis van gebruik vergeleken met **end\_call** (maximaal drie pogingen per geblokkeerde beurt). ## Configuratie #### Configureren via het dashboard #### Ga naar de agentinstellingen Open je agent in het ElevenLabs-dashboard en ga naar het tabblad **Beveiliging**. #### Schakel guardrails in Schakel de guardrailcategorieën in die je wilt gebruiken. Je kunt de vooraf ingestelde knoppen gebruiken om snel alle categorieën in of uit te schakelen. #### Configureer de uitvoeringsmodus en exitstrategie (aangepaste guardrails en contentguardrails) Kies voor elke aangepaste guardrail of contentguardrail de uitvoeringsmodus **streaming** of **blocking**. **Blocking** is geschikt voor **tekst**agents; **streaming** is geschikt voor **spraak**agents. Stel **Actie bij guardrailovertreding** in (komt overeen met **`trigger_action`**): **gesprek beëindigen** in elke modus, of **opnieuw proberen** alleen wanneer **blocking** is geselecteerd (**opnieuw proberen** is niet beschikbaar in **streaming**). Als je **opnieuw proberen** kiest, bewerk je **Feedback die bij opnieuw proberen wordt ingevoegd** om het model te sturen. Gebruik de placeholders (de aangepaste prompt of contentcategorie die de blokkering veroorzaakte) en in de template. #### Configuratie opslaan Sla je agentconfiguratie op. Wijzigingen zijn direct van kracht voor nieuwe gesprekken. #### Configureren via de CLI #### Agentconfiguratie ophalen ```bash elevenlabs agents pull --agent "" ``` #### \`agent\_configs/\.json\` bewerken Stel `platform_settings.guardrails` in: ```json { "platform_settings": { "guardrails": { "version": "1", "prompt_injection": { "isEnabled": true }, "custom": { "config": { "configs": [ { "is_enabled": true, "name": "No financial advice", "prompt": "Block any content that provides specific financial advice, investment recommendations, or tax guidance.", "execution_mode": "blocking", "trigger_action": { "type": "retry", "feedback": "Your response was blocked by a guardrail that blocks content that matches this condition/category: '{{trigger_reason}}' During your next turn you must tell the user \"I'm sorry but I can't answer that question, would you like to know something else?\"." } } ] } } } } } ``` #### Je wijzigingen pushen ```bash elevenlabs agents push --agent "" ``` #### Configureren via de API ```python from elevenlabs import ElevenLabs elevenlabs = ElevenLabs() elevenlabs.conversational_ai.agents.update( agent_id="agent_7101k5zvyjhmfg983brhmhkd98n6", platform_settings={ "guardrails": { "version": "1", "prompt_injection": {"isEnabled": True}, "custom": { "config": { "configs": [ { "is_enabled": True, "name": "No financial advice", "prompt": "Block any content that provides specific financial advice, investment recommendations, or tax guidance.", "execution_mode": "blocking", "trigger_action": { "type": "retry", "feedback": "Your response was blocked by a guardrail that blocks content that matches this condition/category: '{{trigger_reason}}' During your next turn you must tell the user \"I'm sorry but I can't answer that question, would you like to know something else?\".", }, } ] } }, }, }, ) ``` ```typescript import { ElevenLabsClient } from "@elevenlabs/elevenlabs-js"; const elevenlabs = new ElevenLabsClient(); await elevenlabs.conversationalAi.agents.update("agent_7101k5zvyjhmfg983brhmhkd98n6", { platformSettings: { guardrails: { version: "1", promptInjection: { isEnabled: true }, custom: { config: { configs: [ { isEnabled: true, name: "No financial advice", prompt: "Block any content that provides specific financial advice, investment recommendations, or tax guidance.", executionMode: "blocking", triggerAction: { type: "retry", feedback: `Your response was blocked by a guardrail that blocks content that matches this condition/category: '{{trigger_reason}}' During your next turn you must tell the user "I'm sorry but I can't answer that question, would you like to know something else?".`, }, }, ], }, }, }, }, }); ``` Wanneer een guardrail wordt geactiveerd, hangt het gedrag af van het type en de configuratie: * **Gesprek beëindigen:** De sessie wordt onmiddellijk beëindigd (het gesprek wordt afgebroken voor spraak, de chat wordt beëindigd voor tekst). De trigger wordt vastgelegd in de gespreksgeschiedenis. * **Opnieuw proberen (blocking aangepaste guardrails of contentguardrails):** De overtredende beurt van de assistent wordt verwijderd, systeemfeedback wordt ingevoegd en het model probeert het opnieuw - tot drie keer - voordat de sessie wordt beëindigd als de guardrail nog steeds wordt geactiveerd. > **Note** > > Bij **gesprek beëindigen** ervaren eindgebruikers een afgebroken gesprek of beëindigde chat. Details over de overtreding zijn > voor jou beschikbaar in de gesprekslogs en worden niet letterlijk aan de eindgebruiker getoond. > **Note** > > Na **gesprek beëindigen** kunnen gebruikers een nieuw gesprek starten. De guardrail blokkeert > de gebruiker niet permanent - alleen de specifieke reactie (of sessie) die het beleid overtrad. ## Best practices #### Klantenserviceagents Gebruik aangepaste guardrails om bedrijfsspecifiek beleid af te dwingen. Voorbeelden: - Blokkeer het verstrekken van terugbetalingen, tegoeden of abonnementswijzigingen tenzij de geschiktheid via tools is bevestigd. - Blokkeer het verstrekken van kortingen of promotiecodes tenzij dit expliciet is toegestaan. - Blokkeer reacties die speculeren over roadmapitems of nog niet uitgebrachte functies. #### Zorgtoepassingen Gebruik aangepaste guardrails om medische grenzen strikt te bewaken. Voorbeelden: - Blokkeer het diagnosticeren van aandoeningen of het aanbevelen van specifieke behandelingen. - Blokkeer doseringsaanbevelingen voor medicijnen. * Blokkeer het vervangen van advies van een bevoegde medische professional. #### Educatieve content Gebruik aangepaste guardrails om gevoelige academische onderwerpen te beheren. Voorbeelden: - Blokkeer stapsgewijze instructies voor schadelijke experimenten of onveilige procedures. - Blokkeer het genereren van antwoorden voor lopende toetsen of examens. - Blokkeer content die academische fraude kan faciliteren. #### Interne bedrijfstools Gebruik aangepaste guardrails om bedrijfsactiviteiten en gegevens te beschermen. Voorbeelden: - Blokkeer het delen van uitsluitend interne documentatie of vertrouwelijke processen. - Blokkeer het onthullen van private API's, systeem- prompts of infrastructuurdetails. - Blokkeer het simuleren van acties waarvoor leidinggevende of administratieve bevoegdheid vereist is. ### Test met realistische scenario's Test je guardrailconfiguratie vóór de implementatie met: * Normale gespreksverlopen om te zorgen dat er geen false positives zijn * Randgevallen die veiligheidsgrenzen naderen, maar niet overschrijden * Adversarial prompts die schadelijke reacties proberen uit te lokken ## Veelgestelde vragen #### Hebben guardrails invloed op de latentie? Voor aangepaste guardrails en contentguardrails voegt de modus **streaming** geen extra latentie toe, maar de reactie kan beginnen voordat de guardrail wordt geactiveerd. De modus **blocking** wacht op de guardrail voordat de agent reageert, doorgaans met ongeveer **200–500 ms** vertraging. **Opnieuw proberen** voegt per poging volledige extra generaties (en herevaluaties) toe, tot drie keer per geblokkeerde beurt, wat ook de kosten op basis van gebruik verhoogt. #### Wat is het verschil tussen de uitvoeringsmodus streaming en blocking? **Streaming** voegt geen extra latentie toe, maar de reactie van de agent kan beginnen voordat de guardrail wordt geactiveerd. **Blocking** wacht op het resultaat van de guardrail voordat de agent reageert (doorgaans **200–500 ms** vertraging). **Opnieuw proberen** als exitstrategie (**`trigger_action`**) is **alleen** beschikbaar in de modus **blocking**; in de modus **streaming** gebruik je **gesprek beëindigen** wanneer een guardrail wordt geactiveerd. **Blocking** maakt **opnieuw proberen** met ingevoegde systeemfeedback mogelijk in plaats van het gesprek onmiddellijk te beëindigen - ten koste van extra modelgebruik en **extra facturering** wanneer opnieuw proberen plaatsvindt. **Blocking** wordt aanbevolen voor **tekst**agents; **streaming** wordt aanbevolen voor **spraak**agents. #### Kan ik guardrails volledig uitschakelen? Ja, maar we raden sterk aan alle guardrails ingeschakeld te houden - vooral de Focus Guardrail. Ze beschermen je merk, je gebruikers en je compliancepositie, en we raden ze aan voor alle productieapplicaties, inclusief interne tools. In zeldzame gevallen wil je misschien een specifieke guardrail uitschakelen als deze het beoogde gebruik van je agent belemmert. Sommige toepassingen kunnen bijvoorbeeld onderwerpen bevatten die de Content Guardrail anders zou markeren, of een sterk aangepaste systeemprompt werkt mogelijk niet goed met de Focus Guardrail ingeschakeld. Elke guardrail kan afzonderlijk worden in- of uitgeschakeld. #### Kunnen gebruikers bezwaar maken tegen beslissingen van guardrails? Guardrailtriggers worden gelogd en kunnen in je gespreksanalyses worden bekeken. Als je false positives vaststelt, pas je guardrailprompts dan aan. Er is geen geautomatiseerde bezwaarprocedure - de gebruiker hoeft alleen maar een nieuw gesprek te starten. #### Hoe weet ik welke guardrail is geactiveerd? Informatie over welke guardrail is geactiveerd, is beschikbaar in je gesprekslogs. #### Moet ik zowel Guardrails als System Prompt Hardening gebruiken? Ja. Ze dienen aanvullende doelen. System prompt hardening biedt gedragsrichtlijnen en voorkomt de meeste problemen door het volgen van instructies. Platformguardrails bieden onafhankelijke handhaving als veiligheidsnet. Door beide te gebruiken, creëer je gelaagde verdediging. ## Volgende stappen * **[Promptinggids](/docs/nl/eleven-agents/best-practices/prompting-guide):** Leer effectieve systeemprompts met gedragsguardrails schrijven * **[Privacy](/docs/nl/eleven-agents/customization/privacy):** Configureer instellingen voor gegevensbewaring en privacy * **[Testen](/docs/nl/eleven-agents/customization/agent-testing):** Test je agent met verschillende scenario's * **[Gesprekken simuleren](/docs/nl/eleven-agents/guides/simulate-conversation):** Test guardrailconfiguraties programmatisch * **[Redactie van gespreksgeschiedenis](/docs/nl/eleven-agents/customization/privacy/conversation-history-redaction):** Redigeer gevoelige informatie, zoals namen en bankgegevens, uit de gespreksgeschiedenis