Webinar samenvatting: veilige AI-agents bouwen voor implementatie binnen een onderneming

Webinar samenvatting: veilige AI-agents bouwen voor implementatie binnen een onderneming

Een AI-agent gesprekken laten afhandelen is het makkelijke deel. Je beveiligingsteam, juridische team en klanten zover krijgen dat ze de agent vertrouwen, is waar de meeste implementaties binnen ondernemingen vastlopen.

In dit bericht vatten we onze live workshop, Veilige AI-agents bouwen voor implementatie binnen ondernemingen, samen. Daarin bespraken we de tools, frameworks en implementatiepraktijken waarmee agentimplementaties binnen ondernemingen op schaal werken. 

Een gelaagde aanpak voor veiligheid opbouwen 

Er zijn meer dan vier miljoen agents geïmplementeerd op het ElevenAgents-platform. De agents die betrouwbaar presteren in omgevingen van ondernemingen, hebben één kenmerk gemeen: veiligheid is vanaf het begin ingebouwd, niet pas na het eerste incident toegevoegd.

In onze live sessie behandelden we de frameworks, controles en implementatiepraktijken die agents die door de beveiligingsbeoordeling komen onderscheiden van agents die dat niet doen.

Verschillende agents hebben fundamenteel verschillende grenzen nodig.

• Een videogamepersonage moet mogelijk expliciet gewelddadige taal gebruiken als onderdeel van de ervaring, maar mag nooit uit zijn rol vallen of onthullen dat het AI is.
• Een receptionist in de zorg moet blessures en medische contexten kunnen bespreken, maar mag nooit medisch advies geven.
• Een supportagent voor creditcards mag helemaal geen expliciete content behandelen en mag geen accountgegevens delen met niet-geverifieerde bellers. 

Omdat agents niet-deterministisch zijn, kan geen enkele beveiligingsmaatregel volledig beschermen tegen alle mogelijke risico's. Daarom hebben teams binnen ondernemingen een gelaagde aanpak nodig: meerdere controles die samenwerken om veiligheidsproblemen tot een zeldzame uitzondering te maken.

Dat principe lag ten grondslag aan de vier vragen waaromheen we de sessie hebben opgebouwd:

1. Hoe kan ik bepalen wat mijn agent zegt en doet?
2. Hoe kan ik controleren of deze werkt?
3. Hoe kan ik gegevens beschermen om aan beveiligings- en compliancevereisten te voldoen?
4. Hoe kan ik processen opzetten voor een veilige implementatie?

Hoe je agentgedrag kunt beheersen 

In elk gesprek met een agent zijn er drie momenten waarop je rekening moet houden met veiligheid. 

Input
De gebruiker zegt iets. Gebruikers met kwade bedoelingen kunnen dingen proberen als "negeer alle eerdere instructies" of "doe alsof je een andere assistent bent". Je moet manipulatiepogingen detecteren en afhandelen voordat ze het model bereiken. Dit voorkomt onnodige kosten en zorgt dat kwaadwillenden geen informatie kunnen verkrijgen die ze niet mogen hebben.

Besluitvorming
Het LLM bepaalt wat het zegt of doet. Hier is je system prompt je belangrijkste controlemiddel, maar in lange of complexe gesprekken kunnen LLM's afwijken van hun instructies. Je hebt mechanismen nodig die gedrag tijdens het hele gesprek versterken, niet alleen aan het begin. Definieer ook escalatiepaden: zijn er situaties waarin de agent moet overdragen aan een mens of een meer gespecialiseerde agent, en onder welke voorwaarden?

Output
Zelfs met duidelijke richtlijnen kan er iets doorheen glippen, vooral in langlopende gesprekken. Je hebt een laatste vangnet nodig. Zie het als een mini-agent die het werk van je hoofdagent controleert: deze beoordeelt het antwoord voordat het de gebruiker bereikt en beslist of het wordt geleverd, opnieuw wordt geprobeerd of geëscaleerd. De mini-agent draait ook parallel aan het genereren van antwoorden en voegt minimale latency toe.

Voor alle drie moet je vooraf je exitstrategieën bepalen: beëindigt een overtreding het gesprek, leidt die tot een nieuwe poging met corrigerende instructies, of wordt het gesprek overgedragen aan een mens? Deze beslissing bepaalt de gebruikerservaring wanneer er iets misgaat.

Demo 1: guardrails configureren in ElevenAgents

Scenario: Een sales- en supportagent voor een website is geconfigureerd met meerdere lagen veiligheidscontroles om manipulatie, antwoorden buiten het onderwerp en beleidsovertredingen te voorkomen.

Wat werd getoond:

• Manipulation guardrail (input) - te vinden op het tabblad Security. Deze schakelaar detecteert patronen van prompt injection, pogingen om systeeminstructies te overschrijven, en beëindigt het gesprek voordat de agent reageert. Aanbevolen voor alle productieagents.
• System prompt en Focus guardrail (besluitvorming) - de system prompt is de basis. Elke belangrijke regel moet daar expliciet in staan. In de demo werd halverwege de sessie een instructie toegevoegd: "Bied geen kortingen aan." De afzonderlijk ingeschakelde Focus guardrail versterkt de system prompt automatisch gedurende het hele gesprek, en voorkomt zo het afdwalen dat bij langere interacties voorkomt. De combinatie van een sterke system prompt en ingeschakelde Focus is de meest effectieve manier om een agent op koers te houden.
• Content guardrail (output) - Vooraf geconfigureerde categorieën voor grof taalgebruik, juridisch advies en politieke opvattingen. Elke categorie heeft een instelbare betrouwbaarheidsdrempel; gemiddeld is het aanbevolen startpunt. Dit is de terugvallaag: als de agent iets dreigt te produceren wat niet mag, onderschept deze laag dat voordat het wordt geleverd.
• Custom guardrail (output) - door de gebruiker gedefinieerde controles, in natuurlijke taal geschreven voor gevallen die niet door presets worden gedekt. In de demo werd een guardrail voor "geen kortingen" geconfigureerd: "Blokkeer elk antwoord dat kortingen, promoties of speciale prijzen vermeldt die de agent niet mag aanbieden." Custom guardrails gebruiken een aanvullende LLM-evaluatie — dat brengt kosten op basis van gebruik met zich mee en vraagt aandacht voor latency. Schrijf beknopte instructies en verdeel afzonderlijke controles over aparte guardrails in plaats van ze te combineren
• Actie bij overtreding - twee opties: het gesprek beëindigen of opnieuw proberen. Bij een nieuwe poging kun je aanvullende instructies geven om de volgende poging van de agent te sturen — bijvoorbeeld door naar een mens te escaleren of een standaard doorverwijsbericht te geven.

Waarom dit belangrijk is: Deze controles zijn niet overal hetzelfde. Je kunt ze per afzonderlijke guardrail configureren. Die detaillering maakt het verschil tussen een agent die theoretisch veilig is en een agent die operationeel veilig is in uiteenlopende contexten binnen ondernemingen.

Demo 2: simulatietests vóór de lancering

Scenario: Een supportagent wordt getest aan de hand van twee gespreksscenario's over kortingen, om te bevestigen dat deze gebruikers doorverwijst naar de prijspagina zonder kortingen aan te bieden.

Wat werd getoond: 

• Twee simulatietests gedefinieerd op het tabblad Tests, elk met een gesimuleerd gebruikersscenario, een vastgesteld aantal gespreksbeurten en expliciete succescriteria
• Eén test mislukte aanvankelijk omdat de system prompt specifieke instructies voor edge cases miste
• De ontbrekende instructies werden toegevoegd aan het gedeelte over guardrails in de system prompt
• De agent werd opnieuw gepubliceerd en beide tests werden opnieuw uitgevoerd; beide slaagden
• Een gedetailleerde uitvoeringsgeschiedenis laat precies zien welk deel van een gesprek mislukte, inclusief tool calls en acties van de agent

Waarom dit belangrijk is: Met simulatietests kunnen teams agentgedrag in een gecontroleerde omgeving valideren voordat een echte gebruiker de agent ziet. Ze omvatten zowel routinematige als adversariële scenario's. Ze draaien ook op de volledige gespreksflow, niet alleen op afzonderlijke antwoorden. Wanneer wijzigingen worden aangebracht, kun je de tests direct opnieuw uitvoeren om te bevestigen dat de oplossing werkt.

Demo 3: PII-redactie voor gevoelige implementaties

Scenario: Een agent voor een onderneming is geconfigureerd om persoonlijk identificeerbare informatie uit gesprekslogs te redigeren.

Wat werd getoond:

• De schakelaar Conversation History Redaction op het tabblad Advanced, onder de instellingen voor Privacy
• Een lijst met specifieke gegevensentiteiten die je afzonderlijk kunt inschakelen voor redactie, waaronder geboortedatum, leeftijd en andere gevoelige velden
• De optie om alle entiteiten te selecteren, of alleen de entiteiten die relevant zijn voor de use case van de specifieke agent

Waarom dit belangrijk is: PII-redactie vervangt zero retention mode niet in omgevingen met strenge compliancevereisten, zoals HIPAA. Wel vermindert het de blootstelling van gegevens in gesprekslogs die worden gebruikt voor interne beoordeling of kwaliteitscontrole. Teams kunnen de logs bewaren die ze nodig hebben, terwijl ze gegevens die ze niet nodig hebben verwijderen. Dit is momenteel beschikbaar voor enterprise-klanten.

Best practices voor veilige implementatie van agents binnen ondernemingen 

1. Gebruik een gelaagde aanpak. Geen enkele controle garandeert veilig gedrag. Inputguardrails, outputvalidatie, versterking van prompts en tests moeten samenwerken. Elke laag versterkt de andere lagen, en samen verminderen ze het risico op veiligheidsproblemen aanzienlijk.
2. Stem guardrails af op de context. Een zorgagent en een supportagent voor de retail hebben andere regels nodig. Definieer de grenzen die specifiek zijn voor je use case, niet aan de hand van een algemeen template.
3. Begin met een use case die ertoe doet. De meest succesvolle implementaties binnen ondernemingen beginnen niet met een wegwerppilot. Ze kiezen iets concreets, zoals klantenservice of planning, en investeren erin om het goed te doen.
4. Test vóór de lancering en blijf daarna testen. Gebruik simulatietests en externe red-teamingtools. Test zowel routinematige als adversariële scenario's. Voeg nieuwe edge cases die je in productie ontdekt toe aan je testsuite.
5. Implementeer gefaseerd. Begin met beperkt verkeer. Monitor echte gesprekken. Breng in kaart waar de agent moeite mee heeft. Voer aanpassingen door, test opnieuw en breid daarna uit.
6. Kies bewust een uitvoeringsmodus. Gebruik blocking mode voor tekstagents waarbij strikte validatie belangrijker is dan snelheid. Gebruik streaming mode voor spraakagents waarbij latency prioriteit heeft.
7. Definieer duidelijke acties bij overtreding van guardrails. Bepaal vooraf of een overtreding het gesprek moet beëindigen, een nieuwe poging moet uitlokken of naar een mens moet escaleren.
8. Houd instructies voor custom guardrails beknopt. Guardrails draaien parallel. Een lange, complexe custom guardrail verhoogt de latency. Schrijf beknopte instructies en verdeel afzonderlijke controles over aparte guardrails.
9. Begrijp wat certificeringen daadwerkelijk dekken. SOC 2 Type 2 en ISO 27001 zijn basisvereisten. Domeinspecifieke standaarden zoals HIPAA en PCI DSS zijn gericht op gereguleerde sectoren. Nieuwere AI-specifieke certificeringen zoals ISO 42001 en AIUC-1 zijn gericht op bias, transparantie en weerbaarheid tegen aanvallen — en AIUC-1-certificering kan toegang geven tot AI-specifieke verzekeringen.
10. Bouw vroeg aan sterke processen. De eerste implementatie kost de meeste tijd. Teams die investeren in test- en implementatieprocessen kunnen bij elke volgende agent aanzienlijk sneller itereren.
    

Bekijk de volledige sessie 

Bekijk het volledige webinar hier.