Wat is human in the loop? Hoe mensen AI-workflows verbeteren

Human in the loop (HITL) is een workflow die in AI-modellen wordt gebruikt om taken op basis van duidelijke operationele grenzen te verdelen tussen geautomatiseerde systemen en menselijke experts. In een HITL-systeem verwerkt AI voorspelbare, regelgebaseerde taken, terwijl menselijke specialisten verantwoordelijk blijven voor complexe beslissingen, compliancevereisten en uitzonderlijke gevallen.

Voor bedrijven biedt HITL een praktische manier om routinematig werk te automatiseren en mensen betrokken te houden wanneer hun oordeel nodig is. Een AI-agent kan accountgegevens opzoeken, informatie over een claim verzamelen, onboardingformulieren versturen of een afspraak inplannen, en vervolgens een onzekere of gevoelige zaak markeren zodat iemand die kan beoordelen, goedkeuren, corrigeren of overnemen. 

Naast live workflows is HITL ook van toepassing op de ontwikkeling van machine learning. Mensen kunnen trainingsdata labelen, modeloutputs evalueren, fouten corrigeren of feedback geven die de prestaties van een model helpt verbeteren. In deze context maakt de mens deel uit van het trainings- of verbeterproces van het model, in plaats van van een live bedrijfsworkflow. 

In dit artikel laten we zien waar menselijke betrokkenheid thuishoort in AI-systemen en workflows, waarom dat belangrijk is en hoe effectieve HITL er in de praktijk uitziet. 

Samenvatting

• Human-in-the-loop AI verdeelt een workflow op basis van vooraf gedefinieerde verantwoordelijkheden tussen AI en mensen.
• Teams bouwen menselijke controles, goedkeuringen, overdrachten en uitzonderingspaden in de workflow en verfijnen die regels na de implementatie waar nodig.
• HITL kan nauwkeurigheid, efficiëntie en risicobeheer verbeteren door automatisering te combineren met menselijk oordeel waar dat nodig is.

Wat is human in the loop?

Human in the loop is een systeem waarin een mens actief deel uitmaakt van het proces om handmatig beslissingen te nemen of een AI-workflow te begeleiden. Het combineert geautomatiseerde taakverwerking met ingebouwde regels die de workflow pauzeren of aan een persoon overdragen wanneer aan vastgestelde voorwaarden wordt voldaan.

Menselijke betrokkenheid kan een gepland onderdeel van de workflow zijn of een reactie op situaties die de AI niet zelfstandig moet afhandelen. Teams bepalen deze menselijke contactmomenten vooraf op basis van beleid, risico, klantervaring en het type beslissing. 

Veelvoorkomende menselijke contactmomenten zijn: 

• Verplichte controles en goedkeuringen: Iemand beoordeelt of autoriseert beslissingen die financiële, juridische, compliance- of operationele verantwoordelijkheid met zich meebrengen.
• Gereguleerde stappen: Agentic workflows leiden beslissingen of documentatie naar gekwalificeerde medewerkers wanneer wetten, beleid of professionele normen menselijke betrokkenheid vereisen.
• Gevoelige communicatie of communicatie met hoge waarde: Mensen voeren gesprekken waarin onderhandelen, geruststelling, relatiebeheer of zorgvuldig oordeel belangrijk is.
• Rolgrenzen en uitzonderingen: Verzoeken die buiten de toegewezen rol van de AI vallen, ongebruikelijke omstandigheden betreffen of geen gedefinieerd antwoord hebben, worden aan een persoon overgedragen.
• Overdracht op verzoek van de klant: Een klant kan worden doorverbonden met een live teamlid wanneer diegene vraagt om met iemand te spreken.
  
  

Mensen kunnen ook dynamisch aan de loop worden toegevoegd wanneer een situatie tijdens de workflow verandert. Tegenstrijdige informatie, een nieuwe zorg van de klant of omstandigheden waarop de oorspronkelijke regels niet waren voorbereid, kunnen een overdracht veroorzaken, zelfs wanneer de taak aanvankelijk het standaardpad volgde.

Wanneer een mens ingrijpt, hoeft het geautomatiseerde proces niet per se helemaal opnieuw te beginnen. Zodra een teamlid een beslissing neemt of een probleem oplost, slaat de AI de update op in het dossier, verstuurt de volgende vereiste communicatie en gaat verder met de rest van de workflow.

Wat betekent human-in-the-loop bij machine learning?

Human-in-the-loop machine learning gebruikt hetzelfde principe als HITL, maar tijdens de ontwikkelingsfase. In plaats van in te grijpen in een live workflow, nemen mensen op vastgestelde momenten deel aan het modelontwikkelingsproces. 

Onderzoekers kunnen trainingsdata labelen, modelreacties evalueren, fouten corrigeren of feedback geven die het gedrag van een model vóór de implementatie helpt verbeteren. Domeinexperts kunnen outputs ook beoordelen wanneer nauwkeurigheid afhangt van gespecialiseerde kennis of oordeel. 

Belangrijkste voordelen van mensen integreren in AI-workflows

Voor bedrijven kan HITL minder kostbare fouten, een consistentere afhandeling van gevoelige of gereguleerde gevallen en snellere verwerking van routinematig werk betekenen, zonder AI ongecontroleerde zeggenschap te geven over beslissingen met een hoger risico.

Hier zijn enkele belangrijke voordelen en toepassingen van het gebruik van HITL-systemen.

Verbeter nauwkeurigheid en besliskwaliteit

HITL verbetert de nauwkeurigheid en besliskwaliteit door de consistentie van AI bij gestructureerde taken te combineren met menselijk oordeel voor de onderdelen die een model niet betrouwbaar zelfstandig kan afhandelen. AI kan gestructureerde taken consistent uitvoeren, de informatie verzamelen die nodig is voor een beslissing en standaardreacties of aanbevelingen voorbereiden.

Valiant’s agent Sophia voor buiten kantooruren verwerkt gestructureerde intake en draagt zaken vervolgens waar nodig over aan een menselijke tussenpersoon. De agent van Valiant, gebouwd op ElevenAgents, wist meer dan $1,5 miljoen aan intentie voor zakelijke leningen te identificeren, waarbij Sophia ongeveer 29% van de gesprekken buiten kantooruren afhandelde.

Menselijke input verbetert de besliskwaliteit wanneer informatie:

• Onvolledig of tegenstrijdig is
• Afhangt van context of interpretatie
• Afhangt van onderhandelen en relatieopbouw
• Afhangt van gespecialiseerde expertise

Betere resultaten kunnen kostbare fouten en vermijdbaar herstelwerk beperken, vooral in situaties met financiële, wettelijke of klantgerichte gevolgen.

Verminder risico en ondersteun compliance

HITL kan organisaties helpen compliancerisico's te verminderen door ervoor te zorgen dat gereguleerde beslissingen of beslissingen met grote gevolgen de juiste persoon bereiken voordat ze doorgaan. 

AI ondersteunt procedurele compliance door:

• Vereiste documenten te versturen.
• Informatie te verzamelen.
• Te controleren of verplichte velden volledig zijn ingevuld.
• Beleid of kennisgevingen op te halen.
• Voltooide stappen vast te leggen.
• Zaken naar de juiste persoon door te sturen.

Mensen blijven verantwoordelijk wanneer regelgeving interpretatie vereist, een uitzondering moet worden opgelost of een juridisch verantwoordelijke beslissing moet worden genomen.

De Britse verzekeraarAdmiral stelt bijvoorbeeld bewust grenzen aan de reikwijdte van zijn customer voice agents. Admiral leidt zaken rond kwetsbaarheid en betalingsachterstanden door naar mensen en test gereguleerde AI-workflows vóór de lancering aan de hand van een hoge validatienorm.

Verhoog de efficiëntie en behoud menselijke expertise

AI kan repetitief administratief werk afhandelen, informatie verzamelen, dossiers voorbereiden en routinematige zaken verder brengen zonder dat bij elke stap een persoon nodig is. Voor bedrijven kan dat leiden tot kortere doorlooptijden, minder administratieve achterstand en meer capaciteit voor medewerkers om werk af te handelen dat rechtstreeks invloed heeft op klanten, omzet of risico. 

Finch Legal kon ElevenAgents gebruiken om het succespercentage van gesprekken te verhogen van 59% naar 93%, terwijl het opschaalde naar meer dan 15k gesprekken per maand. Door een agent in te zetten voor deze processen, besteedden menselijke agents ongeveer een zesde van de telefoontijd vergeleken met eerdere implementaties. Mensen hoefden alleen in te grijpen wanneer de zaak hun expertise vereiste, zodat ze beschikbaar bleven voor momenten met hoge waarde.

Uitdagingen en aandachtspunten voor human-in-the-loop-systemen

Zelfs een goed ontworpen human-in-the-loop-systeem kan tekortschieten als de overdracht slecht verloopt of de persoon die het overneemt onvoldoende context heeft om te handelen. De balans tussen geautomatiseerde snelheid en menselijk toezicht hangt af van het workflowontwerp. 

Wanneer een human-in-the-loop-systeem niet werkt zoals bedoeld, ligt het probleem vaak bij de regels die bepalen wanneer mensen aan het proces deelnemen en welke informatie zij ontvangen.

Dit zijn enkele van de belangrijkste uitdagingen bij human-in-the-loop-systemen.

1. Vage overdrachtstriggers

AI-agents programmeren met subjectieve instructies zoals “draag moeilijke gevallen over” of “stuur ongebruikelijke verzoeken naar een menselijke agent” kan leiden tot onnodige overdrachten of ertoe leiden dat de AI doorgaat met een situatie waarbij een persoon betrokken zou moeten zijn.

In plaats van een AI-klantenserviceagent bijvoorbeeld te vertellen om “complexe factureringsvragen over te dragen”, kan een team een regel instellen zoals: “draag de zaak over wanneer een klant een afschrijving betwist en de accountgegevens niet overeenkomen.” Gedetailleerde guardrails geven AI-agents specifieke voorwaarden om te volgen. Dat kan onnodige overdrachten verminderen en het risico verkleinen dat de AI doorgaat met een zaak die menselijke betrokkenheid vereist. 

Teams kunnen vergelijkbaar specifieke overdrachtsvoorwaarden instellen voor verzoeken die buiten de rol van een AI-agent vallen, zoals tegenstrijdige of ontbrekende informatie, verzoeken van klanten om een menselijke agent en andere situaties die menselijke betrokkenheid vereisen. 

2. Verlies van context tijdens overdrachten

Wanneer een AI-agent een live klantinteractie overdraagt aan een menselijke medewerker zonder de sessiegeschiedenis mee te sturen, moet de medewerker de beller helemaal opnieuw ondervragen. Deze slordige overdracht zorgt direct voor frictie, frustreert de klant en verlengt de interactie.

Een klant kan enkele minuten besteden aan het uitleggen van een factureringsprobleem en het verifiëren van het account bij een AI-agent voordat het probleem een menselijke agent vereist, maar als het transcript, de accountgegevens en de al ondernomen acties niet met het gesprek worden overgedragen, moet de klant het hele proces herhalen. 

Om contextverlies tijdens overdrachten te voorkomen, moet je ervoor zorgen dat het systeem de informatie die de AI-agent al heeft verzameld samen met de overdracht rechtstreeks aan de menselijke medewerker doorgeeft.

3. Te veel goedkeuringsstappen

Menselijke goedkeuring vereisen voor routinematige taken met een laag risico kan werk vertragen dat de AI-agent veilig kan afhandelen. Als een medewerker elke standaardwijziging van een afspraak, eenvoudig intakeformulier of routinematige statusopvraag moet goedkeuren, voegt menselijke controle werk toe in plaats van het team te helpen zaken met een hoger risico te beheren. 

Teams kunnen onnodige controlepunten vermijden door vooraf te bepalen welke acties echt menselijke controle vereisen en taken met een lager risico automatisch door te laten gaan. Zo kunnen routinematige afspraakwijzigingen of standaardstatusverzoeken zonder goedkeuring doorgaan, terwijl factureringsgeschillen of beleidsuitzonderingen nog steeds naar een persoon worden doorgestuurd. 

4. Regels die nooit worden bijgewerkt

Overdrachtsregels die vóór de lancering logisch waren, moeten mogelijk veranderen zodra de AI-agent echte gesprekken gaat afhandelen. Herhaalde overdrachten kunnen laten zien waar de oorspronkelijke workflow te voorzichtig is, waar de AI-agent informatie mist of waar een nieuw type verzoek een eigen regel nodig heeft. 

Als een AI-agent bijvoorbeeld routinematige vragen over verzending blijft overdragen omdat klanten ze formuleren op manieren waarop de oorspronkelijke workflow niet was voorbereid, kan het team de kennis of overdrachtsregel van de AI-agent bijwerken zodat die verzoeken geautomatiseerd blijven. 

Door human-in-the-loop-regels als flexibel te behandelen, kunnen teams veilig meer routinematig werk automatiseren en blijft menselijk toezicht gericht op echte uitzonderlijke gevallen. 

Human in the loop en human on the loop vergelijken

HITL en human on the loop (HOTL) zijn twee verschillende modellen voor menselijk toezicht op AI.

HITL vereist dat een persoon deelneemt voordat bepaalde beslissingen of acties kunnen doorgaan. Het is het meest geschikt voor werk met een hoger risico of voor complex werk waarbij compliance, financiële verantwoordelijkheid, klinisch oordeel of beleidsuitzonderingen menselijke controle of goedkeuring vereisen voordat de workflow verdergaat.

HOTL laat de AI werken zonder op menselijke goedkeuring te wachten, maar een persoon bewaakt het systeem en kan indien nodig ingrijpen. Het is het meest geschikt voor werk met een laag risico dat zowel waarneembaar als omkeerbaar is, zoals algemene informatievragen, updates over de bestelstatus of andere interacties met een laag risico waarvoor iemand de uitkomst niet hoeft goed te keuren. 

Een supervisor kan de algehele activiteit volgen en alleen reageren wanneer iets aandacht nodig heeft. Dit zijn de belangrijkste verschillen tussen HITL en HOTL.

Voorbeelden van human-in-the-loop AI

HITL kan verschillende vormen aannemen, afhankelijk van welke beslissingen, goedkeuringen of gesprekken menselijke betrokkenheid vereisen. 

Bankwezen

Customers Bank implementeert bezig met de uitrol van ElevenAgents voor accountvragen, kaartdiensten, overboekingen, onboarding en coaching van medewerkers, met paden voor menselijke overdracht ingebouwd in elke agent. AI-agents kunnen routinematige bankondersteuning afhandelen, terwijl menselijke bankmedewerkers beschikbaar blijven wanneer een gesprek persoonlijke aandacht vereist of een beslissing buiten de rol van de agent valt.

Verzekeringen

Insurely gebruikt AI-spraakagents voor verzekeringsverkoop en klantenservice, waaronder het beantwoorden van vragen en klanten helpen met het invullen van offertes. Wanneer een klant een persoon nodig heeft, draagt de AI-agent het gesprek over of plant deze een terugbelafspraak in.

Gezondheidszorg

mdhub, een platform voor geestelijke gezondheidszorg, gebruikt ElevenAgents⁠ voor patiëntintake en ondersteuning. AI-agents verzamelen patiëntinformatie, verifiëren verzekeringen, koppelen patiënten aan zorgverleners en plannen afspraken in, terwijl zorgprofessionals de behandeling bepalen en beslissingen nemen die klinisch oordeel vereisen.

Fintech

Klarna, een wereldwijde digitale bank en betalingsprovider, gebruikt een ElevenAgents-spraak-AI-agent als eerste lijn van telefonische ondersteuning voor klanten in de VS. De AI-agent handelt informatieverzoeken af en verzamelt relevante context. Vervolgens draagt deze het gesprek over aan een menselijke agent wanneer het probleem complexer of gevoeliger wordt, of wanneer de klant met een persoon wil spreken.

Creatief

Voor content en creatief werk gebruikt ElevenProductions een HITL-aanpak voor AI-ondersteunde productie met menselijke redactie. AI handelt werk af zoals transcriptie en de productie van AI-gegenereerde luisterboeken, terwijl menselijke redacteuren het werk beoordelen, correcties aanbrengen en het eindresultaat goedkeuren. 

In een ander soort mens-AI-samenwerking gebruikte componist en zanger Patrick Darling, die zijn vermogen om te zingen verloor, ElevenLabs-stemtechnologie om zijn eigen muziek opnieuw uit te voeren. 

Ga aan de slag met ElevenAgents

ElevenAgents biedt bedrijven verschillende manieren om te bepalen wat een AI-agent kan afhandelen en waar mensen onderdeel van de workflow moeten blijven. Agents kunnen bedrijfskennis en zakelijke tools gebruiken, vastgestelde workflows volgen en binnen guardrails werken. Een menselijke overdracht kan een gesprek en de context ervan overdragen aan een live persoon, terwijl simulaties teams helpen gedrag vóór de lancering te testen.

Ga aan de slag met ElevenAgents om AI-agents te bouwen met duidelijke workflowgrenzen, menselijke overdracht en controles voor testen en toezicht. Neem contact op met sales om je implementatie af te stemmen, of registreer je om een agent te maken en het zelf te proberen.

Veelgestelde vragen over human-in-the-loop