Vad är human in the loop? Så förbättrar människor AI-workflows

Human in the loop (HITL) är ett arbetsflöde som används i AI-modeller för att fördela uppgifter mellan automatiserade system och mänskliga experter utifrån tydliga operativa gränser. I ett HITL-system hanterar AI förutsägbara, regelbaserade uppgifter, medan mänskliga specialister behåller ansvaret för komplexa beslut, efterlevnadskrav och undantagsfall.

För företag är HITL ett praktiskt sätt att automatisera rutinuppgifter och samtidigt behålla människor i processen när deras omdöme behövs. En AI-agent kan till exempel slå upp kontouppgifter, samla in skadeinformation, skicka introduktionsformulär eller boka ett möte och sedan flagga ett osäkert eller känsligt ärende så att en person kan granska, godkänna, korrigera eller ta över. 

Utöver aktiva arbetsflöden används HITL även i utvecklingen av maskininlärning. Människor kan märka träningsdata, utvärdera modellresultat, rätta fel eller ge feedback som förbättrar modellens prestanda. I det här sammanhanget är människan en del av modellens tränings- eller förbättringsprocess, snarare än ett aktivt arbetsflöde i verksamheten. 

I den här artikeln visar vi var mänsklig medverkan hör hemma i AI-system och arbetsflöden, varför den är viktig och hur effektiv HITL fungerar i praktiken. 

Sammanfattning

• Human-in-the-loop-AI delar upp ett arbetsflöde mellan AI och människor utifrån fördefinierade ansvarsområden.
• Team bygger in mänskliga granskningar, godkännanden, överlämningar och undantagsvägar i arbetsflödet och förfinar sedan reglerna vid behov efter lansering.
• HITL kan förbättra noggrannhet, effektivitet och riskhantering genom att kombinera automatisering med mänskligt omdöme där det behövs.

Vad är human in the loop?

Human in the loop är ett system där en människa aktivt ingår i processen för att fatta beslut manuellt eller övervaka ett AI-arbetsflöde. Det fungerar genom att kombinera automatiserad uppgiftshantering med inbyggda regler som pausar arbetsflödet eller lämnar över det till en person när vissa villkor uppfylls.

Mänsklig medverkan kan vara en planerad del av arbetsflödet eller ett svar på situationer som AI:n inte bör hantera på egen hand. Team definierar dessa mänskliga kontaktpunkter i förväg utifrån policyer, risker, kundupplevelse och typen av beslut. 

Vanliga mänskliga kontaktpunkter är: 

• Obligatoriska granskningar och godkännanden: En person granskar eller godkänner beslut som innebär ekonomiskt, juridiskt, regelefterlevnads- eller operativt ansvar.
• Reglerade steg: Agentiska arbetsflöden skickar beslut eller dokumentation till kvalificerade medarbetare när lagar, policyer eller yrkesstandarder kräver mänsklig medverkan.
• Känslig kommunikation eller kommunikation med högt värde: Människor hanterar samtal där förhandling, trygghet, relationshantering eller noggrant omdöme är viktigt.
• Rollgränser och undantag: Förfrågningar som ligger utanför AI:ns tilldelade roll, omfattar ovanliga omständigheter eller saknar ett definierat svar lämnas över till en person.
• Överlämning på kundens begäran: En kund kan kopplas vidare till en tillgänglig teammedlem när de ber om att få prata med någon.
  
  

Människor kan också komma in i processen dynamiskt när situationen förändras under arbetsflödet. Motstridig information, ett nytt kundärende eller omständigheter som de ursprungliga reglerna inte förutsåg kan utlösa en överlämning även om uppgiften först följde standardvägen.

Att en människa kliver in innebär inte nödvändigtvis att den automatiserade processen måste börja om från början. När en teammedlem fattar ett beslut eller löser ett problem sparar AI:n uppdateringen i ärendet, skickar nästa nödvändiga meddelande och fortsätter med resten av arbetsflödet.

Vad innebär human-in-the-loop inom maskininlärning?

Human-in-the-loop-maskininlärning använder samma princip som HITL, men under utvecklingsfasen. I stället för att kliva in i ett aktivt arbetsflöde deltar människor vid definierade punkter i modellutvecklingsprocessen. 

Forskare kan märka träningsdata, utvärdera modellsvar, rätta fel eller ge feedback som hjälper till att förbättra modellens beteende före lansering. Domänexperter kan också granska resultat när noggrannheten beror på specialiserad kunskap eller bedömning. 

Viktiga fördelar med att integrera människor i AI-arbetsflöden

För företag kan HITL innebära färre kostsamma misstag, mer konsekvent hantering av känsliga eller reglerade ärenden och snabbare hantering av rutinuppgifter utan att AI får obegränsad kontroll över beslut med högre risk.

Här är några av de viktigaste fördelarna och användningsområdena för HITL-system.

Förbättra noggrannhet och beslutskvalitet

HITL förbättrar noggrannhet och beslutskvalitet genom att kombinera AI:ns konsekvens i strukturerade uppgifter med mänskligt omdöme i de delar som en modell inte kan hantera tillförlitligt på egen hand. AI kan konsekvent hantera strukturerade uppgifter, samla in informationen som behövs för ett beslut och förbereda standardsvar eller rekommendationer.

Valiants agent Sophia för samtal utanför kontorstid hanterar strukturerad informationsinsamling och lämnar sedan över ärenden till en mänsklig mäklare där det är lämpligt. Valiants agent, som bygger på ElevenAgents, kunde identifiera över 1,5 miljoner USD i avsikt att ansöka om kommersiella lån, medan Sophia hanterade omkring 29 % av samtalen utanför kontorstid.

Mänsklig input förbättrar beslutskvaliteten när informationen är:

• Ofullständig eller motstridig
• Beroende av kontext eller tolkning
• Beroende av förhandling och relationsbyggande
• Beroende av specialiserad expertis

Bättre resultat kan minska kostsamma fel och undvikbart omarbete, särskilt i situationer med ekonomiska, regulatoriska eller kundrelaterade konsekvenser.

Minska risker och stöd efterlevnad

HITL kan hjälpa organisationer att minska risken för bristande efterlevnad genom att se till att reglerade beslut eller beslut med stora konsekvenser når rätt person innan de går vidare. 

AI stöder processmässig efterlevnad genom att:

• Skicka nödvändiga dokument.
• Samla in information.
• Kontrollera att obligatoriska fält är ifyllda.
• Hämta policyer eller informationstexter.
• Registrera slutförda steg.
• Styra ärenden till rätt person.

Människor behåller ansvaret när regler kräver tolkning, ett undantag behöver lösas eller ett juridiskt ansvarigt beslut måste fattas.

Till exempel har det brittiska försäkringsbolagetAdmiral medvetna avgränsningar för sina röstassistenter för kunder. Admiral lämnar över ärenden som rör sårbarhet och betalningssvårigheter till människor och testar reglerade AI-arbetsflöden mot höga valideringskrav före lansering.

Öka effektiviteten och bevara mänsklig expertis

AI kan hantera repetitivt administrativt arbete, samla in information, förbereda dokumentation och föra rutinärenden framåt utan att en person behövs i varje steg. För företag kan resultatet bli kortare handläggningstider, mindre administrativ eftersläpning och större kapacitet för medarbetare att hantera arbete som direkt påverkar kunder, intäkter eller risker. 

Finch Legal kunde använda ElevenAgents för att öka andelen lyckade samtal från 59 % till 93 % samtidigt som verksamheten skalades till över 15 000 samtal per månad. Genom att införa en agent för dessa processer tillbringade mänskliga agenter ungefär en sjättedel så mycket tid i telefon som vid tidigare lösningar. Människor behövde bara kliva in när ärendet krävde deras expertis, så att de kunde fokusera på tillfällen med högt värde.

Utmaningar och överväganden för human-in-the-loop-system

Även ett väl utformat human-in-the-loop-system kan fallera om överlämningen är bristfällig eller om personen som tar över saknar tillräckligt med kontext för att agera. Balansen mellan automatiserad hastighet och mänsklig tillsyn avgörs av arbetsflödets utformning. 

När ett human-in-the-loop-system inte fungerar som avsett ligger problemet ofta i reglerna som avgör när människor kommer in i processen och vilken information de får.

Här är några av de främsta utmaningarna i human-in-the-loop-system.

1. Otydliga överlämningstriggers

Att programmera AI-agenter med subjektiva instruktioner som ”överför svåra ärenden” eller ”skicka ovanliga förfrågningar till en mänsklig agent” kan leda till onödiga överlämningar eller låta AI:n fortsätta med en situation som borde hanteras av en person.

I stället för att säga till en AI-kundtjänstagent att ”överföra komplexa faktureringsfrågor” kan ett team till exempel skapa en regel som säger ”lämna över ärendet när en kund bestrider en debitering och kontouppgifterna inte stämmer överens”. Detaljerade skyddsräcken ger AI-agenter specifika villkor att följa, vilket kan minska onödiga överlämningar och risken för att AI:n fortsätter med ett ärende som kräver mänsklig medverkan. 

Team kan ange lika specifika villkor för överlämning av förfrågningar som ligger utanför en AI-agents roll, till exempel motstridig eller saknad information, kunders önskemål om en mänsklig agent och andra situationer som kräver mänsklig medverkan. 

2. Kontextförlust vid överlämningar

När en AI-agent lämnar över en aktiv kundinteraktion till en mänsklig representant utan att föra över sessionshistoriken tvingas medarbetaren intervjua den som ringer från början. Den här bristfälliga överföringen skapar omedelbar friktion, frustrerar kunden och förlänger interaktionen.

En kund kan lägga flera minuter på att förklara ett faktureringsproblem och verifiera sitt konto med en AI-agent innan ärendet kräver en mänsklig agent, men om transkriptionen, kontouppgifterna och åtgärderna som redan vidtagits inte följer med samtalet, måste kunden upprepa hela processen. 

För att undvika att förlora kontext vid överlämningar ska du se till att systemet skickar informationen som AI-agenten redan samlat in direkt till den mänskliga representanten tillsammans med överlämningen.

3. För många godkännandesteg

Att kräva mänskligt godkännande för rutinuppgifter med låg risk kan sakta ned arbete som AI-agenten är rustad att hantera säkert. Om en medarbetare måste godkänna varje vanlig ombokning, enkelt inskrivningsformulär eller rutinmässig statuskontroll börjar mänsklig granskning skapa mer arbete i stället för att hjälpa teamet hantera ärenden med högre risk. 

Team kan undvika onödiga kontrollpunkter genom att i förväg avgöra vilka åtgärder som verkligen kräver mänsklig granskning och låta uppgifter med lägre risk fortsätta automatiskt. Vanliga ombokningar eller standardförfrågningar om status kan till exempel hanteras utan godkännande, medan faktureringstvister eller policyundantag fortfarande skickas till en person. 

4. Regler som aldrig uppdateras

Regler för överlämning som var rimliga före lanseringen kan behöva ändras när AI-agenten börjar hantera riktiga samtal. Upprepade överlämningar kan visa var det ursprungliga arbetsflödet är för försiktigt, var AI-agenten saknar information eller var en ny typ av förfrågan behöver en egen regel. 

Om en AI-agent till exempel fortsätter att lämna över rutinfrågor om leveranser eftersom kunder formulerar dem på sätt som det ursprungliga arbetsflödet inte förutsåg, kan teamet uppdatera AI-agentens kunskap eller överlämningsregel så att dessa förfrågningar förblir automatiserade. 

Genom att behandla human-in-the-loop-regler som flexibla kan team automatisera mer rutinmässigt arbete på ett säkert sätt och samtidigt hålla den mänskliga tillsynen fokuserad på verkliga undantagsfall. 

Jämförelse mellan human in the loop och human on the loop

HITL och human on the loop (HOTL) är två olika modeller för mänsklig tillsyn av AI.

HITL kräver att en person deltar innan vissa beslut eller åtgärder kan fortsätta. Det passar bäst för arbete med högre risk eller komplexitet där efterlevnad, ekonomiskt ansvar, klinisk bedömning eller policyundantag kräver mänsklig granskning eller godkännande innan arbetsflödet går vidare.

HOTL låter AI:n arbeta utan att invänta mänskligt godkännande, men en person övervakar systemet och kan ingripa vid behov. Det passar bäst för arbete med låg risk som både kan observeras och återställas, som allmänna informationsfrågor, orderstatusuppdateringar eller andra interaktioner med låg risk som inte kräver att en person godkänner resultatet. 

En arbetsledare kan följa den övergripande aktiviteten och bara agera när något behöver uppmärksammas. Här är de viktigaste skillnaderna mellan HITL och HOTL.

Exempel på human-in-the-loop-AI

HITL kan se olika ut beroende på vilka beslut, godkännanden eller samtal som kräver mänsklig medverkan. 

Bank

Customers Bank inför ElevenAgents för kontoförfrågningar, korttjänster, överföringar, introduktion och medarbetarcoachning, med vägar för mänsklig överlämning inbyggda i varje agent. AI-agenter kan hantera rutinmässig banksupport, medan mänskliga bankrådgivare finns tillgängliga när ett samtal kräver personlig uppmärksamhet eller ett beslut utanför agentens roll.

Försäkring

Insurely använder AI-röstagenter för försäkringsförsäljning och kundservice, bland annat för att svara på frågor och hjälpa kunder att slutföra offerter. När en kund behöver en person lämnar AI-agenten över samtalet eller bokar ett återuppringningssamtal.

Hälso- och sjukvård

mdhub, en plattform för beteendehälsa, använder ElevenAgents⁠ för patientinskrivning och support. AI-agenter samlar in patientinformation, verifierar försäkringar, matchar patienter med vårdgivare och bokar tider, medan vårdpersonal fastställer behandling och fattar beslut som kräver klinisk bedömning.

Fintech

Klarna, en global digital bank och betaltjänstleverantör, använder en röstbaserad AI-agent från ElevenAgents som första linjens telefonsupport för kunder i USA. AI-agenten hanterar informationsförfrågningar och samlar in relevant kontext, och lämnar sedan över samtalet till en mänsklig agent när frågan blir mer komplex eller känslig, eller när kunden vill prata med en person.

Kreativt arbete

För innehåll och kreativt arbete använder ElevenProductions en HITL-metod för AI-stödd produktion med mänsklig redigering. AI hanterar arbete som transkribering och AI-genererad ljudboksproduktion, medan mänskliga redaktörer granskar arbetet, gör korrigeringar och godkänner slutresultatet. 

I en annan form av samarbete mellan människa och AI använde kompositören och sångaren Patrick Darling, som förlorade sin förmåga att sjunga, ElevenLabs röstteknik för att framföra sin egen musik igen. 

Kom igång med ElevenAgents

ElevenAgents ger företag flera sätt att definiera vad en AI-agent kan hantera och var människor bör fortsätta vara en del av arbetsflödet. Agenter kan använda företagets kunskap och verksamhetsverktyg, följa definierade arbetsflöden och arbeta inom skyddsräcken. Mänsklig överlämning kan överföra ett samtal och dess kontext till en tillgänglig person, medan simuleringar hjälper team att testa beteendet före lansering.

Kom igång med ElevenAgents för att bygga AI-agenter med tydliga gränser i arbetsflödet, mänsklig överlämning och kontroller för testning och tillsyn. Kontakta säljteamet för att planera din implementering, eller registrera dig för att skapa en agent och prova själv.

Vanliga frågor om human-in-the-loop