Vad är human in the loop? Så förbättrar människor AI-workflows

Human in the loop (HITL) är ett workflow i AI-modeller som delar uppgifter mellan automatiserade system och mänskliga experter utifrån tydliga operativa gränser. I ett HITL-system hanterar AI förutsägbara, regelbaserade uppgifter, medan mänskliga specialister behåller ansvaret för komplexa beslut, efterlevnadskrav och gränsfall.

För företag erbjuder HITL ett praktiskt sätt att automatisera rutinuppgifter och samtidigt involvera människor när deras omdöme behövs. En AI-agent kan till exempel slå upp kontouppgifter, samla in skadeinformation, skicka introduktionsformulär eller boka ett möte och sedan markera ett osäkert eller känsligt ärende så att en person kan granska, godkänna, korrigera eller ta över. 

Utöver aktiva workflows används HITL även inom utveckling av maskininlärning. Människor kan märka träningsdata, utvärdera modellresultat, rätta fel eller ge feedback som förbättrar en modells prestanda. I det här sammanhanget är människan en del av modellens tränings- eller förbättringsprocess, snarare än ett aktivt workflow i verksamheten. 

I den här artikeln visar vi var mänsklig medverkan hör hemma i AI-system och workflows, varför den är viktig och hur effektiv HITL fungerar i praktiken. 

Sammanfattning

• AI med human in the loop delar upp ett workflow mellan AI och människor utifrån fördefinierade ansvarsområden.
• Team bygger in mänskliga granskningar, godkännanden, överlämningar och undantagsvägar i workflowet och förfinar sedan reglerna efter behov när lösningen har lanserats.
• HITL kan förbättra precision, effektivitet och riskhantering genom att kombinera automatisering med mänskligt omdöme där det behövs.

Vad är human in the loop?

Human in the loop är ett system där en människa aktivt ingår i processen för att manuellt fatta beslut eller övervaka ett AI-workflow. Det kombinerar automatiserad uppgiftshantering med inbyggda regler som pausar workflowet eller lämnar över det till en person när angivna villkor uppfylls.

Mänsklig medverkan kan vara en planerad del av workflowet eller en reaktion på situationer som AI inte bör hantera på egen hand. Team definierar dessa mänskliga kontaktpunkter i förväg utifrån policy, risk, kundupplevelse och vilken typ av beslut det gäller. 

Vanliga mänskliga kontaktpunkter är: 

• Obligatoriska granskningar och godkännanden: En person granskar eller godkänner beslut som medför ekonomiskt, juridiskt, efterlevnadsrelaterat eller operativt ansvar.
• Reglerade steg: Agentbaserade workflows skickar beslut eller dokumentation till behöriga medarbetare när lagar, policyer eller yrkesstandarder kräver mänsklig medverkan.
• Känslig eller värdefull kommunikation: Människor hanterar samtal där förhandling, trygghet, relationshantering eller noggrant omdöme är viktigt.
• Rollgränser och undantag: Förfrågningar som ligger utanför AI:ns tilldelade roll, omfattar ovanliga omständigheter eller saknar ett definierat svar skickas vidare till en person.
• Överlämning på kundens begäran: En kund kan kopplas till en medarbetare när hen ber om att få prata med någon.
  
  

Människor kan också komma in i loopen dynamiskt när en situation förändras under workflowet. Motstridig information, ett nytt kundärende eller omständigheter som de ursprungliga reglerna inte förutsåg kan utlösa en överlämning, även om uppgiften först följde standardvägen.

Att en människa kliver in betyder inte nödvändigtvis att den automatiserade processen måste börja om från början. När en teammedlem har fattat ett beslut eller löst ett problem sparar AI uppdateringen i ärendet, skickar nästa nödvändiga kommunikation och fortsätter med resten av workflowet.

Vad betyder human in the loop inom maskininlärning?

Maskininlärning med human in the loop använder samma princip som HITL, men under utvecklingsfasen. I stället för att kliva in i ett aktivt workflow deltar människor vid definierade punkter i modellutvecklingsprocessen. 

Forskare kan märka träningsdata, utvärdera modellsvar, rätta fel eller ge feedback som förbättrar modellens beteende före lansering. Domänexperter kan också granska resultat när precisionen beror på specialkunskap eller omdöme. 

Viktiga fördelar med att integrera människor i AI-workflows

För företag kan HITL innebära färre kostsamma misstag, mer konsekvent hantering av känsliga eller reglerade ärenden och snabbare hantering av rutinuppgifter utan att ge AI oinskränkt kontroll över beslut med högre risk.

Här är några av de viktigaste fördelarna och användningsområdena för HITL-system.

Förbättra precision och beslutskvalitet

HITL förbättrar precision och beslutskvalitet genom att kombinera AI:ns konsekvens i strukturerade uppgifter med mänskligt omdöme i de delar som en modell inte kan hantera tillförlitligt på egen hand. AI kan hantera strukturerade uppgifter konsekvent, samla in information som behövs för ett beslut och förbereda standardsvar eller rekommendationer.

Valiants agent Sophia för samtal utanför kontorstid hanterar strukturerad insamling och lämnar sedan över ärenden till en mänsklig mäklare när det är lämpligt. Valiants agent, som bygger på ElevenAgents, kunde identifiera kommersiella låneavsikter till ett värde av över 1,5 miljoner dollar, och Sophia hanterade omkring 29 % av samtalen utanför kontorstid.

Mänsklig input förbättrar beslutskvaliteten när informationen är:

• Ofullständig eller motstridig
• Beroende av sammanhang eller tolkning
• Beroende av förhandling och relationsbyggande
• Beroende av specialiserad expertis

Bättre resultat kan minska kostsamma fel och onödigt omarbete, särskilt i situationer med ekonomiska, regulatoriska eller kundrelaterade konsekvenser.

Minska risken och stöd efterlevnad

HITL kan hjälpa organisationer att minska efterlevnadsrisken genom att säkerställa att reglerade beslut eller beslut med stora konsekvenser når rätt person innan de går vidare. 

AI stöder processrelaterad efterlevnad genom att:

• Skicka obligatoriska dokument.
• Samla in information.
• Kontrollera att obligatoriska fält är ifyllda.
• Hämta policyer eller informationstexter.
• Registrera slutförda steg.
• Styra ärenden till rätt person.

Människor behåller ansvaret när regler kräver tolkning, ett undantag behöver lösas eller ett juridiskt ansvarigt beslut måste fattas.

Till exempel sätter det brittiska försäkringsbolaget Admiral medvetna gränser för sina röstbaserade kundagenter. Admiral skickar ärenden som rör sårbarhet och betalningsförseningar till människor och testar reglerade AI-workflows mot höga valideringskrav före lansering.

Öka effektiviteten och bevara mänsklig expertis

AI kan hantera repetitivt administrativt arbete, samla in information, förbereda underlag och driva rutinärenden framåt utan att behöva en person i varje steg. För företag kan resultatet bli kortare handläggningstider, mindre administrativ eftersläpning och större kapacitet för medarbetare att hantera arbete som direkt påverkar kunder, intäkter eller risk. 

Finch Legal kunde använda ElevenAgents för att förbättra samtalens framgångsgrad från 59 % till 93 % och samtidigt skala upp till över 15 000 samtal per månad. Genom att använda en agent för dessa processer tillbringade mänskliga agenter ungefär en sjättedel så mycket tid i telefon som i tidigare lösningar. Människor behövde bara kliva in när ärendet krävde deras expertis, så de kunde fokusera på värdefulla tillfällen.

Utmaningar och överväganden för system med human in the loop

Även ett väl utformat system med human in the loop kan fallera om överlämningen fungerar dåligt eller personen som tar över saknar tillräckligt med sammanhang för att kunna agera. Balansen mellan automatiserad snabbhet och mänsklig tillsyn avgörs av workflowets utformning. 

När ett system med human in the loop inte fungerar som avsett ligger problemet ofta i reglerna som avgör när människor kommer in i processen och vilken information de får.

Här är några av de främsta utmaningarna i system med human in the loop.

1. Otydliga utlösare för överlämning

Att programmera AI-agenter med subjektiva instruktioner som ”överför svåra ärenden” eller ”skicka ovanliga förfrågningar till en mänsklig agent” kan leda till onödiga överlämningar eller göra att AI fortsätter med en situation som borde involvera en person.

I stället för att be en AI-agent för kundtjänst att ”överföra komplexa faktureringsfrågor” kan ett team till exempel ange en regel som ”lämna över ärendet när en kund bestrider en debitering och kontouppgifterna inte stämmer överens”. Detaljerade skyddsräcken ger AI-agenter specifika villkor att följa, vilket kan minska onödiga överlämningar och risken för att AI fortsätter med ett ärende som kräver mänsklig medverkan. 

Team kan ange lika specifika villkor för överlämning av förfrågningar som ligger utanför en AI-agents roll, till exempel motstridig eller saknad information, kunders begäran om en mänsklig agent och andra situationer som kräver mänsklig medverkan. 

2. Förlust av sammanhang vid överlämningar

När en AI-agent lämnar över en aktiv kundinteraktion till en mänsklig representant utan att föra över sessionshistoriken tvingas medarbetaren intervjua uppringaren på nytt från början. Den här bristfälliga överföringen skapar omedelbar friktion, frustrerar kunden och förlänger interaktionen.

En kund kan lägga flera minuter på att förklara ett faktureringsproblem och verifiera sitt konto med en AI-agent innan problemet kräver en mänsklig agent, men om transkriptionen, kontouppgifterna och redan vidtagna åtgärder inte följer med samtalet måste kunden upprepa hela processen. 

För att undvika att tappa sammanhanget vid överlämningar bör systemet skicka informationen som AI-agenten redan har samlat in direkt till den mänskliga representanten tillsammans med överlämningen.

3. För många godkännandesteg

Att kräva mänskligt godkännande för rutinuppgifter med låg risk kan bromsa arbete som AI-agenten kan hantera säkert. Om en medarbetare måste godkänna varje vanlig ändring av en bokning, enkelt inskrivningsformulär eller rutinmässig statuskontroll börjar den mänskliga granskningen skapa arbete i stället för att hjälpa teamet att hantera ärenden med högre risk. 

Team kan undvika onödiga kontrollpunkter genom att i förväg avgöra vilka åtgärder som verkligen kräver mänsklig granskning och låta uppgifter med lägre risk fortsätta automatiskt. Till exempel kan vanliga ändringar av bokningar eller standardförfrågningar om status hanteras utan godkännande, medan faktureringstvister eller policyundantag fortfarande skickas till en person. 

4. Regler som aldrig uppdateras

Regler för överlämning som var rimliga före lanseringen kan behöva ändras när AI-agenten börjar hantera verkliga samtal. Upprepade överlämningar kan visa var det ursprungliga workflowet är för försiktigt, var AI-agenten saknar information eller var en ny typ av förfrågan behöver en egen regel. 

Om en AI-agent till exempel fortsätter att lämna över rutinfrågor om leveranser eftersom kunder formulerar dem på sätt som det ursprungliga workflowet inte förutsåg, kan teamet uppdatera AI-agentens kunskap eller regel för överlämning så att dessa förfrågningar fortsätter att automatiseras. 

Genom att behandla regler för human in the loop som flexibla kan team automatisera mer rutinarbete på ett säkert sätt och samtidigt fokusera mänsklig tillsyn på verkliga gränsfall. 

Jämförelse mellan human in the loop och human on the loop

HITL och human on the loop (HOTL) är två olika modeller för mänsklig tillsyn av AI.

HITL kräver att en person deltar innan vissa beslut eller åtgärder kan fortsätta. Det passar bäst för arbete med högre risk eller komplexitet, där efterlevnad, ekonomiskt ansvar, kliniskt omdöme eller policyundantag kräver mänsklig granskning eller godkännande innan workflowet går vidare.

HOTL låter AI arbeta utan att vänta på mänskligt godkännande, men en person övervakar systemet och kan ingripa vid behov. Det passar bäst för arbete med låg risk som både går att observera och återställa, som allmänna informationsfrågor, uppdateringar om orderstatus eller andra interaktioner med låg risk som inte kräver att en person godkänner resultatet. 

En ansvarig kan övervaka den övergripande aktiviteten och bara agera när något behöver uppmärksammas. Här är de viktigaste skillnaderna mellan HITL och HOTL.

Exempel på AI med human in the loop

HITL kan ha olika former beroende på vilka beslut, godkännanden eller samtal som kräver mänsklig medverkan. 

Bank

Customers Bank lanserar ElevenAgents för kontofrågor, korttjänster, överföringar, introduktion och medarbetarcoachning, med vägar för mänsklig överlämning inbyggda i varje agent. AI-agenter kan hantera rutinmässig banksupport, medan mänskliga banktjänstemän finns tillgängliga när ett samtal kräver personlig uppmärksamhet eller ett beslut utanför agentens roll.

Försäkring

Insurely använder AI-röstagenter för försäkringsförsäljning och kundservice, bland annat för att besvara frågor och hjälpa kunder att slutföra offerter. När en kund behöver en person lämnar AI-agenten över samtalet eller bokar ett återuppringningssamtal.

Hälso- och sjukvård

mdhub, en plattform för beteendehälsa, använder ElevenAgents⁠ för patientinskrivning och support. AI-agenter samlar in patientinformation, verifierar försäkringar, matchar patienter med vårdgivare och bokar tider, medan vårdpersonal avgör behandling och fattar beslut som kräver kliniskt omdöme.

Fintech

Klarna, en global digital bank och betaltjänstleverantör, använder en AI-röstagent från ElevenAgents som första linje för telefonsupport för kunder i USA. AI-agenten hanterar informationsförfrågningar och samlar in relevant sammanhang, och lämnar sedan över samtalet till en mänsklig agent när ärendet blir mer komplext eller känsligt, eller när kunden vill prata med en person.

Kreativt arbete

För innehåll och kreativt arbete använder ElevenProductions en HITL-metod för AI-assisterad produktion med mänsklig redigering. AI hanterar arbete som transkribering och AI-genererad produktion av ljudböcker, medan mänskliga redaktörer granskar arbetet, gör korrigeringar och godkänner slutresultatet. 

I en annan typ av samarbete mellan människa och AI använde kompositören och sångaren Patrick Darling, som förlorade sin förmåga att sjunga, ElevenLabs röstteknik för att framföra sin egen musik igen. 

Kom igång med ElevenAgents

ElevenAgents ger företag flera sätt att definiera vad en AI-agent kan hantera och var människor bör fortsätta vara en del av workflowet. Agenter kan använda företagets kunskap och verksamhetsverktyg, följa definierade workflows och arbeta inom skyddsräcken. Mänsklig överlämning kan överföra ett samtal och dess sammanhang till en person, medan simuleringar hjälper team att testa beteendet före lansering.

Kom igång med ElevenAgents och bygg AI-agenter med tydliga gränser för workflowet, mänsklig överlämning och kontroller för testning och tillsyn. Kontakta säljavdelningen för att planera din implementering, eller registrera dig för att skapa en agent och prova själv.

Vanliga frågor om human in the loop