Was bedeutet Human in the Loop? Wie Menschen KI-Workflows verbessern

Human in the Loop (HITL) ist ein in KI-Modellen eingesetzter Workflow, der Aufgaben anhand klarer operativer Grenzen zwischen automatisierten Systemen und menschlichen Fachleuten aufteilt. In einem HITL-System übernimmt die KI vorhersehbare, regelbasierte Aufgaben, während menschliche Spezialisten für komplexe Entscheidungen, Compliance-Anforderungen und Sonderfälle verantwortlich bleiben.

Für Unternehmen bietet HITL eine praktische Möglichkeit, Routinearbeit zu automatisieren und Menschen einzubeziehen, wenn ihr Urteilsvermögen gefragt ist. Ein KI-Agent kann Kontodaten abrufen, Informationen zu Schadensfällen erfassen, Onboarding-Formulare versenden oder Termine buchen und anschließend einen unsicheren oder sensiblen Fall zur Prüfung, Genehmigung, Korrektur oder Übernahme an eine Person weiterleiten. 

Neben Live-Workflows wird HITL auch bei der Entwicklung maschinellen Lernens eingesetzt. Menschen können Trainingsdaten kennzeichnen, Modellausgaben bewerten, Fehler korrigieren oder Feedback geben, das die Leistung eines Modells verbessert. In diesem Kontext ist der Mensch Teil des Trainings- oder Verbesserungsprozesses des Modells und nicht eines laufenden Geschäftsworkflows. 

In diesem Artikel zeigen wir, wo menschliche Beteiligung in KI-Systemen und Workflows sinnvoll ist, warum sie wichtig ist und wie wirksames HITL in der Praxis aussieht. 

Zusammenfassung

• Human-in-the-loop-KI teilt einen Workflow anhand vordefinierter Verantwortlichkeiten zwischen KI und Menschen auf.
• Teams integrieren menschliche Prüfungen, Genehmigungen, Übergaben und Ausnahmewege in den Workflow und verfeinern diese Regeln nach der Einführung bei Bedarf.
• HITL kann Genauigkeit, Effizienz und Risikomanagement verbessern, indem es Automatisierung mit menschlichem Urteilsvermögen kombiniert, wo dieses erforderlich ist.

Was bedeutet Human in the Loop?

Human in the Loop ist ein System, bei dem ein Mensch aktiv in den Prozess eingebunden wird, um Entscheidungen manuell zu treffen oder einen KI-Workflow zu überwachen. Es kombiniert automatisierte Aufgabenbearbeitung mit integrierten Regeln, die den Workflow anhalten oder an eine Person übergeben, wenn definierte Bedingungen erfüllt sind.

Die menschliche Beteiligung kann ein geplanter Teil des Workflows sein oder eine Reaktion auf Situationen, die die KI nicht eigenständig bearbeiten sollte. Teams definieren diese menschlichen Kontaktpunkte im Voraus anhand von Richtlinien, Risiken, Kundenerlebnis und der Art der Entscheidung. 

Häufige menschliche Kontaktpunkte sind: 

• Erforderliche Prüfungen und Genehmigungen: Eine Person prüft oder genehmigt Entscheidungen mit finanzieller, rechtlicher, Compliance- oder operativer Verantwortung.
• Regulierte Schritte: Agentenbasierte Workflows leiten Entscheidungen oder Dokumentationen an qualifizierte Mitarbeitende weiter, wenn Gesetze, Richtlinien oder berufliche Standards menschliche Beteiligung erfordern.
• Sensible oder hochwertige Kommunikation: Menschen führen Gespräche, bei denen Verhandlungen, Beruhigung, Beziehungsmanagement oder sorgfältiges Urteilsvermögen wichtig sind.
• Rollenbegrenzungen und Ausnahmen: Anfragen, die außerhalb der zugewiesenen Rolle der KI liegen, ungewöhnliche Umstände betreffen oder keine definierte Antwort haben, werden an eine Person weitergeleitet.
• Vom Kunden gewünschte Übergabe: Ein Kunde kann an ein verfügbares Teammitglied weitergeleitet werden, wenn er mit einer Person sprechen möchte.
  
  

Menschen können auch dynamisch in den Prozess eingebunden werden, wenn sich eine Situation während des Workflows verändert. Widersprüchliche Informationen, ein neues Kundenanliegen oder Umstände, die die ursprünglichen Regeln nicht vorhergesehen haben, können eine Übergabe auslösen, selbst wenn die Aufgabe zunächst dem Standardablauf folgte.

Wenn eine Person eingreift, muss der automatisierte Prozess nicht unbedingt von vorne beginnen. Sobald ein Teammitglied eine Entscheidung trifft oder ein Problem löst, speichert die KI die Aktualisierung im Datensatz, sendet die nächste erforderliche Mitteilung und führt den restlichen Workflow fort.

Was bedeutet Human in the Loop beim maschinellen Lernen?

Human-in-the-loop beim maschinellen Lernen nutzt dasselbe Prinzip wie HITL, jedoch in der Entwicklungsphase. Statt in einen Live-Workflow einzugreifen, beteiligen sich Menschen an definierten Punkten des Modellentwicklungsprozesses. 

Forschende können Trainingsdaten kennzeichnen, Modellantworten bewerten, Fehler korrigieren oder Feedback geben, das das Modellverhalten vor der Einführung verbessert. Fachexperten können Ausgaben auch prüfen, wenn die Genauigkeit von spezialisiertem Wissen oder Urteilsvermögen abhängt. 

Wichtige Vorteile der Integration von Menschen in KI-Workflows

Für Unternehmen kann HITL weniger kostspielige Fehler, eine konsistentere Bearbeitung sensibler oder regulierter Fälle und eine schnellere Verarbeitung von Routineaufgaben bedeuten, ohne der KI unkontrollierte Entscheidungsgewalt bei risikoreicheren Entscheidungen zu geben.

Hier sind einige der wichtigsten Vorteile und Anwendungsfälle von HITL-Systemen.

Genauigkeit und Entscheidungsqualität verbessern

HITL verbessert Genauigkeit und Entscheidungsqualität, indem es die Konsistenz der KI bei strukturierten Aufgaben mit menschlichem Urteilsvermögen bei Aufgaben kombiniert, die ein Modell allein nicht zuverlässig bewältigen kann. KI kann strukturierte Aufgaben konsistent bearbeiten, für eine Entscheidung benötigte Informationen erfassen und Routineantworten oder Empfehlungen vorbereiten.

Valiants Agentin Sophia für Anrufe außerhalb der Geschäftszeiten bearbeitet strukturierte Erstaufnahmen und übergibt Fälle bei Bedarf an einen menschlichen Makler. Der mit ElevenAgents entwickelte Agent von Valiant konnte Absichten für gewerbliche Kredite im Wert von über 1,5 Mio. US-Dollar erkennen; Sophia bearbeitete rund 29 % der Anrufe außerhalb der Geschäftszeiten.

Menschlicher Input verbessert die Entscheidungsqualität, wenn Informationen:

• Unvollständig oder widersprüchlich sind
• Vom Kontext oder einer Interpretation abhängen
• Auf Folgendem beruhen: Verhandlung und Beziehungsaufbau
• Von spezialisiertem Fachwissen abhängen

Bessere Ergebnisse können kostspielige Fehler und vermeidbare Nacharbeit verringern, insbesondere in Situationen mit finanziellen, regulatorischen oder kundenbezogenen Folgen.

Risiken reduzieren und Compliance unterstützen

HITL kann Unternehmen helfen, Compliance-Risiken zu reduzieren, indem sichergestellt wird, dass regulierte oder folgenschwere Entscheidungen die richtige Person erreichen, bevor sie weitergeführt werden. 

KI unterstützt die Einhaltung von Verfahren durch:

• Versenden erforderlicher Dokumente.
• Erfassen von Informationen.
• Prüfen, ob erforderliche Felder vollständig sind.
• Abrufen von Richtlinien oder Offenlegungen.
• Dokumentieren abgeschlossener Schritte.
• Weiterleiten von Fällen an die zuständige Person.

Menschen bleiben verantwortlich, wenn Vorschriften eine Interpretation erfordern, eine Ausnahme gelöst werden muss oder eine rechtlich verantwortbare Entscheidung getroffen werden muss.

Beispielsweise setzt der britische Versicherer Admiral bewusst Grenzen für den Aufgabenbereich seiner Voice Agents im Kundenservice. Admiral leitet Fälle zu Vulnerabilität und Zahlungsrückständen an Menschen weiter und prüft regulierte KI-Workflows vor dem Start anhand hoher Validierungsstandards.

Effizienz steigern und menschliches Fachwissen erhalten

KI kann wiederkehrende Verwaltungsaufgaben erledigen, Informationen erfassen, Unterlagen vorbereiten und Routinefälle weiterbearbeiten, ohne bei jedem Schritt eine Person zu benötigen. Für Unternehmen können kürzere Bearbeitungszeiten, weniger Verwaltungsrückstände und mehr Kapazität für Mitarbeitende entstehen, die Aufgaben mit direktem Einfluss auf Kunden, Umsatz oder Risiko übernehmen. 

Finch Legal konnte mit ElevenAgents die Erfolgsrate von Anrufen von 59 % auf 93 % steigern und auf mehr als 15.000 Anrufe pro Monat skalieren. Durch die Einführung eines Agenten für diese Prozesse verbrachten menschliche Agenten nur etwa ein Sechstel der Zeit am Telefon im Vergleich zu früheren Implementierungen. Menschen mussten nur eingreifen, wenn der Fall ihr Fachwissen erforderte, sodass sie für wertvolle Momente verfügbar blieben.

Herausforderungen und Überlegungen bei Human-in-the-loop-Systemen

Auch ein gut konzipiertes Human-in-the-loop-System kann scheitern, wenn die Übergabe schlecht funktioniert oder der übernehmenden Person genügend Kontext zum Handeln fehlt. Das Gleichgewicht zwischen automatisierter Geschwindigkeit und menschlicher Kontrolle hängt vom Workflow-Design ab. 

Wenn ein Human-in-the-loop-System nicht wie vorgesehen funktioniert, liegt das Problem häufig in den Regeln, die bestimmen, wann Menschen in den Prozess eingebunden werden und welche Informationen sie erhalten.

Hier sind einige der wichtigsten Herausforderungen bei Human-in-the-loop-Systemen.

1. Vage Auslöser für Übergaben

KI-Agenten mit subjektiven Anweisungen wie „schwierige Fälle weiterleiten“ oder „ungewöhnliche Anfragen an einen menschlichen Agenten senden“ zu programmieren, kann zu unnötigen Übergaben führen oder es der KI ermöglichen, eine Situation weiterzubearbeiten, die eine Person einbeziehen sollte.

Statt einem KI-Kundenservice-Agenten beispielsweise zu sagen, er solle „komplexe Abrechnungsfragen weiterleiten“, kann ein Team eine Regel festlegen wie: „Übergib den Fall, wenn ein Kunde eine Belastung bestreitet und die Kontodaten nicht übereinstimmen.“ Detaillierte Leitplanken geben KI-Agenten konkrete Bedingungen, denen sie folgen können. Das kann unnötige Übergaben reduzieren und das Risiko senken, dass die KI einen Fall fortführt, der menschliche Beteiligung benötigt. 

Teams können ähnlich konkrete Übergabebedingungen für Anfragen festlegen, die außerhalb der Rolle eines KI-Agenten liegen, etwa bei widersprüchlichen oder fehlenden Informationen, Kundenwünschen nach einem menschlichen Agenten und anderen Situationen, die menschliche Beteiligung erfordern. 

2. Kontextverlust bei Übergaben

Wenn ein KI-Agent eine laufende Kundeninteraktion an einen menschlichen Ansprechpartner übergibt, ohne den Sitzungsverlauf zu übertragen, muss der Mitarbeitende den Anrufer von Grund auf erneut befragen. Diese mangelhafte Übergabe führt sofort zu Reibung, frustriert den Kunden und verlängert die Interaktion.

Ein Kunde kann mehrere Minuten damit verbringen, einem KI-Agenten ein Abrechnungsproblem zu erklären und sein Konto zu verifizieren, bevor das Anliegen einen menschlichen Agenten erfordert. Werden jedoch Transkript, Kontodaten und bereits durchgeführte Schritte nicht mit dem Anruf übertragen, muss der Kunde den gesamten Prozess wiederholen. 

Um Kontextverlust bei Übergaben zu vermeiden, sollte das System die bereits vom KI-Agenten erfassten Informationen zusammen mit der Übergabe direkt an den menschlichen Ansprechpartner übermitteln.

3. Zu viele Genehmigungsschritte

Wenn für routinemäßige Aufgaben mit geringem Risiko eine menschliche Freigabe erforderlich ist, kann dies Arbeiten verlangsamen, die der KI-Agent sicher erledigen kann. Muss ein Mitarbeitender jede Standard-Terminanpassung, jedes einfache Aufnahmeformular oder jede routinemäßige Statusabfrage genehmigen, schafft die menschliche Prüfung zusätzliche Arbeit, statt dem Team bei der Bearbeitung risikoreicherer Fälle zu helfen. 

Teams können unnötige Kontrollpunkte vermeiden, indem sie im Voraus entscheiden, welche Aktionen tatsächlich eine menschliche Prüfung erfordern, und Aufgaben mit geringerem Risiko automatisch fortsetzen lassen. Beispielsweise können routinemäßige Terminänderungen oder Standard-Statusanfragen ohne Genehmigung erfolgen, während Abrechnungsstreitigkeiten oder Richtlinienausnahmen weiterhin an eine Person weitergeleitet werden. 

4. Regeln, die nie aktualisiert werden

Übergaberegeln, die vor dem Start sinnvoll waren, müssen möglicherweise angepasst werden, sobald der KI-Agent reale Gespräche bearbeitet. Wiederholte Übergaben können zeigen, wo der ursprüngliche Workflow zu vorsichtig ist, wo dem KI-Agenten Informationen fehlen oder wo eine neue Art von Anfrage eine eigene Regel benötigt. 

Wenn ein KI-Agent beispielsweise routinemäßige Fragen zum Versand immer wieder weiterleitet, weil Kunden sie anders formulieren, als der ursprüngliche Workflow vorgesehen hat, kann das Team das Wissen oder die Übergaberegel des KI-Agenten aktualisieren, damit diese Anfragen automatisiert bleiben. 

Wenn Teams Human-in-the-loop-Regeln als flexibel behandeln, können sie mehr Routinearbeit sicher automatisieren und die menschliche Kontrolle auf echte Sonderfälle konzentrieren. 

Vergleich von Human in the Loop und Human on the Loop

HITL und Human on the Loop (HOTL) sind zwei unterschiedliche Modelle menschlicher Kontrolle über KI.

HITL erfordert die Beteiligung einer Person, bevor bestimmte Entscheidungen oder Aktionen fortgesetzt werden können. Es eignet sich besonders für risikoreichere oder komplexe Aufgaben, bei denen Compliance, finanzielle Verantwortung, klinisches Urteilsvermögen oder Richtlinienausnahmen eine menschliche Prüfung oder Genehmigung erfordern, bevor der Workflow weiterläuft.

Bei HOTL kann die KI arbeiten, ohne auf eine menschliche Genehmigung zu warten. Eine Person überwacht jedoch das System und kann bei Bedarf eingreifen. Es eignet sich besonders für risikoarme Aufgaben, die beobachtbar und reversibel sind, etwa allgemeine Informationsfragen, Aktualisierungen zum Bestellstatus oder andere Interaktionen mit geringem Risiko, bei denen keine Person das Ergebnis genehmigen muss. 

Eine Aufsichtsperson kann die Gesamtaktivität beobachten und nur reagieren, wenn etwas Aufmerksamkeit erfordert. Hier sind die wichtigsten Unterschiede zwischen HITL und HOTL.

Beispiele für Human-in-the-loop-KI

HITL kann unterschiedliche Formen annehmen, je nachdem, welche Entscheidungen, Genehmigungen oder Gespräche menschliche Beteiligung erfordern. 

Bankwesen

Customers Bank führt ElevenAgents ein für Kontenanfragen, Kartenservices, Überweisungen, Onboarding und Mitarbeiterschulungen. In jeden Agenten sind Übergabemöglichkeiten an Menschen integriert. KI-Agenten können Routineanfragen im Bankwesen bearbeiten, während menschliche Bankmitarbeitende verfügbar bleiben, wenn ein Gespräch persönliche Aufmerksamkeit oder eine Entscheidung außerhalb der Rolle des Agenten erfordert.

Versicherungen

Insurely nutzt KI-Voice-Agents für Versicherungsvertrieb und Kundenbetreuung, darunter die Beantwortung von Fragen und die Unterstützung beim Ausfüllen von Angeboten. Wenn ein Kunde eine Person benötigt, übergibt der KI-Agent den Anruf oder plant einen Rückruf.

Gesundheitswesen

mdhub, eine Plattform für psychische Gesundheit, nutzt ElevenAgents⁠ für Patientenaufnahmen und Support. KI-Agenten erfassen Patienteninformationen, prüfen Versicherungen, vermitteln Patienten an Behandelnde und planen Termine, während medizinische Fachkräfte die Behandlung bestimmen und Entscheidungen treffen, die klinisches Urteilsvermögen erfordern.

Fintech

Klarna, eine globale Digitalbank und ein Zahlungsanbieter, setzt einen ElevenAgents-Voice-KI-Agenten als erste Anlaufstelle für telefonischen Support für US-Kunden ein. Der KI-Agent bearbeitet Informationsanfragen und erfasst relevanten Kontext. Wird das Anliegen komplexer oder sensibler oder möchte der Kunde mit einer Person sprechen, übergibt er das Gespräch an einen menschlichen Agenten.

Kreativarbeit

Für Inhalte und kreative Arbeit nutzt ElevenProductions einen HITL-Ansatz für KI-gestützte Produktion mit menschlicher Bearbeitung. KI übernimmt Aufgaben wie Transkription und die KI-generierte Produktion von Hörbüchern, während menschliche Editoren die Arbeit prüfen, Korrekturen vornehmen und das Endergebnis genehmigen. 

In einer anderen Form der Zusammenarbeit zwischen Mensch und KI nutzte der Komponist und Sänger Patrick Darling, der seine Fähigkeit zu singen verloren hatte, die Stimmtechnologie von ElevenLabs, um seine eigene Musik wieder aufzuführen. 

Mit ElevenAgents starten

ElevenAgents bietet Unternehmen mehrere Möglichkeiten, festzulegen, was ein KI-Agent bearbeiten kann und wo Menschen Teil des Workflows bleiben sollen. Agenten können Unternehmenswissen und Geschäftstools nutzen, definierten Workflows folgen und innerhalb von Leitplanken agieren. Die Übergabe an Menschen kann ein Gespräch samt Kontext an eine verfügbare Person übertragen, während Simulationen Teams helfen, das Verhalten vor dem Start zu testen.

Starten Sie mit ElevenAgents und erstellen Sie KI-Agenten mit klaren Workflow-Grenzen, menschlicher Übergabe sowie Kontrollmöglichkeiten für Tests und Aufsicht. Vertrieb kontaktieren , um Ihre Implementierung zu planen, oder registrieren Sie sich, um einen Agenten zu erstellen und selbst zu testen.

FAQ zu Human in the Loop