Was bedeutet Human in the Loop? Wie Menschen KI-Workflows verbessern

Human in the Loop (HITL) ist ein Workflow für KI-Modelle, der Aufgaben anhand klarer operativer Grenzen zwischen automatisierten Systemen und menschlichen Experten aufteilt. In einem HITL-System übernimmt die KI vorhersehbare, regelbasierte Aufgaben, während menschliche Spezialisten für komplexe Entscheidungen, Compliance-Anforderungen und Sonderfälle verantwortlich bleiben.

Für Unternehmen bietet HITL eine praktische Möglichkeit, Routinearbeit zu automatisieren und Menschen einzubeziehen, wenn ihr Urteilsvermögen gefragt ist. Ein KI-Agent kann Kontodaten abrufen, Informationen zu Schadensfällen erfassen, Onboarding-Formulare versenden oder Termine buchen und anschließend einen unsicheren oder sensiblen Fall zur Prüfung, Genehmigung, Korrektur oder Übernahme an eine Person weiterleiten. 

Neben Live-Workflows gilt HITL auch für die Entwicklung maschinellen Lernens. Menschen können Trainingsdaten kennzeichnen, Modellausgaben bewerten, Fehler korrigieren oder Feedback geben, das die Leistung eines Modells verbessert. In diesem Kontext ist der Mensch Teil des Trainings- oder Verbesserungsprozesses des Modells und nicht eines Live-Geschäftsworkflows. 

In diesem Artikel zeigen wir, wo menschliche Beteiligung in KI-Systemen und Workflows sinnvoll ist, warum sie wichtig ist und wie effektives HITL in der Praxis aussieht. 

Zusammenfassung

• Human-in-the-Loop-KI teilt einen Workflow anhand vordefinierter Verantwortlichkeiten zwischen KI und Menschen auf.
• Teams integrieren menschliche Prüfungen, Genehmigungen, Übergaben und Ausnahmewege in den Workflow und verfeinern diese Regeln nach der Einführung bei Bedarf.
• HITL kann Genauigkeit, Effizienz und Risikomanagement verbessern, indem Automatisierung mit menschlichem Urteilsvermögen kombiniert wird, wo es nötig ist.

Was ist Human in the Loop?

Human in the Loop ist ein System, bei dem ein Mensch aktiv in den Prozess einbezogen wird, um Entscheidungen manuell zu treffen oder einen KI-Workflow zu überwachen. Es kombiniert automatisierte Aufgabenbearbeitung mit integrierten Regeln, die den Workflow anhalten oder an eine Person übergeben, wenn definierte Bedingungen erfüllt sind.

Menschliche Beteiligung kann ein geplanter Teil des Workflows sein oder auf Situationen reagieren, die die KI nicht allein bearbeiten sollte. Teams definieren diese menschlichen Kontaktpunkte vorab anhand von Richtlinien, Risiken, Kundenerfahrung und der Art der Entscheidung. 

Typische menschliche Kontaktpunkte sind: 

• Erforderliche Prüfungen und Genehmigungen: Eine Person prüft oder genehmigt Entscheidungen, die finanzielle, rechtliche, Compliance- oder operative Verantwortung mit sich bringen.
• Regulierte Schritte: Agentische Workflows leiten Entscheidungen oder Dokumentationen an qualifizierte Mitarbeitende weiter, wenn Gesetze, Richtlinien oder berufliche Standards menschliche Beteiligung erfordern.
• Sensible oder hochwertige Kommunikation: Menschen führen Gespräche, bei denen Verhandlung, Beruhigung, Beziehungsmanagement oder sorgfältiges Urteilsvermögen wichtig sind.
• Rollengrenzen und Ausnahmen: Anfragen, die außerhalb der zugewiesenen Rolle der KI liegen, ungewöhnliche Umstände betreffen oder keine definierte Antwort haben, werden an eine Person weitergeleitet.
• Vom Kunden gewünschte Übergabe: Ein Kunde kann an ein verfügbares Teammitglied weitergeleitet werden, wenn er mit jemandem sprechen möchte.
  
  

Menschen können auch dynamisch in den Prozess eingebunden werden, wenn sich eine Situation während des Workflows ändert. Widersprüchliche Informationen, ein neues Kundenanliegen oder Umstände, die die ursprünglichen Regeln nicht vorhergesehen haben, können eine Übergabe auslösen, selbst wenn die Aufgabe zunächst dem Standardpfad folgte.

Wenn eine Person eingreift, muss der automatisierte Prozess nicht von vorn beginnen. Sobald ein Teammitglied eine Entscheidung trifft oder ein Problem löst, speichert die KI die Aktualisierung im Datensatz, sendet die nächste erforderliche Kommunikation und führt den restlichen Workflow fort.

Was bedeutet Human in the Loop beim maschinellen Lernen?

Human-in-the-Loop beim maschinellen Lernen nutzt dasselbe Prinzip wie HITL, jedoch während der Entwicklungsphase. Statt in einen Live-Workflow einzugreifen, beteiligen sich Menschen an definierten Punkten im Modellentwicklungsprozess. 

Forscher können Trainingsdaten kennzeichnen, Modellantworten bewerten, Fehler korrigieren oder Feedback geben, das das Modellverhalten vor der Einführung verbessert. Fachexperten können Ausgaben auch prüfen, wenn die Genauigkeit von spezialisiertem Wissen oder Urteilsvermögen abhängt. 

Wichtige Vorteile der Integration von Menschen in KI-Workflows

Für Unternehmen kann HITL weniger kostspielige Fehler, eine konsistentere Bearbeitung sensibler oder regulierter Fälle und eine schnellere Verarbeitung von Routinearbeit bedeuten, ohne der KI uneingeschränkte Kontrolle über Entscheidungen mit höherem Risiko zu geben.

Hier sind einige der wichtigsten Vorteile und Anwendungsfälle von HITL-Systemen.

Genauigkeit und Entscheidungsqualität verbessern

HITL verbessert Genauigkeit und Entscheidungsqualität, indem es die Konsistenz der KI bei strukturierten Aufgaben mit menschlichem Urteilsvermögen bei Aspekten verbindet, die ein Modell allein nicht zuverlässig bewältigen kann. KI kann strukturierte Aufgaben konsistent bearbeiten, die für eine Entscheidung nötigen Informationen sammeln und Standardantworten oder Empfehlungen vorbereiten.

Valiants Agentin für Anfragen außerhalb der Geschäftszeiten, Sophia, bearbeitet strukturierte Erfassungen und übergibt Fälle bei Bedarf an einen menschlichen Makler. Der auf ElevenAgents basierende Agent von Valiant konnte gewerbliches Kreditinteresse von über 1,5 Mio. US-Dollar identifizieren, wobei Sophia rund 29 % der Anrufe außerhalb der Geschäftszeiten bearbeitete.

Menschlicher Input verbessert die Entscheidungsqualität, wenn Informationen:

• Unvollständig oder widersprüchlich sind
• Vom Kontext oder von Interpretation abhängen
• Auf Verhandlung und Beziehungsaufbau
• Von spezialisierter Expertise abhängen

Bessere Ergebnisse können kostspielige Fehler und vermeidbare Nacharbeit reduzieren, besonders in Situationen mit finanziellen, regulatorischen oder kundenbezogenen Folgen.

Risiken reduzieren und Compliance unterstützen

HITL kann Unternehmen helfen, Compliance-Risiken zu reduzieren, indem regulierte oder folgenschwere Entscheidungen die richtige Person erreichen, bevor sie weitergeführt werden. 

KI unterstützt die Einhaltung von Prozessen durch:

• Versand erforderlicher Dokumente.
• Erfassung von Informationen.
• Prüfung, ob Pflichtfelder vollständig sind.
• Abruf von Richtlinien oder Offenlegungen.
• Dokumentation abgeschlossener Schritte.
• Weiterleitung von Fällen an die zuständige Person.

Menschen bleiben verantwortlich, wenn Vorschriften eine Interpretation erfordern, eine Ausnahme gelöst werden muss oder eine rechtlich verantwortliche Entscheidung getroffen werden muss.

Beispielsweise legt der britische Versicherer Admiral bewusst Grenzen für den Einsatzbereich seiner Kunden-Sprachagenten fest. Admiral leitet Fälle zu Schutzbedürftigkeit und Zahlungsrückständen an Menschen weiter und prüft regulierte KI-Workflows vor dem Start anhand hoher Validierungsstandards.

Effizienz steigern und menschliche Expertise erhalten

KI kann wiederkehrende Verwaltungsarbeit bearbeiten, Informationen sammeln, Unterlagen vorbereiten und Routinefälle voranbringen, ohne bei jedem Schritt eine Person zu benötigen. Für Unternehmen kann das kürzere Bearbeitungszeiten, weniger Verwaltungsrückstände und mehr Kapazität für Mitarbeitende bedeuten, die sich um Aufgaben mit direktem Einfluss auf Kunden, Umsatz oder Risiko kümmern. 

Finch Legal konnte mit ElevenAgents die Erfolgsquote bei Anrufen von 59 % auf 93 % steigern und gleichzeitig auf mehr als 15.000 Anrufe pro Monat skalieren. Durch den Einsatz eines Agenten für diese Prozesse verbrachten menschliche Agenten etwa ein Sechstel der Zeit am Telefon im Vergleich zu früheren Implementierungen. Menschen mussten nur eingreifen, wenn der Fall ihre Expertise erforderte, und blieben so für besonders wertvolle Momente verfügbar.

Herausforderungen und Überlegungen für Human-in-the-Loop-Systeme

Auch ein gut konzipiertes Human-in-the-Loop-System kann scheitern, wenn die Übergabe schlecht funktioniert oder die übernehmende Person nicht genug Kontext hat, um zu handeln. Das Gleichgewicht zwischen automatisierter Geschwindigkeit und menschlicher Aufsicht hängt vom Workflow-Design ab. 

Wenn ein Human-in-the-Loop-System nicht wie vorgesehen funktioniert, liegt das Problem oft in den Regeln, die bestimmen, wann Menschen in den Prozess eintreten und welche Informationen sie erhalten.

Hier sind einige der wichtigsten Herausforderungen bei Human-in-the-Loop-Systemen.

1. Vage Auslöser für Übergaben

KI-Agenten mit subjektiven Anweisungen wie „schwierige Fälle weiterleiten“ oder „ungewöhnliche Anfragen an einen menschlichen Agenten senden“ zu programmieren, kann zu unnötigen Übergaben führen oder der KI erlauben, eine Situation fortzuführen, die eine Person einbeziehen sollte.

Statt einem KI-Kundenservice-Agenten beispielsweise zu sagen, er solle „komplexe Abrechnungsfragen weiterleiten“, könnte ein Team eine Regel festlegen wie: „Den Fall übergeben, wenn ein Kunde eine Belastung bestreitet und die Kontodaten nicht übereinstimmen.“ Detaillierte Leitplanken geben KI-Agenten konkrete Bedingungen vor. Das kann unnötige Übergaben reduzieren und das Risiko senken, dass die KI einen Fall fortsetzt, der menschliche Beteiligung erfordert. 

Teams können ebenso konkrete Übergabebedingungen für Anfragen festlegen, die außerhalb der Rolle eines KI-Agenten liegen, etwa bei widersprüchlichen oder fehlenden Informationen, Kundenwünschen nach einem menschlichen Agenten und anderen Situationen, die menschliche Beteiligung erfordern. 

2. Kontextverlust bei Übergaben

Wenn ein KI-Agent eine laufende Kundeninteraktion ohne Übertragung des Sitzungsverlaufs an einen menschlichen Mitarbeiter übergibt, muss dieser den Anrufer von Grund auf erneut befragen. Diese unstrukturierte Übergabe erzeugt sofort Reibung, frustriert den Kunden und verlängert die Interaktion.

Ein Kunde kann mehrere Minuten damit verbringen, einem KI-Agenten ein Abrechnungsproblem zu erklären und sein Konto zu verifizieren, bevor das Anliegen einen menschlichen Agenten erfordert. Wenn jedoch das Transkript, Kontodaten und bereits ausgeführte Schritte nicht mit dem Anruf übertragen werden, muss der Kunde den gesamten Prozess wiederholen. 

Um Kontextverlust bei Übergaben zu vermeiden, sollte das System die bereits vom KI-Agenten gesammelten Informationen zusammen mit der Übergabe direkt an den menschlichen Mitarbeiter weitergeben.

3. Zu viele Genehmigungsschritte

Die erforderliche menschliche Freigabe für Routineaufgaben mit geringem Risiko kann Arbeit verlangsamen, die der KI-Agent sicher bearbeiten kann. Wenn ein Mitarbeiter jede Standard-Terminänderung, jedes einfache Erfassungsformular oder jede routinemäßige Statusabfrage genehmigen muss, verursacht die menschliche Prüfung zusätzliche Arbeit, statt dem Team bei Fällen mit höherem Risiko zu helfen. 

Teams können unnötige Kontrollpunkte vermeiden, indem sie vorab festlegen, welche Maßnahmen tatsächlich eine menschliche Prüfung erfordern, und Aufgaben mit geringerem Risiko automatisch weiterlaufen lassen. Beispielsweise können Routine-Terminänderungen oder Standard-Statusanfragen ohne Genehmigung erfolgen, während Abrechnungsstreitigkeiten oder Richtlinienausnahmen weiterhin an eine Person weitergeleitet werden. 

4. Regeln, die nie aktualisiert werden

Übergaberegeln, die vor dem Start sinnvoll waren, müssen sich möglicherweise ändern, sobald der KI-Agent echte Gespräche führt. Wiederholte Übergaben können zeigen, wo der ursprüngliche Workflow zu vorsichtig ist, wo dem KI-Agenten Informationen fehlen oder wo eine neue Art von Anfrage eine eigene Regel benötigt. 

Wenn ein KI-Agent beispielsweise routinemäßige Fragen zum Versand immer wieder übergibt, weil Kunden sie auf eine Weise formulieren, die der ursprüngliche Workflow nicht vorhergesehen hat, kann das Team das Wissen oder die Übergaberegel des KI-Agenten aktualisieren, damit diese Anfragen automatisiert bleiben. 

Wenn Teams Human-in-the-Loop-Regeln als flexibel behandeln, können sie mehr Routinearbeit sicher automatisieren und die menschliche Aufsicht auf echte Sonderfälle konzentrieren. 

Vergleich von Human in the Loop und Human on the Loop

HITL und Human on the Loop (HOTL) sind zwei unterschiedliche Modelle für die menschliche Aufsicht über KI.

HITL erfordert die Beteiligung einer Person, bevor bestimmte Entscheidungen oder Maßnahmen fortgesetzt werden können. Es eignet sich am besten für komplexe Arbeit oder Arbeit mit höherem Risiko, bei der Compliance, finanzielle Verantwortung, klinisches Urteilsvermögen oder Richtlinienausnahmen eine menschliche Prüfung oder Genehmigung erfordern, bevor der Workflow fortgesetzt wird.

Bei HOTL arbeitet die KI ohne auf menschliche Genehmigung zu warten, doch eine Person überwacht das System und kann bei Bedarf eingreifen. Es eignet sich am besten für risikoarme Arbeit, die beobachtbar und reversibel ist, etwa allgemeine Informationsfragen, Bestellstatus-Updates oder andere Interaktionen mit geringem Risiko, bei denen keine Person das Ergebnis genehmigen muss. 

Eine Aufsichtsperson kann die Gesamtaktivität beobachten und nur reagieren, wenn etwas Aufmerksamkeit erfordert. Hier sind die wichtigsten Unterschiede zwischen HITL und HOTL.

Beispiele für Human-in-the-Loop-KI

HITL kann unterschiedliche Formen annehmen, je nachdem, welche Entscheidungen, Genehmigungen oder Gespräche menschliche Beteiligung erfordern. 

Bankwesen

Customers Bank führt ElevenAgents ein für Kontoanfragen, Kartendienstleistungen, Überweisungen, Onboarding und Mitarbeiterschulungen, mit Übergabepfaden an Menschen in jedem Agenten. KI-Agenten können den Routine-Support im Bankwesen übernehmen, während menschliche Bankberater verfügbar bleiben, wenn ein Gespräch persönliche Aufmerksamkeit oder eine Entscheidung außerhalb der Rolle des Agenten erfordert.

Versicherungen

Insurely nutzt KI-Sprachagenten für Versicherungsvertrieb und Kundenservice, einschließlich der Beantwortung von Fragen und Unterstützung beim Ausfüllen von Angeboten. Wenn ein Kunde eine Person benötigt, übergibt der KI-Agent den Anruf oder plant einen Rückruf.

Gesundheitswesen

mdhub, eine Plattform für psychische Gesundheit, nutzt ElevenAgents⁠ für Patientenaufnahmen und Support. KI-Agenten erfassen Patienteninformationen, prüfen Versicherungen, vermitteln Patienten an Leistungserbringer und planen Termine, während medizinische Fachkräfte Behandlungen festlegen und Entscheidungen treffen, die klinisches Urteilsvermögen erfordern.

Fintech

Klarna, eine globale Digitalbank und ein Zahlungsanbieter, nutzt einen ElevenAgents-KI-Sprachagenten als erste Anlaufstelle für den telefonischen Support für US-Kunden. Der KI-Agent bearbeitet Informationsanfragen und sammelt relevanten Kontext. Wird das Anliegen komplexer oder sensibler oder möchte der Kunde mit einer Person sprechen, übergibt er das Gespräch an einen menschlichen Agenten.

Kreativbereich

Für Content und kreative Arbeit nutzt ElevenProductions einen HITL-Ansatz für KI-gestützte Produktion mit menschlicher Bearbeitung. KI übernimmt Aufgaben wie Transkription und die KI-generierte Produktion von Hörbüchern, während menschliche Editoren die Arbeit prüfen, Korrekturen vornehmen und das Endergebnis genehmigen. 

In einer anderen Form der Zusammenarbeit von Mensch und KI nutzte der Komponist und Sänger Patrick Darling, der seine Fähigkeit zu singen verlor, die Stimmtechnologie von ElevenLabs, um wieder seine eigene Musik aufzuführen. 

Mit ElevenAgents starten

ElevenAgents bietet Unternehmen mehrere Möglichkeiten, festzulegen, was ein KI-Agent bearbeiten kann und wo Menschen Teil des Workflows bleiben sollen. Agenten können Unternehmenswissen und Geschäftstools nutzen, definierten Workflows folgen und innerhalb von Leitplanken arbeiten. Eine menschliche Übergabe kann ein Gespräch samt Kontext an eine verfügbare Person übertragen, während Simulationen Teams helfen, das Verhalten vor dem Start zu testen.

Starten Sie mit ElevenAgents und erstellen Sie KI-Agenten mit klaren Workflow-Grenzen, menschlicher Übergabe sowie Kontrollen für Tests und Aufsicht. Vertrieb kontaktieren , um Ihre Implementierung zu planen, oder registrieren Sie sich , um einen Agenten zu erstellen und selbst zu testen.

Human-in-the-Loop-FAQ