Czym jest human in the loop? Jak ludzie usprawniają workflow AI

Human in the loop (HITL) to model pracy stosowany w modelach AI, który dzieli zadania między systemy automatyczne a ekspertów na podstawie jasnych granic działania. W systemie HITL AI obsługuje przewidywalne zadania oparte na regułach, a specjaliści pozostają odpowiedzialni za złożone decyzje, wymogi zgodności i nietypowe przypadki.

Dla firm HITL to praktyczny sposób na automatyzację rutynowej pracy przy zachowaniu udziału ludzi tam, gdzie potrzebna jest ich ocena. Agent AI może sprawdzić dane konta, zebrać informacje o roszczeniu, wysłać formularze wdrożeniowe lub umówić wizytę, a następnie oznaczyć niepewną lub wrażliwą sprawę do sprawdzenia, zatwierdzenia, poprawy lub przejęcia przez człowieka. 

Poza działającymi workflow HITL ma też zastosowanie w rozwoju uczenia maszynowego. Ludzie mogą oznaczać dane treningowe, oceniać wyniki modelu, poprawiać błędy lub przekazywać opinie, które pomagają poprawić jego działanie. W tym kontekście człowiek jest częścią procesu trenowania lub ulepszania modelu, a nie bieżącego workflow biznesowego. 

W tym artykule pokażemy, gdzie w systemach AI i workflow potrzebny jest udział człowieka, dlaczego to ważne i jak HITL wygląda w praktyce. 

Podsumowanie

• AI human-in-the-loop dzieli workflow między AI i ludzi na podstawie z góry określonych obowiązków.
• Zespoły uwzględniają w workflow sprawdzanie przez ludzi, zatwierdzanie, przekazywanie spraw i ścieżki wyjątków, a po wdrożeniu w razie potrzeby dopracowują te zasady.
• HITL może zwiększać dokładność i efektywność oraz ułatwiać zarządzanie ryzykiem, łącząc automatyzację z ludzką oceną tam, gdzie jest potrzebna.

Czym jest human in the loop?

Human in the loop to system, w którym człowiek aktywnie uczestniczy w procesie, ręcznie podejmując decyzje lub nadzorując workflow AI. Łączy automatyczną obsługę zadań z wbudowanymi zasadami, które zatrzymują workflow lub przekazują je człowiekowi po spełnieniu określonych warunków.

Udział człowieka może być zaplanowaną częścią workflow lub odpowiedzią na sytuacje, których AI nie powinna obsługiwać samodzielnie. Zespoły z góry określają te punkty udziału człowieka na podstawie zasad, ryzyka, doświadczeń klientów i rodzaju decyzji. 

Typowe punkty udziału człowieka to: 

• Wymagane sprawdzenia i zatwierdzenia: Człowiek sprawdza lub zatwierdza decyzje wiążące się z odpowiedzialnością finansową, prawną, za zgodność lub operacyjną.
• Regulowane etapy: Workflowy agentowe kierują decyzje lub dokumentację do wykwalifikowanych pracowników, gdy prawo, zasady lub standardy zawodowe wymagają udziału człowieka.
• Wrażliwa lub wartościowa komunikacja: Ludzie prowadzą rozmowy, w których liczą się negocjacje, uspokojenie klienta, zarządzanie relacją lub ostrożna ocena.
• Granice roli i wyjątki: Prośby wykraczające poza przypisaną AI rolę, dotyczące nietypowych okoliczności lub bez określonej odpowiedzi trafiają do człowieka.
• Przekazanie sprawy na prośbę klienta: Klient może zostać przekierowany do dostępnego członka zespołu, gdy poprosi o rozmowę z kimś.
  
  

Ludzie mogą też dynamicznie dołączać do procesu, gdy sytuacja zmieni się w trakcie workflow. Sprzeczne informacje, nowy problem klienta lub okoliczności, których nie przewidziały pierwotne zasady, mogą uruchomić przekazanie sprawy, nawet jeśli początkowo przebiegała standardową ścieżką.

Wejście człowieka do procesu nie musi oznaczać zaczynania automatycznego procesu od zera. Gdy członek zespołu podejmie decyzję lub rozwiąże problem, AI zapisuje aktualizację w dokumentacji, wysyła kolejną wymaganą wiadomość i kontynuuje pozostałą część workflow.

Co oznacza human-in-the-loop w uczeniu maszynowym?

Uczenie maszynowe human-in-the-loop opiera się na tej samej zasadzie co HITL, ale na etapie rozwoju. Zamiast wkraczać do działającego workflow, ludzie uczestniczą w określonych momentach procesu tworzenia modelu. 

Badacze mogą oznaczać dane treningowe, oceniać odpowiedzi modelu, poprawiać błędy lub przekazywać opinie, które pomagają ulepszyć zachowanie modelu przed wdrożeniem. Eksperci dziedzinowi mogą też sprawdzać wyniki, gdy dokładność zależy od specjalistycznej wiedzy lub oceny. 

Najważniejsze korzyści z udziału ludzi w workflow AI

Dla firm HITL może oznaczać mniej kosztownych błędów, bardziej spójną obsługę wrażliwych lub regulowanych spraw oraz szybsze przetwarzanie rutynowej pracy bez oddawania AI nieograniczonej kontroli nad decyzjami wyższego ryzyka.

Oto kilka najważniejszych korzyści i zastosowań systemów HITL.

Popraw dokładność i jakość decyzji

HITL poprawia dokładność i jakość decyzji, łącząc konsekwencję AI w zadaniach ustrukturyzowanych z ludzką oceną w obszarach, których model nie potrafi samodzielnie obsłużyć niezawodnie. AI może spójnie realizować zadania ustrukturyzowane, zbierać informacje potrzebne do podjęcia decyzji i przygotowywać rutynowe odpowiedzi lub rekomendacje.

Valiant — agentka Sophia działająca po godzinach — obsługuje ustrukturyzowany proces zgłoszeń, a następnie w razie potrzeby przekazuje sprawy brokerowi. Agent Valiant, oparty na ElevenAgents, zidentyfikował zamiar uzyskania kredytu komercyjnego o wartości ponad 1,5 mln USD, a Sophia obsłużyła około 29% połączeń po godzinach.

Wkład człowieka poprawia jakość decyzji, gdy informacje są:

• Niepełne lub sprzeczne
• Zależne od kontekstu lub interpretacji
• Oparte na negocjacjach i budowaniu relacji
• Zależne od specjalistycznej wiedzy

Lepsze wyniki mogą ograniczyć kosztowne błędy i pracę, której można uniknąć, zwłaszcza w sytuacjach mających skutki finansowe, regulacyjne lub dla klienta.

Ogranicz ryzyko i wspieraj zgodność

HITL może pomóc organizacjom ograniczyć ryzyko braku zgodności, zapewniając, że regulowane lub istotne decyzje trafią do właściwej osoby, zanim zostaną podjęte. 

AI wspiera zgodność proceduralną przez:

• Wysyłanie wymaganych dokumentów.
• Zbieranie informacji.
• Sprawdzanie, czy wymagane pola są uzupełnione.
• Pobieranie zasad lub informacji wymaganych do ujawnienia.
• Rejestrowanie wykonanych kroków.
• Kierowanie spraw do odpowiedniej osoby.

Ludzie pozostają odpowiedzialni, gdy przepisy wymagają interpretacji, trzeba rozwiązać wyjątek lub podjąć decyzję wiążącą prawnie.

Na przykład brytyjski ubezpieczyciel Admiral celowo wyznacza granice zakresu działania swoich głosowych agentów obsługi klienta. Admiral kieruje do ludzi sprawy dotyczące szczególnej wrażliwości klientów i zaległości, a przed wdrożeniem testuje regulowane workflow AI według wysokich standardów walidacji.

Zwiększ efektywność, zachowując ludzką wiedzę

AI może obsługiwać powtarzalną pracę administracyjną, zbierać informacje, przygotowywać dokumentację i prowadzić rutynowe sprawy bez udziału człowieka na każdym etapie. Dla firm oznacza to krótszy czas realizacji, mniej zaległości administracyjnych i większą możliwość pracy nad sprawami, które bezpośrednio wpływają na klientów, przychody lub ryzyko. 

Finch Legal wykorzystało ElevenAgents, aby zwiększyć skuteczność połączeń z 59% do 93%, skalując działalność do ponad 15 tys. połączeń miesięcznie. Wdrożenie agenta do obsługi tych procesów sprawiło, że ludzcy agenci spędzali przez telefon około jedną szóstą czasu w porównaniu z wcześniejszymi wdrożeniami. Ludzie musieli interweniować tylko wtedy, gdy sprawa wymagała ich wiedzy, dzięki czemu mogli skupić się na najważniejszych momentach.

Wyzwania i kwestie do rozważenia w systemach human-in-the-loop

Nawet dobrze zaprojektowany system human-in-the-loop może zawieść, jeśli przekazanie sprawy jest słabe lub osoba przejmująca sprawę nie ma wystarczającego kontekstu, by działać. Równowaga między szybkością automatyzacji a ludzkim nadzorem zależy od projektu workflow. 

Gdy system human-in-the-loop nie działa zgodnie z założeniami, problem często tkwi w zasadach określających, kiedy ludzie wchodzą do procesu i jakie informacje otrzymują.

Oto niektóre z głównych wyzwań systemów human-in-the-loop.

1. Niejasne warunki przekazania sprawy

Programowanie agentów AI za pomocą subiektywnych instrukcji, takich jak „przekazuj trudne sprawy” lub „wysyłaj nietypowe prośby do agenta ludzkiego”, może prowadzić do niepotrzebnego przekazywania spraw albo pozwalać AI kontynuować sytuację, która powinna trafić do człowieka.

Na przykład zamiast powiedzieć agentowi AI obsługi klienta: „przekazuj złożone pytania o płatności”, zespół może ustalić zasadę: „przekaż sprawę, gdy klient kwestionuje opłatę, a dane konta się nie zgadzają”. Szczegółowe zabezpieczenia dają agentom AI konkretne warunki do spełnienia, co może ograniczyć niepotrzebne przekazania i zmniejszyć ryzyko, że AI będzie kontynuować sprawę wymagającą udziału człowieka. 

Zespoły mogą ustalić równie konkretne warunki przekazania spraw dla próśb wykraczających poza rolę agenta AI, takich jak sprzeczne lub brakujące informacje, prośby klientów o ludzkiego agenta i inne sytuacje wymagające udziału człowieka. 

2. Utrata kontekstu podczas przekazywania spraw

Gdy agent AI przekazuje trwającą interakcję z klientem przedstawicielowi bez historii sesji, pracownik musi od początku ponownie zebrać informacje od dzwoniącego. Takie nieudolne przekazanie od razu powoduje tarcia, frustruje klienta i wydłuża interakcję.

Klient może spędzić kilka minut, wyjaśniając agentowi AI problem z płatnością i weryfikując konto, zanim sprawa będzie wymagała ludzkiego agenta, ale jeśli transkrypcja, dane konta i dotychczas podjęte działania nie zostaną przekazane wraz z połączeniem, klient musi powtórzyć cały proces. 

Aby uniknąć utraty kontekstu podczas przekazywania spraw, zadbaj, by system przekazywał przedstawicielowi wraz ze sprawą informacje zebrane już przez agenta AI.

3. Zbyt wiele etapów zatwierdzania

Wymaganie zatwierdzenia przez człowieka dla rutynowych zadań niskiego ryzyka może spowolnić pracę, którą agent AI potrafi bezpiecznie obsłużyć. Jeśli pracownik musi zatwierdzać każdą standardową zmianę terminu, prosty formularz zgłoszeniowy lub rutynowe sprawdzenie statusu, ludzka weryfikacja zaczyna tworzyć dodatkową pracę zamiast pomagać zespołowi zarządzać sprawami wyższego ryzyka. 

Zespoły mogą uniknąć niepotrzebnych punktów kontrolnych, ustalając z góry, które działania naprawdę wymagają weryfikacji przez człowieka, i pozwalając zadaniom niższego ryzyka przebiegać automatycznie. Na przykład rutynowe zmiany terminu lub standardowe pytania o status mogą odbywać się bez zatwierdzenia, a spory dotyczące płatności lub wyjątki od zasad nadal trafiają do człowieka. 

4. Zasady, które nigdy nie są aktualizowane

Zasady przekazywania spraw, które miały sens przed wdrożeniem, mogą wymagać zmiany, gdy agent AI zacznie obsługiwać prawdziwe rozmowy. Powtarzające się przekazania mogą ujawnić, gdzie pierwotny workflow jest zbyt ostrożny, gdzie agentowi AI brakuje informacji lub gdzie nowy typ prośby potrzebuje własnej zasady. 

Na przykład, jeśli agent AI nadal przekazuje rutynowe pytania o dostawę, ponieważ klienci formułują je w sposób nieprzewidziany w pierwotnym workflow, zespół może zaktualizować wiedzę agenta AI lub zasadę przekazywania spraw, aby te prośby pozostały zautomatyzowane. 

Traktowanie zasad human-in-the-loop jako elastycznych pozwala zespołom bezpiecznie automatyzować więcej rutynowej pracy, przy jednoczesnym skupieniu ludzkiego nadzoru na rzeczywistych nietypowych przypadkach. 

Porównanie human in the loop i human on the loop

HITL i human on the loop (HOTL) to dwa różne modele ludzkiego nadzoru nad AI.

HITL wymaga udziału człowieka, zanim określone decyzje lub działania będą mogły być kontynuowane. Najlepiej sprawdza się przy pracy wyższego ryzyka lub złożonej, w której zgodność, odpowiedzialność finansowa, ocena kliniczna lub wyjątki od zasad wymagają weryfikacji bądź zatwierdzenia przez człowieka przed kontynuowaniem workflow.

HOTL pozwala AI działać bez oczekiwania na zatwierdzenie przez człowieka, ale człowiek monitoruje system i może w razie potrzeby interweniować. Najlepiej sprawdza się w pracy niskiego ryzyka, którą można obserwować i odwrócić, takiej jak ogólne pytania informacyjne, aktualizacje statusu zamówienia lub inne interakcje niskiego ryzyka niewymagające zatwierdzenia wyniku przez człowieka. 

Nadzorca może obserwować całość działań i reagować tylko wtedy, gdy coś wymaga uwagi. Oto główne różnice między HITL i HOTL.

Przykłady AI human-in-the-loop

HITL może przyjmować różne formy zależnie od tego, które decyzje, zatwierdzenia lub rozmowy wymagają udziału człowieka. 

Bankowość

Customers Bank wdraża ElevenAgents do obsługi zapytań o konta, usług kartowych, przelewów, onboardingu i coachingu pracowników, z wbudowanymi ścieżkami przekazania spraw człowiekowi w każdym agencie. Agenci AI mogą obsługiwać rutynowe wsparcie bankowe, a bankierzy pozostają dostępni, gdy rozmowa wymaga osobistej uwagi lub decyzji wykraczającej poza rolę agenta.

Ubezpieczenia

Insurely korzysta z głosowych agentów AI w sprzedaży ubezpieczeń i obsłudze klienta, między innymi do odpowiadania na pytania i pomocy klientom w przygotowaniu wycen. Gdy klient potrzebuje człowieka, agent AI przekazuje połączenie lub planuje oddzwonienie.

Opieka zdrowotna

mdhub, platforma zdrowia behawioralnego, korzysta z ElevenAgents⁠ przy przyjmowaniu pacjentów i wsparciu. Agenci AI zbierają informacje o pacjentach, weryfikują ubezpieczenie, dopasowują pacjentów do świadczeniodawców i umawiają wizyty, a pracownicy ochrony zdrowia ustalają leczenie i podejmują decyzje wymagające oceny klinicznej.

Fintech

Klarna, globalny bank cyfrowy i dostawca usług płatniczych, wykorzystuje głosowego agenta AI ElevenAgents jako pierwszą linię wsparcia telefonicznego dla klientów w USA. Agent AI obsługuje prośby o informacje i zbiera odpowiedni kontekst, a następnie przekazuje rozmowę ludzkiemu agentowi, gdy problem staje się bardziej złożony lub wrażliwy albo gdy klient chce porozmawiać z człowiekiem.

Twórczość

W pracy nad treściami i projektami kreatywnymi ElevenProductions stosuje podejście HITL do produkcji wspieranej przez AI i redagowanej przez ludzi. AI obsługuje takie zadania jak transkrypcja i produkcja audiobooków generowanych przez AI, a redaktorzy sprawdzają pracę, wprowadzają poprawki i zatwierdzają końcowy wynik. 

W innym rodzaju współpracy człowieka z AI kompozytor i wokalista Patrick Darling, który stracił zdolność śpiewania, wykorzystał technologię głosową ElevenLabs, aby znów wykonywać własną muzykę. 

Zacznij korzystać z ElevenAgents

ElevenAgents daje firmom kilka sposobów na określenie, czym może zajmować się agent AI i gdzie ludzie powinni pozostać częścią workflow. Agenci mogą korzystać z wiedzy firmy i narzędzi biznesowych, realizować określone workflow i działać w ramach zabezpieczeń. Przekazanie sprawy człowiekowi może przenieść rozmowę wraz z jej kontekstem do dostępnej osoby, a symulacje pomagają zespołom testować zachowanie przed wdrożeniem.

Zacznij korzystać z ElevenAgents, aby tworzyć agentów AI z jasnymi granicami workflow, przekazywaniem spraw człowiekowi oraz mechanizmami testowania i nadzoru. Porozmawiaj ze sprzedażą o zakresie wdrożenia lub zarejestruj się i utwórz agenta, aby samodzielnie go wypróbować.

FAQ: human-in-the-loop