Czym jest human in the loop? Jak ludzie usprawniają workflow AI

Human in the loop (HITL) to workflow stosowany w modelach AI, który dzieli zadania między systemy automatyczne i ekspertów na podstawie jasnych granic działania. W systemie HITL AI obsługuje przewidywalne zadania oparte na regułach, a specjaliści odpowiadają za złożone decyzje, wymogi zgodności i nietypowe przypadki.

Dla firm HITL to praktyczny sposób na automatyzację rutynowej pracy przy zachowaniu udziału ludzi tam, gdzie potrzebna jest ich ocena. Agent AI może sprawdzać dane konta, zbierać informacje o roszczeniach, wysyłać formularze wdrożeniowe lub rezerwować wizyty, a następnie oznaczyć niepewną lub wrażliwą sprawę do sprawdzenia, zatwierdzenia, poprawy lub przejęcia przez człowieka. 

HITL ma zastosowanie nie tylko w bieżących workflow, lecz także w rozwoju uczenia maszynowego. Ludzie mogą oznaczać dane treningowe, oceniać wyniki modelu, poprawiać błędy lub przekazywać feedback, który pomaga poprawić działanie modelu. W tym kontekście człowiek jest częścią procesu trenowania lub ulepszania modelu, a nie bieżącego workflow firmy. 

W tym artykule pokażemy, gdzie w systemach i workflow AI potrzebny jest udział człowieka, dlaczego ma znaczenie i jak wygląda skuteczny HITL w praktyce. 

Podsumowanie

• AI z człowiekiem w pętli dzieli workflow między AI i ludzi według wcześniej określonych obowiązków.
• Zespoły wbudowują w workflow kontrole, zatwierdzenia, przekazania i ścieżki wyjątków, a po wdrożeniu w razie potrzeby dopracowują te reguły.
• HITL może zwiększać dokładność i wydajność oraz pomagać zarządzać ryzykiem, łącząc automatyzację z ludzką oceną tam, gdzie jest potrzebna.

Czym jest human in the loop?

Human in the loop to system, w którym człowiek aktywnie uczestniczy w procesie, ręcznie podejmując decyzje lub nadzorując workflow AI. Łączy automatyczną obsługę zadań z wbudowanymi regułami, które wstrzymują workflow lub przekazują go człowiekowi po spełnieniu określonych warunków.

Udział człowieka może być zaplanowaną częścią workflow albo reakcją na sytuacje, których AI nie powinna obsługiwać samodzielnie. Zespoły z góry określają te punkty kontaktu z człowiekiem na podstawie zasad, ryzyka, doświadczenia klienta i rodzaju decyzji. 

Typowe punkty kontaktu z człowiekiem to: 

• Wymagane kontrole i zatwierdzenia: Człowiek sprawdza lub zatwierdza decyzje wiążące się z odpowiedzialnością finansową, prawną, zgodnością lub operacyjną.
• Regulowane etapy: Workflow agentowe kierują decyzje lub dokumentację do wykwalifikowanych pracowników, gdy przepisy, zasady lub standardy zawodowe wymagają udziału człowieka.
• Wrażliwa lub wartościowa komunikacja: Ludzie prowadzą rozmowy, w których liczą się negocjacje, uspokojenie klienta, zarządzanie relacją lub ostrożna ocena.
• Granice roli i wyjątki: Prośby wykraczające poza przypisaną AI rolę, dotyczące nietypowych sytuacji lub bez określonej odpowiedzi trafiają do człowieka.
• Przekazanie na prośbę klienta: Klient może zostać połączony z członkiem zespołu, gdy poprosi o rozmowę z człowiekiem.
  
  

Ludzie mogą też dynamicznie wejść do pętli, gdy sytuacja zmieni się w trakcie workflow. Sprzeczne informacje, nowy problem klienta lub okoliczności nieuwzględnione w pierwotnych regułach mogą uruchomić przekazanie, nawet jeśli zadanie początkowo przebiegało standardową ścieżką.

Wejście człowieka do procesu nie musi oznaczać zaczynania automatycznego procesu od zera. Gdy członek zespołu podejmie decyzję lub rozwiąże problem, AI zapisuje aktualizację w sprawie, wysyła kolejną wymaganą komunikację i kontynuuje pozostałą część workflow.

Co oznacza human-in-the-loop w uczeniu maszynowym?

Uczenie maszynowe human-in-the-loop wykorzystuje tę samą zasadę co HITL, ale na etapie rozwoju. Zamiast wkraczać do bieżącego workflow, ludzie uczestniczą w określonych punktach procesu tworzenia modelu. 

Badacze mogą oznaczać dane treningowe, oceniać odpowiedzi modelu, poprawiać błędy lub przekazywać feedback, który pomaga ulepszyć zachowanie modelu przed wdrożeniem. Eksperci dziedzinowi mogą też sprawdzać wyniki, gdy dokładność zależy od specjalistycznej wiedzy lub oceny. 

Najważniejsze korzyści z włączenia ludzi do workflow AI

Dla firm HITL może oznaczać mniej kosztownych błędów, bardziej spójną obsługę wrażliwych lub regulowanych spraw oraz szybsze przetwarzanie rutynowych zadań bez oddawania AI pełnej kontroli nad decyzjami wyższego ryzyka.

Oto najważniejsze korzyści i zastosowania systemów HITL.

Popraw dokładność i jakość decyzji

HITL zwiększa dokładność i jakość decyzji, łącząc konsekwencję AI w zadaniach ustrukturyzowanych z ludzką oceną w obszarach, których model nie potrafi niezawodnie obsłużyć sam. AI może konsekwentnie wykonywać ustrukturyzowane zadania, zbierać informacje potrzebne do decyzji oraz przygotowywać rutynowe odpowiedzi lub rekomendacje.

Valiant ma agenta Sophia działającego po godzinach, który obsługuje ustrukturyzowany proces zgłoszeń, a następnie w odpowiednich przypadkach przekazuje sprawy brokerowi. Zbudowany na ElevenAgents agent Valiant zidentyfikował zamiar uzyskania kredytu komercyjnego o wartości ponad 1,5 mln USD, a Sophia obsłużyła około 29% połączeń poza godzinami pracy.

Udział człowieka poprawia jakość decyzji, gdy informacje są:

• Niepełne lub sprzeczne
• Zależne od kontekstu lub interpretacji
• Zależne od negocjacji i budowania relacji
• Zależne od specjalistycznej wiedzy

Lepsze wyniki mogą ograniczyć kosztowne błędy i niepotrzebne poprawki, szczególnie w sytuacjach o skutkach finansowych, regulacyjnych lub dotyczących klientów.

Ogranicz ryzyko i wspieraj zgodność

HITL może pomóc organizacjom ograniczyć ryzyko związane ze zgodnością, zapewniając, że regulowane lub istotne decyzje trafią do właściwej osoby, zanim pójdą dalej. 

AI wspiera zgodność proceduralną przez:

• Wysyłanie wymaganych dokumentów.
• Zbieranie informacji.
• Sprawdzanie, czy wymagane pola są wypełnione.
• Wyszukiwanie zasad lub informacji wymaganych do ujawnienia.
• Rejestrowanie ukończonych kroków.
• Kierowanie spraw do odpowiedniej osoby.

Ludzie pozostają odpowiedzialni, gdy przepisy wymagają interpretacji, trzeba rozwiązać wyjątek lub podjąć decyzję wiążącą prawnie.

Na przykład brytyjski ubezpieczyciel Admiral celowo wyznacza granice zakresu działania swoich głosowych agentów obsługi klienta. Admiral kieruje sprawy dotyczące trudnej sytuacji życiowej i zaległości do ludzi oraz przed wdrożeniem sprawdza regulowane workflow AI według wysokich standardów walidacji.

Zwiększ wydajność, zachowując ludzką wiedzę

AI może wykonywać powtarzalne zadania administracyjne, zbierać informacje, przygotowywać dokumentację i prowadzić rutynowe sprawy bez udziału człowieka na każdym kroku. Dla firm może to oznaczać krótszy czas realizacji, mniej zaległości administracyjnych i większe możliwości pracowników w obsłudze zadań bezpośrednio wpływających na klientów, przychody lub ryzyko. 

Finch Legal wykorzystało ElevenAgents, by zwiększyć skuteczność połączeń z 59% do 93% i obsługiwać ponad 15 tys. połączeń miesięcznie. Wdrożenie agenta do obsługi tych procesów sprawiło, że agenci pracujący z ludźmi spędzali przez telefon około sześć razy mniej czasu niż w poprzednich wdrożeniach. Ludzie musieli wkraczać tylko wtedy, gdy sprawa wymagała ich wiedzy, dzięki czemu mogli skupić się na najważniejszych momentach.

Wyzwania i kwestie do rozważenia w systemach human-in-the-loop

Nawet dobrze zaprojektowany system human-in-the-loop może zawieść, jeśli przekazanie jest słabe lub osoba przejmująca sprawę nie ma dość kontekstu, by działać. Równowaga między szybkością automatyzacji a ludzkim nadzorem zależy od projektu workflow. 

Gdy system human-in-the-loop nie działa zgodnie z założeniami, problem często leży w regułach określających, kiedy ludzie wchodzą do procesu i jakie informacje otrzymują.

Oto najważniejsze wyzwania w systemach human-in-the-loop.

1. Niejasne warunki przekazania

Programowanie agentów AI za pomocą subiektywnych instrukcji, takich jak „przekazuj trudne sprawy” lub „wysyłaj nietypowe prośby do ludzkiego agenta”, może prowadzić do niepotrzebnych przekazań lub pozwolić AI kontynuować sytuację, która powinna trafić do człowieka.

Na przykład zamiast mówić agentowi AI obsługi klienta „przekazuj złożone pytania o rozliczenia”, zespół może ustawić regułę: „przekaż sprawę, gdy klient kwestionuje opłatę, a dane konta się nie zgadzają”. Szczegółowe zabezpieczenia dają agentom AI konkretne warunki do spełnienia, co może ograniczyć niepotrzebne przekazania i zmniejszyć ryzyko, że AI będzie kontynuować sprawę wymagającą udziału człowieka. 

Zespoły mogą ustalić równie konkretne warunki przekazania dla próśb wykraczających poza rolę agenta AI, takich jak sprzeczne lub brakujące informacje, prośby klienta o kontakt z ludzkim agentem i inne sytuacje wymagające udziału człowieka. 

2. Utrata kontekstu podczas przekazania

Gdy agent AI przekazuje bieżącą interakcję z klientem przedstawicielowi bez historii sesji, pracownik musi od początku ponownie zebrać informacje od rozmówcy. Tak niedbałe przekazanie od razu tworzy tarcia, frustruje klienta i wydłuża interakcję.

Klient może spędzić kilka minut na wyjaśnianiu problemu z rozliczeniem i weryfikacji konta z agentem AI, zanim sprawa będzie wymagała ludzkiego agenta. Jeśli jednak transkrypcja, dane konta i wykonane już działania nie zostaną przekazane wraz z połączeniem, klient musi powtórzyć cały proces. 

Aby uniknąć utraty kontekstu podczas przekazania, upewnij się, że system przekazuje przedstawicielowi wraz ze sprawą informacje zebrane już przez agenta AI.

3. Zbyt wiele etapów zatwierdzania

Wymaganie zatwierdzenia przez człowieka dla rutynowych zadań niskiego ryzyka może spowolnić pracę, którą agent AI potrafi bezpiecznie obsłużyć. Jeśli pracownik musi zatwierdzać każdą standardową zmianę wizyty, prosty formularz zgłoszeniowy lub rutynowe sprawdzenie statusu, ludzka kontrola zaczyna dodawać pracę zamiast pomagać zespołowi zarządzać sprawami wyższego ryzyka. 

Zespoły mogą uniknąć niepotrzebnych punktów kontroli, z góry określając, które działania naprawdę wymagają oceny człowieka, i pozwalając zadaniom niższego ryzyka przebiegać automatycznie. Na przykład rutynowe zmiany wizyt lub standardowe prośby o status mogą odbywać się bez zatwierdzenia, podczas gdy spory dotyczące rozliczeń lub wyjątki od zasad nadal trafiają do człowieka. 

4. Reguły, które nigdy nie są aktualizowane

Reguły przekazania, które miały sens przed wdrożeniem, mogą wymagać zmiany, gdy agent AI zacznie obsługiwać prawdziwe rozmowy. Powtarzające się przekazania mogą pokazać, gdzie pierwotny workflow jest zbyt ostrożny, gdzie agentowi AI brakuje informacji lub gdzie nowy rodzaj prośby potrzebuje własnej reguły. 

Na przykład jeśli agent AI stale przekazuje rutynowe pytania o wysyłkę, ponieważ klienci formułują je w sposób, którego pierwotny workflow nie przewidział, zespół może zaktualizować wiedzę agenta AI lub regułę przekazania, aby te prośby nadal były obsługiwane automatycznie. 

Traktowanie reguł human-in-the-loop jako elastycznych pozwala zespołom bezpiecznie automatyzować więcej rutynowej pracy, przy jednoczesnym skupieniu ludzkiego nadzoru na rzeczywistych nietypowych przypadkach. 

Porównanie human in the loop i human on the loop

HITL i human on the loop (HOTL) to dwa różne modele ludzkiego nadzoru nad AI.

HITL wymaga udziału człowieka, zanim określone decyzje lub działania będą mogły być kontynuowane. Najlepiej sprawdza się w pracy wyższego ryzyka lub złożonej, gdy zgodność, odpowiedzialność finansowa, ocena kliniczna lub wyjątki od zasad wymagają kontroli lub zatwierdzenia przez człowieka przed przejściem workflow dalej.

HOTL pozwala AI działać bez oczekiwania na zatwierdzenie przez człowieka, ale człowiek monitoruje system i może wkroczyć w razie potrzeby. Najlepiej sprawdza się w zadaniach niskiego ryzyka, które można obserwować i odwrócić, takich jak ogólne pytania informacyjne, aktualizacje statusu zamówienia czy inne interakcje niskiego ryzyka, które nie wymagają zatwierdzenia wyniku przez człowieka. 

Nadzorca może obserwować całą aktywność i reagować tylko wtedy, gdy coś wymaga uwagi. Oto główne różnice między HITL i HOTL.

Przykłady AI human-in-the-loop

HITL może przyjmować różne formy zależnie od tego, które decyzje, zatwierdzenia lub rozmowy wymagają udziału człowieka. 

Bankowość

Customers Bank wdraża ElevenAgents do zapytań o konto, obsługi kart, przelewów, onboardingu i szkoleń pracowników, z wbudowanymi ścieżkami przekazania do człowieka w każdym agencie. Agenci AI mogą obsługiwać rutynowe wsparcie bankowe, a bankierzy pozostają dostępni, gdy rozmowa wymaga indywidualnego podejścia lub decyzji wykraczającej poza rolę agenta.

Ubezpieczenia

Insurely używa głosowych agentów AI do sprzedaży ubezpieczeń i obsługi klientów, między innymi do odpowiadania na pytania i pomocy w przygotowaniu wycen. Gdy klient potrzebuje kontaktu z człowiekiem, agent AI przekazuje połączenie lub planuje oddzwonienie.

Opieka zdrowotna

mdhub, platforma zdrowia behawioralnego, używa ElevenAgents⁠ do przyjmowania pacjentów i wsparcia. Agenci AI zbierają informacje o pacjentach, weryfikują ubezpieczenie, dopasowują pacjentów do specjalistów i planują wizyty, a pracownicy ochrony zdrowia ustalają leczenie i podejmują decyzje wymagające oceny klinicznej.

Fintech

Klarna, globalny bank cyfrowy i dostawca usług płatniczych, używa głosowego agenta AI ElevenAgents jako pierwszej linii wsparcia telefonicznego dla klientów z USA. Agent AI obsługuje prośby o informacje i zbiera istotny kontekst, a następnie przekazuje rozmowę ludzkiemu agentowi, gdy sprawa staje się bardziej złożona lub wrażliwa albo gdy klient chce porozmawiać z człowiekiem.

Twórczość

W pracy nad treściami i projektami kreatywnymi ElevenProductions stosuje podejście HITL do produkcji wspieranej przez AI z ludzką redakcją. AI zajmuje się między innymi transkrypcją i produkcją audiobooków generowanych przez AI, a redaktorzy sprawdzają pracę, wprowadzają poprawki i zatwierdzają efekt końcowy. 

W innym rodzaju współpracy człowieka z AI kompozytor i piosenkarz Patrick Darling, który stracił zdolność śpiewania, wykorzystał technologię głosową ElevenLabs, by znów wykonywać własną muzykę. 

Zacznij korzystać z ElevenAgents

ElevenAgents daje firmom kilka sposobów na określenie, czym może zajmować się agent AI i gdzie ludzie powinni pozostać częścią workflow. Agenci mogą korzystać z wiedzy firmy i narzędzi biznesowych, stosować określone workflow oraz działać w ramach zabezpieczeń. Przekazanie do człowieka może przekazać rozmowę i jej kontekst osobie z zespołu, a symulacje pomagają zespołom testować zachowanie przed wdrożeniem.

Zacznij korzystać z ElevenAgents, aby tworzyć agentów AI z jasnymi granicami workflow, przekazaniem do człowieka oraz mechanizmami testowania i nadzoru. Porozmawiaj z działem sprzedaży aby omówić wdrożenie lub zarejestruj się i utwórz agenta, aby wypróbować go samodzielnie.

FAQ: human-in-the-loop