Cos'è l'human in the loop? Come le persone migliorano i workflow IA

Human in the loop (HITL) è un workflow utilizzato nei modelli di IA che divide i compiti tra sistemi automatizzati ed esperti umani sulla base di chiari confini operativi. In un sistema HITL, l'IA gestisce attività prevedibili e basate su regole, mentre gli specialisti umani mantengono la responsabilità delle decisioni complesse, dei requisiti di conformità e dei casi limite.

Per le aziende, HITL offre un modo pratico per automatizzare il lavoro di routine mantenendo le persone coinvolte quando è necessario il loro giudizio. Un agente IA può cercare i dettagli dell'account, raccogliere informazioni su un sinistro, inviare moduli di onboarding o fissare un appuntamento, per poi segnalare un caso incerto o delicato a una persona affinché lo esamini, approvi, corregga o prenda in carico.

Oltre ai workflow in tempo reale, HITL si applica anche allo sviluppo del machine learning. Le persone possono etichettare i dati di addestramento, valutare gli output del modello, correggere gli errori o fornire feedback che contribuisce a migliorarne le prestazioni. In questo contesto, la persona fa parte del processo di addestramento o miglioramento del modello, anziché di un workflow aziendale in tempo reale.

In questo articolo vedremo in quali punti coinvolgere le persone nei sistemi e nei workflow di IA, perché è importante e come si applica efficacemente HITL nella pratica.

In sintesi

• L'IA human-in-the-loop divide un workflow tra IA e persone in base a responsabilità predefinite.
• I team integrano nel workflow revisioni, approvazioni, passaggi a operatori umani e percorsi per le eccezioni, quindi perfezionano queste regole secondo necessità dopo il rilascio.
• HITL può migliorare accuratezza, efficienza e gestione del rischio combinando l'automazione con il giudizio umano dove necessario.

Cos'è human in the loop?

Human in the loop è un sistema in cui una persona è inclusa attivamente nel processo per prendere decisioni manualmente o supervisionare un workflow di IA. Combina la gestione automatizzata delle attività con regole integrate che mettono in pausa il workflow o lo affidano a una persona quando si verificano condizioni definite.

Il coinvolgimento umano può essere una parte pianificata del workflow o una risposta a situazioni che l'IA non dovrebbe gestire autonomamente. I team definiscono in anticipo questi punti di contatto umani in base a policy, rischi, esperienza del cliente e tipo di decisione coinvolta.

I punti di contatto umani più comuni includono:

• Revisioni e approvazioni obbligatorie: una persona esamina o autorizza decisioni che comportano responsabilità finanziarie, legali, di conformità normativa o operative.
• Passaggi regolamentati: Workflow agentici indirizzano decisioni o documentazione a dipendenti qualificati quando leggi, policy o standard professionali richiedono il coinvolgimento umano.
• Comunicazioni delicate o di alto valore: le persone gestiscono conversazioni in cui contano negoziazione, rassicurazione, gestione della relazione o un giudizio attento.
• Limiti di ruolo ed eccezioni: le richieste che esulano dal ruolo assegnato all'IA, riguardano circostanze insolite o non hanno una risposta definita vengono affidate a una persona.
• Passaggio richiesto dal cliente: un cliente può essere trasferito a un membro del team disponibile quando chiede di parlare con qualcuno.
  
  

Le persone possono anche entrare dinamicamente nel processo quando una situazione cambia durante il workflow. Informazioni in conflitto, una nuova esigenza del cliente o circostanze non previste dalle regole originali possono attivare un passaggio, anche quando l'attività ha inizialmente seguito il percorso standard.

L'intervento di una persona non significa necessariamente che il processo automatizzato debba ricominciare da zero. Quando un membro del team prende una decisione o risolve un problema, l'IA salva l'aggiornamento nel record, invia la comunicazione successiva richiesta e prosegue con il resto del workflow.

Cosa significa human-in-the-loop nel machine learning?

Il machine learning human-in-the-loop usa lo stesso principio di HITL, ma nella fase di sviluppo. Invece di intervenire in un workflow in tempo reale, le persone partecipano in punti definiti del processo di sviluppo del modello.

I ricercatori possono etichettare i dati di addestramento, valutare le risposte del modello, correggere gli errori o fornire feedback che aiuta a migliorarne il comportamento prima del rilascio. Gli esperti di settore possono anche esaminare gli output quando l'accuratezza dipende da conoscenze specialistiche o dal giudizio umano.

Principali vantaggi dell'integrazione delle persone nei workflow di IA

Per le aziende, HITL può significare meno errori costosi, una gestione più coerente dei casi delicati o regolamentati e un'elaborazione più rapida del lavoro di routine, senza dare all'IA un controllo senza limiti sulle decisioni a rischio più elevato.

Ecco alcuni dei principali vantaggi e casi d'uso dei sistemi HITL.

Migliora l'accuratezza e la qualità delle decisioni

HITL migliora l'accuratezza e la qualità delle decisioni abbinando la coerenza dell'IA nelle attività strutturate al giudizio umano nelle parti che un modello non è in grado di gestire in modo affidabile da solo. L'IA può gestire con coerenza le attività strutturate, raccogliere le informazioni necessarie per una decisione e preparare risposte o raccomandazioni di routine.

L'agente fuori orario di Valiant, Sophia, gestisce la raccolta strutturata delle informazioni e, quando opportuno, trasferisce i casi a un broker umano. Basato su ElevenAgents, l'agente di Valiant ha identificato oltre 1,5 milioni di dollari di potenziali prestiti commerciali, mentre Sophia ha gestito circa il 29% delle chiamate fuori orario.

L'intervento umano migliora la qualità delle decisioni quando le informazioni sono:

• Incomplete o in conflitto
• Dipendenti dal contesto o dall'interpretazione
• Basate su negoziazione e costruzione della relazione
• Dipendenti da competenze specialistiche

Risultati migliori possono ridurre gli errori costosi e le rilavorazioni evitabili, soprattutto in situazioni con conseguenze finanziarie, normative o per i clienti.

Riduci il rischio e supporta la conformità normativa

HITL può aiutare le organizzazioni a ridurre il rischio di non conformità, assicurando che le decisioni regolamentate o con conseguenze rilevanti raggiungano la persona giusta prima di procedere.

L'IA supporta la conformità procedurale:

• Inviando i documenti richiesti.
• Raccogliendo informazioni.
• Verificando che i campi obbligatori siano completi.
• Recuperando policy o informative.
• Registrando i passaggi completati.
• Indirizzando i casi alla persona appropriata.

Le persone restano responsabili quando le normative richiedono interpretazione, un'eccezione deve essere risolta o occorre prendere una decisione legalmente vincolante.

Per esempio, l'assicuratore britannico Admiral definisce confini chiari per l'ambito di azione dei suoi agenti vocali per i clienti. Admiral indirizza alle persone i casi di vulnerabilità e insolvenza e sottopone i workflow di IA regolamentati a rigorosi criteri di validazione prima del lancio.

Aumenta l'efficienza preservando le competenze umane

L'IA può gestire il lavoro amministrativo ripetitivo, raccogliere informazioni, preparare record e far avanzare i casi di routine senza richiedere una persona a ogni passaggio. Per le aziende, il risultato può essere costituito da tempi di gestione più brevi, meno arretrati amministrativi e maggiore capacità per i dipendenti di occuparsi di attività che incidono direttamente su clienti, ricavi o rischi.

Finch Legal ha utilizzato ElevenAgents per aumentare il tasso di successo delle chiamate dal 59% al 93%, arrivando a oltre 15.000 chiamate al mese. L'implementazione di un agente per gestire questi processi ha fatto sì che gli operatori umani trascorressero al telefono circa un sesto del tempo rispetto alle implementazioni precedenti. Le persone dovevano intervenire soltanto quando il caso richiedeva la loro competenza, riservandole ai momenti di maggiore valore.

Sfide e aspetti da considerare nei sistemi human-in-the-loop

Anche un sistema human-in-the-loop ben progettato può non funzionare se il passaggio è gestito male o se la persona che subentra non dispone di un contesto sufficiente per agire. Bilanciare la velocità dell'automazione con la supervisione umana dipende dalla progettazione del workflow.

Quando un sistema human-in-the-loop non funziona come previsto, il problema risiede spesso nelle regole che determinano quando le persone entrano nel processo e quali informazioni ricevono.

Ecco alcune delle principali sfide dei sistemi human-in-the-loop.

1. Trigger di passaggio vaghi

Programmare gli agenti IA con istruzioni soggettive come «trasferisci i casi difficili» o «invia le richieste insolite a un agente umano» può portare a passaggi non necessari o consentire all'IA di continuare a gestire una situazione che dovrebbe coinvolgere una persona.

Per esempio, invece di dire a un agente IA per il servizio clienti di «trasferire le domande complesse sulla fatturazione», un team potrebbe impostare una regola come «trasferisci il caso quando un cliente contesta un addebito e i record dell'account non corrispondono». Le guardrail dettagliate forniscono agli agenti IA condizioni specifiche da seguire, riducendo i passaggi non necessari e il rischio che l'IA prosegua con un caso che richiede il coinvolgimento umano.

I team possono impostare condizioni di passaggio altrettanto specifiche per le richieste che esulano dal ruolo di un agente IA, come informazioni mancanti o in conflitto, richieste dei clienti di parlare con un agente umano e altre situazioni che richiedono il coinvolgimento umano.

2. Perdita di contesto durante i passaggi

Quando un agente IA trasferisce un'interazione in tempo reale con un cliente a un operatore umano senza includere la cronologia della sessione, il dipendente è costretto a interrogare nuovamente il chiamante da zero. Questo trasferimento impreciso crea subito attrito, frustra il cliente e allunga l'interazione.

Un cliente può trascorrere diversi minuti a spiegare un problema di fatturazione e a verificare il proprio account con un agente IA prima che il problema richieda un agente umano, ma se la trascrizione, i dettagli dell'account e le azioni già intraprese non vengono trasferiti con la chiamata, il cliente deve ripetere l'intero processo.

Per evitare di perdere il contesto durante i passaggi, assicurati che il sistema trasferisca direttamente all'operatore umano, insieme al passaggio, le informazioni già raccolte dall'agente IA.

3. Troppi passaggi di approvazione

Richiedere l'approvazione umana per attività di routine e a basso rischio può rallentare il lavoro che l'agente IA è in grado di gestire in sicurezza. Se un dipendente deve approvare ogni modifica standard a un appuntamento, ogni modulo di raccolta dati di base o ogni consultazione di stato di routine, la revisione umana inizia ad aggiungere lavoro invece di aiutare il team a gestire i casi a rischio più elevato.

I team possono evitare controlli non necessari decidendo in anticipo quali azioni richiedono davvero una revisione umana e lasciando che le attività a rischio minore proseguano automaticamente. Per esempio, le modifiche di routine agli appuntamenti o le richieste di stato standard possono procedere senza approvazione, mentre le contestazioni di fatturazione o le eccezioni alle policy vengono comunque indirizzate a una persona.

4. Regole che non vengono mai aggiornate

Le regole di passaggio che avevano senso prima del lancio potrebbero dover cambiare quando l'agente IA inizia a gestire conversazioni reali. I passaggi ripetuti possono rivelare dove il workflow originale è troppo prudente, dove all'agente IA mancano informazioni o dove un nuovo tipo di richiesta necessita di una propria regola.

Per esempio, se un agente IA continua a trasferire le domande di routine sulle spedizioni perché i clienti le formulano in modi non previsti dal workflow originale, il team può aggiornare le conoscenze dell'agente IA o la regola di passaggio affinché tali richieste restino automatizzate.

Considerare flessibili le regole human-in-the-loop consente ai team di automatizzare in sicurezza più lavoro di routine, mantenendo la supervisione umana concentrata sui veri casi limite.

Confronto tra human in the loop e human on the loop

HITL e human on the loop (HOTL) sono due modelli diversi di supervisione umana dell'IA.

HITL richiede la partecipazione di una persona prima che determinate decisioni o azioni possano proseguire. È più adatto per attività complesse o a rischio elevato, in cui conformità normativa, responsabilità finanziaria, giudizio clinico o eccezioni alle policy richiedono una revisione o approvazione umana prima che il workflow vada avanti.

HOTL permette all'IA di lavorare senza attendere l'approvazione umana, ma una persona monitora il sistema e può intervenire quando necessario. È più adatto per attività a basso rischio, osservabili e reversibili, come domande informative generiche, aggiornamenti sullo stato degli ordini o altre interazioni a basso rischio che non richiedono l'approvazione di una persona per il risultato.

Un supervisore può osservare l'attività complessiva e intervenire soltanto quando qualcosa richiede attenzione. Ecco le principali differenze tra HITL e HOTL.

Esempi di IA human-in-the-loop

HITL può assumere forme diverse a seconda delle decisioni, approvazioni o conversazioni che richiedono il coinvolgimento umano.

Settore bancario

Customers Bank sta implementando ElevenAgents per richieste relative ai conti, servizi sulle carte, trasferimenti, onboarding e formazione dei dipendenti, con percorsi di passaggio a operatori umani integrati in ogni agente. Gli agenti IA possono gestire l'assistenza bancaria di routine, mentre i consulenti bancari restano disponibili quando una conversazione richiede attenzione personale o una decisione al di fuori del ruolo dell'agente.

Assicurazioni

Insurely utilizza agenti vocali IA per la vendita di assicurazioni e l'assistenza clienti, inclusi rispondere alle domande e aiutare i clienti a completare i preventivi. Quando un cliente ha bisogno di una persona, l'agente IA trasferisce la chiamata o programma una richiamata.

Sanità

mdhub, una piattaforma per la salute comportamentale, utilizza ElevenAgents⁠ per l'ammissione dei pazienti e l'assistenza. Gli agenti IA acquisiscono le informazioni dei pazienti, verificano l'assicurazione, abbinano i pazienti ai professionisti e fissano appuntamenti, mentre gli operatori sanitari determinano il trattamento e prendono decisioni che richiedono giudizio clinico.

Fintech

Klarna, banca digitale globale e fornitore di servizi di pagamento, usa un agente vocale IA di ElevenAgents come primo livello di assistenza telefonica per i clienti statunitensi. L'agente IA gestisce le richieste informative e raccoglie il contesto pertinente, quindi passa la conversazione a un agente umano quando il problema diventa più complesso o delicato, oppure quando il cliente desidera parlare con una persona.

Creatività

Per contenuti e lavori creativi, ElevenProductions utilizza un approccio HITL per la produzione assistita dall'IA con editing umano. L'IA gestisce attività come la trascrizione e la produzione di audiolibri generati dall'IA, mentre gli editor umani esaminano il lavoro, apportano correzioni e approvano il risultato finale.

In un diverso tipo di collaborazione tra persone e IA, il compositore e cantante Patrick Darling, che aveva perso la capacità di cantare, ha usato la tecnologia vocale di ElevenLabs per eseguire di nuovo la propria musica.

Inizia con ElevenAgents

ElevenAgents offre alle aziende diversi modi per definire cosa può gestire un agente IA e dove le persone devono rimanere parte del workflow. Gli agenti possono utilizzare le conoscenze aziendali e gli strumenti di business, seguire workflow definiti e operare entro guardrail. Il passaggio a un operatore umano può trasferire una conversazione e il suo contesto a una persona disponibile, mentre le simulazioni aiutano i team a testare il comportamento prima del lancio.

Inizia con ElevenAgents per creare agenti IA con confini chiari del workflow, passaggio a operatori umani e controlli per test e supervisione. Contatta le vendite per definire la tua implementazione oppure registrati per creare un agente e provarlo personalmente.

FAQ su human-in-the-loop