Cos'è l'human in the loop? Come le persone migliorano i workflow IA

L'human in the loop (HITL) è un workflow utilizzato nei modelli di IA che divide le attività tra sistemi automatizzati ed esperti umani in base a confini operativi chiari. In un sistema HITL, l'IA gestisce attività prevedibili e basate su regole, mentre gli specialisti umani mantengono la responsabilità delle decisioni complesse, dei requisiti di conformità normativa e dei casi limite.

Per le aziende, l'HITL offre un modo pratico per automatizzare il lavoro di routine mantenendo le persone coinvolte quando serve il loro giudizio. Un agente IA può cercare i dettagli di un account, raccogliere informazioni su una richiesta di risarcimento, inviare moduli di onboarding o fissare un appuntamento, per poi segnalare un caso incerto o delicato affinché una persona lo esamini, approvi, corregga o prenda in carico.

Oltre ai workflow in tempo reale, l'HITL si applica anche allo sviluppo del machine learning. Le persone possono etichettare i dati di addestramento, valutare gli output dei modelli, correggere gli errori o fornire feedback per migliorare le prestazioni di un modello. In questo contesto, la persona fa parte del processo di addestramento o miglioramento del modello, anziché di un workflow aziendale in tempo reale.

In questo articolo ti mostreremo dove inserire il coinvolgimento umano nei sistemi e nei workflow IA, perché è importante e come si presenta un HITL efficace nella pratica.

Riepilogo

• L'IA human-in-the-loop divide un workflow tra IA e persone in base a responsabilità predefinite.
• I team integrano nel workflow revisioni, approvazioni, passaggi a operatori e percorsi per le eccezioni, quindi perfezionano queste regole in base alle necessità dopo il rilascio.
• L'HITL può migliorare precisione, efficienza e gestione del rischio combinando l'automazione con il giudizio umano dove necessario.

Cos'è l'human in the loop?

L'human in the loop è un sistema in cui una persona viene inclusa attivamente nel processo per prendere decisioni manualmente o supervisionare un workflow IA. Funziona combinando la gestione automatizzata delle attività con regole integrate che sospendono il workflow o lo trasferiscono a una persona quando sono soddisfatte condizioni definite.

Il coinvolgimento umano può essere una parte pianificata del workflow oppure una risposta a situazioni che l'IA non dovrebbe gestire autonomamente. I team definiscono in anticipo questi punti di contatto umani in base a policy, rischio, esperienza del cliente e tipo di decisione coinvolta.

I punti di contatto umani più comuni includono:

• Revisioni e approvazioni obbligatorie: Una persona esamina o autorizza decisioni che comportano responsabilità finanziarie, legali, di conformità normativa o operative.
• Passaggi regolamentati: Workflow agentici indirizzano decisioni o documentazione a dipendenti qualificati quando leggi, policy o standard professionali richiedono il coinvolgimento umano.
• Comunicazioni delicate o di alto valore: Le persone gestiscono conversazioni in cui contano la negoziazione, la rassicurazione, la gestione della relazione o un giudizio attento.
• Limiti del ruolo ed eccezioni: Le richieste che esulano dal ruolo assegnato all'IA, riguardano circostanze insolite o non hanno una risposta definita vengono trasferite a una persona.
• Trasferimento richiesto dal cliente: Un cliente può essere trasferito a un membro del team in tempo reale quando chiede di parlare con qualcuno.
  
  

Le persone possono anche entrare dinamicamente nel loop quando una situazione cambia durante il workflow. Informazioni in conflitto, una nuova preoccupazione del cliente o circostanze non previste dalle regole originali possono attivare un trasferimento, anche se inizialmente l'attività seguiva il percorso standard.

L'intervento di una persona non significa necessariamente che il processo automatizzato debba ricominciare da zero. Una volta che un membro del team prende una decisione o risolve un problema, l'IA salva l'aggiornamento nel record, invia la comunicazione successiva richiesta e prosegue con il resto del workflow.

Cosa significa human-in-the-loop nel machine learning?

Il machine learning human-in-the-loop usa lo stesso principio dell'HITL, ma nella fase di sviluppo. Anziché intervenire in un workflow in tempo reale, le persone partecipano in punti definiti del processo di sviluppo del modello.

I ricercatori possono etichettare i dati di addestramento, valutare le risposte del modello, correggere gli errori o fornire feedback che aiuta a migliorarne il comportamento prima del rilascio. Gli esperti di dominio possono anche esaminare gli output quando la precisione dipende da conoscenze specialistiche o dal giudizio.

Vantaggi principali dell'integrazione delle persone nei workflow IA

Per le aziende, l'HITL può significare meno errori costosi, una gestione più coerente dei casi delicati o regolamentati e un'elaborazione più rapida del lavoro di routine, senza affidare all'IA un controllo senza limiti sulle decisioni a rischio più elevato.

Ecco alcuni dei principali vantaggi e casi d'uso dei sistemi HITL.

Migliora precisione e qualità delle decisioni

L'HITL migliora la precisione e la qualità delle decisioni combinando la coerenza dell'IA nelle attività strutturate con il giudizio umano per gli aspetti che un modello non può gestire in modo affidabile da solo. L'IA può gestire in modo coerente attività strutturate, raccogliere le informazioni necessarie per una decisione e preparare risposte o raccomandazioni di routine.

Valiant ha un agente fuori orario, Sophia, che gestisce la raccolta strutturata delle informazioni e poi trasferisce i casi a un broker umano quando opportuno. Sviluppato con ElevenAgents, l'agente di Valiant ha identificato oltre 1,5 milioni di dollari di potenziali prestiti commerciali, con Sophia che ha gestito circa il 29% delle chiamate fuori orario.

L'intervento umano migliora la qualità delle decisioni quando le informazioni sono:

• Incomplete o in conflitto
• Dipendenti dal contesto o dall'interpretazione
• Basate su negoziazione e costruzione della relazione
• Dipendenti da competenze specialistiche

Risultati migliori possono ridurre errori costosi e rilavorazioni evitabili, soprattutto in situazioni con conseguenze finanziarie, normative o per il cliente.

Riduci il rischio e supporta la conformità normativa

L'HITL può aiutare le organizzazioni a ridurre il rischio di conformità normativa, assicurando che le decisioni regolamentate o ad alto impatto raggiungano la persona giusta prima di procedere.

L'IA supporta la conformità procedurale:

• Inviando i documenti richiesti.
• Raccogliendo informazioni.
• Verificando che i campi obbligatori siano completi.
• Recuperando policy o informative.
• Registrando i passaggi completati.
• Inoltrando i casi alla persona appropriata.

Le persone restano responsabili quando le normative richiedono un'interpretazione, occorre risolvere un'eccezione o deve essere presa una decisione legalmente vincolante.

Ad esempio, l'assicuratore britannico Admiral definisce limiti di ambito precisi per i propri agenti vocali destinati ai clienti. Admiral indirizza alle persone i casi di vulnerabilità e di arretrati e testa i workflow IA regolamentati secondo standard di validazione rigorosi prima del rilascio.

Aumenta l'efficienza preservando le competenze umane

L'IA può gestire il lavoro amministrativo ripetitivo, raccogliere informazioni, preparare record e far avanzare i casi di routine senza richiedere una persona a ogni passaggio. Per le aziende, il risultato può essere tempi di elaborazione più brevi, meno arretrati amministrativi e maggiore capacità per i dipendenti di occuparsi del lavoro che influenza direttamente clienti, ricavi o rischio.

Finch Legal ha usato ElevenAgents per aumentare il tasso di successo delle chiamate dal 59% al 93%, arrivando a oltre 15.000 chiamate al mese. L'implementazione di un agente per gestire questi processi ha fatto sì che gli agenti umani trascorressero al telefono circa un sesto del tempo rispetto alle implementazioni precedenti. Le persone dovevano intervenire solo quando il caso richiedeva la loro competenza, riservandole ai momenti di maggior valore.

Sfide e considerazioni per i sistemi human-in-the-loop

Anche un sistema human-in-the-loop ben progettato può non funzionare se il trasferimento è inadeguato o se la persona che subentra non ha abbastanza contesto per agire. Bilanciare la velocità automatizzata con la supervisione umana dipende dalla progettazione del workflow.

Quando un sistema human-in-the-loop non funziona come previsto, il problema risiede spesso nelle regole che determinano quando le persone entrano nel processo e quali informazioni ricevono.

Ecco alcune delle principali sfide dei sistemi human-in-the-loop.

1. Trigger di trasferimento vaghi

Programmare agenti IA con istruzioni soggettive come “trasferisci i casi difficili” o “invia le richieste insolite a un agente umano” può portare a trasferimenti non necessari oppure permettere all'IA di proseguire con una situazione che dovrebbe coinvolgere una persona.

Ad esempio, anziché dire a un agente IA del servizio clienti di “trasferire le domande complesse sulla fatturazione”, un team potrebbe definire una regola come “trasferisci il caso quando un cliente contesta un addebito e i record dell'account non corrispondono”. Guardrail dettagliati forniscono agli agenti IA condizioni specifiche da seguire, riducendo i trasferimenti non necessari e il rischio che l'IA prosegua con un caso che richiede il coinvolgimento umano.

I team possono definire condizioni di trasferimento altrettanto specifiche per le richieste che esulano dal ruolo di un agente IA, come informazioni in conflitto o mancanti, richieste dei clienti di parlare con un agente umano e altre situazioni che richiedono il coinvolgimento umano.

2. Perdita di contesto durante i trasferimenti

Quando un agente IA trasferisce un'interazione in tempo reale con un cliente a un rappresentante umano senza riportare la cronologia della sessione, il dipendente è costretto a rifare l'intervista al chiamante da zero. Questo trasferimento impreciso crea subito attrito, frustra il cliente e allunga l'interazione.

Un cliente può trascorrere diversi minuti a spiegare un problema di fatturazione e a verificare il proprio account con un agente IA prima che il problema richieda un agente umano, ma se la trascrizione, i dettagli dell'account e le azioni già eseguite non vengono trasferiti con la chiamata, il cliente deve ripetere l'intero processo.

Per evitare la perdita di contesto durante i trasferimenti, assicurati che il sistema inoltri direttamente al rappresentante umano le informazioni già raccolte dall'agente IA insieme al trasferimento.

3. Troppi passaggi di approvazione

Richiedere l'approvazione umana per attività di routine e a basso rischio può rallentare il lavoro che l'agente IA è in grado di gestire in sicurezza. Se un dipendente deve approvare ogni modifica standard a un appuntamento, modulo di raccolta dati di base o verifica di stato ordinaria, la revisione umana inizia ad aggiungere lavoro anziché aiutare il team a gestire i casi a rischio più elevato.

I team possono evitare controlli non necessari decidendo in anticipo quali azioni richiedono davvero una revisione umana e consentendo alle attività a minor rischio di proseguire automaticamente. Ad esempio, le modifiche di routine agli appuntamenti o le richieste di stato standard possono procedere senza approvazione, mentre le contestazioni di fatturazione o le eccezioni alle policy vengono comunque indirizzate a una persona.

4. Regole che non vengono mai aggiornate

Le regole di trasferimento che avevano senso prima del rilascio potrebbero dover cambiare quando l'agente IA inizia a gestire conversazioni reali. I trasferimenti ripetuti possono evidenziare dove il workflow originale è troppo prudente, dove l'agente IA non dispone di informazioni o dove un nuovo tipo di richiesta necessita di una regola dedicata.

Ad esempio, se un agente IA continua a trasferire domande di routine sulle spedizioni perché i clienti le formulano in modi non previsti dal workflow originale, il team può aggiornare le conoscenze dell'agente IA o la regola di trasferimento affinché queste richieste restino automatizzate.

Considerare flessibili le regole human-in-the-loop permette ai team di automatizzare in sicurezza più lavoro di routine, mantenendo la supervisione umana concentrata sui casi limite reali.

Confronto tra human in the loop e human on the loop

HITL e human on the loop (HOTL) sono due modelli diversi di supervisione umana dell'IA.

L'HITL richiede la partecipazione di una persona prima che determinate decisioni o azioni possano proseguire. È più adatto al lavoro complesso o a rischio più elevato, in cui la conformità normativa, la responsabilità finanziaria, il giudizio clinico o le eccezioni alle policy richiedono una revisione o approvazione umana prima che il workflow prosegua.

L'HOTL permette all'IA di lavorare senza attendere l'approvazione umana, ma una persona monitora il sistema e può intervenire quando necessario. È più adatto al lavoro a basso rischio, osservabile e reversibile, come domande informative generali, aggiornamenti sullo stato degli ordini o altre interazioni a basso rischio che non richiedono l'approvazione del risultato da parte di una persona.

Un supervisore può osservare l'attività complessiva e rispondere solo quando qualcosa richiede attenzione. Ecco le principali differenze tra HITL e HOTL.

Esempi di IA human-in-the-loop

L'HITL può assumere forme diverse a seconda delle decisioni, approvazioni o conversazioni che richiedono il coinvolgimento umano.

Servizi bancari

Customers Bank sta implementando ElevenAgents per richieste sugli account, servizi relativi alle carte, trasferimenti, onboarding e formazione dei dipendenti, con percorsi di trasferimento a operatori umani integrati in ogni agente. Gli agenti IA possono gestire l'assistenza bancaria di routine, mentre i banchieri umani restano disponibili quando una conversazione richiede attenzione personale o una decisione al di fuori del ruolo dell'agente.

Assicurazioni

Insurely usa agenti vocali IA per la vendita di assicurazioni e l'assistenza clienti, inclusa la risposta alle domande e l'aiuto ai clienti per completare i preventivi. Quando un cliente ha bisogno di una persona, l'agente IA trasferisce la chiamata o pianifica un richiamo.

Sanità

mdhub, una piattaforma per la salute comportamentale, usa ElevenAgents⁠ per l'accettazione dei pazienti e l'assistenza. Gli agenti IA raccolgono le informazioni dei pazienti, verificano l'assicurazione, abbinano i pazienti ai fornitori di assistenza e fissano appuntamenti, mentre i professionisti sanitari determinano il trattamento e prendono decisioni che richiedono giudizio clinico.

Fintech

Klarna, banca digitale globale e fornitore di servizi di pagamento, utilizza un agente vocale IA di ElevenAgents come primo livello di assistenza telefonica per i clienti statunitensi. L'agente IA gestisce le richieste informative e raccoglie il contesto rilevante, quindi trasferisce la conversazione a un agente umano quando il problema diventa più complesso o delicato oppure quando il cliente desidera parlare con una persona.

Creatività

Per i contenuti e il lavoro creativo, ElevenProductions utilizza un approccio HITL per la produzione assistita dall'IA con editing umano. L'IA gestisce attività come la trascrizione e la produzione di audiolibri generati dall'IA, mentre gli editor umani esaminano il lavoro, apportano correzioni e approvano il risultato finale.

In un diverso tipo di collaborazione tra persone e IA, il compositore e cantante Patrick Darling, che aveva perso la capacità di cantare, ha usato la tecnologia vocale di ElevenLabs per eseguire di nuovo la propria musica.

Inizia con ElevenAgents

ElevenAgents offre alle aziende diversi modi per definire cosa può gestire un agente IA e dove le persone devono rimanere parte del workflow. Gli agenti possono utilizzare le conoscenze aziendali e gli strumenti di business, seguire workflow definiti e operare entro guardrail. Il trasferimento a un operatore umano può inoltrare una conversazione e il relativo contesto a una persona in tempo reale, mentre le simulazioni aiutano i team a testare il comportamento prima del rilascio.

Inizia con ElevenAgents per creare agenti IA con confini chiari nei workflow, trasferimento a operatori umani e controlli per test e supervisione. Contatta le vendite per definire la tua implementazione oppure registrati per creare un agente e provarlo tu stesso.

FAQ sull'human-in-the-loop