Qu’est-ce que le human in the loop ? Comment les personnes améliorent les workflows d’IA

Le human in the loop (HITL) est un workflow utilisé dans les modèles IA qui répartit les tâches entre systèmes automatisés et experts humains selon des limites opérationnelles claires. Dans un système HITL, l’IA traite les tâches prévisibles et fondées sur des règles, tandis que les spécialistes humains restent responsables des décisions complexes, des exigences de conformité et des cas limites.

Pour les entreprises, le HITL offre un moyen concret d’automatiser les tâches courantes tout en impliquant les personnes lorsque leur jugement est nécessaire. Un agent IA peut consulter les informations d’un compte, recueillir les données d’un dossier de sinistre, envoyer des formulaires d’intégration ou prendre un rendez-vous, puis signaler un cas incertain ou sensible afin qu’une personne le vérifie, l’approuve, le corrige ou en prenne le relais. 

Au-delà des workflows en temps réel, le HITL s’applique aussi au développement du machine learning. Les personnes peuvent annoter les données d’entraînement, évaluer les résultats du modèle, corriger les erreurs ou fournir des retours qui améliorent les performances d’un modèle. Dans ce contexte, l’humain participe à l’entraînement ou à l’amélioration du modèle plutôt qu’à un workflow métier en temps réel. 

Dans cet article, nous vous montrons où l’intervention humaine a sa place dans les systèmes et workflows d’IA, pourquoi elle compte et à quoi ressemble un HITL efficace en pratique. 

En résumé

• L’IA avec intervention humaine répartit un workflow entre l’IA et les personnes selon des responsabilités prédéfinies.
• Les équipes intègrent au workflow des revues humaines, des validations, des transferts et des parcours d’exception, puis affinent ces règles selon les besoins après le déploiement.
• Le HITL peut améliorer la précision, l’efficacité et la gestion des risques en associant l’automatisation au jugement humain là où il est nécessaire.

Qu’est-ce que le human in the loop ?

Le human in the loop est un système qui intègre activement une personne au processus afin de prendre des décisions manuellement ou de superviser un workflow d’IA. Il combine le traitement automatisé des tâches avec des règles intégrées qui mettent le workflow en pause ou le transmettent à une personne lorsque certaines conditions sont remplies.

L’intervention humaine peut être prévue dans le workflow ou répondre à des situations que l’IA ne doit pas gérer seule. Les équipes définissent à l’avance ces points d’intervention humaine en fonction des politiques, des risques, de l’expérience client et du type de décision concerné. 

Les principaux points d’intervention humaine sont les suivants : 

• Revues et validations obligatoires : une personne examine ou autorise les décisions engageant une responsabilité financière, juridique, réglementaire ou opérationnelle.
• Étapes réglementées : Workflows agentiques orientent les décisions ou la documentation vers des employés qualifiés lorsque les lois, les politiques ou les normes professionnelles exigent une intervention humaine.
• Communications sensibles ou à forte valeur : les personnes gèrent les échanges où la négociation, le réconfort, la gestion de la relation ou un jugement attentif sont importants.
• Limites de rôle et exceptions : les demandes qui dépassent le rôle attribué à l’IA, impliquent des circonstances inhabituelles ou ne disposent pas d’une réponse définie sont transmises à une personne.
• Transfert demandé par le client : un client peut être transféré vers un membre de l’équipe disponible lorsqu’il demande à parler à quelqu’un.
  
  

Les personnes peuvent aussi entrer dans la boucle de manière dynamique lorsqu’une situation évolue pendant le workflow. Des informations contradictoires, une nouvelle préoccupation du client ou des circonstances non prévues par les règles initiales peuvent déclencher un transfert, même si la tâche suivait au départ le parcours standard.

L’intervention d’une personne ne signifie pas nécessairement que le processus automatisé doit repartir de zéro. Une fois qu’un membre de l’équipe a pris une décision ou résolu un problème, l’IA enregistre la mise à jour dans le dossier, envoie la communication suivante requise et poursuit le reste du workflow.

Que signifie le human in the loop en machine learning ?

Le machine learning avec intervention humaine applique le même principe que le HITL, mais pendant la phase de développement. Au lieu d’intervenir dans un workflow en temps réel, les personnes participent à des étapes définies du processus de développement du modèle. 

Les chercheurs peuvent annoter les données d’entraînement, évaluer les réponses du modèle, corriger les erreurs ou fournir des retours qui améliorent son comportement avant le déploiement. Des experts métier peuvent également examiner les résultats lorsque la précision dépend de connaissances spécialisées ou du jugement humain. 

Principaux avantages de l’intégration des humains aux workflows d’IA

Pour les entreprises, le HITL peut réduire les erreurs coûteuses, assurer un traitement plus cohérent des cas sensibles ou réglementés et accélérer le traitement des tâches courantes, sans laisser à l’IA un contrôle sans garde-fous sur les décisions les plus risquées.

Voici quelques avantages clés et cas d’usage des systèmes HITL.

Améliorer la précision et la qualité des décisions

Le HITL améliore la précision et la qualité des décisions en associant la régularité de l’IA sur les tâches structurées au jugement humain pour les aspects qu’un modèle ne peut pas gérer seul de manière fiable. L’IA peut traiter les tâches structurées de façon cohérente, recueillir les informations nécessaires à une décision et préparer des réponses ou recommandations courantes.

L’agent de Valiant disponible en dehors des heures ouvrées, Sophia, gère la collecte structurée d’informations avant de transmettre les dossiers à un courtier humain lorsque cela est approprié. Conçu avec ElevenAgents, l’agent de Valiant a identifié plus de 1,5 M$ d’intentions de prêts commerciaux, Sophia traitant environ 29 % des appels reçus en dehors des heures ouvrées.

L’intervention humaine améliore la qualité des décisions lorsque les informations sont :

• Incomplètes ou contradictoires
• Dépendantes du contexte ou de l’interprétation
• Dépendantes de la négociation et de la création de relations
• Dépendantes d’une expertise spécialisée

De meilleurs résultats peuvent réduire les erreurs coûteuses et les reprises évitables, en particulier lorsque des conséquences financières, réglementaires ou client sont en jeu.

Réduire les risques et soutenir la conformité

Le HITL peut aider les organisations à réduire les risques de non-conformité en veillant à ce que les décisions réglementées ou aux conséquences importantes soient examinées par la bonne personne avant de progresser. 

L’IA soutient la conformité procédurale en :

• Envoyant les documents requis.
• Recueillant les informations.
• Vérifiant que les champs obligatoires sont complets.
• Récupérant les politiques ou informations à communiquer.
• Enregistrant les étapes réalisées.
• Orientant les dossiers vers la personne compétente.

Les personnes restent responsables lorsque la réglementation exige une interprétation, qu’une exception doit être résolue ou qu’une décision engageant une responsabilité juridique doit être prise.

Par exemple, l’assureur britannique Admiral définit des limites de périmètre délibérées pour ses agents vocaux destinés aux clients. Admiral transmet les cas de vulnérabilité et d’impayés à des personnes, et soumet ses workflows d’IA réglementés à un niveau d’exigence élevé avant leur lancement.

Gagner en efficacité tout en préservant l’expertise humaine

L’IA peut gérer les tâches administratives répétitives, recueillir des informations, préparer des dossiers et faire avancer les cas courants sans nécessiter l’intervention d’une personne à chaque étape. Pour les entreprises, cela peut se traduire par des délais de traitement plus courts, moins d’arriéré administratif et davantage de capacité pour les collaborateurs à traiter les tâches qui influent directement sur les clients, les revenus ou les risques. 

Finch Legal a utilisé ElevenAgents pour faire passer son taux de réussite des appels de 59 % à 93 %, tout en atteignant plus de 15 000 appels par mois. Le déploiement d’un agent pour gérer ces processus a permis aux agents humains de passer environ six fois moins de temps au téléphone que dans les déploiements précédents. Les personnes n’intervenaient que lorsque le dossier exigeait leur expertise, les réservant aux moments à forte valeur ajoutée.

Défis et points à prendre en compte pour les systèmes avec intervention humaine

Même un système avec intervention humaine bien conçu peut échouer si le transfert est mal réalisé ou si la personne qui prend le relais ne dispose pas d’un contexte suffisant pour agir. L’équilibre entre rapidité automatisée et supervision humaine dépend de la conception du workflow. 

Lorsqu’un système avec intervention humaine ne fonctionne pas comme prévu, le problème réside souvent dans les règles qui déterminent le moment où les personnes interviennent et les informations qu’elles reçoivent.

Voici quelques-uns des principaux défis des systèmes avec intervention humaine.

1. Déclencheurs de transfert imprécis

Programmer des agents IA avec des instructions subjectives telles que « transférez les cas difficiles » ou « envoyez les demandes inhabituelles à un agent humain » peut entraîner des transferts inutiles ou laisser l’IA poursuivre une situation qui devrait impliquer une personne.

Par exemple, au lieu de demander à un agent IA de service client de « transférer les questions de facturation complexes », une équipe peut définir une règle telle que « transférez le dossier lorsqu’un client conteste un débit et que les informations du compte ne correspondent pas ». Des garde-fous détaillés donnent aux agents IA des conditions précises à respecter, ce qui peut réduire les transferts inutiles et limiter le risque que l’IA poursuive un dossier nécessitant une intervention humaine. 

Les équipes peuvent définir des conditions de transfert tout aussi précises pour les demandes qui dépassent le rôle d’un agent IA, telles que les informations contradictoires ou manquantes, les demandes de parler à un agent humain et d’autres situations exigeant une intervention humaine. 

2. Perte de contexte lors des transferts

Lorsqu’un agent IA transfère une interaction client en direct à un représentant humain sans transmettre l’historique de la session, l’employé est contraint de reprendre l’entretien avec l’appelant depuis le début. Ce transfert maladroit crée immédiatement des frictions, frustre le client et allonge l’interaction.

Un client peut passer plusieurs minutes à expliquer un problème de facturation et à vérifier son compte avec un agent IA avant que le problème ne nécessite un agent humain, mais si la transcription, les informations du compte et les actions déjà effectuées ne sont pas transférées avec l’appel, le client doit répéter l’ensemble du processus. 

Pour éviter de perdre le contexte lors des transferts, assurez-vous que le système transmette directement au représentant humain, avec le transfert, les informations déjà recueillies par l’agent IA.

3. Trop d’étapes de validation

Exiger une validation humaine pour des tâches courantes et à faible risque peut ralentir un travail que l’agent IA est en mesure de gérer en toute sécurité. Si un employé doit approuver chaque modification de rendez-vous standard, formulaire initial ou consultation de statut courante, l’examen humain ajoute du travail au lieu d’aider l’équipe à gérer les dossiers les plus risqués. 

Les équipes peuvent éviter les points de contrôle inutiles en décidant à l’avance quelles actions exigent réellement un examen humain et en laissant les tâches moins risquées se poursuivre automatiquement. Par exemple, les modifications de rendez-vous courantes ou les demandes de statut standard peuvent être traitées sans approbation, tandis que les litiges de facturation ou les exceptions aux politiques sont toujours orientés vers une personne. 

4. Des règles qui ne sont jamais mises à jour

Les règles de transfert qui étaient pertinentes avant le lancement peuvent devoir évoluer une fois que l’agent IA commence à gérer de vraies conversations. Des transferts répétés peuvent révéler que le workflow initial est trop prudent, que l’agent IA manque d’informations ou qu’un nouveau type de demande nécessite sa propre règle. 

Par exemple, si un agent IA transfère sans cesse des questions courantes sur la livraison parce que les clients les formulent d’une manière que le workflow initial n’avait pas anticipée, l’équipe peut mettre à jour les connaissances de l’agent IA ou sa règle de transfert afin que ces demandes restent automatisées. 

Traiter les règles de human in the loop comme évolutives permet aux équipes d’automatiser davantage de tâches courantes en toute sécurité, tout en concentrant la supervision humaine sur les véritables cas limites. 

Comparer le human in the loop et le human on the loop

Le HITL et le human on the loop (HOTL) sont deux modèles distincts de supervision humaine de l’IA.

Le HITL exige la participation d’une personne avant que certaines décisions ou actions puissent se poursuivre. Il est particulièrement adapté aux tâches complexes ou à haut risque pour lesquelles la conformité, la responsabilité financière, le jugement clinique ou les exceptions aux politiques exigent un examen ou une approbation humaine avant que le workflow n’avance.

Le HOTL laisse l’IA travailler sans attendre une approbation humaine, mais une personne surveille le système et peut intervenir si nécessaire. Il est particulièrement adapté aux tâches à faible risque, à la fois observables et réversibles, comme les questions d’information générale, les mises à jour du statut d’une commande ou d’autres interactions à faible risque qui ne nécessitent pas qu’une personne approuve le résultat. 

Un superviseur peut suivre l’activité globale et ne réagir que lorsqu’un élément requiert son attention. Voici les principales différences entre le HITL et le HOTL.

Exemples d’IA avec intervention humaine

Le HITL peut prendre différentes formes selon les décisions, les validations ou les conversations qui exigent une intervention humaine. 

Services bancaires

Customers Bank déploie ElevenAgents pour les demandes liées aux comptes, les services de cartes, les virements, l’intégration et la formation des employés, avec des parcours de transfert vers un humain intégrés à chaque agent. Les agents IA peuvent gérer l’assistance bancaire courante, tandis que les conseillers bancaires restent disponibles lorsqu’une conversation exige une attention personnelle ou une décision qui dépasse le rôle de l’agent.

Assurance

Insurely utilise des agents vocaux IA pour la vente d’assurances et le service client, notamment pour répondre aux questions et aider les clients à finaliser des devis. Lorsqu’un client a besoin de parler à une personne, l’agent IA transfère l’appel ou planifie un rappel.

Santé

mdhub, une plateforme de santé comportementale, utilise ElevenAgents⁠ pour l’admission des patients et l’assistance. Les agents IA recueillent les informations des patients, vérifient leur couverture d’assurance, les mettent en relation avec des professionnels de santé et planifient les rendez-vous, tandis que les professionnels de santé déterminent le traitement et prennent les décisions nécessitant un jugement clinique.

Fintech

Klarna, banque numérique mondiale et fournisseur de services de paiement, utilise un agent vocal IA d’ElevenAgents comme premier niveau de support téléphonique pour ses clients aux États-Unis. L’agent IA traite les demandes d’information et recueille le contexte pertinent, puis transmet la conversation à un agent humain lorsque le problème devient plus complexe ou plus sensible, ou lorsque le client souhaite parler à une personne.

Création

Pour le contenu et la création, ElevenProductions adopte une approche HITL pour une production assistée par l’IA avec montage humain. L’IA gère notamment la transcription et la production de livres audio générés par IA, tandis que des monteurs humains examinent le travail, apportent des corrections et approuvent le résultat final. 

Dans une autre forme de collaboration entre humain et IA, le compositeur et chanteur Patrick Darling, qui avait perdu sa capacité à chanter, a utilisé la technologie vocale d’ElevenLabs pour interpréter à nouveau sa propre musique. 

Débutez avec ElevenAgents

ElevenAgents offre aux entreprises plusieurs moyens de définir ce qu’un agent IA peut gérer et à quels endroits les personnes doivent rester intégrées au workflow. Les agents peuvent utiliser les connaissances et outils métier de l’entreprise, suivre des workflows définis et fonctionner dans le cadre de garde-fous. Le transfert vers un humain peut transmettre une conversation et son contexte à une personne disponible, tandis que les simulations aident les équipes à tester les comportements avant le lancement.

Débutez avec ElevenAgents pour créer des agents IA dotés de limites de workflow claires, d’un transfert vers un humain et de contrôles pour les tests et la supervision. Contacter l’équipe commerciale pour définir votre mise en œuvre, ou vous inscrire pour créer un agent et l’essayer vous-même.

FAQ sur le human in the loop