Qu’est-ce que le human in the loop ? Comment les personnes améliorent les workflows d’IA

L’humain dans la boucle (HITL) est un flux de travail utilisé dans les modèles IA qui répartit les tâches entre systèmes automatisés et experts humains selon des limites opérationnelles claires. Dans un système HITL, l’IA traite les tâches prévisibles et régies par des règles, tandis que les spécialistes humains restent responsables des décisions complexes, des exigences de conformité et des cas limites.

Pour les entreprises, le HITL offre un moyen concret d’automatiser le travail de routine tout en gardant les personnes impliquées lorsque leur jugement est nécessaire. Un agent IA peut rechercher les informations d’un compte, recueillir des données sur un sinistre, envoyer des formulaires d’intégration ou prendre un rendez-vous, puis signaler un cas incertain ou sensible afin qu’une personne le vérifie, l’approuve, le corrige ou prenne le relais. 

Au-delà des flux de travail en temps réel, le HITL s’applique aussi au développement du machine learning. Des personnes peuvent annoter les données d’entraînement, évaluer les résultats du modèle, corriger les erreurs ou fournir des retours qui contribuent à améliorer ses performances. Dans ce contexte, l’humain participe au processus d’entraînement ou d’amélioration du modèle plutôt qu’à un flux de travail opérationnel en temps réel. 

Dans cet article, nous vous montrons à quels endroits l’intervention humaine a sa place dans les systèmes et flux de travail IA, pourquoi elle est importante et à quoi ressemble un HITL efficace en pratique. 

En résumé

• L’IA avec humain dans la boucle répartit un flux de travail entre l’IA et les personnes selon des responsabilités prédéfinies.
• Les équipes intègrent au flux de travail des vérifications humaines, des approbations, des transferts et des parcours d’exception, puis affinent ces règles après le déploiement si nécessaire.
• Le HITL peut améliorer la précision, l’efficacité et la gestion des risques en combinant l’automatisation et le jugement humain là où il est nécessaire.

Qu’est-ce que l’humain dans la boucle ?

L’humain dans la boucle désigne un système dans lequel une personne est activement intégrée au processus pour prendre manuellement des décisions ou superviser un flux de travail IA. Il associe le traitement automatisé des tâches à des règles intégrées qui mettent le flux en pause ou le transmettent à une personne lorsque des conditions définies sont réunies.

L’intervention humaine peut être une étape planifiée du flux de travail ou répondre à des situations que l’IA ne doit pas traiter seule. Les équipes définissent à l’avance ces points d’intervention humaine en fonction des politiques, des risques, de l’expérience client et du type de décision concerné. 

Les points d’intervention humaine courants comprennent : 

• Vérifications et approbations requises : une personne examine ou autorise les décisions qui impliquent une responsabilité financière, juridique, de conformité ou opérationnelle.
• Étapes réglementées : Flux de travail agentiques orientent les décisions ou documents vers des employés qualifiés lorsque les lois, les politiques ou les normes professionnelles exigent une intervention humaine.
• Communications sensibles ou à forte valeur : les personnes gèrent les échanges où la négociation, la réassurance, la gestion de la relation ou un jugement attentif sont essentiels.
• Limites de rôle et exceptions : les demandes qui dépassent le rôle attribué à l’IA, impliquent des circonstances inhabituelles ou n’ont pas de réponse définie sont transmises à une personne.
• Transfert demandé par le client : un client peut être transféré vers un membre de l’équipe disponible lorsqu’il demande à parler à quelqu’un.
  
  

Des personnes peuvent aussi entrer dynamiquement dans la boucle lorsqu’une situation évolue durant le flux de travail. Des informations contradictoires, une nouvelle préoccupation du client ou des circonstances non anticipées par les règles initiales peuvent déclencher un transfert, même si la tâche suivait initialement le parcours standard.

L’intervention d’une personne ne signifie pas nécessairement que le processus automatisé doit reprendre depuis le début. Dès qu’un membre de l’équipe prend une décision ou résout un problème, l’IA enregistre la mise à jour dans le dossier, envoie la communication suivante requise et poursuit le reste du flux de travail.

Que signifie l’humain dans la boucle en machine learning ?

Le machine learning avec humain dans la boucle applique le même principe que le HITL, mais à l’étape de développement. Au lieu d’intervenir dans un flux de travail en temps réel, les personnes participent à des points définis du processus de développement du modèle. 

Les chercheurs peuvent annoter les données d’entraînement, évaluer les réponses du modèle, corriger les erreurs ou fournir des retours qui améliorent son comportement avant le déploiement. Des experts métier peuvent également examiner les résultats lorsque la précision dépend de connaissances spécialisées ou d’un jugement expert. 

Principaux avantages de l’intégration des personnes aux flux de travail IA

Pour les entreprises, le HITL peut réduire les erreurs coûteuses, assurer un traitement plus cohérent des cas sensibles ou réglementés et accélérer le traitement des tâches routinières, sans donner à l’IA un contrôle sans limites sur les décisions les plus risquées.

Voici quelques-uns des principaux avantages et cas d’usage des systèmes HITL.

Améliorer la précision et la qualité des décisions

Le HITL améliore la précision et la qualité des décisions en associant la constance de l’IA sur les tâches structurées au jugement humain pour les aspects qu’un modèle ne peut pas gérer seul de manière fiable. L’IA peut traiter les tâches structurées avec constance, recueillir les informations nécessaires à une décision et préparer des réponses ou recommandations de routine.

Valiant a recours à son agent Sophia, actif en dehors des heures ouvrées, pour traiter les demandes structurées avant de transmettre les dossiers à un courtier humain lorsque nécessaire. Conçu avec ElevenAgents, l’agent de Valiant a permis d’identifier plus de 1,5 M$ d’intentions de prêts commerciaux, Sophia traitant environ 29 % des appels reçus en dehors des heures ouvrées.

L’intervention humaine améliore la qualité des décisions lorsque les informations sont :

• Incomplètes ou contradictoires
• Dépendantes du contexte ou de l’interprétation
• Dépendantes de la négociation et de la création de relations
• Dépendantes d’une expertise spécialisée

De meilleurs résultats peuvent réduire les erreurs coûteuses et les reprises évitables, surtout dans les situations ayant des conséquences financières, réglementaires ou pour les clients.

Réduire les risques et soutenir la conformité

Le HITL peut aider les organisations à réduire les risques de conformité en garantissant que les décisions réglementées ou à fortes conséquences parviennent à la bonne personne avant d’être exécutées. 

L’IA soutient la conformité procédurale en :

• Envoyant les documents requis.
• Recueillant les informations.
• Vérifiant que les champs requis sont remplis.
• Récupérant les politiques ou informations à communiquer.
• Enregistrant les étapes effectuées.
• Orientant les dossiers vers la personne appropriée.

Les personnes restent responsables lorsque la réglementation exige une interprétation, qu’une exception doit être résolue ou qu’une décision engageant une responsabilité juridique doit être prise.

Par exemple, l’assureur britannique Admiral fixe volontairement des limites de périmètre pour ses agents vocaux destinés aux clients. Admiral oriente les cas de vulnérabilité et d’impayés vers des personnes et soumet ses flux de travail IA réglementés à un niveau de validation élevé avant leur lancement.

Gagner en efficacité tout en préservant l’expertise humaine

L’IA peut prendre en charge les tâches administratives répétitives, recueillir des informations, préparer des dossiers et faire avancer les cas routiniers sans exiger l’intervention d’une personne à chaque étape. Pour les entreprises, cela peut se traduire par des délais de traitement plus courts, moins de retards administratifs et davantage de capacité pour les employés à gérer les activités qui influent directement sur les clients, les revenus ou les risques. 

Finch Legal a utilisé ElevenAgents pour faire passer son taux de réussite des appels de 59 % à 93 %, tout en montant à plus de 15 000 appels par mois. La mise en place d’un agent chargé de ces processus a permis aux agents humains de passer environ six fois moins de temps au téléphone que dans les déploiements précédents. Ils n’intervenaient que lorsque le dossier exigeait leur expertise, réservant leur temps aux moments à forte valeur.

Défis et points à considérer pour les systèmes avec humain dans la boucle

Même un système avec humain dans la boucle bien conçu peut échouer si le transfert est de mauvaise qualité ou si la personne qui prend le relais ne dispose pas d’assez de contexte pour agir. L’équilibre entre vitesse automatisée et supervision humaine repose sur la conception du flux de travail. 

Lorsqu’un système avec humain dans la boucle ne fonctionne pas comme prévu, le problème vient souvent des règles qui déterminent à quel moment les personnes interviennent dans le processus et quelles informations elles reçoivent.

Voici certains des principaux défis des systèmes avec humain dans la boucle.

1. Déclencheurs de transfert imprécis

Programmer des agents IA avec des instructions subjectives comme « transférer les cas difficiles » ou « envoyer les demandes inhabituelles à un agent humain » peut entraîner des transferts inutiles ou permettre à l’IA de poursuivre une situation qui devrait impliquer une personne.

Par exemple, au lieu de demander à un agent IA de service client de « transférer les questions de facturation complexes », une équipe peut établir une règle telle que « transmettre le dossier lorsqu’un client conteste des frais et que les informations du compte ne correspondent pas ». Des garde-fous détaillés donnent aux agents IA des conditions précises à suivre, ce qui peut réduire les transferts inutiles et le risque que l’IA poursuive un dossier nécessitant une intervention humaine. 

Les équipes peuvent définir des conditions de transfert tout aussi précises pour les demandes qui dépassent le rôle d’un agent IA, telles que des informations contradictoires ou manquantes, des demandes de clients souhaitant parler à un agent humain et d’autres situations nécessitant une intervention humaine. 

2. Perte de contexte lors des transferts

Lorsqu’un agent IA transfère une interaction client en temps réel à un représentant humain sans transmettre l’historique de la session, l’employé doit reprendre l’entretien avec l’appelant depuis le début. Ce transfert désordonné crée immédiatement des frictions, frustre le client et allonge l’interaction.

Un client peut passer plusieurs minutes à expliquer un problème de facturation et à vérifier son compte avec un agent IA avant que le problème ne nécessite un agent humain, mais si la transcription, les informations du compte et les actions déjà réalisées ne sont pas transmises avec l’appel, le client doit répéter l’ensemble du processus. 

Pour éviter de perdre le contexte lors des transferts, assurez-vous que le système transmette directement au représentant humain, avec le transfert, les informations déjà recueillies par l’agent IA.

3. Trop d’étapes d’approbation

Exiger une approbation humaine pour des tâches routinières et à faible risque peut ralentir un travail que l’agent IA est en mesure de traiter en toute sécurité. Si un employé doit approuver chaque modification de rendez-vous standard, formulaire d’admission de base ou consultation de statut courante, la vérification humaine ajoute du travail au lieu d’aider l’équipe à gérer les cas plus risqués. 

Les équipes peuvent éviter les points de contrôle inutiles en décidant à l’avance quelles actions exigent réellement une vérification humaine et en laissant les tâches à plus faible risque se poursuivre automatiquement. Par exemple, les modifications de rendez-vous de routine ou les demandes de statut standard peuvent être traitées sans approbation, tandis que les litiges de facturation ou les exceptions aux politiques restent orientés vers une personne. 

4. Des règles qui ne sont jamais mises à jour

Les règles de transfert qui étaient pertinentes avant le lancement peuvent devoir évoluer lorsque l’agent IA commence à gérer de vraies conversations. Des transferts répétés peuvent révéler que le flux de travail initial est trop prudent, que l’agent IA manque d’informations ou qu’un nouveau type de demande nécessite sa propre règle. 

Par exemple, si un agent IA continue de transférer des questions courantes sur la livraison parce que les clients les formulent d’une manière que le flux de travail initial n’avait pas anticipée, l’équipe peut mettre à jour les connaissances ou la règle de transfert de l’agent IA afin que ces demandes restent automatisées. 

Considérer les règles avec humain dans la boucle comme évolutives permet aux équipes d’automatiser davantage de travail de routine en toute sécurité, tout en concentrant la supervision humaine sur les véritables cas limites. 

Comparer l’humain dans la boucle et l’humain sur la boucle

Le HITL et l’humain sur la boucle (HOTL) sont deux modèles différents de supervision humaine de l’IA.

Le HITL exige qu’une personne participe avant que certaines décisions ou actions puissent se poursuivre. Il convient particulièrement aux activités complexes ou à risque élevé, lorsque la conformité, la responsabilité financière, le jugement clinique ou des exceptions aux politiques exigent une vérification ou une approbation humaine avant la poursuite du flux de travail.

Le HOTL permet à l’IA de fonctionner sans attendre une approbation humaine, mais une personne surveille le système et peut intervenir si nécessaire. Il convient particulièrement aux tâches à faible risque, observables et réversibles, comme les questions d’information générales, les mises à jour du statut des commandes ou d’autres interactions à faible risque qui ne nécessitent pas l’approbation d’une personne.

Un superviseur peut observer l’activité globale et n’intervenir que lorsqu’un élément nécessite son attention. Voici les principales différences entre HITL et HOTL.

Exemples d’IA avec humain dans la boucle

Le HITL peut prendre différentes formes selon les décisions, approbations ou conversations qui exigent une intervention humaine. 

Banque

Customers Bank est en train de déployer ElevenAgents pour les demandes liées aux comptes, les services de cartes, les virements, l’intégration et l’accompagnement des employés, avec des parcours de transfert vers un humain intégrés à chaque agent. Les agents IA peuvent gérer l’assistance bancaire de routine, tandis que des conseillers bancaires humains restent disponibles lorsqu’une conversation nécessite une attention personnelle ou une décision hors du rôle de l’agent.

Assurance

Insurely utilise des agents vocaux IA pour la vente d’assurances et le service client, notamment pour répondre aux questions et aider les clients à finaliser leurs devis. Lorsqu’un client a besoin d’une personne, l’agent IA transfère l’appel ou planifie un rappel.

Santé

mdhub, une plateforme de santé comportementale, utilise ElevenAgents⁠ pour l’admission des patients et l’assistance. Les agents IA recueillent les informations des patients, vérifient les assurances, mettent les patients en relation avec des praticiens et planifient les rendez-vous, tandis que les professionnels de santé déterminent les traitements et prennent les décisions nécessitant un jugement clinique.

Fintech

Klarna, banque numérique et prestataire de paiement mondial, utilise un agent vocal IA ElevenAgents comme premier niveau de l’assistance téléphonique destinée aux clients américains. L’agent IA traite les demandes d’information et recueille le contexte pertinent, puis transmet la conversation à un agent humain lorsque le problème devient plus complexe ou sensible, ou lorsque le client souhaite parler à une personne.

Création

Pour les contenus et le travail créatif, ElevenProductions adopte une approche HITL pour une production assistée par l’IA avec montage humain. L’IA gère des tâches telles que la transcription et la production de livres audio générés par l’IA, tandis que des monteurs humains examinent le travail, apportent des corrections et approuvent le résultat final. 

Dans une autre forme de collaboration entre l’humain et l’IA, le compositeur et chanteur Patrick Darling, qui avait perdu sa capacité à chanter, a utilisé la technologie vocale d’ElevenLabs pour interpréter de nouveau sa propre musique. 

Découvrez ElevenAgents

ElevenAgents offre aux entreprises plusieurs moyens de définir ce qu’un agent IA peut gérer et les étapes auxquelles les personnes doivent rester intégrées au flux de travail. Les agents peuvent exploiter les connaissances et outils de l’entreprise, suivre des flux de travail définis et agir dans le cadre de garde-fous. Le transfert vers un humain peut transmettre une conversation et son contexte à une personne disponible, tandis que les simulations permettent aux équipes de tester les comportements avant le lancement.

Utilisez ElevenAgents pour créer des agents IA avec des limites claires de flux de travail, un transfert vers un humain et des contrôles de test et de supervision. Réserver une démo pour définir votre mise en œuvre, ou S'inscrire pour créer un agent et l’essayer vous-même.

FAQ sur l’humain dans la boucle