O que é human in the loop? Como as pessoas melhoram fluxos de trabalho com IA

Human in the loop (HITL) é um fluxo de trabalho usado em modelos de IA que divide tarefas entre sistemas automatizados e especialistas humanos com base em limites operacionais claros. Em um sistema HITL, a IA realiza tarefas previsíveis e baseadas em regras, enquanto especialistas humanos mantêm a responsabilidade por decisões complexas, requisitos de conformidade e casos extremos.

Para empresas, o HITL oferece uma forma prática de automatizar o trabalho rotineiro e manter as pessoas envolvidas quando seu julgamento é necessário. Um agente de IA pode consultar dados da conta, coletar informações de sinistros, enviar formulários de integração ou agendar um compromisso e, então, sinalizar um caso incerto ou sensível para que uma pessoa analise, aprove, corrija ou assuma. 

Além dos fluxos de trabalho em tempo real, o HITL também se aplica ao desenvolvimento de machine learning. Pessoas podem rotular dados de treinamento, avaliar resultados do modelo, corrigir erros ou fornecer feedback que ajuda a melhorar seu desempenho. Nesse contexto, a pessoa faz parte do processo de treinamento ou melhoria do modelo, e não de um fluxo de trabalho empresarial em tempo real. 

Neste artigo, vamos mostrar onde a participação humana se encaixa em sistemas e fluxos de trabalho de IA, por que ela importa e como um HITL eficaz funciona na prática. 

Resumo

• A IA com participação humana no processo divide um fluxo de trabalho entre IA e pessoas com base em responsabilidades predefinidas.
• As equipes incorporam revisões, aprovações, transferências e caminhos para exceções ao fluxo de trabalho e refinam essas regras conforme necessário após a implementação.
• O HITL pode melhorar a precisão, a eficiência e a gestão de riscos ao combinar automação com julgamento humano onde ele é necessário.

O que é human in the loop?

Human in the loop é um sistema em que uma pessoa participa ativamente do processo para tomar decisões manualmente ou supervisionar um fluxo de trabalho de IA. Ele combina a execução automatizada de tarefas com regras integradas que pausam o fluxo de trabalho ou o transferem para uma pessoa quando determinadas condições são atendidas.

A participação humana pode ser uma parte planejada do fluxo de trabalho ou uma resposta a situações que a IA não deve lidar sozinha. As equipes definem esses pontos de contato humanos antecipadamente com base em políticas, riscos, experiência do cliente e no tipo de decisão envolvida. 

Pontos de contato humanos comuns incluem: 

• Revisões e aprovações obrigatórias: Uma pessoa analisa ou autoriza decisões que envolvem responsabilidade financeira, jurídica, de conformidade ou operacional.
• Etapas reguladas: Fluxos de trabalho agênticos encaminham decisões ou documentação a funcionários qualificados quando leis, políticas ou normas profissionais exigem participação humana.
• Comunicações sensíveis ou de alto valor: Pessoas conduzem conversas em que negociação, tranquilização, gestão de relacionamento ou julgamento cuidadoso são importantes.
• Limites de função e exceções: Solicitações que ficam fora da função atribuída à IA, envolvem circunstâncias incomuns ou não têm uma resposta definida são encaminhadas para uma pessoa.
• Transferência solicitada pelo cliente: Um cliente pode ser transferido para um integrante da equipe ao vivo quando pede para falar com alguém.
  
  

As pessoas também podem entrar no processo dinamicamente quando uma situação muda durante o fluxo de trabalho. Informações conflitantes, uma nova preocupação do cliente ou circunstâncias que as regras originais não previram podem acionar uma transferência, mesmo quando a tarefa inicialmente seguia o caminho padrão.

A intervenção de uma pessoa não significa necessariamente que o processo automatizado precisa recomeçar do zero. Quando um integrante da equipe toma uma decisão ou resolve um problema, a IA salva a atualização no registro, envia a próxima comunicação necessária e continua o restante do fluxo de trabalho.

O que human-in-the-loop significa em machine learning?

O machine learning com participação humana no processo usa o mesmo princípio do HITL, mas durante a fase de desenvolvimento. Em vez de intervir em um fluxo de trabalho em tempo real, as pessoas participam em pontos definidos do processo de desenvolvimento do modelo. 

Pesquisadores podem rotular dados de treinamento, avaliar respostas do modelo, corrigir erros ou fornecer feedback que ajude a melhorar o comportamento do modelo antes da implementação. Especialistas do domínio também podem revisar resultados quando a precisão depende de conhecimento ou julgamento especializado. 

Principais benefícios de integrar pessoas aos fluxos de trabalho de IA

Para empresas, o HITL pode significar menos erros caros, tratamento mais consistente de casos sensíveis ou regulados e processamento mais rápido do trabalho rotineiro, sem dar à IA controle irrestrito sobre decisões de maior risco.

Estes são alguns dos principais benefícios e casos de uso de sistemas HITL.

Melhore a precisão e a qualidade das decisões

O HITL melhora a precisão e a qualidade das decisões ao combinar a consistência da IA em tarefas estruturadas com o julgamento humano nas partes que um modelo não consegue lidar de forma confiável sozinho. A IA pode executar tarefas estruturadas com consistência, reunir as informações necessárias para uma decisão e preparar respostas ou recomendações rotineiras.

A Valiant tem uma agente para o período fora do horário comercial, Sophia, que realiza a coleta estruturada de informações e encaminha os casos a um corretor humano quando apropriado. Desenvolvida com ElevenAgents, a agente da Valiant conseguiu identificar mais de US$ 1,5 milhão em intenção de empréstimos comerciais, e Sophia atendeu cerca de 29% das chamadas fora do horário comercial.

A contribuição humana melhora a qualidade das decisões quando as informações são:

• Incompletas ou conflitantes
• Dependentes de contexto ou interpretação
• Dependentes de negociação e construção de relacionamento
• Dependentes de expertise especializada

Melhores resultados podem reduzir erros caros e retrabalho evitável, especialmente em situações com consequências financeiras, regulatórias ou para o cliente.

Reduza riscos e apoie a conformidade

O HITL pode ajudar organizações a reduzir riscos de conformidade ao garantir que decisões reguladas ou de grande impacto cheguem à pessoa certa antes de avançarem. 

A IA apoia a conformidade de processos ao:

• Enviar documentos obrigatórios.
• Coletar informações.
• Verificar se os campos obrigatórios estão preenchidos.
• Recuperar políticas ou divulgações.
• Registrar etapas concluídas.
• Encaminhar casos para a pessoa adequada.

As pessoas continuam responsáveis quando as regulamentações exigem interpretação, uma exceção precisa ser resolvida ou uma decisão com responsabilidade legal deve ser tomada.

Por exemplo, a seguradora britânica Admiral estabelece limites de escopo deliberados para seus agentes de voz voltados ao cliente. A Admiral encaminha casos de vulnerabilidade e inadimplência para pessoas e testa fluxos de trabalho de IA regulados com um alto padrão de validação antes do lançamento.

Aumente a eficiência sem perder a expertise humana

A IA pode lidar com trabalho administrativo repetitivo, reunir informações, preparar registros e avançar casos rotineiros sem exigir uma pessoa em cada etapa. Para as empresas, o resultado pode ser tempos de resposta menores, menos acúmulo administrativo e mais capacidade para que os funcionários lidem com trabalhos que afetam diretamente clientes, receita ou risco. 

Finch Legal conseguiu usar o ElevenAgents para aumentar as taxas de sucesso das chamadas de 59% para 93%, enquanto escalava para mais de 15 mil chamadas por mês. Implementar um agente para executar esses processos fez com que os agentes humanos passassem cerca de um sexto do tempo ao telefone em comparação com implementações anteriores. As pessoas só precisavam intervir quando o caso exigia sua expertise, reservando-as para momentos de alto valor.

Desafios e considerações para sistemas com participação humana no processo

Mesmo um sistema com participação humana bem projetado pode falhar se a transferência for ruim ou se a pessoa que assume não tiver contexto suficiente para agir. Equilibrar a velocidade automatizada com a supervisão humana depende do design do fluxo de trabalho. 

Quando um sistema com participação humana no processo não funciona como deveria, o problema geralmente está nas regras que determinam quando as pessoas entram no processo e quais informações recebem.

Estes são alguns dos principais desafios em sistemas com participação humana no processo.

1. Gatilhos de transferência vagos

Programar agentes de IA com instruções subjetivas, como “transfira casos difíceis” ou “envie solicitações incomuns a um agente humano”, pode levar a transferências desnecessárias ou permitir que a IA continue em uma situação que deveria envolver uma pessoa.

Por exemplo, em vez de dizer a um agente de IA de atendimento ao cliente para “transferir perguntas complexas sobre cobrança”, uma equipe pode definir uma regra como “encaminhe o caso quando um cliente contestar uma cobrança e os registros da conta não corresponderem”. Proteções detalhadas oferecem aos agentes de IA condições específicas a seguir, o que pode reduzir transferências desnecessárias e diminuir o risco de a IA continuar em um caso que exige participação humana. 

As equipes podem definir condições de transferência igualmente específicas para solicitações que ficam fora da função de um agente de IA, como informações conflitantes ou ausentes, pedidos de clientes para falar com um agente humano e outras situações que exigem participação humana. 

2. Perda de contexto durante transferências

Quando um agente de IA transfere uma interação em tempo real com um cliente para um representante humano sem levar o histórico da sessão, o funcionário é obrigado a entrevistar novamente quem ligou desde o início. Essa transferência malfeita cria atrito imediato, frustra o cliente e adiciona tempo à interação.

Um cliente pode passar vários minutos explicando um problema de cobrança e verificando sua conta com um agente de IA antes que a questão exija um agente humano, mas, se a transcrição, os dados da conta e as ações já realizadas não forem transferidos junto com a chamada, o cliente terá que repetir todo o processo. 

Para evitar perder o contexto durante as transferências, garanta que o sistema envie diretamente ao representante humano, junto com a transferência, as informações que o agente de IA já coletou.

3. Muitas etapas de aprovação

Exigir aprovação humana em tarefas rotineiras e de baixo risco pode atrasar o trabalho que o agente de IA está preparado para realizar com segurança. Se um funcionário precisar aprovar cada alteração padrão de compromisso, formulário básico de coleta de dados ou consulta rotineira de status, a revisão humana passa a criar trabalho em vez de ajudar a equipe a gerenciar casos de maior risco. 

As equipes podem evitar pontos de controle desnecessários decidindo antecipadamente quais ações realmente exigem revisão humana e deixando as tarefas de menor risco continuarem automaticamente. Por exemplo, alterações rotineiras de compromisso ou solicitações padrão de status podem seguir sem aprovação, enquanto contestações de cobrança ou exceções de política continuam sendo encaminhadas para uma pessoa. 

4. Regras que nunca são atualizadas

Regras de transferência que faziam sentido antes do lançamento podem precisar mudar quando o agente de IA começa a lidar com conversas reais. Transferências repetidas podem revelar onde o fluxo de trabalho original é excessivamente cauteloso, onde o agente de IA não tem informações ou onde um novo tipo de solicitação precisa de uma regra própria. 

Por exemplo, se um agente de IA continua transferindo perguntas rotineiras sobre entrega porque os clientes as formulam de maneiras que o fluxo de trabalho original não previa, a equipe pode atualizar o conhecimento ou a regra de transferência do agente de IA para que essas solicitações continuem automatizadas. 

Tratar as regras de participação humana no processo como flexíveis permite que as equipes automatizem mais trabalho rotineiro com segurança, mantendo a supervisão humana focada em casos extremos reais. 

Comparação entre human in the loop e human on the loop

HITL e human on the loop (HOTL) são dois modelos diferentes de supervisão humana da IA.

O HITL exige que uma pessoa participe antes que determinadas decisões ou ações possam continuar. É mais adequado para trabalhos complexos ou de maior risco, nos quais conformidade, responsabilidade financeira, julgamento clínico ou exceções de política exigem revisão ou aprovação humana antes que o fluxo de trabalho avance.

O HOTL permite que a IA trabalhe sem esperar aprovação humana, mas uma pessoa monitora o sistema e pode intervir quando necessário. É mais adequado para trabalhos de baixo risco que sejam observáveis e reversíveis, como perguntas informativas gerais, atualizações de status de pedidos ou outras interações de baixo risco que não exigem que uma pessoa aprove o resultado. 

Um supervisor pode acompanhar a atividade geral e responder apenas quando algo precisa de atenção. Estas são as principais diferenças entre HITL e HOTL.

Exemplos de IA com participação humana no processo

O HITL pode assumir diferentes formas, dependendo de quais decisões, aprovações ou conversas exigem participação humana. 

Serviços bancários

O Customers Bank está implementando o ElevenAgents para consultas de conta, serviços de cartão, transferências, integração e treinamento de funcionários, com caminhos de transferência para pessoas incorporados a cada agente. Agentes de IA podem lidar com o suporte bancário rotineiro, enquanto banqueiros humanos permanecem disponíveis quando uma conversa exige atenção pessoal ou uma decisão fora da função do agente.

Seguros

A Insurely usa agentes de voz IA para vendas de seguros e atendimento ao cliente, incluindo responder perguntas e ajudar clientes a concluir cotações. Quando um cliente precisa de uma pessoa, o agente de IA transfere a chamada ou agenda um retorno.

Saúde

A mdhub, uma plataforma de saúde comportamental, usa o ElevenAgents⁠ para admissão de pacientes e suporte. Agentes de IA coletam informações de pacientes, verificam seguros, associam pacientes a profissionais e agendam consultas, enquanto profissionais de saúde determinam o tratamento e tomam decisões que exigem julgamento clínico.

Fintech

A Klarna, banco digital global e provedora de pagamentos, usa um agente de voz IA do ElevenAgents como primeira linha de suporte por telefone para clientes nos EUA. O agente de IA atende solicitações informativas e coleta contexto relevante, depois transfere a conversa para um agente humano quando a questão se torna mais complexa ou sensível, ou quando o cliente quer falar com uma pessoa.

Criação

Para conteúdo e trabalho criativo, a ElevenProductions usa uma abordagem HITL para produção assistida por IA com edição humana. A IA realiza tarefas como transcrição e produção de audiolivros gerados por IA, enquanto editores humanos revisam o trabalho, fazem correções e aprovam o resultado final. 

Em outro tipo de colaboração entre humanos e IA, o compositor e cantor Patrick Darling, que perdeu a capacidade de cantar, usou a tecnologia de voz da ElevenLabs para voltar a interpretar a própria música. 

Comece a usar o ElevenAgents

O ElevenAgents oferece às empresas várias formas de definir o que um agente de IA pode lidar e em que pontos as pessoas devem continuar fazendo parte do fluxo de trabalho. Os agentes podem usar o conhecimento da empresa e ferramentas de negócios, seguir fluxos de trabalho definidos e operar dentro de proteções. A transferência humana pode passar uma conversa e seu contexto para uma pessoa ao vivo, enquanto as simulações ajudam as equipes a testar o comportamento antes do lançamento.

Comece a usar o ElevenAgents para criar agentes de IA com limites claros de fluxo de trabalho, transferência humana e controles para testes e supervisão. Fale com vendas para definir o escopo da sua implementação ou cadastre-se para criar um agente e experimentar por conta própria.

Perguntas frequentes sobre human-in-the-loop