什么是人在回路中？人类如何改进 AI 工作流程

人在回路中（HITL）是一种用于 AI 模型的工作流程，会依据明确的操作边界，将任务分配给自动化系统和人类专家。在 HITL 系统中，AI 处理可预测、基于规则的任务，而人类专家仍负责复杂决策、合规要求和边缘情况。

对企业而言，HITL 提供了一种实用方式：自动处理日常工作，同时在需要判断时让人员参与。AI 智能体可以查询账户详情、收集理赔信息、发送入职表单或预约，并将不确定或敏感的案例标记出来，交由人员审核、批准、更正或接手。 

除了实时工作流程，HITL 也适用于机器学习开发。人员可以标注训练数据、评估模型输出、纠正错误，或提供有助于提升模型表现的反馈。在这种情况下，人类参与的是模型训练或改进过程，而非实时业务工作流程。 

本文将介绍 AI 系统和工作流程中哪些环节需要人员参与、为何重要，以及有效的 HITL 在实践中是什么样。 

摘要

• 人在回路中的 AI 会根据预先定义的职责，在 AI 和人员之间分配工作流程。
• 团队会在工作流程中加入人工审核、批准、交接和异常处理路径，并在部署后按需优化这些规则。
• HITL 将自动化与必要的人类判断结合，可提升准确性、效率和风险管理能力。

什么是人在回路中？

人在回路中是一种让人员主动参与流程、手动决策或监督 AI 工作流程的系统。它结合自动化任务处理与内置规则：满足定义条件时，工作流程会暂停或转交给人员。

人员参与可以是工作流程的预设环节，也可以是针对 AI 不应独自处理情形的响应。团队会根据政策、风险、客户体验和决策类型，预先定义这些人工触点。 

常见的人工触点包括： 

• 必须审核和批准：人员审核或授权涉及财务、法律、合规或运营责任的决策。
• 受监管环节： 智能体工作流程会在法律、政策或专业标准要求人员参与时，将决策或文档转交给合格员工。
• 敏感或高价值沟通：涉及谈判、安抚、关系管理或审慎判断的对话由人员处理。
• 角色边界和例外：超出 AI 指定角色、涉及异常情况或没有既定答复的请求，会转交给人员。
• 客户要求转接：客户要求与人员交谈时，可转接至真人团队成员。
  
  

工作流程中情况发生变化时，人员也可动态进入回路。即使任务最初遵循标准路径，信息冲突、新的客户疑虑，或原有规则未预见的情况，都可能触发交接。

人员介入不一定意味着自动化流程必须从头开始。团队成员做出决策或解决问题后，AI 会将更新保存至记录，发送下一项所需沟通，并继续完成余下工作流程。

机器学习中的人在回路中是什么意思？

机器学习中的人在回路中沿用与 HITL 相同的原则，但发生在开发阶段。人员不是介入实时工作流程，而是在模型开发过程的定义节点参与。 

研究人员可能会标注训练数据、评估模型回复、纠正错误，或在部署前提供有助于改善模型行为的反馈。当准确性依赖专业知识或判断时，领域专家也可以审核输出。 

将人员融入 AI 工作流程的主要优势

对企业而言，HITL 意味着更少的高成本错误、更一致地处理敏感或受监管案例，并可在不让 AI 不受限制地控制高风险决策的前提下，更快处理日常工作。

以下是使用 HITL 系统的一些主要优势和应用场景。

提高准确性和决策质量

HITL 将 AI 处理结构化任务的一致性，与人类对模型无法独立可靠处理部分的判断结合起来，从而提高准确性和决策质量。AI 可一致地处理结构化任务，收集决策所需信息，并准备常规回复或建议。

Valiant 的非营业时间智能体 Sophia 会处理结构化信息收集，并在适当时将案例转交给人工经纪人。基于 ElevenAgents 构建的 Valiant 智能体识别出超过 $1.5M 的商业贷款意向，Sophia 处理了约 29% 的非营业时间来电。

以下情况中，人工输入可提高决策质量：

• 信息不完整或相互冲突
• 依赖上下文或解读
• 依赖谈判和关系建立
• 依赖专业知识

更好的结果可减少高成本错误和可避免的返工，尤其是在涉及财务、监管或客户影响的情况下。

降低风险并支持合规

HITL 可确保受监管或后果重大的决策在继续前交由合适人员处理，从而帮助组织降低合规风险。 

AI 通过以下方式支持流程合规：

• 发送所需文档。
• 收集信息。
• 检查必填字段是否完整。
• 检索政策或披露文件。
• 记录已完成的步骤。
• 将案例转交给合适人员。

当法规需要解读、例外情况需要解决，或必须做出法律责任明确的决策时，仍由人员负责。

例如，英国保险公司Admiral为客户语音智能体设定了明确的范围边界。Admiral 会将弱势群体和欠款案例转交给人员，并在上线前以高标准验证受监管的 AI 工作流程。

在保留人类专业能力的同时提高效率

AI 可处理重复性行政工作、收集信息、准备记录并推进常规案例，无需人员参与每一步。对企业而言，这意味着更短的周转时间、更少的行政积压，以及让员工有更多能力处理直接影响客户、营收或风险的工作。 

Finch Legal使用 ElevenAgents 后，将通话成功率从 59% 提高到 93%，同时扩展至每月 15k+ 通电话。由智能体处理这些流程后，人工客服的通话时间约为此前部署的六分之一。只有案例需要专业判断时，人员才需介入，从而专注于高价值时刻。

人在回路中系统的挑战与注意事项

即使设计完善，若交接不佳或接手人员缺乏足够上下文来采取行动，人在回路中系统也可能失效。平衡自动化速度与人工监督，关键在于工作流程设计。 

人在回路中系统未按预期运行时，问题通常出在决定人员何时加入流程以及接收哪些信息的规则上。

以下是人在回路中系统面临的一些主要挑战。

1. 模糊的交接触发条件

为 AI 智能体设置“转接困难案例”或“将异常请求交给人工智能体”等主观指令，可能导致不必要的交接，或让 AI 继续处理本应由人员参与的情况。

例如，与其要求AI 客服智能体“转接复杂账单问题”，团队可以设定“当客户对收费提出异议且账户记录不符时转交案例”这样的规则。详细的防护规则能为 AI 智能体提供明确条件，减少不必要的交接，并降低 AI 继续处理需要人员参与案例的风险。 

对于超出 AI 智能体角色范围的请求，例如信息冲突或缺失、客户要求人工智能体，以及其他需要人员参与的情形，团队也可以设定同样具体的交接条件。 

2. 交接时丢失上下文

当 AI 智能体将实时客户互动转交给人工代表时，若未同步会话历史，员工就不得不从头重新询问来电者。这种草率的转接会立刻造成摩擦、让客户感到沮丧，并延长互动时间。

客户可能已花数分钟向 AI 智能体说明账单问题并验证账户，之后才需要人工智能体介入；但如果转录文本、账户详情和已采取的操作没有随通话一并转移，客户就必须重复整个过程。 

为避免交接时丢失上下文，请确保系统在交接时，将 AI 智能体已收集的信息直接传递给人工代表。

3. 批准步骤过多

要求人员对常规低风险任务签字批准，可能拖慢 AI 智能体本可安全处理的工作。如果员工必须批准每次标准预约变更、基础信息收集表或常规状态查询，人工审核就会增加工作量，而非帮助团队管理高风险案例。 

团队可预先确定哪些操作确实需要人工审核，并让低风险任务自动继续，从而避免不必要的检查点。例如，常规预约变更或标准状态请求可无需批准直接处理，而账单争议或政策例外仍转交给人员。 

4. 从不更新的规则

上线前合理的交接规则，在 AI 智能体开始处理真实对话后可能需要调整。反复交接可能表明原工作流程过于谨慎、AI 智能体缺少信息，或某类新请求需要专门规则。 

例如，若 AI 智能体因客户的表述方式超出原工作流程预期，而不断转交常规配送问题，团队可更新 AI 智能体的知识或交接规则，让这些请求继续自动处理。 

将人在回路中的规则视为可调整的规则，可让团队安全地自动处理更多常规工作，同时使人工监督专注于真正的边缘情况。 

对比人在回路中与人在环外监督

HITL 和人在环外监督（HOTL）是两种不同的 AI 人工监督模式。

HITL 要求人员在某些决策或操作继续前参与其中。它最适合高风险或复杂工作，其中合规、财务责任、临床判断或政策例外要求在工作流程推进前由人员审核或批准。

HOTL 让 AI 无需等待人工批准即可工作，但由人员监控系统，并在需要时介入。它最适合可观察、可逆的低风险工作，例如一般信息咨询、订单状态更新或其他不需要人员批准结果的低风险互动。 

主管可以监控整体活动，只在有事项需要关注时作出响应。以下是 HITL 与 HOTL 的主要区别。

人在回路中 AI 示例

HITL 可采取不同形式，具体取决于哪些决策、批准或对话需要人员参与。 

银行业

Customers Bank 正在部署 ElevenAgents，用于账户查询、卡服务、转账、入职流程和员工辅导，并在每个智能体中内置人工交接路径。AI 智能体可处理常规银行支持，而当对话需要个性化关注或涉及超出智能体角色的决策时，人工银行专员仍可提供帮助。

保险业

Insurely使用 AI 语音智能体开展保险销售和客户服务，包括答疑和协助客户完成报价。客户需要人员帮助时，AI 智能体会转接通话或安排回电。

医疗保健

行为健康平台 mdhub使用 ElevenAgents 处理患者入院和支持服务。AI 智能体收集患者信息、验证保险、匹配患者与服务提供者并安排预约，而医疗专业人员决定治疗方案并做出需要临床判断的决策。

金融科技

全球数字银行和支付服务提供商 Klarna 使用 ElevenAgents 语音 AI 智能体，作为美国客户电话支持的第一道服务。AI 智能体处理信息请求并收集相关上下文；当问题变得更复杂或敏感，或客户希望与人员交谈时，会将对话转交给人工智能体。

创意领域

在内容和创意工作中，ElevenProductions采用 HITL 方式，实现AI 辅助制作与人工编辑。AI 负责转录和 AI 生成有声书制作等工作，人工编辑则审核内容、进行更正并批准最终结果。 

在另一种人机协作中，失去歌唱能力的作曲家兼歌手 Patrick Darling 使用 ElevenLabs 语音技术再次演唱自己的音乐。 

开始使用 ElevenAgents

ElevenAgents 为企业提供多种方式，定义 AI 智能体可处理的事务，以及人员应继续参与工作流程的环节。智能体可使用公司知识和业务工具，遵循定义的工作流程，并在防护规则内运行。人工交接可将对话及其上下文转给真人，模拟功能则帮助团队在上线前测试行为。

开始使用 ElevenAgents，构建具有清晰工作流程边界、人工交接以及测试和监督控制的 AI 智能体。联系销售以规划实施方案，或注册创建智能体并亲自试用。

人在回路中常见问题