什么是人在回路中？人类如何改进 AI 工作流程

人在回路中（HITL）是一种用于 AI 模型的工作流程，根据明确的操作边界，在自动化系统与人工专家之间分配任务。在 HITL 系统中，AI 处理可预测、基于规则的任务，而人工专家仍负责复杂决策、合规要求和边缘情况。

对于企业来说，HITL 提供了一种实用途径：在自动化日常工作的同时，在需要人工判断时让人员参与其中。一名 AI 智能体 可以查询账户详情、收集理赔信息、发送入职表单或预约，然后将不确定或敏感的案例标记出来，交由人工审核、批准、更正或接手。

除实时工作流程外，HITL 也适用于机器学习开发。人员可以标注训练数据、评估模型输出、更正错误，或提供有助于改进模型表现的反馈。在这种情况下，人工是模型训练或改进过程的一部分，而非实时业务工作流程的一部分。

本文将介绍 AI 系统和工作流程中哪些环节需要人工参与、其重要性，以及有效的 HITL 在实践中是什么样的。

摘要

• 人在回路中的 AI 根据预先定义的职责，在 AI 与人员之间分配工作流程。
• 团队将人工审核、批准、交接和异常处理路径纳入工作流程，并在上线后按需优化这些规则。
• HITL 将自动化与所需环节的人工判断相结合，可提高准确性、效率和风险管理能力。

什么是人在回路中？

人在回路中是指人工主动参与流程，手动做出决策或监督 AI 工作流程的系统。它结合自动化任务处理与内置规则：满足特定条件时，工作流程会暂停或移交给人工。

人工参与可以是工作流程的预定环节，也可以是针对 AI 不应自行处理情况的响应。团队会根据政策、风险、客户体验和决策类型，预先定义这些人工介入点。

常见的人工介入点包括：

• 必须审核和批准：人工审核或授权承担财务、法律、合规或运营责任的决策。
• 受监管的步骤：智能体工作流程会在法律、政策或专业标准要求人工参与时，将决策或文档转交给合格员工。
• 敏感或高价值沟通：涉及谈判、安抚、关系管理或审慎判断的对话由人工处理。
• 角色边界和例外：超出 AI 指定角色、涉及特殊情况或没有既定回复的请求，会移交给人工。
• 客户要求转人工：客户要求与人工沟通时，可转接给在线团队成员。
  
  

工作流程中情况发生变化时，人工也可以动态进入回路。即使任务起初遵循标准路径，冲突信息、新的客户顾虑，或原始规则未预见的情况，都可能触发交接。

人工介入并不意味着自动化流程必须从头开始。团队成员做出决策或解决问题后，AI 会将更新保存至记录，发送下一条所需沟通内容，并继续执行其余工作流程。

机器学习中的人在回路中是什么意思？

人在回路中的机器学习采用与 HITL 相同的原则，但发生在开发阶段。人员并非介入实时工作流程，而是在模型开发过程的特定环节参与。

研究人员可以标注训练数据、评估模型回复、更正错误，或在部署前提供有助于改进模型行为的反馈。当准确性取决于专业知识或判断时，领域专家也可以审核输出。

将人工融入 AI 工作流程的主要优势

对于企业来说，HITL 可以减少高成本错误，更一致地处理敏感或受监管的案例，并加快日常工作处理速度，同时避免让 AI 对高风险决策拥有不受约束的控制权。

以下是使用 HITL 系统的一些主要优势和应用场景。

提高准确性和决策质量

HITL 将 AI 在结构化任务上的一致性与人工对模型无法可靠独立处理环节的判断相结合，从而提高准确性和决策质量。AI 可以一致地处理结构化任务，收集决策所需信息，并准备常规回复或建议。

Valiant 的非工作时间智能体 Sophia 负责结构化信息收集，并在适当时将案例移交给人工经纪人。基于 ElevenAgents 构建的 Valiant 智能体识别出超过 $1.5M 的商业贷款意向，其中 Sophia 处理了约 29% 的非工作时间来电。

在以下情况下，人工输入可提高决策质量：

• 信息不完整或相互冲突
• 依赖背景或解读
• 依赖谈判和关系建设
• 依赖专业知识

更好的结果可以减少高成本错误和可避免的返工，尤其是在涉及财务、监管或客户影响的情况下。

降低风险并支持合规

HITL 可确保受监管或后果严重的决策在推进前交由合适人员处理，帮助组织降低合规风险。

AI 通过以下方式支持流程合规：

• 发送所需文档。
• 收集信息。
• 检查必填字段是否完整。
• 检索政策或披露信息。
• 记录已完成步骤。
• 将案例路由给合适人员。

当法规要求解读、需要解决例外情况，或必须做出具有法律责任的决策时，仍由人员负责。

例如，英国保险公司 Admiral 为其客户语音智能体设定了明确的范围边界。Admiral 将脆弱客户和欠款案例转交人工，并在上线前按照高标准验证受监管的 AI 工作流程。

在保留人工专业能力的同时提高效率

AI 可以处理重复性行政工作、收集信息、准备记录并推进常规案例，无需人工参与每个步骤。对于企业而言，这意味着更短的周转时间、更少的行政积压，以及让员工有更多能力处理直接影响客户、收入或风险的工作。

Finch Legal 使用 ElevenAgents 将通话成功率从 59% 提升至 93%，同时扩展至每月 15k+ 通电话。部署智能体处理这些流程后，人工坐席的通话时间约为此前部署的六分之一。只有在案例需要其专业能力时，人工才需介入，从而专注于高价值时刻。

人在回路中系统的挑战和注意事项

即使设计完善，若交接不佳或接手人员缺乏足够背景信息来采取行动，人在回路中系统也可能失效。如何平衡自动化速度与人工监督，关键在于工作流程设计。

当人在回路中系统未按预期运行时，问题通常出在决定人员何时进入流程以及接收哪些信息的规则上。

以下是人在回路中系统的一些主要挑战。

1. 模糊的交接触发条件

向 AI 智能体下达“转接困难案例”或“将异常请求发送给人工坐席”等主观指令，可能导致不必要的交接，或让 AI 继续处理本应由人工参与的情况。

例如，与其要求 AI 客服智能体“转接复杂的账单问题”，团队不如设置一条规则，例如“当客户对收费提出争议且账户记录不符时，移交该案例”。详细的防护措施为 AI 智能体提供具体的遵循条件，可减少不必要的交接，并降低 AI 继续处理需要人工参与案例的风险。

团队还可为超出 AI 智能体角色范围的请求设置同样具体的交接条件，例如信息冲突或缺失、客户要求人工坐席，以及其他需要人工参与的情况。

2. 交接时丢失上下文

当 AI 智能体将实时客户互动移交给人工代表，却未同步会话历史时，员工只能从头重新询问来电者。这种草率的转接会立即造成摩擦、令客户沮丧，并延长互动时间。

客户可能已花费数分钟向 AI 智能体说明账单问题并验证账户，之后才需要人工坐席；但如果转录文本、账户详情和已采取的操作没有随通话一同转移，客户就必须重复整个流程。

为避免交接时丢失上下文，请确保系统将 AI 智能体已收集的信息连同交接直接传递给人工代表。

3. 批准步骤过多

要求人工签核常规、低风险任务，可能拖慢 AI 智能体本可安全处理的工作。如果员工必须批准每次标准预约变更、基本信息登记表或常规状态查询，人工审核就会增加工作量，而不是帮助团队管理高风险案例。

团队可以预先决定哪些操作确实需要人工审核，让低风险任务自动继续，以避免不必要的检查点。例如，常规预约变更或标准状态请求可无需批准直接处理，而账单争议或政策例外仍转交人工。

4. 从不更新的规则

上线前合理的交接规则，在 AI 智能体开始处理真实对话后可能需要调整。反复交接可能暴露原始工作流程在哪些方面过于谨慎、AI 智能体缺少哪些信息，或哪类新请求需要专属规则。

例如，如果某个AI 智能体 因客户采用原始工作流程未预料的表达方式，而持续转接常规配送问题，团队可以更新 AI 智能体的知识或交接规则，让这些请求继续由自动化处理。

将人在回路中的规则视为动态可调整的内容，可让团队安全地自动化更多常规工作，同时使人工监督聚焦于真正的边缘情况。

对比人在回路中与人在回路上

HITL 和人在回路上（HOTL）是两种不同的 AI 人工监督模式。

HITL 要求人工参与后，某些决策或操作才能继续。它最适合高风险或复杂工作，即合规、财务责任、临床判断或政策例外要求在工作流程推进前进行人工审核或批准的场景。

HOTL 允许 AI 无需等待人工批准即可工作，但人员会监控系统，并可在需要时介入。它最适合可观察、可逆的低风险工作，例如一般信息咨询、订单状态更新，或其他无需人工批准结果的低风险互动。

主管可以监控整体活动，仅在需要关注时作出响应。以下是 HITL 与 HOTL 的主要区别。

人在回路中的 AI 示例

HITL 可采用不同形式，具体取决于哪些决策、批准或对话需要人工参与。

银行业

Customers Bank 正在部署 ElevenAgents，用于账户咨询、卡服务、转账、入职和员工辅导，每个智能体都内置人工交接路径。AI 智能体可处理常规银行支持；当对话需要个人关注或决策超出智能体角色范围时，人工银行家仍可提供服务。

保险业

Insurely使用 AI 语音智能体开展保险销售和客户服务，包括解答问题及协助客户完成报价。当客户需要人工服务时，AI 智能体会转接通话或安排回电。

医疗保健

行为健康平台 mdhub使用 ElevenAgents 处理患者入院登记和支持服务。AI 智能体收集患者信息、核实保险、为患者匹配服务提供者并安排预约，而医疗专业人员则决定治疗方案并做出需要临床判断的决策。

金融科技

全球数字银行和支付服务提供商 Klarna 将 ElevenAgents 语音 AI 智能体作为美国客户电话支持的第一线。AI 智能体处理信息类请求并收集相关背景信息；当问题变得更复杂或敏感，或客户希望与人工沟通时，再将对话移交给人工坐席。

创意领域

对于内容和创意工作，ElevenProductions采用 HITL 方法，实现AI 辅助制作与人工编辑。AI 负责转录、AI 生成有声书制作等工作，而人工编辑会审核内容、更正错误并批准最终结果。

在另一种人机协作中，失去歌唱能力的作曲家兼歌手 Patrick Darling 使用 ElevenLabs 语音技术再次演唱自己的音乐。

开始使用 ElevenAgents

ElevenAgents 为企业提供多种方式来定义 AI 智能体可处理的内容，以及人员应在哪些环节继续参与工作流程。智能体可使用公司知识和业务工具、遵循定义好的工作流程，并在防护措施内运行。人工交接可将对话及其上下文转给在线人员，模拟功能则帮助团队在上线前测试行为。

开始使用 ElevenAgents，构建具有清晰工作流程边界、人工交接以及测试和监督控制机制的 AI 智能体。联系销售以规划实施方案，或注册以创建智能体并亲自试用。

人在回路中常见问题