什么是 AI 编排？大规模协调 AI 模型

对于复杂流程，AI 工具往往无法端到端完成工作。一个模型可能擅长语音转文本，另一个则负责支付处理。这意味着需要在这些系统之间加入一层，用于编排步骤、传递上下文并决定下一步操作。

AI 编排正是这一层，可协调多个模型、智能体和工具，使其作为一个系统协同工作。与其尝试让单个AI 智能体处理多项任务，不如通过 AI 编排使用多个各司其职的智能体。这样不仅能提升效率，也让系统出现问题时更易于升级和排查。

本文将介绍 AI 编排的定义、工作原理和现有应用场景，帮助你将其用于自己的工作流程。

摘要

• AI 编排将模型、智能体和工具协调到统一且受治理的工作流程中，编排步骤、共享上下文，并决定何时需要人工审核。
• 当任务涉及身份验证、数据查询和政策决策等多个步骤时，AI 编排就必不可少，因为需要有机制管理它们之间的交接。
• 强大的编排平台支持多个 LLM，在整个工作流程中保持上下文，并根据各步骤所需的确定性结合基于规则和模型驱动的路由。
• 从金融服务、医疗到零售，各行业都依靠编排将现有系统（CRM、EHR、支付工具）连接为一次连续的客户交互。

什么是 AI 编排，为什么重要？

AI 编排可协调语言模型、专业智能体、检索系统和第三方工具等多个 AI 组件，使其作为统一且受治理的工作流程运行。

单个模型回答一个问题时，可以独立良好运行。但当流程包含跨越不同系统的多个步骤时，就需要编排。例如，如果AI 客服智能体正在帮助客户提交支持工单，它需要：

• 验证身份：确认客户身份并调取账户信息。
• 查询知识库：通过RAG确认该问题是否属于已知问题。
• 应用政策：判断该问题是否符合退款或更换条件。
• 记录并确认：在 CRM 中记录工单，并向客户确认后续步骤。

每项任务都可能需要一系列不同的模型、智能体或工具，必须有机制让它们保持同步、协同工作。

随着企业采用更多AI 智能体并希望它们协同工作，投资 AI 编排正变得愈发重要。Gartner 发现，过去两年企业对企业咨询量大幅增长，涉及多智能体系统；并预测到 2026 年，40% 的企业应用将配备任务专用 AI 智能体，而 2025 年这一比例还不足 5%。

但挑战不只是采用 AI。MIT 的 NANDA 项目发现，95% 的企业生成式 AI 试点项目没有带来可衡量的回报，尽管模型本身运行良好。其周边系统缺乏可大规模可靠运行所需的架构、治理和集成深度。

编排正是成功的 5% 所具备的关键一环。

AI 编排如何自动化复杂工作流程

处理依赖不同智能体的多步骤流程时，编排能连接分散的系统，生成连贯而复杂的响应。

AI 编排包含 4 个主要层面：

1. 任务拆分与路由：将请求拆分为多个步骤，并将每一步发送给合适的模型、智能体或工具。
2. 上下文与状态管理：将对话记录、检索到的文档和变量传递给后续步骤，确保它们拥有所需信息。
3. 工具与 API 执行：调用 CRM、支付处理系统等外部系统，并将结果反馈至工作流程。
4. 转换逻辑：通过固定规则或模型判断，决定何时进入下一步。

AI 编排平台在转换逻辑上通常有所不同。确定性转换提供明确保证。例如，支付失败时，工作流程始终路由到相同的回退步骤。另一方面，经模型评估的转换更适合处理自由形式的输入，但需要防护措施，避免误读信号而将用户引向错误路径。

大多数生产系统会同时使用两者：在准确性至关重要时依靠固定规则，在无法预先确定输入时依靠模型判断。ElevenAgents 工作流程也是如此：子智能体之间的每次转换都可设为确定性转换，或交由模型评估。

借助 ElevenAgents 的编排引擎，独立智能体可通过系统提示词、知识库和一组工具处理单一用途的交互。工作流程则增加了由专业子智能体构成的有向图，各自承担验证、计费和升级处理等既定任务。

每个子智能体仅获取有限的上下文，避免信息泄露到不相关的角色。它们之间的转换可基于规则或由模型评估，取决于该步骤需要多高的确定性。

集成 AI 编排的主要优势

编排的价值不只体现在单次交互，更体现在它长期为团队带来的能力。部署编排后，运营、工程和支持团队可获得：

• 可扩展性：新用例可接入现有工作流程，无需每次都采用新的单点解决方案。
• 一致性：无论由哪个模型或智能体处理，同一任务都以相同方式运行。
• 治理：每次交接、工具调用和决策都会被记录，可供审计。
• 更快实现价值：团队可将现有智能体和工具组合为新工作流程，而非从头重建集成。
• 减少工具蔓延：一个协调系统可取代零散的 AI 工具和它们之间的人工交接。

通过让每个工具保持专业化，编排可降低整个系统的脆弱性，从而扩展到新用例，并提供客户真正认可的体验。

各行业的 AI 编排应用场景

AI 编排在各行业的运行方式相同：将身份验证、数据查询和政策规则编排为一次连续交互。不同之处在于连接哪些系统，例如客户支持中的 CRM，或医疗领域的 EHR。以下是几个行业的应用示例：

客户支持

Freedom Forever是美国最大的住宅太阳能安装商之一，使用 ElevenAgents 将每位来电者路由至专业的销售或支持智能体，处理常见问题和账户更新，并在需要时向人工客服转接完整的通话记录上下文。该部署将支持效率提高了 90%。

金融服务

Better.com 的由 ElevenAgents 驱动的贷款智能体 Betsy 可验证借款人身份、查询账户和贷款状态，并在符合抵押贷款行业合规要求的前提下引导后续步骤。Betsy 目前可自动处理 35.5% 的借款人咨询，降低贷款发起成本，并将贷款转化率翻倍。

医疗

EliseAI 的由 ElevenAgents 驱动的语音智能体可为全国医疗服务机构安排预约、解答账单问题，并将临床问题转交给工作人员。系统在保持 AI 披露的同时提供自然的交互，帮助医疗服务机构高效应对大量来电。

销售与潜在客户资格筛选

ElevenLabs使用自有AI SDR筛选销售联系表单带来的潜在客户，在直接于销售代表日历中预约会议前，询问使用场景、预期用量和时间规划。该智能体无需人工参与通话即可筛选 78% 的潜在客户，客户平均满意度为 10 分制 8.7 分。

零售与电商

Meesho是印度最大的电商平台之一，打造了一款可用印地语和英语处理订单延迟、取消和退款的语音智能体。该智能体如今每天无需人工干预即可处理超过 60,000 通电话。

选择 AI 编排平台时应关注的核心功能

不同编排平台实际可处理的复杂程度差异很大。

选择前，请确认具备以下功能：

• 多 LLM 支持：不会被锁定在单一供应商，可随价格或性能变化更换模型。
• 状态与上下文处理：平台可跨越每个步骤追踪对话记录和变量，避免工作流程忘记 3 步之前发生的事情。
• 灵活路由：同时支持基于规则和模型评估的逻辑，因此可为每一步选择合适的控制级别，而不必让所有决策采用同一种方式。
• 防护措施与审计日志：这些作为独立于模型自身推理的系统检查运行，能自动拦截不当响应，而非仅依靠提示词加以限制。
• 人在回路中控制：高风险操作可设为需审批，或在保留完整上下文的情况下转交真人，从而在支付、退款或账户变更出错前及时发现问题。
• 集成覆盖范围：平台可连接工作流程需要触及的系统，包括 CRM、支付、排程、电话和内部数据库。

另一个重要考量是，让编排型 AI 智能体上线有多难。使用 ElevenLabs，大多数团队可通过无代码 Web 平台在 1 小时内配置并部署低复杂度智能体。对于更复杂的工作流程，驻场部署工程师可直接与团队共同规划和构建。

使用 ElevenAgents 开始简化 AI 编排

从头构建编排工作流程，意味着在处理实际用例前就要先解决状态管理、工具集成和转换逻辑。ElevenAgents 的可视化工作流程构建器可让团队在无代码环境中设计多步骤、多智能体对话。确定性工作流程会将高风险操作置于审批之后，防护措施独立于模型自身推理运行，每次对话都会记录以供审计。

注册 ElevenAgents，开始构建专为工作流程设计的自定义智能体；或者联系团队，了解我们如何帮助团队部署 AI 智能体。

AI 编排常见问题