有选择地专精:如何构建能在生产环境中稳定运行的智能体
- 发布时间
打造一个演示级智能体从未如此之快。接入一个能力强大的模型,配上几项工具,一个下午内就能做出可预约会议、起草回复或按需调取报告的智能体。问题会在之后出现。无论是客户体验副总裁、运营负责人还是平台负责人——任何负责让该智能体在企业规模下运作的人,都会遇到瓶颈。演示中表现良好的系统,一旦面对真实的业务量和风险,就会变得缓慢且难以预测。出问题的很少是底层平台,而是上层架构。
瓶颈:一个智能体包办一切
第一个智能体成功后,自然会想继续给它加码:更多工具、更多上下文、更广的职责范围。既然它能做好一项工作,想必也能做好十项。
这种想法会造成瓶颈。当单个智能体要在广泛范围内负责规划、执行、记忆和反思时,多个环节会同时失效。
它的决策会变慢,也更难引导,因为如今每一步都要在同一个 上下文窗口 和一次推理过程中争夺空间。随着可用工具增多,工具选择的准确率往往下降,可靠性也会变差。系统也会变得脆弱,因为第一步的小误解得不到检查。职责之间没有边界,早期错误就会悄悄污染后续所有环节。
设想一个 语音智能体,用于端到端处理呼入的保险理赔电话。一次通话中,它必须核实来电者身份、调取正确保单、检查保障范围、解读理赔申请、估算可能的赔付金额、记录互动内容,并决定是否升级交由人工处理。在演示中,面对配合的来电者和清晰的线路,它能妥善处理一切。但在生产环境中,嘈杂的移动网络可能导致它在第一步就听错来电者姓名。智能体无法恢复,调取了错误的保单,自信地分析来电者并不具备的保障范围,并为对方从未购买过的方案报出赔付金额。从听到姓名到据此行动之间没有任何环节进行检查,于是一次转写失误变成了对客户当面说出的错误承诺。
在受监管行业中,这不只是糟糕的体验,更是附带责任的合规事件。这也是智能体可投保性正成为生产部署前提条件的原因之一,也是我们将 ElevenAgents 打造成首个可通过 对话式 AI 平台获得 AI 保险资格的平台的原因。保险由 AIUC 提供。
注意真正出问题的地方。这个智能体并不擅长不了对话,而是无法独自承担所有职责,在理解信息和采取行动之间没有检查点。解决办法不是降低目标,也不是让智能体更少说话,而是建立结构。
这里需要说得准确一些。这主要不是模型本身的局限。更强的模型能提高上限,却不能消除结构性问题。这是系统设计问题。
思维模型:部门协作,而非 CEO 决定一切
想想一家公司的成长过程。如果 CEO 亲自决定工程、营销和人力资源的每一项事务,公司就会停滞不前。解决办法不是聘请更聪明的 CEO,而是建立职责清晰的专业团队。
同样的逻辑也适用于 AI 系统。与其使用一个庞大的智能体,不如将系统拆分为职责有限的专业智能体。一个负责检索数据,一个负责编写代码,一个只做事实核查。每个智能体的关注范围更窄,其单次决策成本更低、速度更快,也更值得信任。
这不需要专用基础设施。我们的平台 ElevenAgents 已提供 所需的构建模块:以对话式智能体为核心,用于查询和更新的工具调用、在职责范围变化时实现顺畅交接的智能体转接、确保内容有据可依的知识检索,以及连接各部分的 workflow。要做好这件事,关键在于有意识地使用这些基础能力,而不是把所有职责塞进一个提示词,然后寄希望于它能稳定运行。

这正是 多智能体架构 的吸引力所在,对于适合的工作类型,它的优势确实存在。以呼叫中心为例:假设你要为昨天的 1 万通客服来电进行质量评分。这项工作可以清晰拆分:一个智能体检查客服代表是否遵循合规话术,另一个评估同理心和语气,另一个标记本应升级处理的通话,还有一个提取客户来电原因。这些判断彼此不依赖,都可以基于同一份转写文本并行运行。这正是多智能体擅长的场景:各部分相互独立,工作以读取为主,让每项判断在独立上下文中进行反而更精准。

需要正视的权衡
多智能体并非毫无代价。任何评估这种架构的技术负责人,在决定采用前都会——也应该——严格验证协调成本。最重要的注意事项是:
最常见的失败模式是上下文碎片化。当你将任务分给无法共享完整上下文的多个智能体时,每个智能体都只能基于局部视角行动,导致它们的决策可能相互冲突,而协调器也无法调和。
实时对话中也会出现同样的陷阱。想象一通催收电话被拆分给一个谈判智能体和一个不共享状态的合规智能体。谈判智能体出于帮助客户的目的,提出了 6 个月分期付款方案。合规智能体从未看到这个提议,因此本会拒绝它,因为客户所在地区规定这类方案最长只能为 3 个月。每个智能体在各自负责的部分都做得合理,但合在一起,却向真人实时作出了一项公司无法兑现的承诺。问题不在于模型能力不足,也不在语音层,而在于两个从未交汇的局部视角。
解决办法不是增加更多智能体,而是保持对话完整,并在作出承诺前让智能体将合规规则作为工具进行查询,确保规则与提议在任何内容说出口前相互校验。这是一项设计选择,而功能完善的平台会让它更容易实现。
实际结论是,选择取决于任务。多智能体适合各部分真正独立、可并行且以读取为主的工作,例如研究、检索和验证。它不适合高度耦合、所有内容必须保持一致的工作,例如编写一整段代码。对于实时语音 pipeline 等对延迟敏感的场景,每增加一次智能体跳转,都会在紧张的延迟预算中增加往返时间,因此默认应谨慎采用深层智能体链。这也是我们基础设施发挥作用的地方。ElevenAgents 将语音识别、轮次控制和语音生成部署在同一技术栈中,因此在加入任何编排开销前,基础延迟就已降至最低。
真正推动 ROI 的因素
从智能体获得实际回报的团队,通常不是挑选最聪明的单一模型并期待它承担全部工作的人。他们会有意识地决定哪些地方需要专业化、哪些地方应保持在连续上下文中,以及智能体必须协作时应如何协调。
换言之,答案很少是“一个巨型智能体”,也很少是“把一切都拆开”。答案是选择性专业化。收益来自在恰当位置划定边界,而非智能体数量或某个智能体的能力。工作高度耦合、上下文需要保持连续时,让任务留在单个智能体中;工作可并行、上下文能清晰隔离时,再拆分为专业智能体。
建议
对于即将开展的项目,不要先选架构,而要先梳理工作。
列出系统实际需要的具体能力。标记哪些部分真正独立,哪些部分高度耦合。找出隔离上下文是优势而非风险的地方——例如你希望与主推理链保持分离的一轮事实核查。然后,也只有在这之后,再决定哪些职责应拆分给不同智能体。
以生产环境中的贷款提醒热线为例。实时对话应保留在一个连续的智能体内,因为客户的话语、语气和来回交流高度耦合,且每多一次跳转,来电者都能感受到增加的延迟。在这个对话核心周围,可以接入不会打断流程的受限专业能力:用于获取账户和未偿余额的工具调用、在说出任何付款提议前供智能体查询的合规护栏、在情况需要时顺畅转接人工,以及次日为录音评估质量与风险的一批独立评估智能体。

对话是耦合的,因此保持完整;查询、检查和评分相互独立,因此各自设立边界。这就是选择性专业化,而不是为了拆分而拆分,并且能直接映射到优秀智能体平台已经提供的基础能力。
这样做,就能获得专业化的优势,而不必承担不需要的协调成本:行为可预测、故障范围可控,系统复杂度是你有意选择的,而非在生产环境中才被迫发现。以这种方式使用时,智能体平台不再是随规模扩大而愈发不稳定的演示,而是随着每个部分职责明确而愈发稳定的基础设施。这正是我们打造 ElevenAgents 的目标。



