跳至内容

企业级可用的对话式 AI:Scale AI 工程负责人 Felix Su 专访

发布时间

收听收听本文

成功的 企业 AI不只是采用最新技术,更在于基于 AI 基础能力构建合适的架构和控制机制。现成的 LLM 功能强大,却不了解如何遵循业务逻辑、品牌指南和安全原则。只有通过精心设计和测试由提示词、LLM、护栏、工具及其他构件组成的系统,引导生成式 AI 按企业规则行事,才能打造这种定制体验。

分层的力量:为什么架构至关重要

构建 对话式语音 AI时,开发者既可以使用多模态、语音到语音模型,也可以组合 ASR(转录)、LLM 和 TTS 等组件。对于有特定应用场景的企业而言,后者通常更实用。

Scale GenAI Platform 工程负责人 Felix Su 解释道:“在企业环境中,AI 往往不能只靠 LLM 来实现。复杂系统需要经过设计,以遵循业务逻辑、维护品牌形象,并在严格的护栏内运行。这些行为都需为每家企业定制,因此在 LLM 之上实现这些系统,比单纯依赖其潜在行为更实际。尽管多模态能力最近已被直接集成到模型中,但这些模型在关键生产场景中的应用速度仍低于预期。这是因为其生成过程与相应模态的输入和输出之间缺乏控制。以 TIME AI 为例,使用 STT 和 TTS 后,我们既能控制基于文本的 LLM 输入,也能通过自定义护栏保护系统输出。与直接使用多模态 LLM 相比,这种技术通常更实用。”

构建 TIME AI 体验时,Scale 将 TIME 的文章语料编入知识库,以便按需检索;将业务逻辑编码为一系列系统提示词;并保护 GenAI 输出,避免幻觉以及违反安全和品牌指南的情况。在此系统之上,他们借助 ElevenLabs 对话式 AI 编排平台中的声音,让体验真正鲜活起来。 

TIME 年度人物体验:声音带来的不同

最近推出的 TIME AI,让读者能够围绕 TIME 的新闻报道展开自然对话,其中包括其标志性的年度人物报道。让这一实现从无数其他聊天机器人中脱颖而出的,不只是知识,更是声音。

Su 表示:“声音确实让它更有冲击力。没有声音,它就会淹没在众多聊天机器人中。我们希望这个智能体像一位实时陪读伙伴,随时可以跳出既定脚本,深入交流。”这一实现结合了 Scale AI 在 AI 开发方面的专业能力和 ElevenLabs 的对话式 AI 平台,在严格控制内容和品牌声音的同时,打造出极具人性化的体验。

构建适用于企业的系统

对于希望大规模部署对话式 AI 的企业,与 Scale AI 和 ElevenLabs 合作是一条经过验证的路径。Scale AI 擅长构建具备强大护栏、可控且安全的多模态 AI 系统;ElevenLabs 则提供一流的语音技术,可无缝集成到这些系统中。

虽然 TIME 的实现专注于新闻报道,但同一架构可应用于各种企业场景,尤其是客户服务与支持。客户对基础聊天机器人日益厌倦,期待更具吸引力、更接近真人的互动。 

感谢 Felix 为本文作出贡献。你可以在 LinkedInX 上找到 Felix Su,也可以在 TIME 的 对话式 AI 语音体验中,体验他与 TIME 共同打造的 2024 年度人物,以及 2021 年2022 年2023 年年度人物体验。

开发者可通过 我们的文档 开始使用对话式 AI。希望在生产环境中部署可靠对话式 语音智能体解决方案的企业,可联系 ElevenLabsScale 的企业版解决方案团队。

相关内容

用高质量 AI 音频创作