让智能体通过 Together AI 使用自定义 LLM
- 无缝集成 ElevenLabs 对话式 AI 平台与 Together AI 优化的 LLM 云，带来高性能定制对话体验
- 只需简单设置，无需编码，即可将微调、领域专属的语言模型应用于语音交互
- 在控制模型选择、性能和成本的同时，轻松扩展智能体部署
- 适合开发者主导的平台，构建可扩展对话的实时智能体，无需增加人力
- 实现企业级可靠性，响应时间低于 1 秒，始终保持低延迟
功能
集成功能
为语音智能体解锁先进 LLM 能力，兼具企业级性能与可控性
- 高性能推理
- 通过研究驱动的优化，实现亚秒级模型处理
- 自定义内核、量化和预测解码，效率最大化
- 高峰期也能保持低延迟响应
- 模型灵活选择
- 访问丰富模型库，涵盖前沿模型选项
- 可部署轻量模型提升速度，或使用大型模型应对复杂对话
- 无需改代码即可切换模型，几分钟内完成测试和部署
- 自定义模型部署
- 可接入自有微调模型，支持专有数据训练
- 部署能理解企业语言和领域知识的模型
- 在利用企业级基础设施的同时，完全掌控知识产权
- 开发者优先集成
- 标准 OpenAI 兼容 API，避免厂商锁定
- 可直接与现有 ElevenLabs 智能体无缝对接
- 提供完整 API 文档和企业级支持
- 企业安全与合规
- SOC 2、HIPAA 合规基础设施，支持 GDPR
- 数据传输全程加密，支持零留存模式
- 企业级 SLA，专属支持通道
安装
安装指南
专为开发团队设计的简单设置指南 - 无需编码，30 分钟内即可上线
第 1 步：Together AI 设置
获取 API Key：进入 Together AI 设置 → API Keys，创建新密钥
选择模型：可从目录选择，或使用自定义微调模型
记录模型 ID：复制准确标识符（如 "meta-llama/Meta-Llama-3.1-70B-Instruct-Turbo"）
第 2 步：ElevenLabs 设置
在智能体设置中，将 Together AI 密钥添加为 “Custom LLM” 密钥
第 3 步 配置自定义 LLM:
在 LLM 下拉菜单选择 Custom LLM，并填写以下信息：
服务器 URL：https://api.together.xyz/v1
模型 ID：所选模型标识符
凭证：在下拉菜单选择 API key
保存信息后，使用 “测试 AI 智能体” 验证集成效果
故障排查
故障排查与支持
常见配置问题、解决方案及企业支持资源，助力顺利部署