SambaNova Cloud

将智能体连接到 SambaNova Cloud 上的自定义 LLM。

概述

SambaNova Cloud 是提供最佳开源模型的最快服务商，包括 DeepSeek R1、DeepSeek V3、Llama 4 Maverick 等。通过兼容 OpenAI 的 API 端点，只需几分钟即可在 ElevenLabs 上设置 ElevenLabs 智能体。

观看此视频，了解如何配置 ElevenLabs Agents 智能体以使用 SambaNova 极速 LLM 的演示和操作指南！

选择模型

要充分发挥 ElevenLabs Agents 的功能，需要使用支持工具调用和结构化输出的模型。SambaNova 推荐以下模型，以获得出色的准确性和性能：

DeepSeek-V3-0324（671B 模型）
Meta-Llama-3.3-70B-Instruct
Llama-4-Maverick-17B-128E-Instruct
Qwen3-32B

有关特定模型上下文窗口的最新信息，请参阅此页面。

请注意，Meta-Llama-3.3-70B-Instruct 是 SambaNova 经受实战验证最充分的模型。如果任何模型出现问题，可在 SambaNova 的社区页面中报告。

使用 SambaNova LLM 配置 ElevenLabs 智能体

前往 cloud.sambanova.ai/apis，创建新的 API 密钥。

获取 API 密钥后，可运行以下 curl 命令进行测试：

curl -H "Authorization: Bearer <your-api-key>" \
 -H "Content-Type: application/json" \
 -d '{
"stream": true,
"model": "DeepSeek-V3-0324",
"messages": [
	{
		"role": "system",
		"content": "You are a helpful assistant"
	},
	{
		"role": "user",
		"content": "Hello"
	}
]
}' \
 -X POST https://api.sambanova.ai/v1/chat/completions

创建新的 AI 智能体，或编辑现有智能体。

向下滚动至“工作区密钥”部分，选择“添加密钥”。将密钥命名为 SAMBANOVA_API_KEY，然后从 SambaNova Cloud 控制台复制值。请务必点击“保存”，使智能体可以使用该密钥。

从下拉菜单中选择“自定义 LLM”。

在服务器 URL 中指定 SambaNova 兼容 OpenAI 的 API 端点：https://api.sambanova.ai/v1。在模型 ID 中指定上述任一模型名称（例如 Meta-Llama-3.3-70B-Instruct），并从下拉菜单中选择 SAMBANOVA_API_KEY API 密钥。

将最大 token 数设为 1024，以限制智能体输出长度。还需在系统提示词中添加指令，要求模型回答不超过 500 个词。

保存更改，然后点击“测试 AI 智能体”，即可与由 SambaNova 驱动的智能体聊天！