用 ElevenLabs 对话式 AI 与 DeepSeek R1 对话

最近大家都在讨论 DeepSeek，但还没人停下来问：如果 DeepSeek 能说话，听起来会是什么样？这正是我们可以利用 ElevenLabs 的对话式 AI 来实现与 DeepSeek R1 对话的地方。

ElevenLabs 对话式 AI 是一个用于部署定制化实时对话语音智能体的平台。它的一大优势是灵活性，可按需接入不同的 LLM。

自定义 LLM 选项可与任何兼容 OpenAI 的 API 提供商配合使用，前提是模型支持工具使用或函数调用。文档中提供了以下平台的指南：GroqCloud、Together AI 和 Cloudflare。下面的演示将使用 Cloudflare。

我们使用的是 DeepSeek-R1-Distill-Qwen-32B 模型，它基于 Qwen2.5，由 DeepSeek-R1 蒸馏而来。在多项基准测试中，它的表现优于 OpenAI-o1-mini，并为稠密模型取得了新的 SOTA 成绩。

使用蒸馏版本，主要是因为原始版本 尚无法稳定配合使用函数调用。事实上，R1 推理模型目前完全不支持函数调用！你可以关注 此问题，了解最新进展。

开始使用 ElevenLabs 对话式 AI

连接自定义 LLM 的过程很简单，首先需要创建一个智能体。本项目将使用数学导师模板。如果你只想听听 DeepSeek 的声音，可以 亲自试用这个智能体演示。

首先前往 ElevenLabs 对话式 AI 应用页面，创建一个名为“DeepSeeker”的新 AI 智能体。选择数学导师模板，因为这是 DeepSeek 的推理能力可以充分发挥的使用场景，然后选择“创建智能体”。

数学模板包含一条系统提示词，确保它用自然语言读出数字和方程式，而不是按 LLM 写出的形式直接朗读。例如，如果 LLM 的回答是“Alpha 乘以 x 的平方等于 4”，我们会要求它写成“ax^2=4”。

推理模型通常会解释其“思维链”，但我们也可以扩展 系统提示词，进一步确保获得优质的数学讲解，例如指定它分步骤说明解题推理过程。你可以保持这一要求较为通用，也可以扩展提示词，加入可供它参考的具体示例。

不过，如果你想真正感受 DeepSeek R1 的个性，也可以创建一个空白模板，要求智能体自我介绍为 DeepSeek AI，并在系统提示词中让它回答不同主题的一系列问题。

通过 Cloudflare Workers AI 设置 DeepSeek R1

接下来，需要获取一个可供智能体使用的 DeepSeek R1 版本端点。本示例将使用 Cloudflare，它在其 Workers AI 平台上提供 DeepSeek-R1-Distill-Qwen-32B 供评估使用。你也可以考虑其他托管方案，例如 fireworks.ai、GroqCloud 和 together.ai

首先，前往 dash.cloudflare.com，创建账户或登录。在导航栏中选择 AI > Workers AI，然后点击“Use REST API”组件。

要获取 API 密钥，请点击“Create a Workers AI API Token”，并妥善保存。

拿到 API 密钥后，可以立即通过 curl 请求测试。Cloudflare 提供兼容 OpenAI 的 API 端点，使用起来非常方便。此时请记下模型和完整端点，包括账户 ID。

例如：https://api.cloudflare.com/client/v4/accounts/{ACCOUNT_ID}c/ai/v1/

curl https://api.cloudflare.com/client/v4/accounts/{ACCOUNT_ID}/ai/v1/chat/completions \
  -X POST \
  -H "Authorization: Bearer {API_TOKEN}" \
  -d '{
     "model": "@cf/deepseek-ai/deepseek-r1-distill-qwen-32b",
     "messages": [
       {"role": "system", "content": "You are a helpful assistant."},
       {"role": "user", "content": "How many Rs in the word Strawberry?"}
     ],
     "stream": false
   }'

在 ElevenLabs 中配置自定义 LLM

下一步是在 ElevenLabs 中将这些信息添加到智能体。首先，在 ElevenLabs 应用中打开 DeepSeeker AI 智能体，然后在页面最底部，将刚创建的 API 密钥添加为密钥。将其命名为 CLOUDFLARE_AUTH_TOKEN 等名称，然后保存更改。

接下来，在 LLM 下选择“自定义 LLM”选项，并填写 Cloudflare Workers AI 兼容 OpenAI 的 API 端点：https://api.cloudflare.com/client/v4/accounts/{ACCOUNT_ID}/ai/v1

请务必将 URL 中的“{ACCOUNT_ID}”替换为 Cloudflare 中显示的账户 ID。

添加模型 ID：@cf/deepseek-ai/deepseek-r1-distill-qwen-32b

最后，选择刚创建的密钥。

测试

很好，现在所有设置已完成。点击“Test AI agent”，然后 测试以下数学题：

“两列火车分别以 65 mph 和 85 mph 的速度向东和向西行驶，并彼此驶过。它们相距 330 英里需要多长时间？”

注意：如果尚未设置付款方式，Cloudflare Workers AI API 会受到限流，响应时间可能更长。投入生产前，请务必设置计费账户。其他托管平台可能不存在这个问题。

结语

借助 ElevenLabs 对话式 AI 平台构建实时对话 AI 智能体，可通过任何兼容 OpenAI 的 API 提供商接入自定义 LLM，从而快速适配新发布的模型。

只要想使用的模型兼容 OpenAI 并支持函数调用，就能将其集成到实时 语音智能体中。这也包括你在自定义数据集上微调的模型。还可以使用 ElevenLabs 声音库中的任意音色；如果你已 克隆自己的声音，也可以使用自己的音色。