Cloudflare Workers AI

将智能体连接到 Cloudflare Workers AI 上的自定义 LLM。

概述

Cloudflare 的 Workers AI 平台让你可在 Cloudflare 的全球网络上运行由无服务器 GPU 驱动的机器学习模型,即使是免费套餐也可以!

Workers AI 提供精选的热门开源模型,可用于图像分类、文本生成、对象检测等任务。

选择模型

要充分发挥 ElevenLabs Agents 的功能,需要使用支持函数调用的模型。

浏览模型目录时,请查找标有函数调用属性的模型。

试用 DeepSeek R1

Cloudflare Workers AI 提供 DeepSeek-R1-Distill-Qwen-32B 的访问权限。 该模型基于 Qwen2.5,由 DeepSeek-R1 蒸馏而来。在多项基准测试中,它的表现优于 OpenAI-o1-mini, 为稠密模型带来新的先进结果。

在 Cloudflare Workers AI 上设置 DeepSeek R1

1

前往 dash.cloudflare.com,创建账户或登录。在导航栏中选择 AI > Workers AI,然后点击 “Use REST API” 卡片。

添加密钥

2

获取 API 密钥后,可立即通过 curl 请求测试。Cloudflare 提供与 OpenAI 兼容的 API 端点,使用起来非常方便。此时请记下模型和完整端点,包括账户 ID。例如:https://api.cloudflare.com/client/v4/accounts/{ACCOUNT_ID}c/ai/v1/。

curl https://api.cloudflare.com/client/v4/accounts/{ACCOUNT_ID}/ai/v1/chat/completions \
-X POST \
-H "Authorization: Bearer {API_TOKEN}" \
-d '{
"model": "@cf/deepseek-ai/deepseek-r1-distill-qwen-32b",
"messages": [
{"role": "system", "content": "You are a helpful assistant."},
{"role": "user", "content": "How many Rs in the word Strawberry?"}
],
"stream": false
}'
3

前往 AI Agent,向下滚动至 “Secrets” 部分并选择 “Add Secret”。添加密钥后,务必点击 “Save”,让智能体可以使用该密钥。

添加密钥

4

从下拉菜单中选择 “Custom LLM”。

选择自定义 LLM

5

在 Server URL 中指定 Cloudflare 与 OpenAI 兼容的 API 端点:https://api.cloudflare.com/client/v4/accounts/{ACCOUNT_ID}/ai/v1/。在 Model ID 中指定上文所述的 @cf/deepseek-ai/deepseek-r1-distill-qwen-32b,然后从下拉菜单选择 API 密钥。

输入 URL

6

现在点击 “Test AI Agent”,即可与自定义的 DeepSeek R1 模型对话。