AvanzadoModelos personalizados

Cloudflare Workers AI

Conecta un agente a un LLM personalizado en Cloudflare Workers AI.

Descripción general

La plataforma Workers AI de Cloudflare te permite ejecutar modelos de machine learning con GPU sin servidor en la red global de Cloudflare, ¡incluso con el plan gratuito!

Workers AI incluye una selección de modelos populares de código abierto que te permiten realizar tareas como clasificación de imágenes, generación de texto, detección de objetos y mucho más.

Elegir un modelo

Para aprovechar toda la potencia de los Agentes de ElevenLabs, necesitas usar un modelo compatible con llamadas a funciones.

Al explorar el catálogo de modelos, busca los modelos que tengan la propiedad de llamadas a funciones junto a ellos.

Prueba DeepSeek R1

Cloudflare Workers AI ofrece acceso a DeepSeek-R1-Distill-Qwen-32B, un modelo destilado de DeepSeek-R1 basado en Qwen2.5. Supera a OpenAI-o1-mini en varias evaluaciones comparativas y logra nuevos resultados punteros para modelos densos.

Configura DeepSeek R1 en Cloudflare Workers AI

1

Ve a dash.cloudflare.com y crea una cuenta o inicia sesión. En la navegación, selecciona AI > Workers AI y, a continuación, haz clic en el widget “Use REST API”.

Añadir secreto

2

Cuando tengas tu clave de API, puedes probarla inmediatamente con una solicitud curl. Cloudflare ofrece una ruta de API compatible con OpenAI, lo que resulta muy práctico. En este punto, anota el modelo y la ruta completa, incluido el ID de cuenta. Por ejemplo: https://api.cloudflare.com/client/v4/accounts/{ACCOUNT_ID}c/ai/v1/.

curl https://api.cloudflare.com/client/v4/accounts/{ACCOUNT_ID}/ai/v1/chat/completions \
-X POST \
-H "Authorization: Bearer {API_TOKEN}" \
-d '{
    "model": "@cf/deepseek-ai/deepseek-r1-distill-qwen-32b",
    "messages": [
      {"role": "system", "content": "You are a helpful assistant."},
      {"role": "user", "content": "How many Rs in the word Strawberry?"}
    ],
    "stream": false
  }'
3

Ve a tu agente de IA, desplázate hasta la sección “Secrets” y selecciona “Add Secret”. Después de añadir el secreto, asegúrate de pulsar “Save” para que esté disponible para tu agente.

Añadir secreto

4

Elige “Custom LLM” en el menú desplegable.

Elegir LLM personalizado

5

En la URL del servidor, especifica la ruta de API compatible con OpenAI de Cloudflare: https://api.cloudflare.com/client/v4/accounts/{ACCOUNT_ID}/ai/v1/. En el ID del modelo, especifica @cf/deepseek-ai/deepseek-r1-distill-qwen-32b como se ha indicado antes y selecciona tu clave de API en el menú desplegable.

Introducir URL

6

Ya puedes hacer clic en “Test AI Agent” para hablar con tu modelo DeepSeek R1 personalizado.