Cloudflare Workers AI

Verbind een agent met een aangepaste LLM op Cloudflare Workers AI.

Overzicht

Met het Workers AI-platform van Cloudflare kun je machinelearningmodellen uitvoeren op het wereldwijde netwerk van Cloudflare, aangedreven door serverless GPU’s, zelfs met het gratis abonnement!

Workers AI bevat een zorgvuldig samengestelde set populaire opensourcemodellen waarmee je taken kunt uitvoeren zoals afbeeldingsclassificatie, tekstgeneratie, objectdetectie en meer.

Een model kiezen

Om alle mogelijkheden van ElevenLabs Agents te benutten, moet je een model gebruiken dat function calling ondersteunt.

Zoek in de modelcatalogus naar modellen waarbij de eigenschap function calling staat vermeld.

Probeer DeepSeek R1

Cloudflare Workers AI biedt toegang tot DeepSeek-R1-Distill-Qwen-32B, een model dat is gedistilleerd uit DeepSeek-R1 en gebaseerd is op Qwen2.5. Het presteert beter dan OpenAI-o1-mini op verschillende benchmarks en behaalt nieuwe state-of-the-artresultaten voor dichte modellen.

DeepSeek R1 instellen op Cloudflare Workers AI

Ga naar dash.cloudflare.com en maak een account aan of log in. Selecteer in de navigatie AI > Workers AI en klik vervolgens op de widget “Use REST API”.

Zodra je je API-sleutel hebt, kun je die meteen uitproberen met een curl-request. Cloudflare biedt een OpenAI-compatibel API-endpoint, wat dit erg eenvoudig maakt. Noteer nu het model en het volledige endpoint — inclusief de account-ID. Bijvoorbeeld: https://api.cloudflare.com/client/v4/accounts/{ACCOUNT_ID}c/ai/v1/.

curl https://api.cloudflare.com/client/v4/accounts/{ACCOUNT_ID}/ai/v1/chat/completions \
-X POST \
-H "Authorization: Bearer {API_TOKEN}" \
-d '{
    "model": "@cf/deepseek-ai/deepseek-r1-distill-qwen-32b",
    "messages": [
      {"role": "system", "content": "You are a helpful assistant."},
      {"role": "user", "content": "How many Rs in the word Strawberry?"}
    ],
    "stream": false
  }'

Ga naar je AI Agent, scrol omlaag naar het gedeelte “Secrets” en selecteer “Add Secret”. Klik na het toevoegen van het geheim op “Save”, zodat het geheim beschikbaar is voor je agent.

Kies “Custom LLM” in het dropdownmenu.

Geef bij de server-URL het OpenAI-compatibele API-endpoint van Cloudflare op: https://api.cloudflare.com/client/v4/accounts/{ACCOUNT_ID}/ai/v1/. Geef bij de model-ID @cf/deepseek-ai/deepseek-r1-distill-qwen-32b op, zoals hierboven besproken, en selecteer je API-sleutel in het dropdownmenu.

Klik nu op “Test AI Agent” om te chatten met je aangepaste DeepSeek R1-model.