ZaawansowaneModele niestandardowe

Cloudflare Workers AI

Połącz agenta z własnym LLM w Cloudflare Workers AI.

Omówienie

Platforma Workers AI od Cloudflare pozwala uruchamiać modele uczenia maszynowego zasilane bezserwerowymi GPU w globalnej sieci Cloudflare, nawet w darmowym planie!

Workers AI oferuje starannie dobrany zestaw popularnych modeli open source, dzięki którym możesz wykonywać takie zadania jak klasyfikacja obrazów, generowanie tekstu, wykrywanie obiektów i wiele więcej.

Wybór modelu

Aby w pełni wykorzystać możliwości ElevenLabs Agents, potrzebujesz modelu obsługującego wywoływanie funkcji.

Przeglądając katalog modeli, szukaj modeli oznaczonych funkcją wywoływania funkcji.

Wypróbuj DeepSeek R1

Cloudflare Workers AI zapewnia dostęp do DeepSeek-R1-Distill-Qwen-32B, modelu destylowanego z DeepSeek-R1, opartego na Qwen2.5. Przewyższa on OpenAI-o1-mini w różnych benchmarkach, osiągając nowe najlepsze wyniki wśród gęstych modeli.

Konfiguracja DeepSeek R1 w Cloudflare Workers AI

1

Przejdź do dash.cloudflare.com i utwórz konto lub się zaloguj. W nawigacji wybierz AI > Workers AI, a następnie kliknij widżet “Use REST API”.

Dodaj sekret

2

Gdy masz już klucz API, możesz od razu go sprawdzić za pomocą żądania curl. Cloudflare udostępnia endpoint API zgodny z OpenAI, co znacznie to ułatwia. Zanotuj model i pełny endpoint — wraz z identyfikatorem konta. Na przykład: https://api.cloudflare.com/client/v4/accounts/{ACCOUNT_ID}c/ai/v1/.

curl https://api.cloudflare.com/client/v4/accounts/{ACCOUNT_ID}/ai/v1/chat/completions \
-X POST \
-H "Authorization: Bearer {API_TOKEN}" \
-d '{
    "model": "@cf/deepseek-ai/deepseek-r1-distill-qwen-32b",
    "messages": [
      {"role": "system", "content": "You are a helpful assistant."},
      {"role": "user", "content": "How many Rs in the word Strawberry?"}
    ],
    "stream": false
  }'
3

Przejdź do swojego agenta AI, przewiń do sekcji “Secrets” i wybierz “Add Secret”. Po dodaniu sekretu kliknij “Save”, aby był dostępny dla agenta.

Dodaj sekret

4

Wybierz “Custom LLM” z menu rozwijanego.

Wybierz własny LLM

5

W polu Server URL podaj endpoint API Cloudflare zgodny z OpenAI: https://api.cloudflare.com/client/v4/accounts/{ACCOUNT_ID}/ai/v1/. W polu Model ID podaj omówiony wyżej @cf/deepseek-ai/deepseek-r1-distill-qwen-32b, a następnie wybierz klucz API z menu rozwijanego.

Wprowadź URL

6

Teraz kliknij “Test AI Agent”, aby porozmawiać z własnym modelem DeepSeek R1.