Porozmawiaj z DeepSeek R1 dzięki ElevenLabs Conversational AI

O DeepSeek mówi ostatnio każdy, ale nikt nie zadał pytania: jak brzmiałby DeepSeek, gdyby mógł mówić? Właśnie tu możemy wykorzystać Conversational AI od ElevenLabs, by móc rozmawiać z DeepSeek R1.

ElevenLabs Conversational AI to platforma do wdrażania spersonalizowanych, działających w czasie rzeczywistym konwersacyjnych agentów głosowych. Dużą zaletą platformy jest elastyczność: możesz podłączać różne LLM-y zależnie od potrzeb. 

Opcja Custom LLM działa z każdym zgodnym z OpenAI dostawcą API , o ile model obsługuje użycie narzędzi/function calling. W naszej dokumentacji znajdziesz przewodniki dla GroqCloud, Together AI i Cloudflare. W tej demonstracji używamy Cloudflare.

Używamy modelu DeepSeek-R1-Distill-Qwen-32B, destylowanej wersji DeepSeek-R1 opartej na Qwen2.5. Przewyższa on OpenAI-o1-mini w różnych benchmarkach i ustanawia nowe wyniki state of the art dla modeli gęstych. 

Używamy wersji destylowanej głównie dlatego, że czyste wersje nie działają jeszcze niezawodnie z function calling. Co więcej, model rozumujący R1 w ogóle nie obsługuje jeszcze function calling! Postępy możesz śledzić w tym zgłoszeniu.

Zacznij z ElevenLabs Conversational AI

Podłączenie własnego LLM-a jest dość proste i zaczyna się od utworzenia agenta. W tym projekcie użyjemy szablonu Math Tutor. Jeśli chcesz tylko usłyszeć, jak brzmi DeepSeek, przygotowaliśmy demonstrację agenta, którą możesz wypróbować samodzielnie.

Na początek przejdź na stronę aplikacji ElevenLabs Conversational AI i utwórz nowego AI Agenta o nazwie „DeepSeeker”. Wybierz szablon Math Tutor, ponieważ to zastosowanie, w którym rozumowanie DeepSeek może się sprawdzić, a potem wybierz „Create Agent”.

Szablon matematyczny zawiera system prompt, który sprawia, że liczby i równania są odczytywane w języku naturalnym, a nie tak, jak zapisał je LLM. Na przykład polecamy mu zapisać „Alfa razy x do kwadratu równa się 4”, jeśli odpowiedź LLM-a brzmi „ax^2=4”. 

Modele rozumujące zwykle wyjaśniają swój „tok rozumowania”, ale możemy też rozbudować system prompt, by dodatkowo zadbać o dobrą lekcję matematyki — na przykład określając, że rozwiązanie ma być wyjaśnione krok po kroku. Możesz zostawić ogólną instrukcję albo dodać konkretne przykłady, z których model może skorzystać.

Jeśli jednak chcesz naprawdę poznać osobowość DeepSeek R1, możesz zamiast tego utworzyć pusty szablon, poprosić agenta, by przedstawił się jako DeepSeek AI, i ustawić system prompt tak, aby odpowiadał na pytania z różnych tematów. 

Skonfiguruj DeepSeek R1 z Cloudflare Workers AI

Teraz potrzebujemy endpointu wersji DeepSeek R1 do użycia z naszym agentem. W tym przykładzie skorzystamy z Cloudflare, które udostępnia DeepSeek-R1-Distill-Qwen-32B na swojej platformie Workers AI do celów ewaluacyjnych, ale możesz też rozważyć inne opcje hostingu, takie jak fireworks.ai, GroqCloud i  together.ai

Najpierw przejdź na dash.cloudflare.com i utwórz konto lub się zaloguj. W nawigacji wybierz AI > Workers AI, a następnie kliknij widżet „Use REST API”.

Aby uzyskać klucz API, kliknij „Create a Workers AI API Token” i zapisz go w bezpiecznym miejscu.

Gdy masz już klucz API, możesz od razu wypróbować go za pomocą żądania curl. Cloudflare udostępnia endpoint API zgodny z OpenAI, co bardzo ułatwia sprawę. Zanotuj model i pełny endpoint — w tym identyfikator konta.

Przykład: https://api.cloudflare.com/client/v4/accounts/{ACCOUNT_ID}c/ai/v1/

curl https://api.cloudflare.com/client/v4/accounts/{ACCOUNT_ID}/ai/v1/chat/completions \
  -X POST \
  -H "Authorization: Bearer {API_TOKEN}" \
  -d '{
     "model": "@cf/deepseek-ai/deepseek-r1-distill-qwen-32b",
     "messages": [
       {"role": "system", "content": "You are a helpful assistant."},
       {"role": "user", "content": "How many Rs in the word Strawberry?"}
     ],
     "stream": false
   }'

Skonfiguruj własny LLM w ElevenLabs

Teraz dodaj te dane do agenta w ElevenLabs. Najpierw przejdź do swojego AI Agenta DeepSeeker w aplikacji ElevenLabs i na samym dole dodaj nowo utworzony klucz API jako sekret. Nadaj mu nazwę, na przykład CLOUDFLARE_AUTH_TOKEN, a potem zapisz zmiany.

Następnie w sekcji LLM wybierz opcję Custom LLM i podaj zgodny z OpenAI endpoint Cloudflare Workers AI API: https://api.cloudflare.com/client/v4/accounts/{ACCOUNT_ID}/ai/v1

Zastąp „{ACCOUNT_ID}” w adresie URL identyfikatorem konta widocznym w Cloudflare.

Dodaj identyfikator modelu: @cf/deepseek-ai/deepseek-r1-distill-qwen-32b

Na koniec wybierz sekret, który przed chwilą utworzyłeś.

Wypróbuj

Świetnie, wszystko jest już skonfigurowane. Kliknij „Test AI agent” i wypróbuj go na następującym zadaniu matematycznym:

„Dwa pociągi mijają się, jadąc na wschód i zachód z prędkościami 65 mph oraz 85 mph. Po jakim czasie będą oddalone od siebie o 330 mil?”

Uwaga: jeśli nie masz ustawionej metody płatności, API Cloudflare Workers AI będzie ograniczane i odpowiedzi mogą przychodzić wolniej. Przed wdrożeniem produkcyjnym skonfiguruj konto rozliczeniowe. Na innych platformach hostingowych ten problem może nie występować.

Podsumowanie

Tworzenie działających w czasie rzeczywistym konwersacyjnych agentów AI z platformą ElevenLabs Conversational AI pozwala szybko reagować na premiery nowych modeli, ponieważ możesz podłączać własne LLM-y przez dowolnego dostawcę API zgodnego z OpenAI.

Jeśli model, którego chcesz użyć, jest zgodny z OpenAI i obsługuje function calling, możesz zintegrować go z działającym w czasie rzeczywistym agentem głosowym. Mogą to być modele dostrojone na własnych zbiorach danych. Możesz też użyć dowolnego głosu z biblioteki ElevenLabs — lub własnego głosu, jeśli utworzyłeś jego klon.