Porozmawiaj z DeepSeek R1 dzięki ElevenLabs Conversational AI

O DeepSeek wszyscy ostatnio mówią, ale nikt nie zadał pytania: jak brzmiałby DeepSeek, gdyby mógł mówić? Właśnie tu możemy wykorzystać Conversational AI ElevenLabs, by umożliwić rozmowę z DeepSeek R1.

ElevenLabs Conversational AI to platforma do wdrażania niestandardowych, działających w czasie rzeczywistym konwersacyjnych agentów głosowych. Jej dużą zaletą jest elastyczność — możesz podłączać różne modele LLM zależnie od potrzeb. 

Opcja Custom LLM działa z każdym zgodnym z OpenAI dostawcą API , o ile model obsługuje używanie narzędzi / wywoływanie funkcji. W naszej dokumentacji znajdziesz poradniki dla GroqCloud, Together AI i Cloudflare. W tym demo korzystamy z Cloudflare.

Używamy modelu DeepSeek-R1-Distill-Qwen-32B, czyli modelu destylowanego z DeepSeek-R1, opartego na Qwen2.5. Przewyższa OpenAI-o1-mini w różnych benchmarkach i osiąga nowe, najlepsze wyniki wśród modeli gęstych. 

Korzystamy z wersji destylowanej głównie dlatego, że czyste wersje nie działają jeszcze niezawodnie z wywoływaniem funkcji. Co więcej, model rozumujący R1 w ogóle jeszcze nie obsługuje wywoływania funkcji! Możesz śledzić to zgłoszenie, aby być na bieżąco z postępami.

Zacznij z ElevenLabs Conversational AI

Podłączenie niestandardowego LLM jest dość proste i zaczyna się od utworzenia agenta. W tym projekcie użyjemy szablonu Math Tutor. Jeśli chcesz tylko usłyszeć, jak brzmi DeepSeek, mamy demo agenta, które możesz wypróbować samodzielnie.

Na początek przejdź na stronę aplikacji ElevenLabs Conversational AI i utwórz nowego agenta AI o nazwie „DeepSeeker”. Wybierz szablon Math Tutor, ponieważ to zastosowanie, w którym rozumowanie DeepSeek może się sprawdzić, a potem wybierz „Create Agent”.

Szablon matematyczny zawiera system prompt, który zapewnia, że liczby i równania są odczytywane w naturalnym języku, a nie tak, jak zapisał je LLM. Na przykład prosimy go, by napisał „Alfa razy x do kwadratu równa się 4”, jeśli odpowiedź LLM brzmi „ax^2=4”. 

Modele rozumujące zwykle wyjaśniają swój „tok rozumowania”, ale możemy też rozbudować system prompt, by dodatkowo zadbać o dobrą lekcję matematyki — na przykład określając, że rozwiązanie ma być wyjaśniane krok po kroku. Możesz zostawić to ogólnie lub rozszerzyć prompt o konkretne przykłady, z których model może korzystać.

Jeśli jednak naprawdę chcesz poznać osobowość DeepSeek R1, możesz zamiast tego utworzyć pusty szablon. Poproś agenta, by przedstawił się jako DeepSeek AI, i ustaw system prompt tak, by odpowiadał na pytania z różnych tematów. 

Skonfiguruj DeepSeek R1 z Cloudflare Workers AI

Teraz potrzebujemy endpointu wersji DeepSeek R1, której użyjemy z naszym agentem. W tym przykładzie skorzystamy z Cloudflare, które udostępnia DeepSeek-R1-Distill-Qwen-32B na swojej platformie Workers AI do celów ewaluacyjnych, ale możesz też rozważyć inne opcje hostingu, takie jak fireworks.ai, GroqCloud i  together.ai

Najpierw przejdź na dash.cloudflare.com i utwórz konto lub się zaloguj. W menu wybierz AI > Workers AI, a następnie kliknij widżet „Use REST API”.

Aby uzyskać klucz API, kliknij „Create a Workers AI API Token” i pamiętaj, by przechowywać go bezpiecznie.

Gdy masz już klucz API, możesz od razu go przetestować żądaniem curl. Cloudflare udostępnia endpoint API zgodny z OpenAI, co bardzo to ułatwia. Zanotuj model i pełny endpoint — w tym identyfikator konta.

Przykład: https://api.cloudflare.com/client/v4/accounts/{ACCOUNT_ID}c/ai/v1/

curl https://api.cloudflare.com/client/v4/accounts/{ACCOUNT_ID}/ai/v1/chat/completions \
  -X POST \
  -H "Authorization: Bearer {API_TOKEN}" \
  -d '{
     "model": "@cf/deepseek-ai/deepseek-r1-distill-qwen-32b",
     "messages": [
       {"role": "system", "content": "You are a helpful assistant."},
       {"role": "user", "content": "How many Rs in the word Strawberry?"}
     ],
     "stream": false
   }'

Skonfiguruj niestandardowy LLM w ElevenLabs

Następnie dodaj te dane do swojego agenta w ElevenLabs. Najpierw przejdź do agenta AI DeepSeeker w aplikacji ElevenLabs i na samym dole dodaj nowo utworzony klucz API jako sekret. Nadaj mu nazwę, np. CLOUDFLARE_AUTH_TOKEN, a potem zapisz zmiany.

Następnie w sekcji LLM wybierz opcję Custom LLM i podaj zgodny z OpenAI endpoint Cloudflare Workers AI API: https://api.cloudflare.com/client/v4/accounts/{ACCOUNT_ID}/ai/v1

Pamiętaj, by zastąpić „{ACCOUNT_ID}” w adresie URL identyfikatorem konta widocznym w Cloudflare.

Dodaj identyfikator modelu: @cf/deepseek-ai/deepseek-r1-distill-qwen-32b

Na koniec wybierz sekret, który przed chwilą utworzyłeś.

Przetestuj

Świetnie, wszystko jest już skonfigurowane. Kliknij „Test AI agent” i przetestuj go na następującym zadaniu matematycznym:

„Dwa pociągi mijają się, jadąc na wschód i zachód z prędkościami 65 mph oraz 85 mph. Po jakim czasie będą oddalone od siebie o 330 mil?”

Uwaga: jeśli nie masz skonfigurowanej metody płatności, API Cloudflare Workers AI będzie ograniczane i odpowiedzi mogą przychodzić wolniej. Skonfiguruj konto rozliczeniowe przed wdrożeniem na produkcję. Inne platformy hostingowe mogą nie mieć tego problemu.

Podsumowanie

Tworzenie działających w czasie rzeczywistym konwersacyjnych agentów AI na platformie ElevenLabs Conversational AI pozwala szybko reagować na premiery nowych modeli, ponieważ możesz podłączać niestandardowe LLM przez dowolnego dostawcę API zgodnego z OpenAI.

Jeśli model, którego chcesz użyć, jest zgodny z OpenAI i obsługuje wywoływanie funkcji, możesz zintegrować go z działającym w czasie rzeczywistym agentem głosowym. Mogą to być też modele dostrojone na własnych zbiorach danych. Możesz również użyć dowolnego głosu z biblioteki ElevenLabs — albo własnego, jeśli utworzyłeś klon własnego głosu.