Praat met DeepSeek R1 met ElevenLabs Conversational AI

Iedereen heeft het de laatste tijd over DeepSeek, maar niemand heeft zich afgevraagd: hoe zou DeepSeek klinken als het kon praten? Hiervoor kunnen we ElevenLabs Conversational AI gebruiken om praten met DeepSeek R1 mogelijk te maken.

ElevenLabs Conversational AI is een platform voor het implementeren van aangepaste realtime conversationele spraakagenten. Een belangrijk voordeel van het platform is de flexibiliteit: je kunt verschillende LLM's koppelen, afhankelijk van je behoeften. 

De optie Custom LLM werkt met elke OpenAI-compatibele API-provider, zolang het model toolgebruik/function calling ondersteunt. In onze documentatie vind je handleidingen voor GroqCloud, Together AI en Cloudflare. Voor de volgende demo gebruiken we Cloudflare.

We gebruiken het model DeepSeek-R1-Distill-Qwen-32B, een van DeepSeek-R1 gedestilleerd model op basis van Qwen2.5. Het presteert beter dan OpenAI-o1-mini in verschillende benchmarks en behaalt nieuwe state-of-the-artresultaten voor dense modellen. 

We gebruiken vooral de gedestilleerde versie omdat de pure versies nog niet betrouwbaar werken met function calling. Sterker nog, het redeneermodel R1 ondersteunt function calling nog helemaal niet! Je kunt dit issue volgen om op de hoogte te blijven van de voortgang.

Aan de slag met ElevenLabs Conversational AI

Een custom LLM koppelen is vrij eenvoudig en begint met het maken van een agent. Voor dit project gebruiken we de template Math Tutor. Wil je alleen horen hoe DeepSeek klinkt, dan hebben we een demo van de agent die je zelf kunt uitproberen.

Ga om te beginnen naar de apppagina van ElevenLabs Conversational AI en maak een nieuwe AI Agent met de naam “DeepSeeker”. Selecteer de template Math tutor, omdat DeepSeek's redeneervermogen bij deze toepassing goed tot zijn recht komt, en selecteer “Create Agent”.

De wiskundetemplate bevat een system prompt die ervoor zorgt dat getallen en vergelijkingen in natuurlijke taal worden uitgesproken, in plaats van zoals ze door de LLM zijn geschreven. We geven bijvoorbeeld de opdracht om "Alfa maal x kwadraat is gelijk aan 4" te schrijven als het antwoord van de LLM "ax^2=4" is. 

Redeneermodellen leggen doorgaans hun “gedachtenketen” uit, maar we kunnen de system prompt ook uitbreiden om er extra zeker van te zijn dat we een goede wiskundeles krijgen, bijvoorbeeld door te specificeren dat het model de redenering voor de oplossing stap voor stap uitlegt. Je kunt dit algemeen houden of de prompt uitbreiden met specifieke voorbeelden waarop het kan terugvallen.

Wil je echt een indruk krijgen van de persoonlijkheid van DeepSeek R1, dan kun je in plaats daarvan een lege template maken waarin je de agent vraagt zichzelf als DeepSeek AI voor te stellen en de system prompt instelt om vragen over uiteenlopende onderwerpen te beantwoorden. 

DeepSeek R1 instellen met Cloudflare Workers AI

Vervolgens hebben we een endpoint nodig voor een versie van DeepSeek R1 die we met onze agent kunnen gebruiken. In dit voorbeeld gebruiken we Cloudflare, dat DeepSeek-R1-Distill-Qwen-32B op zijn Workers AI-platform aanbiedt voor evaluatiedoeleinden, maar je kunt ook andere hostingopties overwegen, zoals fireworks.ai, GroqCloud en  together.ai

Ga eerst naar dash.cloudflare.com en maak een account of log in. Selecteer in de navigatie AI > Workers AI en klik vervolgens op de widget “Use REST API”.

Klik voor een API-sleutel op “Create a Workers AI API Token” en zorg dat je deze veilig opslaat.

Zodra je je API-sleutel hebt, kun je die direct uitproberen met een curl-request. Cloudflare biedt een OpenAI-compatibel API-endpoint, wat dit erg handig maakt. Noteer nu het model en het volledige endpoint — inclusief de account-ID.

Bijvoorbeeld: https://api.cloudflare.com/client/v4/accounts/{ACCOUNT_ID}c/ai/v1/

curl https://api.cloudflare.com/client/v4/accounts/{ACCOUNT_ID}/ai/v1/chat/completions \
  -X POST \
  -H "Authorization: Bearer {API_TOKEN}" \
  -d '{
     "model": "@cf/deepseek-ai/deepseek-r1-distill-qwen-32b",
     "messages": [
       {"role": "system", "content": "You are a helpful assistant."},
       {"role": "user", "content": "How many Rs in the word Strawberry?"}
     ],
     "stream": false
   }'

Je custom LLM configureren in ElevenLabs

De volgende stap is deze gegevens aan je agent in ElevenLabs toe te voegen. Ga eerst naar je DeepSeeker AI Agent in de ElevenLabs-app en voeg helemaal onderaan je zojuist gemaakte API-sleutel toe als secret. Geef deze een naam zoals CLOUDFLARE_AUTH_TOKEN en sla de wijzigingen op.

Selecteer vervolgens onder LLM de optie Custom LLM en geef het OpenAI-compatibele Cloudflare Workers AI API-endpoint op: https://api.cloudflare.com/client/v4/accounts/{ACCOUNT_ID}/ai/v1

Vervang “{ACCOUNT_ID}” in de URL door de account-ID die in Cloudflare wordt weergegeven.

Voeg de model-ID toe: @cf/deepseek-ai/deepseek-r1-distill-qwen-32b

Selecteer tot slot de secret die je zojuist hebt gemaakt.

Probeer het uit

Alles is nu ingesteld, dus klik op “Test AI agent” en probeer het uit met het volgende wiskundeprobleem:

“Twee treinen passeren elkaar en rijden oostwaarts/westwaarts met snelheden van respectievelijk 65 mph en 85 mph. Hoe lang duurt het voordat ze 330 mijl van elkaar verwijderd zijn?”

Opmerking: als je geen betaalmethode hebt ingesteld, wordt de Cloudflare Workers AI API beperkt en kun je langere reactietijden ervaren. Zorg dat je je factureringsaccount instelt voordat je naar productie gaat. Bij andere hostingplatforms is dit mogelijk geen probleem.

Conclusie

Door realtime conversationele AI-agenten te bouwen met het platform ElevenLabs Conversational AI, kun je snel reageren op nieuwe modellen die worden uitgebracht. Je kunt namelijk custom LLM's koppelen via elke OpenAI-compatibele API-provider.

Zolang het model dat je wilt gebruiken OpenAI-compatibel is en function calling ondersteunt, kun je het integreren met een realtime spraakagent. Dit kunnen modellen zijn die je hebt gefinetuned op custom datasets. Je kunt ook elke stem uit de ElevenLabs-bibliotheek gebruiken — of je eigen stem als je een kloon van je eigen stem hebt gemaakt.