Sprechen Sie mit DeepSeek R1 über ElevenLabs Conversational AI

In letzter Zeit spricht jeder über DeepSeek, doch niemand hat innegehalten und gefragt: Wie würde DeepSeek klingen, wenn es sprechen könnte? Hier kommt ElevenLabs Conversational AI ins Spiel, um Gespräche mit DeepSeek R1 zu ermöglichen.

ElevenLabs Conversational AI ist eine Plattform für die Bereitstellung individualisierter konversationeller Voice Agents in Echtzeit. Ein großer Vorteil der Plattform ist ihre Flexibilität: Sie können je nach Bedarf verschiedene LLMs einbinden. 

Die Option Custom LLM funktioniert mit jedem OpenAI-kompatiblen API-Anbieter, sofern das Modell Tool Use bzw. Function Calling unterstützt. In unserer Dokumentation finden Sie Anleitungen für GroqCloud, Together AI und Cloudflare. Für die folgende Demo verwenden wir Cloudflare.

Wir verwenden das Modell DeepSeek-R1-Distill-Qwen-32B, ein auf Qwen2.5 basierendes, aus DeepSeek-R1 destilliertes Modell. Es übertrifft OpenAI-o1-mini in verschiedenen Benchmarks und erzielt neue Bestwerte für dichte Modelle. 

Wir verwenden hauptsächlich die destillierte Version, weil die reinen Versionen noch nicht zuverlässig funktionieren mit Function Calling. Tatsächlich unterstützt das R1-Reasoning-Modell Function Calling noch gar nicht. Sie können dieses Issue verfolgen, um über den Fortschritt auf dem Laufenden zu bleiben.

Erste Schritte mit ElevenLabs Conversational AI

Das Verbinden eines Custom LLM ist recht einfach und beginnt mit dem Erstellen eines Agents. Für dieses Projekt verwenden wir die Vorlage Math Tutor. Wenn Sie nur hören möchten, wie DeepSeek klingt, können Sie eine Demo des Agents selbst ausprobieren.

Öffnen Sie zunächst die App-Seite von ElevenLabs Conversational AI und erstellen Sie einen neuen KI-Agent namens „DeepSeeker“. Wählen Sie die Vorlage Math Tutor, denn DeepSeeks Reasoning kann bei diesem Anwendungsfall überzeugen. Wählen Sie dann „Agent erstellen“.

Die Mathematikvorlage enthält einen System Prompt, der sicherstellt, dass Zahlen und Gleichungen in natürlicher Sprache vorgelesen werden, statt so, wie sie vom LLM geschrieben wurden. Beispielsweise weisen wir das Modell an, „Alpha mal x Quadrat gleich 4“ zu schreiben, wenn die Antwort des LLM „ax^2=4“ lautet. 

Reasoning-Modelle erläutern in der Regel ihre „Gedankenkette“. Sie können den System Prompt jedoch auch erweitern, um sicherzustellen, dass Sie eine gute Mathematikerklärung erhalten – etwa indem Sie vorgeben, dass die Lösung Schritt für Schritt begründet wird. Sie können dies allgemein halten oder den Prompt um konkrete Beispiele ergänzen, auf die das Modell zurückgreifen kann.

Wenn Sie jedoch ein Gefühl für die Persönlichkeit von DeepSeek R1 bekommen möchten, können Sie stattdessen eine leere Vorlage erstellen. Weisen Sie den Agent an, sich als DeepSeek AI vorzustellen, und legen Sie im System Prompt fest, dass er Fragen zu verschiedenen Themen beantworten soll. 

DeepSeek R1 mit Cloudflare Workers AI einrichten

Als Nächstes benötigen wir einen Endpoint für eine DeepSeek-R1-Version zur Verwendung mit unserem Agent. In diesem Beispiel nutzen wir Cloudflare, das DeepSeek-R1-Distill-Qwen-32B auf seiner Workers-AI-Plattform zu Evaluierungszwecken bereitstellt. Sie können jedoch auch andere Hosting-Optionen wie fireworks.ai, GroqCloud und  together.ai

Öffnen Sie zuerst dash.cloudflare.com und erstellen Sie ein Konto oder melden Sie sich an. Wählen Sie in der Navigation KI > Workers AI und klicken Sie dann auf das Widget „Use REST API“.

Um einen API-Schlüssel zu erhalten, klicken Sie auf „Create a Workers AI API Token“ und speichern Sie ihn sicher.

Sobald Sie Ihren API-Schlüssel haben, können Sie ihn direkt mit einer curl-Anfrage testen. Cloudflare stellt einen OpenAI-kompatiblen API-Endpoint bereit, was die Einrichtung erleichtert. Notieren Sie sich nun das Modell und den vollständigen Endpoint – einschließlich der Konto-ID.

Beispiel: https://api.cloudflare.com/client/v4/accounts/{ACCOUNT_ID}c/ai/v1/

curl https://api.cloudflare.com/client/v4/accounts/{ACCOUNT_ID}/ai/v1/chat/completions \
  -X POST \
  -H "Authorization: Bearer {API_TOKEN}" \
  -d '{
     "model": "@cf/deepseek-ai/deepseek-r1-distill-qwen-32b",
     "messages": [
       {"role": "system", "content": "You are a helpful assistant."},
       {"role": "user", "content": "How many Rs in the word Strawberry?"}
     ],
     "stream": false
   }'

Custom LLM in ElevenLabs konfigurieren

Fügen Sie diese Angaben nun Ihrem Agent in ElevenLabs hinzu. Öffnen Sie zuerst Ihren DeepSeeker-KI-Agent in der ElevenLabs-App und fügen Sie ganz unten Ihren neu erstellten API-Schlüssel als Secret hinzu. Geben Sie ihm einen Namen wie CLOUDFLARE_AUTH_TOKEN und speichern Sie die Änderungen.

Wählen Sie anschließend unter LLM die Option Custom LLM und geben Sie den OpenAI-kompatiblen API-Endpoint von Cloudflare Workers AI ein: https://api.cloudflare.com/client/v4/accounts/{ACCOUNT_ID}/ai/v1

Ersetzen Sie „{ACCOUNT_ID}“ in der URL durch die in Cloudflare angezeigte Konto-ID.

Fügen Sie die Modell-ID hinzu: @cf/deepseek-ai/deepseek-r1-distill-qwen-32b

Wählen Sie abschließend das soeben erstellte Secret aus.

Testen

Alles ist eingerichtet. Klicken Sie nun auf „Test AI agent“ und testen Sie ihn mit folgender Mathematikaufgabe:

„Zwei Züge fahren mit Geschwindigkeiten von 65 mph bzw. 85 mph in Richtung Osten bzw. Westen aneinander vorbei. Nach welcher Zeit sind sie 330 Meilen voneinander entfernt?“

Hinweis: Falls Sie keine Zahlungsmethode eingerichtet haben, wird die Cloudflare Workers AI API gedrosselt, und die Antwortzeiten können länger sein. Richten Sie Ihr Abrechnungskonto ein, bevor Sie in Produktion gehen. Bei anderen Hosting-Plattformen muss das nicht der Fall sein.

Fazit

Mit der Plattform ElevenLabs Conversational AI können Sie konversationelle KI-Agenten in Echtzeit erstellen und schnell auf neue Modelle reagieren, indem Sie Custom LLMs über jeden OpenAI-kompatiblen API-Anbieter einbinden.

Solange das Modell, das Sie verwenden möchten, OpenAI-kompatibel ist und Function Calling unterstützt, können Sie es mit einem Voice Agent in Echtzeit integrieren. Dazu können auch Modelle gehören, die Sie mit eigenen Datensätzen finetuned haben. Sie können zudem jede Stimme aus der ElevenLabs-Bibliothek verwenden – oder Ihre eigene Stimme, wenn Sie einen Klon Ihrer eigenen Stimme erstellt haben.