ElevenLabsの会話型AIでDeepSeek R1と話す

最近は誰もがDeepSeekについて話していますが、「話せるとしたらDeepSeekはどんな声をしているのか？」と考えた人はいません。そこでElevenLabsの会話型AIを使えば、DeepSeek R1と会話できるようになります。

ElevenLabs会話型AIは、カスタマイズしたリアルタイム会話型音声エージェントを導入するためのプラットフォームです。大きな利点は柔軟性にあり、ニーズに応じてさまざまなLLMを接続できます。

「カスタムLLM」オプションは、OpenAI互換のAPIプロバイダーであれば、モデルがツール使用／関数呼び出しに対応している限り利用できます。ドキュメントには、GroqCloud、Together AI、Cloudflare向けのガイドがあります。以下のデモではCloudflareを使用します。

使用するのは、Qwen2.5をベースにDeepSeek-R1から蒸留されたDeepSeek-R1-Distill-Qwen-32Bモデルです。さまざまなベンチマークでOpenAI-o1-miniを上回り、高密度モデルにおける新たな最先端の結果を達成しています。

蒸留版を使う主な理由は、純粋なバージョンが関数呼び出しでまだ安定して動作しないためです。実際、R1推論モデルは関数呼び出しをまだまったくサポートしていません。進捗を確認するには、このissueをフォローしてください。

ElevenLabs会話型AIを始める

カスタムLLMの接続は比較的簡単で、まずエージェントを作成します。このプロジェクトでは、Math Tutorテンプレートを使用します。DeepSeekがどんな声かを試してみたいだけなら、エージェントのデモを実際に試すこともできます。

まず、ElevenLabs会話型AIのアプリページに移動し、「DeepSeeker」という新しいAIエージェントを作成します。DeepSeekの推論能力を活かせるユースケースなので、Math Tutorテンプレートを選び、「エージェントを作成」を選択してください。

数学テンプレートには、LLMが記述したままではなく、数値や数式を自然な言葉で読み上げるようにするシステムプロンプトが含まれています。たとえば、LLMの回答が「アルファ掛けるxの2乗は4に等しい」の場合、「ax^2=4」と書くよう指示します。

推論モデルは一般に「思考の連鎖」を説明しますが、システムプロンプトを拡張して、解答の推論を段階的に示すよう指定すれば、充実した数学の解説を確実に得られます。一般的な内容のままにすることも、参照できる具体例を含めるようプロンプトを拡張することもできます。

一方で、DeepSeek R1の個性を本当に感じたいなら、空のテンプレートを作成し、エージェントがDeepSeek AIとして自己紹介するように設定できます。さらに、さまざまなトピックの質問に答えるようシステムプロンプトを設定してください。

Cloudflare Workers AIでDeepSeek R1を設定する

次に、エージェントで使用するDeepSeek R1のエンドポイントを取得します。この例では、Workers AIプラットフォームで評価目的のDeepSeek-R1-Distill-Qwen-32Bを提供しているCloudflareを使用します。ただし、fireworks.ai、GroqCloud、together.ai

など、ほかのホスティングオプションも検討できます。まず、dash.cloudflare.comにアクセスし、アカウントを作成するかサインインします。ナビゲーションで「AI」＞「Workers AI」を選択し、「Use REST API」ウィジェットをクリックしてください。

APIキーを取得するには、「Create a Workers AI API Token」をクリックし、安全に保管してください。

APIキーを取得したら、curlリクエストですぐに試せます。CloudflareはOpenAI互換のAPIエンドポイントを提供しているため、非常に便利です。この時点で、アカウントIDを含むモデル名と完全なエンドポイントを書き留めておきましょう。

例：https://api.cloudflare.com/client/v4/accounts/{ACCOUNT_ID}c/ai/v1/

curl https://api.cloudflare.com/client/v4/accounts/{ACCOUNT_ID}/ai/v1/chat/completions \
  -X POST \
  -H "Authorization: Bearer {API_TOKEN}" \
  -d '{
     "model": "@cf/deepseek-ai/deepseek-r1-distill-qwen-32b",
     "messages": [
       {"role": "system", "content": "You are a helpful assistant."},
       {"role": "user", "content": "How many Rs in the word Strawberry?"}
     ],
     "stream": false
   }'

ElevenLabsでカスタムLLMを設定する

次に、これらの詳細をElevenLabsのエージェントに追加します。まず、ElevenLabsアプリでDeepSeeker AIエージェントに移動し、一番下で新しく作成したAPIキーをシークレットとして追加します。CLOUDFLARE_AUTH_TOKENのようなキー名を付け、変更を保存してください。

次に、LLMで「カスタムLLM」オプションを選択し、Cloudflare Workers AIのOpenAI互換APIエンドポイントを入力します：https://api.cloudflare.com/client/v4/accounts/{ACCOUNT_ID}/ai/v1

URL内の「{ACCOUNT_ID}」は、Cloudflareに表示されているアカウントIDに必ず置き換えてください。

モデルIDを追加します：@cf/deepseek-ai/deepseek-r1-distill-qwen-32b

最後に、先ほど作成したシークレットを選択してください。

試してみる

これで設定は完了です。「Test AI agent」をクリックして、次の数学の問題で試してみましょう：

「東西方向に進む2本の列車が、時速65マイルと時速85マイルで互いを通過します。330マイル離れるまでにどれくらいかかりますか？」

注：支払い方法を設定していない場合、Cloudflare Workers AI APIにはスロットリングが適用され、応答時間が長くなることがあります。本番環境に移行する前に、請求アカウントを設定してください。ほかのホスティングプラットフォームでは問題にならない場合もあります。

まとめ

リアルタイム会話型AIエージェントをElevenLabs会話型AIプラットフォームで構築すれば、OpenAI互換APIプロバイダーを通じてカスタムLLMを接続し、新しいモデルのリリースにもすばやく対応できます。

使用したいモデルがOpenAI互換で関数呼び出しをサポートしていれば、リアルタイム音声エージェントと統合できます。これには、カスタムデータセットで微調整したモデルも含まれます。ElevenLabsライブラリで利用可能な任意の音声を使うことも、自分の声をボイスクローンとして作成している場合はその声を使うこともできます。