Converse com o DeepSeek R1 usando o ElevenLabs Conversational AI

Todo mundo tem falado sobre o DeepSeek ultimamente, mas ninguém parou para perguntar: como seria a voz do DeepSeek se ele pudesse falar? É aí que podemos usar o Conversational AI da ElevenLabs para tornar possível conversar com o DeepSeek R1.

O Conversational AI da ElevenLabs é uma plataforma para implantar agentes de voz conversacionais personalizados e em tempo real. Uma grande vantagem da plataforma é sua flexibilidade, que permite conectar diferentes LLMs conforme suas necessidades. 

A opção LLM personalizado funciona com qualquer provedor de API compatível com OpenAI, desde que o modelo ofereça suporte ao uso de ferramentas/chamadas de função. Na nossa documentação, você encontra guias para GroqCloud, Together AI e Cloudflare. Para a demonstração a seguir, usaremos o Cloudflare.

Estamos usando o modelo DeepSeek-R1-Distill-Qwen-32B, uma versão destilada do DeepSeek-R1 baseada no Qwen2.5. Ele supera o OpenAI-o1-mini em vários benchmarks e alcança novos resultados de ponta entre modelos densos. 

O principal motivo para usarmos a versão destilada é que as versões puras ainda não funcionam de forma confiável com chamadas de função. Na verdade, o modelo de raciocínio R1 ainda não oferece suporte algum a chamadas de função! Você pode acompanhar esta issue para ficar por dentro do progresso.

Comece a usar o Conversational AI da ElevenLabs

O processo para conectar um LLM personalizado é bem simples e começa com a criação de um agente. Neste projeto, usaremos o modelo de Matemática. Se você só quer ouvir como o DeepSeek soa, temos uma demonstração do agente que você pode testar por conta própria.

Para começar, acesse a página do app Conversational AI da ElevenLabs e crie um novo Agente de IA chamado “DeepSeeker”. Selecione o modelo de Matemática, pois esse é um caso de uso em que o raciocínio do DeepSeek pode se destacar, e selecione “Criar agente”.

O modelo de matemática inclui um prompt de sistema que garante que os números e as equações sejam lidos em linguagem natural, em vez de como foram escritos pelo LLM. Por exemplo, pedimos que ele escreva “Alfa vezes x ao quadrado é igual a 4” se a resposta do LLM for “ax^2=4”. 

Os modelos de raciocínio geralmente explicam sua “cadeia de pensamento”, mas também podemos ampliar o prompt de sistema para garantir ainda mais uma boa explicação de matemática, especificando, por exemplo, que ele apresente o raciocínio passo a passo para a solução. Você pode manter isso mais geral ou ampliar o prompt para incluir exemplos específicos dos quais ele possa partir.

No entanto, se você realmente quiser ter uma noção da personalidade do DeepSeek R1, pode criar um modelo em branco pedindo que o agente se apresente como DeepSeek AI e configurar o prompt de sistema para que ele responda a perguntas sobre vários temas. 

Configure o DeepSeek R1 com o Cloudflare Workers AI

Em seguida, precisamos obter um endpoint de uma versão do DeepSeek R1 para usar com nosso agente. Neste exemplo, usaremos o Cloudflare, que disponibiliza o DeepSeek-R1-Distill-Qwen-32B em sua plataforma Workers AI para fins de avaliação, mas você também pode considerar outras opções de hospedagem, como fireworks.ai, GroqCloud e  together.ai

Primeiro, acesse dash.cloudflare.com e crie uma conta ou entre na sua conta. Na navegação, selecione IA > Workers AI e clique no widget “Usar API REST”.

Para obter uma chave de API, clique em “Criar um token de API do Workers AI” e armazene-o com segurança.

Depois de obter sua chave de API, você poderá testá-la imediatamente com uma solicitação curl. O Cloudflare oferece um endpoint de API compatível com OpenAI, o que torna isso bastante prático. Neste momento, anote o modelo e o endpoint completo — incluindo o ID da conta.

Por exemplo: https://api.cloudflare.com/client/v4/accounts/{ACCOUNT_ID}c/ai/v1/

curl https://api.cloudflare.com/client/v4/accounts/{ACCOUNT_ID}/ai/v1/chat/completions \
  -X POST \
  -H "Authorization: Bearer {API_TOKEN}" \
  -d '{
     "model": "@cf/deepseek-ai/deepseek-r1-distill-qwen-32b",
     "messages": [
       {"role": "system", "content": "You are a helpful assistant."},
       {"role": "user", "content": "How many Rs in the word Strawberry?"}
     ],
     "stream": false
   }'

Configure seu LLM personalizado na ElevenLabs

O próximo passo é adicionar esses detalhes ao seu agente na ElevenLabs. Primeiro, acesse seu Agente de IA DeepSeeker no app da ElevenLabs e, na parte inferior da página, adicione a chave de API que você acabou de criar como um segredo. Dê a ela um nome como CLOUDFLARE_AUTH_TOKEN e salve as alterações.

Em seguida, em LLM, selecione a opção LLM personalizado e informe o endpoint de API compatível com OpenAI do Cloudflare Workers AI: https://api.cloudflare.com/client/v4/accounts/{ACCOUNT_ID}/ai/v1

Não se esqueça de substituir “{ACCOUNT_ID}” na URL pelo ID da sua conta exibido no Cloudflare.

Adicione o ID do modelo: @cf/deepseek-ai/deepseek-r1-distill-qwen-32b

Por fim, selecione o segredo que você acabou de criar.

Teste

Ótimo, agora que tudo está configurado, clique em “Testar agente de IA” e faça um teste com o seguinte problema de matemática:

“Dois trens passam um pelo outro, indo para leste/oeste, a velocidades de 65 mph e 85 mph. Quanto tempo levará até que estejam a 330 milhas de distância?”

Observação: se você não tiver um método de pagamento configurado, a API do Cloudflare Workers AI terá a taxa de uso limitada e você poderá enfrentar tempos de resposta mais longos. Configure sua conta de cobrança antes de colocar o projeto em produção. Isso pode não ocorrer em outras plataformas de hospedagem.

Conclusão

Criar agentes de IA conversacionais em tempo real com a plataforma Conversational AI da ElevenLabs permite que você reaja rapidamente ao lançamento de novos modelos, conectando LLMs personalizados por meio de qualquer provedor de API compatível com OpenAI.

Desde que o modelo que você deseja usar seja compatível com OpenAI e ofereça suporte a chamadas de função, é possível integrá-lo a um agente de voz em tempo real. Isso pode incluir modelos que você ajustou com conjuntos de dados personalizados. Você também pode usar qualquer voz disponível na Voice Library da ElevenLabs — ou sua própria voz, se tiver criado um clone da sua própria voz.