Parla con DeepSeek R1 grazie all’IA Conversazionale di ElevenLabs

Ultimamente tutti parlano di DeepSeek, ma nessuno si è fermato a chiedersi: che voce avrebbe DeepSeek se potesse parlare? È qui che possiamo usare l'IA conversazionale di ElevenLabs per rendere possibile parlare con DeepSeek R1.

L'IA conversazionale di ElevenLabs è una piattaforma per distribuire agenti vocali conversazionali personalizzati e in tempo reale. Uno dei principali vantaggi della piattaforma è la sua flessibilità: puoi integrare LLM diversi in base alle tue esigenze. 

L'opzione LLM personalizzato funziona con qualsiasi provider API compatibile con OpenAI, a condizione che il modello supporti l'uso di strumenti/function calling. Nella nostra documentazione trovi guide per GroqCloud, Together AI e Cloudflare. Per la demo seguente usiamo Cloudflare.

Usiamo il modello DeepSeek-R1-Distill-Qwen-32B, un modello distillato da DeepSeek-R1 e basato su Qwen2.5. Supera OpenAI-o1-mini in diversi benchmark, ottenendo nuovi risultati all'avanguardia per i modelli densi. 

Usiamo la versione distillata principalmente perché le versioni pure non funzionano ancora in modo affidabile con il function calling. In effetti, il modello di ragionamento R1 non supporta ancora affatto il function calling. Puoi seguire questa issue per restare aggiornato sui progressi.

Inizia con l'IA conversazionale di ElevenLabs

Collegare un LLM personalizzato è piuttosto semplice e il processo inizia creando un agente. Per questo progetto useremo il template Tutor di matematica. Se vuoi solo sentire come suona DeepSeek, abbiamo una demo dell'agente che puoi provare personalmente.

Per iniziare, vai alla pagina dell'app IA conversazionale di ElevenLabs e crea un nuovo agente IA chiamato “DeepSeeker”. Seleziona il template Tutor di matematica, perché è un caso d'uso in cui il ragionamento di DeepSeek può distinguersi, quindi seleziona “Crea agente”.

Il template di matematica include un system prompt che assicura la lettura di numeri ed equazioni in linguaggio naturale, anziché nel formato scritto dall'LLM. Ad esempio, gli diciamo di scrivere "Alfa per x al quadrato uguale a 4" se la risposta dell'LLM è "ax^2=4". 

I modelli di ragionamento in genere spiegano la loro “catena di pensiero”, ma possiamo anche ampliare il system prompt per essere ancora più sicuri di ottenere una buona lezione di matematica, ad esempio specificando che fornisce il ragionamento passo dopo passo per la soluzione. Puoi lasciarlo generico oppure ampliare il prompt con esempi specifici a cui può fare riferimento.

Tuttavia, se vuoi davvero farti un'idea della personalità di DeepSeek R1, puoi invece creare un template vuoto chiedendo all'agente di presentarsi come DeepSeek AI e impostare il system prompt affinché risponda a domande su vari argomenti. 

Configura DeepSeek R1 con Cloudflare Workers AI

Ora ci serve un endpoint per una versione di DeepSeek R1 da usare con il nostro agente. In questo esempio useremo Cloudflare, che fornisce DeepSeek-R1-Distill-Qwen-32B sulla sua piattaforma Workers AI a scopo di valutazione, ma puoi considerare anche altre opzioni per fornire i modelli, come fireworks.ai, GroqCloud e together.ai

Per prima cosa, vai su dash.cloudflare.com e crea un account o accedi al tuo. Nella navigazione, seleziona AI > Workers AI, quindi fai clic sul widget “Use REST API”.

Per ottenere una chiave API, fai clic su “Create a Workers AI API Token” e assicurati di conservarla in modo sicuro.

Una volta ottenuta la chiave API, puoi provarla subito con una richiesta curl. Cloudflare fornisce un endpoint API compatibile con OpenAI, rendendo tutto molto pratico. A questo punto, annota il modello e l'endpoint completo, incluso l'ID dell'account.

Ad esempio: https://api.cloudflare.com/client/v4/accounts/{ACCOUNT_ID}c/ai/v1/

curl https://api.cloudflare.com/client/v4/accounts/{ACCOUNT_ID}/ai/v1/chat/completions \
  -X POST \
  -H "Authorization: Bearer {API_TOKEN}" \
  -d '{
     "model": "@cf/deepseek-ai/deepseek-r1-distill-qwen-32b",
     "messages": [
       {"role": "system", "content": "You are a helpful assistant."},
       {"role": "user", "content": "How many Rs in the word Strawberry?"}
     ],
     "stream": false
   }'

Configura il tuo LLM personalizzato in ElevenLabs

Il passaggio successivo è aggiungere questi dettagli al tuo agente in ElevenLabs. Per prima cosa, vai al tuo agente IA DeepSeeker nell'app ElevenLabs e, in fondo alla pagina, aggiungi la chiave API che hai appena creato come segreto. Assegnale un nome come CLOUDFLARE_AUTH_TOKEN, quindi salva le modifiche.

Successivamente, in LLM seleziona l'opzione LLM personalizzato e inserisci l'endpoint API compatibile con OpenAI di Cloudflare Workers AI API: https://api.cloudflare.com/client/v4/accounts/{ACCOUNT_ID}/ai/v1

Assicurati di sostituire “{ACCOUNT_ID}” nell'URL con l'ID del tuo account mostrato in Cloudflare.

Aggiungi l'ID del modello: @cf/deepseek-ai/deepseek-r1-distill-qwen-32b

Infine, seleziona il segreto che hai appena creato.

Provalo

Perfetto, ora che è tutto configurato, facciamo clic su “Test AI agent” e proviamolo con il seguente problema di matematica:

“Due treni si incrociano viaggiando verso est/ovest a 65 mph e 85 mph. Quanto tempo occorre perché siano distanti 330 miglia?”

Nota: se non hai configurato un metodo di pagamento, l'API Cloudflare Workers AI verrà limitata e potresti riscontrare tempi di risposta più lunghi. Assicurati di configurare l'account di fatturazione prima di passare alla produzione. Questo potrebbe non essere un problema con altre piattaforme che forniscono modelli.

Conclusione

Creare agenti IA conversazionali in tempo reale con la piattaforma IA conversazionale di ElevenLabs ti consente di reagire rapidamente al rilascio di nuovi modelli, integrando LLM personalizzati tramite qualsiasi provider API compatibile con OpenAI.

Purché il modello che vuoi usare sia compatibile con OpenAI e supporti il function calling, puoi integrarlo con un agente vocale in tempo reale. Può trattarsi anche di modelli su cui hai eseguito il fine-tuning con dataset personalizzati. Puoi inoltre usare qualsiasi voce disponibile nella libreria di ElevenLabs oppure la tua voce, se hai creato un clone della tua voce.