Vai alla navigazione
AvanzateModelli personalizzati

SambaNova Cloud

Collega un agente a un LLM personalizzato su SambaNova Cloud.

Panoramica

SambaNova Cloud è il fornitore più veloce dei migliori modelli open source, tra cui DeepSeek R1, DeepSeek V3, Llama 4 Maverick e altri. Tramite un endpoint API compatibile con OpenAI, puoi configurare il tuo agente ElevenLabs in pochi minuti.

Guarda questo video per una guida e una demo su come configurare il tuo agente ElevenLabs Agents per usare gli LLM ultraveloci di SambaNova.

Scegliere un modello

Per sfruttare appieno ElevenLabs Agents, devi usare un modello che supporti l’uso di strumenti e output strutturati. SambaNova consiglia i seguenti modelli per precisione e prestazioni:

  • DeepSeek-V3-0324 (modello da 671B)
  • Meta-Llama-3.3-70B-Instruct
  • Llama-4-Maverick-17B-128E-Instruct
  • Qwen3-32B

Per informazioni aggiornate sulle finestre di contesto specifiche per modello, consulta questa pagina.

Tieni presente che Meta-Llama-3.3-70B-Instruct è il modello di SambaNova più collaudato. Se un modello causa problemi, puoi segnalarlo nella pagina della community di SambaNova.

Configurare il tuo agente ElevenLabs con un LLM SambaNova

1

Vai a cloud.sambanova.ai/apis e crea una nuova chiave API.

Aggiungi secret

2

Una volta ottenuta la chiave API, puoi testarla eseguendo il seguente comando curl:

curl -H "Authorization: Bearer <your-api-key>" \
 -H "Content-Type: application/json" \
 -d '{
"stream": true,
"model": "DeepSeek-V3-0324",
"messages": [
	{
		"role": "system",
		"content": "You are a helpful assistant"
	},
	{
		"role": "user",
		"content": "Hello"
	}
]
}' \
 -X POST https://api.sambanova.ai/v1/chat/completions
3

Crea un nuovo agente IA o modifica uno esistente.

4

Scorri fino alla sezione “Workspace Secrets” e seleziona “Add Secret”. Assegna alla chiave il nome SAMBANOVA_API_KEY e copia il valore dalla dashboard di SambaNova Cloud. Assicurati di selezionare “Save” per rendere il secret disponibile al tuo agente.

Aggiungi secret

5

Scegli “Custom LLM” dal menu a discesa.

Scegli LLM personalizzato

6

Per l’URL del server, specifica l’endpoint API compatibile con OpenAI di SambaNova: https://api.sambanova.ai/v1. Per l’ID del modello, specifica uno dei nomi dei modelli indicati sopra (ad esempio, Meta-Llama-3.3-70B-Instruct) e seleziona la chiave API SAMBANOVA_API_KEY dal menu a discesa.

Inserisci URL

7

Imposta il numero massimo di token a 1024 per limitare l’output dell’agente e mantenerlo breve. Assicurati inoltre di includere nel System Prompt un’istruzione affinché il modello risponda in 500 parole o meno.

Inserisci URL

8

Salva le modifiche e fai clic su “Test AI Agent” per chattare con il tuo agente basato su SambaNova!