AvancéModèles personnalisés

SambaNova Cloud

Connectez un agent à un LLM personnalisé sur SambaNova Cloud.

Vue d’ensemble

SambaNova Cloud est le fournisseur le plus rapide des meilleurs modèles open source, notamment DeepSeek R1, DeepSeek V3, Llama 4 Maverick et d’autres. Grâce à un point de terminaison d’API compatible avec OpenAI, vous pouvez configurer votre agent ElevenLabs sur ElevenLabs en quelques minutes seulement.

Regardez cette vidéo pour découvrir comment configurer votre agent ElevenLabs Agents afin de tirer parti des LLM ultra-rapides de SambaNova.

Choisir un modèle

Pour exploiter toute la puissance d’ElevenLabs Agents, vous devez utiliser un modèle compatible avec l’utilisation d’outils et les sorties structurées. SambaNova recommande les modèles suivants pour leur précision et leurs performances :

  • DeepSeek-V3-0324 (modèle de 671 milliards de paramètres)
  • Meta-Llama-3.3-70B-Instruct
  • Llama-4-Maverick-17B-128E-Instruct
  • Qwen3-32B

Pour obtenir les informations les plus récentes sur les fenêtres de contexte propres à chaque modèle, consultez cette page.

Notez que Meta-Llama-3.3-70B-Instruct est le modèle SambaNova le plus éprouvé. Si un modèle pose problème, vous pouvez le signaler sur la page Communauté de SambaNova.

Configurer votre agent ElevenLabs avec un LLM SambaNova

1

Accédez à cloud.sambanova.ai/apis et créez une clé API.

Ajouter un secret

2

Une fois votre clé API créée, vous pouvez la tester en exécutant la commande curl suivante :

curl -H "Authorization: Bearer <your-api-key>" \
 -H "Content-Type: application/json" \
 -d '{
"stream": true,
"model": "DeepSeek-V3-0324",
"messages": [
	{
		"role": "system",
		"content": "You are a helpful assistant"
	},
	{
		"role": "user",
		"content": "Hello"
	}
]
}' \
 -X POST https://api.sambanova.ai/v1/chat/completions
3

Créez un nouvel agent IA ou modifiez-en un existant.

4

Faites défiler jusqu’à la section « Secrets du Workspace » et sélectionnez « Ajouter un secret ». Nommez la clé SAMBANOVA_API_KEY et copiez la valeur depuis le Dashboard SambaNova Cloud. Cliquez sur « Enregistrer » pour que le secret soit accessible à votre agent.

Ajouter un secret

5

Choisissez « LLM personnalisé » dans le menu déroulant.

Choisir un LLM personnalisé

6

Pour l’URL du serveur, indiquez le point de terminaison d’API compatible avec OpenAI de SambaNova : https://api.sambanova.ai/v1. Pour l’ID du modèle, indiquez l’un des noms de modèles listés ci-dessus, par exemple Meta-Llama-3.3-70B-Instruct, puis sélectionnez la clé API SAMBANOVA_API_KEY dans le menu déroulant.

Saisir l’URL

7

Définissez le nombre maximal de jetons sur 1 024 afin de limiter la longueur des réponses de l’agent. Ajoutez également une instruction dans le prompt système demandant au modèle de répondre en 500 mots ou moins.

Saisir l’URL

8

Enregistrez vos modifications et cliquez sur « Tester l’agent IA » pour discuter avec votre agent propulsé par SambaNova.