Skip to navigation

SambaNova Cloud

Koppel een agent aan een aangepast LLM op SambaNova Cloud.

Overzicht

SambaNova Cloud is de snelste provider van de beste open-sourcemodellen, waaronder DeepSeek R1, DeepSeek V3, Llama 4 Maverick en andere. Via een met OpenAI compatibel API-endpoint kun je je ElevenLabs-agent in slechts enkele minuten instellen op ElevenLabs.

Bekijk deze video voor een uitleg en demo van hoe je je ElevenLabs Agents-agent kunt configureren om gebruik te maken van de razendsnelle LLM’s van SambaNova!

Een model kiezen

Om optimaal gebruik te maken van ElevenLabs Agents, moet je een model gebruiken dat toolgebruik en gestructureerde outputs ondersteunt. SambaNova raadt de volgende modellen aan vanwege hun nauwkeurigheid en prestaties:

  • DeepSeek-V3-0324 (671B-model)
  • Meta-Llama-3.3-70B-Instruct
  • Llama-4-Maverick-17B-128E-Instruct
  • Qwen3-32B

Bekijk deze pagina voor actuele informatie over contextvensters per model.

Houd er rekening mee dat Meta-Llama-3.3-70B-Instruct het meest beproefde model van SambaNova is. Als een model problemen veroorzaakt, kun je dit melden op de Community-pagina van SambaNova.

Je ElevenLabs-agent configureren met een SambaNova-LLM

1

Ga naar cloud.sambanova.ai/apis en maak een nieuwe API-sleutel.

Secret toevoegen

2

Zodra je je API-sleutel hebt, kun je deze testen door de volgende curl-opdracht uit te voeren:

curl -H "Authorization: Bearer <your-api-key>" \
-H "Content-Type: application/json" \
-d '{
"stream": true,
"model": "DeepSeek-V3-0324",
"messages": [
{
"role": "system",
"content": "You are a helpful assistant"
},
{
"role": "user",
"content": "Hello"
}
]
}' \
-X POST https://api.sambanova.ai/v1/chat/completions
3

Maak een nieuwe AI-agent of bewerk een bestaande.

4

Scrol omlaag naar de sectie “Workspace Secrets” en selecteer “Add Secret”. Geef de sleutel de naam SAMBANOVA_API_KEY en kopieer de waarde uit het SambaNova Cloud-dashboard. Klik op “Save” om het secret beschikbaar te maken voor je agent.

Secret toevoegen

5

Kies “Custom LLM” in het dropdownmenu.

Aangepaste LLM kiezen

6

Geef voor de Server URL het OpenAI-compatibele API-endpoint van SambaNova op: https://api.sambanova.ai/v1. Geef voor de Model ID een van de bovenstaande modelnamen op (bijvoorbeeld Meta-Llama-3.3-70B-Instruct) en selecteer de API-sleutel SAMBANOVA_API_KEY in het dropdownmenu.

URL invoeren

7

Stel het maximumaantal tokens in op 1024 om de output van de agent beknopt te houden. Neem ook een instructie op in de System Prompt dat het model in maximaal 500 woorden moet antwoorden.

URL invoeren

8

Sla je wijzigingen op en klik op “Test AI Agent” om te chatten met je door SambaNova aangedreven agent!