Hoppa till navigering

SambaNova Cloud

Anslut en agent till en anpassad LLM i SambaNova Cloud.

Översikt

SambaNova Cloud är den snabbaste leverantören av de bästa open source-modellerna, däribland DeepSeek R1, DeepSeek V3, Llama 4 Maverick och andra. Via en OpenAI-kompatibel API-slutpunkt kan du konfigurera din ElevenLabs-agent på ElevenLabs på bara några minuter.

Se den här videon för en genomgång och demonstration av hur du kan konfigurera din ElevenLabs Agents-agent för att använda SambaNovas blixtsnabba LLM:er!

Välj en modell

För att dra full nytta av ElevenLabs Agents behöver du använda en modell som stöder verktygsanvändning och strukturerade utdata. SambaNova rekommenderar följande modeller för deras noggrannhet och prestanda:

  • DeepSeek-V3-0324 (671B-modell)
  • Meta-Llama-3.3-70B-Instruct
  • Llama-4-Maverick-17B-128E-Instruct
  • Qwen3-32B

Aktuell information om modellspecifika kontextfönster finns på den här sidan.

Observera att Meta-Llama-3.3-70B-Instruct är SambaNovas mest beprövade modell. Om en modell orsakar problem kan du rapportera det på SambaNovas Community-sida.

Konfigurera din ElevenLabs-agent med en SambaNova LLM

1

Gå till cloud.sambanova.ai/apis och skapa en ny API-nyckel.

Lägg till hemlighet

2

När du har din API-nyckel kan du testa den genom att köra följande curl-kommando:

curl -H "Authorization: Bearer <your-api-key>" \
-H "Content-Type: application/json" \
-d '{
"stream": true,
"model": "DeepSeek-V3-0324",
"messages": [
{
"role": "system",
"content": "You are a helpful assistant"
},
{
"role": "user",
"content": "Hello"
}
]
}' \
-X POST https://api.sambanova.ai/v1/chat/completions
3

Skapa en ny AI Agent eller redigera en befintlig.

4

Skrolla ned till avsnittet “Workspace Secrets” och välj “Add Secret”. Namnge nyckeln SAMBANOVA_API_KEY och kopiera värdet från SambaNova Cloud-instrumentpanelen. Klicka på “Save” för att göra hemligheten tillgänglig för din agent.

Lägg till hemlighet

5

Välj “Custom LLM” i rullgardinsmenyn.

Välj anpassad LLM

6

Ange SambaNovas OpenAI-kompatibla API-slutpunkt som server-URL: https://api.sambanova.ai/v1. Ange ett av modellnamnen ovan som modell-ID (till exempel Meta-Llama-3.3-70B-Instruct) och välj API-nyckeln SAMBANOVA_API_KEY i rullgardinsmenyn.

Ange URL

7

Ange maximalt antal tokens till 1024 för att begränsa agentens utdata. Lägg även till en instruktion i systemprompten om att modellen ska svara med högst 500 ord.

Ange URL

8

Spara ändringarna och klicka på “Test AI Agent” för att chatta med din SambaNova-drivna agent!