SambaNova Cloud

Połącz agenta z własnym LLM w SambaNova Cloud.

Omówienie

SambaNova Cloud to najszybszy dostawca najlepszych modeli open source, w tym DeepSeek R1, DeepSeek V3, Llama 4 Maverick i innych. Dzięki punktowi końcowemu API zgodnemu z OpenAI skonfigurujesz agenta ElevenLabs w zaledwie kilka minut.

Obejrzyj to wideo, aby zobaczyć instrukcję i demo konfiguracji agenta ElevenLabs Agents, który korzysta z błyskawicznych LLM-ów SambaNova!

Wybór modelu

Aby w pełni wykorzystać ElevenLabs Agents, potrzebujesz modelu obsługującego narzędzia i ustrukturyzowane dane wyjściowe. SambaNova poleca te modele ze względu na dokładność i wydajność:

  • DeepSeek-V3-0324 (model 671B)
  • Meta-Llama-3.3-70B-Instruct
  • Llama-4-Maverick-17B-128E-Instruct
  • Qwen3-32B

Aktualne informacje o oknach kontekstowych poszczególnych modeli znajdziesz na tej stronie.

Pamiętaj, że Meta-Llama-3.3-70B-Instruct to najlepiej sprawdzony model SambaNova. Jeśli któryś model powoduje problemy, możesz je zgłosić na stronie Społeczności SambaNova.

Konfiguracja agenta ElevenLabs z LLM-em SambaNova

1

Przejdź do cloud.sambanova.ai/apis i utwórz nowy klucz API.

Dodaj sekret

2

Gdy masz już klucz API, możesz go przetestować, uruchamiając poniższe polecenie curl:

curl -H "Authorization: Bearer <your-api-key>" \
-H "Content-Type: application/json" \
-d '{
"stream": true,
"model": "DeepSeek-V3-0324",
"messages": [
{
"role": "system",
"content": "You are a helpful assistant"
},
{
"role": "user",
"content": "Hello"
}
]
}' \
-X POST https://api.sambanova.ai/v1/chat/completions
3

Utwórz nowego agenta AI lub edytuj istniejącego.

4

Przewiń do sekcji „Sekrety workspace’u” i wybierz „Dodaj sekret”. Nazwij klucz SAMBANOVA_API_KEY i skopiuj wartość z panelu SambaNova Cloud. Kliknij „Zapisz”, aby sekret był dostępny dla agenta.

Dodaj sekret

5

Wybierz „Własny LLM” z menu rozwijanego.

Wybierz własny LLM

6

W polu URL serwera podaj punkt końcowy API SambaNova zgodny z OpenAI: https://api.sambanova.ai/v1. W polu ID modelu podaj jedną z nazw modeli wskazanych powyżej (np. Meta-Llama-3.3-70B-Instruct) i wybierz z menu rozwijanego klucz API SAMBANOVA_API_KEY.

Wpisz URL

7

Ustaw maksymalną liczbę tokenów na 1024, aby skrócić odpowiedzi agenta. Dodaj też w System Prompt instrukcję, by model odpowiadał w maksymalnie 500 słowach.

Wpisz URL

8

Zapisz zmiany i kliknij „Testuj agenta AI”, aby porozmawiać z agentem opartym na SambaNova!