SambaNova Cloud

Conecte um agente a um LLM personalizado no SambaNova Cloud.

Visão geral

O SambaNova Cloud é o provedor mais rápido dos melhores modelos de código aberto, incluindo DeepSeek R1, DeepSeek V3, Llama 4 Maverick e outros. Por meio de um endpoint de API compatível com OpenAI, você pode configurar seu agente da ElevenLabs em apenas alguns minutos.

Assista a este vídeo para conferir um passo a passo e uma demonstração de como configurar seu agente do ElevenLabs Agents para aproveitar os LLMs ultrarrápidos da SambaNova!

Como escolher um modelo

Para aproveitar todo o potencial do ElevenLabs Agents, você precisa usar um modelo compatível com uso de ferramentas e saídas estruturadas. A SambaNova recomenda os seguintes modelos por sua precisão e desempenho:

  • DeepSeek-V3-0324 (modelo de 671B)
  • Meta-Llama-3.3-70B-Instruct
  • Llama-4-Maverick-17B-128E-Instruct
  • Qwen3-32B

Para informações atualizadas sobre janelas de contexto específicas de cada modelo, consulte esta página.

Observe que Meta-Llama-3.3-70B-Instruct é o modelo da SambaNova mais testado em cenários reais. Se algum modelo estiver apresentando problemas, você poderá relatá-los na página da comunidade da SambaNova.

Como configurar seu agente da ElevenLabs com um LLM da SambaNova

1

Acesse cloud.sambanova.ai/apis e crie uma nova chave de API.

Adicionar segredo

2

Depois de obter sua chave de API, você poderá testá-la executando o seguinte comando curl:

curl -H "Authorization: Bearer <your-api-key>" \
-H "Content-Type: application/json" \
-d '{
"stream": true,
"model": "DeepSeek-V3-0324",
"messages": [
{
"role": "system",
"content": "You are a helpful assistant"
},
{
"role": "user",
"content": "Hello"
}
]
}' \
-X POST https://api.sambanova.ai/v1/chat/completions
3

Crie um novo Agente de IA ou edite um existente.

4

Role até a seção “Segredos do espaço de trabalho” e selecione “Adicionar segredo”. Dê à chave o nome SAMBANOVA_API_KEY e copie o valor do painel do SambaNova Cloud. Não deixe de clicar em “Salvar” para disponibilizar o segredo ao seu agente.

Adicionar segredo

5

Escolha “LLM personalizado” no menu suspenso.

Escolher LLM personalizado

6

No URL do servidor, informe o endpoint da API compatível com OpenAI da SambaNova: https://api.sambanova.ai/v1. No ID do modelo, informe um dos nomes de modelo indicados acima (por exemplo, Meta-Llama-3.3-70B-Instruct) e selecione a chave de API SAMBANOVA_API_KEY no menu suspenso.

Inserir URL

7

Defina o máximo de tokens como 1024 para limitar a saída do agente e mantê-la concisa. Inclua também uma instrução no prompt de sistema para que o modelo responda em até 500 palavras.

Inserir URL

8

Salve suas alterações e clique em “Testar Agente de IA” para conversar com seu agente com tecnologia da SambaNova!