AvanzadoModelos personalizados

SambaNova Cloud

Conecta un agente a un LLM personalizado en SambaNova Cloud.

Descripción general

SambaNova Cloud es el proveedor más rápido de los mejores modelos de código abierto, incluidos DeepSeek R1, DeepSeek V3, Llama 4 Maverick y otros. A través de una ruta de API compatible con OpenAI, puedes configurar tu agente de ElevenLabs en solo unos minutos.

Mira este vídeo para ver una guía y demostración de cómo configurar tu agente de ElevenLabs Agents para aprovechar los LLM ultrarrápidos de SambaNova.

Elegir un modelo

Para aprovechar toda la potencia de ElevenLabs Agents, necesitas usar un modelo compatible con el uso de herramientas y las salidas estructuradas. SambaNova recomienda los siguientes modelos por su precisión y rendimiento:

  • DeepSeek-V3-0324 (modelo de 671B)
  • Meta-Llama-3.3-70B-Instruct
  • Llama-4-Maverick-17B-128E-Instruct
  • Qwen3-32B

Para consultar información actualizada sobre las ventanas de contexto específicas de cada modelo, visita esta página.

Ten en cuenta que Meta-Llama-3.3-70B-Instruct es el modelo de SambaNova más probado en entornos reales. Si algún modelo te causa problemas, puedes notificarlos en la página de la comunidad de SambaNova.

Configurar tu agente de ElevenLabs con un LLM de SambaNova

1

Ve a cloud.sambanova.ai/apis y crea una clave de API nueva.

Añadir secreto

2

Cuando tengas tu clave de API, puedes probarla ejecutando el siguiente comando curl:

curl -H "Authorization: Bearer <your-api-key>" \
 -H "Content-Type: application/json" \
 -d '{
"stream": true,
"model": "DeepSeek-V3-0324",
"messages": [
	{
		"role": "system",
		"content": "You are a helpful assistant"
	},
	{
		"role": "user",
		"content": "Hello"
	}
]
}' \
 -X POST https://api.sambanova.ai/v1/chat/completions
3

Crea un nuevo agente de IA o edita uno existente.

4

Desplázate hasta la sección “Secretos del espacio de trabajo” y selecciona “Añadir secreto”. Asigna a la clave el nombre SAMBANOVA_API_KEY y copia el valor del panel de SambaNova Cloud. Asegúrate de pulsar “Guardar” para que el secreto esté disponible para tu agente.

Añadir secreto

5

Elige “LLM personalizado” en el menú desplegable.

Elegir LLM personalizado

6

En la URL del servidor, indica la ruta de API compatible con OpenAI de SambaNova: https://api.sambanova.ai/v1. En el ID del modelo, indica uno de los nombres de modelo mencionados anteriormente (por ejemplo, Meta-Llama-3.3-70B-Instruct) y selecciona la clave de API SAMBANOVA_API_KEY en el menú desplegable.

Introducir URL

7

Establece el máximo de tokens en 1024 para limitar la salida del agente y mantenerla breve. Asegúrate también de incluir en el Prompt del sistema una instrucción para que el modelo responda en 500 palabras o menos.

Introducir URL

8

Guarda los cambios y haz clic en “Probar agente de IA” para conversar con tu agente impulsado por SambaNova.