SambaNova Cloud

SambaNova Cloud의 사용자 지정 LLM에 에이전트를 연결하세요.

개요

SambaNova Cloud는 DeepSeek R1, DeepSeek V3, Llama 4 Maverick 등을 포함한 최고의 오픈 소스 모델을 가장 빠르게 제공하는 서비스입니다. OpenAI 호환 API 엔드포인트를 통해 몇 분 만에 ElevenLabs에서 ElevenLabs 에이전트를 설정할 수 있습니다.

이 동영상에서 ElevenLabs Agents 에이전트가 SambaNova의 초고속 LLM을 활용하도록 구성하는 방법을 단계별 안내와 데모로 확인하세요!

모델 선택

ElevenLabs Agents의 모든 기능을 활용하려면 도구 사용 및 구조화된 출력을 지원하는 모델을 사용해야 합니다. SambaNova는 정확도와 성능을 위해 다음 모델을 권장합니다.

  • DeepSeek-V3-0324 (671B 모델)
  • Meta-Llama-3.3-70B-Instruct
  • Llama-4-Maverick-17B-128E-Instruct
  • Qwen3-32B

모델별 컨텍스트 윈도우에 관한 최신 정보는 이 페이지를 참고하세요.

Meta-Llama-3.3-70B-Instruct는 SambaNova에서 가장 광범위하게 검증된 모델입니다. 모델 사용 중 문제가 발생하면 SambaNova 커뮤니티 페이지에서 신고할 수 있습니다.

SambaNova LLM으로 ElevenLabs 에이전트 구성하기

1

cloud.sambanova.ai/apis로 이동하여 새 API 키를 만드세요.

시크릿 추가

2

API 키를 받으면 다음 curl 명령어를 실행하여 테스트할 수 있습니다.

curl -H "Authorization: Bearer <your-api-key>" \
-H "Content-Type: application/json" \
-d '{
"stream": true,
"model": "DeepSeek-V3-0324",
"messages": [
{
"role": "system",
"content": "You are a helpful assistant"
},
{
"role": "user",
"content": "Hello"
}
]
}' \
-X POST https://api.sambanova.ai/v1/chat/completions
3

새 AI 에이전트를 만들거나 기존 에이전트를 수정하세요.

4

아래로 스크롤하여 “Workspace Secrets” 섹션에서 “Add Secret”을 선택하세요. 키 이름을 SAMBANOVA_API_KEY로 지정하고 SambaNova Cloud 대시보드에서 값을 복사하세요. 시크릿을 에이전트에서 사용할 수 있도록 반드시 “Save”를 누르세요.

시크릿 추가

5

드롭다운 메뉴에서 “Custom LLM”을 선택하세요.

사용자 지정 LLM 선택

6

Server URL에 SambaNova의 OpenAI 호환 API 엔드포인트인 https://api.sambanova.ai/v1를 지정하세요. Model ID에는 위에 표시된 모델 이름 중 하나(예: Meta-Llama-3.3-70B-Instruct)를 지정하고, 드롭다운 메뉴에서 SAMBANOVA_API_KEY API 키를 선택하세요.

URL 입력

7

에이전트 출력을 간결하게 제한하려면 최대 토큰을 1024로 설정하세요. 또한 System Prompt에 모델이 500단어 이하로 응답하도록 지시하는 내용을 포함해야 합니다.

URL 입력

8

변경 사항을 저장하고 “Test AI Agent”를 클릭하여 SambaNova 기반 에이전트와 대화하세요!