SambaNova Cloud

SambaNova Cloud पर एजेंट को कस्टम LLM से कनेक्ट करें।

परिचय

SambaNova Cloud, DeepSeek R1, DeepSeek V3, Llama 4 Maverick और अन्य समेत, सबसे बेहतरीन ओपन सोर्स मॉडल्स का सबसे तेज़ प्रोवाइडर है। OpenAI-संगत API एंडपॉइंट के ज़रिए, आप कुछ ही मिनटों में ElevenLabs पर अपना ElevenLabs एजेंट सेट अप कर सकते हैं।

इस वीडियो में जानें कि SambaNova के बेहद तेज़ LLMs का इस्तेमाल करने के लिए अपने ElevenLabs Agents एजेंट को कैसे कॉन्फ़िगर करें। इसमें पूरा वॉकथ्रू और डेमो भी है!

मॉडल चुनना

ElevenLabs Agents की पूरी क्षमता का इस्तेमाल करने के लिए, आपको ऐसा मॉडल इस्तेमाल करना होगा जो टूल यूज़ और स्ट्रक्चर्ड आउटपुट को सपोर्ट करता हो। SambaNova सटीकता और प्रदर्शन के लिए इन मॉडलों की सलाह देता है:

  • DeepSeek-V3-0324 (671B मॉडल)
  • Meta-Llama-3.3-70B-Instruct
  • Llama-4-Maverick-17B-128E-Instruct
  • Qwen3-32B

मॉडल-विशिष्ट कॉन्टेक्स्ट विंडो की नई जानकारी के लिए, कृपया इस पेज को देखें।

ध्यान दें कि Meta-Llama-3.3-70B-Instruct, SambaNova का सबसे ज़्यादा टेस्ट किया गया मॉडल है। अगर किसी मॉडल में समस्या आ रही है, तो आप SambaNova के कम्युनिटी पेज पर इसकी रिपोर्ट कर सकते हैं।

SambaNova LLM के साथ अपना ElevenLabs एजेंट कॉन्फ़िगर करें

1

cloud.sambanova.ai/apis पर जाएं और नई API कुंजी बनाएं।

सीक्रेट जोड़ें

2

API कुंजी मिलने के बाद, आप नीचे दिया गया curl कमांड चलाकर इसे टेस्ट कर सकते हैं:

curl -H "Authorization: Bearer <your-api-key>" \
-H "Content-Type: application/json" \
-d '{
"stream": true,
"model": "DeepSeek-V3-0324",
"messages": [
{
"role": "system",
"content": "You are a helpful assistant"
},
{
"role": "user",
"content": "Hello"
}
]
}' \
-X POST https://api.sambanova.ai/v1/chat/completions
3

नया AI Agent बनाएं या किसी मौजूदा एजेंट को एडिट करें।

4

नीचे स्क्रॉल करके “Workspace Secrets” सेक्शन में जाएं और “Add Secret” चुनें। कुंजी का नाम SAMBANOVA_API_KEY रखें और SambaNova Cloud डैशबोर्ड से वैल्यू कॉपी करें। सीक्रेट को अपने एजेंट के लिए उपलब्ध कराने के लिए “Save” पर ज़रूर क्लिक करें।

सीक्रेट जोड़ें

5

ड्रॉपडाउन मेनू से “Custom LLM” चुनें।

कस्टम llm चुनें

6

Server URL के लिए SambaNova का OpenAI-संगत API एंडपॉइंट बताएं: https://api.sambanova.ai/v1। Model ID के लिए ऊपर दिए गए मॉडल नामों में से कोई एक बताएं (जैसे, Meta-Llama-3.3-70B-Instruct) और ड्रॉपडाउन मेनू से SAMBANOVA_API_KEY API कुंजी चुनें।

url दर्ज करें

7

संक्षिप्त आउटपुट के लिए एजेंट के आउटपुट को सीमित रखने हेतु अधिकतम टोकन 1024 पर सेट करें। साथ ही, System Prompt में मॉडल के लिए 500 शब्दों या उससे कम में जवाब देने का निर्देश ज़रूर जोड़ें।

url दर्ज करें

8

बदलाव सेव करें और अपने SambaNova-संचालित एजेंट के साथ चैट करने के लिए “Test AI Agent” पर क्लिक करें!