मॉडल्स
जानें कि अपने उपयोग के मामले के लिए सही मॉडल कैसे चुनें
ElevenAgents आपके एजेंट को कई मॉडल्स और प्रोवाइडर्स से कनेक्ट करने के लिए एक एकीकृत इंटरफ़ेस देता है, जिससे लचीलापन, विश्वसनीयता और लागत अनुकूलन मिलता है।
मुख्य सुविधाएं
- एकीकृत एक्सेस: कम से कम कोड बदलावों के साथ प्रोवाइडर्स और मॉडल्स के बीच स्विच करें
- उच्च विश्वसनीयता: कोई प्रोवाइडर विफल होने पर अपने-आप दूसरे प्रोवाइडर पर स्विच करें
- खर्च की निगरानी: अलग-अलग मॉडल्स पर अपने खर्च की निगरानी करें
समर्थित मॉडल्स
फ़िलहाल, नीचे दिए गए मॉडल्स मूल रूप से समर्थित हैं और इन्हें एजेंट सेटिंग्स से कॉन्फ़िगर किया जा सकता है:
जब तक अलग से न बताया जाए, कीमत आमतौर पर 10 लाख टोकन के लिए USD में दी जाती है। टोकन LLM के लिए टेक्स्ट डेटा की एक बुनियादी इकाई है, जो औसतन लगभग 4 वर्णों के बराबर होती है।
कस्टम LLM
जिस एंडपॉइंट पर हमें रिक्वेस्ट भेजनी है उसे तय करके और हमारे सुरक्षित सीक्रेट स्टोरेज के ज़रिए क्रेडेंशियल देकर, आप अपना कस्टम LLM इस्तेमाल कर सकते हैं। कस्टम LLM इंटीग्रेशन के बारे में और जानें।
EU डेटा रेज़िडेंसी सक्षम होने पर कुछ मॉडल्स उपलब्ध नहीं होते। उपलब्धता की जानकारी के लिए GDPR और डेटा रेज़िडेंसी देखें।
मॉडल चुनना
अपने एप्लिकेशन के लिए सबसे उपयुक्त LLM चुनते समय कई बातों पर विचार करें:
- टास्क की जटिलता: अपने एप्लिकेशन के प्रतिनिधि टास्क के आधार पर मॉडल्स का मूल्यांकन करें
- लेटेंसी की ज़रूरतें: लाइव वॉइस बातचीत के लिए कम-लेटेंसी वाला मॉडल चुनें और अपने प्रॉम्प्ट्स व टूल्स के साथ रिस्पॉन्स टाइम मापें
- कॉन्टेक्स्ट विंडो का आकार: अगर आपके एप्लिकेशन को लंबी बातचीत या विस्तृत दस्तावेज़ों की जानकारी प्रोसेस, समझने या याद रखने की ज़रूरत है, तो बड़ी कॉन्टेक्स्ट विंडो वाले मॉडल्स चुनें
- लागत-प्रभावशीलता: अपनी ज़रूरत के प्रदर्शन और सुविधाओं को अपने बजट के साथ संतुलित करें। LLM की कीमतें काफ़ी अलग हो सकती हैं, इसलिए अपने अनुमानित उपयोग पैटर्न के आधार पर कीमत संरचना (इनपुट, आउटपुट और कैश टोकन) का विश्लेषण करें
- HIPAA अनुपालन: अगर आपके एप्लिकेशन में संरक्षित स्वास्थ्य जानकारी (PHI) शामिल है, तो HIPAA अनुपालक LLM का उपयोग करना और यह सुनिश्चित करना ज़रूरी है कि आपकी पूरी डेटा हैंडलिंग प्रक्रिया नियामक मानकों को पूरा करे
सिस्टम प्रॉम्प्ट का अधिकतम आकार 2MB है, जिसमें आपके एजेंट के निर्देश, नॉलेज बेस की सामग्री और अन्य सिस्टम-स्तरीय कॉन्टेक्स्ट शामिल हैं।
मॉडल कॉन्फ़िगरेशन
टेम्परेचर
टेम्परेचर मॉडल रिस्पॉन्स की यादृच्छिकता नियंत्रित करता है। कम वैल्यू ज़्यादा सुसंगत और केंद्रित आउटपुट देती हैं, जबकि ज़्यादा वैल्यू रचनात्मकता और विविधता बढ़ाती हैं।
- कम (0.0-0.3): संरचित इंटरैक्शन के लिए निर्धारित, सुसंगत रिस्पॉन्स
- मध्यम (0.4-0.7): रचनात्मकता और सुसंगतता का संतुलन
- उच्च (0.8-1.0): गतिशील बातचीत के लिए रचनात्मक, विविध रिस्पॉन्स
बैकअप LLM कॉन्फ़िगरेशन
प्राइमरी LLM के विफल या अनुपलब्ध होने पर बातचीत जारी रखने के लिए बैकअप LLM कॉन्फ़िगर करें।
कॉन्फ़िगरेशन विकल्प:
- डिफ़ॉल्ट: ElevenLabs के सुझाए गए फ़ॉलबैक क्रम का उपयोग करता है
- कस्टम: बैकअप मॉडल्स का अपना कैस्केडिंग क्रम तय करें
- बंद: कोई फ़ॉलबैक नहीं (प्रोडक्शन के लिए इसकी सख़्त सलाह नहीं दी जाती)
बैकअप LLMs बंद करने का मतलब है कि आपका प्राइमरी LLM विफल या अनुपलब्ध होने पर बातचीत अचानक खत्म हो जाएगी। प्रोडक्शन उपयोग के लिए इसकी सख़्त सलाह नहीं दी जाती।
LLM कैस्केडिंग के बारे में और जानें।
रीजनिंग
रीजनिंग एजेंट्स को जटिल निर्णय लेने में मदद करती है, जैसे टूल्स में से चुनना, नीतियां लागू करना या कई चरण वाले वर्कफ़्लो पूरे करना। मॉडल के आधार पर, आप थिंकिंग बजट या रीजनिंग एफ़र्ट स्तर से तय करते हैं कि यह कितनी रीजनिंग करे।
थिंकिंग बजट
न्यूमेरिक स्लाइडर से रीजनिंग टोकन की अधिकतम संख्या तय करें। बड़ा बजट रिस्पॉन्स टाइम बढ़ा सकता है। मॉडल अनुमति दे तो थिंकिंग बंद करने के लिए बजट 0 सेट करें।
रीजनिंग एफ़र्ट
रीजनिंग एफ़र्ट तय करता है कि जवाब देने से पहले मॉडल कितनी रीजनिंग करता है। उपलब्ध स्तर चुने गए मॉडल पर निर्भर करते हैं।
लाइव वॉइस एजेंट्स के लिए कम बजट या एफ़र्ट से शुरुआत करें, क्योंकि अतिरिक्त थिंकिंग टर्न लेने में देरी कर सकती है। अधिक जटिल निर्णयों वाले वर्कफ़्लो चरणों के लिए इसे बढ़ाएं।
रीजनिंग सारांश
रिस्पॉन्स, टूल कॉल या वर्कफ़्लो पाथ डीबग करते समय मॉडल की लौटाई गई रीजनिंग कैप्चर करने के लिए रीजनिंग सारांश सक्षम करें। एजेंट की LLM सेटिंग्स में रीजनिंग सारांश चालू करें या API के ज़रिए enable_reasoning_summary सेट करें। यह सेटिंग डिफ़ॉल्ट रूप से बंद रहती है।
कस्टम एंडपॉइंट्स के लिए, ElevenLabs रीजनिंग का अनुरोध और स्टोर कैसे करता है देखें।
रीजनिंग सामग्री रिटेंशन और PII रिडैक्शन सेटिंग्स के अधीन है। आप इसे इन चैनलों से एक्सेस कर सकते हैं:
ज़ीरो रिटेंशन मोड के साथ, ElevenLabs **रीजनिंग सामग्री स्टोर नहीं करता **। यह केवल चैट क्लाइंट्स और पोस्ट-कॉल वेबहुक्स तक पहुंचाई जाती है।
सीमाएं
- रीजनिंग सारांश का अनुरोध रिस्पॉन्स लेटेंसी बढ़ा सकता है। लेटेंसी-संवेदनशील वॉइस एजेंट्स पर इसे सक्षम करने से पहले टेस्ट करें।
- प्रोवाइडर्स सारांश, थॉट टेक्स्ट, रॉ रीजनिंग डेल्टास या कोई प्रदर्शित करने योग्य सामग्री नहीं लौटा सकते हैं।
कीमत समझना
- टोकन: LLM उपयोग का बिल आमतौर पर प्रोसेस किए गए टोकन की संख्या के आधार पर होता है। अंग्रेज़ी टेक्स्ट के लिए सामान्य रूप से 100 टोकन लगभग 75 शब्दों के बराबर होते हैं
- इनपुट बनाम आउटपुट कीमत: प्रोवाइडर्स अक्सर इनपुट टोकन (जो डेटा आप मॉडल को भेजते हैं) और आउटपुट टोकन (जो डेटा मॉडल जवाब में बनाता है) की कीमत अलग-अलग रखते हैं
- कैश कीमत:
input_cache_read: इसका मतलब कैश से पहले प्रोसेस किया गया इनपुट डेटा लाने से जुड़ी लागत है। एक जैसे इनपुट को कई बार प्रोसेस करने पर कैश डेटा का उपयोग लागत बचा सकता हैinput_cache_write: इसका मतलब इनपुट डेटा को कैश में स्टोर करने से जुड़ी लागत है। कुछ LLM प्रोवाइडर्स इस ऑपरेशन के लिए शुल्क ले सकते हैं
- इस दस्तावेज़ में दी गई कीमतें 10 लाख टोकन के लिए हैं और लिखे जाने के समय उपलब्ध जानकारी पर आधारित हैं। LLM प्रोवाइडर्स इन कीमतों को बदल सकते हैं
- पास-थ्रू कीमत: ElevenLabs बिना किसी मार्कअप के, प्रोवाइडर की प्रकाशित दर पर थर्ड-पार्टी LLM लागत आगे बढ़ाता है। चुनिंदा Gemini और Claude मॉडल्स की कीमत Vertex AI क्षेत्रीय (गैर-ग्लोबल) कीमत के अनुरूप है, जिस पर US और EU ट्रैफ़िक का बिल होता है — इनपुट, आउटपुट और कैश टोकन पर 10% बढ़ोतरी, जो Vertex की क्षेत्रीय दरों से मेल खाती है
मौजूदा मॉडल क्षमताओं, कीमत और सेवा की शर्तों के लिए प्रोवाइडर के दस्तावेज़ देखें।
HIPAA अनुपालन
हमारे प्लेटफ़ॉर्म पर उपलब्ध कुछ LLMs HIPAA अनुपालन की ज़रूरत वाले वातावरण में उपयोग के लिए उपयुक्त हो सकते हैं। अधिक जानकारी के लिए HIPAA अनुपालन दस्तावेज़ देखें।
संबंधित संसाधन
ElevenLabs द्वारा होस्ट किए गए मॉडल्स
ElevenLabs कई AI मॉडल्स का एक्सेस देता है, जिनमें चुनिंदा थर्ड-पार्टी मॉडल्स भी शामिल हैं जिन्हें ElevenLabs होस्ट करता है।
जब किसी मॉडल को “ElevenLabs द्वारा होस्ट किया गया” नामित किया जाता है, तो वह मॉडल ElevenLabs द्वारा प्रबंधित इन्फ्रास्ट्रक्चर पर डिप्लॉय और संचालित होता है। ये मॉडल्स फ़िलहाल संयुक्त राज्य अमेरिका में या आपके एंटरप्राइज़ डिप्लॉयमेंट के क्षेत्र में होस्ट किए जाते हैं।
ElevenLabs द्वारा होस्ट किए गए मॉडल्स की पहचान कैसे करें
ElevenLabs द्वारा होस्ट किए गए मॉडल्स को ElevenLabs इंटरफ़ेस में साफ़ तौर पर लेबल किया जाता है। मॉडल्स ब्राउज़ या चुनते समय “ElevenLabs द्वारा होस्ट किया गया” पदनाम देखें।
आपका डेटा कैसे हैंडल किया जाता है
ElevenLabs द्वारा होस्ट किए गए मॉडल्स के लिए, रिक्वेस्ट्स को ElevenLabs-प्रबंधित इन्फ्रास्ट्रक्चर में प्रोसेस किया जाता है। इसका मतलब है कि मूल मॉडल प्रोवाइडर को ElevenLabs के ज़रिए भेजे गए इनपुट और आउटपुट न तो मिलते हैं, न उन तक पहुंच होती है और न ही वे उन्हें प्रोसेस करते हैं।
इन मॉडल्स को होस्ट करके, ElevenLabs मॉडल रिक्वेस्ट्स सर्व करने के लिए इस्तेमाल होने वाले इन्फ्रास्ट्रक्चर पर नियंत्रण बनाए रखते हुए एक सुसंगत अनुभव दे सकता है।
अक्सर पूछे जाने वाले सवाल
सेल्फ-होस्टेड मॉडल्स कहां होस्ट किए जाते हैं?
ElevenLabs द्वारा होस्ट किए गए मॉडल्स फ़िलहाल संयुक्त राज्य अमेरिका में स्थित इन्फ्रास्ट्रक्चर पर या आपके एंटरप्राइज़ डिप्लॉयमेंट के क्षेत्र में होस्ट किए जाते हैं।
क्या मूल मॉडल प्रोवाइडर मेरे डेटा या मेरे उपयोग के मेटाडेटा को एक्सेस करता है?
ElevenLabs द्वारा होस्ट किए गए मॉडल्स के लिए, मॉडल के मूल डेवलपर को कभी भी आपके इनपुट या आउटपुट नहीं मिलते और उन्हें उन डेटा तक पहुंच नहीं होती जो उन्हें प्रोसेस करने वाले डिप्लॉयमेंट से संबंधित है।
मुझे कैसे पता चलेगा कि कोई मॉडल ElevenLabs द्वारा होस्ट किया गया है?
ElevenLabs द्वारा होस्ट किए गए मॉडल्स को ElevenLabs इंटरफ़ेस में “ElevenLabs द्वारा होस्ट किया गया” पदनाम के साथ स्पष्ट रूप से पहचाना जाता है।