मॉडल
अपने उपयोग के लिए सही मॉडल चुनना सीखें
ElevenAgents आपके एजेंट को कई मॉडल और प्रोवाइडर से जोड़ने के लिए एक एकीकृत इंटरफ़ेस देता है, जिससे आपको लचीलापन, विश्वसनीयता और लागत अनुकूलन मिलता है।
मुख्य सुविधाएं
- एकीकृत एक्सेस: कम से कम कोड बदलावों के साथ प्रोवाइडर और मॉडल बदलें
- उच्च विश्वसनीयता: अगर कोई प्रोवाइडर विफल हो जाए, तो अपने-आप दूसरे प्रोवाइडर पर जाएं
- खर्च की निगरानी: अलग-अलग मॉडलों पर अपने खर्च की निगरानी करें
समर्थित मॉडल
फिलहाल, नीचे दिए गए मॉडल नेटिव रूप से समर्थित हैं और इन्हें एजेंट सेटिंग्स से कॉन्फ़िगर किया जा सकता है:
जब तक अलग से न बताया जाए, कीमत आमतौर पर प्रति 10 लाख टोकन के लिए USD में दी जाती है। टोकन LLM के लिए टेक्स्ट डेटा की एक मूल इकाई है, जो औसतन लगभग 4 वर्णों के बराबर होती है।
कस्टम LLM
हमारे सुरक्षित सीक्रेट स्टोरेज के ज़रिए क्रेडेंशियल देकर और वह एंडपॉइंट बताकर जिस पर हमें अनुरोध भेजने हैं, आप अपना कस्टम LLM इस्तेमाल कर सकते हैं। कस्टम LLM इंटीग्रेशन के बारे में और जानें।
EU डेटा रेज़िडेंसी सक्षम होने पर कुछ मॉडल उपलब्ध नहीं होते। उपलब्धता की जानकारी के लिए GDPR और डेटा रेज़िडेंसी देखें।
मॉडल चुनना
अपने एप्लिकेशन के लिए सबसे उपयुक्त LLM चुनते समय कई बातों पर विचार करना होता है:
- टास्क की जटिलता: अपने एप्लिकेशन के प्रतिनिधि टास्क के आधार पर मॉडलों का मूल्यांकन करें
- लेटेंसी की ज़रूरतें: लाइव वॉइस बातचीत के लिए कम लेटेंसी वाला मॉडल चुनें और अपने प्रॉम्प्ट व टूल के साथ रिस्पॉन्स समय मापें
- कॉन्टेक्स्ट विंडो का आकार: अगर आपके एप्लिकेशन को लंबी बातचीत या विस्तृत दस्तावेज़ों की जानकारी प्रोसेस, समझनी या याद रखनी है, तो बड़ी कॉन्टेक्स्ट विंडो वाले मॉडल चुनें
- लागत-प्रभावशीलता: अपने बजट के साथ वांछित प्रदर्शन और सुविधाओं का संतुलन बनाएं। LLM की कीमतें काफी अलग हो सकती हैं, इसलिए अपने अनुमानित उपयोग पैटर्न के अनुसार मूल्य संरचना (इनपुट, आउटपुट और कैश टोकन) का विश्लेषण करें
- HIPAA अनुपालन: अगर आपके एप्लिकेशन में प्रोटेक्टेड हेल्थ इन्फ़ॉर्मेशन (PHI) शामिल है, तो HIPAA अनुपालन के लिए निर्दिष्ट LLM इस्तेमाल करना और पूरी डेटा हैंडलिंग प्रक्रिया का नियामक मानकों के अनुरूप होना ज़रूरी है
सिस्टम प्रॉम्प्ट का अधिकतम आकार 2MB है, जिसमें आपके एजेंट के निर्देश, नॉलेज बेस कॉन्टेंट और अन्य सिस्टम-स्तरीय कॉन्टेक्स्ट शामिल हैं।
मॉडल कॉन्फ़िगरेशन
टेम्परेचर
टेम्परेचर मॉडल रिस्पॉन्स की रैंडमनेस नियंत्रित करता है। कम मान अधिक सुसंगत और केंद्रित आउटपुट देते हैं, जबकि अधिक मान रचनात्मकता और विविधता बढ़ाते हैं।
- कम (0.0-0.3): संरचित इंटरैक्शन के लिए निर्धारक, सुसंगत रिस्पॉन्स
- मध्यम (0.4-0.7): रचनात्मकता और सुसंगतता का संतुलन
- उच्च (0.8-1.0): गतिशील बातचीत के लिए रचनात्मक, विविध रिस्पॉन्स
बैकअप LLM कॉन्फ़िगरेशन
प्राइमरी LLM विफल होने या अनुपलब्ध होने पर बातचीत जारी रखने के लिए बैकअप LLM कॉन्फ़िगर करें।
कॉन्फ़िगरेशन विकल्प:
- डिफ़ॉल्ट: ElevenLabs के सुझाए गए फ़ॉलबैक क्रम का उपयोग करता है
- कस्टम: बैकअप मॉडलों का अपना कैस्केडिंग क्रम तय करें
- अक्षम: कोई फ़ॉलबैक नहीं (प्रोडक्शन के लिए सख्ती से हतोत्साहित)
बैकअप LLM अक्षम करने का मतलब है कि आपका प्राइमरी LLM विफल होने या अनुपलब्ध होने पर बातचीत अचानक समाप्त हो जाएगी। प्रोडक्शन उपयोग के लिए इसकी सख्ती से अनुशंसा नहीं की जाती है।
LLM कैस्केडिंग के बारे में और जानें।
रीजनिंग
रीजनिंग एजेंट को जटिल निर्णय लेने में मदद करती है, जैसे टूल के बीच चयन करना, नीतियां लागू करना या कई चरण वाले वर्कफ़्लो पूरे करना। मॉडल के आधार पर, आप थिंकिंग बजट या रीजनिंग प्रयास स्तर से यह नियंत्रित कर सकते हैं कि यह कितनी रीजनिंग करता है।
थिंकिंग बजट
न्यूमेरिक स्लाइडर से रीजनिंग टोकन की अधिकतम संख्या सेट करें। बड़े बजट से रिस्पॉन्स समय बढ़ सकता है। मॉडल अनुमति दे तो थिंकिंग अक्षम करने के लिए बजट 0 पर सेट करें।
रीजनिंग प्रयास
रीजनिंग प्रयास नियंत्रित करता है कि जवाब देने से पहले मॉडल कितनी रीजनिंग करता है। उपलब्ध स्तर चुने गए मॉडल पर निर्भर करते हैं।
लाइव वॉइस एजेंट के लिए कम बजट या प्रयास से शुरू करें, क्योंकि अतिरिक्त थिंकिंग से टर्न लेने में देरी हो सकती है। अधिक जटिल निर्णय वाले वर्कफ़्लो चरणों के लिए इसे बढ़ाएं।
रीजनिंग सारांश
रिस्पॉन्स, टूल कॉल या वर्कफ़्लो पथ डीबग करते समय मॉडल की लौटाई गई रीजनिंग कैप्चर करने के लिए रीजनिंग सारांश सक्षम करें। एजेंट की LLM सेटिंग्स में रीजनिंग सारांश चालू करें या API से enable_reasoning_summary सेट करें। यह सेटिंग डिफ़ॉल्ट रूप से बंद है।
कस्टम एंडपॉइंट के लिए देखें कि ElevenLabs रीजनिंग का अनुरोध और संग्रह कैसे करता है।
रीजनिंग कॉन्टेंट रिटेंशन और PII रिडैक्शन सेटिंग्स के अधीन है। आप इसे इन चैनलों के ज़रिए एक्सेस कर सकते हैं:
ज़ीरो रिटेंशन मोड के साथ, ElevenLabs **रीजनिंग कॉन्टेंट स्टोर नहीं करता **। यह केवल चैट क्लाइंट और पोस्ट-कॉल वेबहुक को भेजा जाता है।
सीमाएं
- रीजनिंग सारांश का अनुरोध करने से रिस्पॉन्स लेटेंसी बढ़ सकती है। लेटेंसी-संवेदनशील वॉइस एजेंट पर इसे सक्षम करने से पहले जांच लें।
- प्रोवाइडर सारांश, थॉट टेक्स्ट, रॉ रीजनिंग डेल्टा या कोई प्रदर्शित करने योग्य कॉन्टेंट नहीं लौटा सकते हैं।
कीमत को समझना
- टोकन: LLM का उपयोग आमतौर पर प्रोसेस किए गए टोकन की संख्या के आधार पर बिल किया जाता है। अंग्रेज़ी टेक्स्ट के लिए सामान्य रूप से, 100 टोकन लगभग 75 शब्दों के बराबर होते हैं
- इनपुट बनाम आउटपुट कीमत: प्रोवाइडर अक्सर इनपुट टोकन (वह डेटा जो आप मॉडल को भेजते हैं) और आउटपुट टोकन (रिस्पॉन्स में मॉडल द्वारा जनरेट किया गया डेटा) की कीमत अलग रखते हैं
- कैश कीमत:
input_cache_read: यह कैश से पहले से प्रोसेस किया गया इनपुट डेटा प्राप्त करने से जुड़ी लागत है। एक जैसे इनपुट को कई बार प्रोसेस करने पर कैश किए गए डेटा का उपयोग लागत बचा सकता हैinput_cache_write: यह इनपुट डेटा को कैश में स्टोर करने से जुड़ी लागत है। कुछ LLM प्रोवाइडर इस प्रक्रिया के लिए शुल्क ले सकते हैं
- इस दस्तावेज़ में दी गई कीमतें प्रति 10 लाख टोकन हैं और लिखे जाने के समय उपलब्ध जानकारी पर आधारित हैं। LLM प्रोवाइडर इन कीमतों में बदलाव कर सकते हैं
- पास-थ्रू कीमत: ElevenLabs बिना किसी मार्कअप के, प्रोवाइडर की प्रकाशित दर पर थर्ड-पार्टी LLM की लागत आगे भेजता है। चुनिंदा Gemini और Claude मॉडल Vertex AI की क्षेत्रीय (नॉन-ग्लोबल) कीमतों के अनुरूप हैं, जिन पर US और EU ट्रैफ़िक का बिल होता है — इनपुट, आउटपुट और कैश टोकन पर 10% वृद्धि, जो Vertex की क्षेत्रीय दरों से मेल खाती है
मॉडल की मौजूदा क्षमताओं, कीमत और सेवा की शर्तों के लिए प्रोवाइडर के दस्तावेज़ देखें।
HIPAA अनुपालन
हमारे प्लेटफ़ॉर्म पर उपलब्ध कुछ LLM, HIPAA अनुपालन वाले वातावरण में उपयोग के लिए उपयुक्त हो सकते हैं। अधिक जानकारी के लिए HIPAA अनुपालन दस्तावेज़ देखें।
संबंधित संसाधन
ElevenLabs द्वारा होस्ट किए गए मॉडल
ElevenLabs कई तरह के AI मॉडल का एक्सेस देता है, जिनमें ElevenLabs द्वारा होस्ट किए गए चुनिंदा थर्ड-पार्टी मॉडल भी शामिल हैं।
जब किसी मॉडल को “ElevenLabs द्वारा होस्ट किया गया” नामित किया जाता है, तो वह मॉडल ElevenLabs द्वारा प्रबंधित इन्फ्रास्ट्रक्चर पर डिप्लॉय और संचालित किया जाता है। ये मॉडल फिलहाल संयुक्त राज्य अमेरिका या आपके एंटरप्राइज़ डिप्लॉयमेंट के क्षेत्र में होस्ट किए जाते हैं।
ElevenLabs द्वारा होस्ट किए गए मॉडल की पहचान कैसे करें
ElevenLabs द्वारा होस्ट किए गए मॉडल ElevenLabs इंटरफ़ेस में स्पष्ट रूप से लेबल किए जाते हैं। मॉडल ब्राउज़ या चुनते समय “ElevenLabs द्वारा होस्ट किया गया” पदनाम देखें।
आपका डेटा कैसे संभाला जाता है
ElevenLabs द्वारा होस्ट किए गए मॉडलों के लिए, अनुरोध ElevenLabs-प्रबंधित इन्फ्रास्ट्रक्चर में प्रोसेस किए जाते हैं। इसका मतलब है कि मूल मॉडल प्रोवाइडर को ElevenLabs के ज़रिए भेजे गए इनपुट और आउटपुट न मिलते हैं, न उन तक उनकी पहुंच होती है और न ही वे उन्हें प्रोसेस करते हैं।
इन मॉडलों को होस्ट करके, ElevenLabs मॉडल अनुरोधों को सेवा देने के लिए उपयोग किए जाने वाले इन्फ्रास्ट्रक्चर पर नियंत्रण बनाए रखते हुए एक सुसंगत अनुभव दे सकता है।
अक्सर पूछे जाने वाले सवाल
सेल्फ-होस्टेड मॉडल कहां होस्ट किए जाते हैं?
ElevenLabs द्वारा होस्ट किए गए मॉडल फिलहाल संयुक्त राज्य अमेरिका या आपके एंटरप्राइज़ डिप्लॉयमेंट के क्षेत्र में स्थित इन्फ्रास्ट्रक्चर पर होस्ट किए जाते हैं।
क्या मूल मॉडल प्रोवाइडर मेरे डेटा या मेरे उपयोग के मेटाडेटा को एक्सेस करता है?
ElevenLabs द्वारा होस्ट किए गए मॉडलों के लिए, मॉडल के मूल डेवलपर को आपके इनपुट या आउटपुट कभी नहीं मिलते और उन्हें उन्हें प्रोसेस करने वाले डिप्लॉयमेंट के डेटा की कोई पहुंच नहीं होती।
मुझे कैसे पता चलेगा कि कोई मॉडल ElevenLabs द्वारा होस्ट किया गया है?
ElevenLabs द्वारा होस्ट किए गए मॉडल ElevenLabs इंटरफ़ेस में “ElevenLabs द्वारा होस्ट किया गया” पदनाम के साथ स्पष्ट रूप से पहचाने जाते हैं।