मॉडल्स
मॉडल्स
अपने उपयोग के मामले के लिए सही मॉडल चुनना सीखें
ElevenAgents आपके एजेंट को कई मॉडल और प्रोवाइडर से कनेक्ट करने के लिए एक यूनिफ़ाइड इंटरफ़ेस देता है, जिससे लचीलापन, भरोसेमंदता और लागत ऑप्टिमाइज़ेशन मिलता है।
मुख्य सुविधाएं
- यूनिफ़ाइड एक्सेस: बहुत कम कोड बदलावों के साथ प्रोवाइडर और मॉडल के बीच स्विच करें
- उच्च भरोसेमंदता: कोई प्रोवाइडर विफल होने पर अपने-आप दूसरे प्रोवाइडर पर जाएं
- खर्च की निगरानी: अलग-अलग मॉडल पर अपने खर्च पर नज़र रखें
समर्थित मॉडल
फिलहाल, नीचे दिए गए मॉडल नेटिव रूप से समर्थित हैं और इन्हें एजेंट सेटिंग्स से कॉन्फ़िगर किया जा सकता है:
जब तक अलग से न बताया जाए, कीमत आम तौर पर 10 लाख टोकन के लिए USD में दी जाती है। टोकन LLM के लिए टेक्स्ट डेटा की एक मूल इकाई है, जो औसतन लगभग 4 वर्णों के बराबर होती है।
कस्टम LLM
आप जिस एंडपॉइंट पर हमें अनुरोध भेजने हैं उसे निर्दिष्ट करके और हमारे सुरक्षित सीक्रेट स्टोरेज के ज़रिए क्रेडेंशियल देकर अपने कस्टम LLM का इस्तेमाल कर सकते हैं। कस्टम LLM इंटीग्रेशन के बारे में और जानें।
EU डेटा रेज़िडेंसी चालू होने पर कुछ मॉडल उपलब्ध नहीं होते। उपलब्धता की जानकारी के लिए GDPR और डेटा रेज़िडेंसी देखें।
मॉडल चुनना
अपने एप्लिकेशन के लिए सबसे उपयुक्त LLM चुनते समय कई बातों पर विचार करना होता है:
- टास्क की जटिलता: अपने एप्लिकेशन के प्रतिनिधि टास्क पर मॉडल का मूल्यांकन करें
- लेटेंसी की ज़रूरतें: लाइव वॉइस बातचीत के लिए कम-लेटेंसी वाला मॉडल चुनें और अपने प्रॉम्प्ट व टूल के साथ रिस्पॉन्स टाइम मापें
- कॉन्टेक्स्ट विंडो का आकार: अगर आपके एप्लिकेशन को लंबी बातचीत या बड़े दस्तावेज़ों की जानकारी प्रोसेस, समझने या याद रखने की ज़रूरत है, तो बड़ी कॉन्टेक्स्ट विंडो वाले मॉडल चुनें
- लागत-प्रभावशीलता: अपने बजट के साथ वांछित परफ़ॉर्मेंस और सुविधाओं का संतुलन बनाएं। LLM की कीमतें काफी अलग हो सकती हैं, इसलिए अपने अनुमानित उपयोग पैटर्न के संदर्भ में प्राइसिंग स्ट्रक्चर (इनपुट, आउटपुट और कैश टोकन) का विश्लेषण करें
- HIPAA अनुपालन: अगर आपके एप्लिकेशन में प्रोटेक्टेड हेल्थ इन्फ़ॉर्मेशन (PHI) शामिल है, तो HIPAA-अनुपालक घोषित LLM का इस्तेमाल करना और अपनी पूरी डेटा हैंडलिंग प्रक्रिया को नियामक मानकों के अनुरूप रखना ज़रूरी है
अधिकतम सिस्टम प्रॉम्प्ट आकार 2MB है, जिसमें आपके एजेंट के निर्देश, नॉलेज बेस कॉन्टेंट और अन्य सिस्टम-लेवल कॉन्टेक्स्ट शामिल हैं।
मॉडल कॉन्फ़िगरेशन
टेम्परेचर
टेम्परेचर मॉडल रिस्पॉन्स की रैंडमनेस नियंत्रित करता है। कम वैल्यू अधिक स्थिर और केंद्रित आउटपुट देती हैं, जबकि अधिक वैल्यू रचनात्मकता और विविधता बढ़ाती हैं।
- कम (0.0-0.3): संरचित इंटरैक्शन के लिए निश्चित और स्थिर रिस्पॉन्स
- मध्यम (0.4-0.7): रचनात्मकता और स्थिरता का संतुलन
- उच्च (0.8-1.0): डायनामिक बातचीत के लिए रचनात्मक और विविध रिस्पॉन्स
बैकअप LLM कॉन्फ़िगरेशन
मुख्य LLM के विफल होने या अनुपलब्ध होने पर बातचीत जारी रखने के लिए बैकअप LLM कॉन्फ़िगर करें।
कॉन्फ़िगरेशन विकल्प:
- डिफ़ॉल्ट: ElevenLabs के सुझाए गए फ़ॉलबैक क्रम का इस्तेमाल करता है
- कस्टम: बैकअप मॉडल का अपना कैस्केडिंग क्रम तय करें
- अक्षम: कोई फ़ॉलबैक नहीं (प्रोडक्शन के लिए दृढ़ता से अनुशंसित नहीं)
बैकअप LLM अक्षम करने का मतलब है कि आपका मुख्य LLM विफल या अनुपलब्ध होने पर बातचीत अचानक खत्म हो जाएगी। प्रोडक्शन उपयोग के लिए इसकी दृढ़ता से अनुशंसा नहीं की जाती।
LLM कैस्केडिंग के बारे में और जानें।
रीजनिंग
रीजनिंग एजेंट को जटिल निर्णय लेने में मदद करती है, जैसे टूल के बीच चुनना, नीतियां लागू करना या कई चरणों वाले वर्कफ़्लो पूरे करना। मॉडल के आधार पर, आप थिंकिंग बजट या रीजनिंग एफर्ट लेवल के जरिए तय कर सकते हैं कि यह कितनी रीजनिंग करे।
थिंकिंग बजट
न्यूमेरिक स्लाइडर से रीजनिंग टोकन की अधिकतम संख्या सेट करें। बड़ा बजट रिस्पॉन्स टाइम बढ़ा सकता है। जब मॉडल इसकी अनुमति देता है, तो थिंकिंग बंद करने के लिए बजट 0 पर सेट करें।
रीजनिंग एफर्ट
रीजनिंग एफर्ट नियंत्रित करता है कि जवाब देने से पहले मॉडल कितनी रीजनिंग करे। उपलब्ध लेवल चुने गए मॉडल पर निर्भर करते हैं।
लाइव वॉइस एजेंट के लिए कम बजट या एफर्ट से शुरू करें, क्योंकि अतिरिक्त थिंकिंग टर्न लेने में देरी कर सकती है। जटिल निर्णयों वाले वर्कफ़्लो चरणों के लिए इसे बढ़ाएं।
रीजनिंग सारांश
रिस्पॉन्स, टूल कॉल या वर्कफ़्लो पाथ डीबग करते समय मॉडल की लौटाई गई रीजनिंग कैप्चर करने के लिए रीजनिंग सारांश चालू करें। एजेंट की LLM सेटिंग्स में रीजनिंग सारांश चालू करें या API के ज़रिए enable_reasoning_summary सेट करें। यह सेटिंग डिफ़ॉल्ट रूप से बंद रहती है।
कस्टम एंडपॉइंट के लिए, ElevenLabs रीजनिंग का अनुरोध और स्टोरेज कैसे करता है देखें।
रीजनिंग कॉन्टेंट रिटेंशन और PII रिडैक्शन सेटिंग्स के अधीन है। आप इसे इन चैनलों से एक्सेस कर सकते हैं:
ज़ीरो रिटेंशन मोड के साथ, ElevenLabs **रीजनिंग कॉन्टेंट स्टोर नहीं करता **। इसे केवल चैट क्लाइंट और कॉल के बाद के वेबहुक पर भेजा जाता है।
सीमाएं
- रीजनिंग सारांश का अनुरोध रिस्पॉन्स लेटेंसी बढ़ा सकता है। लेटेंसी-संवेदनशील वॉइस एजेंट पर इसे चालू करने से पहले टेस्ट करें।
- प्रोवाइडर सारांश, थॉट टेक्स्ट, रॉ रीजनिंग डेल्टा या कोई प्रदर्शित करने योग्य कॉन्टेंट नहीं लौटा सकते हैं।
कीमतों को समझना
- टोकन: LLM उपयोग का बिल आम तौर पर प्रोसेस किए गए टोकन की संख्या के आधार पर लिया जाता है। अंग्रेज़ी टेक्स्ट के लिए सामान्य रूप से, 100 टोकन लगभग 75 शब्दों के बराबर होते हैं
- इनपुट बनाम आउटपुट प्राइसिंग: प्रोवाइडर अक्सर इनपुट टोकन (वह डेटा जो आप मॉडल को भेजते हैं) और आउटपुट टोकन (रिस्पॉन्स में मॉडल द्वारा जनरेट किया गया डेटा) के लिए अलग-अलग कीमत रखते हैं
- कैश प्राइसिंग:
input_cache_read: इसका मतलब कैश से पहले से प्रोसेस किया गया इनपुट डेटा प्राप्त करने की लागत है। अगर समान इनपुट को कई बार प्रोसेस किया जाता है, तो कैश डेटा के उपयोग से लागत बच सकती हैinput_cache_write: यह इनपुट डेटा को कैश में स्टोर करने की लागत है। कुछ LLM प्रोवाइडर इस ऑपरेशन के लिए शुल्क ले सकते हैं
- इस दस्तावेज़ में दी गई कीमतें 10 लाख टोकन के लिए हैं और लिखते समय उपलब्ध जानकारी पर आधारित हैं। LLM प्रोवाइडर इन कीमतों में बदलाव कर सकते हैं
मॉडल की मौजूदा क्षमताओं, कीमतों और सेवा की शर्तों के लिए प्रोवाइडर के दस्तावेज़ देखें।
HIPAA अनुपालन
हमारे प्लेटफ़ॉर्म पर उपलब्ध कुछ LLM HIPAA अनुपालन वाले माहौल में उपयोग के लिए उपयुक्त हो सकते हैं। अधिक जानकारी के लिए HIPAA अनुपालन दस्तावेज़ देखें।
संबंधित संसाधन
ElevenLabs द्वारा होस्ट किए गए मॉडल
ElevenLabs कई तरह के AI मॉडल का एक्सेस देता है, जिनमें ElevenLabs द्वारा होस्ट किए गए चुनिंदा थर्ड-पार्टी मॉडल भी शामिल हैं।
जब किसी मॉडल को “Hosted by ElevenLabs” के रूप में चिन्हित किया जाता है, तो उस मॉडल को ElevenLabs द्वारा प्रबंधित इंफ्रास्ट्रक्चर पर डिप्लॉय और ऑपरेट किया जाता है। ये मॉडल फिलहाल संयुक्त राज्य अमेरिका या आपके एंटरप्राइज़ डिप्लॉयमेंट के क्षेत्र में होस्ट किए जाते हैं।
ElevenLabs द्वारा होस्ट किए गए मॉडल की पहचान कैसे करें
ElevenLabs द्वारा होस्ट किए गए मॉडल को ElevenLabs इंटरफ़ेस में साफ़ तौर पर लेबल किया जाता है। मॉडल ब्राउज़ या चुनते समय “Hosted by ElevenLabs” पदनाम देखें।
आपका डेटा कैसे संभाला जाता है
ElevenLabs द्वारा होस्ट किए गए मॉडल के लिए, अनुरोध ElevenLabs-प्रबंधित इंफ्रास्ट्रक्चर में प्रोसेस होते हैं। इसका मतलब है कि मूल मॉडल प्रोवाइडर को ElevenLabs के ज़रिए सबमिट किए गए इनपुट और आउटपुट प्राप्त नहीं होते, न वह उन्हें एक्सेस या प्रोसेस करता है।
इन मॉडल को होस्ट करके, ElevenLabs मॉडल अनुरोधों को सर्व करने के लिए इस्तेमाल होने वाले इंफ्रास्ट्रक्चर पर नियंत्रण बनाए रखते हुए एक स्थिर अनुभव दे सकता है।
अक्सर पूछे जाने वाले सवाल
सेल्फ़-होस्टेड मॉडल कहां होस्ट किए जाते हैं?
ElevenLabs द्वारा होस्ट किए गए मॉडल फिलहाल संयुक्त राज्य अमेरिका या आपके एंटरप्राइज़ डिप्लॉयमेंट के क्षेत्र में स्थित इंफ्रास्ट्रक्चर पर होस्ट किए जाते हैं।
क्या मूल मॉडल प्रोवाइडर मेरे डेटा या उपयोग के मेटाडेटा को एक्सेस करता है?
ElevenLabs द्वारा होस्ट किए गए मॉडल के लिए, मॉडल के मूल डेवलपर को आपके इनपुट या आउटपुट कभी नहीं मिलते और उन्हें इन्हें प्रोसेस करने वाले डिप्लॉयमेंट के डेटा का कोई एक्सेस नहीं होता।
मुझे कैसे पता चलेगा कि कोई मॉडल ElevenLabs द्वारा होस्ट किया गया है?
ElevenLabs द्वारा होस्ट किए गए मॉडल की पहचान ElevenLabs इंटरफ़ेस में “Hosted by ElevenLabs” पदनाम से साफ़ तौर पर की जाती है।