Guardrails 2.0: ElevenAgents में नया कंट्रोल लेयर

जब वॉइस एजेंट सपोर्ट, सेल्स, मार्केटिंग, आंतरिक वर्कफ़्लो और अन्य क्षेत्रों में अहम काम संभालते हैं, तो टीम्स को भरोसा चाहिए कि वे एंटरप्राइज़ स्तर पर सुरक्षित, ब्रांड के अनुरूप और अनुपालक बने रहेंगे।

ElevenAgents में Guardrails 2.0 एक नए सिरे से डिज़ाइन की गई कंट्रोल लेयर है, जो एजेंट्स को सही जवाबों की ओर ले जाने और गलत जवाबों को एंड यूज़र तक पहुंचने से पहले रोकने में मदद करती है।

रियल-टाइम में कई स्तरों वाली सुरक्षा

एक अच्छी तरह तैयार किया गया सिस्टम प्रॉम्प्ट ज़्यादातर इंटरैक्शन में अनुमान के मुताबिक व्यवहार सुनिश्चित करता है। लेकिन एजेंट्स नॉन-डिटरमिनिस्टिक सिस्टम हैं, इसलिए वे लंबी बातचीत में भटक सकते हैं, यूज़र सीमाओं को आगे बढ़ाने के रचनात्मक तरीके खोज सकते हैं और मॉडल पर दबाव होने पर स्पष्ट रूप से तय की गई नीतियां भी हमेशा काम नहीं करतीं।

इसीलिए प्रोडक्शन में एजेंट्स तैनात करने वाली टीम्स को कई स्तरों वाली सुरक्षा चाहिए: आधार के रूप में एक मज़बूत सिस्टम प्रॉम्प्ट और यूज़र क्या कहते हैं व एजेंट्स कैसे जवाब देते हैं, इसकी स्वतंत्र जांच।

Guardrails 2.0 तीन स्तरों पर बातचीत की सुरक्षा करता है, और हर स्तर दूसरे को मज़बूत बनाता है:

पहले से बनी सुरक्षाएं

पहले से बनी सुरक्षाएं सबसे आम जोखिम वाले क्षेत्रों को कवर करती हैं।

Focus Guardrail आपके एजेंट के सिस्टम प्रॉम्प्ट को मज़बूत करता है, जिससे जवाब आपके तय लक्ष्यों और निर्देशों के अनुरूप, प्रासंगिक और केंद्रित रहते हैं। यह खासकर लंबी या जटिल बातचीत में उपयोगी है, जहां एजेंट के अपने तय उद्देश्यों से भटकने की संभावना अधिक होती है।

Manipulation Guardrails यूज़र द्वारा सिस्टम निर्देशों को दरकिनार करने के प्रयासों को पहचानते और ब्लॉक करते हैं। सक्षम होने पर, सिस्टम यूज़र इनपुट में ऐसे पैटर्न का विश्लेषण करता है जो प्रॉम्प्ट इंजेक्शन या निर्देशों को ओवरराइड करने के प्रयासों का संकेत देते हैं, और सुरक्षा जोखिम वाली बातचीत को समाप्त कर सकता है।

Content Guardrails संभावित रूप से संवेदनशील या असुरक्षित कंटेंट की कई श्रेणियों की जांच करके उपयुक्त एजेंट जवाब सुनिश्चित करने में मदद करते हैं। सटीक नियंत्रण के लिए हर श्रेणी की थ्रेशोल्ड को समायोजित किया जा सकता है।

कस्टम गार्डरेल्स: आपके नियम, अपने-आप लागू

कस्टम गार्डरेल्स से आप प्राकृतिक भाषा में डोमेन-विशिष्ट नीतियां तय कर सकते हैं और उन्हें हर कॉल में अपने-आप लागू कर सकते हैं। इससे घटनाओं, एस्केलेशन और अनुपालन समीक्षा चक्रों को कम करने में मदद मिलती है, जो डिप्लॉयमेंट को धीमा कर सकते हैं।

एक हल्का मॉडल आपके नियमों के आधार पर हर एजेंट जवाब का मूल्यांकन करता है और ब्लॉक या अनुमति का निर्णय लौटाता है। यह रिस्पॉन्स जनरेशन से स्वतंत्र और उसके समानांतर चलता है।

गार्डरेल्स के काम करने के तरीके पर पूरा नियंत्रण

आप तय कर सकते हैं कि नीति उल्लंघन कैसे पकड़े जाएं और उसके बाद क्या हो।

एक्ज़ीक्यूशन मोड। स्पीड और सख्ती के बीच संतुलन कॉन्फ़िगर करें—वॉइस के लिए यह बेहद अहम है, क्योंकि इसमें लेटेंसी सबसे ज़्यादा मायने रखती है। लगभग शून्य देरी के लिए आप गार्डरेल्स को रिस्पॉन्स के साथ चला सकते हैं, हालांकि इंटरसेप्शन से पहले एक सेकंड का अंश ऑडियो चल सकता है। या जवाबों को पूरी तरह क्लियर होने तक रोकें—थोड़ा धीमा, लेकिन बिना जांचा कुछ भी यूज़र तक नहीं पहुंचेगा।

एग्ज़िट स्ट्रैटेजीज़। जब कोई गार्डरेल ट्रिगर होता है, तो आप तय करते हैं कि आगे क्या होगा: बातचीत समाप्त करना, किसी दूसरे एजेंट को ट्रांसफर करना, किसी व्यक्ति तक एस्केलेट करना या सुधारात्मक निर्देशों के साथ जवाब को फिर से आज़माना।

कंटेंट संवेदनशीलता स्तर। अलग-अलग कंटेंट श्रेणियों के लिए संवेदनशीलता समायोजित करें—ज़्यादा जोखिम वाले उपयोग मामलों में नियमों को सख्त करें और जहां ज़रूरत से ज़्यादा ब्लॉकिंग यूज़र अनुभव को नुकसान पहुंचाए, वहां इसे कम करें।

बारीकी से कॉन्फ़िगरेशन। हर गार्डरेल को अलग-अलग सक्षम या अक्षम किया जा सकता है, और अलग-अलग एजेंट्स अलग कॉन्फ़िगरेशन चला सकते हैं।

पूरी दृश्यता। हर ट्रिगर आपके कन्वर्सेशन एनालिटिक्स में लॉग होता है, जिसमें यह भी शामिल है कि कौन-सा गार्डरेल ट्रिगर हुआ और क्या कार्रवाई की गई। इससे टीम्स को समय के साथ अपने सिस्टम प्रॉम्प्ट और गार्डरेल्स को बेहतर बनाने के लिए ज़रूरी डेटा मिलता है।

कन्वर्सेशन हिस्ट्री रिडैक्शन

कॉल समाप्त होने के बाद, आप ट्रांसक्रिप्ट, रिकॉर्डिंग और वेबहुक पेलोड से संवेदनशील जानकारी अपने-आप हटा सकते हैं। एनालिटिक्स, QA और ट्रेनिंग के लिए ज़रूरी सब कुछ रखें, और जो ज़रूरी नहीं है उसे हटा दें।

पहचानी गई एंटिटीज़ को टेक्स्ट में प्लेसहोल्डर्स और ऑडियो में बीप से बदल दिया जाता है। आप अलग-अलग एंटिटी टाइप तक बारीकी से नियंत्रण कर सकते हैं: सभी नाम हटाएं या सिर्फ़ उपनाम, सभी वित्तीय पहचानकर्ता हटाएं या सिर्फ़ पेमेंट कार्ड नंबर।

यह व्यापक डेटा कंट्रोल्स के साथ काम करता है, जैसे Zero Retention Mode, जिसका इस्तेमाल अधिक सख्त अनुपालन आवश्यकताओं वाले डिप्लॉयमेंट्स के लिए किया जा सकता है।

कन्वर्सेशन हिस्ट्री रिडैक्शन और Zero Retention Mode एंटरप्राइज़ क्लाइंट्स के लिए उपलब्ध हैं। सेल्स से संपर्क करें और एक्सेस पाएं।

भरोसे और सुरक्षा के व्यापक आधार का हिस्सा

Guardrails 2.0 और डेटा प्राइवेसी फीचर्स, एजेंट लाइफसाइकल के हर चरण के लिए सुरक्षा टूलिंग के साथ ElevenAgents के एंटरप्राइज़ डिप्लॉयमेंट्स को सपोर्ट करते हैं:

एजेंट डेवलपमेंट

• एजेंट्स के लाइव होने से पहले व्यवहार को स्ट्रेस-टेस्ट करने के लिए सिस्टम प्रॉम्प्ट डिज़ाइन, गार्डरेल कॉन्फ़िगरेशन, रेड टीमिंग और सिम्युलेशन

हर बातचीत

• बातचीत के दौरान: Guardrails 2.0 (Focus, Manipulation, Content और Custom Guardrails), लॉगिंग, वैकल्पिक Zero Retention Mode
• बातचीत के बाद: मूल्यांकन मानदंड, मॉनिटरिंग, वैकल्पिक कन्वर्सेशन हिस्ट्री रिडैक्शन

मिलकर, ये टीम्स को कम घटनाओं, तेज़ अप्रूवल चक्रों और अधिक एकसमान एजेंट व्यवहार के साथ पायलट से प्रोडक्शन तक जाने के लिए ज़रूरी कंट्रोल्स देते हैं। ये प्लेटफ़ॉर्म आधार AIUC-1 सर्टिफ़िकेशन की पात्रता और इंडस्ट्री की पहली एजेंट इंश्योरेंस पॉलिसीज़ तक पहुंच में भी मदद करते हैं।

आज ही Guardrails का इस्तेमाल शुरू करें

हम पिछले कुछ महीनों से फीचर्स जारी कर रहे हैं और पूरा Guardrails 2.0 सुइट अब ElevenAgents में अल्फ़ा में उपलब्ध है।

इन्हें अपने सुरक्षा टैब में एजेंट की सेटिंग्स से चालू करें या API के ज़रिए कॉन्फ़िगर करें। एंटरप्राइज़ डिप्लॉयमेंट्स की अधिक जानकारी के लिए हमारी सेल्स टीम से संपर्क करें।

सेटअप गाइडेंस और सर्वोत्तम तरीकों के लिए देखें:

• गार्डरेल्स डॉक्यूमेंटेशन
• कन्वर्सेशन हिस्ट्री रिडैक्शन डॉक्यूमेंटेशन