Guardrails 2.0: ElevenAgents में नया कंट्रोल लेयर

जैसे-जैसे वॉइस एजेंट सहायता, बिक्री, मार्केटिंग, आंतरिक वर्कफ़्लो और अन्य क्षेत्रों में अहम काम संभालते हैं, टीम्स को भरोसा चाहिए कि वे एंटरप्राइज़ स्तर पर सुरक्षित, ब्रांड के अनुरूप और अनुपालक रहेंगे।

ElevenAgents में Guardrails 2.0 एक नया डिज़ाइन किया गया कंट्रोल लेयर है, जो एजेंट्स को सही जवाब देने में मदद करता है और गलत जवाबों को एंड यूज़र तक पहुंचने से पहले रोकता है।

रियल-टाइम में बहुस्तरीय सुरक्षा

अच्छी तरह तैयार किया गया सिस्टम प्रॉम्प्ट ज़्यादातर इंटरैक्शन में अनुमान के अनुरूप व्यवहार सुनिश्चित करता है। लेकिन एजेंट्स गैर-निर्धारक सिस्टम होते हैं, इसलिए वे लंबी बातचीत में अपने विषय से भटक सकते हैं, यूज़र्स सीमाओं को लांघने के रचनात्मक तरीके ढूंढ सकते हैं, और मॉडल पर दबाव होने पर स्पष्ट रूप से तय नीतियां भी हमेशा काम नहीं करतीं।

इसीलिए प्रोडक्शन में एजेंट्स तैनात करने वाली टीम्स को बहुस्तरीय सुरक्षा चाहिए: आधार के रूप में मज़बूत सिस्टम प्रॉम्प्ट, साथ ही यूज़र्स की बातों और एजेंट्स के जवाबों की स्वतंत्र जांच।

Guardrails 2.0 बातचीत को तीन स्तरों पर सुरक्षित रखता है, जिनमें हर स्तर दूसरे को मज़बूत बनाता है:

पहले से तैयार सुरक्षा उपाय

पहले से तैयार सुरक्षा उपाय सबसे आम जोखिम वाले क्षेत्रों को कवर करते हैं।

Focus Guardrail आपके एजेंट के सिस्टम प्रॉम्प्ट को मज़बूत बनाता है, ताकि जवाब आपके तय किए गए लक्ष्यों और निर्देशों के अनुरूप, प्रासंगिक और केंद्रित रहें। यह खासकर लंबी या जटिल बातचीत में उपयोगी है, जहां एजेंट के अपने तय उद्देश्यों से भटकने की संभावना अधिक होती है।

Manipulation Guardrails यूज़र्स द्वारा सिस्टम निर्देशों को बायपास करने की कोशिशों का पता लगाते हैं और उन्हें ब्लॉक करते हैं। सक्षम होने पर, सिस्टम यूज़र इनपुट में ऐसे पैटर्न का विश्लेषण करता है जो प्रॉम्प्ट इंजेक्शन या निर्देशों को ओवरराइड करने की कोशिश दिखाते हैं, और सुरक्षा जोखिम वाली बातचीत को समाप्त कर सकता है।

Content Guardrails संभावित रूप से संवेदनशील या असुरक्षित कंटेंट की कई श्रेणियों को जांचकर एजेंट के उचित जवाब सुनिश्चित करने में मदद करते हैं। सटीक नियंत्रण के लिए हर श्रेणी की सीमा को समायोजित किया जा सकता है।

Custom Guardrails: आपके नियम, अपने-आप लागू

Custom Guardrails से आप प्राकृतिक भाषा में क्षेत्र-विशिष्ट नीतियां तय कर सकते हैं और उन्हें हर कॉल पर अपने-आप लागू कर सकते हैं। इससे घटनाएं, एस्केलेशन और अनुपालन समीक्षा के वे चक्र कम होते हैं जो डिप्लॉयमेंट को धीमा कर सकते हैं।

एक हल्का मॉडल हर एजेंट जवाब को आपके नियमों के आधार पर जांचता है और ब्लॉक या अनुमति का निर्णय देता है। यह जवाब जनरेट होने की प्रक्रिया से स्वतंत्र और उसके समानांतर चलता है।

गार्डरेल्स के काम करने के तरीके पर पूरा नियंत्रण

आप तय कर सकते हैं कि नीति उल्लंघन कैसे पकड़े जाएं और उसके बाद क्या हो।

एक्ज़ीक्यूशन मोड। स्पीड और सख्ती के बीच संतुलन कॉन्फ़िगर करें—वॉइस के लिए यह बेहद अहम है, क्योंकि इसमें लेटेंसी सबसे ज़्यादा मायने रखती है। लगभग बिना देरी के लिए आप जवाब के साथ गार्डरेल्स चला सकते हैं, हालांकि इंटरसेप्शन से पहले एक सेकंड के कुछ अंश का ऑडियो चल सकता है। या जवाबों को पूरी तरह क्लियर होने तक रोककर रखें—थोड़ा धीमा, लेकिन बिना जांचे कुछ भी यूज़र तक नहीं पहुंचेगा।

एग्ज़िट रणनीतियां। गार्डरेल ट्रिगर होने पर आगे क्या होगा, यह आप तय करते हैं: बातचीत खत्म करें, किसी दूसरे एजेंट को ट्रांसफर करें, किसी व्यक्ति तक एस्केलेट करें या सुधारात्मक निर्देशों के साथ जवाब को फिर से आजमाएं।

कंटेंट संवेदनशीलता स्तर। अलग-अलग कंटेंट श्रेणियों के लिए संवेदनशीलता समायोजित करें। ज़्यादा जोखिम वाले इस्तेमाल के मामलों में नियम सख्त करें और जहां ज़रूरत से ज़्यादा ब्लॉकिंग यूज़र अनुभव को नुकसान पहुंचाए, वहां उन्हें ढीला रखें।

विस्तृत कॉन्फ़िगरेशन। हर गार्डरेल को अलग-अलग सक्षम या अक्षम किया जा सकता है, और अलग-अलग एजेंट्स अलग कॉन्फ़िगरेशन चला सकते हैं।

पूरी दृश्यता। हर ट्रिगर आपकी बातचीत एनालिटिक्स में लॉग होता है, जिसमें यह भी शामिल है कि कौन-सा गार्डरेल ट्रिगर हुआ और क्या कार्रवाई की गई। इससे टीम्स को वह डेटा मिलता है जिसकी मदद से वे समय के साथ अपने सिस्टम प्रॉम्प्ट और गार्डरेल्स को बेहतर बना सकें।

बातचीत इतिहास रिडैक्शन

कॉल खत्म होने के बाद, आप ट्रांसक्रिप्ट, रिकॉर्डिंग और वेबहुक पेलोड से संवेदनशील जानकारी अपने-आप रिडैक्ट कर सकते हैं। एनालिटिक्स, QA और ट्रेनिंग के लिए ज़रूरी सब कुछ रखें और गैर-ज़रूरी जानकारी हटा दें।

पहचानी गई एंटिटीज़ को टेक्स्ट में प्लेसहोल्डर्स और ऑडियो में बीप्स से बदल दिया जाता है। आप हर एंटिटी प्रकार के स्तर तक बारीकी नियंत्रित कर सकते हैं: सभी नाम रिडैक्ट करें या सिर्फ़ उपनाम, सभी वित्तीय पहचानकर्ता या सिर्फ़ पेमेंट कार्ड नंबर।

यह व्यापक डेटा कंट्रोल्स के साथ काम करता है, जैसे Zero Retention Mode, जिसका इस्तेमाल अधिक सख्त अनुपालन आवश्यकताओं वाले डिप्लॉयमेंट्स के लिए किया जा सकता है।

बातचीत इतिहास रिडैक्शन और Zero Retention Mode एंटरप्राइज़ क्लाइंट्स के लिए उपलब्ध हैं। सेल्स से संपर्क करें एक्सेस पाने के लिए।

भरोसे और सुरक्षा की एक व्यापक नींव का हिस्सा

Guardrails 2.0 और डेटा प्राइवेसी सुविधाएं एजेंट लाइफसाइकल के हर चरण के लिए सुरक्षा टूलिंग के साथ ElevenAgents के एंटरप्राइज़ डिप्लॉयमेंट्स को सपोर्ट करती हैं:

एजेंट डेवलपमेंट

• एजेंट्स के लाइव होने से पहले व्यवहार को परखने के लिए सिस्टम प्रॉम्प्ट डिज़ाइन, गार्डरेल कॉन्फ़िगरेशन, रेड टीमिंग और सिमुलेशन

हर बातचीत

• बातचीत के दौरान: Guardrails 2.0 (Focus, Manipulation, Content और Custom Guardrails), लॉगिंग, वैकल्पिक Zero Retention Mode
• बातचीत के बाद: मूल्यांकन मानदंड, मॉनिटरिंग, वैकल्पिक बातचीत इतिहास रिडैक्शन

मिलकर, ये टीम्स को कम घटनाओं, तेज़ अप्रूवल चक्रों और अधिक एकसमान एजेंट व्यवहार के साथ पायलट से प्रोडक्शन तक जाने के लिए ज़रूरी कंट्रोल्स देते हैं। ये प्लेटफ़ॉर्म आधार AIUC-1 सर्टिफ़िकेशन की पात्रता और उद्योग की पहली एजेंट इंश्योरेंस पॉलिसीज़ तक पहुंच को भी सपोर्ट करते हैं।

आज ही Guardrails का इस्तेमाल शुरू करें

हम पिछले कुछ महीनों से सुविधाएं जारी कर रहे हैं, और अब पूरा Guardrails 2.0 सुइट ElevenAgents में अल्फ़ा में उपलब्ध है।

उन्हें अपने Security टैब में एजेंट की सेटिंग्स से चालू करें या API के ज़रिए कॉन्फ़िगर करें। एंटरप्राइज़ डिप्लॉयमेंट्स के बारे में अधिक जानकारी के लिए हमारी सेल्स टीम से संपर्क करें।

सेटअप गाइडेंस और सर्वोत्तम तरीकों के लिए देखें:

• Guardrails दस्तावेज़
• बातचीत इतिहास रिडैक्शन दस्तावेज़