Guardrails 2.0: ElevenAgents में नया कंट्रोल लेयर

जैसे-जैसे वॉइस एजेंट्स सपोर्ट, सेल्स, मार्केटिंग, इंटरनल वर्कफ़्लो और अन्य जगहों पर अहम काम करने लगे हैं, टीम्स को भरोसा चाहिए कि ये सुरक्षित, ब्रांड के अनुसार और कंप्लायंट रहेंगे।

ElevenAgents में Guardrails 2.0 एक नया कंट्रोल लेयर है, जो एजेंट्स को सही जवाब देने में गाइड करता है और गलत जवाब यूज़र तक पहुँचने से पहले रोकता है।

रियल-टाइम में लेयर्ड प्रोटेक्शन

एक अच्छा सिस्टम प्रॉम्प्ट ज़्यादातर इंटरैक्शन में प्रेडिक्टेबल बिहेवियर देता है। लेकिन एजेंट्स नॉन-डिटरमिनिस्टिक सिस्टम्स हैं, लंबी बातचीत में वे भटक सकते हैं, यूज़र क्रिएटिव तरीके से लिमिट्स टेस्ट कर सकते हैं, और कई बार अच्छे पॉलिसीज़ भी प्रेशर में काम नहीं करतीं।

इसीलिए प्रोडक्शन में एजेंट्स डिप्लॉय करने वाली टीम्स को लेयर्ड डिफेंस चाहिए: एक मजबूत सिस्टम प्रॉम्प्ट बेस के तौर पर, साथ में यूज़र के इनपुट और एजेंट के रिस्पॉन्स पर इंडिपेंडेंट चेक्स।

Guardrails 2.0 बातचीत को तीन लेवल पर प्रोटेक्ट करता है, हर लेवल दूसरे को मजबूत बनाता है:

पहले से बने प्रोटेक्शन

पहले से बने सेफगार्ड्स सबसे आम रिस्क एरियाज को कवर करते हैं।

फोकस गार्डरेल आपके एजेंट के सिस्टम प्रॉम्प्ट को मजबूत करता है, जिससे जवाब डायरेक्ट, रिलिवेंट और आपके तय किए गए गोल्स व इंस्ट्रक्शंस के अनुसार रहते हैं। ये खासतौर पर लंबी या जटिल बातचीत में फायदेमंद है, जहाँ एजेंट अपने मकसद से भटक सकता है।

मैनिपुलेशन गार्डरेल्स यूज़र्स द्वारा सिस्टम इंस्ट्रक्शंस को बायपास करने की कोशिशों को पहचानते और ब्लॉक करते हैं। जब ये ऑन होते हैं, तो सिस्टम यूज़र इनपुट्स को ऐसे पैटर्न्स के लिए एनालाइज़ करता है जो प्रॉम्प्ट इंजेक्शन या इंस्ट्रक्शन ओवरराइड की कोशिश दिखाते हैं, और अगर कोई सिक्योरिटी रिस्क हो तो बातचीत को खत्म कर सकता है।

कंटेंट गार्डरेल्स एजेंट के जवाबों को उपयुक्त बनाए रखने में मदद करते हैं, कई कैटेगरी के सेंसिटिव या अनसेफ कंटेंट के लिए स्क्रीनिंग करते हैं, हर एक के लिए कंट्रोल करने लायक थ्रेशोल्ड्स के साथ।

कस्टम गार्डरेल्स: आपके नियम, ऑटोमैटिकली लागू

कस्टम गार्डरेल्स आपको नैचुरल लैंग्वेज में डोमेन-स्पेसिफिक पॉलिसीज़ सेट करने और हर कॉल में उन्हें ऑटोमैटिक लागू करने देते हैं। इससे इंसिडेंट्स, एस्कलेशन और कंप्लायंस रिव्यू साइकिल्स कम होते हैं, जिससे डिप्लॉयमेंट तेज़ होता है।

एक हल्का मॉडल हर एजेंट रिस्पॉन्स को आपके नियमों के हिसाब से जांचता है और ब्लॉक या अलाउ का फैसला देता है, ये रिस्पॉन्स जनरेशन के साथ-साथ इंडिपेंडेंटली चलता है।

गार्डरेल्स कैसे चलें, इस पर पूरा कंट्रोल

आप तय कर सकते हैं कि पॉलिसी वायलेशन कैसे पकड़ी जाए और उसके बाद क्या हो।

एक्जीक्यूशन मोड्स।स्पीड और सख्ती के बीच बैलेंस सेट करें - वॉइस के लिए ये खास ज़रूरी है, जहाँ लेटेंसी मायने रखती है। आप गार्डरेल्स को रिस्पॉन्स के साथ-साथ चला सकते हैं ताकि लगभग कोई डिले न हो, हालांकि सेकंड के हिस्से भर का ऑडियो इंटरसेप्ट से पहले चल सकता है। या फिर रिस्पॉन्स को पूरी तरह क्लियर होने तक होल्ड कर सकते हैं - थोड़ा स्लो, लेकिन यूज़र तक बिना चेक के कुछ नहीं जाता।

एग्जिट स्ट्रैटेजीज़। जब कोई गार्डरेल ट्रिगर होता है, आप तय करते हैं आगे क्या हो: बातचीत खत्म करें, किसी और एजेंट को ट्रांसफर करें, इंसान को एस्कलेट करें, या करेक्टिव इंस्ट्रक्शंस के साथ रिस्पॉन्स को फिर से ट्राई करें।

कंटेंट सेंसिटिविटी लेवल्स। हर कंटेंट कैटेगरी के लिए सेंसिटिविटी सेट करें, हाई रिस्क यूज़ केस में सख्ती बढ़ाएं और जहाँ ज़रूरत हो वहाँ ओवर-ब्लॉकिंग कम करें ताकि यूज़र एक्सपीरियंस अच्छा रहे।

ग्रैन्युलर कॉन्फ़िगरेशन। हर गार्डरेल को अलग से ऑन या ऑफ किया जा सकता है, और अलग-अलग एजेंट्स के लिए अलग सेटिंग्स रख सकते हैं।

पूरा ट्रैक रखें। हर ट्रिगर आपकी बातचीत की एनालिटिक्स में लॉग होता है, किस गार्डरेल ने काम किया और क्या एक्शन लिया गया - ये सब दिखता है। इससे टीम्स अपने सिस्टम प्रॉम्प्ट्स और गार्डरेल्स को समय के साथ बेहतर बना सकती हैं।

कन्वर्सेशन हिस्ट्री रिडैक्शन

कॉल खत्म होने के बाद, आप ट्रांसक्रिप्ट, रिकॉर्डिंग और वेबहुक पेलोड्स से सेंसिटिव जानकारी ऑटोमैटिकली हटा सकते हैं। एनालिटिक्स, QA और ट्रेनिंग के लिए जो चाहिए वो रखें, बाकी हटा दें।

डिटेक्टेड एंटिटीज़ को टेक्स्ट में प्लेसहोल्डर और ऑडियो में बीप से रिप्लेस किया जाता है। आप हर एंटिटी टाइप के हिसाब से कंट्रोल कर सकते हैं: सारे नाम या सिर्फ लास्ट नेम, सारे फाइनेंशियल आइडेंटिफ़ायर्स या सिर्फ पेमेंट कार्ड नंबर।

ये ब्रॉडर डेटा कंट्रोल्स के साथ चलता है जैसे ज़ीरो रिटेंशन मोड, जिसे ज्यादा सख्त कंप्लायंस की ज़रूरत वाले डिप्लॉयमेंट्स में यूज़ किया जा सकता है।

कन्वर्सेशन हिस्ट्री रिडैक्शन और ज़ीरो रिटेंशन मोड एंटरप्राइज क्लाइंट्स के लिए उपलब्ध हैं।एक्सेस के लिए सेल्स से संपर्क करें.

भरोसे और सुरक्षा की मजबूत नींव का हिस्सा

Guardrails 2.0 और डेटा प्राइवेसी फीचर्स ElevenAgents के एंटरप्राइज डिप्लॉयमेंट्स को सपोर्ट करते हैं, साथ ही एजेंट लाइफसाइकल के हर स्टेज के लिए सुरक्षा टूलिंग भी देते हैं:

एजेंट डेवलपमेंट

• सिस्टम प्रॉम्प्ट डिज़ाइन, गार्डरेल कॉन्फ़िगरेशन, रेड टीमिंग और सिमुलेशन ताकि एजेंट्स लाइव होने से पहले बिहेवियर टेस्ट हो सके

हर बातचीत

• दौरान: Guardrails 2.0 (फोकस, मैनिपुलेशन, कंटेंट और कस्टम गार्डरेल्स), लॉगिंग, ऑप्शनल ज़ीरो रिटेंशन मोड
• बाद में: इवैल्यूएशन क्राइटेरिया, मॉनिटरिंग, ऑप्शनल कन्वर्सेशन हिस्ट्री रिडैक्शन

इन सबके साथ, टीम्स को वो कंट्रोल्स मिलते हैं जिनसे वे पायलट से प्रोडक्शन तक कम इंसिडेंट्स, तेज़ अप्रूवल और ज्यादा कंसिस्टेंट एजेंट बिहेवियर के साथ जा सकते हैं। ये प्लेटफ़ॉर्म बेसिस AIUC-1 सर्टिफिकेशन और इंडस्ट्री की पहली एजेंट इंश्योरेंस पॉलिसीज़ के लिए भी सपोर्ट करते हैं।

Guardrails आज ही इस्तेमाल करें

हमने पिछले कुछ महीनों में कई फीचर्स लॉन्च किए हैं, और अब पूरा Guardrails 2.0 ElevenAgents में अल्फा में उपलब्ध है।

इन्हें ऑन करें सिक्योरिटी टैब में अपने एजेंट की सेटिंग्स में, या API के ज़रिए कॉन्फ़िगर करें। एंटरप्राइज डिप्लॉयमेंट्स की जानकारी के लिए हमारी सेल्स टीम से संपर्क करें।

सेटअप गाइडेंस और बेस्ट प्रैक्टिसेज़ के लिए देखें:

• Guardrails डोक्युमेंटेशन
• कन्वर्सेशन हिस्ट्री रिडैक्शन डोक्युमेंटेशन