कॉन्टेंट पर जाएं

ElevenAgents में Procedures का परिचय

प्रकाशित

सुनेंइस आर्टिकल को सुनें

जब AI एजेंट्स रिफंड, बिलिंग समस्याओं और प्रोडक्ट ट्रबलशूटिंग जैसे ज़रूरी काम संभालते हैं, तो आपको हर टास्क के लिए उनके व्यवहार को गाइड करने का एक साफ़ तरीका चाहिए।

जैसे कर्मचारी स्टैंडर्ड ऑपरेटिंग Procedures (SOPs) फॉलो करते हैं, वैसे ही Procedures से आप एजेंट्स को आम परिस्थितियों में फॉलो करने के लिए निर्देश दे सकते हैं। इससे टेक्निकल और नॉन-टेक्निकल दोनों तरह के टीम मेंबर्स के लिए एजेंट्स बनाना, मैनेज करना और अपडेट करना आसान हो जाता है।

Guardrails Cover

Procedures एजेंट्स को तयशुदा और ओपन-एंडेड दोनों तरह के टास्क संभालने में सक्षम बनाते हैं।

एक अच्छा सिस्टम प्रॉम्प्ट ज़्यादातर इंटरैक्शन में प्रेडिक्टेबल बिहेवियर देता है। लेकिन एजेंट्स नॉन-डिटरमिनिस्टिक सिस्टम्स हैं, लंबी बातचीत में वे भटक सकते हैं, यूज़र क्रिएटिव तरीके से लिमिट्स टेस्ट कर सकते हैं, और कई बार अच्छे पॉलिसीज़ भी प्रेशर में काम नहीं करतीं।

स्ट्रक्चर्ड Procedures

फ्री-फॉर्म Procedures

What it does
System prompt hardening
Define allowed and disallowed behavior in the system prompt. The Focus Guardrail reinforces those instructions throughout the conversation.
User input validation
A safety net that catches prompt injection and manipulation attempts, terminating conversations that pose a security risk.
Agent response validation
Evaluates every reply against your policies in real time. If a response violates your rules, it can be blocked before delivery.
Guardrails
System prompt hardening
Focus
User input validation
Manipulation
Agent response validation
Content, Custom Guardrails

अगर आपके पास SOPs हैं जिन्हें आप चाहते हैं कि आपका एजेंट फॉलो करे, तो आप उन्हें डॉक, PDF या txt फाइल्स के रूप में इम्पोर्ट कर सकते हैं और ElevenAgents आपके लिए एक Procedure ड्राफ्ट कर देगा, जिसे आप कन्फर्म या एडिट कर सकते हैं।

पहले से बने सेफगार्ड्स सबसे आम रिस्क एरियाज को कवर करते हैं।

एजेंट को अपनी तरह से ढालने का हिस्सा आपके एजेंट के सिस्टम प्रॉम्प्ट को मजबूत करता है, जिससे जवाब डायरेक्ट, रिलिवेंट और आपके तय किए गए गोल्स व इंस्ट्रक्शंस के अनुसार रहते हैं। ये खासतौर पर लंबी या जटिल बातचीत में फायदेमंद है, जहाँ एजेंट अपने मकसद से भटक सकता है।

Procedures आपकी मदद करते हैं अपने एजेंट को कंट्रोल करने में, साथ ही सिस्टम प्रॉम्प्ट, वर्कफ़्लो और गार्डरेल्स के साथ जो आप पहले से इस्तेमाल करते हैं। एजेंट का व्यवहार साफ़-साफ़ तय होने से आप बेहतर कस्टमर रिज़ल्ट्स पा सकते हैं—चाहे वो ज़्यादा अपसेल कन्वर्ज़न हो या तेज़ टिकट रिज़ॉल्यूशन। यूज़र्स द्वारा सिस्टम इंस्ट्रक्शंस को बायपास करने की कोशिशों को पहचानते और ब्लॉक करते हैं। जब ये ऑन होते हैं, तो सिस्टम यूज़र इनपुट्स को ऐसे पैटर्न्स के लिए एनालाइज़ करता है जो प्रॉम्प्ट इंजेक्शन या इंस्ट्रक्शन ओवरराइड की कोशिश दिखाते हैं, और अगर कोई सिक्योरिटी रिस्क हो तो बातचीत को खत्म कर सकता है।

Procedures अब ElevenAgents में उपलब्ध हैं, फिलहाल Alpha में। एजेंट के जवाबों को उपयुक्त बनाए रखने में मदद करते हैं, कई कैटेगरी के सेंसिटिव या अनसेफ कंटेंट के लिए स्क्रीनिंग करते हैं, हर एक के लिए कंट्रोल करने लायक थ्रेशोल्ड्स के साथ।

और जानें:

कस्टम गार्डरेल्स आपको नैचुरल लैंग्वेज में डोमेन-स्पेसिफिक पॉलिसीज़ सेट करने और हर कॉल में उन्हें ऑटोमैटिक लागू करने देते हैं। इससे इंसिडेंट्स, एस्कलेशन और कंप्लायंस रिव्यू साइकिल्स कम होते हैं, जिससे डिप्लॉयमेंट तेज़ होता है।

Custom Guardrail Configuration Example

एक हल्का मॉडल हर एजेंट रिस्पॉन्स को आपके नियमों के हिसाब से जांचता है और ब्लॉक या अलाउ का फैसला देता है, ये रिस्पॉन्स जनरेशन के साथ-साथ इंडिपेंडेंटली चलता है।

गार्डरेल्स कैसे चलें, इस पर पूरा कंट्रोल

आप तय कर सकते हैं कि पॉलिसी वायलेशन कैसे पकड़ी जाए और उसके बाद क्या हो।

एक्जीक्यूशन मोड्स।स्पीड और सख्ती के बीच बैलेंस सेट करें - वॉइस के लिए ये खास ज़रूरी है, जहाँ लेटेंसी मायने रखती है। आप गार्डरेल्स को रिस्पॉन्स के साथ-साथ चला सकते हैं ताकि लगभग कोई डिले न हो, हालांकि सेकंड के हिस्से भर का ऑडियो इंटरसेप्ट से पहले चल सकता है। या फिर रिस्पॉन्स को पूरी तरह क्लियर होने तक होल्ड कर सकते हैं - थोड़ा स्लो, लेकिन यूज़र तक बिना चेक के कुछ नहीं जाता।

एग्जिट स्ट्रैटेजीज़। जब कोई गार्डरेल ट्रिगर होता है, आप तय करते हैं आगे क्या हो: बातचीत खत्म करें, किसी और एजेंट को ट्रांसफर करें, इंसान को एस्कलेट करें, या करेक्टिव इंस्ट्रक्शंस के साथ रिस्पॉन्स को फिर से ट्राई करें।

कंटेंट सेंसिटिविटी लेवल्स। हर कंटेंट कैटेगरी के लिए सेंसिटिविटी सेट करें, हाई रिस्क यूज़ केस में सख्ती बढ़ाएं और जहाँ ज़रूरत हो वहाँ ओवर-ब्लॉकिंग कम करें ताकि यूज़र एक्सपीरियंस अच्छा रहे।

ग्रैन्युलर कॉन्फ़िगरेशन। हर गार्डरेल को अलग से ऑन या ऑफ किया जा सकता है, और अलग-अलग

पूरा ट्रैक रखें। हर ट्रिगर आपकी बातचीत की एनालिटिक्स में लॉग होता है, किस गार्डरेल ने काम किया और क्या एक्शन लिया गया - ये सब दिखता है। इससे टीम्स अपने सिस्टम प्रॉम्प्ट्स और गार्डरेल्स को समय के साथ बेहतर बना सकती हैं।

कन्वर्सेशन हिस्ट्री रिडैक्शन

कॉल खत्म होने के बाद, आप ट्रांसक्रिप्ट, रिकॉर्डिंग और वेबहुक पेलोड्स से सेंसिटिव जानकारी ऑटोमैटिकली हटा सकते हैं। एनालिटिक्स, QA और ट्रेनिंग के लिए जो चाहिए वो रखें, बाकी हटा दें।

डिटेक्टेड एंटिटीज़ को टेक्स्ट में प्लेसहोल्डर और ऑडियो में बीप से रिप्लेस किया जाता है। आप हर एंटिटी टाइप के हिसाब से कंट्रोल कर सकते हैं: सारे नाम या सिर्फ लास्ट नेम, सारे फाइनेंशियल आइडेंटिफ़ायर्स या सिर्फ पेमेंट कार्ड नंबर।

ये ब्रॉडर डेटा कंट्रोल्स के साथ चलता है जैसे ज़ीरो रिटेंशन मोड, जिसे ज्यादा सख्त कंप्लायंस की ज़रूरत वाले डिप्लॉयमेंट्स में यूज़ किया जा सकता है।

Conversation History Redaction Example

कन्वर्सेशन हिस्ट्री रिडैक्शन और ज़ीरो रिटेंशन मोड एंटरप्राइज क्लाइंट्स के लिए उपलब्ध हैं।एक्सेस के लिए सेल्स से संपर्क करें.

भरोसे और सुरक्षा की मजबूत नींव का हिस्सा

Guardrails 2.0 और डेटा प्राइवेसी फीचर्स ElevenAgents के एंटरप्राइज डिप्लॉयमेंट्स को सपोर्ट करते हैं, साथ ही एजेंट लाइफसाइकल के हर स्टेज के लिए सुरक्षा टूलिंग भी देते हैं:

एजेंट डेवलपमेंट

  • सिस्टम प्रॉम्प्ट डिज़ाइन, गार्डरेल कॉन्फ़िगरेशन, रेड टीमिंग और सिमुलेशन ताकि एजेंट्स लाइव होने से पहले बिहेवियर टेस्ट हो सके

हर बातचीत

  • दौरान: Guardrails 2.0 (फोकस, मैनिपुलेशन, कंटेंट और कस्टम गार्डरेल्स), लॉगिंग, ऑप्शनल ज़ीरो रिटेंशन मोड
  • बाद में: इवैल्यूएशन क्राइटेरिया, मॉनिटरिंग, ऑप्शनल कन्वर्सेशन हिस्ट्री रिडैक्शन

इन सबके साथ, टीम्स को वो कंट्रोल्स मिलते हैं जिनसे वे पायलट से प्रोडक्शन तक कम इंसिडेंट्स, तेज़ अप्रूवल और ज्यादा कंसिस्टेंट एजेंट बिहेवियर के साथ जा सकते हैं। ये प्लेटफ़ॉर्म बेसिस AIUC-1 सर्टिफिकेशन और इंडस्ट्री की पहली एजेंट इंश्योरेंस पॉलिसीज़ के लिए भी सपोर्ट करते हैं।

Guardrails आज ही इस्तेमाल करें

हमने पिछले कुछ महीनों में कई फीचर्स लॉन्च किए हैं, और अब पूरा Guardrails 2.0 ElevenAgents में अल्फा में उपलब्ध है।

इन्हें ऑन करें सिक्योरिटी टैब में अपने एजेंट की सेटिंग्स में, या API के ज़रिए कॉन्फ़िगर करें। एंटरप्राइज डिप्लॉयमेंट्स की जानकारी के लिए हमारी सेल्स टीम से संपर्क करें।

सेटअप गाइडेंस और बेस्ट प्रैक्टिसेज़ के लिए देखें:

संबंधित लेख

उच्चतम गुणवत्ता वाले AI ऑडियो के साथ बनाएं