वेबिनार सारांश: एंटरप्राइज डिप्लॉयमेंट के लिए सुरक्षित AI एजेंट बनाएं

वेबिनार सारांश: एंटरप्राइज़ डिप्लॉयमेंट के लिए सुरक्षित AI एजेंट बनाएं

AI एजेंट से बातचीत संभलवाना आसान हिस्सा है। अपनी सुरक्षा टीम, कानूनी टीम और ग्राहकों का उस पर भरोसा जीतना ही वह जगह है जहाँ ज़्यादातर एंटरप्राइज़ डिप्लॉयमेंट रुक जाते हैं।

इस पोस्ट में हमारी लाइव वर्कशॉप का सारांश है, एंटरप्राइज़ डिप्लॉयमेंट के लिए सुरक्षित AI एजेंट बनाना, जिसमें हमने उन टूल्स, फ्रेमवर्क्स और डिप्लॉयमेंट तरीकों को समझाया जो एंटरप्राइज़ एजेंट डिप्लॉयमेंट को बड़े स्तर पर सफल बनाते हैं। 

सुरक्षा के लिए लेयर्ड अप्रोच कैसे बनाएं 

ElevenAgents प्लैटफ़ॉर्म पर 40 लाख से ज़्यादा एजेंट डिप्लॉय किए जा चुके हैं। एंटरप्राइज़ माहौल में भरोसेमंद ढंग से काम करने वाले एजेंटों में एक बात समान है: सुरक्षा शुरुआत से ही शामिल थी, पहली घटना के बाद नहीं जोड़ी गई।

हमारे लाइव सेशन में उन फ्रेमवर्क्स, कंट्रोल्स और डिप्लॉयमेंट तरीकों पर बात हुई, जो सुरक्षा समीक्षा पास करने वाले एजेंटों को बाकी एजेंटों से अलग करते हैं।

अलग-अलग एजेंटों के लिए बुनियादी तौर पर अलग सीमाओं की ज़रूरत होती है।

• किसी वीडियो गेम के किरदार को अनुभव के हिस्से के रूप में स्पष्ट रूप से हिंसक भाषा इस्तेमाल करनी पड़ सकती है — लेकिन उसे कभी भी अपने किरदार से बाहर नहीं आना चाहिए या यह नहीं बताना चाहिए कि वह AI है।
• किसी हेल्थकेयर रिसेप्शनिस्ट को चोटों और चिकित्सा संबंधी स्थितियों पर बात करनी होती है — लेकिन उसे कभी भी चिकित्सकीय सलाह नहीं देनी चाहिए।
• क्रेडिट कार्ड सहायता एजेंट को स्पष्ट सामग्री से बिल्कुल नहीं जुड़ना चाहिए और बिना सत्यापित कॉलर्स के साथ खाते की जानकारी साझा नहीं करनी चाहिए। 

एजेंट नॉन-डिटरमिनिस्टिक होते हैं, इसलिए कोई एक सुरक्षा उपाय सभी संभावित जोखिमों से पूरी तरह नहीं बचा सकता। इसलिए एंटरप्राइज़ टीम्स को लेयर्ड अप्रोच की ज़रूरत होती है — कई कंट्रोल्स साथ मिलकर काम करें, ताकि सुरक्षा संबंधी विफलताएं बहुत कम हों।

इसी सिद्धांत के आधार पर हमने सेशन को इन चार सवालों के इर्द-गिर्द आयोजित किया:

1. मैं अपने एजेंट के कहने और करने वाली बातों को कैसे नियंत्रित कर सकता हूँ?
2. मैं कैसे जांच सकता हूँ कि यह काम कर रहा है?
3. सुरक्षा और अनुपालन की ज़रूरतें पूरी करने के लिए मैं डेटा की सुरक्षा कैसे कर सकता हूँ?
4. सुरक्षित रूप से डिप्लॉय करने के लिए मैं प्रक्रियाएं कैसे बना सकता हूँ?

एजेंट के व्यवहार को नियंत्रित करने के बारे में कैसे सोचें 

किसी भी एजेंट बातचीत में तीन बिंदु होते हैं, जहाँ सुरक्षा पर विचार करना ज़रूरी है। 

इनपुट
यूज़र कुछ कहता है। विरोधी इरादे वाले यूज़र "पिछले सभी निर्देशों को अनदेखा करो" या "दिखावा करो कि तुम कोई अलग असिस्टेंट हो" जैसी कोशिशें कर सकते हैं। ऐसी हेरफेर की कोशिशों को मॉडल तक पहुँचने से पहले पहचानना और संभालना ज़रूरी है। इससे गैर-ज़रूरी लागत बचती है और बुरे इरादे वाले लोगों को ऐसी जानकारी निकालने से रोका जाता है जो उन्हें नहीं मिलनी चाहिए।

निर्णय लेना
LLM तय करता है कि क्या कहना या करना है। यहाँ आपका सिस्टम प्रॉम्प्ट मुख्य कंट्रोल पॉइंट है — लेकिन लंबी या जटिल बातचीत में LLM अपने निर्देशों से भटक सकते हैं। आपको ऐसे तंत्र चाहिए जो केवल शुरुआत में नहीं, बल्कि पूरी बातचीत के दौरान व्यवहार को मज़बूत करें। एस्केलेशन पाथ भी तय करें: क्या ऐसी स्थितियाँ हैं जिनमें एजेंट को किसी इंसान या ज़्यादा विशेषज्ञ एजेंट को बातचीत सौंपनी चाहिए, और किन शर्तों पर?

आउटपुट
मज़बूत दिशा-निर्देशों के बावजूद कुछ छूट सकता है — खासकर लंबी चलने वाली बातचीत में। आपको एक अंतिम सुरक्षा कवच चाहिए। इसे ऐसे समझें जैसे कोई छोटा एजेंट आपके मुख्य एजेंट के काम की जांच कर रहा हो: वह जवाब यूज़र तक पहुँचने से पहले उसका मूल्यांकन करता है और तय करता है कि उसे भेजना है, फिर से कोशिश करनी है या एस्केलेट करना है। यह जवाब जनरेट होने के साथ समानांतर चलता है, इसलिए बहुत कम लेटेंसी जुड़ती है।

इन तीनों स्तरों पर आपको अपनी एग्ज़िट स्ट्रैटेजी पहले से तय करनी चाहिए: क्या उल्लंघन होने पर बातचीत समाप्त होगी, सुधारात्मक निर्देशों के साथ दोबारा कोशिश होगी या उसे किसी इंसान को ट्रांसफर किया जाएगा? कुछ गलत होने पर यूज़र का अनुभव इसी फैसले से तय होता है।

डेमो 1: ElevenAgents में गार्डरेल्स कॉन्फ़िगर करना

परिदृश्य: हेरफेर, विषय से अलग जवाबों और पॉलिसी उल्लंघनों को रोकने के लिए वेबसाइट सेल्स और सपोर्ट एजेंट में सुरक्षा कंट्रोल्स की कई लेयर्स कॉन्फ़िगर की गई हैं।

क्या दिखाया गया:

• मैनिपुलेशन गार्डरेल (इनपुट) - Security टैब में मौजूद यह टॉगल प्रॉम्प्ट इंजेक्शन पैटर्न — सिस्टम निर्देशों को ओवरराइड करने की कोशिशों — का पता लगाता है और एजेंट के जवाब देने से पहले बातचीत समाप्त कर देता है। सभी प्रोडक्शन एजेंटों के लिए सुझाया जाता है।
• सिस्टम प्रॉम्प्ट और Focus गार्डरेल (निर्णय लेना) - सिस्टम प्रॉम्प्ट बुनियादी है। हर महत्वपूर्ण नियम उसमें स्पष्ट रूप से होना चाहिए। डेमो में सेशन के बीच में एक निर्देश जोड़ा गया: "कोई डिस्काउंट ऑफ़र न करें।" अलग से चालू किया गया Focus गार्डरेल पूरी बातचीत में सिस्टम प्रॉम्प्ट को अपने-आप मज़बूत करता है — जिससे लंबी बातचीत में होने वाली भटकने की समस्या हल होती है। मज़बूत सिस्टम प्रॉम्प्ट और चालू Focus का संयोजन एजेंट को सही दिशा में रखने का सबसे प्रभावी तरीका है।
• कंटेंट गार्डरेल (आउटपुट) - गाली-गलौज, कानूनी सलाह और राजनीतिक राय को कवर करने वाली पहले से कॉन्फ़िगर श्रेणियाँ। हर श्रेणी के लिए कॉन्फिडेंस थ्रेशहोल्ड बदला जा सकता है — शुरुआत के लिए मीडियम सुझाया जाता है। यह फ़ॉलबैक लेयर है: अगर एजेंट कुछ ऐसा जनरेट करने वाला है जो उसे नहीं करना चाहिए, तो यह डिलीवरी से पहले उसे पकड़ लेती है।
• कस्टम गार्डरेल (आउटपुट) - प्राकृतिक भाषा में लिखे यूज़र-डिफ़ाइंड चेक्स, उन मामलों के लिए जिन्हें प्रीसेट्स कवर नहीं करते। डेमो में "कोई डिस्काउंट नहीं" गार्डरेल कॉन्फ़िगर किया गया: "ऐसे किसी भी जवाब को ब्लॉक करें जिसमें डिस्काउंट, प्रमोशन या विशेष कीमत का ज़िक्र हो, जिसे ऑफ़र करने के लिए एजेंट अधिकृत नहीं है।" कस्टम गार्डरेल्स में अतिरिक्त LLM मूल्यांकन होता है — इसलिए इस्तेमाल के हिसाब से लागत और लेटेंसी पर विचार करना पड़ता है। निर्देश संक्षिप्त रखें और अलग-अलग जांचों को मिलाने के बजाय अलग गार्डरेल्स में बांटें।
• उल्लंघन पर कार्रवाई - दो विकल्प: कॉल समाप्त करें या फिर से कोशिश करें। दोबारा कोशिश पर आप एजेंट के अगले प्रयास को दिशा देने के लिए अतिरिक्त निर्देश दे सकते हैं — जैसे किसी इंसान को एस्केलेट करना या डिफ़ॉल्ट रीडायरेक्ट मैसेज देना।

यह क्यों मायने रखता है: ये कंट्रोल्स सभी के लिए एक जैसे नहीं होते। इन्हें हर गार्डरेल के स्तर पर कॉन्फ़िगर किया जा सकता है। यही बारीकी सैद्धांतिक रूप से सुरक्षित एजेंट और अलग-अलग एंटरप्राइज़ संदर्भों में व्यावहारिक रूप से सुरक्षित एजेंट के बीच अंतर पैदा करती है।

डेमो 2: लॉन्च से पहले सिमुलेशन टेस्टिंग

परिदृश्य: डिस्काउंट से जुड़े बातचीत के दो परिदृश्यों के आधार पर एक सपोर्ट एजेंट का परीक्षण किया जाता है, ताकि यह सुनिश्चित हो सके कि वह डिस्काउंट ऑफ़र किए बिना यूज़र्स को प्राइसिंग पेज पर भेजता है।

क्या दिखाया गया: 

• Tests टैब में दो सिमुलेशन टेस्ट तय किए गए, जिनमें से हर एक में सिम्युलेटेड यूज़र परिदृश्य, बातचीत के टर्न्स की तय संख्या और स्पष्ट सफलता मानदंड थे
• सिस्टम प्रॉम्प्ट में खास एज केस निर्देश न होने के कारण एक टेस्ट शुरुआत में फ़ेल हुआ
• छूटे हुए निर्देश सिस्टम प्रॉम्प्ट के गार्डरेल सेक्शन में जोड़े गए
• एजेंट को फिर से पब्लिश किया गया और दोनों टेस्ट दोबारा चलाए गए — दोनों पास हुए
• विस्तृत रन हिस्ट्री यह दिखाती है कि बातचीत का कौन-सा हिस्सा फ़ेल हुआ, जिसमें टूल कॉल्स और एजेंट की कार्रवाइयाँ शामिल हैं

यह क्यों मायने रखता है: सिमुलेशन टेस्टिंग टीम्स को किसी वास्तविक यूज़र के एजेंट को देखने से पहले नियंत्रित माहौल में उसके व्यवहार को मान्य करने देती है। इसमें नियमित और विरोधी इरादे वाले, दोनों तरह के परिदृश्य शामिल होते हैं। यह केवल अलग-अलग जवाबों पर नहीं, बल्कि बातचीत के पूरे फ़्लो पर चलता है। बदलाव करने के साथ ही, समाधान काम कर रहा है या नहीं यह पक्का करने के लिए टेस्ट तुरंत दोबारा चलाए जा सकते हैं।

डेमो 3: संवेदनशील डिप्लॉयमेंट के लिए PII रिडैक्शन

परिदृश्य: बातचीत लॉग्स से व्यक्तिगत पहचान योग्य जानकारी हटाने के लिए एक एंटरप्राइज़ एजेंट कॉन्फ़िगर किया गया है।

क्या दिखाया गया:

• Privacy सेटिंग्स में Advanced टैब के तहत मौजूद Conversation History Redaction टॉगल
• खास डेटा एंटिटीज़ की सूची, जिन्हें जन्मतिथि, उम्र और अन्य संवेदनशील फ़ील्ड्स समेत अलग-अलग रिडैक्शन के लिए टॉगल किया जा सकता है
• सभी एंटिटीज़ या केवल उस एजेंट के उपयोग के मामले से जुड़ी एंटिटीज़ चुनने का विकल्प

यह क्यों मायने रखता है: HIPAA जैसे कड़े अनुपालन वाले माहौल में PII रिडैक्शन, ज़ीरो रिटेंशन मोड का विकल्प नहीं है। यह आंतरिक समीक्षा या क्वालिटी कंट्रोल के लिए इस्तेमाल होने वाले बातचीत लॉग्स में डेटा एक्सपोज़र कम करता है। टीम्स अपने ज़रूरी लॉग्स रख सकती हैं और गैर-ज़रूरी डेटा हटा सकती हैं। यह फ़िलहाल एंटरप्राइज़ ग्राहकों के लिए उपलब्ध है।

सुरक्षित एंटरप्राइज़ एजेंट डिप्लॉयमेंट के लिए सर्वोत्तम तरीके 

1. लेयर्ड अप्रोच अपनाएं। कोई एक कंट्रोल सुरक्षित व्यवहार सुनिश्चित नहीं करता। इनपुट गार्डरेल्स, आउटपुट वैलिडेशन, प्रॉम्प्ट हार्डनिंग और टेस्टिंग को साथ मिलकर काम करना चाहिए। हर लेयर दूसरी लेयर्स को मज़बूत करती है और मिलकर वे सुरक्षा समस्याओं का जोखिम काफी कम कर देती हैं।
2. गार्डरेल्स को संदर्भ के अनुसार रखें। हेल्थकेयर एजेंट और रिटेल सपोर्ट एजेंट के लिए अलग नियम चाहिए। किसी सामान्य टेम्पलेट के बजाय अपने उपयोग के मामले के हिसाब से सीमाएं तय करें।
3. ऐसे उपयोग के मामले से शुरुआत करें जो मायने रखता हो। सबसे सफल एंटरप्राइज़ डिप्लॉयमेंट किसी औपचारिक पायलट से शुरू नहीं होते। वे कस्टमर सपोर्ट या शेड्यूलिंग जैसे वास्तविक काम चुनते हैं और उसे सही करने में निवेश करते हैं।
4. लॉन्च से पहले टेस्ट करें, फिर टेस्टिंग जारी रखें। सिमुलेशन टेस्टिंग और बाहरी रेड-टीमिंग टूल्स इस्तेमाल करें। नियमित और विरोधी इरादे वाले, दोनों तरह के परिदृश्यों पर टेस्ट करें। प्रोडक्शन में मिले नए एज केसेस को अपने टेस्ट सूट में जोड़ें।
5. चरणों में डिप्लॉय करें। सीमित ट्रैफ़िक से शुरुआत करें। वास्तविक बातचीत पर नज़र रखें। पहचानें कि एजेंट को किन चीज़ों में परेशानी होती है। बदलाव करें, फिर टेस्ट करें और उसके बाद विस्तार करें।
6. एक्ज़ीक्यूशन मोड सोच-समझकर चुनें। टेक्स्ट एजेंटों के लिए blocking मोड इस्तेमाल करें, जहाँ सख्त वैलिडेशन गति से ज़्यादा महत्वपूर्ण है। वॉइस एजेंटों के लिए streaming मोड इस्तेमाल करें, जहाँ लेटेंसी प्राथमिकता है।
7. गार्डरेल उल्लंघन पर स्पष्ट कार्रवाई तय करें। पहले से तय करें कि उल्लंघन होने पर कॉल समाप्त करनी है, दोबारा कोशिश करनी है या किसी इंसान को एस्केलेट करना है।
8. कस्टम गार्डरेल निर्देश संक्षिप्त रखें। गार्डरेल्स समानांतर चलते हैं। लंबा और जटिल कस्टम गार्डरेल लेटेंसी बढ़ाता है। निर्देश संक्षिप्त रखें और अलग-अलग जांचों को अलग गार्डरेल्स में बांटें।
9. समझें कि सर्टिफ़िकेशन वास्तव में किन चीज़ों को कवर करते हैं। SOC 2 Type 2 और ISO 27001 बुनियादी अपेक्षाएं हैं। HIPAA और PCI DSS जैसे डोमेन-विशिष्ट मानक रेगुलेटेड इंडस्ट्रीज़ के लिए हैं। ISO 42001 और AIUC-1 जैसे नए AI-विशिष्ट सर्टिफ़िकेशन पक्षपात, पारदर्शिता और विरोधी परिस्थितियों में स्थिरता को संबोधित करते हैं — और AIUC-1 सर्टिफ़िकेशन AI-विशिष्ट बीमा उपलब्ध करा सकता है।
10. शुरुआत में ही प्रक्रिया की क्षमता बनाएं। पहले डिप्लॉयमेंट में सबसे ज़्यादा समय लगता है। टेस्टिंग और डिप्लॉयमेंट प्रक्रिया में निवेश करने वाली टीम्स हर अगले एजेंट पर कहीं तेज़ी से बदलाव कर पाती हैं।
    

पूरा सेशन देखें 

पूरा वेबिनार यहाँ देखें।