AI एजेंट्स के लिए हमारा लेयर्ड सुरक्षा फ्रेमवर्क

जैसे-जैसे AI एजेंट अहम काम संभाल रहे हैं, टीम्स को भरोसा चाहिए कि उनके एजेंट सुरक्षित और अनुमान के मुताबिक व्यवहार करेंगे।

ElevenAgents में हम कई स्तरों वाली सुरक्षा संरचना का इस्तेमाल करते हैं। इसमें बातचीत के हर चरण पर गार्डरेल्स, लॉन्च से पहले प्रतिकूल परीक्षण, प्रोडक्शन में मॉनिटरिंग, डेटा सुरक्षा और स्वतंत्र सत्यापन शामिल हैं।

हालांकि कोई भी नॉन-डिटरमिनिस्टिक सिस्टम हर जोखिम से सुरक्षा नहीं दे सकता, लेकिन यह व्यापक सुरक्षा फ्रेमवर्क ElevenAgents पर काम करने वाले अग्रणी उद्यमों और सरकारों को ऐसे एजेंट डिज़ाइन करने में मदद करता है जो कम ही विफल हों, सहजता से उबरें और सुरक्षा के ऊंचे मानकों पर खरे उतरें।

बातचीत के हर चरण में सुरक्षा

आप ऐसे कंट्रोल आसानी से सक्षम और कॉन्फ़िगर कर सकते हैं जो हर इंटरैक्शन के तीनों चरणों की सुरक्षा करें। यही Guardrails 2.0 का आधार है, ElevenAgents में।

इनपुट - यूज़र द्वारा भेजी गई चीज़ों की रियल-टाइम जांच।

• मैनिपुलेशन गार्डरेल्स यूज़र इनपुट का स्वतंत्र रूप से विश्लेषण करते हैं और प्रॉम्प्ट इंजेक्शन के संकेत मिलने पर बातचीत समाप्त कर सकते हैं।

निर्णय - एजेंट को क्या करना है तय करते समय उसे कैसे निर्देशित और सही रास्ते पर रखा जाता है।

• सिस्टम प्रॉम्प्ट्स में एजेंट के लिए स्पष्ट निर्देश होने चाहिए, जैसे अनुचित विषयों से बचना, एजेंट खुद को कैसे प्रस्तुत करेगा यह तय करना, और उसका दायरा सीमित रखना।
• वर्कफ़्लोज़ और प्रक्रियाएं सबसे संवेदनशील कार्रवाइयों को टूल कॉल्स के पीछे रख सकते हैं, जैसे किसी भी अकाउंट की जानकारी साझा करने से पहले कॉलर की पहचान सत्यापित करना।
• Focus गार्डरेल मौजूदा सिस्टम निर्देशों को मज़बूत करता है और भटकाव कम करता है, जो खासकर लंबे या जटिल इंटरैक्शन में महत्वपूर्ण है।

आउटपुट - स्वतंत्र वैलिडेटर रिस्पॉन्स जनरेशन के साथ समानांतर चलते हैं और बहुत कम लेटेंसी जोड़ते हैं। इन्हें संवेदनशील कंटेंट वाले या आपकी नीतियों का उल्लंघन करने वाले रिस्पॉन्स रोकने के लिए सक्षम किया जा सकता है।

• कंटेंट गार्डरेल्स हर श्रेणी के लिए तय थ्रेशहोल्ड के साथ संवेदनशील श्रेणियों की जांच करते हैं।
• कस्टम गार्डरेल्स सामान्य भाषा में लिखे डोमेन-विशिष्ट नियम लागू करते हैं, जिनका मूल्यांकन हल्के मॉडल द्वारा किया जाता है।
• एग्ज़िट स्ट्रैटेजीज़ आपको तय करने देती हैं कि गार्डरेल ट्रिगर होने पर क्या होगा—जैसे कॉल समाप्त करना, किसी व्यक्ति को ट्रांसफर करना या सुधारात्मक निर्देशों के साथ रिस्पॉन्स दोबारा आज़माना।

लॉन्च से पहले मज़बूत परीक्षण

ElevenAgents मज़बूत टेस्टिंग सुविधाएं देता है, ताकि प्लेटफ़ॉर्म पर काम करने वाले लोग एजेंट या कॉन्फ़िगरेशन में बदलाव लाइव होने से पहले समस्याओं को खोज और ठीक कर सकें।

सिम्युलेशंस आपको किसी भी वास्तविक इंटरैक्शन से पहले सिम्युलेटेड यूज़र के साथ पूरी मल्टी-टर्न बातचीत चलाने देते हैं। आप स्थिति तय करते हैं और सिम्युलेटर वास्तविक या मॉक्ड टूल कॉल्स सहित बातचीत को समाधान तक ले जाता है। सिम्युलेटेड यूज़र आपके नियंत्रण में होता है, इसलिए आप उसे शत्रुतापूर्ण या मैनिपुलेटिव बना सकते हैं। इससे नियमित रास्तों को सत्यापित करने वाला वही तंत्र प्रतिकूल स्थितियों को भी परखता है।

कई क्षमताएं इस कवरेज को बढ़ाती हैं:

• रिपीट रन किसी टेस्ट को कई बार चलाते हैं और त्रुटि पैटर्न व एज केस सामने लाने के लिए विफलताओं को कारण के अनुसार समूहित करते हैं।
• नेक्स्ट रिप्लाई और टूल इनवोकेशन टेस्ट्स अलग-अलग रिस्पॉन्स और महत्वपूर्ण कार्रवाइयों की जांच करते हैं।
• चैनल-विशिष्ट परीक्षण यह सत्यापित करता है कि एजेंट हर उस माध्यम पर अपेक्षा के अनुसार काम करेगा जहां उसे जारी किया जाता है, क्योंकि एजेंट के आउटपुट चैनल के अनुसार बदले जा सकते हैं—जैसे कॉल पर संक्षिप्त और ईमेल में विस्तृत।
• API के ज़रिए रेड-टीमिंग। रेड-टीमिंग SDKs के साथ API के ज़रिए भी टेस्ट चलाए जा सकते हैं।

लॉन्च के बाद एजेंट का मूल्यांकन और सुधार

अपने एजेंट डिप्लॉय करने पर, लाइव बातचीत पर लगातार मूल्यांकन चलते हैं। LLM-as-a-judge तरीके से हर कॉल का आपके तय किए मानदंडों के आधार पर अपने-आप मूल्यांकन किया जा सकता है। आप डैशबोर्ड में बातचीत के नतीजे देख सकते हैं और सर्च किए जा सकने वाले ट्रांसक्रिप्ट्स, सोर्सेज़, टूल कॉल्स और गार्डरेल ट्रिगर्स वाले विस्तृत बातचीत लॉग्स से समस्याओं का पता लगा सकते हैं।

प्रोडक्शन में मिली किसी भी समस्या को आसानी से टेस्ट सूट में वापस शामिल किया जा सकता है। बदलाव प्रस्तावित होने पर, आप Experiments का इस्तेमाल करके लाइव ट्रैफ़िक का एक हिस्सा किसी वेरिएंट पर भेज सकते हैं और उसे व्यापक रूप से लागू करने से पहले वास्तविक नतीजे माप सकते हैं।

हम चरणों में डिप्लॉय करने की सलाह देते हैं। अपने एजेंट को ट्रैफ़िक का सीमित हिस्सा भेजें, उन बातचीतों का मूल्यांकन करें, और जब आप सत्यापित कर लें कि एजेंट उम्मीद के मुताबिक काम कर रहा है, तो इसे अतिरिक्त उपयोग के मामलों, चैनलों या क्षेत्रों तक बढ़ाएं।

संवेदनशील डेटा की सुरक्षा

एजेंट पेमेंट विवरण, स्वास्थ्य जानकारी और व्यक्तिगत पहचानकर्ताओं को संभाल सकते हैं, इसलिए यह सोचना महत्वपूर्ण है कि कौन-सा डेटा स्टोर होता है, कहां स्टोर होता है और कितने समय के लिए।

हम ग्राहकों को डेटा सुरक्षित रखने के लिए कई अलग-अलग तरीके देते हैं:

• Zero Retention Mode को योग्य सेवाओं के लिए सक्षम किया जा सकता है, ताकि कुछ प्रकार का डेटा रखा न जाए। इसे कड़े नियामक वातावरणों के लिए डिज़ाइन किया गया है।
• कन्वर्सेशन हिस्ट्री रिडैक्शन कॉल के बाद संवेदनशील एंटिटीज़ हटा देता है और टेक्स्ट में उनकी जगह प्लेसहोल्डर्स तथा ऑडियो में बीप्स डाल देता है, यहां तक कि अलग-अलग एंटिटी प्रकारों के स्तर पर भी।
• कॉन्फ़िगर करने योग्य रिटेंशन स्टोरेज अवधि को आपकी नियामक ज़रूरतों के अनुरूप बनाता है।
• डेटा रेज़िडेंसी प्रोसेसिंग को ज़रूरी अधिकार-क्षेत्र के भीतर रखती है।
• प्राइवेट डिप्लॉयमेंट्स (VPC) अत्यधिक संवेदनशील वर्कलोड्स के लिए वातावरण को अलग रखता है।
• एन्क्रिप्शन ट्रांज़िट और स्टोरेज, दोनों स्थितियों में डेटा की सुरक्षा करता है।

प्लेटफ़ॉर्म-स्तरीय सुरक्षा उपाय और बाहरी सत्यापन

ऊपर दी गई हर चीज़ हमारे व्यापक प्लेटफ़ॉर्म-स्तरीय सुरक्षा उपायों पर आधारित है। यह एक व्यापक प्रोग्राम है जिसमें कंटेंट की उत्पत्ति, दुरुपयोग का पता लगाना, प्रतिबंधित उपयोग पर कार्रवाई और मॉडल रेड-टीमिंग शामिल हैं। अपने सेफ्टी पार्टनरशिप प्रोग्राम के माध्यम से हम AI सुरक्षा में अग्रणी कंपनियों के साथ भी काम करते हैं और उनके प्रोडक्ट्स व उभरते उद्योग मानकों में योगदान देते हैं।

हम अपने तरीके को स्वतंत्र जांच के लिए भी प्रस्तुत करते हैं। इसमें SOC 2 Type II, ISO 27001 और GDPR जैसे सामान्य सुरक्षा व गोपनीयता मानक, साथ ही पेमेंट प्रोसेसिंग के लिए PCI DSS Level 1 और अमेरिका में स्वास्थ्य सेवा के लिए HIPAA जैसे उद्योग और उपयोग-केस-विशिष्ट प्रमाणन शामिल हैं। अधिक जानकारी के लिए हमारा ट्रस्ट सेंटर देखें।

हम ISO 42001 जैसे नए, AI-नेटिव मानकों को भी पूरा करते हैं, जो AI मैनेजमेंट सिस्टम्स को नियंत्रित करता है, और AIUC-1 को भी। इसमें AI एजेंट्स को स्वतंत्र मूल्यांकनकर्ताओं द्वारा हर तिमाही कराए जाने वाले प्रतिकूल सिम्युलेशंस का सामना करने में सक्षम होना आवश्यक है। AIUC-1 के पीछे की यही क्षमताएं उद्योग की कुछ पहली एजेंट इंश्योरेंस पॉलिसीज़ तक पहुंच भी देती हैं।

बड़े या जटिल रोलआउट्स के लिए, हमारे Forward Deployed Engineers आपकी टीम के साथ मिलकर आपकी एजेंट स्ट्रैटेजी डिज़ाइन और लागू करते हैं, जिसमें कॉन्फ़िगरेशन, गार्डरेल्स, टेस्टिंग, मॉनिटरिंग और रोलआउट स्ट्रैटेजी शामिल है।

निष्कर्ष

ElevenAgents में सुरक्षा के लिए हमारा तरीका कई स्तरों वाला है, जिसमें हर तत्व दूसरे को मज़बूत करता है:

• एजेंट कॉन्फ़िगरेशन: सिस्टम प्रॉम्प्ट्स, वर्कफ़्लोज़ और प्रक्रियाएं, जो व्यवहार को आकार देते हैं और सबसे संवेदनशील कार्रवाइयों को टूल कॉल्स के पीछे रखते हैं।
• गार्डरेल्स: हर चरण में स्वतंत्र जांच: इनपुट पर मैनिपुलेशन डिटेक्शन, निर्णय पर Focus और आउटपुट पर कंटेंट व कस्टम वैलिडेटर्स, साथ में कॉन्फ़िगर करने योग्य एग्ज़िट स्ट्रैटेजीज़।
• टेस्टिंग: लॉन्च से पहले प्रतिकूल सिम्युलेशंस, रिपीट रन, चैनल-विशिष्ट टेस्ट्स और रेड-टीमिंग।
• मॉनिटरिंग: चरणबद्ध रोलआउट, फिर निरंतर मूल्यांकन, सर्च किए जा सकने वाले लॉग्स और ट्रांसक्रिप्ट्स, और लॉन्च के बाद फीडबैक लूप।
• डेटा सुरक्षा: रिडैक्शन, Zero Retention Mode, कॉन्फ़िगर करने योग्य रिटेंशन, डेटा रेज़िडेंसी, प्राइवेट (VPC) डिप्लॉयमेंट्स और एन्क्रिप्शन।
• बाहरी सत्यापन: प्रमाणन, AIUC-1 का स्वतंत्र प्रतिकूल परीक्षण, एजेंट इंश्योरेंस, रेड-टीमिंग और विशेषज्ञ सहायता।