कन्वर्सेशनल AI सिस्टम को कैसे प्रॉम्प्ट करें

आज, LLM कन्वर्सेशनल AI सिस्टम्स का मुख्य आधार बन गया है। खास तौर पर, LLMs कन्वर्सेशनल AI — जो शुरुआत में बड़े फ़ोन ट्रीज़ पर आधारित था — को डायनामिक सुविधाएं और इंसानों जैसे अनुभव देने में सक्षम बनाते हैं। हालांकि, LLMs कोई जादुई अपग्रेड नहीं हैं; इन्हें खास प्रॉम्प्टिंग की जरूरत होती है, क्योंकि ये डिफ़ॉल्ट रूप से इंसानी बातचीत के लिए फाइनट्यून नहीं होते।

कन्वर्सेशनल AI के लिए LLMs को प्रॉम्प्ट करते समय डेवलपर्स एक आम गलती करते हैं: वे वही प्लेबुक दोबारा इस्तेमाल करते हैं जिसका उपयोग मानव कर्मचारियों को प्रशिक्षित करने के लिए किया गया था। सुनने में सीधा लगने के बावजूद, यह रणनीति शायद ही कारगर होती है। LLMs आम इंसानों से अलग धारणाएं बनाते हैं, और उनका डिफ़ॉल्ट टोन व दायरा मौखिक बातचीत के अनुकूल नहीं होता।

आज, हम जानेंगे कि सफल कन्वर्सेशनल AI सिस्टम्स बनाने के लिए LLMs को कैसे प्रॉम्प्ट किया जाए। इस विषय पर ज्यादा विस्तृत और तकनीकी गाइड आप ElevenLabs डेवलपर डॉक्स में भी पढ़ सकते हैं।

पुराना सिस्टम

LLMs से पहले, कन्वर्सेशनल AI सिस्टम्स बड़े लॉजिक ट्रीज़ का इस्तेमाल करते थे, जिनसे अनुरोधों को मौखिक इनपुट के आधार पर गुजारा जाता था। यह व्यवस्था कस्टमर सर्विस नंबरों (जैसे एयरलाइन हॉटलाइन) और पेमेंट सिस्टम्स (जैसे क्रेडिट कार्ड फ़ोन सेवाएं) में लोकप्रिय थी।

ये पुराने सिस्टम धीमे थे, रोबोट जैसे लगते थे, और बहुत सीमित मानवीय इनपुट ही स्वीकार कर सकते थे। संभव है कि आपने भी ऐसा अनुभव किया हो—किसी प्रॉम्प्ट का जवाब देने के लिए फ़ोन पर ज़ोर से “हां” चिल्लाना पड़ा हो। इस खराब अनुभव के कारण ज्यादातर यूज़र किसी लाइव मानव एजेंट से बात करने के लिए “सिस्टम को मात देने” की कोशिश करते थे।

हालांकि, इन फ़ोन ट्रीज़ का एक फायदा था — वे सीमित दायरे में रहते थे। बातचीत के केवल कुछ ही रास्ते हो सकते थे, और डेवलपर्स अस्वीकृत इनपुट को अनदेखा करने के लिए आसानी से गार्डरेल्स लागू कर सकते थे। यही सीमा LLMs के फायदे और नुकसान की बुनियाद है: वे फ़ोन ट्रीज़ की सीमित प्रकृति से बहुत आगे बढ़ते हैं, लेकिन अप्रत्याशित भी होते हैं और मुश्किलों का पिटारा खोल देते हैं — जैसे असंभव वादे करना, ग्राहकों पर गुस्सा होना या संवेदनशील डेटा का उल्लंघन करना।

डिफ़ॉल्ट कमियां

अगर LLMs को सिर्फ़ इंसानों के लिए मूल रूप से बनाई गई हैंडबुक से प्रशिक्षित किया जाए, तो कुछ अहम कमियों के कारण उनकी सफलता सीमित रहेगी। इन कमियों को समझने से आपको उन्हें दूर करने वाले प्रॉम्प्ट डिज़ाइन करने में मदद मिलेगी:

टोन में असंगति

LLMs को रीइन्फोर्समेंट लर्निंग से प्रशिक्षित किया जाता है, जिसमें मानवीय फीडबैक उन्हें संरचित जवाब देने के लिए प्रोत्साहित करता है। खास तौर पर, LLM के जवाब अक्सर लंबे होते हैं और बुलेट्स, कॉल-आउट ब्लॉक्स और हेडलाइंस से भरे होते हैं।

हालांकि, कन्वर्सेशनल AI के संदर्भ में LLMs को मौखिक बातचीत की संक्षिप्त और सहज प्रकृति अपनानी चाहिए।

धारणाओं की कमियां

LLMs सवाल पूछने के बजाय अनजान बातों को अनुमानित जानकारी से भरने लगते हैं। इससे वे गलत धारणाएं बना सकते हैं, जो यूज़र्स को गुमराह करें—या महंगी गलतियों का कारण बनें (जैसे रिफंड का वादा करना)। आगे हम देखेंगे कि नॉलेज बेस और गार्डरेल्स का उपयोग करके LLMs को गलत वादे करने और अस्वीकृत कार्रवाइयां करने से बेहतर तरीके से कैसे रोका जा सकता है।

लेटेंसी

LLMs प्रोग्राम के ज़रिए फ़ंक्शन कॉल कर सकते हैं और इंसानों की ओर से डेटा इकट्ठा व लिख सकते हैं। यह आम तौर पर LLMs के सबसे बड़े फायदों में से एक है, लेकिन इसका यह भी मतलब है कि कॉल एजेंट्स को काम करते समय “समय खरीदने” की अनुमति देने वाले पुराने प्रशिक्षण निर्देश अब जरूरी नहीं हैं। हालांकि, फ़ंक्शन कॉल भी तुरंत पूरे नहीं होते, इसलिए जब भी देरी होने की उम्मीद हो, LLMs को यूज़र को सही ढंग से पहले ही बताना चाहिए (जैसे, “आपके मामले की जांच करने के लिए मुझे एक पल दीजिए”)।

कॉन्फ़िगरेशन

व्यक्तित्व

LLMs किसी शैली के अनुरूप टोन अपनाने में काफी सफल हैं। किसी LLM को दोस्ताना, हास्यपूर्ण, संक्षिप्त, औपचारिक या इन शैलियों के मिश्रण में बोलने के लिए कॉन्फ़िगर किया जा सकता है। LLM को प्रॉम्प्ट करते समय यह एक अहम इनपुट है।

उदाहरण के लिए, नाराज़ एयरलाइन ग्राहकों की सहायता के लिए बने कस्टमर सर्विस कन्वर्सेशनल AI ऐप्लिकेशन के डेवलपर्स ऐसा प्रॉम्प्ट इस्तेमाल कर सकते हैं:

फ़ॉर्मैट

LLMs को जवाब देने के तरीके के बारे में स्पष्ट निर्देश मिलने चाहिए। यह सुनिश्चित करने के लिए कि वे अतिरिक्त भराव वाला टेक्स्ट शामिल न करें, LLMs को ऐसा ढांचा दिया जाना चाहिए जिसमें यूज़र को भेजा जाने वाला जवाब शामिल हो।

उदाहरण के लिए, LLMs को यह प्रॉम्प्ट दिया जा सकता है:

यह ढांचा LLM को ऐसा जवाब देने के लिए प्रोत्साहित करता है जिसे ज़ोर से पढ़ा जा सके।

हालांकि, LLMs कभी-कभी उन चीज़ों में गलती कर सकते हैं जो लिखित कंटेंट से सहज रूप से अलग नहीं लगतीं। एक आम उदाहरण नंबर हैं — कोई LLM 10023 जैसा ज़िपकोड लिख सकता है, जिससे टेक्स्ट टू स्पीच मॉडल इसे “दस हज़ार तेईस” कहेगा। इसके बजाय, LLM को स्पष्ट रूप से प्रॉम्प्ट किया जाना चाहिए कि वह नंबरों को अलग-अलग बोले और बताए कि वे किस चीज़ के नंबर हैं, जैसे, “ज़िपकोड एक शून्य शून्य दो तीन है।”

टेम्परेचर

कन्वर्सेशनल AI के लिए LLMs कॉन्फ़िगर करते समय टेम्परेचर एक अहम पैरामीटर है। कम टेम्परेचर ज्यादा केंद्रित और निश्चित जवाब देता है, जो काम-केंद्रित बातचीत के लिए आदर्श हैं, जबकि ज्यादा टेम्परेचर अधिक रचनात्मक और विविध जवाब देता है।

कम टेम्परेचर उन कन्वर्सेशनल AI सिस्टम्स के लिए आदर्श है जिन्हें लगातार एक जैसे जवाब चाहिए होते हैं (जैसे रिफंड के लिए कस्टमर सर्विस लाइन)। वहीं, जो सिस्टम ग्राहकों को ज्यादा आकर्षक और वास्तविक अनुभव देना चाहते हैं (जैसे डिजिटल कोच), उनके लिए ज्यादा टेम्परेचर बेहतर है:

नॉलेज बेस

ज्यादा बड़े ज्ञान-स्रोतों का उपयोग करने वाले कन्वर्सेशनल AI सिस्टम्स में प्रॉम्प्ट की लंबाई कम रखने के लिए नॉलेज बेस का उपयोग करना चाहिए। प्रोडक्शन में, यह आम तौर पर वेक्टर डेटाबेस (जैसे Pinecone या Elasticsearch) या LLM प्रदाता के सीधे नॉलेज स्टोर के ज़रिए किया जाता है।

आम तौर पर, LLM के जवाबों को तथ्यात्मक और स्वीकृत जानकारी पर आधारित रखने के लिए नॉलेज बेस जरूरी हैं। कन्वर्सेशनल AI सिस्टम बनाते समय, आपको LLM को एक व्यापक नॉलेज बेस देना चाहिए, जिसमें प्रोडक्ट्स, सेवाओं, नीतियों और प्रक्रियाओं की सटीक व अपडेटेड जानकारी हो। इससे LLM जानकारी गढ़ने या भ्रमित करने से बचता है और अलग-अलग बातचीत में लगातार भरोसेमंद जवाब देता है।

प्रक्रिया

चूंकि LLMs अक्सर यूज़र की ओर से फ़ंक्शन कॉल करते हैं, इसलिए उन्हें यह भी पता होना चाहिए कि किन इनपुट्स की स्पष्ट रूप से जरूरत है। उदाहरण के लिए, अगर किसी LLM का काम यूज़र को हेयरकट अपॉइंटमेंट शेड्यूल करने में मदद करना है, तो उसे यह सुनिश्चित करना होगा कि उसके पास ये जानकारी हो:

1. यूज़र का नाम
2. पसंदीदा तारीख और समय
3. यूज़र का पता
4. यूज़र की सेवा प्राथमिकता

एक साधारण इम्प्लीमेंटेशन में LLM बातचीत के एक ही चरण में सारी जानकारी मांग सकता है। टेक्स्ट में यह बिल्कुल ठीक है, लेकिन बातचीत में यह बहुत ज्यादा लग सकता है:

क्योंकि बातचीत के ज़रिए जानकारी आम तौर पर धीरे-धीरे जुटाई जाती है, LLMs को भी यह जानकारी टुकड़ों में लेने के लिए प्रोत्साहित करना चाहिए। इससे अनुभव ज्यादा स्वाभाविक बातचीत जैसा बनता है:

गार्डरेल्स

अनुमतियां

डिस्ट्रिब्यूटेड सिस्टम्स बनाते समय आप मानकर चलते हैं कि आपका सर्वर कभी न कभी क्रैश होगा। इसी तरह, AI सिस्टम्स बनाते समय आपको मानना चाहिए कि आपका LLM कभी न कभी गलती करेगा। उस गलती के असर को कम करने के लिए, इन सिस्टम्स को काम के लिए जरूरी न्यूनतम अनुमतियां देनी चाहिए। नीचे ऐसा करने के कुछ तरीके दिए गए हैं:

• रीड/राइट अनुमतियां सही तरीके से सेट करें: अगर LLM को सिर्फ़ किसी डेटा स्रोत से जानकारी पढ़नी है, तो सुनिश्चित करें कि उसे केवल पढ़ने वाला एंडपॉइंट दिया गया हो।
• API एंडपॉइंट्स की पहुंच सीमित करें: अगर LLM को सिर्फ़ कुछ खास एंडपॉइंट्स की जरूरत है, तो सुनिश्चित करें कि वह किसी दूसरे एंडपॉइंट तक न पहुंच सके।
• ह्यूमन-इन-द-लूप एस्केलेशन: अगर कोई उच्च-जोखिम कार्रवाई करनी हो, तो ह्यूमन-इन-द-लूप workflow पर विचार करें, जिसमें कार्रवाई करने से पहले “मैनेजर की मंज़ूरी” जरूरी हो।

वैलिडेशन और वेरिफ़िकेशन

टूल्स के ज़रिए कार्रवाई करने वाले कन्वर्सेशन AI वॉइस एजेंट सिस्टम्स बनाते समय, यह सुनिश्चित करने के लिए वैलिडेशन और वेरिफ़िकेशन प्रक्रिया शामिल करना उपयोगी होता है कि आप यूज़र्स से सही जानकारी ले रहे हैं। आज जब आप किसी मानव एजेंट से बात करते हैं, तो वे आपके द्वारा दी गई अहम जानकारी दोहराते हैं, ताकि यह पक्का हो सके कि उन्होंने उसे सही सुना है और ग्राहक से कोई गलती नहीं हुई। LLMs को भी इसी स्तर की एरर-चेकिंग से फायदा हो सकता है:

वैलिडेशन के लिए, ग्राहक से मिली किसी भी जानकारी को उस जानकारी की सामान्य संरचना के आधार पर जांचना चाहिए। क्या फ़ोन नंबर में अंकों की सही संख्या है? क्या ग्राहक की बताई उम्र उचित दायरे में आती है? क्या ग्राहक ने मान्य पता दिया है?

आपके उपयोग के मामले के अनुसार, आप मिली हुई सारी जानकारी या सिर्फ़ वह जानकारी वेरिफ़ाई कर सकते हैं जो वेरिफ़िकेशन में असफल रही हो। साथ ही, आप हर जानकारी मिलते ही उसे वेरिफ़ाई कर सकते हैं या आखिर में सब कुछ वेरिफ़ाई कर सकते हैं।

अंतिम विचार

किसी कन्वर्सेशनल AI एजेंट सिस्टम को सफलतापूर्वक प्रॉम्प्ट करने के लिए सही कॉन्फ़िगरेशन और गार्डरेल्स के बीच संतुलन बनाना जरूरी है, ताकि ज्यादा दक्षता के साथ इंसान से बात करने जैसा अनुभव दिया जा सके। यह प्रक्रिया पुराने प्रशिक्षण सामग्री से LLM को प्रॉम्प्ट करने जितनी आसान नहीं है; LLMs ऐसे टूल्स हैं जिन्हें अनुमानित और प्रभावी नतीजे पाने के लिए खास संरचना और रणनीति चाहिए।