चुनावों को मजबूत और सुरक्षित बनाना

लोकतांत्रिक प्रक्रिया तभी सबसे अच्छी तरह काम करती है जब हर योग्य वोटर इसमें हिस्सा ले सके। लेकिन अक्सर लोग यह नहीं जान पाते कि रजिस्टर कैसे करें, कहां वोट डालें, और उम्मीदवार किसके लिए खड़े हैं—वो भी ऐसी भाषा और फॉर्मेट में जो वे समझ सकें। बहुत से नागरिक जो दृष्टिबाधित हैं, कम साक्षरता वाले हैं, या जिनकी मातृभाषा अलग है, उनके लिए पारंपरिक चुनावी ईमेल और छपे हुए पर्चे पहुंच से बाहर होते हैं।

इन कम्युनिकेशन बाधाओं के बीच, वॉइस AI लोकतंत्र के लिए बेहद ताकतवर टूल बन सकता है। यह दृष्टिबाधित लोगों के लिए जानकारी पढ़ सकता है, नागरिक की पसंदीदा भाषा या बोली में सवालों के जवाब दे सकता है, और भारी-भरकम सरकारी दस्तावेज़ों को बातचीत में बदल सकता है। लेकिन हर नई टेक्नोलॉजी की तरह, इन क्षमताओं का गलत इस्तेमाल भी किया जा सकता है, जिससे वोटर्स को गुमराह या गलत जानकारी दी जा सकती है।

2026 चुनावों के लिहाज से अहम साल है—दुनिया के हर हिस्से में राष्ट्रीय, क्षेत्रीय और स्थानीय चुनाव हो रहे हैं, जिनमें अमेरिका और ब्राज़ील के बड़े चुनाव भी शामिल हैं। यह उन पहले चुनावी वर्षों में से एक है जब अभिव्यक्तिपूर्ण, नेचुरल-साउंडिंग वॉइस AI बड़े पैमाने पर उपलब्ध है। नीचे हम बता रहे हैं कि हम वॉइस AI का इस्तेमाल लोकतांत्रिक प्रक्रिया को मजबूत करने के लिए कैसे कर रहे हैं, साथ ही इस टेक्नोलॉजी के गलत इस्तेमाल को रोकने और पहचानने के लिए क्या कदम उठा रहे हैं।

लोकतांत्रिक प्रक्रिया को मजबूत बनाना

वॉइस AI पहले से ही चुनावों में अहम भूमिका निभा रहा है—यह भरोसेमंद संस्थाओं से आधिकारिक जानकारी तक पहुंच बढ़ा रहा है, और ब्राज़ील इसमें दुनिया भर में सबसे आगे है।

अक्टूबर में होने वाले चुनावों से पहले, ब्राज़ील की सुपीरियर इलेक्टोरल कोर्ट (TSE) अपने ‘इलेक्टोरल असिस्टेंट’ में वॉइस लेयर जोड़ रही है, जिससे नागरिक अपनी आवाज़ से TSE की वेबसाइट, ऐप और WhatsApp चैनलों से जानकारी ले सकें। हमारी टेक्स्ट टू स्पीच और स्पीच टू टेक्स्ट टेक्नोलॉजी से चलने वाला यह नया वॉइस इंटरफेस चुनावी गलत जानकारी को रोकने और सभी ब्राज़ीलियाई नागरिकों के लिए भरोसेमंद जानकारी की पहुंच बढ़ाने के लिए बनाया गया है। हमने TSE के साथ एक MoU के जरिए यह साझेदारी औपचारिक की—यह हमारी पहली साझेदारी है किसी राष्ट्रीय चुनावी संस्था के साथ—और हम TSE के स्थायी कार्यक्रम ‘चुनावी गलत जानकारी से मुकाबला’ में भी शामिल हुए हैं।

हम ब्राज़ील की उन संस्थाओं के साथ भी काम कर रहे हैं जो वॉइस AI का इस्तेमाल जानकारी की पुष्टि के लिए कर रही हैं। करीब एक दशक से, Comprova—42 ब्राज़ीलियाई मीडिया संगठनों का एक गठबंधन, जिसे Abraji (ब्राज़ीलियन एसोसिएशन ऑफ इन्वेस्टिगेटिव जर्नलिज्म) लीड करता है—बदलाव किए गए कंटेंट की पहचान के लिए लगातार काम कर रहा है। हम Comprova के पार्टनर्स को हमारे AI Speech Classifier और अन्य डिटेक्शन टूल्स का इस्तेमाल उनके वेरिफिकेशन वर्कफ़्लो में करने की ट्रेनिंग देंगे।

अमेरिका में, हम नीति-निर्माताओं, इंडस्ट्री बॉडीज़ और प्रमुख टेक्नोलॉजी कंपनियों के साथ मिलकर मिड-टर्म चुनावों की सुरक्षा के लिए काम कर रहे हैं। हम कैलिफोर्निया के Countering Tech-Enabled Fraud Task Force के सदस्यों के साथ मिलकर वॉइस-इनेबल्ड स्कैम्स का मुकाबला करते हैं। हम Google DeepMind के साथ मिलकर अपने ऑडियो में वॉटरमार्क लगाते हैं ताकि उसे AI जनरेटेड के रूप में पहचाना जा सके, और deepfake डिटेक्शन कंपनी Reality Defender के साथ मिलकर उनके रियल-टाइम डिटेक्शन टूल्स को मजबूत करते हैं, जिनका इस्तेमाल बड़ी कंपनियां और सरकारें करती हैं। ElevenLabs for Government के जरिए, हम सरकारों और सिविल सोसाइटी को कई भाषाओं में नागरिक सेवाएं देने में मदद कर रहे हैं, और जैसे-जैसे 2026 के चुनाव नजदीक आ रहे हैं, हम यह सुविधा अमेरिका की सिविक संस्थाओं तक भी पहुंचाने की कोशिश कर रहे हैं।

वॉइस AI के गलत इस्तेमाल को रोकना और पहचानना

हम अपनी टेक्नोलॉजी का इस्तेमाल लोकतांत्रिक पहुंच बढ़ाने के साथ-साथ, गलत इस्तेमाल रोकने के लिए भी सुरक्षा उपायों में निवेश कर रहे हैं। हम सुरक्षा के लिए एक व्यापक, मल्टी-लेयर अप्रोच अपनाते हैं, जिसमें हमारे मॉडल्स और प्रोडक्ट्स में कई स्तर की सुरक्षा होती है—अगर एक लेयर को कोई पार भी कर ले, तो बाकी लेयर्स बनी रहती हैं। इनमें से कुछ सुरक्षा उपाय हैं:

• नो गो वॉइसेज़।क्लोन बनाने के लिए अपलोड किए गए ऑडियो सैंपल्स को हमारे खास "नो गो वॉइसेज़" (NGV) से जांचा जाता है, जो हाई-रिस्क व्यक्तियों जैसे सार्वजनिक अधिकारी, राजनीतिक उम्मीदवार, सेलिब्रिटी और अन्य प्रसिद्ध लोगों की आवाज़ों की क्लोनिंग को ब्लॉक करने के लिए बनाया गया है। हम NGV को लगातार इंटरनल मॉनिटरिंग, मौजूदा घटनाओं, यूज़र रिपोर्ट्स और बाहरी इंटेलिजेंस के आधार पर अपडेट करते रहते हैं—खासकर जब नए चुनावी चक्र शुरू होते हैं।
• वॉइस CAPTCHA।वॉइस CAPTCHA अपलोड किए गए सैंपल की आवाज़ की तुलना यूज़र द्वारा रियल-टाइम में पढ़े गए डायनामिक स्क्रिप्ट की रिकॉर्डिंग से करता है।
• रियल-टाइम और असिंक्रोनस मॉडरेशन।हम ऑटोमेटेड सिस्टम्स का इस्तेमाल करते हैं ताकि ऐसे कंटेंट की पहचान की जा सके जो हमारी पॉलिसीज़ का उल्लंघन कर सकते हैं, जैसे बच्चों का यौन शोषण और दुर्व्यवहार, हेट स्पीच, और स्कैम्स व फ्रॉड। ये सिस्टम्स कुछ कंटेंट को बनने से पहले ही ब्लॉक कर सकते हैं। जनरेटेड कंटेंट को ऑटोमेटिकली क्लासिफाई भी किया जा सकता है ताकि ह्यूमन रिव्यू, जांच और कार्रवाई में मदद मिल सके।
• कार्रवाई।हम उन यूज़र्स के खिलाफ उचित कार्रवाई करते हैं जो हमारी पॉलिसीज़ का उल्लंघन करते हैं, सुरक्षा उपायों को चकमा देने की कोशिश करते हैं, या ऐसी गतिविधि में शामिल होते हैं जिससे गंभीर नुकसान का खतरा बनता है।
• ट्रेसबिलिटी और पारदर्शिता।हमारे सिस्टम्स इस तरह बनाए गए हैं कि जनरेटेड कंटेंट को उस अकाउंट तक ट्रेस किया जा सके जिसने उसे बनाया है। 2023 से, हम एक मुफ़्त AI Speech Classifier भी उपलब्ध करा रहे हैं, जिससे कोई भी जांच सकता है कि किसी ऑडियो सैंपल में ElevenLabs पर बना AI जनरेटेड कंटेंट है या नहीं। हाल ही में, हमने Google DeepMind के साथ साझेदारी शुरू की है ताकि ElevenLabs पर जनरेटेड कंटेंट में SynthID वॉटरमार्किंग टेक्नोलॉजी लाई जा सके, जिससे हमारे मुफ़्त Audio Detector से उसे AI जनरेटेड के रूप में पहचाना जा सके।

हमारी लगातार प्रतिबद्धता

हम सार्वजनिक जीवन में वॉइस AI के जबरदस्त फायदों में पूरा विश्वास रखते हैं, और हम यह सुनिश्चित करने के लिए प्रतिबद्ध हैं कि हमारी टेक्नोलॉजी का इस्तेमाल अच्छे के लिए हो। हम अपनी सुरक्षा को लगातार मजबूत करते रहेंगे, दुनियाभर में अपनी साझेदारियों से सीखते रहेंगे, और जैसे-जैसे नए जोखिम और मौके सामने आएंगे, अपनी रणनीति को ढालते रहेंगे। हमें खुशी है कि हम सरकार और सिविल सोसाइटी संगठनों के साथ मिलकर काम कर रहे हैं, और हम इस चुनावी चक्र और आगे भी अपनी साझेदारियों को और गहरा करने के लिए उत्साहित हैं।