चुनावों को मजबूत और सुरक्षित बनाना

लोकतांत्रिक प्रक्रिया तब सबसे बेहतर काम करती है, जब हर पात्र मतदाता इसमें भाग ले सके। लेकिन अक्सर लोग पंजीकरण कैसे करें, कहाँ वोट दें और उम्मीदवार किन बातों के पक्ष में हैं, इसकी जानकारी अपनी समझ की भाषा और फ़ॉर्मेट में नहीं पा पाते। दृष्टिबाधित, कम साक्षरता वाले या गैर-स्थानीय भाषा बोलने वाले कई नागरिकों के लिए पारंपरिक चुनावी ईमेल और प्रिंटेड पर्चे आसानी से उपलब्ध नहीं होते। 

इन संचार बाधाओं के बीच, वॉइस AI लोकतंत्र के लिए बेहद शक्तिशाली टूल हो सकता है। यह दृष्टिबाधित लोगों को जानकारी पढ़कर सुना सकता है, नागरिक की पसंदीदा भाषा या बोली में सवालों के जवाब दे सकता है और जटिल आधिकारिक दस्तावेज़ों को बातचीत में बदल सकता है। लेकिन हर नई तकनीक की तरह, इन क्षमताओं का दुरुपयोग बुरे इरादे वाले लोग मतदाताओं को धोखा देने या गुमराह करने के लिए कर सकते हैं। 

2026 चुनावों के लिए एक अहम साल है। दुनिया के हर क्षेत्र में राष्ट्रीय, क्षेत्रीय और स्थानीय चुनाव हो रहे हैं, जिनमें अमेरिका और ब्राज़ील के बड़े चुनाव भी शामिल हैं। यह उन शुरुआती चुनावी वर्षों में से एक है, जिसमें अभिव्यक्तिपूर्ण और प्राकृतिक लगने वाली वॉइस AI व्यापक रूप से उपलब्ध है। नीचे हम बता रहे हैं कि इस तकनीक के दुरुपयोग को रोकते और पहचानते हुए, हम लोकतांत्रिक प्रक्रिया को मज़बूत बनाने के लिए वॉइस AI का इस्तेमाल कैसे कर रहे हैं।

लोकतांत्रिक प्रक्रिया को मज़बूत बनाना 

भरोसेमंद संस्थाओं की आधिकारिक जानकारी तक पहुँच बढ़ाकर वॉइस AI पहले से ही चुनावों में अहम भूमिका निभा रही है — और ब्राज़ील इसमें दुनिया भर में आगे है।

अक्टूबर में होने वाले चुनावों से पहले, ब्राज़ील का सुपीरियर इलेक्टोरल कोर्ट (TSE) अपने ‘इलेक्टोरल असिस्टेंट’ में वॉइस लेयर जोड़ रहा है, ताकि नागरिक अपनी आवाज़ से TSE की वेबसाइट, ऐप और WhatsApp चैनलों से जानकारी पा सकें। हमारी टेक्स्ट टू स्पीच और स्पीच टू टेक्स्ट तकनीक से संचालित इस नए वॉइस इंटरफ़ेस को चुनाव संबंधी गलत जानकारी का मुकाबला करने और सभी ब्राज़ीली नागरिकों तक भरोसेमंद जानकारी की पहुँच बढ़ाने के लिए डिज़ाइन किया गया है। हमने TSE के साथ एक MoU के ज़रिए इस साझेदारी को औपचारिक रूप दिया — किसी राष्ट्रीय चुनाव प्राधिकरण के साथ हमारी पहली साझेदारी — और TSE के चुनावी गलत सूचना से निपटने के स्थायी कार्यक्रम में शामिल हुए।

हम जानकारी की पुष्टि के प्रयासों में मदद के लिए वॉइस AI का उपयोग करने वाले ब्राज़ीली संगठनों के साथ भी काम कर रहे हैं। लगभग एक दशक से, ब्राज़ीलियन एसोसिएशन ऑफ इन्वेस्टिगेटिव जर्नलिज़्म (Abraji) के नेतृत्व में 42 ब्राज़ीली मीडिया संगठनों का गठबंधन Comprova, हेरफेर किए गए कंटेंट की पहचान के लिए लगातार काम कर रहा है। हम Comprova के भागीदारों को उनके सत्यापन वर्कफ़्लो के तहत हमारे AI स्पीच क्लासिफ़ायर और अन्य डिटेक्शन टूल इस्तेमाल करने का प्रशिक्षण देंगे। 

अमेरिका में, हम मध्यावधि चुनावों की सुरक्षा के लिए नीति निर्माताओं, उद्योग निकायों और प्रमुख टेक्नोलॉजी कंपनियों के साथ काम कर रहे हैं। वॉइस-आधारित स्कैम का मुकाबला करने के लिए हम कैलिफ़ोर्निया की काउंटरिंग टेक-इनेबल्ड फ्रॉड टास्क फ़ोर्स के अन्य सदस्यों के साथ सहयोग करते हैं। हम Google DeepMind के साथ मिलकर अपने ऑडियो में वॉटरमार्क जोड़ते हैं, ताकि उसे AI-जनरेटेड के रूप में पहचाना जा सके। साथ ही, हम डीपफेक डिटेक्शन कंपनी Reality Defender के साथ उनके रीयल-टाइम डिटेक्शन टूल को मज़बूत बनाने के लिए साझेदारी करते हैं, जिनका इस्तेमाल बड़ी कंपनियाँ और सरकारें करती हैं। ElevenLabs for Government के ज़रिए, हम सरकारों और नागरिक समाज को कई भाषाओं में हमेशा उपलब्ध नागरिक सेवाएँ देने में मदद कर रहे हैं। 2026 के चुनाव नज़दीक आने पर, हम यह क्षमता अमेरिका के नागरिक संस्थानों तक पहुँचाने के लिए भी काम कर रहे हैं।

वॉइस AI के दुरुपयोग को रोकना और पहचानना 

लोकतांत्रिक पहुँच बढ़ाने के लिए अपनी तकनीक का इस्तेमाल करने के साथ-साथ, हम बुरे इरादे वाले लोगों के दुरुपयोग से निपटने वाले सुरक्षा उपायों में भी निवेश कर रहे हैं। सुरक्षा के लिए हम व्यापक, कई स्तरों वाला तरीका अपनाते हैं। हमारे मॉडल और प्रोडक्ट्स में एक-दूसरे को सहारा देने वाली सुरक्षा परतें हैं, ताकि एक परत को पार कर लिया जाए, तो भी दूसरी परतें मौजूद रहें। इनमें कुछ सुरक्षा उपाय शामिल हैं: 

• नो गो वॉइसेज़। क्लोन बनाने के लिए अपलोड किए गए ऑडियो सैंपल की जाँच हमारे मालिकाना "No Go Voices" (NGV) सुरक्षा उपाय के आधार पर होती है। इसे सार्वजनिक अधिकारियों, राजनीतिक उम्मीदवारों, मशहूर हस्तियों और अन्य व्यापक रूप से पहचानी जाने वाली हस्तियों जैसे उच्च-जोखिम वाले लोगों की आवाज़ें बनाने से रोकने के लिए डिज़ाइन किया गया है। हम आंतरिक निगरानी, मौजूदा घटनाक्रम, यूज़र रिपोर्ट और बाहरी जानकारी के आधार पर NGV को लगातार बेहतर और विस्तृत करते हैं — इसमें नए चुनावी चक्र शुरू होने का समय भी शामिल है।
• वॉइस CAPTCHA। वॉइस CAPTCHA, अपलोड किए गए सैंपल में मौजूद आवाज़ की तुलना, यूज़र द्वारा अपने आप जनरेट की गई स्क्रिप्ट को पढ़ने की रीयल-टाइम रिकॉर्डिंग से करता है। 
• रीयल-टाइम और एसिंक्रोनस मॉडरेशन। हम ऐसे कंटेंट का पता लगाने में मदद के लिए ऑटोमेटेड सिस्टम इस्तेमाल करते हैं, जो हमारी नीतियों का उल्लंघन कर सकता है। इसमें बच्चों का यौन शोषण और दुर्व्यवहार, नफ़रत फैलाने वाली भाषा, स्कैम और धोखाधड़ी शामिल हैं। ये सिस्टम कुछ कंटेंट बनने से पहले ही उसे ब्लॉक कर सकते हैं। मानव समीक्षा, जाँच और कार्रवाई में सहायता के लिए जनरेट किए गए कंटेंट को अपने आप वर्गीकृत भी किया जा सकता है।
• कार्रवाई। हम उन यूज़र्स के खिलाफ़ उचित कार्रवाई करते हैं जो हमारी नीतियों का उल्लंघन करते हैं, हमारे सुरक्षा उपायों को दरकिनार करने की कोशिश करते हैं या ऐसी गतिविधि में शामिल होते हैं जिससे गंभीर नुकसान का जोखिम पैदा होता है।
• पता लगाने की क्षमता और पारदर्शिता। हमारे सिस्टम इस तरह डिज़ाइन किए गए हैं कि जनरेट किए गए कंटेंट को उसे बनाने वाले अकाउंट तक ट्रेस किया जा सके। 2023 से, हम एक मुफ़्त AI स्पीच क्लासिफ़ायर, भी उपलब्ध करा रहे हैं, जिससे कोई भी जाँच सकता है कि किसी ऑडियो सैंपल में ElevenLabs पर बनाया गया AI-जनरेटेड कंटेंट है या नहीं। हाल ही में, हमने Google DeepMind के साथ साझेदारी शुरू की है, ताकि उसकी SynthID वॉटरमार्किंग तकनीक को ElevenLabs पर जनरेट किए गए कंटेंट में शामिल किया जा सके और हमारे मुफ़्त ऑडियो डिटेक्टर का इस्तेमाल करके उसे AI-जनरेटेड के रूप में पहचाना जा सके।  

हमारी निरंतर प्रतिबद्धता 

हम सार्वजनिक जीवन में वॉइस AI के अपार फ़ायदों पर पूरा विश्वास रखते हैं और यह सुनिश्चित करने के लिए प्रतिबद्ध हैं कि हमारी तकनीक का इस्तेमाल अच्छे कामों के लिए हो। हम अपने सुरक्षा उपायों को लगातार मज़बूत करते रहेंगे, दुनिया भर में अपनी साझेदारियों से सीखेंगे और नए जोखिमों व अवसरों के आने पर अपने तरीके को अपनाएंगे। हमें दुनिया भर की सरकारी और नागरिक समाज संस्थाओं के साथ मिलकर काम करने की खुशी है, और हम इस चुनावी चक्र के दौरान और उसके बाद भी अपनी साझेदारियों को गहरा करने के लिए उत्सुक हैं।