चुनावों की तैयारी पर हमारा अपडेट

ElevenLabs में हम किसी भी भाषा, वॉइस और साउंड में कंटेंट को सुलभ और दिलचस्प बनाने के लिए प्रतिबद्ध हैं। हमें पूरा विश्वास है कि हमारी तकनीक एक अधिक जुड़ी हुई और जागरूक दुनिया बना सकती है, और इस तरह लोकतांत्रिक प्रक्रिया के लिए एक सकारात्मक ताकत बन सकती है। हमने जनप्रतिनिधियों को सक्षम बनाया है कि वे अपनी आवाज़ वापस पा सकें, ताकि वे अपने मतदाताओं और उन मुद्दों के लिए लड़ना जारी रख सकें जो उनके लिए मायने रखते हैं। हमने यही काम समर्थकों के लिए भी किया है, बदलाव लाने और जीवन बेहतर बनाने के उनके प्रयासों का समर्थन करते हुए। ज्ञान, भागीदारी और समुदाय तक पहुंच की बाधाएं हटाने का हमारा काम अभी शुरू ही हुआ है। 

हमारा यह भी मानना है कि लोकतांत्रिक प्रक्रिया को सिर्फ बढ़ावा देना ही नहीं, बल्कि उसकी रक्षा करना भी हम सबकी—उद्योग, सरकारों, नागरिक समाज और व्यक्तियों—की जिम्मेदारी है। 2024 के दौरान, जो दुनियाभर के देशों के लिए एक अहम चुनावी वर्ष है, हमने अपने टूल्स के दुरुपयोग को रोकने के लिए ठोस कदम उठाए हैं। 5 नवंबर को होने वाले अमेरिका के चुनाव से पहले, यहां हमारे प्रयासों का अपडेट है।

नीतियां

हमने अपनी प्रतिबंधित उपयोग नीति में बदलाव किया है, ताकि चुनावों के संदर्भ में हमारे टूल्स के इस्तेमाल से जुड़े नियमों को मजबूत और स्पष्ट बनाया जा सके।

• चुनाव प्रचार और उम्मीदवारों की नकल पर प्रतिबंध। हम राजनीतिक चुनाव प्रचार के लिए अपने टूल्स के इस्तेमाल को सख्ती से प्रतिबंधित करते हैं, जिसमें किसी खास उम्मीदवार, मुद्दे या रुख का प्रचार या समर्थन करना, या वोट अथवा वित्तीय योगदान मांगना शामिल है। हम राजनीतिक उम्मीदवारों और निर्वाचित सरकारी अधिकारियों की आवाज़ की नकल करने के लिए भी अपने टूल्स के इस्तेमाल पर रोक लगाते हैं।

• मतदाता दमन और चुनावी प्रक्रिया में बाधा डालने पर प्रतिबंध। हम मतदाता दमन या चुनावी अथवा नागरिक प्रक्रियाओं में अन्य बाधाओं को भड़काने, उनमें शामिल होने या उन्हें आसान बनाने के लिए अपने टूल्स के इस्तेमाल पर रोक लगाते हैं। इसमें भ्रामक जानकारी बनाना, बांटना या उसके प्रसार में मदद करना शामिल है।

रोकथाम

चुनावों के संदर्भ में हमारे टूल्स के दुरुपयोग को रोकने के लिए हमने अपने सुरक्षा उपायों को बेहतर बनाया है। 

• यूज़र जांच। हमारे वॉइस क्लोनिंग टूल्स के सभी यूज़र्स को संपर्क और भुगतान जानकारी देनी होती है। इससे हमें साइन-अप के समय धोखाधड़ी वाली गतिविधियों या उच्च-जोखिम वाले भौगोलिक क्षेत्रों से जुड़े अकाउंट्स को ब्लॉक करने में मदद मिलती है।

• “नो-गो” वॉइसेस। हमारी नो-गो वॉइस तकनीक सैकड़ों उम्मीदवारों, निर्वाचित अधिकारियों, अन्य राजनीतिक हस्तियों और मशहूर लोगों की वॉइस जनरेट होने से रोकती है। इसकी प्रभावशीलता बढ़ाने के लिए हम इस सुरक्षा उपाय को लगातार विस्तार देते रहे हैं, और ब्लॉक की गई वॉइस जनरेट करने की कोशिश करने वाले यूज़र्स की निगरानी कर उनके खिलाफ कार्रवाई करते हैं।

पहचान और कार्रवाई

अपने रोकथाम उपायों के साथ, हमने पहचान और कार्रवाई की अपनी क्षमताओं को भी बढ़ाया है।

• दुरुपयोग की निगरानी। हमारे बेहतर मालिकाना क्लासिफ़ायर्स, जिनमें राजनीतिक कंटेंट पहचानने के लिए खास तौर पर बनाया गया एक क्लासिफ़ायर भी शामिल है, ऑटोमेटेड मॉडरेशन और मानवीय समीक्षकों के साथ मिलकर हमें हमारी शर्तों का उल्लंघन करने वाले कंटेंट का पता लगाने में मदद करते हैं। हम बाहरी थ्रेट इंटेलिजेंस टीम्स के साथ भी काम करते हैं, जो चुनावों में बाधा डालने के उद्देश्य से होने वाले संभावित दुरुपयोग की जानकारी देती हैं। साथ ही, हमने सरकारी और उद्योग भागीदारों के साथ जानकारी साझा करने के चैनल बनाए हैं।

• सख्त कार्रवाई। दुरुपयोग की पहचान होने पर हम निर्णायक कार्रवाई करते हैं, जिसमें वॉइसेस हटाना, यूज़र्स को प्रोबेशन पर रखना, उन्हें हमारे प्लेटफ़ॉर्म से बैन करना और जरूरत पड़ने पर अधिकारियों को रिपोर्ट करना शामिल है। अगर आपको ऐसा समस्याजनक कंटेंट मिले जो आपको लगता है कि ElevenLabs से आया हो सकता है, तो कृपया हमें बताएं।

• सरकारी प्रयासों का समर्थन। हमारा मानना है कि दुरुपयोग को रोकने के लिए सरकारी कार्रवाई बहुत जरूरी है। जुलाई में हमें घोषणा करते हुए गर्व हुआ कि हम प्रोटेक्ट इलेक्शंस फ्रॉम डिसेप्टिव AI एक्ट का समर्थन करते हैं। सीनेटर एमी क्लोबुशार, जोश हॉली, क्रिस कून्स, सुसैन कॉलिन्स, मारिया कैंटवेल, टॉड यंग, जॉन हिकेनलूपर और मार्शा ब्लैकबर्न के नेतृत्व वाला यह द्विदलीय कानून, चुनावी विज्ञापनों में मतदाताओं को धोखा देने के लिए AI का उपयोग करने वाले गलत इरादे वाले लोगों को जवाबदेह ठहराएगा। हम अमेरिका और दुनियाभर के नीति-निर्माताओं के साथ AI सुरक्षा पहलों पर काम जारी रखेंगे, जिनमें चुनावों से जुड़ी पहल भी शामिल हैं।

उत्पत्ति और पारदर्शिता

व्यापक सहयोग के जरिए भी AI-जनरेटेड कंटेंट की स्पष्ट पहचान संभव बनाना, ElevenLabs के जिम्मेदार विकास प्रयासों का एक अहम हिस्सा बना हुआ है।

• AI स्पीच क्लासिफ़ायर। हमारा AI स्पीच क्लासिफ़ायर, जो जून 2023 से सार्वजनिक रूप से उपलब्ध है, किसी भी व्यक्ति को विश्लेषण के लिए एक ऑडियो सैंपल अपलोड करने देता है, ताकि पता लगाया जा सके कि वह ElevenLabs से बना है या नहीं। इस टूल को सार्वजनिक करके हमारा लक्ष्य ऑडियो के स्रोत की पहचान आसान बनाकर गलत जानकारी के प्रसार को सीमित करना है।

• उद्योग के साथ सहयोग। AI कंटेंट की उत्पत्ति और पारदर्शिता के मामले में हम इसे अकेले नहीं कर सकते—पूरे उद्योग का प्रयास जरूरी है। इसीलिए हम कंटेंट ऑथेंटिसिटी इनिशिएटिव (CAI) का हिस्सा हैं, जो उत्पत्ति के मानक विकसित करने के लिए बड़ी मीडिया और टेक कंपनियों को एक साथ लाता है। कंटेंट प्रोवेनेंस एंड ऑथेंटिसिटी गठबंधन (C2PA) के जरिए, हम अपने प्लेटफ़ॉर्म पर जनरेट किए गए ऑडियो में क्रिप्टोग्राफ़िक रूप से साइन किए गए मेटाडेटा को जोड़कर इन मानकों को लागू कर रहे हैं। इससे CAI के टूल्स अपनाने वाले कंटेंट डिस्ट्रीब्यूशन चैनल, जैसे प्रमुख सोशल मीडिया प्लेटफ़ॉर्म्स, हमारे ऑडियो को AI-जनरेटेड के रूप में पहचान सकते हैं।

• थर्ड-पार्टी डिटेक्शन टूल्स का समर्थन। हम चुनावों से जुड़े डीपफेक्स सहित AI-जनरेटेड कंटेंट की पहचान करने वाले अपने टूल्स बेहतर बनाने के लिए थर्ड-पार्टी AI सुरक्षा कंपनियों के साथ काम करते हैं। जुलाई में हमने साझेदारी की Reality Defender के साथ—जो डीपफेक पहचान पर केंद्रित एक साइबरसिक्योरिटी कंपनी है—और उनके डिटेक्शन टूल्स को मजबूत करने के लिए उन्हें हमारे मॉडल्स और डेटा का एक्सेस दिया। हमारी साझेदारी Reality Defender के क्लाइंट्स, जिनमें सरकारें और बड़े उद्यम शामिल हैं, को रियल टाइम में AI-जनरेटेड खतरों की पहचान करने में मदद करती है। इससे दुनियाभर के लोग गलत जानकारी और उन्नत धोखाधड़ी से सुरक्षित रहते हैं। AI कंटेंट डिटेक्शन को आगे बढ़ाने के लिए हम UC Berkeley के स्कूल ऑफ इन्फॉर्मेशन की रिसर्च पहलों समेत अन्य अकादमिक और व्यावसायिक प्रोजेक्ट्स में भी शामिल हैं।

आने वाले दिनों और हफ्तों में, हम सीखते रहेंगे और इन सुरक्षा उपायों को बेहतर बनाते रहेंगे। हम मानते हैं कि हम अपने टूल्स के इस्तेमाल के हर संभावित तरीके का अनुमान नहीं लगा सकते। लेकिन हम दुरुपयोग को रोकने के लिए मजबूत कदम उठाते रहेंगे, साथ ही अपनी तकनीक के जरिए एक अधिक जुड़ी हुई और जागरूक दुनिया बनाएंगे।