चुनावों की तैयारी पर हमारा अपडेट

ElevenLabs में, हम किसी भी भाषा, आवाज़ और ध्वनि में सामग्री को सुलभ और आकर्षक बनाने के लिए प्रतिबद्ध हैं। हम मानते हैं कि हमारी तकनीक एक अधिक जुड़ी और सूचित दुनिया बनाने की शक्ति रखती है, और इसके बदले में, लोकतांत्रिक प्रक्रिया के लिए एक सकारात्मक शक्ति बन सकती है। हमने विधायकों को सक्षम बनाया ताकि वे अपनी आवाज़ वापस पा सकें, जिससे वे अपने मतदाताओं और उनके प्रिय मुद्दों के लिए लड़ाई जारी रख सकें। हमने ऐसा ही समर्थकों के लिए किया है, उनके प्रयासों का समर्थन करते हुए बदलाव लाने और जीवन सुधारने के लिए। और ज्ञान, भागीदारी और समुदाय के लिए बाधाओं को हटाने का हमारा काम अभी शुरू हुआ है।

हम यह भी मानते हैं कि यह हम सभी की जिम्मेदारी है – उद्योग, सरकारें, नागरिक समाज और व्यक्ति – न केवल लोकतांत्रिक प्रक्रिया को बढ़ावा देना, बल्कि इसे सुरक्षित रखना।2024 के दौरान, जो कि विश्वभर में एक महत्वपूर्ण चुनावी वर्ष है, हमने अपने टूल्स के दुरुपयोग को रोकने के लिए ठोस कदम उठाए हैं। 5 नवंबर के अमेरिकी चुनाव से पहले, यहां हमारे प्रयासों का एक अपडेट है।

नीतियाँ

हमने अपनी प्रतिबंधित उपयोग नीति को संशोधित किया है ताकि चुनावों के संदर्भ में हमारे टूल्स के उपयोग के संबंध में हमारे नियमों को मजबूत और स्पष्ट किया जा सके।

• प्रचार और उम्मीदवारों की नकल पर प्रतिबंध।हम राजनीतिक प्रचार के लिए हमारे टूल्स के उपयोग को सख्ती से प्रतिबंधित करते हैं, जिसमें किसी विशेष उम्मीदवार, मुद्दे या स्थिति का प्रचार या समर्थन करना, या वोट या वित्तीय योगदान मांगना शामिल है। हम राजनीतिक उम्मीदवारों और निर्वाचित सरकारी अधिकारियों की आवाज़ों की नकल के लिए हमारे टूल्स के उपयोग को भी प्रतिबंधित करते हैं।

• मतदाता दमन और चुनावी प्रक्रिया में व्यवधान पर प्रतिबंध।हम हमारे टूल्स के उपयोग को मतदाता दमन या अन्य चुनावी या नागरिक प्रक्रियाओं में व्यवधान पैदा करने के लिए उकसाने, शामिल होने या सुविधा प्रदान करने के लिए प्रतिबंधित करते हैं। इसमें भ्रामक जानकारी बनाना, वितरित करना या फैलाना शामिल है।

रोकथाम

हमने चुनावों के संदर्भ में हमारे टूल्स के दुरुपयोग को रोकने के लिए अपने सुरक्षा उपायों को बढ़ाया है।

• यूज़र स्क्रीनिंग।हमारे वॉइस क्लोनिंग टूल्स के सभी यूज़र्स को संपर्क और भुगतान जानकारी प्रदान करनी होगी, जो हमें धोखाधड़ी गतिविधियों या उच्च-जोखिम वाले क्षेत्रों से जुड़े खातों को साइन-अप पर ब्लॉक करने में मदद करती है।

• “नो-गो” वॉइस।हमारी नो-गो वॉइस तकनीक सैकड़ों उम्मीदवारों, निर्वाचित अधिकारियों, अन्य राजनीतिक हस्तियों और सेलिब्रिटीज़ की आवाज़ों को जनरेट होने से रोकती है। हमने इस सुरक्षा उपाय को इसकी प्रभावशीलता बढ़ाने के लिए लगातार विस्तारित किया है, और हम उन यूज़र्स के खिलाफ कार्रवाई करते हैं जो ब्लॉक की गई आवाज़ों को जनरेट करने का प्रयास करते हैं।

पता लगाना और प्रवर्तन

हमारे रोकथाम उपायों को पूरा करने के लिए, हमने अपनी पहचान और प्रवर्तन क्षमताओं को बढ़ाया है।

• दुरुपयोग के लिए निगरानी। हमारे उन्नत स्वामित्व वाले वर्गीकरणकर्ता, जिनमें से एक विशेष रूप से राजनीतिक सामग्री की पहचान के लिए डिज़ाइन किया गया है, स्वचालित मॉडरेशन और मानव समीक्षकों के साथ मिलकर हमें उन सामग्रियों का पता लगाने में मदद करते हैं जो हमारे नियमों का उल्लंघन करती हैं। हम बाहरी खतरे की खुफिया टीमों के साथ भी काम करते हैं जो चुनावों को बाधित करने के उद्देश्य से संभावित दुरुपयोग पर अंतर्दृष्टि प्रदान करती हैं, और हमने सरकार और उद्योग भागीदारों के साथ जानकारी साझा करने के चैनल स्थापित किए हैं।

• मजबूत प्रवर्तन। जब हम दुरुपयोग की पहचान करते हैं, तो हम निर्णायक कार्रवाई करते हैं, जिसमें आवाज़ों को हटाना, यूज़र्स को प्रोबेशन पर रखना, हमारे प्लेटफ़ॉर्म से यूज़र्स को प्रतिबंधित करना, और यदि उपयुक्त हो, तो अधिकारियों को रिपोर्ट करना शामिल है। यदि आप किसी समस्या वाली सामग्री का सामना करते हैं जो आपको लगता है कि ElevenLabs से उत्पन्न हो सकती है, तो कृपया हमें बताएं.

• सरकारी प्रयासों के लिए समर्थन।हम मानते हैं कि दुरुपयोग को रोकने के लिए सरकारी कार्रवाई महत्वपूर्ण है। जुलाई में, हमें गर्व है कि हमने घोषणा की कि हम भ्रामक AI अधिनियम से चुनावों की रक्षा करें का समर्थन करते हैं, जो सीनेटर एमी क्लोबुचर, जोश हॉले, क्रिस कून्स, सुसान कॉलिन्स, मारिया कैंटवेल, टॉड यंग, जॉन हिकेनलूपर, और मार्शा ब्लैकबर्न द्वारा नेतृत्व किया गया द्विदलीय कानून है, जो AI का उपयोग करके मतदाताओं को धोखा देने वाले बुरे अभिनेताओं को जिम्मेदार ठहराएगा। हम अमेरिका और विश्वभर में नीति निर्माताओं के साथ AI सुरक्षा पहलों पर काम करना जारी रखेंगे, जिनमें चुनावों से संबंधित पहलें शामिल हैं।

उत्पत्ति और पारदर्शिता

AI-जनित सामग्री की स्पष्ट पहचान को सक्षम करना, जिसमें व्यापक सहयोग शामिल है, ElevenLabs के जिम्मेदार विकास प्रयासों का एक प्रमुख पहलू बना हुआ है।

• AI स्पीच क्लासिफायर। हमारा AI स्पीच क्लासिफायर, जो जून 2023 से जनता के लिए उपलब्ध है, किसी को भी ऑडियो नमूना अपलोड करने की अनुमति देता है ताकि यह विश्लेषण किया जा सके कि क्या यह ElevenLabs से उत्पन्न हुआ है। इस टूल को सार्वजनिक करके, हम ऑडियो के स्रोत की पहचान को आसान बनाकर गलत जानकारी के प्रसार को सीमित करना चाहते हैं।

• उद्योग के साथ सहयोग। जब AI सामग्री की उत्पत्ति और पारदर्शिता की बात आती है, तो हम अकेले नहीं जा सकते—एक उद्योग-व्यापी प्रयास आवश्यक है। इसीलिए हम कंटेंट ऑथेंटिसिटी इनिशिएटिव (CAI) का हिस्सा हैं, जो प्रमुख मीडिया और टेक कंपनियों को उत्पत्ति के लिए मानक विकसित करने के लिए एकजुट करता है। कंटेंट प्रोवेनेंस और ऑथेंटिसिटी के लिए गठबंधन (C2PA) के माध्यम से, हम इन मानकों को लागू कर रहे हैं, हमारे प्लेटफ़ॉर्म पर जनरेट किए गए ऑडियो में क्रिप्टोग्राफिक रूप से हस्ताक्षरित मेटाडेटा को एम्बेड करके। यह सुनिश्चित करता है कि CAI के टूल्स को अपनाने वाले कंटेंट वितरण चैनल, जैसे प्रमुख सोशल मीडिया प्लेटफ़ॉर्म, हमारे ऑडियो को AI-जनित के रूप में पहचान सकें।

• तृतीय-पक्ष पहचान टूल्स का समर्थन। हम AI-जनित सामग्री की पहचान के लिए उनके टूल्स को बेहतर बनाने के लिए तृतीय-पक्ष AI सुरक्षा कंपनियों के साथ काम करते हैं, जिनमें चुनाव से संबंधित डीपफेक शामिल हैं। जुलाई में, हमने साझेदारी की रियलिटी डिफेंडर के साथ – एक साइबर सुरक्षा कंपनी जो डीपफेक पहचान पर केंद्रित है – उनके पहचान टूल्स को मजबूत करने के लिए हमारे मॉडल और डेटा तक पहुंच प्रदान करके। हमारी साझेदारी रियलिटी डिफेंडर के ग्राहकों, जिनमें सरकारें और बड़े उद्यम शामिल हैं, को वास्तविक समय में AI-जनित खतरों का पता लगाने में मदद करती है, जिससे दुनिया भर के लोगों को गलत जानकारी और परिष्कृत धोखाधड़ी से बचाया जा सके। हम अन्य शैक्षणिक और व्यावसायिक परियोजनाओं में भी शामिल हैं, जिनमें UC बर्कले के स्कूल ऑफ इंफॉर्मेशन में अनुसंधान पहल शामिल हैं, AI सामग्री पहचान को आगे बढ़ाने के लिए।

आने वाले दिनों और हफ्तों में, हम इन सुरक्षा उपायों को सीखते और परिष्कृत करते रहेंगे। हम मानते हैं कि हम यह नहीं देख सकते कि हमारे टूल्स का उपयोग किस प्रकार किया जा सकता है। लेकिन हम दुरुपयोग को रोकने के लिए मजबूत कार्रवाई करना जारी रखेंगे, जबकि हमारी तकनीक का उपयोग एक अधिक जुड़ी और सूचित दुनिया बनाने के लिए करेंगे।