चुनावों की तैयारी पर हमारा अपडेट

ElevenLabs में, हम किसी भी भाषा, वॉइस, और साउंड में कॉन्टेंट को सुलभ कराने और एंगेजिंग बनाने के लिए प्रतिबद्ध हैं। हम अपनी प्रौद्योगिकी की शक्ति में गहरा विश्वास रखते हैं, जिससे एक अधिक जुड़ी और सूचित दुनिया बन सके, जो लोकतांत्रिक प्रक्रिया के लिए एक सकारात्मक बल हो। हमने कानून निर्माताओं को उनकी आवाज़ें वापस पाने में सहायता दी है, ताकि वे अपने मतदाताओं और महत्वपूर्ण मुद्दों के लिए संघर्ष जारी रख सकें। हमने समर्थकों की भी मदद की है,ताकि वे बदलाव लाने और जीवन को सुधारने के अपने प्रयासों में सफल हो सकें। ज्ञान, भागीदारी, और समुदाय में बाधाओं को दूर करने के लिए हमारा काम अभी बस शुरू हुआ है। 

हम यह भी मानते हैं कि यह सभी का कर्तव्य है – उद्योग, सरकार, नागरिक समाज, और व्यक्तियों का – कि वे केवल लोकतांत्रिक प्रक्रिया को बढ़ावा ही न दें, बल्कि उसकी सुरक्षा भी करें। 2024 के दौरान,जो कि दुनिया भर में एक महत्वपूर्ण चुनावी वर्ष है, हमने अपने टूल्स के दुरुपयोग को रोकने के लिए ठोस कदम उठाए हैं। 5 नवंबर के अमेरिकी चुनाव से पहले, हमारे प्रयासों पर एक अपडेट यहां दिया गया है।

पॉलिसीज़

हमने अपनी प्रतिबंधात्मक उपयोग पॉलिसी को संशोधित किया है ताकि चुनावों के संदर्भ में हमारे टूल्स के उपयोग के संबंध में हमारे नियमों को मजबूत और स्पष्ट किया जा सके।

• प्रचार और उम्मीदवारों की नक़ल पर प्रतिबंध। हम अपने टूल्स का उपयोग राजनीतिक प्रचार के लिए सख्ती से मना करते हैं, जिसमें किसी विशेष उम्मीदवार, मुद्दे, या स्थिति के लिए प्रचार या समर्थन करना, या वोट या वित्तीय योगदान मांगना शामिल है। हम राजनीतिक उम्मीदवारों और निर्वाचित सरकारी अधिकारियों की आवाज़ की नक़ल करने के लिए हमारे टूल्स के उपयोग को भी प्रतिबंधित करते हैं।

• मतदाता दमन और चुनावी प्रक्रिया में व्यवधान पर प्रतिबंध। हम अपने टूल्स के उपयोग को मतदाता दमन या चुनावी या नागरिक प्रक्रियाओं में अन्य व्यवधानों में शामिल करने या उसे बढ़ावा देने के लिए मना करते हैं। इसमें भ्रामक जानकारी बनाने, वितरित करने, या फैलाने में सहायता करना शामिल है।

रोकथाम

हमने चुनावों के संदर्भ में हमारे टूल्स के दुरुपयोग को रोकने के लिए अपनी सुरक्षा को बढ़ाया है। 

• यूज़र स्क्रीनिंग। हमारे वॉइस क्लोनिंग टूल्स का उपयोग करने वाले सभी यूज़र्स को संपर्क और भुगतान जानकारी प्रदान करनी होगी, जो हमें साइन-अप पर धोखाधड़ी गतिविधियों या उच्च-जोखिम वाले क्षेत्रों से जुड़े अकाउंट्स को ब्लॉक करने में मदद करती है।

• नो-गो वॉइसेस (अवांछित आवाज़ें)। हमारी नो-गो वॉइस तकनीक सैकड़ों उम्मीदवारों, निर्वाचित अधिकारियों, अन्य राजनीतिक हस्तियों, और सेलिब्रिटीज़ की आवाज़ों को जनरेट करने से रोकती है। हमने इस सुरक्षा को लगातार बढ़ाया है ताकि इसकी प्रभावशीलता बढ़े, और हम उन यूज़र्स पर निगरानी रखते हैं और कार्रवाई करते हैं जो प्रतिबंधित आवाज़ों को जनरेट करने का प्रयास करते हैं।

डिटेक्शन और प्रवर्तन

हमारे रोकथाम उपायों को पूरक करने के लिए, हमने अपने डिटेक्शन और प्रवर्तन क्षमताओं को बढ़ाया है।

• दुरुपयोग पर नज़र रखना। हमारे बेहतर स्वामित्व वाले क्लासिफायर्स, जिनमें से एक विशेष रूप से राजनीतिक कॉन्टेंट की पहचान के लिए डिज़ाइन किया गया है, ऑटोमैटिक मॉडरेशन और मानव समीक्षकों के साथ मिलकर हमें उन कॉन्टेंट का पता लगाने में मदद करते हैं जो हमारे नियमों का उल्लंघन करते हैं। हम बाहरी खतरे की जानकारी टीमों के साथ भी काम करते हैं जो चुनावों को बाधित करने के उद्देश्य से संभावित दुरुपयोग पर जानकारी प्रदान करती हैं, और हमने सरकार और उद्योग भागीदारों के साथ सूचना साझा करने के चैनल स्थापित किए हैं।

• मजबूत प्रवर्तन। जब हमें दुरुपयोग का पता चलता है, तो हम निर्णायक कार्रवाई करते हैं, जिसमें वॉइसेस को हटाना, यूज़र्स को प्रोबेशन पर रखना, यूज़र्स को हमारे प्लेटफॉर्म से बैन करना, और यदि उचित हो, तो अधिकारियों को रिपोर्ट करना शामिल है। यदि आपको कोई समस्या जनक कॉन्टेंट मिले, जो आपको लगता है कि ElevenLabs से उत्पन्न हो सकता है, कृपया हमें सूचित करें।

• सरकारी प्रयासों का समर्थन। हम मानते हैं कि दुरुपयोग को रोकने के लिए सरकारी कार्रवाई महत्वपूर्ण है। जुलाई में, हमें प्रोटेक्ट इलेक्शंस फ्रॉम डेसेप्टिव AI एक्ट के समर्थन की घोषणा करते हुए गर्व हुआ, जो द्विदलीय कानून है और सीनेटर एमी क्लोबुशर, जोश हॉले, क्रिस कून्स, सुसन कॉलिन्स, मारिया कैंटवेल, टॉड यंग, जॉन हिकेनलूपर, और मार्शा ब्लैकबर्न के नेतृत्व में है, जो उन बुरे तत्वों को जवाबदेह ठहराता है जो मतदाताओं को धोखा देने के लिए प्रचार विज्ञापनों में AI का उपयोग करते हैं। हम अमेरिकी नीति निर्माताओं और वैश्विक स्तर पर चुनावों से संबंधित AI सुरक्षा पहलों पर काम करना जारी रखेंगे।

प्रोवेनेंस और पारदर्शिता

AI-जनित कॉन्टेंट की स्पष्ट पहचान को सक्षम करना, जिसमें व्यापक सहयोग शामिल है, ElevenLabs के जिम्मेदार विकास प्रयासों का एक महत्वपूर्ण पहलू बना हुआ है।

• AI स्पीच क्लासिफायर। हमारा AI स्पीच क्लासिफायर,जो जून 2023से जनता के लिए उपलब्ध है, किसी भी व्यक्ति को विश्लेषण के लिए ऑडियो सैंपल अपलोड करने की अनुमति देता है कि क्या यह ElevenLabs से उत्पन्न हुआ है। इस टूल को सार्वजनिक करके, हमारा उद्देश्य गलत जानकारी के प्रसार को सीमित करना है ताकि ऑडियो के स्रोत को पहचानना आसान हो सके।

• उद्योग के साथ सहयोग करना। AI कॉन्टेंट प्रोवेनेंस और पारदर्शिता की बात आने पर, हम इसे अकेले नहीं कर सकते — इसके लिए पूरे उद्योग का प्रयास आवश्यक है। इसी कारण हम कॉन्टेंट ऑथेंटिसिटी इनिशिएटिव (CAI)का हिस्सा हैं, जो प्रमुख मीडिया और तकनीकी कंपनियों को प्रोवेनेंस के लिए मानकों को विकसित करने के लिए एकजुट करता है। कोअलिशन फॉर कॉन्टेंट प्रोवेनेंस एंड ऑथेंटिसिटी (C2PA) के माध्यम से,हमारे प्लेटफॉर्म पर जनरेट किए गए ऑडियो में क्रिप्टोग्राफिक-साइन किए गए मेटाडेटा को एम्बेड करके हम इन मानकों को लागू कर रहे हैं। यह सुनिश्चित करता है कि CAI के टूल्स को अपनाने वाले कॉन्टेंट डिस्ट्रीब्यूशन चैनल्स, जैसे प्रमुख सोशल मीडिया प्लेटफार्म्स, हमारे ऑडियो को AI-जनित के रूप में पहचान सकें।

• थर्ड-पार्टी डिटेक्शन टूल्स का समर्थन करना। हम AI सुरक्षा कंपनियों के साथ काम करते हैं ताकि AI-जनित कॉन्टेंट की पहचान के लिए उनके टूल्स में सुधार किया जा सके, जिसमें चुनाव-संबंधित डीपफ़ेक्स शामिल हैं। जुलाई में, हमने Reality Defender के साथ पार्टनरशिप की — जो एक साइबरसिक्योरिटी कंपनी है और डीपफ़ेक डिटेक्शन पर केंद्रित है — उन्हें हमारे मॉडल्स और डेटा तक पहुंच प्रदान की ताकि उनके डिटेक्शन टूल्स को मजबूत किया जा सके। हमारी पार्टनरशिप Reality Defender के ग्राहकों, जिसमें सरकारें और बड़े उद्यम शामिल हैं, को वास्तविक समय में AI-जनित खतरों का पता लगाने में मदद करती है, जिससे दुनिया भर के लोगों को गलत जानकारी और परिष्कृत धोखाधड़ी से बचाया जा सके। हम अन्य शैक्षणिक और व्यावसायिक प्रोजेक्ट्स में भी शामिल हैं, जिसमें कैलिफोर्निया विश्वविद्यालय, यूसी बर्कले स्कूल ऑफ इंफॉर्मेशन में अनुसंधान पहल शामिल है, ताकि AI कॉन्टेंट डिटेक्शन को बढ़ावा दिया जा सके।

आने वाले दिनों और हफ्तों में, हम इन सुरक्षा उपायों को सीखते और सुधारते रहेंगे। हम मानते हैं कि हम हर उस तरीके की भविष्यवाणी नहीं कर सकते हैं, जिससे हमारे टूल्स का उपयोग किया जा सकता है। लेकिन हम दुरुपयोग को रोकने के लिए लगातार ठोस कार्रवाई करते रहेंगे, जबकि अपनी प्रौद्योगिकी को एक अधिक जुड़ी और सूचित दुनिया बनाने के लिए तैनात करेंगे।