SynthID से ElevenLabs द्वारा जनरेट किए गए ऑडियो की पहचान

लोगों को पता होना चाहिए कि वे कब AI के साथ इंटरैक्ट कर रहे हैं। पहले AI से बना कंटेंट पहचानना आसान था—वह रोबोट जैसा सुनाई देता था या उसमें छह उंगलियां होती थीं। लेकिन मॉडलों में हालिया सुधारों के साथ इसे पहचानना बहुत मुश्किल होता जा रहा है।

जैसे-जैसे हमारे वॉइस, संगीत और साउंड इफेक्ट्स मॉडल बेहतर हो रहे हैं, हम चाहते हैं कि लोग बिना किसी विशेष टूल के पहचान सकें कि कोई ऑडियो AI से जनरेट किया गया है या नहीं। इसी लिए हम SynthID पर Google DeepMind के साथ साझेदारी कर रहे हैं: यह एक डिजिटल वॉटरमार्क है, जिसे ElevenLabs से जनरेट किए गए ऑडियो में सीधे शामिल किया जाता है। ये वॉटरमार्क लोगों को सुनाई नहीं देते और क्लिप ट्रिम करने, उसकी स्पीड बढ़ाने, मेटाडेटा हटाने या उसे किसी अन्य फ़ाइल प्रकार में बदलने पर भी बने रहते हैं। इस हफ्ते से हमने मुफ़्त यूज़र्स द्वारा किए गए टेक्स्ट टू स्पीच जनरेशन में SynthID शामिल करना शुरू कर दिया है और आने वाले हफ्तों में इसे ElevenLabs के सभी ऑडियो जनरेशन तक बढ़ाएंगे। अहम बात यह है कि इन वॉटरमार्क को हमारे नए मुफ़्त ElevenLabs ऑडियो डिटेक्टर से पहचाना जा सकेगा। 

पारदर्शिता और जवाबदेही को मजबूत बनाना

हमने लंबे समय से लोगों को धोखा देने, उनके साथ हेरफेर करने या उन्हें परेशान करने के लिए अपने टूल्स के इस्तेमाल पर रोक लगाई है। हमारे सिस्टम पहले से ही कंटेंट को उसे जनरेट करने वाले यूज़र तक ट्रेस करने के लिए डिज़ाइन किए गए हैं, ताकि हम उचित कार्रवाई कर सकें। SynthID के साथ वॉटरमार्किंग लोगों को ऑडियो क्लिप का स्रोत सत्यापित करने देती है, जिससे पारदर्शिता और जवाबदेही के प्रति हमारी प्रतिबद्धता आगे बढ़ती है।

कुछ मामलों में लोग बस यह जानना चाहेंगे कि कंटेंट AI से जनरेट किया गया है या नहीं। अन्य मामलों में यह समझना जरूरी होगा कि वह किस AI प्लेटफ़ॉर्म से आया है। इसलिए आज हम अपना मुफ़्त ElevenLabs ऑडियो डिटेक्टर वेबपेज लॉन्च कर रहे हैं, जो लोगों को यह सत्यापित करने देता है कि ऑडियो ElevenLabs से जनरेट किया गया था या नहीं। यह हमारे मौजूदा AI स्पीच क्लासिफ़ायर पर आधारित है, लेकिन SynthID का इस्तेमाल करके एट्रिब्यूशन को अधिक मज़बूती से सीधे ऑडियो में शामिल करता है। हमारी टेक्नोलॉजी की क्षमता के लिए हमें सार्वजनिक रूप से जवाबदेह बनाए रखने और किसी दुर्भावनापूर्ण व्यक्ति के हमारी व्यापक सुरक्षा उपायों को हराकर विश्वसनीय डीपफेक बनाने पर उचित कार्रवाई करने के लिए यह तरीका अहम है। 

बढ़ती संख्या में न्यायक्षेत्रों में AI से जनरेट किए गए कंटेंट को मशीन-पठनीय फ़ॉर्मैट में सिंथेटिक के रूप में चिह्नित करना जरूरी है। SynthID के साथ वॉटरमार्किंग, हमारे मौजूदा उत्पत्ति और अनुपालन टूल्स के इकोसिस्टम को पूरा करती है, जिसमें C2PA क्रेडेंशियल्स भी शामिल हैं। हम SynthID को C2PA सॉफ्ट बाइंडिंग्स सूची में जोड़ने की संभावना को लेकर भी उत्साहित हैं, ताकि जिन ऑडियो से कंटेंट क्रेडेंशियल्स हटा दिए गए हों, उनमें उन्हें फिर से जोड़ा जा सके। 

उच्च-गुणवत्ता वाला वॉटरमार्किंग समाधान

SynthID ऑडियो क्लिप्स में ध्वनि का एक पैटर्न छिपाकर काम करता है। यह पैटर्न इंसानी कान को सुनाई नहीं देता, लेकिन हमारा ElevenLabs ऑडियो डिटेक्टर इसे पहचान सकता है। हर ऑडियो फ़ाइल का अपना अलग पैटर्न होता है और ये पैटर्न कंप्रेशन, क्लिपिंग और स्पीड में बदलाव जैसे आम ऑडियो ट्रांसफ़ॉर्मेशन के बाद भी बने रहते हैं।

हमारे बेंचमार्क्स में SynthID ने अच्छा प्रदर्शन किया और हमारी सभी तकनीकी ज़रूरतें पूरी कीं:

• टाइम टू फ़र्स्ट बाइट (TTFB) लेटेंसी में कोई बढ़ोतरी नहीं 
• कम फ़ॉल्स पॉज़िटिव रेट के साथ उच्च डिटेक्शन रेट
• ऑनलाइन आम तौर पर होने वाली क्रॉपिंग और अन्य ट्रांसफ़ॉर्मेशन के प्रति मज़बूत
• इंसानी कान को महसूस न हो, और सुनाई देने वाली गुणवत्ता में कोई कमी न आए
• इसे ऐसे ऑडियो पर कॉपी नहीं किया जा सकता जो ElevenLabs ने जनरेट नहीं किया है

हम अत्याधुनिक ऑडियो वॉटरमार्किंग को आगे बढ़ाने के लिए Google DeepMind की SynthID टीम के साथ निरंतर सहयोग के लिए उत्सुक हैं।

आगे क्या

वॉटरमार्किंग मुख्य रूप से पारदर्शिता और जवाबदेही के लिए है, लेकिन यह प्रोडक्ट की नई क्षमताएं भी संभव बनाती है। डिजिटल कंटेंट क्रेडेंशियल्स का एक स्थापित बाज़ार पहले से मौजूद है—स्टूडियोज़ उनका इस्तेमाल बौद्धिक संपदा की सुरक्षा के लिए करते हैं और व्यक्तिगत क्रिएटर्स यह सुनिश्चित करने के लिए कि उनके काम के दोबारा इस्तेमाल होने पर उन्हें भुगतान मिले। भविष्य में वॉटरमार्क क्रिएटर्स और IP होल्डर्स को अपना मेटाडेटा सीधे कंटेंट में शामिल करने दे सकते हैं, जिससे वे YouTube, Instagram और TikTok जैसे प्लेटफ़ॉर्म्स पर दोबारा वितरित कॉपीराइट सामग्री को पहचानकर कार्रवाई कर सकें।

वॉटरमार्किंग, पारदर्शिता के प्रति हमारी व्यापक प्रतिबद्धता का एक हिस्सा है। जैसे-जैसे हमारे मॉडल अधिक शक्तिशाली और जीवंत होते जा रहे हैं, हमारी जवाबदेही संबंधी व्यवस्था को भी उनके साथ कदम मिलाना होगा। हम जितना अधिक कंटेंट को उसके स्रोत से जोड़ पाएंगे, हमारा साझा सूचना इकोसिस्टम उतना ही अधिक भरोसेमंद बनेगा।