Postęp w bezpieczeństwie AI z Reality Defender

W miarę jak głosy generowane przez AI stają się coraz lepsze, narzędzia do ich wykrywania również muszą się rozwijać. W ciągu ostatnich kilku miesięcy współpracowaliśmy z Reality Defender aby pomóc w poprawie wykrywania syntetycznych głosów - upewniając się, że w miarę postępu technologii głosowej, również zdolność społeczeństwa do rozróżniania, co jest generowane przez AI, a co jest autentyczne, się rozwija. 

Reality Defender opisuje tę współpracę jako „transformacyjną” dla systemów wykrywania. Integrując nasze dane o syntetycznych głosach w ich modelach, oni „rozszerzyli i poprawili [swoją] zdolność do identyfikacji zaawansowanych deepfake'ów głosowych.”

Kluczowym wnioskiem z tej pracy jest znaczenie danych wysokiej jakości z rzeczywistego świata. Jak to ujęli, nasza współpraca pomogła im w szkoleniu systemów wykrywania na „rodzaju, który najprawdopodobniej będzie używany w rzeczywistych próbach oszustwa.”

Reality Defender opublikował bloga na temat swojej pracy w wykrywaniu głosów generowanych przez AI, w tym ich współpracy z nami. Przeczytaj ich pełną perspektywę poniżej.

Wzmacnianie zaufania cyfrowego: Jak ElevenLabs pomaga Reality Defender w postępie w wykrywaniu deepfake'ów głosowych

Rosnąca złożoność treści generowanych przez AI zwiększyła potrzebę na solidne możliwości wykrywania mediów syntetycznych. W ciągu ostatnich kilku miesięcy strategiczne partnerstwo Reality Defender z ElevenLabs przyniosło znaczące postępy technologiczne w naszej zdolności do wykrywania treści głosowych generowanych przez AI, dostarczając kluczowych informacji na temat ewoluującego krajobrazu wykrywania mediów syntetycznych. Nasza analiza tej współpracy ujawnia transformacyjne poprawy zarówno w zakresie, jak i dokładności naszych możliwości wykrywania, ustanawiając nowe standardy dla branży.

Strategiczne partnerstwo dla cyfrowej integralności

Misja Reality Defendera, aby zabezpieczyć krytyczne kanały komunikacyjne przed fałszywymi impersonacjami, idealnie współgra z zobowiązaniem ElevenLabs do odpowiedzialnego rozwoju AI. Ta współpraca reprezentuje wspólną wizję: zapewnienie, że w miarę postępu technologii syntez głosu, narzędzia do wykrywania jej nadużyć również się rozwijają.

Dzięki temu partnerstwu Reality Defender zintegrował kompleksowe dane syntez głosu ElevenLabs z istniejącymi i przyszłymi modelami w naszych systemach wykrywania, dramatycznie rozszerzając i poprawiając naszą zdolność do identyfikacji zaawansowanych głosowych deepfake'ów. Wpływ był transformujący. Nasze zbiory danych treningowych zostały wzbogacone o ponad 295 godzin wysokiej jakości syntetycznych danych głosowych, co zapewnia bezprecedensową głębokość i różnorodność w naszych możliwościach wykrywania.

Nasze modele wykrywania dźwięku osiągnęły pełną integrację ze wszystkimi modelami głosowymi ElevenLabs, co umożliwia kompleksowe pokrycie w całym krajobrazie syntetycznego głosu. Ta współpraca przyniosła dziesięciokrotną poprawę efektywności generowania danych, przyspieszając naszą zdolność do adaptacji do pojawiających się zagrożeń. W porównaniu do innych platform syntetycznego głosu, ElevenLabs oferuje jeden z najbardziej przyjaznych dla użytkownika interfejsów, co pozwala nam generować i przetwarzać dane co najmniej 10 razy szybciej niż alternatywne rozwiązania. Być może najważniejsze jest to, że dzięki naszemu partnerstwu z ElevenLabs, zespół Reality Defender rozszerzył nasze możliwości wykrywania, aby obejmowały wiele języków i akcentów, odzwierciedlając globalny charakter wyzwań związanych z syntetycznym głosem.

Innowacje techniczne w skali

To, co czyni to partnerstwo szczególnie potężnym, to jakość i różnorodność syntetycznych danych głosowych ElevenLabs. Reprezentując około 20% naszego całkowitego zbioru danych treningowych, te dane zapewniają naszym modelom wykrywania ekspozycję na syntetyczne głosy komercyjnej jakości — te, które najprawdopodobniej będą używane w rzeczywistych próbach oszustwa. Bez wkładu ElevenLabs, nasz zbiór treningowy byłby pozbawiony krytycznej różnorodności z rzeczywistego świata i byłby znacznie słabszy w wykrywaniu syntetycznych głosów używanych w praktycznych scenariuszach. Te dane komercyjnej jakości okazały się niezbędne w utrzymaniu naszego nowoczesnego systemu wykrywania przeciwko zaawansowanym głosowym deepfake'om.

Wdrożenie techniczne koncentruje się na trzech kluczowych obszarach:

1. Kompleksowe szkolenie modeli. Inkorporując różnorodne dane syntez głosu ElevenLabs, nasze modele wykrywania zyskują ekspozycję na szeroki zakres cech syntetycznego głosu, poprawiając dokładność w różnych scenariuszach.
2. Możliwość wielojęzyczna. Partnerstwo umożliwia wykrywanie w 8 językach, z kolejnymi w opracowaniu, odpowiadając na globalny charakter zagrożeń opartych na głosie.
3. Zastosowanie w rzeczywistym świecie. W przeciwieństwie do podejść opartych na pochodzeniu, które polegają na znakowaniu wodnym lub weryfikacji oryginalnego źródła, nasze wykrywanie oparte na wnioskowaniu może identyfikować treści syntetyczne niezależnie od ich pochodzenia.

Wykazywalny wpływ

Wyniki tej współpracy mówią same za siebie. Nasz zespół osiągnął znaczną ekspansję naszych możliwości wykrywania syntetycznego głosu, ustanawiając nowe standardy dokładności i niezawodności w tej dziedzinie. Nasza zwiększona zdolność do identyfikacji głosów deepfake o jakości komercyjnej stanowi istotny postęp w ochronie przed wyrafinowanymi zagrożeniami. Dzięki bardziej efektywnym procesom generowania danych przyspieszyliśmy nasze cykle rozwoju, co umożliwia szybszą reakcję na pojawiające się technologie syntetycznego głosu. Ponadto, nasza szersza pokrycie językowe teraz zapewnia solidne możliwości wykrywania dla globalnych scenariuszy zagrożeń, odpowiadając na międzynarodowy charakter wyzwań związanych z mediami syntetycznymi.

Patrząc w przyszłość

To partnerstwo reprezentuje więcej niż tylko współpracę techniczną — jest to model, jak firmy zajmujące się AI mogą współpracować, aby zapewnić odpowiedzialny rozwój potężnych nowych technologii. W miarę jak możliwości syntezowania głosu nadal się rozwijają, nasze partnerstwo z ElevenLabs zapewnia, że możliwości wykrywania Reality Defendera ewoluują równolegle.

Jesteśmy dumni, że możemy współpracować z ElevenLabs w tym kluczowym wysiłku na rzecz ochrony autentyczności cyfrowej i utrzymania zaufania w naszym coraz bardziej zautomatyzowanym świecie. Razem ustanawiamy nowe standardy odpowiedzialnego rozwoju AI, jednocześnie dostarczając narzędzia niezbędne do identyfikacji i zapobiegania nadużyciom mediów syntetycznych.

Krajobraz zagrożeń nadal się rozwija, a straty finansowe z powodu deepfake'ów mają osiągnąć dziesiątki miliardów dolarów w nadchodzących latach. Dzięki partnerstwom takim jak to, budujemy infrastrukturę potrzebną do ochrony organizacji i osób przed wyrafinowanymi próbami podszywania się, wspierając jednocześnie pozytywne zastosowania technologii AI.