Aktualizacja naszych przygotowań do wyborów

W ElevenLabs chcemy, by treści były dostępne i angażujące — niezależnie od języka, głosu czy dźwięku. Głęboko wierzymy, że nasza technologia może tworzyć lepiej połączony i lepiej poinformowany świat, a tym samym wspierać proces demokratyczny. pomogliśmy ustawodawcom odzyskać własne głosy, by mogli dalej walczyć za swoich wyborców i sprawy, które są dla nich ważne. To samo zrobiliśmy dla działaczy, wspierając ich w dążeniu do zmian i poprawy życia innych. Nasza praca nad usuwaniem barier w dostępie do wiedzy, uczestnictwa i społeczności dopiero się zaczyna. 

Wierzymy też, że wszyscy — branża, rządy, społeczeństwo obywatelskie i każda osoba — powinniśmy nie tylko promować proces demokratyczny, ale też go chronić. Przez cały 2024 rok, kluczowy rok wyborczy w krajach na całym świecie, podejmowaliśmy konkretne działania, by zapobiegać nadużywaniu naszych narzędzi. Przed wyborami w USA 5 listopada przedstawiamy aktualizację naszych działań.

Zasady

Zaktualizowaliśmy naszą Politykę zakazanego użycia, aby wzmocnić i doprecyzować zasady korzystania z naszych narzędzi w kontekście wyborów.

• Zakaz prowadzenia kampanii i podszywania się pod kandydatów. Surowo zakazujemy używania naszych narzędzi do kampanii politycznych, w tym promowania lub popierania konkretnego kandydata, sprawy lub stanowiska, a także zabiegania o głosy czy wpłaty. Zakazujemy też używania naszych narzędzi do naśladowania głosów kandydatów politycznych i wybranych urzędników państwowych.

• Zakaz tłumienia głosowania i zakłócania procesu wyborczego. Zakazujemy używania naszych narzędzi do podżegania do tłumienia głosowania lub innych zakłóceń procesów wyborczych czy obywatelskich, udziału w nich albo ich ułatwiania. Dotyczy to także tworzenia, rozpowszechniania lub ułatwiania szerzenia wprowadzających w błąd informacji.

Zapobieganie

Wzmocniliśmy nasze zabezpieczenia, by zapobiegać nadużywaniu naszych narzędzi w kontekście wyborów. 

• Weryfikacja użytkowników. Wszyscy użytkownicy naszych narzędzi Voice Cloning muszą podać dane kontaktowe i płatnicze. Pomaga nam to blokować przy rejestracji konta powiązane z oszustwami lub regionami wysokiego ryzyka.

• Głosy „No-Go”. Nasza technologia No-Go Voice blokuje generowanie głosów setek kandydatów, wybranych urzędników, innych postaci politycznych i celebrytów. Stale rozwijamy to zabezpieczenie, by zwiększać jego skuteczność, oraz monitorujemy i podejmujemy działania wobec użytkowników próbujących generować zablokowane głosy.

Wykrywanie i egzekwowanie zasad

Uzupełniając działania zapobiegawcze, rozbudowaliśmy możliwości wykrywania naruszeń i egzekwowania zasad.

• Monitorowanie nadużyć. Nasze ulepszone, autorskie klasyfikatory, w tym jeden zaprojektowany specjalnie do wykrywania treści politycznych, wraz z automatyczną moderacją i zespołem weryfikującym pomagają nam wykrywać treści naruszające nasze zasady. Współpracujemy też z zewnętrznymi zespołami analizującymi zagrożenia, które dostarczają nam informacji o potencjalnych nadużyciach mających zakłócić wybory. Utworzyliśmy również kanały wymiany informacji z partnerami z sektora publicznego i branży.

• Stanowcze egzekwowanie zasad. Gdy wykryjemy nadużycie, działamy zdecydowanie: usuwamy głosy, nakładamy okres próbny, blokujemy użytkowników na naszej platformie, a w razie potrzeby zgłaszamy sprawę odpowiednim organom. Jeśli natkniesz się na problematyczne treści, które mogą pochodzić z ElevenLabs, daj nam znać.

• Wsparcie działań rządowych. Uważamy, że działania rządów są kluczowe, by zniechęcać do nadużyć. W lipcu z dumą ogłosiliśmy nasze poparcie dla ustawy Protect Elections from Deceptive AI Act, ponadpartyjnej inicjatywy senatorów Amy Klobuchar, Josha Hawleya, Chrisa Coonsa, Susan Collins, Marii Cantwell, Todda Younga, Johna Hickenloopera i Marshy Blackburn. Ustawa pociągałaby do odpowiedzialności osoby, które używają AI w reklamach kampanijnych, by wprowadzać wyborców w błąd. Będziemy dalej współpracować z decydentami w USA i na całym świecie nad inicjatywami na rzecz bezpieczeństwa AI, w tym związanymi z wyborami.

Pochodzenie treści i przejrzystość

Możliwość jasnego rozpoznawania treści generowanych przez AI, także dzięki szerokiej współpracy, pozostaje ważnym elementem odpowiedzialnego rozwoju ElevenLabs.

• AI Speech Classifier. Nasz AI Speech Classifier, dostępny publicznie od czerwca 2023 roku, pozwala każdemu przesłać próbkę audio, by sprawdzić, czy pochodzi z ElevenLabs. Udostępniając to narzędzie publicznie, chcemy ograniczyć szerzenie dezinformacji, ułatwiając identyfikację źródła audio.

• Współpraca z branżą. W kwestii pochodzenia i przejrzystości treści AI nie możemy działać sami — potrzebny jest wysiłek całej branży. Dlatego należymy do Content Authenticity Initiative (CAI), która łączy duże firmy medialne i technologiczne, by tworzyć standardy pochodzenia treści. Za pośrednictwem Coalition for Content Provenance and Authenticity (C2PA) wdrażamy te standardy, osadzając w audio generowanym na naszej platformie metadane podpisane kryptograficznie. Dzięki temu kanały dystrybucji treści, które korzystają z narzędzi CAI, takie jak wiodące platformy społecznościowe, mogą rozpoznać nasze audio jako wygenerowane przez AI.

• Wsparcie narzędzi do wykrywania innych firm. Współpracujemy z zewnętrznymi firmami zajmującymi się bezpieczeństwem AI, by ulepszać ich narzędzia do identyfikacji treści generowanych przez AI, w tym deepfake'ów związanych z wyborami. W lipcu nawiązaliśmy współpracę z firmą Reality Defender — firmą z obszaru cyberbezpieczeństwa, która skupia się na wykrywaniu deepfake'ów — zapewniając jej dostęp do naszych modeli i danych, by wzmocnić jej narzędzia wykrywania. Partnerstwo pomaga klientom Reality Defender, w tym rządom i dużym firmom, wykrywać zagrożenia generowane przez AI w czasie rzeczywistym i chronić ludzi na całym świecie przed dezinformacją oraz wyrafinowanymi oszustwami. Bierzemy też udział w innych projektach akademickich i komercyjnych, w tym inicjatywach badawczych na Wydziale Informacji UC Berkeley, by rozwijać wykrywanie treści AI.

W nadchodzących dniach i tygodniach będziemy dalej się uczyć i udoskonalać te zabezpieczenia. Wiemy, że nie jesteśmy w stanie przewidzieć każdego sposobu użycia naszych narzędzi. Nadal będziemy jednak stanowczo zapobiegać nadużyciom, jednocześnie wykorzystując naszą technologię, by tworzyć lepiej połączony i lepiej poinformowany świat.