ElevenLabs och Reality Defender samarbetar kring initiativ för AI-säkerhet

Vi har inlett ett partnerskap med Reality Defender, ett cybersäkerhetsföretag med fokus på deepfake-detektering, för att driva utvecklingen av detektering av audio-deepfakes.

Partnerskapet ska ge ett starkare skydd mot audio-deepfakes genom att använda våra egna modeller och metoder för att förbättra effektiviteten och robustheten i Reality Defenders detekteringsverktyg. Det gör det möjligt för Reality Defenders kunder, däribland myndigheter och internationella företag, att upptäcka och förebygga AI-genererade hot i realtid och skydda miljontals människor från desinformation och avancerade bedrägerier.

Samarbetet bygger vidare på våra befintliga initiativ för att säkerställa ansvarsfull utveckling och transparent användning av AI-ljud, genom moderering och ansvarstagande. Det omfattar tekniska metoder för att förhindra att förbjudet innehåll genereras och för att identifiera illasinnade aktörer. Du kan läsa mer om våra pågående säkerhetsinitiativ här.

"Vi på ElevenLabs arbetar varje dag med att utveckla och införa skyddsåtgärder i toppklass som förhindrar att våra produkter missbrukas. Att samarbeta med andra teknikföretag, akademin och beslutsfattare för att utveckla tillförlitliga metoder för att upptäcka AI-innehåll är en viktig del av vårt säkerhetsarbete," säger Aleksandra Pedraszewska, chef för AI-säkerhet på ElevenLabs. "Vi är glada över att samarbeta med Reality Defender, som är ledande inom detektering av AI-genererad information, för att utveckla nya skyddsåtgärder som hindrar illasinnade aktörer från att använda våra verktyg."

Reality Defenders patenterade metod med flera modeller gör det möjligt för företagets molnbaserade webbplattform och API för deepfake-detektering att med hög precision identifiera bedrägerier, desinformationskampanjer och skadliga deepfakes. Genom att kombinera vår expertis inom generativ AI för ljud med Reality Defenders avancerade detekteringskapacitet kommer partnerskapet att ge ett oöverträffat skydd mot AI-genererade hot. Det följer vårt åtagande att säkerställa integriteten och säkerheten i de demokratiska valen 2024 genom AI Elections Accord.

"Vi är mycket glada över att samarbeta med ElevenLabs, en pionjär inom AI-verktyg för ljud," säger Ben Colman, medgrundare och VD för Reality Defender. "Deras engagemang för AI-säkerhet och ansvarsfull AI-utveckling ligger i linje med vårt uppdrag att upptäcka och förhindra deepfakes. Detta samarbete, det första för Reality Defender, gör det möjligt för oss att erbjuda mycket avancerad ljuddetektering som ligger flera steg före illasinnade aktörer och bedragare."