Vi introducerar ElevenLabs AI Speech Classifier

När generativ AI är som bäst kan den öka människans produktivitet, kreativitet och välbefinnande. På ElevenLabs tror vi på den transformativa potentialen hos dessa tekniker, men vi inser också att vi måste säkerställa att de används på ett säkert och ansvarsfullt sätt för att fördelarna ska kunna utnyttjas till fullo. Vi lanserar nu Classifier för att förhindra spridning av desinformation genom att göra det lättare att bedöma var ljudinnehåll kommer ifrån.

Transparens för AI-genererat innehåll

Classifier låter vem som helst ladda upp ett ljudprov och analysera om det innehåller AI-ljud från ElevenLabs. Det är den första egenutvecklade mekanismen i sitt slag i ljudbranschen och ett avgörande steg i våra ansträngningar för att utveckla effektiv spårning för AI-genererad media. Med dagens lansering vill vi ytterligare förstärka vårt engagemang för transparens kring AI-genererat innehåll.

Mekanism och kända begränsningar

Ljud som genereras av våra modeller har vissa detekterbara egenskaper. När du laddar upp ett ljudprov till AI Speech Classifier skannar vår algoritm igenom det för att bedöma om innehållet har genererats av vår plattform, och för närvarande har vi rätt i >99 % av fallen om provet inte är modifierat. Om det har genomgått genomgick Codec-omvandlingar eller fått en modifierad efterklang har Classifier rätt i över 90 % av fallen. Denna siffra sjunker ju mer innehållet har efterbehandlats. Om fler ljudspår läggs till påverkar det också resultatet.

Vi analyserar och förbättrar kontinuerligt vår modell för att kunna upptäcka fler ljudmodifieringar och vi förväntar oss att dessa resultat kommer att förbättras.

Ge oss gärna material

Vi släpper Classifier för allmänheten idag för att främja AI-detektering. Vi vill öka transparensen för AI-genererat innehåll genom att börja med vårt eget. En uppsjö av AI-innehåll från andra kommersiella modeller och modeller med öppen källkod är alltjämt oupptäckta. Vi uppmuntrar andra att hjälpa oss, och vi uppmuntrar till att rapportera misstänkta fall medan vi fortsätter att förbättra Classifiers noggrannhet och detekteringsförmåga för att täcka in fler ljudmodifieringar såväl som innehåll som genereras på andra plattformar, inklusive både kommersiella modeller och modeller med öppen källkod. Vi är angelägna om att samarbeta med intresserade partner kring djupare API-integrering för att göra detta verktyg ännu mer användbart.

Kontakta oss om du är intresserad av antingen partnerskap eller integrering.

Vi eftersträvar transparens

Vårt mål på ElevenLabs är att producera säkra verktyg som kan skapa otroligt innehåll. Vi tror att vår status som organisation ger oss förmågan att skapa och upprätthålla skyddsåtgärder som ofta saknas i modeller med öppen källkod. Med lanseringen av AI Speech Classifier strävar vi också efter att ge företag och institutioner möjlighet att dra nytta av vår forskning och teknik för att stärka deras respektive skydd.

Läs vår säkerhetssida för att lära dig mer om ElevenLabs AI-skydd.