Gå till innehåll
BloggSäkerhet

I fokus: ElevenLabs på MIT EmTech Digital

Vi förbättrar AI-säkerheten med fokus på innehållets ursprung, spårbarhet och moderering

Förra veckan på MIT EmTech Digital-konferensen i London deltog jag i ett panelsamtal om hur företag, myndigheter och den akademiska världen kan samarbeta för att maximera möjligheterna och hantera utmaningarna i samband med avancerade AI-produkter.

Utöver ElevenLabs ingick ledande företrädare för Alan Turing Institute, Ada Lovelace Institute och BT, med Melissa Heikkilä från MIT Technology Review som moderator för diskussionen.

Tredelad strategi för AI-säkerhet

På ElevenLabs utvecklar vi teknik för ljud-AI samtidigt som vi är medvetna om dess inverkan. I min roll som ansvarig för AI-säkerhet fokuserar jag på att stärka kreatörer, företag och användare, samtidigt som vi vill förhindra missbruk och avskräcka oseriösa aktörer. Under panelsamtalet beskrev jag de steg vi har tagit för att göra ElevenLabs till en säkrare, mer innovativ plats, och jag förespråkade antagandet av strategier som prioriterar att ta itu med utmaningarna kring AI-säkerhet. De strategierna inkluderar:

Ursprung: innebär att man särskiljer AI-genererat innehåll från verkligt innehåll genom att förstå dess ursprung. Verktyg för AI-detektering, som klassificerare, är sannolikhetsbaserade modeller som tränats för att känna igen AI-genererat material. På ElevenLabs har vi utvecklat AI Speech Classifier, där vem som helst kan ladda upp ljudprover och kontrollera om de kommer från vår plattform. Vi samarbetar också med Loccus för att förbättra förmågan att klassificera AI-innehåll. Klassificerare är dock inte en universallösning för att avgöra ursprung, utan de har sina begränsningar. För att ta itu med dem har andra metoder för AI-detektering dykt upp, inklusive metadata, vattenstämplar och fingeravtryckslösningar. Vi stöder branschövergripande åtgärder som standarden för kryptografiskt signerad metadata, C2PA, som har fördelen att den är öppen och interoperabel och kan möjliggöra märkning av AI-genererat innehåll på välkända distributionskanaler som Instagram eller Facebook.

Spårbarhet: säkerställer att AI-genererat innehåll kan spåras tillbaka till en enskild användare. På ElevenLabs kan vi länka innehåll som genereras på vår plattform till ursprungskontot, och våra röstkloningsverktyg är bara tillgängliga för användare som har verifierat sina konton med bankinformation. Fokuset på spårbarhet ser till att alla som använder AI-plattformar kan hållas ansvariga för sina handlingar och identifieras av juridiska myndigheter vid behov.

Moderering: som innebär att definiera tydliga policyer för acceptabelt innehåll och användning, och förhindra användare från att skapa innehåll som inte följer sådana policyer. På ElevenLabs använder vi automatiserade system för att skanna, flagga och blockera olämpligt innehåll. Mänskliga moderatorer går igenom flaggat innehåll för att säkerställa att policyn efterlevs. Vi utvecklar ständigt vår modereringsteknik för att förhindra generering av innehåll som kan skada allmänhetens förtroende eller säkerhet. Modereringsslutpunkter med öppen källkod, som den som tillhandahålls av OpenAI, möjliggör enkel integrering av snabb moderering i alla AI-applikationer.

Vi samarbetar mot ett gemensamt mål

Även om vi prioriterar en säker AI-utveckling kan inget företag stävja AI-missbruk på egen hand. Under panelsamtalet insåg vi behovet av ett omfattande samarbete mellan teknikföretag, myndigheter, medborgarrättsgrupper och allmänheten för att konfrontera sociala och miljömässiga förändringar och garantera en säker digital framtid. På ElevenLabs är vi måna om att upprätthålla en öppen dialog i vår community och stötta initiativ som Content Authenticity Initiative och Elections Safety Accord för att bekämpa desinformation.

Framtidssäkrad AI-säkerhet

Alla som deltog i panelsamtalet var överens om att AI-produkter måste utvecklas och användas på ett säkert sätt. Samtidigt måste vi också tillåta deras kreativa och oväntade användningsområden. På ElevenLabs ser vi ofta vår plattform användas till att förbättra tillgängligheten till digitalt innehåll för individer i behov av ljudtranskriptioner, och för att ge en röst åt de som har förlorat den på grund av ALS och andra sjukdomstillstånd. För att få tillämpningen av AI att blomstra är det viktigt att öka medvetenheten om AI-media, uppmuntra kritisk interaktion med digitalt innehåll, främja verktyg för att verifiera äkthet samt utbilda både allmänheten och institutioner om etisk AI-användning.

Utforska mer

ElevenLabs

Skapa ljud och röster som imponerar med de bästa AI-verktygen

Kom igång gratis

Har du redan ett konto? Logga in