Apresentando o Classificador de Fala IA da ElevenLabs

No seu melhor, a IA generativa pode aumentar a produtividade, criatividade e bem-estar humano. Na ElevenLabs, acreditamos no potencial transformador dessas tecnologias, mas também reconhecemos que, para aproveitar plenamente seus benefícios, devemos garantir seu uso seguro e responsável. Estamos lançando agora o Classificador para ajudar a prevenir a disseminação de desinformação, tornando a fonte do conteúdo de áudio mais fácil de avaliar. Teste você mesmo:

Transparência sobre conteúdo gerado por IA

O Classificador permite que qualquer pessoa envie uma amostra e analise se ela contém áudio IA da ElevenLabs. É o primeiro mecanismo proprietário desse tipo no espaço de áudio e é um passo crítico em nossa missão de desenvolver um rastreamento eficiente para mídia gerada por IA. Com o lançamento de hoje, buscamos reforçar ainda mais nosso compromisso com a transparência em torno de

Mecanismo e limitações conhecidas

O áudio gerado por nossos modelos possui certas características detectáveis. Quando você envia uma amostra de áudio para o Classificador de Fala IA, nosso algoritmo irá escanear para avaliar se o conteúdo foi realmente gerado por nossa plataforma, atualmente mantendo >99% de precisão se a entrada não foi modificada. Se passou por transformações de Codec ou reverberação, o Classificador tem mais de 90% de precisão. Esse número cai quanto mais o conteúdo foi pós-processado. Adicionar mais faixas de áudio também afetará o resultado.

Estamos continuamente analisando e melhorando nosso modelo para ser capaz de detectar mais transformações de áudio e esperamos que esses resultados melhorem.

Convite para colaboração

Estamos lançando o Classificador publicamente hoje para fomentar iniciativas de detecção de IA. Queremos aumentar a transparência sobre conteúdo gerado por IA começando pelo nosso próprio. Uma infinidade de conteúdos de IA de outros modelos comerciais e de código aberto permanece não detectada. Incentivamos outros a se juntarem ao nosso esforço, e incentivamos relatar casos suspeitos enquanto continuamos a melhorar a precisão e as capacidades de detecção do Classificador para cobrir mais transformações de áudio, bem como conteúdo gerado em outras plataformas, incluindo modelos comerciais e de código aberto. Estamos ansiosos para colaborar com parceiros interessados em uma integração mais profunda da API e aumentar o valor desta ferramenta.

Por favor, entre em contato conosco se você estiver interessado em parceria ou integração.

Um compromisso com a transparência

Nosso objetivo na ElevenLabs é produzir ferramentas seguras que possam criar conteúdo notável. Acreditamos que nosso status como organização nos dá a capacidade de construir e aplicar salvaguardas que muitas vezes faltam em modelos de código aberto. Com o lançamento do Classificador de Fala IA, também visamos capacitar empresas e instituições a aproveitar nossa pesquisa e tecnologia para reforçar suas respectivas salvaguardas.

Leia nossa página de segurança para saber mais sobre as salvaguardas de IA na ElevenLabs.