Avançando a Segurança da IA com Reality Defender

À medida que as vozes geradas por IA melhoram, também devem melhorar as ferramentas que as detectam. Nos últimos meses, trabalhamos com Reality Defender para ajudar a melhorar a detecção de vozes sintéticas - garantindo que, à medida que a tecnologia de voz avança, também avance a capacidade do público de determinar o que é gerado por IA e o que é autêntico.

Reality Defender descreve essa colaboração como “transformadora” para os sistemas de detecção. Ao integrar nossos dados de voz sintética em seus modelos, eles “expandiram e melhoraram [sua] capacidade de identificar deepfakes de voz sofisticados.”

Um ponto chave deste trabalho é a importância de dados reais e de alta qualidade. Como eles colocam, nossa colaboração os ajudou a treinar sistemas de detecção em “o tipo mais provável de ser usado em tentativas de fraude no mundo real.”

Reality Defender publicou um blog sobre seu trabalho na detecção de vozes geradas por IA, incluindo sua colaboração conosco. Leia a perspectiva completa deles abaixo.

Fortalecendo a Confiança Digital: Como a ElevenLabs Ajuda a Reality Defender a Avançar na Detecção de Deepfakes de Voz

A crescente sofisticação do conteúdo gerado por IA intensificou a necessidade de capacidades robustas de detecção de mídia sintética. Nos últimos meses, a parceria estratégica da Reality Defender com a ElevenLabs resultou em avanços tecnológicos significativos em nossa capacidade de detectar conteúdo de voz gerado por IA, fornecendo insights cruciais sobre o cenário em evolução da detecção de mídia sintética. Nossa análise desta colaboração revela melhorias transformadoras tanto no alcance quanto na precisão de nossas capacidades de detecção, estabelecendo novos padrões para a indústria.

Uma Parceria Estratégica para a Integridade Digital

A missão da Reality Defender de proteger canais de comunicação críticos contra imitações de deepfake se alinha perfeitamente com o compromisso da ElevenLabs com o desenvolvimento responsável de IA. Esta colaboração representa uma visão compartilhada: garantir que, à medida que a tecnologia de síntese de voz avança, também avancem as ferramentas para detectar seu uso indevido.

Por meio desta parceria, a Reality Defender integrou os abrangentes dados de síntese de voz da ElevenLabs de modelos existentes e futuros em nossos sistemas de detecção, expandindo e melhorando dramaticamente nossa capacidade de identificar deepfakes de voz sofisticados. O impacto foi transformador. Nossos conjuntos de dados de treinamento foram enriquecidos com mais de 295 horas de dados de voz sintética de alta qualidade, proporcionando uma profundidade e variedade sem precedentes em nossas capacidades de detecção.

Nossos modelos de detecção de áudio alcançaram integração total com todos os modelos de voz da ElevenLabs, permitindo uma cobertura abrangente em todo o cenário de voz sintética. Esta colaboração resultou em uma melhoria dez vezes maior na eficiência de geração de dados, acelerando nossa capacidade de se adaptar a ameaças emergentes. Comparado a outras plataformas de voz sintética, a ElevenLabs oferece uma das interfaces mais amigáveis, permitindo-nos gerar e processar dados pelo menos 10 vezes mais rápido do que soluções alternativas. Talvez mais significativamente, graças à nossa parceria com a ElevenLabs, a equipe da Reality Defender expandiu nossas capacidades de detecção para cobrir múltiplos idiomas e sotaques, refletindo a natureza global dos desafios de voz sintética.

Inovação Técnica em Escala

O que torna esta parceria particularmente poderosa é a qualidade e diversidade dos dados de voz sintética da ElevenLabs. Representando aproximadamente 20% do nosso conjunto total de treinamento, esses dados fornecem aos nossos modelos de detecção exposição a vozes sintéticas de nível comercial — o tipo mais provável de ser usado em tentativas de fraude no mundo real. Sem a contribuição da ElevenLabs, nosso conjunto de treinamento careceria de diversidade crítica do mundo real e seria significativamente mais fraco na detecção de vozes sintéticas usadas em cenários práticos. Esses dados de qualidade comercial provaram ser essenciais para manter nosso sistema de detecção de ponta contra deepfakes de voz sofisticados.

A implementação técnica foca em três áreas principais:

1. Treinamento Abrangente de Modelos: Ao incorporar os diversos dados de síntese de voz da ElevenLabs, nossos modelos de detecção ganham exposição a uma ampla gama de características de voz sintética, melhorando a precisão em diferentes cenários.
2. Capacidade Multilíngue: A parceria permite a detecção em 8 idiomas, com mais em desenvolvimento, abordando a natureza global das ameaças baseadas em voz.
3. Aplicação no Mundo Real: Ao contrário de abordagens baseadas em proveniência que dependem de marca d'água ou verificação de fonte original, nossa detecção baseada em inferência pode identificar conteúdo sintético independentemente de sua origem.

Impacto Demonstrável

Os resultados desta colaboração falam por si. Nossa equipe alcançou uma expansão significativa de nossas capacidades de detecção de voz sintética, estabelecendo novos padrões de precisão e confiabilidade no campo. Nossa capacidade aprimorada de identificar deepfakes de voz de nível comercial representa um avanço crucial na proteção contra ameaças sofisticadas. Por meio de processos mais eficientes de geração de dados, aceleramos nossos ciclos de desenvolvimento, permitindo uma resposta mais rápida às tecnologias emergentes de voz sintética. Além disso, nossa cobertura linguística mais ampla agora oferece capacidades robustas de detecção para cenários de ameaças globais, abordando a natureza internacional dos desafios de mídia sintética.

Olhando para o Futuro

Esta parceria representa mais do que apenas uma colaboração técnica — é um modelo de como empresas de IA podem trabalhar juntas para garantir o desenvolvimento responsável de novas tecnologias poderosas. À medida que as capacidades de síntese de voz continuam a avançar, nossa parceria com a ElevenLabs garante que as capacidades de detecção da Reality Defender evoluam em paralelo.

Estamos orgulhosos de trabalhar com a ElevenLabs neste esforço crucial para proteger a autenticidade digital e manter a confiança em nosso mundo cada vez mais habilitado por IA. Juntos, estamos estabelecendo novos padrões para o desenvolvimento responsável de IA enquanto fornecemos as ferramentas necessárias para identificar e prevenir o uso indevido de mídia sintética.

O cenário de ameaças continua a evoluir, com perdas financeiras por fraudes de deepfakes projetadas para alcançar dezenas de bilhões de dólares nos próximos anos. Por meio de parcerias como esta, estamos construindo a infraestrutura necessária para proteger organizações e indivíduos de tentativas sofisticadas de imitação, enquanto apoiamos as aplicações positivas da tecnologia de IA.