Atualização sobre nossa preparação para as eleições

Na ElevenLabs, temos o compromisso de tornar o conteúdo acessível e envolvente em qualquer idioma, voz e som. Acreditamos profundamente no poder da nossa tecnologia para criar um mundo mais conectado e informado e, assim, contribuir positivamente para o processo democrático. Nós ajudamos legisladores a recuperar suas vozes, ajudando-os a continuar lutando por seus eleitores e pelas causas que consideram importantes. Fizemos o mesmo por defensores de causas, apoiando seus esforços para promover mudanças e melhorar vidas. E nosso trabalho para remover barreiras ao conhecimento, à participação e à comunidade está apenas começando. 

Também acreditamos que cabe a todos nós — setor privado, governos, sociedade civil e indivíduos — não apenas promover o processo democrático, mas protegê-lo. Ao longo de 2024, um ano eleitoral decisivo em países de todo o mundo, tomamos medidas concretas para evitar o uso indevido das nossas ferramentas. Antes da eleição dos EUA em 5 de novembro, confira uma atualização sobre nossos esforços.

Políticas

Revisamos nossa Política de Uso Proibido para reforçar e esclarecer nossas regras sobre o uso das nossas ferramentas no contexto eleitoral.

• Proibição de campanhas e de se passar por candidatos. Proibimos estritamente o uso das nossas ferramentas em campanhas políticas, incluindo a promoção ou defesa de um candidato, tema ou posição específicos, ou a solicitação de votos ou contribuições financeiras. Também proibimos o uso das nossas ferramentas para imitar as vozes de candidatos políticos e autoridades governamentais eleitas.

• Proibição da supressão de eleitores e de interferências no processo eleitoral. Proibimos o uso das nossas ferramentas para incitar, praticar ou facilitar a supressão de eleitores ou outras interferências em processos eleitorais ou cívicos. Isso inclui criar, distribuir ou facilitar a disseminação de informações enganosas.

Prevenção

Aprimoramos nossas proteções para evitar o uso indevido das nossas ferramentas no contexto eleitoral. 

• Verificação de usuários. Todos os usuários das nossas ferramentas de clonagem de voz precisam fornecer informações de contato e pagamento, o que nos ajuda a bloquear, no cadastro, contas vinculadas a atividades fraudulentas ou regiões de alto risco.

• Vozes “No-Go”. Nossa tecnologia de Vozes No-Go impede a geração das vozes de centenas de candidatos, autoridades eleitas, outras figuras políticas e celebridades. Expandimos continuamente essa proteção para aumentar sua eficácia e monitoramos e tomamos medidas contra usuários que tentam gerar vozes bloqueadas.

Detecção e aplicação

Para complementar nossas medidas preventivas, ampliamos nossas capacidades de detecção e aplicação.

• Monitoramento de uso indevido. Nossos classificadores proprietários aprimorados, incluindo um projetado especificamente para identificar conteúdo político, aliados à moderação automatizada e a revisores humanos, nos ajudam a detectar conteúdo que viola nossos termos. Também trabalhamos com equipes externas de inteligência de ameaças, que fornecem informações sobre possíveis usos indevidos voltados a interferir nas eleições, e estabelecemos canais de compartilhamento de informações com parceiros do governo e do setor.

• Aplicação rigorosa. Quando identificamos uso indevido, tomamos medidas decisivas, incluindo remover vozes, colocar usuários em período de observação, banir usuários da nossa plataforma e, quando apropriado, comunicar as autoridades. Se você encontrar conteúdo problemático que acredita ter sido originado na ElevenLabs, avise-nos.

• Apoio a iniciativas governamentais. Acreditamos que a ação governamental é essencial para coibir o uso indevido. Em julho, tivemos orgulho de anunciar nosso apoio à Protect Elections from Deceptive AI Act, legislação bipartidária liderada pelos senadores Amy Klobuchar, Josh Hawley, Chris Coons, Susan Collins, Maria Cantwell, Todd Young, John Hickenlooper e Marsha Blackburn, que responsabilizaria pessoas que usam IA em anúncios de campanha para enganar eleitores. Continuaremos trabalhando com formuladores de políticas públicas nos EUA e no mundo em iniciativas de segurança de IA, incluindo as relacionadas a eleições.

Proveniência e transparência

Permitir a identificação clara de conteúdo gerado por IA, inclusive por meio de ampla colaboração, continua sendo um aspecto fundamental dos esforços da ElevenLabs para um desenvolvimento responsável.

• Classificador de fala por IA. Nosso Classificador de fala por IA, disponível ao público desde junho de 2023, permite que qualquer pessoa envie uma amostra de áudio para analisar se ela foi gerada pela ElevenLabs. Ao tornar essa ferramenta pública, buscamos limitar a disseminação de desinformação ao facilitar a identificação da origem dos áudios.

• Colaboração com o setor. Quando se trata da proveniência e transparência de conteúdo de IA, não podemos agir sozinhos — é necessário um esforço de todo o setor. Por isso, fazemos parte da Content Authenticity Initiative (CAI), que reúne grandes empresas de mídia e tecnologia para desenvolver padrões de proveniência. Por meio da Coalition for Content Provenance and Authenticity (C2PA), implementamos esses padrões incorporando metadados assinados criptograficamente aos áudios gerados na nossa plataforma. Isso garante que os canais de distribuição de conteúdo que adotam as ferramentas da CAI, como as principais plataformas de redes sociais, possam reconhecer nossos áudios como gerados por IA.

• Apoio a ferramentas de detecção de terceiros. Trabalhamos com empresas terceiras de segurança de IA para aprimorar suas ferramentas de identificação de conteúdo gerado por IA, incluindo deepfakes relacionados a eleições. Em julho, firmamos uma parceria com a Reality Defender — empresa de cibersegurança focada na detecção de deepfakes —, fornecendo acesso aos nossos modelos e dados para fortalecer suas ferramentas de detecção. Nossa parceria ajuda os clientes da Reality Defender, incluindo governos e grandes empresas, a detectar ameaças geradas por IA em tempo real, protegendo pessoas em todo o mundo contra desinformação e fraudes sofisticadas. Também participamos de outros projetos acadêmicos e comerciais, incluindo iniciativas de pesquisa na Escola de Informação da UC Berkeley, para avançar na detecção de conteúdo gerado por IA.

Nos próximos dias e semanas, continuaremos aprendendo e aprimorando essas proteções. Reconhecemos que não podemos prever todas as formas como nossas ferramentas podem ser usadas. Mas continuaremos tomando medidas firmes para evitar abusos, ao mesmo tempo em que usamos nossa tecnologia para criar um mundo mais conectado e informado.