Como a ElevenLabs está se Preparando para as Eleições de 2024

Ao longo de 2024, uma série de eleições ocorrerá em todo o mundo. Com a aproximação dessas datas, estamos focados em promover o uso seguro e justo de vozes IA.

Nossa tecnologia nasceu do nosso compromisso em quebrar barreiras linguísticas e promover o entendimento global. Ela continua a encontrar aplicações inspiradoras na educação, entretenimento e acessibilidade, tornando o conteúdo mais envolvente e inclusivo.

No entanto, reconhecemos o cenário em mudança da tecnologia de IA e suas implicações para o processo político. Garantir que nossos sistemas sejam desenvolvidos, implantados e usados com segurança é nossa prioridade e estamos tomando medidas adicionais para combater o uso indevido e a disseminação de desinformação à medida que a tecnologia evolui.

Prevenindo o uso indevido

Em nossos esforços contínuos para garantir uma experiência positiva para todos os usuários da nossa plataforma, estamos tomando medidas específicas para evitar que vozes IA sejam usadas para espalhar desinformação. Embora nossos termos já proíbam o uso da nossa plataforma para personificar ou prejudicar outros, estamos introduzindo uma salvaguarda de ‘vozes proibidas’. Esta salvaguarda é projetada para detectar e impedir a criação de vozes que imitam candidatos políticos ativamente envolvidos em eleições presidenciais ou de primeiro-ministro, começando pelos EUA e Reino Unido. Estamos trabalhando para expandir essa salvaguarda para outros idiomas e ciclos eleitorais. Também pretendemos refinar continuamente essa medida por meio de testes práticos e feedback. Convidamos outras empresas de IA e parceiros a colaborarem conosco na exploração de maneiras de melhorar e expandir essas salvaguardas de forma eficaz.

Também estamos testando ativamente novas maneiras de combater a criação de conteúdo político que possa afetar a participação no processo democrático ou enganar eleitores. Nossos sistemas sempre nos permitiram rastrear o conteúdo gerado em nossa plataforma até a conta de origem. Estamos desenvolvendo novos mecanismos de moderação e revisão interna para identificar e tratar casos de abuso de forma mais eficaz. Deturpar processos eleitorais, elegibilidade de eleitores ou o valor do voto mina a democracia e nos opomos firmemente ao uso de IA para criar confusão ou desconfiança no sistema democrático. Usar nossa tecnologia para atividades de campanha política que envolvam personificação, criação de chatbots ou realização de chamadas automáticas é uma violação direta dos nossos termos.

Transparência sobre conteúdo gerado por IA

Permitir a identificação clara de conteúdo gerado por IA é um aspecto chave dos nossos esforços de desenvolvimento responsável.

Em junho passado, lançamos o AI Speech Classifier, que permite que qualquer pessoa envie amostras de áudio para análise e verificação se o áudio foi gerado pela ElevenLabs. Nosso objetivo é ajudar a prevenir a disseminação de desinformação tornando a fonte do conteúdo de áudio mais fácil de avaliar. Se você estiver interessado em uma parceria ou integração, entre em contato conosco em legal@elevenlabs.io. Se você encontrar algo preocupante em nossa plataforma, ou que você acha que foi criado em nossa plataforma, por favor, nos avise aqui.

Equilibrando inovação e responsabilidade

Somos inspirados pelas aplicações positivas que nossa comunidade continua a encontrar para nossa tecnologia. Ao longo de 2024 e além, permanecemos comprometidos com a inovação responsável, mantendo um diálogo contínuo com nossa comunidade, parceiros, sociedade civil e partes interessadas chave.