ElevenLabs faz parceria com o governo do Reino Unido para pesquisa sobre segurança em voz IA

A ElevenLabs firmou uma nova parceria de três anos com o governo do Reino Unido para estudar os impactos sociais e de segurança da tecnologia de voz IA. Vamos colaborar em pesquisas sobre como as pessoas identificam se estão falando com um agente de IA e se essa percepção muda o comportamento delas.

A IA conversacional pode trazer muitos benefícios – desde tutoria personalizada até atendimento ao cliente 24 horas por dia, 7 dias por semana – mas é fundamental garantir que a tecnologia não seja usada para enganar ou explorar. Para evitar usos indevidos, incluímos proteções completas diretamente em nossos produtos e trabalhamos em parceria com governos para definir padrões de segurança em IA.

Com esse novo acordo de cooperação, estamos dando ao governo do Reino Unido acesso aos nossos modelos avançados de voz para pesquisas em larga escala e ambiente controlado. O objetivo é investigar como as pessoas distinguem entre um humano e um agente de IA em conversas naturais. Os pesquisadores também vão analisar como o comportamento e a disposição das pessoas em compartilhar informações mudam dependendo se acreditam estar falando com um humano ou um agente.

Esse trabalho mostra a confiança na liderança do Reino Unido em IA: uma empresa líder em IA escolhendo se estabelecer no Reino Unido e firmando parceria com nosso Instituto de Segurança em IA para pesquisas sérias, inovadoras e relevantes. Iniciativas como essa mostram como podemos usar a IA de forma confiável e que realmente beneficie as pessoas.

— Kanishka Narayan, Ministro de IA e Segurança Online

A voz é a forma mais natural de acessar todo o potencial da IA, mas as pessoas só vão adotar essa mudança se confiarem na tecnologia. Colocamos proteções em todas as partes da plataforma ElevenLabs, e essa nova parceria de pesquisa com o governo do Reino Unido é mais um passo importante para garantir o uso responsável da IA.

— Mati Staniszewski, CEO da ElevenLabs

Para garantir o uso responsável da nossa tecnologia, implementamos diversas proteções. Isso inclui bloquear a clonagem de vozes de políticos e celebridades, exigir verificação para clonar vozes e oferecer um Classificador de Áudio IA para ajudar a identificar se um áudio foi gerado pela ElevenLabs.

Essa parceria vem após o lançamento do ElevenLabs para Governo na semana passada, que ajuda órgãos públicos a oferecer serviços multilíngues 24 horas por dia. Órgãos como o Governo da Ucrânia já estão usando essa tecnologia para facilitar o acesso dos cidadãos a serviços essenciais, enquanto outras agências utilizam agentes de IA para atender cerca de 5.000 ligações por dia.