ElevenLabs faz parceria com o Governo do Reino Unido em pesquisa sobre segurança de voz IA

A ElevenLabs firmou uma nova parceria de três anos com o Governo do Reino Unido para estudar as implicações sociais e de segurança da tecnologia de voz IA. Vamos colaborar em pesquisas sobre a capacidade das pessoas de identificar quando estão falando com um agente de IA e se esse conhecimento muda seu comportamento.

Agentes de IA conversacional trarão enormes benefícios — de ensino personalizado a atendimento ao cliente 24 horas por dia, 7 dias por semana —, mas é essencial garantir que a tecnologia não seja usada para enganar ou explorar pessoas. Para prevenir usos indevidos, incorporamos proteções abrangentes diretamente em nossos produtos e trabalhamos em estreita colaboração com governos para estabelecer padrões de segurança em IA.

Com base neste novo memorando de entendimento, estamos dando ao Governo do Reino Unido acesso aos nossos modelos de voz de ponta para pesquisas controladas e em larga escala. Este trabalho vai investigar quão bem as pessoas conseguem distinguir entre um humano e um agente de IA em conversas naturais e interativas. Os pesquisadores também vão examinar como o comportamento das pessoas e sua disposição para compartilhar informações mudam conforme elas acreditam estar falando com um humano ou um agente.

Este trabalho é um voto de confiança na liderança do Reino Unido em IA: uma empresa líder em IA escolhendo se estabelecer no Reino Unido e fazer parceria com nosso Instituto de Segurança de IA, referência mundial, em pesquisas sérias, consistentes e inovadoras. Trabalhos e parcerias como esta nos permitem aproveitar a IA como uma tecnologia na qual as pessoas podem confiar e que beneficia suas vidas.

— Kanishka Narayan, Ministro de IA e Segurança Online

A voz é a forma mais natural de acessar todo o potencial da IA, mas as pessoas só vão adotar essa mudança se confiarem na tecnologia. Desenvolvemos proteções para cada parte da plataforma ElevenLabs, e esta nova parceria de pesquisa com o Governo do Reino Unido é mais um passo importante para garantir que a IA seja usada com responsabilidade.

— Mati Staniszewski, CEO da ElevenLabs

Para garantir que nossa tecnologia seja usada com responsabilidade, implementamos um conjunto abrangente de proteções. Isso inclui bloquear a clonagem de vozes de políticos e celebridades, exigir verificação para clonar voz, além de oferecer um Classificador de Áudio com IA para ajudar as pessoas a determinar se um clipe de áudio foi gerado pela ElevenLabs.

Esta parceria vem após o lançamento do ElevenLabs para Governo na semana passada, que ajuda organizações do setor público a oferecer serviços multilíngues 24 horas por dia, 7 dias por semana. Os primeiros usuários, como o Governo da Ucrânia, já estão usando essa tecnologia para ajudar os cidadãos a acessar serviços essenciais, enquanto outros órgãos usam agentes de IA para atender aproximadamente 5.000 ligações por dia.