ElevenLabs s’associe au gouvernement britannique pour la recherche sur la sécurité des voix IA

ElevenLabs a conclu un nouveau partenariat de trois ans avec le gouvernement britannique pour étudier les implications sociétales et sécuritaires de la technologie de voix IA. Nous allons collaborer sur des recherches pour comprendre dans quelle mesure les gens peuvent identifier s’ils parlent à un agent IA, et si cette connaissance influence leur comportement.

Les agents conversationnels IA peuvent apporter de grands avantages – du tutorat personnalisé à un service client disponible 24h/24 et 7j/7 – mais il est essentiel de garantir que la technologie ne soit pas utilisée pour tromper ou exploiter. Pour éviter les abus, nous intégrons des mesures de sécurité complètes directement dans nos produits et collaborons avec les gouvernements pour définir des normes de sécurité pour l’IA.

Dans le cadre de ce nouveau protocole d’accord, nous donnons au gouvernement britannique accès à nos modèles vocaux avancés pour des recherches à grande échelle et contrôlées. Ce travail vise à évaluer dans quelle mesure les gens distinguent un humain d’un agent IA lors de conversations naturelles. Les chercheurs étudieront aussi comment le comportement et la volonté de partager des informations évoluent selon que les personnes pensent parler à un humain ou à un agent.

Ce projet témoigne de la confiance accordée au leadership du Royaume-Uni dans l’IA : une entreprise de pointe choisit de s’installer au Royaume-Uni et de collaborer avec notre AI Security Institute sur des recherches sérieuses et innovantes. C’est grâce à ce type de partenariat que nous pouvons faire de l’IA une technologie digne de confiance et bénéfique pour tous.

— Kanishka Narayan, Ministre chargé de l’IA et de la sécurité en ligne

La voix est la façon la plus naturelle d’exploiter tout le potentiel de l’IA, mais les utilisateurs n’adopteront cette évolution que s’ils ont confiance dans la technologie. Nous avons intégré des mesures de sécurité à chaque étape de la plateforme ElevenLabs, et ce nouveau partenariat de recherche avec le gouvernement britannique est une étape importante pour garantir un usage responsable de l’IA.

— Mati Staniszewski, PDG d’ElevenLabs

Pour garantir un usage responsable de notre technologie, nous avons mis en place un ensemble complet de mesures de sécurité. Cela inclut le blocage du clonage de voix de personnalités politiques ou de célébrités, la vérification obligatoire pour le clonage de voix, et la mise à disposition d’un Classificateur Audio IA pour aider à déterminer si un extrait audio a été généré par ElevenLabs.

Ce partenariat fait suite au lancement de ElevenLabs pour le secteur public la semaine dernière, qui aide les organisations du secteur public à proposer des services multilingues accessibles 24h/24 et 7j/7. Des premiers utilisateurs comme le gouvernement ukrainien utilisent déjà cette technologie pour permettre aux citoyens d’accéder à des services essentiels, tandis que d’autres agences s’appuient sur des agents IA pour traiter environ 5 000 appels par jour.