ElevenLabs s’associe au gouvernement britannique pour mener des recherches sur la sécurité de l’IA vocale

ElevenLabs a conclu un nouveau partenariat de trois ans avec le gouvernement britannique afin d’étudier les implications sociétales et de sécurité de la technologie vocale basée sur l’IA. Nous mènerons des recherches pour déterminer dans quelle mesure les personnes peuvent identifier qu’elles s’adressent à un agent IA, et si cette information modifie leur comportement.

IA conversationnelle permettra aux agents d’apporter des bénéfices considérables, du tutorat personnalisé au service client disponible 24 h/24 et 7 j/7 ; il est toutefois essentiel de veiller à ce que cette technologie ne serve pas à tromper ou à exploiter. Pour prévenir les utilisations abusives, nous intégrons des garde-fous complets directement à nos produits et collaborons étroitement avec les gouvernements afin d’établir des normes de sécurité pour l’IA.

Dans le cadre de ce nouveau protocole d’accord, nous donnons au gouvernement britannique accès à nos modèles vocaux de pointe pour mener des recherches contrôlées à grande échelle. Ces travaux évalueront la capacité des personnes à distinguer un humain d’un agent IA au cours de conversations naturelles et interactives. Les chercheurs examineront également l’évolution des comportements et de la volonté de communiquer des informations selon que les personnes pensent s’adresser à un humain ou à un agent.

Ces travaux témoignent de la confiance accordée au leadership du Royaume-Uni en matière d’IA : une entreprise d’IA de premier plan choisit de s’implanter au Royaume-Uni et de s’associer à notre AI Security Institute, reconnu à l’échelle mondiale, pour mener des recherches sérieuses, substantielles et innovantes. C’est grâce à des travaux et des partenariats de cette nature que nous faisons de l’IA une technologie à laquelle les citoyens peuvent faire confiance et qui améliore leur quotidien.

— Kanishka Narayan, ministre de l’IA et de la sécurité en ligne

La voix est le moyen le plus naturel d’accéder à tout le potentiel de l’IA, mais les personnes n’adopteront ce changement que si elles font confiance à la technologie. Nous avons intégré des garde-fous à chaque composant de la plateforme ElevenLabs, et ce nouveau partenariat de recherche avec le gouvernement britannique constitue une étape importante supplémentaire pour garantir un déploiement responsable de l’IA.

— Mati Staniszewski, PDG d’ElevenLabs

Pour garantir une utilisation responsable de notre technologie, nous déployons un ensemble complet de garde-fous. Cela inclut le blocage du clonage de voix de personnalités politiques et de célébrités, la vérification requise pour le Clonage de Voix, ainsi qu’un Classificateur audio IA pour aider chacun à déterminer si un extrait audio a été généré par ElevenLabs.

Ce partenariat fait suite au lancement d’ElevenLabs for Government la semaine dernière, qui aide les organisations du secteur public à proposer des services multilingues disponibles 24 h/24 et 7 j/7. Les premiers utilisateurs, comme le gouvernement ukrainien utilisent déjà cette technologie pour aider les citoyens à accéder à des services essentiels, tandis que d’autres organismes utilisent des agents IA pour traiter environ 5 000 appels par jour.