ElevenLabs, 영국 정부와 음성 AI 안전성 연구 협력

ElevenLabs는 AI 음성 기술이 사회와 보안에 미치는 영향을 연구하기 위해 영국 정부와 새로운 3년 파트너십을 체결했습니다. 사람들이 AI 에이전트와 대화하고 있음을 얼마나 효과적으로 알아차리는지, 그리고 이러한 인식이 행동 변화를 이끄는지를 연구하는 데 협력할 예정입니다.

대화형 AI 에이전트는 개인 맞춤형 튜터링부터 24시간 연중무휴 고객 서비스까지 막대한 혜택을 제공할 것입니다. 하지만 이 기술이 기만이나 착취에 사용되지 않도록 하는 일은 매우 중요합니다. 오용을 방지하기 위해 ElevenLabs는 제품에 포괄적인 안전장치를 직접 적용하고, AI 안전 표준을 마련하기 위해 정부와 긴밀히 협력하고 있습니다.

이번 양해각서에 따라 ElevenLabs는 대규모의 통제된 연구를 위해 영국 정부에 프런티어 음성 모델을 제공합니다. 이 연구는 자연스럽게 대화를 주고받는 상황에서 사람들이 인간과 AI 에이전트를 얼마나 잘 구분하는지 조사합니다. 연구진은 상대가 인간인지 에이전트인지에 대한 인식에 따라 사람들의 행동과 정보 공개 의향이 어떻게 달라지는지도 살펴볼 예정입니다.

이 연구는 영국의 AI 리더십에 대한 신뢰의 표현입니다. 선도적인 AI 기업이 영국에 기반을 두고, 세계적인 수준의 AI 안전 연구소와 함께 진지하고 실질적이며 혁신적인 연구를 진행하기로 선택한 것입니다. 이와 같은 연구와 파트너십을 통해 AI를 사람들이 신뢰하고 삶에 도움을 받을 수 있는 기술로 활용할 수 있습니다.

— 카니슈카 나라얀, AI 및 온라인 안전부 장관

음성은 AI의 잠재력을 온전히 활용하는 가장 자연스러운 방식이지만, 사람들이 이 변화를 받아들이려면 기술을 신뢰해야 합니다. ElevenLabs는 플랫폼의 모든 영역에 안전장치를 구축했으며, 영국 정부와의 이번 연구 파트너십은 AI가 책임감 있게 도입되도록 하기 위한 또 하나의 중요한 단계입니다.

— 마티 스타니셰프스키, ElevenLabs CEO

기술이 책임감 있게 사용되도록 ElevenLabs는 포괄적인 안전장치를 적용하고 있습니다. 여기에는 정치인 및 유명인의 음성 복제 차단, 음성 복제 시 인증 요구, 그리고 오디오 클립이 ElevenLabs에서 생성되었는지 판단할 수 있도록 돕는 AI 오디오 분류기 제공이 포함됩니다.

이번 파트너십은 지난주 ElevenLabs for Government를 출시한 데 이은 것입니다. 이는 공공 부문 조직이 24시간 연중무휴 다국어 서비스를 제공하도록 돕습니다. 우크라이나 정부와 같은 초기 도입 기관은 이미 시민들의 필수 서비스 이용을 지원하기 위해 이 기술을 활용하고 있으며, 다른 기관들은 AI 에이전트를 사용해 하루 약 5,000건의 전화를 처리하고 있습니다.