ElevenLabs, 영국 정부와 음성 AI 안전성 연구 협력

ElevenLabs는 영국 정부와 함께 AI 음성 기술이 사회와 보안에 미치는 영향을 연구하는 3년간의 새로운 파트너십을 체결했습니다. AI 에이전트와 대화할 때 사람들이 이를 얼마나 잘 인지할 수 있는지, 그리고 그 인지가 행동에 어떤 변화를 주는지에 대해 함께 연구할 예정입니다.

대화형 AI 에이전트는 개인 맞춤형 튜터링부터 24시간 고객 서비스 등 다양한 혜택을 제공하지만, 이 기술이 악용되거나 사람을 속이는 데 사용되지 않도록 하는 것이 매우 중요합니다. 오용을 방지하기 위해 ElevenLabs는 제품에 다양한 안전장치를 직접 적용하고, 정부와 협력해 AI 안전 기준을 마련하고 있습니다.

이번 양해각서 체결로 영국 정부는 ElevenLabs의 최첨단 음성 모델에 접근해 대규모 통제 연구를 진행하게 됩니다. 이 연구에서는 자연스러운 대화 속에서 사람들이 인간과 AI 에이전트를 얼마나 잘 구분할 수 있는지, 그리고 상대가 인간인지 AI 에이전트인지에 따라 행동이나 정보 공개 의사가 어떻게 달라지는지도 살펴봅니다.

이번 연구는 영국의 AI 리더십에 대한 신뢰를 보여줍니다. 세계적인 AI 기업이 영국을 거점으로 삼고, 세계 최고 수준의 AI 보안 연구소와 함께 의미 있고 혁신적인 연구를 진행하는 것입니다. 이런 연구와 협력이야말로 사람들이 신뢰할 수 있고, 삶에 도움이 되는 AI 기술을 만들어가는 방법입니다.

— 카니쉬카 나라얀, 영국 AI 및 온라인 안전 담당 장관

음성은 AI의 잠재력을 가장 자연스럽게 활용할 수 있는 방법이지만, 사람들이 기술을 신뢰할 때만 이 변화가 받아들여집니다. ElevenLabs는 플랫폼 모든 부분에 안전장치를 적용했으며, 이번 영국 정부와의 연구 협력도 AI가 책임감 있게 활용될 수 있도록 하는 중요한 단계입니다.

— 마티 스타니셰프스키, ElevenLabs CEO

기술이 책임감 있게 사용되도록 ElevenLabs는 다양한 안전장치를 도입하고 있습니다. 정치인이나 유명인 음성 복제 차단, 음성 복제 시 인증 절차 요구, 그리고 오디오가 ElevenLabs에서 생성된 것인지 확인할 수 있는 AI 오디오 분류기 제공 등이 포함됩니다.

이번 협력은 지난주 출시된 정부를 위한 ElevenLabs 이후 이어지는 것으로, 공공기관이 24시간 다국어 서비스를 제공할 수 있도록 지원합니다. 우크라이나 정부 등 초기 도입 기관은 이미 시민들이 필수 서비스를 이용할 수 있도록 이 기술을 활용하고 있으며, 다른 기관들도 AI 에이전트를 통해 하루 약 5,000건의 전화를 처리하고 있습니다.