ElevenLabs 与英国政府合作开展语音 AI 安全研究

ElevenLabs 与英国政府达成为期三年的新合作，共同研究 AI 语音技术对社会和安全的影响。双方将合作研究人们识别 AI 智能体的能力，以及知晓对方为 AI 后行为是否会发生变化。

对话式 AI 智能体将带来巨大价值——从个性化辅导到 24/7 客服 ——但必须确保技术不会被用于欺骗或滥用。为防止误用，我们在产品中内置了多重安全措施，并与政府紧密合作，共同制定 AI 安全标准。

根据本次合作备忘录，英国政府将获得我们前沿语音模型的访问权限，用于大规模、可控的研究。研究将探讨人们在自然对话中区分真人与 AI 智能体的能力，还会分析人们在认为对方是人类或智能体时，行为和信息披露意愿的变化。

这项合作体现了对英国 AI 领导力的认可：一家领先的 AI 公司选择在英国发展，并与世界一流的 AI 安全研究院开展严肃、创新的研究。正是通过这样的合作，AI 技术才能真正赢得信任，造福社会。

—— Kanishka Narayan，英国 AI 与网络安全事务部长

语音是体验 AI 潜力最自然的方式，但前提是用户信任这项技术。我们已在 ElevenLabs 平台的每个环节加入安全措施，这次与英国政府的研究合作也是确保 AI 负责任应用的重要一步。

—— Mati Staniszewski，ElevenLabs CEO

为确保技术被负责任地使用，我们部署了全面的安全措施，包括禁止克隆政治人物和名人声音、语音克隆需身份验证，并提供 AI 音频识别工具，帮助用户判断音频是否由 ElevenLabs 生成。

此次合作是在上周推出ElevenLabs 政府解决方案 之后进行的，该产品帮助公共部门机构提供 24/7 多语言服务。乌克兰政府等早期用户已用该技术帮助市民获取重要服务，其他机构也在用 AI 智能体每天处理约 5,000 通电话。乌克兰政府 已在使用这项技术帮助市民获取重要服务，其他机构也通过 AI 智能体每天处理约 5,000 通电话。