ElevenLabs 与英国政府合作开展语音 AI 安全研究

ElevenLabs 已与英国政府达成一项为期 3 年的新合作，共同研究 AI 语音技术对社会和安全的影响。双方将合作研究人们能否有效识别自己正在与 AI 智能体交谈，以及这种认知是否会改变他们的行为。

对话式 AI 智能体将带来巨大益处——从个性化辅导到全天候客户服务——但必须确保这项技术不被用于欺骗或剥削。为防止滥用，我们在产品中直接嵌入全面的安全措施，并与各国政府密切合作，制定 AI 安全标准。

根据这份新的谅解备忘录，我们将向英国政府开放前沿语音模型，用于大规模、受控研究。这项工作将研究人们在自然的双向对话中，能否准确区分真人与 AI 智能体。研究人员还将考察，当人们认为自己在与真人或智能体交谈时，其行为和透露信息的意愿会如何变化。

这项工作体现了对英国 AI 领导力的信心：一家领先的 AI 公司选择立足英国，并与我们世界领先的 AI 安全研究所合作，开展严肃、实质且创新的研究。正是通过这样的工作与合作，我们才能让 AI 成为人们信赖、并能改善生活的技术。

——Kanishka Narayan，AI 与网络安全大臣

语音是发挥 AI 全部潜力最自然的方式，但只有信任这项技术，人们才会接受这一转变。我们已在 ElevenLabs 平台的各个环节内置安全措施，而与英国政府开展的这项新研究合作，是确保 AI 得到负责任部署的又一重要步骤。

——ElevenLabs CEO Mati Staniszewski

为确保技术得到负责任使用，我们部署了一套全面的安全措施，包括禁止克隆政治人物和名人的声音、要求进行语音克隆验证，并提供 AI 音频分类器，帮助人们判断音频片段是否由 ElevenLabs 生成。

此次合作紧随上周ElevenLabs for Government的发布，该产品帮助公共部门机构提供全天候多语言服务。乌克兰政府等早期采用者已在使用这项技术，帮助公民获取基本服务；其他机构则利用 AI 乌克兰政府已在使用这项技术，帮助公民获取基本服务；其他机构则利用 AI 智能体每天处理约 5,000 通电话。