我们为选举所做准备的最新进展

在 ElevenLabs，我们致力于让任何语言、音色和声音的内容都更易获取、更具吸引力。我们坚信，技术能够让世界更加互联、信息更加畅通，并为民主进程带来积极影响。我们已帮助立法者重获声音，助力他们继续为选民及关切议题发声。我们也以同样的方式支持倡导者，帮助他们推动改变、改善生活。消除知识获取、参与和社群交流障碍的工作，才刚刚开始。

我们还认为，行业、政府、民间社会和个人都不仅应推动民主进程，也应共同保护它。整个 2024 年，全球多个国家迎来关键选举。我们已采取具体措施，防止工具被滥用。在 11 月 5 日美国大选前，现向你介绍相关工作进展。

政策

我们修订了《禁止使用政策》，加强并明确选举相关场景下工具使用的规则。

• 禁止竞选活动和冒充候选人。严禁将工具用于政治竞选，包括宣传或倡导特定候选人、议题或立场，或拉票、募集资金。也禁止使用工具模仿政治候选人和民选政府官员的声音。

• 禁止压制选民和扰乱选举流程。禁止使用工具煽动、参与或协助压制选民，或扰乱其他选举或公民程序。这包括创建、传播或协助传播误导性信息。

预防

我们已加强防护措施，防止工具在选举相关场景中被滥用。

• 用户筛查。所有使用我们语音克隆工具的用户都必须提供联系和支付信息，帮助我们在注册时拦截与欺诈活动或高风险地区有关联的账户。

• “禁用”音色。我们的禁用音色技术可阻止生成数百名候选人、民选官员、其他政治人物及名人的声音。我们持续扩展这一防护措施以提升效果，并监控和处罚试图生成被拦截音色的用户。

检测与执行

为配合预防措施，我们已加强检测和执行能力。

• 滥用监控。升级后的专有分类器，包括专门识别政治内容的分类器，结合自动审核和人工审核，帮助我们发现违反条款的内容。我们还与外部威胁情报团队合作，获取有关可能意图扰乱选举的滥用行为的信息，并已与政府和行业合作伙伴建立信息共享渠道。

• 严格执行。一旦发现滥用行为，我们将果断采取措施，包括移除音色、将用户列入观察名单、禁止用户使用平台，以及在适当情况下向主管部门报告。如果你发现疑似源自 ElevenLabs 的问题内容，请告知我们。

• 支持政府行动。我们认为，政府行动对于遏制滥用至关重要。7 月，我们很自豪地宣布支持《保护选举免受欺骗性 AI 侵害法案》。这项跨党派法案由 Amy Klobuchar、Josh Hawley、Chris Coons、Susan Collins、Maria Cantwell、Todd Young、John Hickenlooper 和 Marsha Blackburn 等参议员推动，旨在追究利用竞选广告中的 AI 欺骗选民者的责任。我们将继续与美国及全球各地的政策制定者合作，推进包括选举相关项目在内的 AI 安全倡议。

溯源与透明度

让用户能清晰识别 AI 生成内容，包括通过广泛协作实现这一目标，仍是 ElevenLabs 负责任开发工作的重要组成部分。

• AI 语音分类器。我们的AI 语音分类器自2023 年 6 月起向公众开放，任何人都可以上传音频样本，分析其是否来自 ElevenLabs。公开此工具旨在让音频来源更易识别，从而限制错误信息传播。

• 与行业合作。在 AI 内容溯源和透明度方面，我们无法单独完成，必须依靠全行业的共同努力。 因此，我们加入了内容真实性倡议组织（CAI）。该组织汇集主要媒体和科技公司，制定内容溯源标准。通过内容溯源与真实性联盟（C2PA），我们将加密签名的元数据嵌入平台生成的音频中，以落实这些标准。这能让采用 CAI 工具的内容分发渠道，例如领先的社交媒体平台，将我们的音频识别为 AI 生成内容。

• 支持第三方检测工具。我们与第三方 AI 安全公司合作，改进其识别 AI 生成内容的工具，包括选举相关的深度伪造内容。7 月，我们与建立合作，合作方为Reality Defender——一家专注于深度伪造检测的网络安全公司。我们向其提供模型和数据访问权限，以加强检测工具。双方合作帮助 Reality Defender 的客户（包括政府和大型企业）实时发现 AI 生成的威胁，保护全球用户免受错误信息和复杂欺诈的影响。我们还参与其他学术和商业项目，包括加州大学伯克利分校信息学院的研究计划，以推进 AI 内容检测。

未来几天和几周，我们将继续学习并完善这些防护措施。我们认识到，无法预见工具可能被使用的每一种方式。但我们将持续采取有力行动防止滥用，同时运用技术打造更加互联、信息更加畅通的世界。