焦点：ElevenLabs 亮相 MIT EmTech Digital
- 发布时间
上周，在伦敦举办的 MIT EmTech Digital 大会上，我参与了一个关于企业、政府和学术界如何协作，把握先进 AI 产品机遇并应对挑战的小组讨论。
本次小组成员除了 ElevenLabs，还有 Alan Turing Institute、Ada Lovelace Institute 和 BT 的负责人，MIT Technology Review 的 Melissa Heikkilä 担任主持。
AI 安全的三重策略
在 ElevenLabs，我们开发音频 AI 技术时非常重视其影响。作为 AI 安全负责人，我专注于赋能创作者、企业和用户，同时防止滥用和不良行为。在小组讨论中，我介绍了我们为提升 ElevenLabs 安全性和创新性所采取的措施，并呼吁优先应对 AI 安全挑战。主要策略包括：
溯源：通过了解内容来源，区分 AI 生成内容与真实内容。上游 AI 检测工具（如分类器）是通过训练识别 AI 生成结果的概率模型。ElevenLabs 推出了 AI Speech Classifier，任何人都可以上传样本检测是否来自我们的平台。我们还与 Loccus 合作，提升 AI 内容分类能力。但分类器并非溯源的万能方案，也存在局限。为此，下游检测方法应运而生，包括元数据、水印和指纹等方案。我们支持行业采用如 C2PA 这类加密签名元数据标准，具备开放、互通优势，可实现主流分发渠道（如 Instagram、Facebook）对 AI 生成内容的标注。
可追溯性：确保 AI 生成内容可追溯到具体用户。在 ElevenLabs，我们的系统可将平台生成内容与源账户关联，语音克隆工具仅对已通过银行信息验证的用户开放。重视可追溯性，确保所有 AI 平台用户都能对行为负责，并在必要时被法律机构识别。
内容审核：制定明确的内容和使用政策，防止生成不合规内容。ElevenLabs 采用自动系统扫描、标记并拦截不当内容。人工审核员会复查被标记内容，确保政策一致执行。我们持续升级审核技术，防止生成危害公众信任或安全的内容。开源审核接口（如 OpenAI 提供的接口）可便捷集成到各类 AI 应用，实现提示词审核。
面向未来的 AI 安全
小组成员一致认为，AI 产品必须安全开发和使用，同时也要鼓励其创新和多样化应用。在 ElevenLabs，我们的平台常被用于帮助有音频转写需求的人提升数字内容可访问性，也为因 ALS 等健康问题失声者带来新声音。要推动 AI 应用发展，必须提升公众对 AI 媒体的认知，鼓励理性互动，推广真实性验证工具，并加强公众和机构的 AI 伦理教育。
