什么是 AIUC-1？为何它对企业 AI 信任至关重要
- 发布时间
- 最近更新
企业 AI 正在走向成熟。最初用于试点的智能体，如今已能处理客户对话、触发工作流，并在生产环境中操作实时业务数据。随着企业大规模将 AI 智能体投入生产，信任、安全和可靠性变得至关重要。
每项变革性技术都会走到这一步。支付系统有 PCI DSS，云基础设施有 SOC 2。正是独立标准让二者成为企业无需逐项深入审查即可部署的系统。现在，AI 智能体也有了自己的标准。
AIUC-1 认证是全球首个专为 AI 智能体打造的安全性、可靠性和安全标准。该标准由 Artificial Intelligence Underwriting Company（AIUC）与 MIT、MITRE 和斯坦福大学的研究人员共同开发，为企业提供可立即采用的独立基准。
ElevenLabs 是首家获得 AIUC-1 认证的语音 AI 公司。我们的智能体接受了覆盖 14 个风险类别的 5,835 项技术测试，证明其适合企业部署，并为客户部署的 AI 智能体解锁首创保险保障。
本指南介绍 AIUC-1 标准涵盖的内容、它与 SOC 2 和 ISO 42001 等合规框架的区别，以及认证流程涉及哪些环节。
本指南仅供一般参考，不构成法律建议。具体要求取决于系统、数据和所在司法辖区，请向法律顾问确认应履行的义务。
摘要
- AIUC-1 认证是首个专注于针对智能体进行专项测试的 AI 智能体安全性、可靠性和安全独立标准。
- 该框架将 51 项要求划分为六大风险支柱，底层控制措施则根据每个智能体的能力确定范围。
- AIUC-1 通过数千次对抗模拟测试智能体行为。
- ElevenLabs 是首家获得含 AI 保险的 AIUC-1 认证的语音 AI 公司，并作为技术贡献者参与制定语音专项要求。
什么是 AIUC-1？
AIUC-1 是由 Artificial Intelligence Underwriting Company 创建的 AI 智能体认证标准。它验证 AI 智能体是否实施了技术保障措施、运营控制措施和法律政策，以降低生产环境中不安全或未经授权行为的风险。AIUC-1 包含六大支柱：数据与隐私、安全、防护、可靠性、问责和社会。
之所以需要这项认证，是因为 AI 智能体已超出 SOC 2 和 ISO 27001 所预期的传统边界。智能体可访问客户数据、触发工作流、查阅内部业务政策、将案例升级给人工客服，并在既定框架内自主行动。因此，未经授权的工具调用、幻觉、数据泄露或提示词注入风险显著增加。
AIUC-1 为企业提供独立证据，说明 AI 智能体在涉及敏感数据的对抗条件下表现如何。它证明智能体已针对明确的安全和可靠性风险接受测试。
了解 AIUC-1 的六大支柱
AIUC-1 框架由 51 项要求和 130 项控制措施组成，归入六大风险支柱。其中 65 项为强制项，65 项为可选项，具体取决于智能体的功能范围。
AIUC-1 的六大支柱覆盖 AI 智能体部署的整个生命周期，具体如下：
- 数据与隐私：AIUC-1 的第一大支柱旨在防范数据泄露、未经同意使用用户数据训练，以及知识产权泄露。完整要求包括制定输入输出数据政策、限制 AI 智能体的数据访问权限、保护知识产权和商业机密、防止跨客户数据暴露，以及防范 PII 泄露、知识产权侵权、凭证或机密信息泄露。有关如何证明符合 AIUC-1 数据与隐私要求各项内容的更多信息，请参阅官方页面。
- 安全：旨在防范对抗性攻击，例如提示词注入和越狱，以及未经授权的工具调用。要求包括第三方对抗鲁棒性测试、防止未经授权的智能体操作、用户访问控制、部署环境保护，以及防范 AI 端点抓取和探测。
- 防护：通过保障措施和监控，降低有害 AI 输出及品牌风险。核心要求包括记录在案的风险分类体系、部署前测试，以及针对有害输出的控制措施（如偏见、欺骗、高风险建议和冒犯性内容）。AIUC-1 的防护支柱还涵盖超出范围的输出，以及将高风险输出升级至人工审核。
- 可靠性：旨在防止幻觉以及向已连接业务系统发起不可靠的工具调用。该原则仅包含四个小节，涵盖防范幻觉输出、限制不安全工具调用，以及对这两项保护措施进行第三方测试。
- 问责：明确责任归属并落实监督。此支柱的要求包括三类不同的 AI 故障应对计划、对上游供应商的尽职调查、活动日志、数据处理，以及告知用户正在与 AI 对话的披露机制。
- 社会：降低 AI 因网络攻击造成社会危害或其他安全风险的可能性。此类别包含两个组成部分：AI 网络滥用和灾难性滥用，两者都会实施防护栏，降低系统被恶意使用的风险。
模型需满足的具体要求也取决于其能力。例如，语音生成、自动化、代码生成或文本生成模型各有既定要求，因此语音智能体会接受测试，以应对语音特有风险，而非套用通用清单。
系统需经过数千次对抗模拟才能获得 AIUC-1 认证。每次模拟均以真实世界的 AI 事件为原型，标准会持续更新，以测试模型能否应对 AI 研究中最新出现的威胁。
AIUC-1 如何融入企业 AI 风险管理
AIUC-1 可补充现有认证。它测试 ISO 42001、NIST AI RMF、欧盟 AI 法案、MITRE ATLAS和LLM 应用 OWASP 十大风险等框架并非旨在覆盖的智能体专属风险，例如提示词注入、未经授权的工具调用和智能体数据外泄。
对于风险团队而言，该标准还会按定义的风险类别提供量化的通过／未通过率。与 AI 部署相关的主要风险均会被量化和衡量，为企业评估 AI 部署风险提供有文档支持的依据。
在伦敦举行的 ElevenLabs Summit 上，ElevenLabs 的Marco Mancini分享了我们对 AI 智能体安全的愿景：大规模部署 AI 系统所需的条件、其中涉及的风险，以及独立标准如何支持对 AI 智能体的信任。
该演讲阐述了我们为何率先在语音 AI 公司中寻求 AIUC-1 认证，以及测试、保险和标准如何协同降低企业部署风险。
AIUC-1 与其他合规框架的比较
AIUC-1 与企业用于评估供应商的其他几个框架并列，但并非所有框架都专门面向 AI。每个框架解决的问题各不相同。
以下是各框架验证的内容及企业的使用方式：
简单来说，SOC 2 告诉企业采购方，供应商的基础设施在历史审查期内是安全的；而 AIUC-1 则证明 AI 智能体已针对真实攻击向量接受测试。二者协同提供覆盖整个基础设施的安全保障，但 AIUC-1 有意避免重复你已为 SOC 2 或 ISO 27001 完成的工作。
AIUC-1 的另一项差异化因素是其认证机制。AIUC 对 AIUC-1 审计员进行资质认可，并将审计与自身的技术测试相结合。
AIUC-1 认证流程
AIUC-1 认证通常需要 4 至 8 周，具体取决于组织现有防护栏和 AI 保障措施的成熟度。
认证流程分为四个明确阶段：
- 差距评估：第一阶段将审计 AI 平台，确定其智能体的功能范围、使用的现有政策、具备的技术文档以及采用的保障措施。此范围界定和启动阶段会识别所有待测试的初始差距，并在此阶段签订认证合同。
- 整改：接下来，组织将解决现有防护栏、法律政策或技术实施中的所有缺口。这将修复识别出的初始差距，并让你进入技术测试阶段。
- 技术评估：AIUC 会对生产系统进行对抗测试，探查幻觉、提示词注入机会、数据泄露、不安全的工具调用、有害输出或不安全做法。
- 认证审计：审计员将根据智能体在第 3 阶段的表现，独立评估所有证据，并决定是否颁发 AIUC-1 认证。
审计流程结束后，组织将获得：
- 包含完整结果明细的综合审计报告
- AIUC-1 证书（通过后）
- 可用于销售或营销材料的 AIUC-1 徽章（通过后）
AIUC-1 认证的有效期是多久？
AIUC-1 认证有效期为 12 个月，但并非对公司安全措施的一次性快照。AI 智能体每季度接受技术测试，所有完整技术和法律控制措施每年重新审计。随着新研究成果出现或新的 AI 威胁向量显现，AIUC 可每季度更新标准，并根据新的威胁环境对智能体进行认证。
哪些行业关注 AIUC-1 认证？
AIUC-1 是一项自愿性标准，但企业正用它来从可靠性、安全性和防护能力方面评估 AI 智能体提供商。
以下行业尤其关注 AIUC-1 认证：
- 医疗保健：处理 PII 或其他敏感数据的智能体，可受益于明确且经过独立测试的防泄露和防幻觉保障措施。
- 企业 SaaS：为产品新增 AI 智能体能力的企业供应商，可能会发现 AIUC-1 认证出现在采购方安全问卷和供应商要求中。
- 保险：部署智能体处理客户保单和理赔对话的保险公司，希望确认 AI 系统能提供准确信息，从而降低承保风险敞口。
- 金融服务：部署语音和聊天智能体的银行及金融科技公司，需履行严格的数据处理和可审计性义务。我们的金融服务AI 智能体实战指南介绍了认证平台如何支持这些部署。
近 70% 的《财富》500 强公司员工使用 ElevenLabs，这并非没有原因。ElevenLabs 的 AIUC-1 认证为企业采购方提供独立证据，说明我们的智能体在对抗条件下表现如何。
开始使用 ElevenAgents
ElevenAgents是首个获得 AIUC-1 认证的语音 AI 平台。ElevenLabs 作为该标准的技术贡献者，帮助制定语音专项安全要求。该平台还拥有 SOC 2 Type II 认证，并获 PCI DSS Level 1 服务提供商认证，这是 PCI DSS 四个合规级别中的最高级别。
认证路径同样面向客户。由于 AIUC-1 要求已整合至平台，基于 ElevenAgents 构建的公司起步时最高已满足 75% 的认证要求，通常可在 4 周内获得完整认证。Immobiliare.it是意大利最大的房地产平台，其 24/7 房产咨询语音智能体仅用 4 周即完成认证，配置测试所需工程时间不足 2 小时。
注册 ElevenLabs，构建第一个智能体，或联系销售团队，讨论合规的企业部署方案。
