跳至内容
登录注册
联系销售团队登录

什么是 AIUC-1？为何它对企业 AI 信任至关重要

作者
Jack Limebear
发布时间
最近更新

收听收听本文

联系销售
注册

企业 AI 正在走向成熟。起初用于试点的智能体，如今已在生产环境中处理客户对话、触发 workflow，并基于实时业务数据采取行动。随着企业大规模将 AI 智能体投入生产，信任、安全和可靠性变得至关重要。

每项变革性技术都会走到这一步。支付系统有 PCI DSS，云基础设施有 SOC 2。正是独立标准让企业无需进行大量单独审查，就能部署这些系统。如今，AI 智能体也有了自己的标准。

AIUC-1 认证是全球首个专为 AI 智能体打造的安全性、安全保障和可靠性标准。该标准由 Artificial Intelligence Underwriting Company（AIUC）与 MIT、MITRE 和 Stanford 的研究人员共同制定，为企业提供可立即采用的独立基准。

ElevenLabs 是首家获得 AIUC-1 认证的语音 AI 公司。我们的智能体接受了 涵盖 14 个风险类别的 5,835 项技术测试，证明其适合企业部署，并为客户部署的 AI 智能体解锁了首创的保险保障。

本指南将介绍 AIUC-1 标准涵盖哪些内容、它与 SOC 2 和 ISO 42001 等其他合规框架有何区别，以及认证流程包含哪些环节。

本指南仅供一般参考，不构成法律建议。具体要求取决于系统、数据和所在司法管辖区，请向法律顾问确认相关义务。

摘要

  • AIUC-1 认证是首个专注于 AI 智能体专项测试的独立安全性、安全保障和可靠性标准。
  • 该框架将 51 项要求划分为 6 大风险支柱，底层控制措施则根据每个智能体的能力确定范围。
  • AIUC-1 通过数千次对抗模拟测试智能体行为。
  • ElevenLabs 是首家凭借 AI 保险获得 AIUC-1 认证的语音 AI 公司，并作为技术贡献者参与制定语音专项要求。

什么是 AIUC-1？

AIUC-1 是由 Artificial Intelligence Underwriting Company 制定的 AI 智能体认证标准。它验证 AI 智能体是否实施了技术防护措施、运营控制和法律政策，以降低生产环境中发生不安全或未经授权行为的风险。AIUC-1 包含 6 大支柱：数据与隐私、安全、安全保障、可靠性、问责和社会。

之所以需要这项认证，是因为 AI 智能体已超出 SOC 2 和 ISO 27001 设想的传统范围。智能体可以访问客户数据、触发 workflow、查询内部业务政策、将案例升级给人工客服，还能在既定框架内自主行动。因此，未经授权的工具调用、幻觉、数据泄露或提示词注入等风险显著增加。

AIUC-1 为企业提供独立证据，说明 AI 智能体在涉及敏感数据的对抗性条件下表现如何。它证明智能体已针对明确的安全和可靠性风险接受测试。

了解 AIUC-1 的 6 大支柱

AIUC-1 框架包含 51 项要求和 130 项控制措施，分为 6 大风险支柱。其中 65 项为强制性要求，另有 65 项为可选要求，具体取决于智能体的功能范围。

AIUC-1 的 6 大支柱覆盖 AI 智能体部署的完整生命周期，具体如下：

  • 数据与隐私：AIUC-1 的第一大支柱旨在防范数据泄露、未经同意使用用户数据训练，以及知识产权泄露。完整要求包括制定输入与输出数据政策、限制 AI 智能体的数据访问权限、保护知识产权和商业机密、防止跨客户数据暴露，以及防范 PII 泄露、知识产权侵权、凭据或密钥暴露。要了解如何证明符合 AIUC-1 数据与隐私要求的各项内容，请参阅官方页面.
  • 安全：旨在防范对抗性攻击，包括提示词注入、越狱和未经授权的工具调用。要求包括第三方对抗鲁棒性测试、防止智能体未经授权的操作、用户访问控制、部署环境保护，以及防范 AI 端点抓取和探测。
  • 安全保障：通过防护措施和监控，降低有害 AI 输出及品牌风险。主要要求包括书面风险分类、部署前测试，以及针对有害输出的控制措施，例如偏见、欺骗、高风险建议和冒犯性内容。AIUC-1 的安全保障支柱还涵盖超出范围的输出，以及将高风险输出升级给人工审核。
  • 可靠性：旨在防止幻觉以及对已连接业务系统进行不可靠的工具调用。这一原则仅有 4 个子项，涵盖防范幻觉输出、限制不安全工具调用，以及针对这两项防护的第三方测试。
  • 问责：明确责任归属并落实监督。该支柱的要求包括 3 类不同的 AI 故障应对方案、对上游供应商的尽职调查、活动日志记录、数据处理，以及告知用户正在与 AI 对话的披露机制。
  • 社会：降低 AI 因网络攻击造成社会危害或其他安全风险的可能性。该类别包含 AI 网络滥用和灾难性滥用两部分，二者均设置护栏，降低系统被用于恶意用途的风险。

模型需要满足的具体要求也取决于其能力。例如，语音生成、自动化、代码生成或文本生成模型都有既定要求，因此语音智能体会接受测试，以评估语音特有风险，而非套用通用检查清单。

系统需要经过数千次对抗模拟，才能获得 AIUC-1 认证。每次模拟均以真实世界的 AI 事件为模型，标准也会持续更新，以根据 AI 研究中最新威胁测试模型。

What is AIUC-1 and what are its six risk pillars: data privacy, security, safety, reliability, accountability, and society.

AIUC-1 如何融入企业 AI 风险管理

AIUC-1 可与现有认证形成互补。它测试 ISO 42001、NIST AI RMF、欧盟 AI 法案、MITRE ATLAS和适用于 LLM 应用的 OWASP 十大风险等框架并非为覆盖的智能体专项风险，例如提示词注入、未经授权的工具调用和智能体数据外泄。

对于风险团队，该标准还会按既定风险类别提供量化的通过／未通过率，并对 AI 部署相关的主要风险进行量化和衡量。这为企业评估 AI 部署风险提供了有据可查的依据。

在伦敦举办的 ElevenLabs Summit 上，ElevenLabs 的Marco Mancini分享了我们对 AI 智能体安全的愿景：大规模部署 AI 系统需要哪些条件、涉及哪些风险，以及独立标准如何支持建立对 AI 智能体的信任。

marco mancini

本次分享阐述了我们为何率先在语音 AI 公司中寻求 AIUC-1 认证，以及测试、保险和标准如何协同降低企业部署风险。

AIUC-1 与其他合规框架对比

AIUC-1 与企业用于评估供应商的其他几个框架并行存在，尽管并非所有框架都专门面向 AI。每个框架解决的问题各不相同。

以下介绍各框架验证什么，以及企业如何使用它们：

What it validates
AIUC-1
AI agent security, safety, and reliability in production
SOC 2
Organizational controls for data security
ISO 42001
AI management systems and governance
NIST AI RMF
Voluntary risk management practices
Scope
AIUC-1
Agent-specific: prompt injection, hallucinations, tool misuse, data leakage
SOC 2
Infrastructure and processes, not AI behavior
ISO 42001
Policies, leadership review, documentation
NIST AI RMF
Internal risk architecture, no certification
Cadence
AIUC-1
Quarterly retests, annual re-audit
SOC 2
Annual, point-in-time or period review
ISO 42001
Annual surveillance, three-year cycle
NIST AI RMF
Guidance, not audited

简单来说，SOC 2 告诉企业采购方，供应商的基础设施在某个历史审查期间是安全的；而 AIUC-1 则表明 AI 智能体已针对真实世界的攻击向量接受测试。两者共同提供覆盖整个基础设施的安全保障，但 AIUC-1 有意避免重复 SOC 2 或 ISO 27001 已完成的工作。

AIUC-1 的另一项独特之处是其认证机制。AIUC 认可 AIUC-1 审计师，并将审计与自身的技术测试相结合。

AIUC-1 认证流程

AIUC-1 认证通常需要 4 至 8 周，具体取决于组织现有护栏和 AI 防护措施的成熟度。

认证流程分为 4 个明确阶段：

  1. 差距评估：第一阶段会审计 AI 平台，确定其智能体的功能范围、现有政策、技术文档和防护措施。范围界定和启动阶段会识别所有待测试的初始差距，并在此阶段签署认证合同。
  2. 整改：接下来，组织需要解决护栏、法律政策或技术实现中的所有差距。这将修复已识别的初始问题，并进入技术测试阶段。
  3. 技术评估：AIUC 会对生产系统开展对抗测试，探测幻觉、提示词注入机会、数据泄露、不安全工具调用、有害输出或不安全做法。
  4. 认证审计：审计师将根据智能体在第 3 阶段的表现，独立评估所有证据，并决定是否颁发 AIUC-1 认证。

审计流程结束后，组织将获得：

  • 包含完整结果明细的综合审计报告
  • AIUC-1 证书（通过后）
  • 可用于销售或营销材料的 AIUC-1 徽章（通过后）

AIUC-1 认证有效期多久？

AIUC-1 认证有效期为 12 个月，但它并非企业安全措施的一次性快照。AI 智能体每季度接受技术测试，所有完整技术和法律控制措施每年重新审计。随着新研究出现或新的 AI 威胁向量浮现，AIUC 可能每季度更新标准，并根据新的威胁环境认证智能体。

哪些行业关注 AIUC-1 认证？

AIUC-1 是一项自愿性标准，但企业正用它从可靠性、安全性和安全保障方面评估 AI 智能体提供商。

以下几个行业正关注 AIUC-1 认证：

  • 医疗健康：处理 PII 或其他敏感数据的智能体，可受益于经独立测试、专门防范泄露和幻觉的明确防护措施。
  • 企业 SaaS：增加 AI 智能体功能的企业供应商，可能会发现采购方的安全问卷和供应商要求中出现 AIUC-1 认证。
  • 保险：部署智能体处理客户保单和理赔对话的保险公司，需要确信其 AI 系统能提供准确信息，从而降低承保风险敞口。
  • 金融服务：部署语音和聊天智能体的银行及金融科技公司，面临数据处理和可审计性的严格义务。我们的AI 智能体实战指南介绍了获得认证的平台如何支持金融服务领域的此类部署。

近 70% 的《财富》500 强公司员工都在使用 ElevenLabs，这并非偶然。ElevenLabs 的 AIUC-1 认证为企业采购方提供独立证据，说明我们的智能体在对抗性条件下表现如何。

开始使用 ElevenAgents

ElevenAgents是首个获得 AIUC-1 认证的语音 AI 平台，ElevenLabs 还作为该标准的技术贡献者，帮助制定语音专项安全要求。该平台还获得 SOC 2 Type II 认证，并获评为 PCI DSS Level 1 服务提供商，这是 PCI DSS 4 个合规级别中的最高级别。

认证路径同样延伸至客户。由于 AIUC-1 要求已集成到平台中，基于 ElevenAgents 构建的公司一开始即可满足最多 75% 的认证要求，通常可在 4 周内完成完整认证。Immobiliare.it是意大利最大的房地产平台，其全天候房产咨询语音智能体在 4 周内完成认证，配置测试所需工程时间不足 2 小时。

注册 ElevenLabs以构建首个智能体，或联系销售，讨论合规的企业部署方案。

AIUC-1 与 AI 合规常见问题

相关内容

用高质量 AI 音频创作

联系销售团队注册