AIUC-1이란 무엇이며 엔터프라이즈 AI 신뢰에 중요한 이유

엔터프라이즈 AI가 성숙하고 있습니다. 파일럿으로 시작한 에이전트는 이제 고객과 대화하고, 워크플로를 실행하며, 프로덕션 환경에서 실시간 비즈니스 데이터를 처리합니다. 기업이 이 규모로 AI 에이전트를 프로덕션에 도입하면서 신뢰, 안전, 신뢰성이 매우 중요해졌습니다.

모든 혁신적 기술은 결국 이 단계에 이릅니다. 결제 시스템에는 PCI DSS가 있고, 클라우드 인프라에는 SOC 2가 있습니다. 독립 표준은 기업이 광범위한 개별 검증 없이 두 시스템을 도입할 수 있게 했습니다. 이제 AI 에이전트에도 이러한 표준이 마련되고 있습니다.

AIUC-1 인증은 AI 에이전트를 위해 특별히 구축된 세계 최초의 보안, 안전, 신뢰성 표준입니다. MIT, MITRE, 스탠퍼드의 연구진과 함께 Artificial Intelligence Underwriting Company(AIUC)가 개발했으며, 기업이 지금 바로 활용할 수 있는 독립적인 벤치마크를 제공합니다.

ElevenLabs는 AIUC-1 인증을 획득한 최초의 음성 AI 기업입니다. ElevenLabs의 에이전트는 14개 위험 범주에서 5,835건의 기술 테스트를 거쳤으며, 엔터프라이즈 배포에 필요한 견고성을 입증하고 고객이 배포하는 AI 에이전트를 위한 최초의 보험 보장 범위를 확보했습니다.

이 가이드에서는 AIUC-1 표준의 적용 범위, SOC 2 및 ISO 42001과 같은 다른 컴플라이언스 프레임워크와의 비교, 그리고 인증 절차를 설명합니다.

이 가이드는 일반적인 정보 제공 목적이며 법률 자문에 해당하지 않습니다. 요구사항은 시스템, 데이터, 관할권에 따라 다르므로 법률 자문을 통해 의무 사항을 확인하세요.

요약

• AIUC-1 인증은 AI 에이전트의 보안, 안전, 신뢰성을 위한 최초의 독립 표준으로, 에이전트에 대한 구체적인 테스트에 중점을 둡니다.
• 이 프레임워크는 6개의 위험 축에 걸쳐 51개 요구사항을 구성하며, 기반 통제 항목은 각 에이전트의 기능에 맞게 범위가 설정됩니다.
• AIUC-1은 수천 건의 적대적 시뮬레이션을 통해 에이전트의 행동을 테스트합니다.
• ElevenLabs는 AI Insurance와 함께 AIUC-1 인증을 획득한 최초의 음성 AI 기업이며, 음성 특화 요구사항의 기술 기여자로 참여하고 있습니다.

AIUC-1이란 무엇인가요?

AIUC-1은 Artificial Intelligence Underwriting Company가 만든 AI 에이전트 인증 표준입니다. 프로덕션 환경에서 안전하지 않거나 권한 없는 행동의 위험을 줄이기 위해 설계된 기술적 안전장치, 운영 통제, 법적 정책을 AI 에이전트가 구현하는지 검증합니다. AIUC-1은 데이터 및 프라이버시, 보안, 안전, 신뢰성, 책임성, 사회의 6가지 축으로 구성됩니다.

이 인증은 AI 에이전트가 SOC 2와 ISO 27001이 예상한 전통적인 한계를 넘어섰기 때문에 존재합니다. 에이전트는 고객 데이터에 접근하고, 워크플로를 실행하며, 내부 비즈니스 정책을 참조하고, 사례를 인간 상담원에게 에스컬레이션하며, 정해진 프레임워크 내에서 자율적으로 행동할 수 있습니다. 이에 따라 무단 도구 호출, 환각, 데이터 유출, 프롬프트 인젝션의 위험이 훨씬 더 커집니다.

AIUC-1은 민감한 데이터가 있는 적대적 조건에서 AI 에이전트가 어떻게 작동하는지에 대한 독립적인 증거를 기업에 제공합니다. 에이전트가 정의된 보안 및 신뢰성 위험에 대해 테스트되었음을 보여 줍니다.

AIUC-1의 6가지 축 이해하기

AIUC-1 프레임워크는 6개의 위험 축으로 구성된 51개 요구사항과 130개 통제 항목으로 이루어져 있습니다. 이 중 65개는 필수이고, 65개는 에이전트의 기능 범위에 따라 선택 사항입니다.

AIUC-1의 6가지 축은 AI 에이전트 배포의 전체 수명 주기를 포괄하며, 다음과 같습니다.

• 데이터 및 프라이버시: AIUC-1의 첫 번째 축은 데이터 유출, 동의 없는 사용자 데이터 학습, IP 유출을 방지하는 것을 목표로 합니다. 요구사항에는 입출력 데이터 정책 수립, AI 에이전트의 데이터 접근 제한, IP 및 영업 비밀 보호, 고객 간 데이터 노출 방지, PII 유출, IP 침해, 자격 증명 또는 기밀 정보 노출 방지가 포함됩니다. AIUC-1 데이터 및 프라이버시 요구사항의 각 부분에 대한 적합성 입증 방법은 공식 페이지에서 확인하세요.
• 보안: 적대적 공격으로부터 보호하는 것을 목표로 하며, 프롬프트 인젝션과 탈옥은 물론 무단 도구 호출까지 포함합니다. 요구사항에는 제3자 적대적 견고성 테스트, 무단 에이전트 작업 방지, 사용자 접근 제어, 배포 환경 보호, AI 엔드포인트 스크래핑 및 프로빙 방지책이 포함됩니다.
• 안전: 안전장치와 모니터링을 통해 유해한 AI 출력 및 브랜드 위험을 줄입니다. 주요 요구사항에는 문서화된 위험 분류 체계, 배포 전 테스트, 유해한 출력(편향, 기만, 고위험 조언, 불쾌감을 주는 콘텐츠 등)에 대한 통제가 포함됩니다. AIUC-1의 안전 축은 범위 외 출력과 검토를 위한 고위험 출력의 사람 에스컬레이션도 다룹니다.
• 신뢰성: 환각을 방지하고 연결된 비즈니스 시스템에 대한 신뢰할 수 없는 도구 호출을 방지하는 것을 목표로 합니다. 이 원칙에는 환각 출력 방지책, 안전하지 않은 도구 호출 제한, 두 보호 조치에 대한 제3자 테스트를 포함하는 4개의 하위 항목만 있습니다.
• 책임성: 책임을 부여하고 감독을 시행합니다. 이 축의 요구사항에는 3가지 별도 AI 장애 대응 계획, 업스트림 제공업체에 대한 벤더 실사, 활동 로깅, 데이터 처리, 사용자가 AI와 대화하고 있음을 알리는 고지 메커니즘이 포함됩니다.
• 사회: AI가 사이버 공격을 통해 사회적 피해를 유발하거나 기타 보안 위험을 초래할 위험을 줄입니다. 이 범주에는 AI의 사이버 악용과 재앙적 악용이라는 두 가지 구성 요소가 있으며, 둘 다 가드레일을 구현하여 시스템이 악의적으로 사용될 위험을 줄입니다.

모델이 준수해야 하는 구체적인 요구사항도 기능에 따라 달라집니다. 예를 들어 음성 생성, 자동화, 코드 생성, 텍스트 생성 모델에는 각각 정해진 요구사항이 있으므로 음성 에이전트는 테스트를 거칩니다 일반적인 체크리스트가 아닌 음성 특화 위험을 기준으로 합니다.

시스템은 AIUC-1 인증을 획득하기 위해 수천 건의 적대적 시뮬레이션을 거칩니다. 각 시뮬레이션은 실제 AI 사고를 모델로 하며, 표준은 AI 연구에서 가장 최근에 나타난 위협에 대해 모델을 테스트할 수 있도록 지속적으로 갱신됩니다.

엔터프라이즈 AI 위험 관리에서 AIUC-1의 역할

AIUC-1은 기존 인증을 보완할 수 있습니다. ISO 42001, NIST AI RMF, EU AI Act, MITRE ATLAS, LLM 애플리케이션을 위한 OWASP Top 10과 같은 프레임워크가 다루도록 설계되지 않은 프롬프트 인젝션, 무단 도구 호출, 에이전트 기반 데이터 유출 같은 에이전트 특화 위험을 테스트합니다.

위험 관리 팀을 위해 이 표준은 정의된 위험 범주 전반의 정량화된 통과/실패율도 산출합니다. AI 배포와 관련된 주요 위험을 정량화하고 측정합니다. 이를 통해 기업은 AI 배포 위험을 평가할 수 있는 문서화된 근거를 확보합니다.

런던에서 열린 ElevenLabs Summit에서 ElevenLabs의 Marco Mancini가 AI 에이전트 보안에 대한 비전을 발표했습니다. AI 시스템을 대규모로 배포하는 데 필요한 요소, 관련 위험, 독립 표준이 AI 에이전트에 대한 신뢰를 어떻게 뒷받침할 수 있는지 다뤘습니다.

이 세션에서는 음성 AI 기업 중 최초로 AIUC-1 인증을 추진하기로 한 배경과 테스트, 보험, 표준이 엔터프라이즈 배포의 위험을 줄이기 위해 어떻게 함께 작동하는지를 설명합니다.

AIUC-1과 다른 컴플라이언스 프레임워크 비교

AIUC-1은 기업이 벤더를 평가하는 데 사용하는 몇 가지 다른 프레임워크와 함께 활용됩니다. 모든 프레임워크가 AI에 특화된 것은 아니며, 각각 서로 다른 질문을 다룹니다.

각 프레임워크가 검증하는 사항과 기업의 활용 방식은 다음과 같습니다.

쉽게 말해 SOC 2는 엔터프라이즈 구매자에게 벤더의 인프라가 과거 검토 기간 동안 안전했음을 알려 주는 반면, AIUC-1은 AI 에이전트가 실제 공격 벡터에 대해 테스트되었음을 보여 줍니다. 두 프레임워크는 함께 인프라 전반의 보안을 제공하지만, AIUC-1은 이미 SOC 2 또는 ISO 27001을 위해 수행한 작업을 의도적으로 중복하지 않습니다.

AIUC-1을 차별화하는 또 다른 요소는 인증 체계입니다. AIUC는 AIUC-1 감사자를 공인한 후 자체 기술 테스트를 감사와 결합합니다.

AIUC-1 인증 절차

AIUC-1 인증에는 일반적으로 4~8주가 걸리며, 조직의 기존 가드레일과 AI 안전장치의 성숙도에 따라 달라집니다.

인증 절차는 다음 4가지 단계로 진행됩니다.

1. 갭 평가: 첫 단계에서는 AI 플랫폼을 감사하여 에이전트의 기능 범위, 사용 중인 기존 정책, 보유한 기술 문서, 적용한 안전장치를 파악합니다. 이 범위 설정 및 킥오프 단계에서 테스트할 초기 격차를 모두 식별하고 인증 계약을 체결합니다.
2. 개선 조치: 다음으로 조직은 보유한 가드레일, 법적 정책 또는 기술 구현의 모든 격차를 해소합니다. 이를 통해 식별된 초기 격차를 해결하고 기술 테스트 단계로 진행할 수 있습니다.
3. 기술 평가: AIUC는 프로덕션 시스템을 대상으로 적대적 테스트를 수행하여 환각, 프롬프트 인젝션 가능성, 데이터 유출, 안전하지 않은 도구 호출, 유해한 출력 또는 안전하지 않은 관행을 조사합니다.
4. 인증 감사: 3단계에서의 에이전트 성능을 바탕으로 감사자가 모든 증거를 독립적으로 평가한 후 AIUC-1 인증 발급 여부를 결정합니다.

감사 절차가 끝나면 조직은 다음을 받습니다.

• 결과의 전체 세부 내역이 포함된 종합 감사 보고서
• AIUC-1 인증서(통과 시)
• 영업 또는 마케팅 자료에 표시할 수 있는 AIUC-1 배지(통과 시)

AIUC-1 인증의 유효 기간은 얼마나 되나요?

AIUC-1 인증의 유효 기간은 12개월이지만, 회사 보안 조치의 일회성 스냅샷이 아닙니다. AI 에이전트는 분기마다 기술 테스트를 받고, 모든 기술 및 법적 통제 항목은 매년 재감사를 받습니다. 새로운 연구가 나오거나 뚜렷한 AI 기반 위협 벡터가 등장하면 AIUC는 분기마다 표준을 업데이트하고 새로운 위협 환경에 대해 에이전트를 인증할 수 있습니다.

AIUC-1 인증에 주목하는 산업은 어디인가요?

AIUC-1은 자발적 표준이지만, 기업은 AI 에이전트 제공업체의 신뢰성, 보안, 안전을 평가하는 데 이를 활용하고 있습니다.

AIUC-1 인증에 주목하는 산업은 다음과 같습니다.

• 헬스케어: PII 또는 기타 민감한 데이터를 처리하는 에이전트는 유출과 환각에 대한 명시적이고 독립적으로 테스트된 안전장치의 이점을 얻습니다.
• 엔터프라이즈 SaaS: AI 에이전트 기능을 추가하는 엔터프라이즈 벤더는 구매자의 보안 설문지와 벤더 요구사항에 AIUC-1 인증이 포함되는 것을 보게 될 수 있습니다.
• 보험: 고객의 보험 계약 및 청구 관련 대화를 처리하는 에이전트를 배포하는 보험사는 AI 시스템이 정확한 정보를 제공해 인수 위험을 줄인다는 확신을 원합니다.
• 금융 서비스: 음성 및 채팅 에이전트를 배포하는 은행과 핀테크 기업은 데이터 처리와 감사 가능성에 관한 엄격한 의무를 지닙니다. ElevenLabs의 AI 에이전트 플레이북에서는 인증 플랫폼이 이러한 배포를 어떻게 지원할 수 있는지 설명합니다.

Fortune 500 기업의 약 70%에서 직원들이 ElevenLabs를 사용하는 데는 이유가 있습니다. ElevenLabs의 AIUC-1 인증은 적대적 조건에서 에이전트가 어떻게 작동하는지에 대한 독립적인 증거를 엔터프라이즈 구매자에게 제공합니다.

ElevenAgents 시작하기

ElevenAgents는 AIUC-1 인증을 획득한 최초의 음성 AI 플랫폼이며, ElevenLabs는 음성 특화 보안 요구사항 수립을 지원하는 이 표준의 기술 기여자로 참여하고 있습니다. 이 플랫폼은 SOC 2 Type II도 보유하고 있으며, PCI DSS 컴플라이언스 4개 등급 중 최고 등급인 PCI DSS 레벨 1 서비스 제공업체 인증을 받았습니다.

인증 경로는 고객에게도 확장됩니다. AIUC-1 요구사항이 플랫폼에 통합되어 있으므로 ElevenAgents를 기반으로 구축하는 기업은 인증 요구사항의 최대 75%를 이미 충족한 상태에서 시작하며, 일반적으로 4주 안에 전체 인증을 획득합니다. Immobiliare.it는 이탈리아 최대 부동산 플랫폼으로, 24시간 연중무휴 부동산 문의 음성 에이전트를 4주 만에 인증했으며, 테스트 구성에 필요한 엔지니어링 시간은 2시간 미만이었습니다.

ElevenLabs 가입하기로 첫 에이전트를 구축하거나, 영업팀에 문의하여 규정을 준수하는 엔터프라이즈 배포를 논의하세요.

AIUC-1 및 AI 컴플라이언스 관련 자주 묻는 질문