AIUC-1이란 무엇이며 엔터프라이즈 AI 신뢰에 중요한 이유

엔터프라이즈 AI는 성숙해지고 있습니다. 파일럿으로 시작한 에이전트는 이제 고객과 대화하고, 워크플로를 실행하며, 운영 환경에서 실시간 비즈니스 데이터를 기반으로 작업합니다. 기업이 이 규모로 AI 에이전트를 운영 환경에 도입하면서 신뢰, 안전, 안정성이 핵심 요소가 되었습니다.

혁신적인 기술은 모두 이 단계에 도달합니다. 결제 시스템에는 PCI DSS가 있고, 클라우드 인프라에는 SOC 2가 있습니다. 독립적인 표준은 광범위한 개별 검증 없이도 기업이 두 시스템을 도입할 수 있게 만들었습니다. 이제 AI 에이전트에도 이러한 표준이 마련되고 있습니다.

AIUC-1 인증은 AI 에이전트를 위해 특별히 마련된 세계 최초의 보안, 안전 및 안정성 표준입니다. MIT, MITRE, 스탠퍼드 연구진과 함께 Artificial Intelligence Underwriting Company(AIUC)가 개발했으며, 기업이 지금 바로 활용할 수 있는 독립적인 벤치마크를 제공합니다.

ElevenLabs는 AIUC-1 인증을 획득한 최초의 음성 AI 기업입니다. ElevenLabs의 에이전트는 14개 위험 범주에서 5,835건의 기술 테스트를 거쳤으며, 엔터프라이즈 배포에 필요한 견고성을 입증하고 고객이 배포하는 AI 에이전트에 대해 최초로 보험 보장을 제공할 수 있게 했습니다.

이 가이드에서는 AIUC-1 표준의 적용 범위, SOC 2 및 ISO 42001과 같은 다른 규정 준수 프레임워크와의 비교, 그리고 인증 절차를 설명합니다.

이 가이드는 일반적인 정보 제공을 목적으로 하며 법률 자문에 해당하지 않습니다. 요구 사항은 시스템, 데이터 및 관할권에 따라 다르므로 법률 자문을 통해 의무 사항을 확인하세요.

요약

• AIUC-1 인증은 에이전트에 대한 구체적인 테스트에 중점을 둔 최초의 독립적인 AI 에이전트 보안, 안전 및 안정성 표준입니다.
• 이 프레임워크는 6개의 위험 원칙에 걸쳐 51개의 요구 사항을 구성하며, 기반 통제는 각 에이전트의 기능 범위에 맞게 적용됩니다.
• AIUC-1은 수천 건의 적대적 시뮬레이션을 통해 에이전트 행동을 테스트합니다.
• ElevenLabs는 AI 보험이 포함된 AIUC-1 인증을 획득한 최초의 음성 AI 기업이며, 음성 특화 요구 사항의 기술 기여자로 참여하고 있습니다.

AIUC-1이란 무엇인가요?

AIUC-1은 Artificial Intelligence Underwriting Company가 만든 AI 에이전트 인증 표준입니다. 운영 환경에서 안전하지 않거나 권한 없는 행동의 위험을 줄이도록 설계된 기술적 보호 장치, 운영 통제 및 법적 정책을 AI 에이전트가 구현했는지 검증합니다. AIUC-1은 데이터 및 개인정보 보호, 보안, 안전, 안정성, 책임성, 사회라는 6개 원칙으로 구성됩니다.

이 인증은 AI 에이전트가 SOC 2와 ISO 27001이 예상한 기존의 범위를 넘어섰기 때문에 마련되었습니다. 에이전트는 고객 데이터에 접근하고, 워크플로를 실행하며, 내부 비즈니스 정책을 참조하고, 사례를 상담원에게 이관하며, 정해진 프레임워크 내에서 자율적으로 행동할 수 있습니다. 이에 따라 권한 없는 도구 호출, 환각, 데이터 유출 또는 프롬프트 인젝션의 위험이 훨씬 커집니다.

AIUC-1은 민감한 데이터를 다루는 적대적 조건에서 AI 에이전트가 어떻게 작동하는지에 관한 독립적인 근거를 기업에 제공합니다. 에이전트가 정의된 보안 및 안정성 위험에 대해 테스트되었음을 보여 줍니다.

AIUC-1의 6가지 원칙 이해하기

AIUC-1 프레임워크는 6개의 위험 원칙으로 구성된 51개 요구 사항과 130개 통제로 이루어져 있습니다. 이 중 65개는 필수이며, 65개는 에이전트가 수행하는 작업의 범위에 따라 선택적으로 적용됩니다.

AIUC-1의 6가지 원칙은 AI 에이전트 배포의 전체 수명 주기를 포괄하며, 다음과 같습니다.

• 데이터 및 개인정보 보호: AIUC-1의 첫 번째 원칙은 데이터 유출, 동의 없는 사용자 데이터 학습 및 IP 유출을 방지하는 데 목적이 있습니다. 전체 요구 사항은 입력 및 출력 데이터 정책 수립, AI 에이전트의 데이터 접근 제한, IP 및 영업 비밀 보호, 고객 간 데이터 노출 방지, PII 유출, IP 침해, 자격 증명 또는 비밀 정보 노출 방지를 포함합니다. AIUC-1 데이터 및 개인정보 보호 요구 사항의 각 항목에 대한 준수 입증 방법은 공식 페이지에서 확인하세요.
• 보안: 적대적 공격 방지를 목표로 하며, 프롬프트 인젝션, 탈옥, 권한 없는 도구 호출 등을 다룹니다. 요구 사항에는 타사 적대적 견고성 테스트, 권한 없는 에이전트 작업 방지, 사용자 접근 제어, 배포 환경 보호, AI 엔드포인트 스크래핑 및 프로빙 방지 장치가 포함됩니다.
• 안전: 보호 장치와 모니터링을 통해 유해한 AI 출력 및 브랜드 위험을 줄입니다. 주요 요구 사항에는 문서화된 위험 분류 체계, 배포 전 테스트, 유해한 출력(편향, 기만, 고위험 조언, 불쾌감을 주는 콘텐츠 등)에 대한 통제가 포함됩니다. AIUC-1의 안전 원칙은 범위를 벗어난 출력과 고위험 출력을 검토를 위해 사람에게 이관하는 절차도 다룹니다.
• 안정성: 환각 방지 및 연결된 비즈니스 시스템에 대한 신뢰할 수 없는 도구 호출 방지를 목표로 합니다. 이 원칙은 환각성 출력 방지 장치, 안전하지 않은 도구 호출 제한, 그리고 두 보호 조치에 대한 타사 테스트를 포괄하는 4개의 하위 항목으로 구성됩니다.
• 책임성: 책임을 명확히 하고 감독을 강화합니다. 이 원칙의 요구 사항에는 서로 다른 3가지 AI 장애 대응 계획, 상위 공급업체에 대한 벤더 실사, 활동 로깅, 데이터 처리, 그리고 사용자가 AI와 대화하고 있음을 알리는 고지 메커니즘이 포함됩니다.
• 사회: AI가 사이버 공격을 통해 사회적 피해를 초래할 위험이나 기타 보안 위험을 줄입니다. 이 범주는 AI의 사이버 악용과 재앙적 악용이라는 두 가지 요소로 구성되며, 두 요소 모두 가드레일을 구현하여 시스템이 악의적으로 사용될 위험을 줄입니다.

모델이 준수해야 하는 구체적인 요구 사항은 해당 모델의 기능에 따라 달라집니다. 예를 들어 음성 생성, 자동화, 코드 생성 또는 텍스트 생성 모델별로 정해진 요구 사항이 있으므로 음성 에이전트는 테스트됩니다 일반적인 체크리스트가 아닌 음성 특화 위험에 대해.

시스템은 AIUC-1 인증을 획득하기 위해 수천 건의 적대적 시뮬레이션을 거칩니다. 각 시뮬레이션은 실제 AI 사고를 기반으로 하며, 표준은 AI 연구에서 새롭게 등장하는 최신 위협에 맞춰 모델을 테스트하도록 지속적으로 업데이트됩니다.

엔터프라이즈 AI 위험 관리에서 AIUC-1의 역할

AIUC-1은 기존 인증을 보완할 수 있습니다. ISO 42001, NIST AI RMF, EU AI 법, MITRE ATLAS, 그리고 LLM 애플리케이션을 위한 OWASP Top 10 같은 프레임워크가 다루도록 설계되지 않은 프롬프트 인젝션, 권한 없는 도구 호출, 에이전트 기반 데이터 유출과 같은 에이전트 특화 위험을 테스트합니다.

위험 관리팀을 위해 이 표준은 정의된 위험 범주별 정량화된 통과/실패율도 제공합니다. AI 배포와 관련된 주요 위험을 수치화하고 측정합니다. 이를 통해 기업은 AI 배포 위험을 평가할 수 있는 문서화된 근거를 확보할 수 있습니다.

런던에서 열린 ElevenLabs Summit에서 ElevenLabs의 Marco Mancini는 AI 에이전트 보안에 대한 비전을 발표했습니다. 여기에는 AI 시스템을 대규모로 배포하기 위해 필요한 요소, 관련 위험, 독립적인 표준이 AI 에이전트에 대한 신뢰를 어떻게 뒷받침할 수 있는지가 포함됩니다.

이 세션에서는 음성 AI 기업 중 최초로 AIUC-1 인증을 추진하기로 한 배경과, 테스트·보험·표준이 엔터프라이즈 배포의 위험을 줄이기 위해 어떻게 함께 작동하는지를 설명합니다.

AIUC-1과 다른 규정 준수 프레임워크 비교

AIUC-1은 기업이 공급업체를 평가할 때 사용하는 다른 여러 프레임워크와 함께 활용됩니다. 모든 프레임워크가 AI에 특화된 것은 아니며, 각각 서로 다른 질문을 다룹니다.

각 프레임워크가 검증하는 사항과 기업의 활용 방식은 다음과 같습니다.

쉽게 말해 SOC 2는 공급업체의 인프라가 과거 검토 기간 동안 안전했음을 엔터프라이즈 구매자에게 알려 주는 반면, AIUC-1은 AI 에이전트가 실제 공격 벡터에 대해 테스트되었음을 보여 줍니다. 두 표준은 함께 인프라 전반의 보안을 제공하지만, AIUC-1은 SOC 2나 ISO 27001을 위해 이미 수행한 작업을 의도적으로 중복하지 않습니다.

AIUC-1을 차별화하는 또 다른 요소는 인증 기관 제도입니다. AIUC는 AIUC-1 감사인을 인증한 뒤, 자체 기술 테스트와 감사를 연계합니다.

AIUC-1 인증 절차

AIUC-1 인증은 일반적으로 조직의 기존 가드레일과 AI 보호 장치가 얼마나 성숙했는지에 따라 4~8주가 걸립니다. 

인증 절차는 4개의 뚜렷한 단계로 진행됩니다.

1. 갭 평가: 첫 번째 단계에서는 AI 플랫폼을 감사하여 에이전트의 기능 범위, 사용 중인 기존 정책, 보유한 기술 문서 및 적용 중인 보호 장치를 파악합니다. 이 범위 설정 및 킥오프 단계에서 테스트할 초기 격차를 모두 식별하고 인증 계약을 체결합니다.
2. 개선 조치: 다음으로 조직은 보유한 가드레일, 법적 정책 또는 기술 구현의 모든 격차를 해소합니다. 이를 통해 식별된 초기 격차를 해결하고 기술 테스트 단계로 진행할 수 있습니다.
3. 기술 평가: AIUC는 운영 시스템을 대상으로 적대적 테스트를 수행하여 환각, 프롬프트 인젝션 가능성, 데이터 유출, 안전하지 않은 도구 호출, 유해한 출력 또는 안전하지 않은 관행을 조사합니다. 
4. 인증 감사: 3단계에서의 에이전트 성과를 바탕으로 감사인이 모든 증거를 독립적으로 평가한 뒤 AIUC-1 인증 발급 여부를 결정합니다.

감사 절차가 끝나면 조직은 다음을 받게 됩니다.

• 결과의 전체 분석이 담긴 종합 감사 보고서
• AIUC-1 인증서(통과 시)
• 영업 또는 마케팅 자료에 표시할 수 있는 AIUC-1 배지(통과 시)

AIUC-1 인증의 유효 기간은 얼마인가요?

AIUC-1 인증은 12개월간 유효하지만, 기업 보안 조치의 일회성 스냅샷은 아닙니다. AI 에이전트에 대한 기술 테스트는 분기마다 실시되며, 모든 기술 및 법적 통제는 매년 재감사를 받습니다. 새로운 연구 결과나 AI 기반의 새로운 위협 벡터에 따라 AIUC는 매 분기 표준을 업데이트하고 새로운 위협 환경에 대해 에이전트를 인증할 수 있습니다.

AIUC-1 인증에 주목하는 산업은 무엇인가요?

AIUC-1은 자발적 표준이지만, 기업이 AI 에이전트 제공업체의 안정성, 보안 및 안전을 평가하는 데 활용하고 있습니다. 

다음과 같은 산업에서 AIUC-1 인증에 주목하고 있습니다.

• 의료: PII 또는 기타 민감한 데이터를 처리하는 에이전트는 유출과 환각을 방지하는 명시적이고 독립적으로 테스트된 보호 장치의 이점을 얻습니다.
• 엔터프라이즈 SaaS: AI 에이전트 기능을 추가하는 엔터프라이즈 공급업체는 구매자 보안 설문지와 공급업체 요구 사항에서 AIUC-1 인증을 접하게 될 수 있습니다.
• 보험: 고객의 보험 증권 및 보험금 청구 관련 대화를 처리하도록 에이전트를 배포하는 보험사는 AI 시스템이 정확한 정보를 제공해 보험 인수 위험을 줄인다는 확신을 원합니다.
• 금융 서비스: 음성 및 채팅 에이전트를 배포하는 은행과 핀테크 기업은 데이터 처리 및 감사 가능성과 관련해 엄격한 의무를 지닙니다. 금융 서비스를 위한 ElevenLabs의 AI 에이전트 플레이북에서는 인증된 플랫폼이 이러한 배포를 어떻게 지원할 수 있는지 다룹니다.

Fortune 500 기업의 약 70%에서 직원들이 ElevenLabs를 사용하는 데에는 이유가 있습니다. ElevenLabs의 AIUC-1 인증은 적대적 조건에서 ElevenLabs 에이전트가 어떻게 작동하는지에 관한 독립적인 근거를 엔터프라이즈 구매자에게 제공합니다.

ElevenAgents 시작하기

ElevenAgents는 AIUC-1 인증을 획득한 최초의 음성 AI 플랫폼이며, ElevenLabs는 표준의 기술 기여자로서 음성 특화 보안 요구 사항을 만드는 데 기여하고 있습니다. 이 플랫폼은 SOC 2 Type II도 보유하고 있으며, 4단계 PCI DSS 규정 준수 등급 중 가장 높은 PCI DSS Level 1 서비스 제공업체 인증을 받았습니다.

인증 경로는 고객에게도 적용됩니다. AIUC-1 요구 사항이 플랫폼에 통합되어 있으므로 ElevenAgents를 기반으로 구축하는 기업은 시작부터 최대 75%의 인증 요구 사항을 충족하며, 일반적으로 4주 만에 전체 인증을 획득합니다. Immobiliare.it는 이탈리아 최대 부동산 플랫폼으로, 24시간 연중무휴 부동산 문의용 음성 에이전트를 4주 만에 인증했으며, 테스트 구성에는 2시간 미만의 엔지니어링 시간만 필요했습니다.

ElevenLabs 가입하기에서 첫 에이전트를 구축하거나, 영업팀에 문의하여 규정을 준수하는 엔터프라이즈 배포에 대해 상담하세요. 

AIUC-1 및 AI 규정 준수에 관해 자주 묻는 질문