웨비나 요약: 엔터프라이즈 배포를 위한 안전한 AI 에이전트 구축

웨비나 요약: 엔터프라이즈 배포를 위한 안전한 AI 에이전트 구축

AI 에이전트가 대화를 처리하는 건 쉽습니다. 하지만 보안팀, 법무팀, 고객이 신뢰하도록 만드는 것이 대부분의 엔터프라이즈 배포에서 가장 큰 난관입니다.

최근 웨비나에서 금융 서비스용 AI 에이전트 플레이북을 통해 금융 서비스 분야에서 AI 에이전트가 어떻게 구축되고, 배포되며, 신뢰받고 있는지 실제 데모와 함께 Revolut, Revolut, Klarna, 그리고 더 나은.

금융 서비스에서 중요한 이유

안전을 위한 계층적 접근 방식 구축 방법

ElevenAgents 플랫폼에서는 400만 개 이상의 에이전트가 배포되었습니다. 엔터프라이즈 환경에서 안정적으로 작동하는 에이전트의 공통점은 바로, 처음부터 안전이 내장되어 있다는 점입니다. 사고가 발생한 후에 추가된 것이 아닙니다.

에이전트마다 근본적으로 다른 경계가 필요합니다.

이 격차는 단순한 자동화의 문제가 아니라, 규모를 키우면서도 일관되고 정책을 준수하는 경험을 제공하면서 인간적인 터치를 잃지 않는 데 있습니다.

에이전트는 비결정적이기 때문에, 단일 보호장치만으로 모든 위험을 막을 수 없습니다. 그래서 엔터프라이즈 팀에는 여러 제어가 함께 작동하는 계층적 접근이 필요합니다. 이렇게 해야 안전 실패가 극히 드물게 발생합니다.

데모: 리테일 뱅킹 에이전트

입력리테일 뱅킹 고객이 계좌 잔액 확인, 최근 거래 내역 조회, 의심스러운 출금 신고, 개인 대출 문의를 위해 전화합니다.

의사결정

• 에이전트가 계좌 접근 전, 보안 질문을 단계적으로 진행해 발신자를 인증함
• 인증이 완료되면, 에이전트가 백엔드 도구를 통해 실시간 계좌 및 예금 잔액을 조회함
• 고객이 인식하지 못한 ATM 출금을 신고하자, 에이전트가 즉시 이를 의심 거래로 분류하고 실시간으로 사기 참조 번호를 생성해 사기 대응팀에 기록함
• 통화 중 대화가 개인 대출 문의로 전환되자, 에이전트가 의도 변화를 감지해 관련 전문 서브 에이전트로 자연스럽게 연결함
• 고객이 상환 금액에 대해 조언을 요청하자, 에이전트는 금융 조언을 제공할 수 없다고 명확히 설명하고 대신 도와줄 수 있는 부분을 안내함

이 세 가지 모두에서, 사전에 종료 전략을 정의해야 합니다. 위반 시 대화를 종료할지, 교정 안내와 함께 재시도할지, 사람에게 넘길지 결정하세요. 이 결정이 문제가 발생했을 때의 사용자 경험을 좌우합니다.이것은 단순한 스크립트 챗봇이나 결정 트리를 따르는 시스템이 아닙니다.

에이전트는 인증, 계좌 조회, 사기 신고, 대출 문의까지 한 번의 통화에서 모두 처리하며, 규정 준수도 철저히 지킵니다.

가드레일(안전장치)은 시스템 프롬프트에 여러 겹으로 적용되어 있으며, 금융 조언 제한과 같은 맞춤 규칙도 포함됩니다. 모든 대화는 자동 요약, 평가 점수, 워크플로우 수준의 분석 데이터로 기록되어 수천 건의 통화도 쉽게 모니터링할 수 있습니다.

규정 준수와 보안

금융 서비스에서 AI 도입이 실패하는 이유는 기술 때문이 아니라, 보안 및 규정 준수 심사를 통과하지 못해서입니다.

ElevenLabs는 SOC 2 Type II와 GDPR 인증을 보유하고 있으며, Level 1 PCI DSS 서비스 제공업체입니다. 이는 업계 최고 수준이며, AI 에이전트 플랫폼 최초로 달성한 성과입니다. 이제 은행과 가맹점은 별도의 자체 호스팅이나 VPC 없이도 플랫폼을 사용할 수 있습니다. 속도와 보안 중 하나를 포기할 필요가 없습니다.

시나리오:AIUC-1 인증의 75%를 바로 충족할 수 있도록 지원합니다.

AIUC-1 인증은 AI 에이전트를 위해 특별히 개발된 최초의 안전, 보안, 신뢰성 표준입니다. 이 인증은 75개 이상의 포춘 500대 기업 CISO와 스탠포드, MIT, MITRE 연구진이 함께 개발했습니다.

이 인증은 조직이 꾸준히 요구하는 세 가지를 포함합니다: 1) 5,000건 이상의 공격 시뮬레이션을 통한 안전성 검증, 2) 보안 심사를 빠르게 통과할 수 있는 신뢰 신호 제공, 3) Lloyd's of London을 통한 환각, 데이터 유출, 무단 행위까지 보장하는 AI 에이전트 보험 제공.

금융 서비스 AI 에이전트 도입을 위한 베스트 프랙티스

1. 복잡한 에이전트는 전문 서브 에이전트로 분리하세요.모든 지침을 하나의 프롬프트에 넣으면 실제 운영에서 신뢰성이 떨어집니다. 각자 프롬프트, 도구, 지식 베이스를 가진 모듈형 서브 에이전트가 테스트, 업데이트, 신뢰 모두 더 쉽습니다.
2. 결정적 제어와 LLM의 유연성을 결합하세요. 인증 등 해석의 여지가 없는 단계는 하드코딩된 라우팅을 사용하세요. 의도 파악이나 열린 질문에는 LLM 기반 조건을 활용하세요. 두 가지 모두 필요합니다.
3. 가드레일을 여러 겹으로 적용하세요.프롬프트 수준의 지침은 시작일 뿐입니다. 집중, 조작, 콘텐츠를 다루는 기본 가드레일이 두 번째 레이어가 됩니다. 금융 조언 차단 등 맞춤 가드레일로 비즈니스 특화 상황까지 세밀하게 제어할 수 있습니다.
4. 배포 전에 평가 기준을 정의하세요. 대화 점수, 의도 분류, 환각 감지, 컨테인먼트 추적 등을 처음부터 내장하세요. 대규모로 배포하는 팀은 보통 에이전트당 20~70개의 평가 기준을 사용합니다.
5. 콜 단위가 아니라 워크플로우 단위로 모니터링하세요.사용자가 서브 에이전트 간 어떻게 이동하는지, 어디서 막히는지, 반복 루프가 발생하는 노드는 어디인지 파악하세요. 워크플로우 분석을 통해 콜 단위 리뷰로는 놓칠 수 있는 문제를 발견할 수 있습니다.
6. 디자인 단계 초기에 인증 방식을 결정하세요. 인증 방식은 보안 질문, 일회용 코드, 앱 알림, 상위 전화 시스템 등 다양합니다. 어떤 방식이 적합한지는 위험 모델에 따라 다릅니다. 구축 전에 결정하세요.

전체 세션 다시보기

데모 2: 출시 전 시뮬레이션 테스트여기에서.