AI 에이전트가 대화를 처리하는 것은 쉬운 일입니다. 하지만 보안팀, 법무팀, 그리고 고객이 신뢰하도록 만드는 것이 대부분의 엔터프라이즈 도입에서 가장 큰 걸림돌이 됩니다.
적절한 안전장치가 없는 에이전트는 대화 중에 엉뚱한 방향으로 흐르거나, 예기치 않은 행동을 하거나, 악의적인 사용자의 조작에 휘둘리거나, 민감한 데이터를 노출할 수 있습니다.
이번 세션에서는 에이전트 안전을 위한 단계별 접근법, 문제를 대규모로 확산되기 전에 발견할 수 있도록 테스트하고 단계적으로 배포하는 방법, 그리고 보안팀과 법무팀의 신뢰를 얻기 위해 필요한 요소들을 다룹니다.
주요 내용:
- 실제 운영 환경에서 에이전트가 실패하는 이유와 그 패턴
- 에이전트가 규정을 준수하고, 브랜드를 지키며, 조작에 강하도록 돕는 안전 제어 장치
- 실제 배포 전, 시뮬레이션 대화로 에이전트를 스트레스 테스트하는 방법
- 실시간으로 문제를 해결할 수 있는 단계별 배포 전략
- 보안팀과 법무팀의 신뢰를 얻는 데 도움이 되는 프레임워크와 인증
