AIエージェントに会話を任せるのは簡単ですが、セキュリティチームや法務チーム、お客様から信頼を得ることが、エンタープライズ導入で最もつまずきやすいポイントです。
適切なガードレールがないエージェントは、会話中に意図しない方向へ進んだり、予期しない行動を取ったり、悪意のあるユーザーに操作されたり、機密情報を漏らしてしまう可能性があります。
このセッションでは、エージェントのセーフティを多層的に考える方法、段階的にテスト・導入して問題を拡大前に発見する手順、そしてセキュリティや法務の承認を得るために必要なポイントを解説します。
主な内容：
- エージェントが本番環境で失敗する理由とそのパターン
- エージェントをコンプライアンス遵守・ブランド維持・操作耐性に保つセーフティコントロール
- 本番稼働前にシミュレーション会話でエージェントをストレステストする方法
- 問題をリアルタイムで解決できる段階的な導入アプローチ
- セキュリティや法務の承認を得るためのフレームワークや認証
