Guardrails 2.0：ElevenAgentsの新しいコントロールレイヤー

音声エージェントがサポート、営業、マーケティング、社内ワークフローなどで重要な業務を担うなか、チームには、エンタープライズ規模でも安全性、ブランドらしさ、コンプライアンスを維持できるという確信が必要です。

ElevenAgentsのGuardrails 2.0は、エージェントを適切な応答へ導き、不適切な応答がエンドユーザーに届く前に防ぐために再設計された制御レイヤーです。

リアルタイムの多層保護

適切に設計されたシステムプロンプトにより、ほとんどのやり取りで予測可能な動作を実現できます。しかし、エージェントは非決定論的なシステムであるため、長い会話では本来の目的から逸脱することがあります。ユーザーが独創的な方法で制約を突破しようとすることもあり、明確に定義されたポリシーであっても、モデルに負荷がかかると常に守られるとは限りません。

そのため、本番環境にエージェントを導入するチームには、基盤となる堅牢なシステムプロンプトに加え、ユーザーの発言とエージェントの応答を独立して確認する、多層的な防御が必要です。

Guardrails 2.0は、相互に補強し合う3つのレベルで会話を保護します。

組み込みの保護機能

組み込みのセーフガードは、よくあるリスク領域をカバーします。

Focus Guardrailは、エージェントのシステムプロンプトを強化し、定義した目標や指示に沿って、的確で関連性の高い一貫した応答を維持します。特に、エージェントが本来の目的から逸脱しやすい、長時間または複雑な会話で役立ちます。

Manipulation Guardrailsは、ユーザーによるシステム指示の回避を試みる行為を検出してブロックします。有効にすると、システムはプロンプトインジェクションや指示の上書きの試みを示すパターンについてユーザー入力を分析し、セキュリティリスクとなる会話を終了できます。

Content Guardrailsは、機密性や安全性に懸念のあるコンテンツを複数のカテゴリーでスクリーニングし、各カテゴリーのしきい値を調整することで、適切なエージェント応答を実現します。

Custom Guardrails：ルールを自動で適用

Custom Guardrailsでは、ドメイン固有のポリシーを自然言語で定義し、すべての通話に自動適用できます。これにより、インシデントやエスカレーション、導入を遅らせる可能性があるコンプライアンス審査のサイクルを削減できます。

軽量モデルがすべてのエージェント応答をルールに照らして評価し、応答生成とは独立して並行実行されながら、ブロックまたは許可を判定します。

ガードレールの動作を完全に制御

ポリシー違反の検出方法と、その後の対応を制御できます。

実行モード。速度と厳格さのバランスを設定できます。レイテンシーが最も重要となる音声では特に重要です。ガードレールを応答と並行して実行すれば、ほぼ遅延なく動作しますが、遮断前にわずかな時間の音声が再生される場合があります。または、完全にクリアされるまで応答を保留できます。少し遅くなりますが、未確認の内容がユーザーに届くことはありません。

終了戦略。ガードレールが作動した際に次の対応を定義できます。会話の終了、別のエージェントへの転送、人間の担当者へのエスカレーション、または修正指示を付けた応答の再試行です。

コンテンツ感度レベル。コンテンツカテゴリーごとに感度を調整できます。高リスクのユースケースでは適用を厳しくし、過剰なブロックがユーザー体験を損なう場合は緩和できます。

きめ細かな設定。各ガードレールは個別に有効化または無効化でき、異なるエージェントで異なる設定を使用できます。

完全な可視性。どのガードレールが作動し、どのような対応が取られたかを含め、すべてのトリガーが会話分析に記録されます。これにより、システムプロンプトとガードレールを継続的に改善するために必要なデータを得られます。

会話履歴の編集（秘匿化）

通話終了後、文字起こし、録音、Webhookペイロードから機密情報を自動的に編集（秘匿化）できます。分析、QA、トレーニングに必要な情報は保持しつつ、不要な情報を削除できます。

検出されたエンティティは、テキストではプレースホルダー、音声ではビープ音に置き換えられます。粒度はエンティティタイプごとに制御できます。すべての氏名ではなく姓だけを編集したり、すべての金融識別子ではなく決済カード番号だけを編集したりできます。

これは、より広範なデータ管理機能であるZero Retention Modeと併用できます。より厳格なコンプライアンス要件を持つ導入に利用できます。

会話履歴の編集（秘匿化）とZero Retention Modeは、エンタープライズのお客様にご利用いただけます。営業に問い合わせるからアクセスをご依頼ください。

より広範なトラスト＆セーフティ基盤の一部

Guardrails 2.0とデータプライバシー機能は、エージェントのライフサイクルのすべての段階を支えるセーフティツールとともに、ElevenAgentsのエンタープライズ導入を支援します。

エージェント開発

• エージェントを本番稼働させる前に動作へ負荷をかけて検証するための、システムプロンプト設計、ガードレール設定、レッドチーミング、シミュレーション

すべての会話

• 会話中：Guardrails 2.0（Focus、Manipulation、Content、Custom Guardrails）、ログ記録、任意のZero Retention Mode
• 会話後：評価基準、モニタリング、任意の会話履歴の編集（秘匿化）

これらを組み合わせることで、インシデントを減らし、承認サイクルを短縮し、より一貫したエージェント動作を実現しながら、パイロット導入から本番環境へ移行するために必要な制御機能を提供します。また、こうしたプラットフォーム基盤により、AIUC-1認証の取得資格と、業界初となるエージェント向け保険を利用できるようになります。

今すぐGuardrailsを使い始める

ここ数か月にわたり機能を順次提供してきましたが、Guardrails 2.0の完全なスイートがElevenAgentsでアルファ版として利用可能になりました。

エージェント設定のセキュリティタブで有効にするか、エージェント設定からAPI経由で設定してください。エンタープライズ導入の詳細については、営業チームまでお問い合わせください。

セットアップのガイダンスとベストプラクティスについては、以下をご覧ください。

• Guardrailsドキュメント
• 会話履歴の編集（秘匿化）ドキュメント