AIエージェントとビジネスの関わり方を定義する

企業や行政機関にかかってくる電話のうち、人間からのものではない割合が増えています。個人の用事を代行するパーソナルAIエージェント、注文確認や請求処理の確認を行うビジネスエージェント、そして時には顧客を装うクローン音声です。

本日、ElevenAgentsに合成音声検出機能をリリースします。これにより企業は、電話の相手を識別し、それに応じて対応できます。また、AIエージェントと企業がどのように身元を明かし、相互にやり取りすべきかを定義するため、デザインパートナーとしてPersonal Agent Protocolのワーキンググループにも参加します。

通話中のAIエージェントを検出

合成音声検出は、通話開始から数秒間の発話を分析し、人間かAI生成かを判定します。その後の対応は、設定したルールによって決まります。

設定できるルールの例：

• 認証済みの人間の顧客を優先します。 人間の顧客には、最も高性能なAIエージェントまたは担当者が対応します。これは、待機列の先頭への移動、料金の交渉、継続利用のためのオファーの適用、状況に応じた判断などを意味します。
• AIによる発信者には、直接的で範囲を限定した対応を提供します。 機械による発信者は、専用の指示と制限を持つエージェントへ案内されます。まず認証を行い、その後、対象範囲内で迅速に応答します。交渉、アカウント変更、例外対応をどこまで許可するかは、自由に決められます。通話で人間の対応が必要な場合も、AIによる発信者を待機中の人より後の順番にできます。
• 通話開始時に、なりすましを阻止します。 銀行口座の変更、パスワードのリセット、別のアカウントへのアクセスといった機密性の高い操作を要求する合成音声は、情報を取得したり、不適切な操作を実行したりする前に阻止できます。

合成音声検出はElevenAgents内でライブオーディオストリームに対して実行され、人間の聞き手には気づけなくてもソフトウェアなら検知できる痕跡を確認します。ElevenLabsで生成されたすべてのオーディオにはウォーターマークが付与されますが、他のソースのオーディオには付与されていないことが多いため、検出はウォーターマークの有無に依存しません。

Personal Agent Protocolへの参加

企業とやり取りするエージェントのための新たな標準の設計に取り組んでおり、MetaとSierraが主導するワーキンググループの一員として、Personal Agent Protocolに貢献できることを嬉しく思います。このプロトコルは、パーソナルエージェントが企業に対してどのように身元を明かすか、誰を代表しているか、その人物に代わって何を行えるかを定義するために開発されています。

企業はElevenLabsを活用し、電話、ウェブサイト、アプリ内体験、メール、WhatsApp、SMSなど、多様なテキスト・音声チャネルにエージェントを展開しています。すべてのチャネルをカバーし、顧客があらゆるインターフェースでパーソナルエージェントとのやり取りを定義できるようにすることが目標です。

今後の予定

現在、合成音声検出はForward Deployed Engineeringチームの支援を受けるエンタープライズのお客様にご利用いただけます。今月後半には、ElevenAgents内で設定可能なオプションとして、より幅広いエンタープライズのお客様に提供開始する予定です。

Personal Agent Protocolのような標準が具体化するにつれて、自己申告するエージェントへの対応を追加し、この分野の成熟に合わせてシグナルを追加し続けます。

詳細については、アカウントチームにお問い合わせいただくか、こちらからお問い合わせください。