ウェビナーまとめ：医療分野におけるAI導入から得た学び

医療システムには、人員を増やさずに患者のためにより多くを担うことが求められています。患者を悩ませることの多くは、診療そのものではなく、その周辺で起きています。適切な医師を見つけるのも簡単ではありません。引き継ぎのたびに同じ説明を繰り返すことも負担です。 

最新のBehind the Agentセッションでは、Cindy Liu（ElevenLabs、エンタープライズ導入担当）が、Jacque Myers（Slalom、グローバルヘルスケア責任者）、Sylvia Doane Stephenson（Slalom、マネージングディレクター）、そしてCristal Woodley（Renown Health、最高マーケティング・エクスペリエンス責任者）とともに、医療業界でAIエージェントが実際にどこへ導入されているのか、そして本番稼働に必要なことを探りました。

導入が積み上がっていくケースと停滞するケースを分けるのは、どこから始めるかです。専門的なパイロットを散発的に行うのではなく、大量に発生し、測定可能で、リスクの低い一つのジャーニーから始めます。

患者ジャーニーが分断されたままである理由

患者は繰り返しのサイクルに陥っています。診療の移行ごとに本人確認をし、電話の理由を説明します。待たされ、別の窓口へ回されます。ほかで探し出した回答も一貫していません。ようやく適切な担当者につながっても、また最初から手続きを始めることになります。

ウェブサイト、患者ポータル、コンタクトセンター、EHR、請求といった接点はすべて存在しますが、互いに連携していません。つながったジャーニーは患者がいる場所から始まり、リスクが低く影響の大きい領域から対応します。

多くの組織は、低リスクな専門ユースケースという周辺領域からAIを始めますが、それでは成果が積み上がりません。Jacqueが提案するのは「ヒーロージャーニー」です。業務の大きな部分を代表し、依然として低リスクで、ユースケースごとに作り直すのではなく、基盤として拡張していける中核ジャーニーを指します。

デモ：予約を最初から最後まで完了する

予約スケジューリングは、ヒーロージャーニーの有力な候補です。件数が多く、測定可能で、拡張の基盤にできるほどリスクも低いからです。患者の受付から予約確認まで、このジャーニーの入口がどのようなものかを一連で紹介します。

シナリオ： 患者がコンタクトレンズの新しい処方箋を必要としています。保険会社のウェブサイトで保険ネットワーク内の検眼医を見つけ、クリニックに電話をかけると、バーチャル予約アシスタントが応答します。

デモで紹介された内容：

• エージェントは会話形式で初診患者の受付を行い、氏名、生年月日、電話番号を収集しました
• 実際のSMSコードで電話番号を確認し、最初にコードを聞き間違えた場合も対応しました
• 発信者が保険の会員IDを思い出せなかった場合、カードを予約時に持参するよう案内して次に進みました
• 3つの空き枠を提示して1つを予約し、会話履歴をもとに作成した確認メールとテキストのリマインダーを送信しました
• 同じエージェントがSMSでも稼働し、別途構築することなく、同一のワークフローをテキスト会話として実行しました

重要な理由： 1つのエージェントが電話回線とテキストスレッドの両方を支えているため、最初からオムニチャネルの体験を提供できます。このデモの構築には約2時間しかかからず、チームは数日以内にプロトタイプを作り、社内提案できます。エンタープライズでの本番運用は別の規模です。稼働開始前に必要となるインテグレーション、テスト、コンプライアンス対応に大半の工数がかかります。ElevenLabsでは、この作業をフォワードデプロイドエンジニアが担います。

どこから始めるか、実際に何が障壁となるか

医療システムが着手する際の順序：

• アンビエントリスニング： まだEHRに統合されていない場合に取り組みます。通常は文書化ベンダーを通じて進めますが、その後のすべての取り組みの基盤となる臨床スタッフの信頼を得られます。
• コンタクトセンター： 多くのシステムではコスト項目として扱われていますが、成長のための拠点として運用できます。
• 患者教育と服薬アドヒアランス： ROIをすぐに測定できる反復可能な業務であり、スケールできます。

コンタクトセンター自動化の障壁となるのは、医師のスケジューリングです。希望カードやスケジュールテンプレートは見えている部分にすぎません。時間がかかるのは、高度な訓練とスキルを持ち、自律性も高い人々の間で変化を調整することです。効果的なのは、医師の推進役、変化を後押しできる足並みのそろったリーダーシップ、そして導入後まで続く支援です。場合によっては、臨床スタッフ一人ひとりに専任コーチを付ける必要もあります。

Renown Healthのエージェント導入に向けた取り組み

Renownは、ソルトレイクシティからサクラメントまで、10万平方マイルにわたる地域の患者を支えています。

Cristalのチームは、対象を絞ったパイロットから始めています。検討中のユースケースでは患者情報を一切扱わず、社内での成功が、その次の段階に向けてコンプライアンス部門の理解を得る材料になります。 

そこに至る鍵はデータでした。Cristalのチームは、オープンスケジューリングを標準化しながら、提供者とともにスケジュールテンプレートを検討しました。アンビエントリスニングで得た早期の成果が道を開きました。生活の質の変化を実感した提供者から、次に何ができるかを尋ねられるようになったのです。

彼女はスピードの重要性も率直に語りました。患者はすでにこれを使っており、すでに期待しているため、マーケティングチームやコンタクトセンターチームに待つ時間はありません。

セーフティ、HIPAA、新入社員のようにエージェントをオンボーディングする方法

感情的に緊張した電話への対応は、ほとんどのチームが最初に尋ねる点です。Renownはすでにコールセンターで音声の感情分析を測定し、より経験豊富な人間のエージェントへ発信者を振り分けるとともに、その文脈を転送時にも引き継いでいます。同じ規律がAIエージェントにも当てはまります。

エージェントは人と同じようにオンボーディングします。SOPとナレッジセンターを与え、中断やエスカレーション時の振る舞いを学習させ、稼働開始前と継続的なPDSA（計画、実行、評価、改善）サイクルで敵対的な事例に対する評価を行います。

ガードレールは3つのレイヤーで機能します：

• 制御 ：システムプロンプトによる制御
• 入力検証 ：エージェントが応答する前に敵対的な試みを検出
• リアルタイム評価 ：設定したポリシーに照らしてすべての応答を評価

コンプライアンス面では、EHRを規律するHIPAAと同じ基準をAIシステムにも適用します。AIベンダーとのBAA、相互運用性、適切な記録システム、情報が移動する場所すべてでの匿名化、明示的な同意なしに患者データで学習しないことです。ElevenLabsは医療顧客とのBAAを必須とし、データ保持ゼロモードを提供しています。このため、データは処理のために通過した後、保存用に自社の制限された環境へ返されます。

すでに実現できることと、測定すべきこと

AIは現在、医療顧客の本番環境で稼働しています。リアルタイムかつ低レイテンシーで会話し、聞くべき質問を飛ばさずにスクリプトに従います。

ただし、スタック内のすべてのモデルは、本質的に確率的です。スピーチtoテキスト、LLM、テキスト読み上げのいずれも例外ではありません。だからこそ、その周囲にある決定論的なレイヤーが重要であり、すべての導入では、人間へ引き継ぐか、より高性能なモデルへ切り替えるかを含め、リスクのしきい値とエスカレーションプロトコルを事前に決めておく必要があります。

そのしきい値を設定したら、次は何を追跡するかです。Renown Healthはチャネルごとの予約数を追跡し、それぞれがエージェント、電話、テキストのどれを経由したかを記録しています。患者は、ほかのあらゆるサービスと同じように、自分に合った方法で医療にアクセスできるべきだからです。

あるいは、患者、介護者、医師にまたがるネットプロモータースコア（NPS）を追跡します。多くの人はすでに担当医を高く評価しています。負担を生むのは診療の周辺にあるすべてのことであり、満足度の上昇はその負担が減っていることを意味します。プラットフォーム側では、導入状況を見るために展開済みエージェント数と対応分数を、成果を確認するためにCSATと自己解決率を追跡しています。

医療分野でAIエージェントを導入するためのベストプラクティス

1. エッジケースではなくヒーロージャーニーを選ぶ： 大量に発生し、測定可能で、低リスクな一つのジャーニーをエンタープライズ全体に拡張するほうが、積み上がらない専門導入を散発的に行うより効果的です。
2. プロセスを自動化する前にデータを整える： まずスケジュールテンプレートとオープンスケジューリングの基準を整理する必要があります。エージェントは、その下にある混乱をそのまま引き継ぎます。
3. 医師の推進役を募り、リーダーシップで支える： 時間がかかるのは技術作業ではありません。自律的な臨床スタッフからの理解を得ることであり、導入まで一貫した実質的な支援が必要です。
4. 新入社員のようにエージェントをオンボーディングする： SOP、ナレッジセンター、中断やエスカレーション時に学習させた振る舞い、そして稼働開始前と継続的なPDSAサイクルにおける敵対的な事例への評価を用意します。
5. 事実に関する内容は決定論的にする： 日付、空き状況、記録の詳細はツールで取得します。参照して確認できることをモデルに推測させないでください。
6. エスカレーションのしきい値を事前に定義する： スタック内のすべてのモデルは確率的です。人間またはより高性能なモデルへの引き継ぎを促す条件を、あらかじめ決めておいてください。
7. チャネルと満足度で測定する： チャネルごとの予約数で、患者が実際に利用しているかを確認できます。患者、介護者、医師にまたがるNPSで、負担が減っているかを確認できます。

セッション全編を見る

ウェビナー全編をご覧ください。Behind the Agent：医療分野におけるAI導入セッション。