ヒューマン・イン・ザ・ループとは？人がAIワークフローを改善する方法

ヒューマン・イン・ザ・ループ（HITL）とは、明確な運用上の境界に基づき、自動化システムと人間の専門家の間でタスクを分担する、AIモデルで用いられるワークフローです。HITLシステムでは、AIが予測可能でルールベースのタスクを処理し、人間の専門家は複雑な判断、コンプライアンス要件、例外的なケースに責任を持ちます。

企業にとってHITLは、判断が必要な場面では人を関与させながら、定型業務を自動化する実用的な方法です。AIエージェントは、アカウント情報の確認、保険請求情報の収集、オンボーディングフォームの送信、予約の設定などを行い、不確実または慎重な対応が必要なケースは、人が確認、承認、修正、引き継ぎできるようフラグを立てます。 

ライブワークフローだけでなく、HITLは機械学習の開発にも適用されます。人はトレーニングデータにラベルを付け、モデル出力を評価し、エラーを修正し、モデルの性能向上に役立つフィードバックを提供できます。この文脈では、人はライブのビジネスワークフローではなく、モデルの学習または改善プロセスの一部となります。 

この記事では、AIシステムとワークフローのどこに人の関与が必要か、その重要性、そして効果的なHITLの実践例を紹介します。 

概要

• ヒューマン・イン・ザ・ループAIでは、事前に定義した責任範囲に基づいて、AIと人がワークフローを分担します。
• チームは、レビュー、承認、引き継ぎ、例外処理の経路をワークフローに組み込み、導入後に必要に応じてルールを改善します。
• HITLは、必要な場面で自動化と人間の判断を組み合わせることで、精度、効率、リスク管理を向上させます。

ヒューマン・イン・ザ・ループとは？

ヒューマン・イン・ザ・ループとは、人がプロセスに積極的に関与し、手動で意思決定を行ったり、AIワークフローを監督したりするシステムです。自動化されたタスク処理と、定義した条件を満たしたときにワークフローを一時停止したり人に引き継いだりする組み込みルールを組み合わせて機能します。

人の関与は、ワークフローの計画された一部である場合も、AIが単独で処理すべきでない状況への対応である場合もあります。チームは、ポリシー、リスク、顧客体験、意思決定の種類に基づいて、こうした人のタッチポイントを事前に定義します。 

一般的な人のタッチポイントには、次のようなものがあります。 

• 必須のレビューと承認： 財務、法務、コンプライアンス、運用上の責任を伴う決定を、人がレビューまたは承認します。
• 規制対象のステップ： エージェント型ワークフローは、法律、ポリシー、専門職基準によって人の関与が求められる場合、意思決定や文書を資格のある従業員に振り分けます。
• 慎重な対応が必要な、または高価値なコミュニケーション： 交渉、安心感の提供、関係管理、慎重な判断が重要な会話は、人が対応します。
• 役割の境界と例外： AIに割り当てられた役割の範囲外である、通常と異なる状況を含む、または定義済みの対応がないリクエストは、人に引き継がれます。
• 顧客が求める引き継ぎ： 顧客が担当者との会話を希望した場合、ライブチームのメンバーに転送できます。
  
  

ワークフローの途中で状況が変わった場合、人は動的にループに加わることもできます。情報の矛盾、新たな顧客の懸念、元のルールでは想定されていなかった状況により、タスクが当初は標準的な経路をたどっていても引き継ぎが発生することがあります。

人が介入しても、自動化プロセスを最初からやり直す必要があるとは限りません。チームメンバーが判断を下す、または問題を解決すると、AIは更新内容を記録に保存し、次に必要な連絡を送信して、残りのワークフローを継続します。

機械学習におけるヒューマン・イン・ザ・ループとは？

ヒューマン・イン・ザ・ループ機械学習は、HITLと同じ原則を開発段階で適用するものです。ライブワークフローに介入するのではなく、人はモデル開発プロセスの定義された時点で参加します。 

研究者はトレーニングデータにラベルを付け、モデルの応答を評価し、エラーを修正し、導入前のモデル動作の改善に役立つフィードバックを提供します。精度が専門知識や判断に依存する場合は、ドメイン専門家が出力をレビューすることもあります。 

AIワークフローに人を組み込む主なメリット

企業にとってHITLは、高リスクの意思決定をAIに無制限に任せることなく、コストのかかるミスを減らし、慎重な対応や規制対象ケースを一貫して扱い、定型業務の処理を迅速化することにつながります。

HITLシステムを活用する主なメリットとユースケースを紹介します。

精度と意思決定の質を向上

HITLは、構造化タスクにおけるAIの一貫性と、モデルが単独では確実に扱えない部分での人間の判断を組み合わせることで、精度と意思決定の質を向上させます。AIは構造化タスクを一貫して処理し、意思決定に必要な情報を収集し、定型的な回答や推奨事項を準備できます。

Valiantの営業時間外エージェントSophiaは、構造化された受付を処理した後、必要に応じてケースを人間のブローカーに引き継ぎます。ElevenAgents上に構築されたValiantのエージェントは、150万ドル超の商業ローン意向を特定し、Sophiaは営業時間外の電話の約29％を処理しました。

次のような情報では、人の入力により意思決定の質が向上します。

• 不完全または矛盾している
• 文脈や解釈に左右される
• 次の要素に依存する交渉と関係構築
• 専門的な知識に依存する

より良い成果は、特に財務、規制、顧客への影響がある状況で、コストのかかるエラーや回避可能な手戻りを減らすことができます。

リスクを軽減し、コンプライアンスを支援

HITLは、規制対象または重大な結果を伴う意思決定が先に進む前に適切な担当者に届くようにすることで、組織のコンプライアンスリスク低減に役立ちます。 

AIは、次の方法で手続き上のコンプライアンスを支援します。

• 必要書類の送付。
• 情報の収集。
• 必須項目がすべて入力されているかの確認。
• ポリシーや開示情報の取得。
• 完了したステップの記録。
• ケースの適切な担当者への振り分け。

規制上解釈が必要な場合、例外を解決する必要がある場合、または法的責任を伴う判断を下す必要がある場合は、人が責任を持ちます。

たとえば、英国の保険会社Admiralは、顧客向け音声エージェントに意図的な対応範囲の境界を設けています。Admiralは、脆弱な顧客や延滞に関するケースを人に引き継ぎ、規制対象のAIワークフローを導入前に高い検証基準でテストしています。

人の専門性を維持しながら効率を向上

AIは、反復的な事務作業、情報収集、記録の準備、定型ケースの進行を、人が各ステップに関わることなく処理できます。企業にとっては、所要時間の短縮、事務処理の滞留減少、顧客、収益、リスクに直接影響する業務に従業員が取り組むための余力の拡大につながります。 

Finch LegalはElevenAgentsを活用し、月間1万5,000件超の通話規模へ拡大しながら、通話成功率を59％から93％に改善しました。これらのプロセスを処理するエージェントの導入により、人間のエージェントが電話に費やす時間は従来の導入時のおよそ6分の1になりました。人は専門性が必要なケースでのみ介入するため、高価値な場面に集中できます。

ヒューマン・イン・ザ・ループシステムの課題と考慮事項

適切に設計されたヒューマン・イン・ザ・ループシステムでも、引き継ぎが不十分だったり、引き継ぐ人に対応するための十分な文脈がなかったりすると、機能しなくなる可能性があります。自動化の速度と人の監督のバランスは、ワークフロー設計にかかっています。 

ヒューマン・イン・ザ・ループシステムが意図どおりに機能しない場合、問題は多くの場合、人がいつプロセスに加わり、どの情報を受け取るかを決めるルールにあります。

ヒューマン・イン・ザ・ループシステムにおける主な課題を紹介します。

1. 曖昧な引き継ぎトリガー

「難しいケースを転送する」や「通常と異なるリクエストは人間のエージェントに送る」といった主観的な指示でAIエージェントをプログラムすると、不要な引き継ぎが発生したり、本来は人が関与すべき状況でAIが処理を続けたりする可能性があります。

たとえば、AIカスタマーサービスエージェントに「複雑な請求に関する質問を転送する」と指示する代わりに、「顧客が請求額に異議を唱え、アカウント記録が一致しない場合にケースを引き継ぐ」といったルールを設定できます。詳細なガードレールによりAIエージェントが従うべき具体的な条件が示され、不要な引き継ぎを減らし、人の関与が必要なケースでAIが処理を継続するリスクを下げられます。 

チームは、情報の矛盾や不足、人間のエージェントを求める顧客からのリクエストなど、AIエージェントの役割外にあるリクエストや人の関与が必要な状況についても、同様に具体的な引き継ぎ条件を設定できます。 

2. 引き継ぎ時のコンテキスト喪失

AIエージェントがセッション履歴を引き継がずにライブの顧客対応を人間の担当者へ渡すと、従業員は最初から発信者に聞き取りをやり直さなければなりません。この不十分な転送はすぐに摩擦を生み、顧客を不満にさせ、対応時間を増やします。

顧客は、人間のエージェントが必要になる前に、AIエージェントに請求の問題を数分かけて説明し、アカウントを確認することがあります。しかし、文字起こし、アカウント詳細、すでに実行された対応が通話とともに引き継がれなければ、顧客はプロセス全体を繰り返さなければなりません。 

引き継ぎ時にコンテキストを失わないように、AIエージェントがすでに収集した情報を、引き継ぎとともに人間の担当者へ直接渡すようにしてください。

3. 承認ステップが多すぎる

定型的で低リスクなタスクに人の承認を求めると、AIエージェントが安全に処理できる業務まで遅くなる可能性があります。従業員が標準的な予約変更、基本的な受付フォーム、定型的なステータス照会のすべてを承認しなければならない場合、人によるレビューは高リスクのケース管理を支援するのではなく、業務を増やし始めます。 

チームは、どのアクションに本当に人のレビューが必要かを事前に決め、低リスクのタスクを自動で続行させることで、不要なチェックポイントを避けられます。たとえば、定型的な予約変更や標準的なステータスリクエストは承認なしで進め、請求の異議申し立てやポリシーの例外は引き続き人に振り分けます。 

4. 更新されないルール

導入前には適切だった引き継ぎルールも、AIエージェントが実際の会話を処理し始めると変更が必要になる場合があります。繰り返される引き継ぎから、元のワークフローが慎重すぎる箇所、AIエージェントに情報が不足している箇所、新しい種類のリクエストに固有のルールが必要な箇所が明らかになります。 

たとえば、AIエージェントが、顧客が元のワークフローで想定されていない言い回しをするために定型的な配送に関する質問を繰り返し引き継ぐ場合、チームはAIエージェントの知識や引き継ぎルールを更新し、そうしたリクエストを自動化されたままにできます。 

ヒューマン・イン・ザ・ループのルールを柔軟なものとして扱うことで、チームは人の監督を真の例外ケースに集中させながら、より多くの定型業務を安全に自動化できます。 

ヒューマン・イン・ザ・ループとヒューマン・オン・ザ・ループの比較

HITLとヒューマン・オン・ザ・ループ（HOTL）は、AIに対する人の監督における異なる2つのモデルです。

HITLでは、特定の意思決定やアクションを進める前に人の参加が必要です。コンプライアンス、財務上の責任、臨床的判断、ポリシーの例外により、ワークフローを進める前に人のレビューまたは承認が必要となる、高リスクまたは複雑な業務に適しています。

HOTLでは、AIは人の承認を待たずに動作しますが、人がシステムを監視し、必要に応じて介入できます。一般的な情報に関する質問、注文状況の更新など、結果に人の承認が不要で、観察可能かつ元に戻せる低リスク業務に適しています。 

監督者は全体の活動を確認し、注意が必要な場合にのみ対応できます。HITLとHOTLの主な違いは次のとおりです。

ヒューマン・イン・ザ・ループAIの例

HITLは、人の関与が必要な意思決定、承認、会話に応じて、さまざまな形を取ります。 

銀行業界

Customers Bankは、ElevenAgentsを導入中です。対象は口座照会、カードサービス、送金、オンボーディング、従業員コーチングで、すべてのエージェントに人への引き継ぎ経路が組み込まれています。AIエージェントは定型的な銀行サポートを処理できますが、個別の対応やエージェントの役割外の判断が必要な会話では、人間の銀行員が対応します。

保険

InsurelyはAI音声エージェントを使用しています。保険販売とカスタマーケアで、質問への回答や見積もりの完了支援に活用しています。顧客が人の対応を必要とする場合、AIエージェントが通話を引き継ぐか、折り返し電話を予約します。

医療

行動医療プラットフォームのmdhubは、患者受け入れにElevenAgentsを使用しています。AIエージェントが患者情報を取得し、保険を確認し、患者と医療提供者をマッチングして予約を設定する一方、医療専門家が治療方針を決め、臨床的判断が必要な決定を行います。

フィンテック

世界的なデジタル銀行・決済プロバイダーであるKlarnaは、ElevenAgentsの音声AIエージェントを、米国顧客向け電話サポートの最初の窓口として使用しています。AIエージェントは情報に関するリクエストを処理し、関連するコンテキストを収集した後、問題がより複雑または慎重な対応を要するものになったとき、または顧客が人との会話を希望したときに、人間のエージェントへ会話を引き継ぎます。

クリエイティブ

コンテンツおよびクリエイティブ業務では、ElevenProductionsがHITLアプローチを採用しています。人の編集を取り入れたAI支援制作です。AIが文字起こしやAI生成オーディオブックの制作などを処理し、人間の編集者が作業をレビューし、修正を加え、最終結果を承認します。 

別の形の人とAIの協働として、歌う能力を失った作曲家・歌手のPatrick Darlingは、ElevenLabsの音声技術を用いて再び自作の音楽を演奏しました。 

ElevenAgentsを始める

ElevenAgentsは、AIエージェントが処理できることと、人がワークフローに関わり続けるべき箇所を定義するための複数の方法を企業に提供します。エージェントは会社のナレッジやビジネスツールを使用し、定義されたワークフローに従い、ガードレールの範囲内で動作できます。人への引き継ぎでは、会話とそのコンテキストをライブ担当者に渡せます。また、シミュレーションにより、チームは導入前に動作をテストできます。

明確なワークフローの境界、人への引き継ぎ、テストと監督のためのコントロールを備えたAIエージェントを構築するには、ElevenAgentsをご利用ください。営業にお問い合わせいただければ導入範囲を検討できます。または、登録して、ご自身で試すためのエージェントを作成してください。

ヒューマン・イン・ザ・ループに関するFAQ