ヒューマン・イン・ザ・ループとは？人がAIワークフローを改善する方法

ヒューマン・イン・ザ・ループ（HITL）とは、明確な運用上の境界に基づき、自動化システムと人の専門家の間でタスクを分担する、AIモデルで用いられるワークフローです。HITLシステムでは、AIが予測可能でルールに基づくタスクを処理し、人の専門家は複雑な意思決定、コンプライアンス要件、例外的なケースを担当します。

企業にとってHITLは、判断が必要な場面では人を関与させながら、定型業務を自動化する実用的な方法です。 AIエージェントは、アカウント情報の照会、保険金請求情報の収集、オンボーディングフォームの送付、予約の受付などを行い、不確実または慎重な対応を要するケースは、人が確認、承認、修正、引き継ぎできるようフラグを立てます。 

HITLは、ライブワークフローだけでなく機械学習の開発にも適用されます。人はトレーニングデータにラベルを付けたり、モデルの出力を評価したり、エラーを修正したり、モデルの性能改善に役立つフィードバックを提供したりできます。この場合、人はライブの業務ワークフローではなく、モデルのトレーニングまたは改善プロセスに参加します。 

この記事では、AIシステムやワークフローのどこに人の関与が必要なのか、その重要性、有効なHITLの実践方法を紹介します。 

概要

• ヒューマン・イン・ザ・ループAIは、あらかじめ定義した責任範囲に基づいて、AIと人の間でワークフローを分担します。
• チームは人によるレビュー、承認、引き継ぎ、例外対応の経路をワークフローに組み込み、導入後も必要に応じてルールを改善します。
• HITLは、必要な場面で自動化と人の判断を組み合わせることで、正確性、効率性、リスク管理を向上させます。

ヒューマン・イン・ザ・ループとは？

ヒューマン・イン・ザ・ループとは、人がプロセスに積極的に参加し、手動で意思決定を行ったりAIワークフローを監督したりするシステムです。自動化されたタスク処理と、定義した条件を満たした際にワークフローを停止または人へ引き継ぐ組み込みルールを組み合わせて機能します。

人の関与は、ワークフローにあらかじめ組み込む場合もあれば、AIが単独で処理すべきでない状況への対応として発生する場合もあります。チームはポリシー、リスク、顧客体験、意思決定の種類に基づき、こうした人との接点を事前に定義します。 

主な人との接点は次のとおりです。 

• 必須のレビューと承認： 財務、法務、コンプライアンス、業務上の責任を伴う判断を、人がレビューまたは承認します。
• 規制対象の手順： エージェント型ワークフローは、法律、ポリシー、専門的な基準により人の関与が求められる場合、意思決定や書類を有資格の従業員へ振り分けます。
• センシティブまたは高価値なコミュニケーション： 交渉、安心感の提供、関係構築、慎重な判断が重要な会話は人が対応します。
• 役割の境界と例外： AIに割り当てられた役割の範囲外である、通常と異なる状況を含む、または定義済みの応答がないリクエストは人に引き継がれます。
• 顧客の希望による引き継ぎ： 顧客が誰かと話したいと希望した場合、ライブチームのメンバーに転送できます。
  
  

ワークフローの途中で状況が変化した場合、人が動的にループへ加わることもあります。情報の矛盾、新たな顧客の懸念、元のルールでは想定していなかった状況は、当初は標準的な経路を進んでいたタスクでも引き継ぎのきっかけになります。

人が介入しても、自動化プロセスを最初からやり直す必要はありません。チームメンバーが判断を下すか問題を解決すると、AIは更新内容を記録に保存し、次に必要な連絡を送信して、残りのワークフローを継続します。

機械学習におけるヒューマン・イン・ザ・ループとは？

ヒューマン・イン・ザ・ループ機械学習は、HITLと同じ原則を開発段階で活用します。ライブワークフローに介入するのではなく、モデル開発プロセスの定義された時点で人が参加します。 

研究者は、トレーニングデータにラベルを付け、モデルの応答を評価し、エラーを修正し、導入前のモデルの振る舞いを改善するフィードバックを提供できます。正確性が専門知識や判断に左右される場合は、ドメインの専門家が出力をレビューすることもあります。 

AIワークフローに人を組み込む主なメリット

企業にとってHITLは、高リスクな意思決定をAIに無制限に委ねることなく、コストのかかるミスを減らし、センシティブまたは規制対象のケースをより一貫して処理し、定型業務を迅速化する手段になります。

HITLシステムを活用する主なメリットとユースケースを紹介します。

正確性と意思決定の質を向上

HITLは、構造化されたタスクにおけるAIの一貫性と、モデルだけでは確実に処理できない部分における人の判断を組み合わせることで、正確性と意思決定の質を高めます。AIは構造化タスクを一貫して処理し、意思決定に必要な情報を収集し、定型的な応答や推奨事項を準備できます。

Valiantの時間外対応エージェントであるSophiaは、構造化された受付を処理した後、必要に応じて人のブローカーへケースを引き継ぎます。ElevenAgentsを基盤とするValiantのエージェントは、150万ドルを超える商業ローンの見込みを特定し、Sophiaは時間外の通話の約29％を処理しました。

次のような情報では、人の入力が意思決定の質を高めます。

• 不完全または矛盾している
• 文脈または解釈に依存している
• 次の要素に依存している交渉と関係構築
• 専門的な知識に依存している

より良い結果は、特に財務、規制、顧客への影響がある状況で、コストのかかるエラーや回避可能な手戻りを減らします。

リスクを低減し、コンプライアンスを支援

HITLは、規制対象または重大な結果を伴う意思決定が進行前に適切な担当者へ届くようにすることで、組織のコンプライアンスリスク低減に役立ちます。 

AIは、次の方法で手続き上のコンプライアンスを支援します。

• 必要書類を送付する。
• 情報を収集する。
• 必須項目がすべて入力されているか確認する。
• ポリシーや開示情報を取得する。
• 完了した手順を記録する。
• ケースを適切な担当者へ振り分ける。

規制に解釈が必要な場合、例外を解決する必要がある場合、または法的責任を伴う判断を下す必要がある場合は、人が責任を担います。

たとえば英国の保険会社 Admiralは、顧客向け音声エージェントの対応範囲に意図的な境界を設けています。Admiralは、脆弱性や滞納に関するケースを人に振り分け、規制対象のAIワークフローを導入前に高い検証基準でテストしています。

人の専門性を維持しながら効率を向上

AIは、反復的な管理業務、情報収集、記録の準備、定型ケースの進行を、人がすべての段階に関わることなく処理できます。企業にとっては、所要時間の短縮、管理業務の滞留削減、顧客、収益、リスクに直接影響する仕事に従業員がより多く対応できる余力につながります。 

Finch LegalはElevenAgentsを活用し、月間1万5,000件超の通話規模へ拡大しながら、通話の成功率を59％から93％へ向上させました。これらのプロセスを処理するエージェントを導入したことで、人のエージェントが電話に費やす時間は従来の導入時のおよそ6分の1になりました。人が介入するのは専門性が必要なケースに限られ、高価値な場面に集中できました。

ヒューマン・イン・ザ・ループシステムの課題と考慮事項

適切に設計されたヒューマン・イン・ザ・ループシステムでも、引き継ぎが不十分だったり、引き継ぐ人に対応に必要な文脈が足りなかったりすると機能しなくなる可能性があります。自動化のスピードと人による監督のバランスは、ワークフローの設計次第です。 

ヒューマン・イン・ザ・ループシステムが意図どおりに機能しない場合、問題は多くの場合、人がプロセスに入るタイミングと受け取る情報を決めるルールにあります。

ヒューマン・イン・ザ・ループシステムにおける主な課題を紹介します。

1. 曖昧な引き継ぎトリガー

「難しいケースを転送する」「通常と異なるリクエストは人のエージェントに送る」といった主観的な指示でAIエージェントを設定すると、不必要な引き継ぎが発生したり、人が関与すべき状況をAIが処理し続けたりする可能性があります。

たとえば、AIカスタマーサービスエージェントに「複雑な請求に関する質問を転送する」と伝える代わりに、「顧客が請求に異議を申し立て、アカウント記録が一致しない場合はケースを引き継ぐ」といったルールを設定できます。詳細なガードレールにより、AIエージェントが従うべき具体的な条件が示され、不必要な引き継ぎを減らし、人の関与が必要なケースをAIが処理し続けるリスクを下げられます。 

チームは、情報の矛盾や不足、人のエージェントを希望する顧客からの要望など、AIエージェントの役割外となるリクエストや、人の関与が必要なその他の状況についても、同様に具体的な引き継ぎ条件を設定できます。 

2. 引き継ぎ時の文脈の喪失

AIエージェントがセッション履歴を引き継がずにライブの顧客対応を人の担当者へ渡すと、従業員は発信者に最初から聞き取りをし直さなければなりません。この不十分な引き継ぎは直ちに摩擦を生み、顧客を不満にさせ、対応時間を増やします。

顧客は、人のエージェントによる対応が必要になるまで、AIエージェントに請求の問題を数分かけて説明し、アカウントを確認することがあります。しかし、文字起こし、アカウント詳細、すでに実行された対応が通話とともに引き継がれなければ、顧客はプロセス全体を繰り返さなければなりません。 

引き継ぎ中に文脈を失うことを避けるため、AIエージェントがすでに収集した情報を、引き継ぎとともに人の担当者へ直接渡すようにしてください。

3. 承認ステップが多すぎる

定型的で低リスクなタスクに人の承認を必須にすると、AIエージェントが安全に処理できる業務まで遅くなる可能性があります。従業員がすべての通常の予約変更、基本的な受付フォーム、定型的なステータス照会を承認しなければならない場合、人によるレビューはチームが高リスクなケースを管理する助けになるどころか、業務を増やし始めます。 

どのアクションに本当に人のレビューが必要かを事前に決め、低リスクのタスクは自動で継続できるようにすれば、不必要なチェックポイントを避けられます。たとえば、通常の予約変更や標準的なステータス照会は承認なしで進められる一方、請求に関する異議やポリシーの例外は人に振り分けます。 

4. 更新されないルール

導入前には妥当だった引き継ぎルールも、AIエージェントが実際の会話を扱い始めると変更が必要になる場合があります。繰り返される引き継ぎからは、元のワークフローが慎重すぎる箇所、AIエージェントに情報が不足している箇所、新しい種類のリクエストに独自のルールが必要な箇所が分かります。 

たとえば、顧客が元のワークフローで想定されていなかった表現を使うために、AIエージェントが定型的な配送に関する質問を繰り返し引き継いでいる場合、チームはAIエージェントの知識または引き継ぎルールを更新し、これらのリクエストを自動化したままにできます。 

ヒューマン・イン・ザ・ループのルールを柔軟なものとして扱うことで、チームは人の監督を本当の例外ケースに集中させながら、より多くの定型業務を安全に自動化できます。 

ヒューマン・イン・ザ・ループとヒューマン・オン・ザ・ループの比較

HITLとヒューマン・オン・ザ・ループ（HOTL）は、AIを人が監督するための異なる2つのモデルです。

HITLでは、特定の意思決定やアクションを続行する前に人が参加する必要があります。コンプライアンス、財務上の責任、臨床上の判断、ポリシー上の例外などにより、ワークフローを進める前に人のレビューまたは承認が必要な、高リスクまたは複雑な業務に適しています。

HOTLでは、人の承認を待たずにAIが動作しますが、人がシステムを監視し、必要に応じて介入できます。一般的な情報に関する質問、注文状況の更新など、結果の承認に人を必要としない、監視可能かつ元に戻せる低リスクな業務に適しています。 

監督者は全体の活動を見守り、注意が必要な場合にのみ対応できます。HITLとHOTLの主な違いは次のとおりです。

ヒューマン・イン・ザ・ループAIの例

HITLは、どの意思決定、承認、会話に人の関与が必要かによって、さまざまな形を取ります。 

銀行業務

Customers Bankは、ElevenAgentsを導入しています。対象は口座照会、カードサービス、送金、オンボーディング、従業員コーチングで、すべてのエージェントに人への引き継ぎ経路が組み込まれています。AIエージェントは定型的な銀行サポートを処理でき、人の銀行員は、個別の対応やエージェントの役割外の判断が必要な会話に対応できます。

保険

InsurelyはAI音声エージェントを使用しています。保険販売とカスタマーケアで、質問への回答や顧客の見積もり完了の支援などに活用しています。顧客に人の対応が必要な場合、AIエージェントは通話を引き継ぐか、折り返し電話を予約します。

ヘルスケア

行動医療プラットフォームのmdhubは、患者の受け入れにElevenAgentsを使用しています。AIエージェントは患者情報を収集し、保険を確認し、患者と医療提供者をマッチングして予約を設定します。一方で医療専門家は、治療方針を決定し、臨床的な判断が必要な意思決定を行います。

フィンテック

グローバルなデジタル銀行・決済プロバイダーであるKlarnaは、ElevenAgentsの音声AIエージェントを、米国顧客向け電話サポートの一次対応に使用しています。AIエージェントは情報に関するリクエストを処理し、関連する文脈を収集します。その後、問題がより複雑またはセンシティブになった場合、あるいは顧客が人との会話を希望した場合に、人のエージェントへ会話を引き継ぎます。

クリエイティブ

コンテンツやクリエイティブ制作において、ElevenProductionsは、次のためにHITLアプローチを採用しています。人の編集を取り入れたAI支援制作。AIは文字起こしやAI生成オーディオブックの制作などを処理し、人の編集者が作業をレビューして修正し、最終結果を承認します。 

別の形の人とAIの協働として、歌う能力を失った作曲家・歌手のPatrick Darlingは、ElevenLabsの音声技術を使って、再び自身の音楽を演奏しました。 

ElevenAgentsを始める

ElevenAgentsは、AIエージェントが処理できる範囲と、人がワークフローに関わり続けるべき箇所を定義するための複数の方法を企業に提供します。エージェントは企業のナレッジや業務ツールを活用し、定義したワークフローに従い、ガードレールの範囲内で動作できます。人への引き継ぎでは、会話とその文脈をライブ担当者に転送でき、シミュレーションにより導入前にチームが動作をテストできます。

明確なワークフローの境界、人への引き継ぎ、テストと監督のための制御を備えたAIエージェントを構築するには、ElevenAgentsを始めてください。営業に問い合わせると導入範囲を相談できます。または、登録して、エージェントを作成し、ご自身で試すこともできます。

ヒューマン・イン・ザ・ループに関するよくある質問