휴먼 인 더 루프란? 사람이 AI 워크플로를 개선하는 방법

휴먼 인 더 루프(HITL)는 명확한 운영 경계를 바탕으로 자동화 시스템과 인간 전문가 간에 작업을 나누는 AI 모델의 워크플로입니다. HITL 시스템에서 AI는 예측 가능하고 규칙 기반의 작업을 처리하며, 복잡한 의사 결정, 규정 준수 요건, 예외 상황은 인간 전문가가 책임집니다.

기업에 HITL은 일상 업무를 자동화하면서 판단이 필요한 순간에는 사람이 계속 관여할 수 있는 실용적인 방법을 제공합니다. AI 에이전트는 계정 정보를 조회하고, 보험 청구 정보를 수집하며, 온보딩 양식을 전송하거나 예약을 잡은 뒤, 불확실하거나 민감한 사례를 사람이 검토, 승인, 수정 또는 직접 처리하도록 표시할 수 있습니다. 

HITL은 실시간 워크플로뿐 아니라 머신러닝 개발에도 적용됩니다. 사람은 학습 데이터에 라벨을 지정하고, 모델 출력을 평가하며, 오류를 수정하거나 모델 성능 개선에 도움이 되는 피드백을 제공할 수 있습니다. 이 경우 사람은 실시간 비즈니스 워크플로가 아니라 모델의 학습 또는 개선 과정에 참여합니다. 

이 글에서는 AI 시스템과 워크플로에서 사람의 개입이 필요한 지점, 그 중요성, 그리고 효과적인 HITL의 실제 모습에 대해 알아보겠습니다. 

요약

• 휴먼 인 더 루프 AI는 사전에 정의된 책임에 따라 워크플로를 AI와 사람 간에 나눕니다.
• 팀은 워크플로에 사람의 검토, 승인, 인계 및 예외 처리 경로를 구축하고, 배포 후 필요에 따라 이러한 규칙을 개선합니다.
• HITL은 필요한 곳에 자동화와 인간의 판단을 결합하여 정확성, 효율성 및 리스크 관리를 개선할 수 있습니다.

휴먼 인 더 루프란?

휴먼 인 더 루프는 사람이 수동으로 의사 결정을 내리거나 AI 워크플로를 감독하기 위해 프로세스에 적극적으로 참여하는 시스템입니다. 정의된 조건이 충족되면 워크플로를 일시 중지하거나 사람에게 넘기는 내장 규칙과 자동화된 작업 처리를 결합해 작동합니다.

사람의 참여는 워크플로의 계획된 일부일 수도 있고, AI가 단독으로 처리해서는 안 되는 상황에 대한 대응일 수도 있습니다. 팀은 정책, 리스크, 고객 경험 및 관련 의사 결정 유형을 기준으로 이러한 사람의 개입 지점을 미리 정의합니다. 

일반적인 사람의 개입 지점은 다음과 같습니다. 

• 필수 검토 및 승인: 재무, 법률, 규정 준수 또는 운영상 책임이 따르는 결정을 사람이 검토하거나 승인합니다.
• 규제 대상 절차: 에이전틱 워크플로는 법률, 정책 또는 전문 표준에서 사람의 참여를 요구할 때 결정을 내리거나 문서를 적격 직원에게 전달합니다.
• 민감하거나 고가치인 커뮤니케이션: 협상, 안심 제공, 관계 관리 또는 신중한 판단이 중요한 대화는 사람이 처리합니다.
• 역할 경계 및 예외: AI에 할당된 역할을 벗어나거나, 이례적인 상황이거나, 정의된 대응이 없는 요청은 사람에게 전달됩니다.
• 고객 요청에 따른 인계: 고객이 상담원과의 대화를 요청하면 실시간 팀 담당자에게 연결할 수 있습니다.
  
  

워크플로 진행 중 상황이 바뀌면 사람이 동적으로 개입할 수도 있습니다. 상충하는 정보, 새로운 고객 우려 사항 또는 기존 규칙에서 예상하지 못한 상황이 발생하면, 작업이 처음에는 표준 경로를 따랐더라도 인계가 트리거될 수 있습니다.

사람이 개입한다고 해서 자동화 프로세스를 처음부터 다시 시작해야 하는 것은 아닙니다. 팀원이 결정을 내리거나 문제를 해결하면 AI는 업데이트를 기록에 저장하고, 다음으로 필요한 커뮤니케이션을 전송한 뒤 나머지 워크플로를 계속 진행합니다.

머신러닝에서 휴먼 인 더 루프는 무엇을 의미하나요?

휴먼 인 더 루프 머신러닝은 HITL과 같은 원칙을 개발 단계에 적용합니다. 실시간 워크플로에 개입하는 대신, 사람은 모델 개발 프로세스의 정의된 지점에 참여합니다. 

연구자는 학습 데이터에 라벨을 지정하고, 모델 응답을 평가하며, 오류를 수정하거나 배포 전 모델 동작 개선에 도움이 되는 피드백을 제공할 수 있습니다. 정확성이 전문 지식이나 판단에 좌우되는 경우에는 도메인 전문가가 출력 결과를 검토할 수도 있습니다. 

AI 워크플로에 사람을 통합하는 주요 이점

기업에서 HITL은 AI가 고위험 의사 결정에 대한 통제권을 제한 없이 갖도록 하지 않으면서도, 비용이 큰 실수를 줄이고 민감하거나 규제 대상인 사례를 더 일관되게 처리하며 일상 업무를 더 빠르게 처리하는 데 도움이 될 수 있습니다.

다음은 HITL 시스템 활용의 주요 이점과 활용 사례입니다.

정확성 및 의사 결정 품질 향상

HITL은 구조화된 작업에서 AI의 일관성과 모델이 단독으로 안정적으로 처리할 수 없는 부분에서의 인간 판단을 결합해 정확성과 의사 결정 품질을 높입니다. AI는 구조화된 작업을 일관되게 처리하고, 의사 결정에 필요한 정보를 수집하며, 일상적인 응답이나 권장 사항을 준비할 수 있습니다.

Valiant의 야간 시간대 에이전트 Sophia는 구조화된 접수를 처리한 뒤 적절한 경우 인간 브로커에게 사례를 넘깁니다. ElevenAgents를 기반으로 구축된 Valiant의 에이전트는 150만 달러 이상의 상업 대출 의도를 파악했으며, Sophia는 야간 시간대 통화의 약 29%를 처리했습니다.

다음과 같은 정보에서는 사람의 입력이 의사 결정 품질을 높입니다.

• 불완전하거나 상충되는 정보
• 맥락 또는 해석에 따라 달라지는 정보
• 다음에 의존하는 경우 협상 및 관계 구축
• 전문 지식에 의존하는 정보

더 나은 결과는 특히 재무, 규제 또는 고객 관련 영향이 있는 상황에서 비용이 큰 오류와 피할 수 있는 재작업을 줄일 수 있습니다.

리스크 감소 및 규정 준수 지원

HITL은 규제 대상이거나 결과의 영향이 큰 결정이 진행되기 전에 적절한 담당자에게 전달되도록 하여 조직의 규정 준수 리스크를 줄이는 데 도움이 됩니다. 

AI는 다음을 통해 절차상 규정 준수를 지원합니다.

• 필수 문서 전송.
• 정보 수집.
• 필수 항목의 작성 완료 여부 확인.
• 정책 또는 고지 사항 조회.
• 완료된 단계 기록.
• 사례를 적절한 담당자에게 전달.

규정에 해석이 필요하거나, 예외를 해결해야 하거나, 법적 책임이 수반되는 결정을 내려야 하는 경우에는 사람이 계속 책임을 집니다.

예를 들어 영국 보험사 Admiral은 고객 음성 에이전트의 범위 경계를 의도적으로 설정합니다. Admiral은 취약 고객 및 연체 사례를 사람에게 전달하고, 출시 전에 규제 대상 AI 워크플로를 높은 검증 기준으로 테스트합니다.

인간 전문성을 유지하면서 효율성 향상

AI는 매 단계마다 사람을 필요로 하지 않고 반복적인 관리 업무를 처리하고, 정보를 수집하며, 기록을 준비하고, 일상적인 사례를 진행할 수 있습니다. 기업은 처리 시간을 단축하고 관리 업무 적체를 줄이며, 직원이 고객, 매출 또는 리스크에 직접 영향을 미치는 업무를 처리할 여력을 늘릴 수 있습니다. 

Finch Legal은 ElevenAgents를 활용해 월간 통화량을 15k+로 늘리면서 통화 성공률을 59%에서 93%로 개선했습니다. 이러한 프로세스를 처리하는 에이전트를 도입한 결과, 사람 상담원이 전화에 쓰는 시간은 이전 배포 대비 약 6분의 1로 줄었습니다. 사람은 전문성이 필요한 사례에만 개입해 고가치 순간에 집중할 수 있었습니다.

휴먼 인 더 루프 시스템의 과제와 고려 사항

잘 설계된 휴먼 인 더 루프 시스템도 인계가 부실하거나 인계받는 사람이 조치에 필요한 맥락을 충분히 갖고 있지 않으면 제대로 작동하지 않을 수 있습니다. 자동화 속도와 사람의 감독 간 균형은 워크플로 설계에 달려 있습니다. 

휴먼 인 더 루프 시스템이 의도대로 작동하지 않는다면, 문제는 대개 사람이 프로세스에 언제 참여하고 어떤 정보를 받는지 결정하는 규칙에 있습니다.

휴먼 인 더 루프 시스템의 주요 과제는 다음과 같습니다.

1. 모호한 인계 트리거

AI 에이전트에 “어려운 사례를 전달하세요” 또는 “이례적인 요청은 상담원에게 보내세요”와 같은 주관적인 지침을 프로그래밍하면 불필요한 인계가 발생하거나, 사람이 관여해야 할 상황을 AI가 계속 처리하게 될 수 있습니다.

예를 들어 AI 고객 서비스 에이전트에게 “복잡한 청구 관련 질문을 전달하세요”라고 지시하는 대신, 팀은 “고객이 청구 금액에 이의를 제기하고 계정 기록이 일치하지 않으면 사례를 인계하세요”와 같은 규칙을 설정할 수 있습니다. 상세한 가드레일은 AI 에이전트가 따라야 할 구체적인 조건을 제공해 불필요한 인계를 줄이고, 사람의 참여가 필요한 사례를 AI가 계속 처리할 위험을 낮출 수 있습니다. 

팀은 상충하거나 누락된 정보, 인간 상담원 요청, 그 밖에 사람의 참여가 필요한 상황처럼 AI 에이전트의 역할 범위를 벗어나는 요청에 대해서도 이와 같이 구체적인 인계 조건을 설정할 수 있습니다. 

2. 인계 중 맥락 손실

AI 에이전트가 세션 기록을 전달하지 않고 실시간 고객 상호작용을 상담원에게 인계하면, 직원은 발신자에게 처음부터 다시 질문해야 합니다. 이러한 부실한 전환은 즉각적인 마찰을 만들고 고객을 불편하게 하며 상호작용 시간을 늘립니다.

고객은 문제가 상담원 개입을 필요로 하기 전에 AI 에이전트에게 청구 문제를 설명하고 계정을 확인하는 데 몇 분을 쓸 수 있습니다. 하지만 대화 기록, 계정 정보 및 이미 취한 조치가 통화와 함께 전달되지 않으면 고객은 전체 과정을 반복해야 합니다. 

인계 중 맥락이 손실되는 것을 방지하려면, 시스템이 AI 에이전트가 이미 수집한 정보를 인계와 함께 상담원에게 직접 전달하도록 해야 합니다.

3. 과도한 승인 단계

일상적이고 저위험인 작업에 사람의 승인을 요구하면 AI 에이전트가 안전하게 처리할 수 있는 업무가 느려질 수 있습니다. 직원이 모든 일반 예약 변경, 기본 접수 양식 또는 일상적인 상태 조회를 승인해야 한다면, 사람의 검토는 팀이 고위험 사례를 관리하도록 돕는 대신 업무를 추가하게 됩니다. 

팀은 어떤 조치에 실제로 사람의 검토가 필요한지 미리 결정하고 저위험 작업은 자동으로 계속 진행하게 하여 불필요한 점검 지점을 피할 수 있습니다. 예를 들어 일상적인 예약 변경이나 표준 상태 요청은 승인 없이 진행할 수 있지만, 청구 분쟁이나 정책 예외는 여전히 사람에게 전달됩니다. 

4. 업데이트되지 않는 규칙

출시 전에 적절했던 인계 규칙도 AI 에이전트가 실제 대화를 처리하기 시작하면 변경이 필요할 수 있습니다. 반복되는 인계는 기존 워크플로가 지나치게 신중한 부분, AI 에이전트에 정보가 부족한 부분 또는 새로운 요청 유형에 별도 규칙이 필요한 부분을 드러낼 수 있습니다. 

예를 들어 고객이 기존 워크플로에서 예상하지 못한 방식으로 표현한다는 이유로 AI 에이전트가 일상적인 배송 질문을 계속 인계한다면, 팀은 해당 요청이 자동 처리되도록 AI 에이전트의 지식이나 인계 규칙을 업데이트할 수 있습니다. 

휴먼 인 더 루프 규칙을 유동적으로 관리하면 팀은 사람의 감독을 실제 예외 상황에 집중하면서도 더 많은 일상 업무를 안전하게 자동화할 수 있습니다. 

휴먼 인 더 루프와 휴먼 온 더 루프 비교

HITL과 휴먼 온 더 루프(HOTL)는 AI에 대한 사람의 감독을 위한 서로 다른 두 모델입니다.

HITL은 특정 결정이나 조치가 계속되기 전에 사람의 참여를 요구합니다. 규정 준수, 재무 책임, 임상적 판단 또는 정책 예외로 인해 워크플로가 진행되기 전에 사람의 검토나 승인이 필요한 고위험 또는 복잡한 업무에 가장 적합합니다.

HOTL에서는 AI가 사람의 승인을 기다리지 않고 작업하지만, 사람이 시스템을 모니터링하고 필요할 때 개입할 수 있습니다. 일반 정보 질문, 주문 상태 업데이트 또는 결과에 대한 사람의 승인이 필요하지 않은 기타 저위험 상호작용처럼 관찰 가능하고 되돌릴 수 있는 저위험 업무에 가장 적합합니다. 

관리자는 전체 활동을 지켜보다가 주의가 필요한 일이 있을 때만 대응할 수 있습니다. HITL과 HOTL의 주요 차이점은 다음과 같습니다.

휴먼 인 더 루프 AI 사례

HITL은 어떤 결정, 승인 또는 대화에 사람의 참여가 필요한지에 따라 다양한 형태를 취할 수 있습니다. 

은행

Customers Bank는 ElevenAgents를 도입하고 있으며 계정 문의, 카드 서비스, 이체, 온보딩 및 직원 코칭에 활용하고 있습니다. 모든 에이전트에는 사람에게 인계하는 경로가 내장되어 있습니다. AI 에이전트는 일상적인 은행 지원을 처리할 수 있으며, 대화에 개인적 관심이 필요하거나 에이전트의 역할 범위를 벗어난 결정이 필요한 경우에는 은행 직원이 대응합니다.

보험

Insurely는 AI 음성 에이전트를 사용하여 질문에 답하고 고객의 견적 완료를 지원하는 등 보험 판매와 고객 관리를 수행합니다. 고객에게 사람이 필요하면 AI 에이전트가 통화를 인계하거나 콜백을 예약합니다.

헬스케어

행동 건강 플랫폼 mdhub는 환자 접수에 ElevenAgents를 사용하며 지원 업무에도 활용합니다. AI 에이전트는 환자 정보를 수집하고, 보험을 확인하며, 환자와 의료 제공자를 연결하고, 예약을 잡습니다. 반면 의료 전문가는 치료를 결정하고 임상적 판단이 필요한 의사 결정을 내립니다.

핀테크

글로벌 디지털 은행 및 결제 서비스 제공업체 Klarna는 ElevenAgents 음성 AI 에이전트를 미국 고객 전화 지원의 첫 번째 접점으로 사용합니다. AI 에이전트는 정보 요청을 처리하고 관련 맥락을 수집한 뒤, 문제가 더 복잡하거나 민감해지거나 고객이 상담원과 대화하기를 원할 때 대화를 상담원에게 인계합니다.

크리에이티브

콘텐츠 및 크리에이티브 작업에서 ElevenProductions는 사람이 편집하는 AI 지원 프로덕션을 위해 HITL 방식을 사용합니다. AI는 트랜스크립션 및 AI 생성 오디오북 제작과 같은 작업을 처리하고, 사람 편집자가 작업을 검토하고 수정한 뒤 최종 결과를 승인합니다. 

또 다른 형태의 인간-AI 협업으로, 노래할 능력을 잃은 작곡가이자 가수인 Patrick Darling은 ElevenLabs 음성 기술을 사용해 자신의 음악을 다시 연주했습니다 

ElevenAgents 시작하기

ElevenAgents는 기업이 AI 에이전트가 처리할 수 있는 작업과 사람이 워크플로에 계속 참여해야 하는 지점을 정의할 수 있는 여러 방법을 제공합니다. 에이전트는 회사 지식과 비즈니스 도구를 사용하고, 정의된 워크플로를 따르며, 가드레일 안에서 작동할 수 있습니다. 사람 인계 기능은 대화와 그 맥락을 실시간 담당자에게 전달하며, 시뮬레이션은 팀이 출시 전에 동작을 테스트하도록 돕습니다.

ElevenAgents로 명확한 워크플로 경계, 사람 인계, 테스트 및 감독을 위한 제어 기능을 갖춘 AI 에이전트를 구축해 보세요. 영업팀 문의를 통해 구현 범위를 논의하거나, 가입하기를 통해 직접 체험할 에이전트를 만들어 보세요.

휴먼 인 더 루프 FAQ