휴먼 인 더 루프란? 사람이 AI 워크플로를 개선하는 방법

휴먼 인 더 루프(HITL)는 명확한 운영 경계를 바탕으로 자동화 시스템과 인간 전문가 간에 업무를 나누는 AI 모델의 워크플로입니다. HITL 시스템에서 AI는 예측 가능하고 규칙 기반의 업무를 처리하며, 인간 전문가는 복잡한 의사 결정, 컴플라이언스 요건, 예외 상황에 대한 책임을 맡습니다.

기업에서 HITL은 일상적인 업무를 자동화하면서도 판단이 필요한 경우에는 사람이 계속 참여할 수 있는 실용적인 방법을 제공합니다. AI 에이전트는 계정 정보를 조회하고, 청구 정보를 수집하며, 온보딩 양식을 보내거나 예약을 잡은 뒤, 불확실하거나 민감한 사례를 사람이 검토, 승인, 수정 또는 인계받도록 표시할 수 있습니다. 

실시간 워크플로를 넘어 HITL은 머신러닝 개발에도 적용됩니다. 사람은 학습 데이터에 라벨을 지정하고, 모델 출력을 평가하며, 오류를 수정하거나 모델 성능 개선에 도움이 되는 피드백을 제공할 수 있습니다. 이 맥락에서 사람은 실시간 비즈니스 워크플로가 아니라 모델의 학습 또는 개선 과정에 참여합니다. 

이 글에서는 AI 시스템과 워크플로에서 사람의 참여가 필요한 지점, 그 중요성, 그리고 효과적인 HITL의 실제 모습을 살펴봅니다. 

요약

• 휴먼 인 더 루프 AI는 사전에 정의된 책임을 기준으로 워크플로를 AI와 사람 사이에 나눕니다.
• 팀은 워크플로에 사람의 검토, 승인, 인계 및 예외 경로를 설계하고, 배포 후 필요에 따라 이러한 규칙을 개선합니다.
• HITL은 필요한 곳에 자동화와 인간의 판단을 결합해 정확성, 효율성, 리스크 관리를 개선할 수 있습니다.

휴먼 인 더 루프란 무엇인가요?

휴먼 인 더 루프는 사람이 직접 의사 결정을 내리거나 AI 워크플로를 감독하도록 프로세스에 능동적으로 포함되는 시스템입니다. 정의된 조건이 충족되면 워크플로를 중지하거나 사람에게 넘기는 내장 규칙과 자동화된 업무 처리를 결합해 작동합니다.

사람의 참여는 워크플로의 계획된 부분일 수도 있고, AI가 단독으로 처리해서는 안 되는 상황에 대한 대응일 수도 있습니다. 팀은 정책, 리스크, 고객 경험, 관련 의사 결정 유형을 바탕으로 이러한 인간 접점을 미리 정의합니다. 

일반적인 인간 접점은 다음과 같습니다. 

• 필수 검토 및 승인: 사람이 재무, 법률, 컴플라이언스 또는 운영상 책임이 따르는 결정을 검토하거나 승인합니다.
• 규제 절차: 에이전틱 워크플로는 법률, 정책 또는 전문 기준상 사람의 참여가 필요한 경우 의사 결정이나 문서를 적격 직원에게 전달합니다.
• 민감하거나 중요한 커뮤니케이션: 협상, 안심시키기, 관계 관리 또는 신중한 판단이 중요한 대화는 사람이 담당합니다.
• 역할 경계 및 예외: AI에 할당된 역할을 벗어나거나, 이례적인 상황을 포함하거나, 정의된 응답이 없는 요청은 사람에게 전달됩니다.
• 고객 요청 인계: 고객이 상담원과의 대화를 요청하면 실시간 팀원에게 연결할 수 있습니다.
  
  

워크플로 중 상황이 바뀌면 사람은 동적으로도 프로세스에 참여할 수 있습니다. 상충하는 정보, 새로운 고객 우려 또는 기존 규칙이 예상하지 못한 상황은 처음에 표준 경로를 따르던 업무에서도 인계를 유발할 수 있습니다.

사람이 개입한다고 해서 자동화 프로세스를 처음부터 다시 시작해야 하는 것은 아닙니다. 팀원이 결정을 내리거나 문제를 해결하면 AI가 업데이트 내용을 기록에 저장하고, 다음으로 필요한 커뮤니케이션을 전송한 뒤, 나머지 워크플로를 계속 진행합니다.

머신러닝에서 휴먼 인 더 루프는 무엇을 의미하나요?

휴먼 인 더 루프 머신러닝은 HITL과 같은 원칙을 적용하지만 개발 단계에서 이루어집니다. 실시간 워크플로에 개입하는 대신, 사람들은 모델 개발 프로세스의 정해진 지점에 참여합니다. 

연구자는 학습 데이터에 라벨을 지정하고, 모델 응답을 평가하며, 오류를 수정하거나 배포 전 모델 동작 개선에 도움이 되는 피드백을 제공할 수 있습니다. 정확성이 전문 지식이나 판단에 좌우되는 경우 도메인 전문가가 출력 결과를 검토할 수도 있습니다. 

AI 워크플로에 사람을 통합할 때의 주요 이점

기업에서 HITL은 고비용 실수를 줄이고, 민감하거나 규제 대상인 사례를 더 일관되게 처리하며, AI에 고위험 의사 결정에 대한 무제한 권한을 부여하지 않고도 일상 업무를 더 빠르게 처리하게 해줍니다.

다음은 HITL 시스템 활용의 주요 이점과 사용 사례입니다.

정확성과 의사 결정 품질 향상

HITL은 구조화된 업무에서 AI가 제공하는 일관성과 모델이 단독으로 안정적으로 처리할 수 없는 부분에서의 인간 판단을 결합해 정확성과 의사 결정 품질을 높입니다. AI는 구조화된 업무를 일관되게 처리하고, 의사 결정에 필요한 정보를 수집하며, 일상적인 응답이나 권장 사항을 준비할 수 있습니다.

Valiant의 업무 시간 외 에이전트 Sophia는 구조화된 접수를 처리한 뒤, 적절한 경우 사례를 인간 브로커에게 넘깁니다. ElevenAgents 기반으로 구축된 Valiant의 에이전트는 150만 달러 이상의 상업 대출 의향을 파악했으며, Sophia는 업무 시간 외 통화의 약 29%를 처리했습니다.

다음과 같은 정보에서는 사람의 입력이 의사 결정 품질을 높입니다.

• 불완전하거나 상충하는 정보
• 맥락이나 해석에 의존하는 정보
• 다음에 의존하는 정보 협상 및 관계 구축
• 전문 지식에 의존하는 정보

더 나은 결과는 특히 재무, 규제 또는 고객 관련 영향이 있는 상황에서 비용이 큰 오류와 피할 수 있는 재작업을 줄일 수 있습니다.

리스크 감소 및 컴플라이언스 지원

HITL은 규제 대상이거나 중대한 결과를 초래할 수 있는 결정이 진행되기 전에 적절한 담당자에게 전달되도록 하여 조직의 컴플라이언스 리스크를 줄이는 데 도움이 됩니다. 

AI는 다음과 같은 방식으로 절차적 컴플라이언스를 지원합니다.

• 필수 문서 전송.
• 정보 수집.
• 필수 입력란이 모두 작성되었는지 확인.
• 정책 또는 고지 사항 조회.
• 완료된 단계 기록.
• 사례를 적절한 담당자에게 전달.

규정을 해석해야 하거나, 예외 사항을 해결해야 하거나, 법적 책임이 따르는 결정을 내려야 할 때는 사람이 책임을 집니다.

예를 들어 영국 보험사 Admiral은 고객 음성 에이전트에 의도적인 업무 범위를 설정합니다. Admiral은 취약 고객 및 연체 사례를 사람에게 전달하고, 출시 전에 높은 검증 기준을 통해 규제 대상 AI 워크플로를 테스트합니다.

인간 전문성을 유지하면서 효율성 향상

AI는 모든 단계에 사람이 필요하지 않도록 반복적인 관리 업무를 처리하고, 정보를 수집하며, 기록을 준비하고, 일상적인 사례를 진행할 수 있습니다. 기업은 처리 시간을 단축하고 관리 업무 적체를 줄이며, 직원이 고객, 매출 또는 리스크에 직접 영향을 주는 업무를 처리할 여력을 더 확보할 수 있습니다. 

Finch Legal은 ElevenAgents를 사용해 월 1만 5천 건 이상의 통화 규모로 확장하면서 통화 성공률을 59%에서 93%로 높였습니다. 이러한 프로세스를 처리할 에이전트를 도입하면서 인간 에이전트의 통화 시간은 이전 배포 환경의 약 6분의 1로 줄었습니다. 사람은 전문성이 필요한 사례에만 개입하면 되었고, 고가치 순간에 집중할 수 있었습니다.

휴먼 인 더 루프 시스템의 과제와 고려 사항

잘 설계된 휴먼 인 더 루프 시스템도 인계가 원활하지 않거나 인계받는 사람이 행동하기에 충분한 맥락을 갖지 못하면 제대로 작동하지 않을 수 있습니다. 자동화 속도와 인간 감독의 균형은 워크플로 설계에 달려 있습니다. 

휴먼 인 더 루프 시스템이 의도대로 작동하지 않을 때 문제는 대개 사람이 프로세스에 참여하는 시점과 전달받는 정보를 결정하는 규칙에 있습니다.

다음은 휴먼 인 더 루프 시스템의 주요 과제입니다.

1. 모호한 인계 트리거

AI 에이전트에 “어려운 사례를 전달하세요” 또는 “이례적인 요청은 인간 에이전트에게 보내세요”와 같은 주관적인 지침을 프로그래밍하면 불필요한 인계가 발생하거나, 사람의 개입이 필요한 상황을 AI가 계속 처리하게 될 수 있습니다.

예를 들어 AI 고객 서비스 에이전트에게 “복잡한 청구 관련 질문을 전달하세요”라고 지시하는 대신, 팀은 “고객이 청구 금액에 이의를 제기하고 계정 기록이 일치하지 않을 경우 사례를 인계한다”와 같은 규칙을 설정할 수 있습니다. 세부적인 가드레일은 AI 에이전트가 따라야 할 구체적인 조건을 제공하므로, 불필요한 인계를 줄이고 사람의 참여가 필요한 사례를 AI가 계속 처리할 리스크를 낮출 수 있습니다. 

팀은 상충하거나 누락된 정보, 인간 에이전트를 요청하는 고객, 그 밖에 사람의 참여가 필요한 상황처럼 AI 에이전트의 역할을 벗어나는 요청에도 이와 같이 구체적인 인계 조건을 설정할 수 있습니다. 

2. 인계 중 맥락 손실

AI 에이전트가 세션 기록을 함께 전달하지 않은 채 실시간 고객 상호작용을 인간 상담원에게 인계하면, 직원은 처음부터 발신자에게 다시 질문해야 합니다. 이처럼 미흡한 전환은 즉각적인 마찰을 만들고 고객을 불편하게 하며 상호작용 시간을 늘립니다.

고객은 문제가 인간 에이전트를 필요로 하기 전까지 AI 에이전트에게 청구 문제를 설명하고 계정을 확인하는 데 몇 분을 쓸 수 있습니다. 하지만 대화 기록, 계정 세부 정보 및 이미 취한 조치가 통화와 함께 전달되지 않으면 고객은 전체 과정을 다시 반복해야 합니다. 

인계 중 맥락 손실을 방지하려면, AI 에이전트가 이미 수집한 정보를 인계와 함께 인간 상담원에게 직접 전달하도록 시스템을 구성해야 합니다.

3. 지나치게 많은 승인 단계

일상적이고 저위험인 업무에 사람의 승인을 요구하면 AI 에이전트가 안전하게 처리할 수 있는 업무까지 느려질 수 있습니다. 직원이 모든 일반적인 예약 변경, 기본 접수 양식 또는 일상적인 상태 조회를 승인해야 한다면, 인간 검토는 팀의 고위험 사례 관리에 도움이 되기보다 업무를 더하게 됩니다. 

팀은 어떤 조치에 정말 인간 검토가 필요한지 미리 결정하고 저위험 업무는 자동으로 계속 진행하게 하여 불필요한 점검 단계를 피할 수 있습니다. 예를 들어 일상적인 예약 변경이나 표준 상태 요청은 승인 없이 진행하고, 청구 분쟁이나 정책 예외는 계속 사람에게 전달할 수 있습니다. 

4. 업데이트되지 않는 규칙

출시 전에 적절했던 인계 규칙도 AI 에이전트가 실제 대화를 처리하기 시작하면 변경이 필요할 수 있습니다. 반복적인 인계는 기존 워크플로가 지나치게 신중한 부분, AI 에이전트에 정보가 부족한 부분 또는 새로운 유형의 요청에 별도 규칙이 필요한 부분을 드러낼 수 있습니다. 

예를 들어 AI 에이전트가 고객이 기존 워크플로가 예상하지 못한 방식으로 질문한다는 이유로 일상적인 배송 관련 질문을 계속 인계한다면, 팀은 해당 요청을 자동화 상태로 유지하도록 AI 에이전트의 지식 또는 인계 규칙을 업데이트할 수 있습니다. 

휴먼 인 더 루프 규칙을 유동적으로 관리하면 팀은 더 많은 일상 업무를 안전하게 자동화하는 동시에, 인간 감독을 실제 예외 상황에 집중할 수 있습니다. 

휴먼 인 더 루프와 휴먼 온 더 루프 비교

HITL과 휴먼 온 더 루프(HOTL)는 AI에 대한 인간 감독을 위한 서로 다른 두 가지 모델입니다.

HITL은 특정 결정이나 조치가 계속되기 전에 사람이 참여해야 합니다. 컴플라이언스, 재무 책임, 임상적 판단 또는 정책 예외로 인해 워크플로가 진행되기 전 인간의 검토나 승인이 필요한 고위험 또는 복잡한 업무에 적합합니다.

HOTL에서는 AI가 사람의 승인을 기다리지 않고 작동하지만, 사람이 시스템을 모니터링하고 필요 시 개입할 수 있습니다. 일반 정보 질문, 주문 상태 업데이트 또는 결과에 대한 사람의 승인이 필요 없는 기타 저위험 상호작용처럼 관찰 가능하고 되돌릴 수 있는 저위험 업무에 적합합니다. 

감독자는 전체 활동을 지켜보다가 주의가 필요한 상황에만 대응할 수 있습니다. 다음은 HITL과 HOTL의 주요 차이점입니다.

휴먼 인 더 루프 AI 사례

HITL은 어떤 결정, 승인 또는 대화에 사람의 참여가 필요한지에 따라 다양한 형태를 취할 수 있습니다. 

은행

Customers Bank는 ElevenAgents를 도입하고 있으며 계좌 문의, 카드 서비스, 송금, 온보딩 및 직원 코칭에 활용하고 있습니다. 모든 에이전트에는 사람에게 인계하는 경로가 내장되어 있습니다. AI 에이전트는 일상적인 은행 지원을 처리하고, 개인적인 관심이 필요하거나 에이전트의 역할을 벗어나는 결정이 필요한 대화에서는 인간 은행원이 대응합니다.

보험

Insurely는 AI 음성 에이전트를 사용하여 질문에 답하고 고객의 견적 완료를 돕는 등 보험 판매와 고객 관리를 제공합니다. 고객에게 사람이 필요한 경우 AI 에이전트가 통화를 인계하거나 콜백을 예약합니다.

의료

행동 건강 플랫폼 mdhub는 환자 입원 절차와 지원에 ElevenAgents를 사용합니다. AI 에이전트는 환자 정보를 수집하고, 보험을 확인하며, 환자와 의료 제공자를 연결하고, 예약을 잡습니다. 의료 전문가는 치료 방침을 정하고 임상적 판단이 필요한 결정을 내립니다.

핀테크

글로벌 디지털 은행 및 결제 서비스 제공업체 Klarna는 ElevenAgents 음성 AI 에이전트를 미국 고객 전화 지원의 첫 번째 접점으로 사용합니다. AI 에이전트는 정보 요청을 처리하고 관련 맥락을 수집한 뒤, 문제가 더 복잡하거나 민감해지거나 고객이 사람과 대화하기를 원하면 대화를 인간 에이전트에게 넘깁니다.

크리에이티브

콘텐츠 및 크리에이티브 작업에서 ElevenProductions는 다음을 위해 HITL 방식을 사용합니다. 인간 편집을 결합한 AI 지원 제작. AI는 트랜스크립션 및 AI 생성 오디오북 제작 등의 작업을 처리하고, 인간 편집자는 작업을 검토하고 수정하며 최종 결과를 승인합니다. 

또 다른 형태의 인간-AI 협업에서, 노래하는 능력을 잃은 작곡가이자 가수 Patrick Darling은 ElevenLabs 음성 기술을 사용해 다시 자신의 음악을 연주했습니다. 

ElevenAgents 시작하기

ElevenAgents는 기업이 AI 에이전트가 처리할 수 있는 업무와 사람이 워크플로에 계속 참여해야 하는 지점을 정의할 수 있는 여러 방법을 제공합니다. 에이전트는 회사 지식과 비즈니스 도구를 활용하고, 정의된 워크플로를 따르며, 가드레일 내에서 작동할 수 있습니다. 사람에게 인계하면 대화와 그 맥락을 실시간 담당자에게 전달할 수 있고, 시뮬레이션을 통해 팀은 출시 전에 동작을 테스트할 수 있습니다.

명확한 워크플로 경계, 인간 인계 및 테스트와 감독을 위한 제어 기능을 갖춘 AI 에이전트를 구축하려면 ElevenAgents를 시작해 보세요. 영업팀에 문의하기를 통해 구현 범위를 논의하거나, 가입하기를 통해 직접 사용해 볼 에이전트를 만드세요.

휴먼 인 더 루프 FAQ