웨비나 요약: 의료 분야 AI 도입에서 얻은 인사이트

의료 시스템은 인력을 늘리지 않고도 환자에게 더 많은 서비스를 제공해야 한다는 요구를 받고 있습니다. 환자들이 불편을 겪는 대부분의 문제는 진료 자체가 아니라 진료 전후 과정에서 발생합니다. 적합한 의사를 찾는 일도 쉽지 않습니다. 진료 단계가 바뀔 때마다 같은 이야기를 반복해야 하는 것도 마찬가지입니다. 

최근 Behind the Agent 세션에서 Cindy Liu(ElevenLabs 엔터프라이즈 배포 담당)는 Jacque Myers (Slalom 글로벌 헬스케어 총괄), Sylvia Doane Stephenson(Slalom 매니징 디렉터), 그리고 Cristal Woodley (Renown Health 최고 마케팅 및 경험 책임자)와 함께 의료 분야에서 AI 에이전트가 실제로 어디에 배포되고 있는지, 그리고 이를 프로덕션 환경에서 운영하려면 무엇이 필요한지 살펴봤습니다.

성공적으로 확장되는 배포와 정체되는 배포를 가르는 차이는 시작점에 있습니다. 특화된 파일럿을 흩어놓기보다, 트래픽이 많고 측정 가능하며 위험이 낮은 하나의 여정에서 시작하는 것입니다.

환자 여정이 계속 단절되는 이유

환자들은 반복되는 과정에 갇혀 있습니다. 진료 단계가 바뀔 때마다 본인 확인을 하고 왜 전화했는지 설명해야 합니다. 기다리다가 다른 곳으로 연결되기도 합니다. 다른 곳에서 찾아낸 답변은 일관성이 없습니다. 마침내 적합한 담당자에게 연결되면, 처음부터 다시 시작해야 합니다.

웹사이트, 환자 포털, 컨택 센터, EHR, 청구 시스템 등 모든 접점은 존재하지만 서로 연결되어 있지 않습니다. 연결된 여정은 환자가 있는 곳에서 시작해 위험은 낮고 영향은 큰 영역부터 먼저 지원합니다.

대부분의 조직은 위험이 낮은 특화 사용 사례, 즉 가장자리 영역에서 AI를 시작하며 그 어떤 것도 확장되지 못합니다. Jacque가 제시하는 대안은 ‘히어로 여정’입니다. 조직이 수행하는 업무의 상당 부분을 대표하면서도 위험이 낮고, 사용 사례마다 새로 구축하는 대신 기반으로 삼아 확장할 수 있는 핵심 여정입니다.

데모: 처음부터 끝까지 예약하기

예약 일정 관리는 히어로 여정의 좋은 후보입니다. 수요가 많고 측정할 수 있으며, 그 위에 구축할 만큼 위험이 낮습니다. 환자 접수부터 예약 확인까지, 이 여정의 앞단이 처음부터 끝까지 어떻게 구성되는지 살펴보겠습니다.

시나리오: 환자에게 새 콘택트렌즈 처방전이 필요합니다. 보험사 웹사이트에서 보험 적용이 되는 검안의를 찾고 해당 병원에 전화하자, 가상 예약 어시스턴트가 응답합니다.

시연 내용:

• 에이전트는 대화형으로 신규 환자 접수를 진행하며 이름, 생년월일, 전화번호를 수집했습니다
• 실제 SMS 코드로 전화번호를 확인했고, 첫 시도에서 코드를 잘못 들었을 때도 정상적으로 처리했습니다
• 발신자가 보험 가입자 ID를 기억하지 못하자, 에이전트는 예약 시 보험 카드를 가져오도록 안내하고 다음 단계로 진행했습니다
• 3개의 시간대를 제안해 하나를 예약하고, 대화 기록을 바탕으로 작성한 확인 이메일과 문자 알림을 보냈습니다
• 동일한 에이전트가 SMS에서도 작동했으며, 별도 구축 없이 같은 워크플로가 텍스트 대화로 실행되었습니다

중요한 이유: 하나의 에이전트가 전화선과 문자 메시지 모두를 지원하므로, 기본적으로 옴니채널 경험을 제공했습니다. 이 데모는 약 2시간 만에 구축되어 팀이 며칠 안에 프로토타입을 만들고 내부에 제안할 수 있을 만큼 빨랐습니다. 하지만 엔터프라이즈 프로덕션은 범위가 다릅니다. 에이전트가 출시 전에 필요로 하는 통합, 테스트, 컴플라이언스 작업에 대부분의 노력이 들어가며, ElevenLabs에서는 포워드 배포 엔지니어가 이 작업을 수행합니다.

어디서 시작해야 하며, 실제 장애물은 무엇인가

의료 시스템이 시작할 때의 순서:

• 앰비언트 리스닝: 아직 EHR에 통합되어 있지 않다면 여기서 시작합니다. 이 작업은 보통 문서화 솔루션 제공업체를 통해 진행되지만, 이후 모든 단계의 기반이 되는 임상의의 신뢰를 얻을 수 있습니다.
• 컨택 센터: 대부분의 시스템은 이를 비용 항목으로 봅니다. 하지만 성장 센터로 운영할 수 있습니다.
• 환자 교육 및 복약 순응도: ROI를 즉시 측정할 수 있는 반복 업무이므로 확장할 수 있습니다.

컨택 센터 자동화의 걸림돌은 의사 일정 관리입니다. 선호도 카드와 일정 템플릿은 눈에 보이는 부분입니다. 더딘 부분은 고도로 훈련되고 숙련됐으며 독립성이 높은 사람들 사이에서 변화를 조율하는 일입니다. 효과적인 방법은 변화 추진 역할을 할 의사를 확보하고, 변화를 지원할 수 있도록 리더십을 정렬하며, 필요에 따라 임상의 한 명당 개별 코치를 배정하는 등 지속적인 지원을 제공하는 것입니다.

Renown Health가 에이전트를 향해 나아가는 방식

Renown은 솔트레이크시티에서 새크라멘토까지 10만 제곱마일에 걸쳐 환자에게 서비스를 제공합니다.

Cristal의 팀은 범위를 한정한 파일럿으로 시작하고 있습니다. 검토 중인 사용 사례는 환자 정보를 전혀 다루지 않으며, 내부에서 거둔 성과가 다음 단계를 위한 컴플라이언스 설득 근거가 됩니다. 

그 과정의 중심에는 데이터가 있었습니다. Cristal의 팀은 오픈 스케줄링을 표준화하면서 의료진과 함께 일정 템플릿을 검토했습니다. 앰비언트 리스닝에서 얻은 빠른 성과가 물꼬를 텄습니다. 삶의 질이 달라졌다고 느낀 의료진이 돌아와 다른 무엇을 할 수 있는지 물었습니다.

그녀는 속도에 대해서도 분명히 말했습니다. 환자들은 이미 이를 사용하고 있고 이미 이를 기대하고 있으므로, 마케팅팀과 컨택 센터팀은 기다릴 시간이 없습니다.

안전, HIPAA, 그리고 신입 직원처럼 에이전트 온보딩하기

감정이 격해진 통화는 대부분의 팀이 가장 먼저 묻는 사항입니다. Renown은 이미 콜센터에서 음성 감정을 측정하고, 그 맥락을 전달 과정에서도 유지한 채 발신자를 더 경험 많은 상담원에게 연결합니다. AI 에이전트에도 같은 원칙이 적용됩니다.

사람을 온보딩하듯 에이전트를 온보딩하세요. SOP와 지식 센터를 제공하고, 중단 상황과 에스컬레이션에 대응하는 행동을 훈련한 뒤, 출시 전과 지속적인 PDSA(계획, 실행, 연구, 조치) 주기에서 적대적 사례를 기준으로 평가합니다.

가드레일은 세 가지 계층으로 작동합니다:

• 제어는 시스템 프롬프트를 통해 수행
• 입력 검증은 에이전트가 응답하기 전에 적대적 시도를 감지
• 실시간 평가는 구성된 정책을 기준으로 모든 응답을 평가

컴플라이언스 측면에서 보호 조치는 EHR에 적용되는 HIPAA 표준을 AI 시스템에 동일하게 적용한 것입니다. AI 공급업체와의 BAA, 상호운용성, 적절한 기록 시스템, 정보가 이동하는 모든 구간에서의 비식별화, 그리고 명시적 동의 없이는 환자 데이터를 학습에 사용하지 않는 것이 포함됩니다. ElevenLabs는 의료 고객과 BAA 체결을 요구하며, 데이터가 처리 목적으로만 전달된 뒤 고객의 제한된 자체 환경으로 반환되어 저장되는 데이터 미보존 모드를 제공합니다.

현재 가능한 것과 측정할 지표

AI는 현재 의료 고객의 프로덕션 환경에서 실시간 저지연 대화를 진행하며, 반드시 물어야 할 질문을 빠뜨리지 않고 스크립트를 따르고 있습니다.

하지만 스택의 모든 모델은 음성 인식 , LLM, 텍스트 음성 변환 여부와 관계없이 본질적으로 확률적입니다. 따라서 이를 둘러싼 결정론적 계층이 중요하며, 모든 배포에는 사람에게 연결할지 더 성능이 뛰어난 모델로 연결할지와 관계없이 위험 임계값과 에스컬레이션 프로토콜을 미리 결정해야 합니다.

이 임계값을 정한 뒤에는 무엇을 추적할지가 핵심입니다. Renown Health는 환자가 다른 모든 서비스에 접근하듯 진료에도 접근할 수 있어야 한다는 관점에서, 에이전트, 전화, 문자 중 어떤 경로에서 유입됐는지 출처를 구분해 채널별 예약 건수를 추적합니다.

또는 환자, 간병인, 의사를 대상으로 순추천지수(NPS)를 추적할 수 있습니다. 대부분의 사람은 이미 자신의 의사를 좋아합니다. 부담을 만드는 것은 진료 자체가 아니라 진료 전후의 모든 과정이므로, 만족도가 높아진다는 것은 부담이 줄어든다는 뜻입니다. 플랫폼 측면에서는 도입 현황을 위해 배포된 에이전트 수와 제공된 통화 시간을, 업무가 제대로 수행되는지 확인하기 위해 CSAT와 셀프서비스 해결률을 살펴봅니다.

의료 분야 AI 에이전트 배포 모범 사례

1. 엣지 케이스가 아닌 히어로 여정을 선택하세요: 전사적으로 확장되는 하나의 고빈도, 측정 가능, 저위험 여정이 결코 확장되지 못하는 여러 특화 배포보다 낫습니다.
2. 프로세스를 자동화하기 전에 데이터를 정비하세요: 일정 템플릿과 오픈 스케줄링 표준을 먼저 정리해야 합니다. 에이전트는 그 아래에 있는 혼란을 그대로 물려받습니다.
3. 의사 챔피언을 확보하고 리더십으로 뒷받침하세요: 기술 작업은 느린 부분이 아닙니다. 독립적인 임상의의 동의를 얻는 일이 더디며, 도입 전 과정에서 실질적인 지원이 필요합니다.
4. 신입 직원처럼 에이전트를 온보딩하세요: SOP, 지식 센터, 중단 상황과 에스컬레이션에 대응하도록 훈련된 행동, 그리고 출시 전과 지속적인 PDSA 주기에서의 적대적 사례 기반 평가가 필요합니다.
5. 사실 정보는 반드시 결정론적으로 처리하세요: 날짜, 가용 여부, 기록 세부 정보는 도구를 통해 조회하세요. 조회할 수 있는 정보를 모델이 추론하게 두지 마세요.
6. 에스컬레이션 임계값을 미리 정의하세요: 스택의 모든 모델은 확률적입니다. 사람 또는 더 성능이 뛰어난 모델로 인계해야 하는 조건을 미리 정하세요.
7. 채널과 만족도별로 측정하세요: 채널별 예약 건수는 환자가 실제로 이를 사용하고 있는지 보여줍니다. 환자, 간병인, 의사 전반의 NPS는 부담이 줄고 있는지를 보여줍니다.

전체 세션 보기

전체 웨비나 Behind the Agent: 의료 분야 AI 배포 세션을 시청하세요.