웨비나 요약: 의료 분야 AI 도입에서 얻은 인사이트

의료 시스템은 인력을 늘리지 않고도 환자를 위해 더 많은 일을 해야 한다는 요구를 받고 있습니다. 환자가 불편을 겪는 대부분의 일은 진료 자체가 아니라 진료 전후 과정에서 발생합니다. 적합한 의사를 찾는 일도 쉽지 않습니다. 진료 단계가 바뀔 때마다 같은 이야기를 반복해야 하는 일도 마찬가지입니다. 

최근 Behind the Agent 세션에서 Cindy Liu(ElevenLabs 엔터프라이즈 배포 담당)는 Jacque Myers(Slalom 글로벌 헬스케어 총괄), Sylvia Doane Stephenson(Slalom 매니징 디렉터), 그리고 Cristal Woodley(Renown Health 최고 마케팅 및 경험 책임자)와 함께 의료 전반에서 AI 에이전트가 실제로 어디에 배포되고 있는지, 그리고 이를 프로덕션 환경에서 운영하려면 무엇이 필요한지 살펴봤습니다.

성과가 누적되는 배포와 멈춰 버리는 배포를 가르는 차이는 시작점에 있습니다. 여러 전문 파일럿을 흩어 놓는 대신, 트래픽이 많고 측정 가능하며 위험이 낮은 하나의 여정에서 시작하는 것입니다.

환자 여정이 여전히 단절된 이유

환자는 반복의 굴레에 갇혀 있습니다. 진료가 전환될 때마다 본인 확인을 하고 전화한 이유를 설명합니다. 기다리다가 다른 곳으로 연결됩니다. 다른 경로에서 찾아낸 답변도 일관되지 않습니다. 마침내 적절한 담당자에게 연결돼도 처음부터 다시 시작해야 합니다.

웹사이트, 환자 포털, 컨택 센터, EHR, 청구 등 모든 접점은 존재하지만 서로 연동되지 않습니다. 연결된 여정은 환자가 있는 곳에서 시작해, 위험은 낮고 영향은 큰 영역부터 서비스를 제공합니다.

대부분의 조직은 위험이 낮다는 이유로 선택한 전문적인 엣지 사용 사례부터 AI를 시작하지만, 어느 것도 축적되지 않습니다. Jacque가 제시하는 대안은 '히어로 여정'입니다. 조직 업무의 큰 부분을 대표하면서도 위험은 낮은 핵심 여정을 구축하고 확장해 나가는 방식으로, 사용 사례마다 새로 구축할 필요가 없습니다.

데모: 처음부터 끝까지 예약하기

예약 일정 관리는 히어로 여정에 적합한 후보입니다. 트래픽이 많고 측정 가능하며, 그 위에 확장할 수 있을 만큼 위험이 낮습니다. 환자 접수부터 예약 확인까지, 이 여정의 시작 단계가 처음부터 끝까지 어떻게 진행되는지 살펴보겠습니다.

시나리오: 환자에게 새 콘택트렌즈 처방전이 필요합니다. 보험사 웹사이트에서 보험 적용이 되는 검안의를 찾아 병원에 전화하자, 가상 예약 어시스턴트가 전화를 받습니다.

데모에서 선보인 내용:

• 에이전트는 대화 방식으로 신규 환자 접수를 처리하며 이름, 생년월일, 전화번호를 수집했습니다
• 실제 SMS 코드로 전화번호를 인증했으며, 첫 시도에서 코드를 잘못 들었을 때도 정상적으로 처리했습니다
• 발신자가 보험 가입자 ID를 기억하지 못하자, 에이전트는 예약 시 카드를 가져오도록 안내한 뒤 다음 단계로 넘어갔습니다
• 예약 가능 시간 3개를 제안해 하나를 예약하고, 대화 기록을 바탕으로 작성한 확인 이메일과 문자 알림을 보냈습니다
• 동일한 에이전트가 SMS에서도 작동했으며, 별도의 구축 없이 같은 워크플로가 문자 대화로 실행됐습니다

중요한 이유: 하나의 에이전트가 전화와 문자 대화 모두를 지원하므로 기본적으로 옴니채널 경험을 제공했습니다. 데모 구축에는 약 2시간이 걸렸으며, 팀이 며칠 안에 프로토타입을 만들고 내부에 제안할 수 있을 만큼 빨랐습니다. 엔터프라이즈 프로덕션은 범위가 다릅니다. 에이전트가 운영을 시작하기 전 필요한 통합, 테스트, 규정 준수 작업에 대부분의 노력이 들어가며, ElevenLabs에서는 전담 현장 배포 엔지니어가 이 작업을 수행합니다.

어디서 시작할지, 그리고 실제 장애 요인은 무엇인지

의료 시스템이 시작할 때의 순서:

• 앰비언트 리스닝: 아직 EHR에 통합되지 않았다면 여기서 시작하세요. 이 작업은 대개 문서화 솔루션 제공업체를 통해 진행되지만, 이후 모든 단계의 기반이 되는 임상의의 신뢰를 얻을 수 있습니다.
• 컨택 센터: 대부분의 시스템은 이를 비용 항목으로 봅니다. 하지만 성장 센터로 운영할 수 있습니다.
• 환자 교육 및 복약 순응도: ROI를 즉시 측정할 수 있는 반복 업무이므로 확장할 수 있습니다.

컨택 센터 자동화의 걸림돌은 의사 일정 관리입니다. 선호도 카드와 일정 템플릿은 눈에 보이는 부분입니다. 시간이 걸리는 부분은 고도로 훈련되고 숙련됐으며 독립성이 높은 사람들 사이에서 변화를 조율하는 일입니다. 효과적인 방법은 의사 챔피언을 확보하고, 변화를 이끌 수 있도록 뜻을 모은 리더십과 지속적인 지원을 제공하는 것입니다. 때로는 임상의 한 명당 코치를 배정해야 할 수도 있습니다.

Renown Health의 에이전트 도입 준비 방식

Renown은 솔트레이크시티부터 새크라멘토까지 10만 제곱마일에 걸쳐 환자에게 서비스를 제공합니다.

Cristal의 팀은 범위를 정한 파일럿부터 시작하고 있습니다. 검토 중인 사용 사례는 환자 정보를 전혀 다루지 않으며, 내부에서 거둔 성과가 다음 단계를 위한 규정 준수 논의를 뒷받침합니다. 

그 과정의 출발점은 데이터였습니다. Cristal의 팀은 오픈 스케줄링을 표준화하는 동시에 의료 제공자들과 함께 일정 템플릿을 검토했습니다. 앰비언트 리스닝의 빠른 성과가 문을 열었습니다. 삶의 질 차이를 체감한 의료 제공자들은 다시 찾아와 그 밖에 무엇이 가능한지 물었습니다.

그녀는 속도에 대해서도 분명히 말했습니다. 환자들은 이미 이 기술을 사용하고 있고 이를 당연하게 기대하고 있으므로, 마케팅 및 컨택 센터 팀은 기다릴 시간이 없습니다.

안전, HIPAA, 그리고 신입 직원처럼 에이전트 온보딩하기

감정이 격한 통화는 대부분의 팀이 가장 먼저 묻는 부분입니다. Renown은 이미 컨택 센터에서 음성 감정을 측정하고, 발신자를 더 숙련된 상담원에게 연결하면서 그 맥락을 전환 과정 내내 전달합니다. 같은 원칙이 AI 에이전트에도 적용됩니다.

사람을 온보딩하듯 에이전트도 온보딩하세요. SOP와 지식 센터를 제공하고, 중단 상황과 에스컬레이션에 대응하는 행동을 훈련한 뒤, 운영 시작 전과 지속적인 PDSA(계획, 실행, 연구, 조치) 주기에서 적대적 사례를 기준으로 평가합니다.

가드레일은 3개 계층으로 작동합니다:

• 조정: 시스템 프롬프트를 통해 수행
• 입력 검증: 에이전트가 응답하기 전에 적대적 시도를 포착
• 실시간 평가: 구성한 정책을 기준으로 모든 응답을 평가

규정 준수 측면에서 안전장치는 EHR에 적용되는 것과 동일한 HIPAA 표준을 AI 시스템에 적용하는 것입니다. AI 공급업체와의 BAA, 상호운용성, 적절한 원본 시스템, 정보가 이동하는 모든 곳에서의 비식별화, 그리고 명시적 동의 없이 환자 데이터로 학습하지 않는 것이 포함됩니다. ElevenLabs는 의료 고객과 BAA를 체결하며, 데이터가 처리 목적으로만 전달된 뒤 저장을 위해 고객의 제한된 환경으로 반환되는 무데이터 보존 모드를 제공합니다.

준비된 것은 무엇이며, 무엇을 측정해야 하는지

AI는 오늘날 의료 고객의 프로덕션 환경에서 실시간 저지연 대화를 나누고, 반드시 물어야 할 질문을 빠뜨리지 않으면서 스크립트를 따르고 있습니다.

하지만 스택 내 모든 모델은 음성 인식, LLM 또는 텍스트 음성 변환 여부와 관계없이 본질적으로 확률적입니다. 그렇기 때문에 이를 둘러싼 결정론적 계층이 중요하며, 모든 배포에서 사람 또는 더 성능이 뛰어난 모델로 연결할지 여부와 관계없이 위험 임계값과 에스컬레이션 프로토콜을 미리 정해야 합니다.

임계값을 정했다면 다음 질문은 무엇을 추적할지입니다. Renown Health는 환자가 다른 모든 서비스에 접근하는 방식처럼 진료에도 접근할 수 있어야 한다고 보고, 에이전트, 전화 또는 문자 중 어떤 경로로 예약됐는지 기여도를 포함해 채널별 예약 건수를 추적합니다.

또는 환자, 보호자, 의사 전반의 순추천지수(NPS)를 추적할 수 있습니다. 대부분의 사람은 이미 자신의 의사를 좋아하기 때문입니다. 부담을 만드는 것은 진료 자체가 아니라 진료를 둘러싼 모든 과정이므로, 만족도가 높아진다는 것은 부담이 줄어든다는 뜻입니다. 플랫폼 측면에서는 도입 현황을 위해 배포된 에이전트 수와 제공된 통화 시간을, 성과를 위해 CSAT와 상담 전환 방지율을 살펴봅니다.

의료 분야 AI 에이전트 배포 모범 사례

1. 엣지 사례가 아닌 히어로 여정을 선택하세요: 엔터프라이즈 전반으로 확장할 수 있는 트래픽이 많고 측정 가능하며 위험이 낮은 하나의 여정이, 누적 효과를 내지 못하는 여러 전문 배포보다 낫습니다.
2. 프로세스를 자동화하기 전에 데이터를 정비하세요: 일정 템플릿과 오픈 스케줄링 표준을 먼저 정리해야 합니다. 에이전트는 그 아래에 있는 혼란을 그대로 물려받습니다.
3. 의사 챔피언을 확보하고 리더십의 지원을 받으세요: 기술 작업은 시간이 오래 걸리는 부분이 아닙니다. 독립적인 임상의의 동의를 얻는 일이 더 어렵고, 도입 전 과정에 걸쳐 실질적인 지원이 필요합니다.
4. 신입 직원처럼 에이전트를 온보딩하세요: SOP, 지식 센터, 중단 상황과 에스컬레이션에 대응하도록 훈련된 행동, 그리고 운영 시작 전 및 지속적인 PDSA 주기에서의 적대적 사례 평가가 필요합니다.
5. 사실 정보는 반드시 결정론적으로 처리하세요: 도구를 통해 날짜, 예약 가능 여부, 기록 세부 정보를 조회하세요. 조회할 수 있는 정보를 모델이 추론하게 두지 마세요.
6. 에스컬레이션 임계값을 미리 정의하세요: 스택 내 모든 모델은 확률적입니다. 사람 또는 더 성능이 뛰어난 모델로 넘기는 기준을 미리 결정하세요.
7. 채널과 만족도를 기준으로 측정하세요: 채널별 예약 건수는 환자가 실제로 이를 사용하고 있는지 보여 줍니다. 환자, 보호자, 의사 전반의 NPS는 부담이 줄고 있는지 보여 줍니다.

전체 세션 보기

전체 웨비나 Behind the Agent: 의료 분야 AI 배포 세션을 시청하세요.