웨비나 요약: 의료 분야 AI 도입에서 얻은 인사이트

의료 시스템은 인력을 늘리지 않고도 환자에게 더 많은 서비스를 제공해야 한다는 요구를 받고 있습니다. 환자가 느끼는 불편의 대부분은 진료 자체가 아니라 진료 전후 과정에서 발생합니다. 적합한 의사를 찾는 일도 쉽지 않습니다. 진료 단계가 바뀔 때마다 같은 이야기를 반복해야 하는 것도 마찬가지입니다. 

최근 Behind the Agent 세션에서 Cindy Liu(ElevenLabs 엔터프라이즈 배포)는 Jacque Myers(Slalom 글로벌 헬스케어 리드), Sylvia Doane Stephenson(Slalom 매니징 디렉터), Cristal Woodley(Renown Health 최고 마케팅 및 경험 책임자)와 함께 의료 분야 전반에서 AI 에이전트가 실제로 배포되는 영역과 프로덕션 환경에서 운영하기 위해 필요한 사항을 살펴봤습니다.

성과가 누적되는 배포와 정체되는 배포를 가르는 핵심은 출발점입니다. 여러 전문 파일럿을 흩어놓는 대신, 트래픽이 많고 측정 가능하며 위험이 낮은 하나의 여정에서 시작해야 합니다.

환자 여정이 여전히 단절되는 이유

환자는 반복의 굴레에 갇혀 있습니다. 진료 단계가 바뀔 때마다 본인 확인을 하고 전화한 이유를 설명해야 합니다. 기다리다가 다른 곳으로 연결됩니다. 어렵게 찾아낸 답변도 일관되지 않습니다. 마침내 적합한 담당자에게 연결되면 처음부터 다시 시작해야 합니다.

웹사이트, 환자 포털, 컨택 센터, EHR, 청구 시스템 등 모든 접점은 존재하지만 서로 연결되어 있지 않습니다. 연결된 여정은 환자가 있는 곳에서 시작하며, 위험은 낮고 효과는 큰 영역부터 먼저 지원합니다.

대부분의 조직은 위험이 낮다는 이유로 선택한 전문적인 엣지 사용 사례에서 AI를 시작하지만, 그 어떤 것도 누적되지 않습니다. Jacque가 제시하는 대안은 히어로 여정입니다. 조직이 수행하는 업무의 상당 부분을 대표하면서도 위험은 낮은 핵심 여정으로, 사용 사례마다 새로 구축하는 대신 이를 기반으로 확장해 나가는 방식입니다.

데모: 처음부터 끝까지 예약하기

예약 일정 관리는 히어로 여정에 적합한 후보입니다. 트래픽이 많고, 측정할 수 있으며, 확장하기에 충분히 위험이 낮기 때문입니다. 아래는 환자 접수부터 예약 확인까지 이 여정의 앞단이 처음부터 끝까지 어떻게 구성되는지 보여줍니다.

시나리오: 환자에게 새 콘택트렌즈 처방전이 필요합니다. 보험사 웹사이트에서 보험 적용을 받는 검안의를 찾아 해당 병원에 전화하자, 가상 예약 지원 어시스턴트가 전화를 받습니다.

데모 내용:

• 에이전트는 자연스러운 대화로 신규 환자 접수를 진행하며 이름, 생년월일, 전화번호를 수집했습니다
• 실제 SMS 인증 코드로 전화번호를 확인했으며, 첫 번째 시도에서 코드를 잘못 알아들었을 때도 복구했습니다
• 발신자가 보험 가입자 ID를 기억하지 못하자, 에이전트는 예약 시 보험 카드를 지참하라고 안내한 뒤 다음 단계로 진행했습니다
• 3개의 시간대를 제안해 하나를 예약하고, 대화 기록을 바탕으로 작성한 확인 이메일과 문자 알림을 보냈습니다
• 동일한 에이전트가 SMS에서도 작동했으며, 별도 구축 없이 같은 workflow가 텍스트 대화로 실행됐습니다

중요한 이유: 하나의 에이전트가 전화와 문자 대화 모두를 지원하므로, 기본적으로 옴니채널 경험을 제공했습니다. 데모 구축에는 약 2시간이 걸렸으며, 팀이 며칠 안에 프로토타입을 만들고 내부 제안을 하기에 충분히 빠른 속도입니다. 다만 엔터프라이즈 프로덕션은 범위가 다릅니다. 정식 운영 전 에이전트에 필요한 통합, 테스트, 컴플라이언스 작업에 대부분의 노력이 들어가며, ElevenLabs에서는 포워드 배포 엔지니어가 이 작업을 수행합니다.

시작점과 실제 장애물

의료 시스템이 시작할 때의 순서:

• 앰비언트 리스닝: 아직 EHR에 통합되지 않았다면 여기서 시작합니다. 이 작업은 보통 문서화 벤더를 통해 진행되지만, 이후 모든 단계의 기반이 되는 임상의의 신뢰를 얻을 수 있습니다.
• 컨택 센터: 대부분의 시스템은 이를 비용 항목으로 취급합니다. 하지만 성장의 중심으로 운영할 수 있습니다.
• 환자 교육 및 복약 순응도: ROI를 즉시 측정할 수 있는 반복 업무이므로 확장할 수 있습니다.

컨택 센터 자동화의 이면에 있는 장애물은 의사 일정 관리입니다. 선호도 카드와 일정 템플릿은 눈에 보이는 부분일 뿐입니다. 더디게 진행되는 부분은 고도로 훈련되고 숙련됐으며 독립성이 강한 사람들 사이에서 변화를 조율하는 일입니다. 효과적인 방법은 의사 챔피언을 확보하고, 변화를 이끌 수 있는 리더십을 정렬하며, 도입 전 과정에서 실질적인 지원을 제공하는 것입니다. 때로는 임상의 한 명당 전담 코치가 필요할 수도 있습니다.

Renown Health의 에이전트 도입 과정

Renown은 솔트레이크시티에서 새크라멘토까지 10만 제곱마일에 걸쳐 환자에게 서비스를 제공합니다.

Cristal의 팀은 범위를 명확히 정한 파일럿으로 시작하고 있습니다. 검토 중인 사용 사례는 환자 정보를 전혀 다루지 않으며, 내부에서 거둔 성과가 다음 단계를 위한 컴플라이언스 검토의 근거를 마련합니다. 

그 과정은 데이터에서 시작됐습니다. Cristal의 팀은 오픈 스케줄링을 표준화하는 동시에 의료진과 함께 일정 템플릿을 검토했습니다. 앰비언트 리스닝에서 얻은 빠른 성과가 문을 열었습니다. 삶의 질에 변화를 체감한 의료진이 돌아와 다른 무엇이 가능한지 물었습니다.

그녀는 속도에 대해서도 분명히 말했습니다. 환자들이 이미 이 기술을 사용하고 있고 이를 당연하게 기대하고 있으므로, 마케팅 및 컨택 센터 팀에는 기다릴 시간이 없습니다.

안전, HIPAA, 그리고 신입 직원처럼 에이전트 온보딩하기

감정이 격해진 통화는 대부분의 팀이 가장 먼저 묻는 사항입니다. Renown은 이미 컨택 센터에서 음성 감정을 측정하고, 발신자를 더 경험 많은 상담원에게 연결하면서 해당 맥락도 함께 전달합니다. AI 에이전트에도 같은 원칙이 적용됩니다.

직원을 온보딩하듯 에이전트를 온보딩하세요. SOP와 지식 센터를 제공하고, 중단 상황과 에스컬레이션에 대응하는 행동을 학습시킨 뒤, 정식 운영 전과 지속적인 PDSA(계획, 실행, 연구, 조치) 사이클에서 적대적 사례를 기준으로 평가합니다.

가드레일은 3개 계층으로 작동합니다:

• 제어 시스템 프롬프트를 통한 제어
• 입력 검증 에이전트가 응답하기 전에 적대적 시도를 감지합니다
• 실시간 평가 구성된 정책에 따라 모든 응답을 평가합니다

컴플라이언스 측면에서의 보호 장치는 EHR에 적용되는 HIPAA 표준을 AI 시스템에 적용한 것과 같습니다. AI 벤더와의 BAA, 상호 운용성, 적절한 시스템 오브 레코드, 정보가 이동하는 모든 구간에서의 비식별화, 명시적 동의 없는 환자 데이터 학습 금지가 포함됩니다. ElevenLabs는 의료 고객에게 BAA를 요구하며, 데이터 무보존 모드를 제공합니다. 데이터는 처리 목적으로만 전달된 후, 저장을 위해 고객의 제한된 자체 환경으로 반환됩니다.

준비된 것과 측정할 항목

AI는 오늘날 의료 고객의 프로덕션 환경에서 이미 운영되고 있으며, 실시간 저지연 대화를 수행하고 반드시 질문해야 하는 항목을 빠뜨리지 않고 스크립트를 따릅니다.

하지만 음성 인식, LLM, 텍스트 음성 변환 중 무엇이든 스택의 모든 모델은 본질적으로 확률적입니다. 그래서 이를 둘러싼 결정론적 계층이 중요하며, 모든 배포에서 사람 또는 더 성능이 높은 모델로 연결하는 위험 임계값과 에스컬레이션 프로토콜을 사전에 정해야 합니다.

임계값을 설정한 다음에는 무엇을 추적할지 결정해야 합니다. Renown Health는 환자가 다른 모든 서비스에 접근하듯 진료에도 접근할 수 있어야 한다는 원칙에 따라, 에이전트·전화·문자 중 어떤 경로를 통해 예약됐는지 출처를 구분하여 채널별 예약 건수를 추적합니다.

또는 환자, 간병인, 의사 전반의 순추천지수(NPS)를 추적할 수 있습니다. 대부분의 사람은 이미 자신의 의사를 좋아합니다. 부담을 만드는 것은 진료 자체가 아니라 그 주변의 모든 과정이므로, 만족도가 높아진다는 것은 부담이 줄어든다는 뜻입니다. 플랫폼 측면에서는 도입 현황을 위해 배포된 에이전트 수와 제공된 통화 시간을, 업무 성과를 위해 CSAT와 상담 전환 방지율을 확인합니다.

의료 분야 AI 에이전트 배포 모범 사례

1. 엣지 사례가 아닌 히어로 여정을 선택하세요: 조직 전체로 확장할 수 있는 트래픽이 많고 측정 가능하며 위험이 낮은 하나의 여정이, 결코 누적되지 않는 여러 전문 배포보다 낫습니다.
2. 프로세스를 자동화하기 전에 데이터를 정비하세요: 일정 템플릿과 오픈 스케줄링 표준을 먼저 정리해야 합니다. 에이전트는 기반에 있는 모든 혼란을 그대로 물려받습니다.
3. 의사 챔피언을 확보하고 리더십의 지원을 받으세요: 기술 작업은 느린 부분이 아닙니다. 독립적인 임상의의 동의를 얻는 일이 더 오래 걸리며, 도입 전 과정에서 실질적인 지원이 필요합니다.
4. 신입 직원처럼 에이전트를 온보딩하세요: SOP, 지식 센터, 중단 상황 및 에스컬레이션에 대응하도록 학습된 행동, 그리고 정식 운영 전과 지속적인 PDSA 사이클에서의 적대적 사례 평가가 필요합니다.
5. 사실에 관한 내용은 결정론적으로 처리하세요: 날짜, 가용 시간, 기록 세부 정보는 도구를 통해 조회하세요. 조회할 수 있는 내용을 모델이 추론하게 두지 마세요.
6. 에스컬레이션 임계값을 미리 정의하세요: 스택의 모든 모델은 확률적입니다. 사람 또는 더 성능이 높은 모델로 전환해야 하는 조건을 미리 결정하세요.
7. 채널과 만족도 기준으로 측정하세요: 채널별 예약 건수는 환자가 실제로 이를 사용하는지 보여줍니다. 환자, 간병인, 의사 전반의 NPS는 부담이 줄어들고 있는지 보여줍니다.

전체 세션 보기

전체 웨비나 보기: Behind the Agent: 의료 분야 AI 배포 세션.