Sammanfattning av webbinariet: Lärdomar från att driftsätta AI i vården

Hälso- och sjukvårdssystem förväntas göra mer för patienterna utan att öka personalstyrkan. Det som oftast frustrerar patienter sker runt vården, inte i själva vården. Att hitta rätt läkare kräver arbete. Detsamma gäller att behöva berätta samma sak vid varje överlämning. 

I vår senaste Behind the Agent-session samtalade Cindy Liu (Enterprise Deployment, ElevenLabs) med Jacque Myers (Global Healthcare Lead, Slalom), Sylvia Doane Stephenson (Managing Director, Slalom) och Cristal Woodley (Chief Marketing and Experience Officer, Renown Health) om var AI-agenter faktiskt används inom hälso- och sjukvården och vad som krävs för att sätta en i produktion.

Det som skiljer implementationer som bygger vidare på varandra från dem som stannar av är var du börjar: en process med hög volym, låg risk och tydliga mätvärden, i stället för en spridd samling specialiserade pilotprojekt.

Varför patientresan fortfarande är bristfällig

Patienter fastnar i en upprepande cykel. De bekräftar vem de är och förklarar varför de ringer vid varje övergång i vården. De väntar och kopplas vidare. Svaren de söker på andra håll är inkonsekventa. När de till slut når rätt person får de börja om från början.

Alla kontaktpunkter finns – webbplats, patientportal, kontaktcenter, journalsystem och fakturering – men de kommunicerar inte med varandra. En sammanhängande patientresa börjar där patienten är och tar först kontakt där risken är låg och effekten stor.

De flesta organisationer börjar med AI i utkanten, i specialiserade användningsfall som väljs för sin låga risk, och inget av det bygger vidare på något annat. Jacques alternativ är det hon kallar en huvudresa: en central resa som representerar mycket av det ni gör, fortfarande med låg risk, som ni bygger vidare på och utökar i stället för att bygga om för varje användningsfall.

Demo: Boka en tid från början till slut

Tidsbokning är en bra kandidat för en huvudresa: hög volym, tydliga mätvärden och tillräckligt låg risk att bygga vidare på. Så här ser början av den resan ut från början till slut, från patientregistrering till bokningsbekräftelse.

Scenario: En patient behöver ett nytt recept på kontaktlinser. Hon hittar en optiker som ingår i försäkringsnätverket på sin försäkringsgivares webbplats och ringer mottagningen, där en virtuell bokningsassistent svarar.

Det som visades:

• Agenten hanterade registreringen av en ny patient i samtalsform och samlade in namn, födelsedatum och telefonnummer
• Den verifierade hennes telefonnummer med en riktig SMS-kod och hanterade att koden uppfattades fel vid första försöket
• När uppringaren inte kom ihåg sitt medlems-ID hos försäkringsbolaget bad agenten henne att ta med kortet till besöket och gick vidare
• Den erbjöd tre tider, bokade en och skickade ett bekräftelsemejl baserat på konversationshistoriken samt en sms-påminnelse
• Samma agent fungerade via SMS, med identiskt workflow som en textkonversation och utan att behöva byggas separat

Varför det är viktigt: En agent låg bakom både telefonlinjen och sms-konversationen, så upplevelsen var omnikanal som standard. Demon tog omkring två timmar att bygga, tillräckligt snabbt för att ett team ska kunna skapa en prototyp och presentera den internt inom några dagar. Produktion i storföretag är en annan omfattning. Integrations-, test- och efterlevnadsarbetet som en agent behöver före lansering står för merparten av arbetet, och på ElevenLabs hanteras det av våra fältplacerade ingenjörer.

Var du ska börja och vad som faktiskt bromsar

Ordningen för ett hälso- och sjukvårdssystem som börjar:

• Ambient listening: om det inte redan är integrerat i ert journalsystem. Arbetet går vanligtvis genom en dokumentationsleverantör, men det skapar det förtroende hos klinikerna som allt efterföljande arbete är beroende av.
• Kontaktcentret: De flesta system ser det som en kostnadspost. Det kan i stället fungera som ett tillväxtcenter.
• Patientutbildning och läkemedelsföljsamhet: Upprepningsbara uppgifter med mätbar och omedelbar ROI, vilket gör att de kan skalas.

Det som hindrar automatisering av kontaktcentret är läkarschemaläggning. Preferenskort och schemamallar är den synliga delen. Det långsamma är att samordna förändring mellan personer som är välutbildade, mycket skickliga och mycket självständiga. Det som fungerar är läkare som förespråkar förändringen, samspelt ledarskap som kan driva den och kontinuerligt stöd, ibland så långt som en egen coach för varje kliniker.

Så bygger Renown Health mot agenter

Renown hjälper patienter över ett område på 100 000 kvadratmil, från Salt Lake City till Sacramento.

Cristals team börjar med ett avgränsat pilotprojekt. Användningsfallen som övervägs undviker patientinformation helt och hållet, och de interna framgångarna bygger underlaget för efterlevnadsteamet inför nästa steg. 

Vägen dit gick via data. Cristals team arbetade tillsammans med vårdgivare kring schemamallar samtidigt som de standardiserade öppen tidsbokning. Snabba vinster med ambient listening öppnade dörren: vårdgivare som märkte skillnaden för sin livskvalitet återkom och frågade vad mer som var möjligt.

Hon var också tydlig med tempot: marknadsförings- och kontaktcenterteam har inte tid att vänta, eftersom patienter redan använder detta och redan förväntar sig det.

Säkerhet, HIPAA och att introducera agenter som nyanställda

Känslomässigt laddade samtal är det första de flesta team frågar om. Renown mäter redan röstsentiment i sitt kontaktcenter och kopplar vidare uppringare till mer erfarna mänskliga agenter, med kontexten kvar vid överlämningen. Samma disciplin gäller för AI-agenter.

Introducera agenter på samma sätt som du introducerar människor: ge dem SOP:er och ett kunskapscenter, träna beteenden för avbrott och eskalering och utvärdera dem sedan mot antagonistiska exempel före lansering och i löpande PDSA-cykler (plan, do, study, act).

Skyddsräcken finns på tre nivåer:

• Styrning via systemprompten
• Indatavalidering som fångar antagonistiska försök innan agenten svarar
• Utvärdering i realtid av varje svar mot er konfigurerade policy

När det gäller efterlevnad handlar skyddsåtgärderna om samma HIPAA-standarder som styr journalsystem, tillämpade på AI-system: BAA:er med AI-leverantörer, interoperabilitet, rätt system för registerhållning, avidentifiering överallt där information flyttas och ingen träning på patientdata utan uttryckligt samtycke. ElevenLabs kräver ett BAA med kunder inom hälso- och sjukvården och erbjuder ett läge utan datalagring, så data passerar genom systemet för bearbetning och återförs till er egen begränsade miljö för lagring.

Vad som är redo och vad du ska mäta

AI används redan i produktion hos vårdkunder i dag, för realtidskonversationer med låg latens och för att följa ett manus utan att hoppa över frågorna den ska ställa.

Alla modeller i stacken är dock till sin natur probabilistiska, oavsett om det gäller tal till text, LLM:en eller text till tal. Därför är de deterministiska lagren runt dem viktiga, och därför behöver varje implementation en i förväg bestämd risktröskel och ett eskaleringsprotokoll, oavsett om det innebär att ärendet överlämnas till en människa eller till en mer kapabel modell.

När tröskeln är satt blir frågan vad du ska följa upp. Renown Health följer bokade tider per kanal och tillskriver varje bokning en agent, ett telefonsamtal eller ett sms, eftersom patienter ska kunna nå vården på samma sätt som de når allt annat.

Du kan också följa net promoter score bland patienter, vårdgivare och läkare, eftersom de flesta redan tycker om sina läkare. Det är allt runt vården som skapar belastningen, så ökad nöjdhet betyder att belastningen minskar. På plattformssidan följer vi antalet implementerade agenter och hanterade minuter för användning, samt CSAT och deflection rate för att se om arbetet ger resultat.

Bästa praxis för att implementera AI-agenter inom hälso- och sjukvården

1. Välj en huvudresa, inte ett specialfall: En resa med hög volym, tydliga mätvärden och låg risk som utökas i hela verksamheten är bättre än en spridd samling specialiserade implementationer som aldrig bygger vidare på varandra.
2. Fixa datan innan du automatiserar processen: Schemamallar och standarder för öppen tidsbokning måste ordnas först. En agent ärver röran som finns under den.
3. Rekrytera läkare som förespråkar förändringen och stötta dem med ledarskap: Det tekniska arbetet är inte den långsamma delen. Det är att få med sig självständiga kliniker, och det kräver verkligt stöd genom hela införandet.
4. Introducera agenter som nyanställda: SOP:er, ett kunskapscenter, tränade beteenden för avbrott och eskalering samt utvärdering mot antagonistiska exempel före lansering och i löpande PDSA-cykler.
5. Gör allt faktabaserat deterministiskt: Hämta datum, tillgänglighet och registeruppgifter genom verktyg. Låt inte modellen dra slutsatser om sådant den kan slå upp.
6. Definiera er eskaleringströskel i förväg: Varje modell i stacken är probabilistisk. Bestäm i förväg vad som ska utlösa en överlämning till en människa eller till en mer kapabel modell.
7. Mät per kanal och nöjdhet: Bokade tider per kanal visar om patienterna faktiskt använder det. NPS bland patienter, vårdgivare och läkare visar om belastningen minskar.

Se hela sessionen

Se hela webbinariet, Behind the Agent: Session om att implementera AI inom hälso- och sjukvården.