Sammanfattning av webbinariet: Lärdomar från att driftsätta AI i vården

Hälso- och sjukvårdssystem förväntas göra mer för patienterna utan att öka personalstyrkan. Det som frustrerar patienter mest sker ofta runt vården, inte i den. Att hitta rätt läkare kräver arbete. Detsamma gäller att behöva berätta samma historia vid varje överlämning. 

I vårt senaste Behind the Agent-samtal träffade Cindy Liu (Enterprise Deployment, ElevenLabs) Jacque Myers (Global Healthcare Lead, Slalom), Sylvia Doane Stephenson (Managing Director, Slalom) och Cristal Woodley (Chief Marketing and Experience Officer, Renown Health) för att diskutera var AI-agenter faktiskt används inom vården och vad som krävs för att få en i drift i produktion.

Det som skiljer implementeringar som bygger vidare på sig själva från dem som stannar av är var du börjar: en resa med hög volym, som går att mäta och innebär låg risk, snarare än en spridd uppsättning specialiserade pilotprojekt.

Varför patientresan fortfarande är bruten

Patienter fastnar i en upprepande cykel. De bekräftar vem de är och förklarar varför de ringer vid varje övergång i vården. De väntar och kopplas vidare. Svaren de letar efter på andra håll är inkonsekventa. När de till slut når rätt person får de börja om från början.

Alla kontaktpunkter finns – webbplats, patientportal, kontaktcenter, EHR, fakturering – men de kommunicerar inte med varandra. En sammanhängande resa börjar där patienten befinner sig och engagerar först där risken är låg och effekten stor.

De flesta organisationer börjar med AI i utkanten, i specialiserade användningsfall som valts för låg risk, och inget av det bygger vidare på sig självt. Jacques alternativ är det hon kallar en hero journey: en central resa som representerar mycket av det ni gör, fortfarande med låg risk, som ni bygger vidare på och utökar i stället för att bygga om för varje användningsfall.

Demo: Boka en tid från början till slut

Tidsbokning är en bra kandidat för en hero journey: hög volym, mätbar och tillräckligt låg risk för att bygga vidare på. Så här ser den första delen av den resan ut från början till slut, från patientregistrering till tidsbekräftelse.

Scenario: En patient behöver ett nytt recept på kontaktlinser. Hon hittar en optiker som ingår i nätverket på sitt försäkringsbolags webbplats och ringer mottagningen, där en virtuell bokningsassistent svarar.

Det här visades:

• Agenten hanterade registreringen av en ny patient i dialogform och samlade in namn, födelsedatum och telefonnummer
• Den verifierade hennes telefonnummer med en riktig SMS-kod och återhämtade sig när koden uppfattades fel vid första försöket
• När uppringaren inte kom ihåg sitt medlems-ID för försäkringen sa agenten att hon skulle ta med kortet till besöket och gick vidare
• Den erbjöd tre tider, bokade en och skickade ett bekräftelsemejl baserat på konversationshistoriken samt en påminnelse via sms
• Samma agent fungerade via sms, med samma workflow som en textkonversation och utan någon separat implementation

Varför det är viktigt: En agent låg bakom både telefonlinjen och sms-konversationen, så upplevelsen var omnikanal som standard. Demon tog ungefär två timmar att bygga, tillräckligt snabbt för att ett team ska kunna ta fram en prototyp och presentera den internt inom några dagar. Produktion i en stor organisation har en annan omfattning. Integration, testning och compliance-arbete som en agent behöver före driftsättning står för merparten av arbetet, och på ElevenLabs drivs det arbetet av våra forward deployed engineers.

Var du ska börja och vad som faktiskt blockerar

Ordningen för ett hälso- och sjukvårdssystem som är i startfasen:

• Ambient listening: om det inte redan är integrerat i ert EHR. Det arbetet sker vanligtvis genom en leverantör av dokumentationssystem, men det skapar det förtroende hos kliniker som allt efterföljande arbete är beroende av.
• Kontaktcentret: De flesta system ser det som en kostnadspost. Det kan i stället fungera som ett tillväxtcentrum.
• Patientutbildning och läkemedelsföljsamhet: Upprepningsbara uppgifter med ROI som är mätbar och omedelbar, vilket gör att de kan skalas upp.

Det som blockerar automatisering av kontaktcentret är läkarens schema. Önskekort och schemamallar är den synliga delen. Det långsamma är att samordna förändring bland personer som är välutbildade, mycket skickliga och mycket självständiga. Det som fungerar är läkare som förespråkar förändringen, en samstämmig ledning som kan underlätta den och stöd hela vägen, ibland ända ner till en individuell coach för varje kliniker.

Så bygger Renown Health mot agenter

Renown betjänar patienter över 100 000 kvadratmiles, från Salt Lake City till Sacramento.

Cristals team börjar med ett avgränsat pilotprojekt. Användningsfallen som övervägs undviker patientinformation helt, och interna framgångar bygger underlaget för compliance-arbetet inför nästa steg. 

Vägen dit gick via data. Cristals team arbetade med vårdgivare kring schemamallar samtidigt som de standardiserade öppen tidsbokning. Snabba vinster från ambient listening öppnade dörren: vårdgivare som märkte skillnaden för sin livskvalitet återkom och frågade vad mer som var möjligt.

Hon var också tydlig med tempot: marknadsförings- och kontaktcenterteam har inte tid att vänta, eftersom patienterna redan använder detta och redan förväntar sig det.

Säkerhet, HIPAA och att introducera agenter som nyanställda

Känsloladdade samtal är det första de flesta team frågar om. Renown mäter redan röstsentiment i sitt kontaktcenter och kopplar uppringare till mer erfarna mänskliga agenter, samtidigt som sammanhanget följer med vid överlämningen. Samma disciplin gäller för AI-agenter.

Introducera agenter på samma sätt som människor: ge dem SOP:er och ett kunskapscenter, träna beteenden för avbrott och eskalering, och utvärdera sedan mot antagonistiska exempel före driftsättning och i löpande PDSA-cykler (planera, gör, studera, agera).

Skyddsräcken finns på tre nivåer:

• Styrning genom systemprompten
• Indatavalidering som fångar antagonistiska försök innan agenten svarar
• Utvärdering i realtid av varje svar mot er konfigurerade policy

När det gäller compliance är skyddsåtgärderna samma HIPAA-standarder som styr EHR-system, tillämpade på AI-system: BAA:er med AI-leverantörer, interoperabilitet, rätt system för registerföring, avidentifiering överallt där information förflyttas och ingen träning på patientdata utan uttryckligt samtycke. ElevenLabs kräver ett BAA med vårdkunder och erbjuder ett läge utan datalagring, så data passerar genom systemet för bearbetning och återförs till er egen begränsade miljö för lagring.

Vad som är redo och vad du ska mäta

AI används i produktion hos vårdkunder redan i dag, för samtal i realtid med låg latens och för att följa ett manus utan att hoppa över frågorna den ska ställa.

Men varje modell i stacken är till sin natur probabilistisk, oavsett om det gäller tal till text, LLM:en eller text till tal. Därför är de deterministiska lagren runt dem viktiga, och därför behöver varje implementation en risktröskel och ett eskaleringsprotokoll som beslutats i förväg, oavsett om det leder vidare till en människa eller en mer kapabel modell.

När den tröskeln är fastställd blir frågan vad du följer upp. Renown Health följer bokade tider per kanal, med attribuering för om varje bokning kom via en agent, ett telefonsamtal eller ett sms, eftersom patienter ska kunna nå vården på samma sätt som de når allt annat.

Du kan också följa net promoter score för patienter, vårdgivare och läkare, eftersom de flesta redan tycker om sina läkare. Det är allt runt vården som skapar belastningen, så ökad nöjdhet betyder att belastningen minskar. På plattformssidan följer vi antal driftsatta agenter och hanterade minuter för användning, samt CSAT och deflection rate för att se om arbetet ger resultat.

Bästa praxis för att implementera AI-agenter i vården

1. Välj en hero journey, inte ett specialfall: En resa med hög volym, som går att mäta och innebär låg risk, och som kan utökas i hela organisationen är bättre än en spridd uppsättning specialiserade implementationer som aldrig bygger vidare på sig själva.
2. Ordna data innan du automatiserar processen: Schemamallar och standarder för öppen tidsbokning måste komma i ordning först. En agent ärver den röra som finns under ytan.
3. Hitta läkare som förespråkar förändringen och stötta dem med ledarskap: Det tekniska arbetet är inte den långsamma delen. Att få med självständiga kliniker är det, och det kräver verkligt stöd hela vägen till användning.
4. Introducera agenter som nyanställda: SOP:er, ett kunskapscenter, tränade beteenden för avbrott och eskalering, och sedan utvärdering mot antagonistiska exempel före driftsättning och i löpande PDSA-cykler.
5. Gör allt faktabaserat deterministiskt: Hämta datum, tillgänglighet och journaluppgifter med hjälp av verktyg. Låt inte modellen dra slutsatser om sådant den kan slå upp.
6. Definiera er eskaleringströskel i förväg: Varje modell i stacken är probabilistisk. Bestäm på förhand vad som ska utlösa en överlämning till en människa eller till en mer kapabel modell.
7. Mät per kanal och nöjdhet: Bokade tider per kanal visar om patienterna faktiskt använder det. NPS för patienter, vårdgivare och läkare visar om belastningen minskar.

Se hela sessionen

Se hela webbinariet, Behind the Agent: Session om att implementera AI i vården.