Sammanfattning av webbinariet: Lärdomar från att driftsätta AI i vården

Vårdsystem förväntas göra mer för patienterna utan att öka personalstyrkan. Det som frustrerar patienter mest händer ofta runt vården, inte i den. Att hitta rätt läkare kräver arbete. Detsamma gäller att behöva berätta samma historia vid varje överlämning. 

I vårt senaste Behind the Agent-samtal träffade Cindy Liu (Enterprise Deployment, ElevenLabs) Jacque Myers (Global Healthcare Lead, Slalom), Sylvia Doane Stephenson (Managing Director, Slalom) och Cristal Woodley (Chief Marketing and Experience Officer, Renown Health) för att se var AI-agenter faktiskt driftsätts inom vården och vad som krävs för att få dem i produktion.

Det som skiljer driftsättningar som bygger vidare på varandra från dem som stannar av är var du börjar: en resa med hög volym, mätbara resultat och låg risk, i stället för en spridd samling specialiserade pilotprojekt.

Varför patientresan fortfarande brister

Patienter fastnar i en upprepande cykel. De bekräftar vem de är och förklarar varför de ringer vid varje övergång i vården. De väntar och kopplas vidare. Svaren de söker på andra håll är inkonsekventa. När de till slut når rätt person får de börja om från början.

Alla kontaktpunkter finns – webbplats, patientportal, kontaktcenter, journalsystem och fakturering – men de kommunicerar inte med varandra. En sammanhängande resa börjar där patienten är och tar första kontakten där risken är låg och effekten stor.

De flesta organisationer börjar med AI i utkanten, i specialiserade användningsfall som valts för låg risk, och inget av det bygger vidare på annat. Jacques alternativ är det hon kallar en huvudresa: en central resa som speglar mycket av det ni gör, fortfarande med låg risk, och som ni kan bygga vidare på och utöka i stället för att börja om för varje användningsfall.

Demo: Boka ett besök från början till slut

Tidsbokning är en bra kandidat för en huvudresa: hög volym, mätbar och tillräckligt låg risk för att bygga vidare på. Så här ser början av den resan ut från början till slut, från patientregistrering till bekräftelse av besöket.

Scenario: En patient behöver ett nytt recept på kontaktlinser. Hon hittar en optiker inom försäkringsnätverket på sitt försäkringsbolags webbplats och ringer mottagningen, där en virtuell bokningsassistent svarar.

Det som visades:

• Agenten hanterade registreringen av en ny patient i samtalsform och samlade in namn, födelsedatum och telefonnummer
• Den verifierade hennes telefonnummer med en riktig SMS-kod och återhämtade sig när koden hördes fel vid första försöket
• När inringaren inte kom ihåg sitt medlems-ID för försäkringen bad agenten henne att ta med kortet till besöket och gick vidare
• Den erbjöd tre tider, bokade en och skickade ett bekräftelsemejl baserat på samtalshistoriken samt en påminnelse via sms
• Samma agent fungerade via sms, med identiskt workflow i form av en textkonversation och utan att behöva byggas separat

Varför det är viktigt: En agent låg bakom både telefonlinjen och sms-konversationen, så upplevelsen fungerade i flera kanaler från början. Demon tog omkring två timmar att bygga, tillräckligt snabbt för att ett team ska kunna skapa en prototyp och presentera den internt inom några dagar. Produktion i större företag är något annat. Det mesta av arbetet ligger i den integration, testning och efterlevnad som agenten behöver före driftsättning, och på ElevenLabs görs detta av våra forward deployed engineers.

Var du ska börja och vad som faktiskt bromsar

Ordningen för ett vårdsystem som ska komma i gång:

• Ambient listening: om det inte redan är integrerat med ert journalsystem. Arbetet går vanligtvis via en leverantör av dokumentationslösningar, men det skapar det förtroende hos vårdpersonalen som allt efterföljande arbete bygger på.
• Kontaktcentret: De flesta system ser det som en kostnadspost. I stället kan det fungera som en tillväxtmotor.
• Patientutbildning och följsamhet till läkemedelsbehandling: Upprepningsbara uppgifter med ROI som är mätbar och omedelbar, vilket gör dem möjliga att skala.

Det som hindrar automatisering av kontaktcentret är läkarschemaläggning. Preferenskort och schemamallar är den synliga delen. Det som tar tid är att samordna förändring bland människor som är högutbildade, mycket kompetenta och mycket självständiga. Det som fungerar är läkare som driver förändringen, samordnat ledarskap som kan underlätta den och fortsatt stöd, ibland ända ner till en personlig coach för varje kliniker.

Så bygger Renown Health mot agenter

Renown ger vård till patienter över 100 000 kvadratmiles, från Salt Lake City till Sacramento.

Cristals team börjar med ett avgränsat pilotprojekt. De användningsfall som övervägs undviker patientinformation helt, och de interna framgångarna bygger underlaget för efterlevnadsarbetet i nästa steg. 

Vägen dit gick via data. Cristals team arbetade tillsammans med vårdgivare kring schemamallar samtidigt som de standardiserade öppen bokning. Snabba vinster från ambient listening öppnade dörren: vårdgivare som märkte skillnaden i sin livskvalitet kom tillbaka och frågade vad mer som var möjligt.

Hon var också tydlig med tempot: marknadsförings- och kontaktcenterteam har inte tid att vänta, eftersom patienterna redan använder detta och redan förväntar sig det.

Säkerhet, HIPAA och att introducera agenter som nyanställda

Samtal med starka känslor är det första de flesta team frågar om. Renown mäter redan röstsentiment i sitt kontaktcenter och kopplar vidare inringare till mer erfarna mänskliga agenter, med sammanhanget bevarat vid överlämningen. Samma noggrannhet gäller för AI-agenter.

Introducera agenter på samma sätt som ni introducerar människor: ge dem SOP:er och ett kunskapscenter, träna beteenden för avbrott och eskalering och utvärdera dem sedan mot antagonistiska exempel före driftsättning och i löpande PDSA-cykler (planera, genomföra, studera, agera).

Skyddsräcken finns på tre nivåer:

• Styrning via systemprompten
• Indatavalidering som fångar upp fientliga försök innan agenten svarar
• Utvärdering i realtid av varje svar mot er konfigurerade policy

När det gäller efterlevnad är skyddsåtgärderna samma HIPAA-standarder som styr journalsystem, men tillämpade på AI-system: BAA:er med AI-leverantörer, interoperabilitet, rätt system för registerföring, avidentifiering när information flyttas och ingen träning på patientdata utan uttryckligt samtycke. ElevenLabs kräver ett BAA-avtal med vårdkunder och erbjuder ett läge utan datalagring, så data passerar genom systemet för bearbetning och återgår sedan till er egen skyddade miljö för lagring.

Vad som är redo och vad du ska mäta

AI används redan i produktion hos vårdkunder, för samtal i realtid med låg fördröjning och för att följa ett manus utan att hoppa över de frågor som ska ställas.

Varje modell i teknikstacken är dock probabilistisk till sin natur, oavsett om det är tal till text, LLM:en eller Text to Speech. Därför är de deterministiska lagren runt dem viktiga, och därför behöver varje driftsättning ha en risktröskel och ett eskaleringsprotokoll som beslutats i förväg, oavsett om det leder vidare till en människa eller en mer kapabel modell.

När tröskeln är fastställd blir frågan vad du ska följa upp. Renown Health följer bokade tider per kanal och tillskriver varje bokning en agent, ett telefonsamtal eller ett sms, eftersom patienter ska kunna nå vården på samma sätt som de når allt annat.

Du kan också följa net promoter score bland patienter, vårdgivare och läkare, eftersom de flesta redan gillar sina läkare. Det är allt runt vården som skapar belastningen, så ökad nöjdhet betyder att belastningen minskar. På plattformssidan följer vi antalet driftsatta agenter och hanterade minuter för att mäta användning, samt CSAT och andelen ärenden som avleds för att se om arbetet ger resultat.

Bästa praxis för att driftsätta AI-agenter inom vården

1. Välj en huvudresa, inte ett undantagsfall: En resa med hög volym, mätbara resultat och låg risk som kan utökas i hela verksamheten är bättre än en spridd samling specialiserade driftsättningar som aldrig bygger vidare på varandra.
2. Ordna upp data innan du automatiserar processen: Schemamallar och standarder för öppen bokning måste vara på plats först. En agent ärver den röra som finns under ytan.
3. Hitta läkare som driver förändringen och stötta dem med ledarskap: Det tekniska arbetet är inte det som tar längst tid. Det gör förankringen hos självständiga kliniker, och den behöver verkligt stöd hela vägen till användning.
4. Introducera agenter som nyanställda: SOP:er, ett kunskapscenter, tränade beteenden för avbrott och eskalering samt utvärdering mot antagonistiska exempel före driftsättning och i löpande PDSA-cykler.
5. Gör allt faktabaserat deterministiskt: Hämta datum, tillgänglighet och registeruppgifter med hjälp av verktyg. Låt inte modellen dra slutsatser om sådant den kan slå upp.
6. Definiera tröskeln för eskalering i förväg: Varje modell i teknikstacken är probabilistisk. Bestäm i förväg vad som ska utlösa en överlämning till en människa eller en mer kapabel modell.
7. Mät per kanal och efter nöjdhet: Bokade tider per kanal visar om patienterna faktiskt använder lösningen. NPS bland patienter, vårdgivare och läkare visar om belastningen minskar.

Se hela sessionen

Se hela webbinariet, Behind the Agent: Session om att driftsätta AI inom vården.