Sammanfattning av webbinariet: Lärdomar från att driftsätta AI i vården

Hälsosystem förväntas göra mer för patienterna utan att öka personalstyrkan. Det mesta som frustrerar patienter händer runt vården, inte i den. Det kräver ansträngning att hitta rätt läkare. Detsamma gäller att behöva dra samma historia vid varje överlämning. 

I vårt senaste Behind the Agent-session Cindy Liu (Enterprise Deployment, ElevenLabs) samman med Jacque Myers (Global Healthcare Lead, Slalom), Sylvia Doane Stephenson (Managing Director, Slalom) och Cristal Woodley (Chief Marketing and Experience Officer, Renown Health) för att titta på var AI-agenter faktiskt används inom vården och vad som krävs för att få en i drift i produktion.

Det som skiljer driftsättningar som bygger vidare på varandra från dem som stannar av är var du börjar: en enda mätbar resa med hög volym och låg risk, i stället för en mängd specialiserade pilotprojekt.

Varför patientresan fortfarande brister

Patienter fastnar i en återkommande cykel. De bekräftar vem de är och förklarar varför de ringer vid varje övergång i vården. De väntar och kopplas vidare. Svaren de letar upp på annat håll är inkonsekventa. När de till slut når rätt person börjar processen om från början.

Alla kontaktpunkter finns – webbplats, patientportal, kontaktcenter, EHR, fakturering – men de kommunicerar inte med varandra. En sammanhängande resa börjar där patienten är och tar först kontakt där risken är låg och effekten stor.

De flesta organisationer börjar med AI i utkanten, i specialiserade användningsfall som valts för låg risk, och inget av det bygger vidare på något annat. Jacques alternativ är det hon kallar en hero journey: en central resa som omfattar mycket av det ni gör, fortfarande med låg risk, som ni bygger vidare på och utökar i stället för att bygga om för varje användningsfall.

Demo: Boka en tid från början till slut

Tidsbokning är en bra kandidat för en hero journey: hög volym, mätbar och tillräckligt låg risk för att bygga vidare på. Så här ser början av den resan ut från början till slut, från patientregistrering till bokningsbekräftelse.

Scenario: En patient behöver ett nytt recept på kontaktlinser. Hon hittar en optiker inom försäkringsnätverket på sitt försäkringsbolags webbplats och ringer mottagningen, där en virtuell bokningsassistent svarar.

Det här visades:

• Agenten hanterade registreringen av en ny patient i dialogform och samlade in namn, födelsedatum och telefonnummer
• Den verifierade hennes telefonnummer med en riktig SMS-kod och återhämtade sig när koden hördes fel vid första försöket
• När uppringaren inte kom ihåg sitt medlems-ID för försäkringen bad agenten henne att ta med kortet till besöket och gick vidare
• Den erbjöd tre tider, bokade en och skickade ett bekräftelsemejl baserat på samtalshistoriken, plus en påminnelse via sms
• Samma agent kördes via SMS, med identiskt workflow som en textkonversation utan något separat bygge

Varför det är viktigt: En agent låg bakom både telefonlinjen och sms-tråden, så upplevelsen var omnikanal som standard. Demon tog ungefär två timmar att bygga, tillräckligt snabbt för att ett team ska kunna ta fram en prototyp och presentera den internt inom några dagar. Produktion i stora företag är en annan sak. Integrations-, test- och efterlevnadsarbetet som en agent behöver före driftsättning står för merparten av arbetet, och på ElevenLabs utförs det av våra forward deployed engineers.

Var du ska börja och vad som faktiskt bromsar

Ordningen för ett hälsosystem som ska komma igång:

• Ambient listening: om det inte redan är integrerat i ert EHR. Arbetet går vanligtvis via en leverantör av dokumentationslösningar, men det skapar det förtroende hos kliniker som allt därefter bygger på.
• Kontaktcentret: De flesta system ser det som en kostnadspost. Det kan i stället fungera som en tillväxtmotor.
• Patientutbildning och följsamhet till läkemedelsbehandling: Upprepningsbara uppgifter med mätbar och direkt ROI, som därför kan skalas upp.

Det som hindrar automatisering av kontaktcenter är läkarschemaläggningen. Önskekort och schemamallar är den synliga delen. Det som tar tid är att samordna förändring bland människor som är välutbildade, högkvalificerade och mycket självständiga. Det som fungerar är läkare som driver frågan, samspelt ledarskap som kan underlätta förändringen och löpande stöd – ibland ända ner till en individuell coach per kliniker.

Så bygger Renown Health mot agenter

Renown betjänar patienter över 100 000 kvadratmiles, från Salt Lake City till Sacramento.

Cristals team börjar med ett avgränsat pilotprojekt. De användningsfall som övervägs undviker patientinformation helt, och interna framgångar bygger underlaget för efterlevnadsarbetet i nästa steg. 

Vägen dit gick via data. Cristals team arbetade med vårdgivare kring schemamallar samtidigt som de standardiserade öppen tidsbokning. Snabba vinster från ambient listening öppnade dörren: vårdgivare som märkte skillnaden för sin livskvalitet återkom och frågade vad mer som var möjligt.

Hon var också tydlig med tempot: marknadsförings- och kontaktcenterteam har inte tid att vänta, eftersom patienterna redan använder detta och redan förväntar sig det.

Säkerhet, HIPAA och att introducera agenter som nyanställda

Känslomässigt laddade samtal är det första de flesta team frågar om. Renown mäter redan samtalssentiment i sitt kontaktcenter och kopplar vidare uppringare till mer erfarna mänskliga agenter, med kontexten kvar vid överlämningen. Samma disciplin gäller för AI-agenter.

Introducera agenter på samma sätt som människor: ge dem SOP:er och en kunskapsbas, träna beteenden för avbrott och eskalering och utvärdera dem sedan mot antagonistiska exempel före driftsättning och i löpande PDSA-cykler (planera, göra, studera, agera).

Skyddsräcken finns på tre nivåer:

• Styrning genom systemprompten
• Indatavalidering som fångar antagonistiska försök innan agenten svarar
• Utvärdering i realtid av varje svar mot er konfigurerade policy

När det gäller regelefterlevnad är skyddsåtgärderna samma HIPAA-standarder som styr EHR-system, tillämpade på AI-system: BAA:er med AI-leverantörer, interoperabilitet, rätt system för informationslagring, avidentifiering överallt där information flyttas och ingen träning på patientdata utan uttryckligt samtycke. ElevenLabs kräver ett BAA med vårdkunder och erbjuder ett läge utan datalagring, så data passerar genom systemet för bearbetning och återförs till er egen begränsade miljö för lagring.

Vad som är redo och vad du ska mäta

AI används redan i produktion hos vårdkunder i dag, med konversationer i realtid och låg fördröjning samt följsamhet till manus utan att hoppa över frågor som ska ställas.

Men varje modell i stacken är till sin natur probabilistisk, oavsett om det gäller tal till text, LLM:en eller text till tal. Därför spelar de deterministiska lagren runt dem roll, och därför behöver varje driftsättning en risktröskel och ett eskaleringsprotokoll som bestäms i förväg, oavsett om det leder till en människa eller en mer kapabel modell.

När tröskeln har satts är frågan vad du följer upp. Renown Health följer bokade tider per kanal, med information om huruvida varje bokning kom via en agent, ett telefonsamtal eller sms, eftersom patienter ska kunna nå vården på samma sätt som de når allt annat.

Eller följ net promoter score bland patienter, vårdgivare och läkare, eftersom de flesta redan uppskattar sina läkare. Det är allt runt vården som skapar bördan, så ökad nöjdhet innebär att bördan minskar. På plattformssidan följer vi driftsatta agenter och hanterade minuter för användning, samt CSAT och avledningsgrad för att se om arbetet ger resultat.

Bästa praxis för att driftsätta AI-agenter inom vården

1. Välj en hero journey, inte ett specialfall: En mätbar resa med hög volym och låg risk som utökas i hela organisationen är bättre än en mängd specialiserade driftsättningar som aldrig bygger vidare på varandra.
2. Fixa datan innan du automatiserar processen: Schemamallar och standarder för öppen tidsbokning måste vara på plats först. En agent ärver den röra som finns under den.
3. Rekrytera läkare som driver frågan och stötta dem med ledarskap: Det tekniska arbetet är inte den långsamma delen. Det är att få med självständiga kliniker, och det kräver verkligt stöd hela vägen till införandet.
4. Introducera agenter som nyanställda: SOP:er, en kunskapsbas, tränade beteenden för avbrott och eskalering, därefter utvärdering mot antagonistiska exempel före driftsättning och i löpande PDSA-cykler.
5. Gör allt faktabaserat deterministiskt: Hämta datum, tillgänglighet och journaluppgifter via verktyg. Låt inte modellen dra slutsatser om sådant den kan slå upp.
6. Definiera er eskaleringströskel i förväg: Varje modell i stacken är probabilistisk. Bestäm i förväg vad som ska utlösa en överlämning till en människa eller en mer kapabel modell.
7. Mät per kanal och efter nöjdhet: Bokade tider per kanal visar om patienterna faktiskt använder lösningen. NPS bland patienter, vårdgivare och läkare visar om bördan minskar.

Se hela sessionen

Se hela webbinariet, Behind the Agent: Session om att driftsätta AI inom vården.