Webinar terugblik: inzichten uit de inzet van AI in de zorg

Gezondheidszorgsystemen wordt gevraagd meer voor patiënten te doen zonder extra personeel aan te nemen. Het meeste dat patiënten frustreert, gebeurt rondom de zorg, niet tijdens de zorg zelf. De juiste arts vinden kost moeite. Hetzelfde verhaal bij elke overdracht opnieuw vertellen ook. 

In onze nieuwste Behind the Agent-sessie ging Cindy Liu (Enterprise Deployment, ElevenLabs) in gesprek met Jacque Myers (Global Healthcare Lead, Slalom), Sylvia Doane Stephenson (Managing Director, Slalom) en Cristal Woodley (Chief Marketing and Experience Officer, Renown Health) over waar AI-agents daadwerkelijk in de zorg worden ingezet en wat nodig is om er een in productie te laten draaien.

Het patroon dat implementaties die voortbouwen onderscheidt van implementaties die vastlopen, zit in waar je begint: één traject met een hoog volume, dat meetbaar is en weinig risico heeft, in plaats van een verzameling gespecialiseerde pilots.

Waarom het patiënttraject gebroken blijft

Patiënten zitten vast in een herhalende cyclus. Bij elke overgang in de zorg bevestigen ze wie ze zijn en leggen ze uit waarom ze bellen. Ze wachten en worden doorverbonden. De antwoorden die ze elders zoeken, blijken inconsistent. Als ze eindelijk de juiste persoon bereiken, begint het proces weer van voren af aan.

Alle contactpunten bestaan al – website, patiëntenportaal, contactcenter, EPD, facturering – maar ze communiceren niet met elkaar. Een verbonden traject begint waar de patiënt is en richt zich eerst op plekken waar het risico laag en de impact hoog is.

De meeste organisaties beginnen met AI aan de randen, in gespecialiseerde use cases die vanwege het lage risico zijn gekozen, en niets daarvan bouwt voort. Jacques alternatief is wat zij een hero journey noemt: een kerntraject dat veel van wat je doet vertegenwoordigt, nog steeds weinig risico heeft en waarop je voortbouwt en uitbreidt, in plaats van voor elke use case opnieuw te beginnen.

Demo: van begin tot eind een afspraak maken

Het plannen van afspraken is een goede kandidaat voor een hero journey: hoog volume, meetbaar en voldoende laag risico om op voort te bouwen. Zo ziet het begin van dat traject er van begin tot eind uit, van patiëntenintake tot afspraakbevestiging.

Scenario: Een patiënt heeft een nieuw recept voor contactlenzen nodig. Ze vindt een optometrist binnen haar verzekeringsnetwerk op de website van haar verzekeraar en belt de praktijk, waar een virtuele planningsassistent opneemt.

Wat werd getoond:

• De agent handelde de intake van nieuwe patiënten conversationeel af en verzamelde naam, geboortedatum en telefoonnummer
• De agent verifieerde haar telefoonnummer met een echte sms-code en herstelde zich toen de code bij de eerste poging verkeerd werd verstaan
• Toen de beller haar lidmaatschapsnummer van de verzekering niet meer wist, zei de agent dat ze de kaart naar de afspraak moest meenemen en ging verder
• De agent bood drie tijdstippen aan, legde er één vast en stuurde een bevestigingsmail op basis van de gespreksgeschiedenis, plus een sms-herinnering
• Dezelfde agent werkte via sms, met dezelfde workflow als tekstgesprek en zonder aparte build

Waarom dit belangrijk is: Eén agent zat achter zowel de telefoonlijn als de sms-conversatie, waardoor de ervaring standaard omnichannel was. Het kostte ongeveer twee uur om de demo te bouwen, snel genoeg voor een team om binnen enkele dagen een prototype te maken en intern te pitchen. Productie op enterprise-niveau heeft een andere omvang. Het integratie-, test- en compliancewerk dat een agent vóór de livegang nodig heeft, kost de meeste inspanning. Bij ElevenLabs wordt dat uitgevoerd door onze forward deployed engineers.

Waar je begint en wat het daadwerkelijk blokkeert

De volgorde voor een zorgsysteem dat begint:

• Ambient listening: als dit nog niet is geïntegreerd in je EPD. Dit werk verloopt meestal via een leverancier van documentatieoplossingen, maar het wint het vertrouwen van zorgverleners waar alles daarna van afhangt.
• Het contactcenter: De meeste systemen zien dit als een kostenpost. Het kan ook als groeicentrum fungeren.
• Patiënteneducatie en therapietrouw: Herhaalbare taken met een direct en meetbaar rendement, waardoor ze kunnen opschalen.

De belemmering voor automatisering van het contactcenter is de planning van artsen. Voorkeurskaarten en planningssjablonen zijn het zichtbare deel. Het trage deel is veranderingen organiseren onder mensen die hoogopgeleid, zeer bekwaam en zeer zelfstandig zijn. Wat werkt, zijn artsen als voortrekkers, een betrokken leiding die de verandering kan faciliteren en voortdurende ondersteuning, soms zelfs een individuele coach per zorgverlener.

Hoe Renown Health toewerkt naar agents

Renown bedient patiënten in een gebied van 100.000 vierkante mijl, van Salt Lake City tot Sacramento.

Het team van Cristal begint met een afgebakende pilot. De use cases die worden overwogen, vermijden patiëntinformatie volledig en interne successen onderbouwen bij compliance wat hierna komt. 

De weg ernaartoe liep via de data. Het team van Cristal besprak planningssjablonen met zorgverleners en standaardiseerde tegelijkertijd open planning. Snelle resultaten met ambient listening openden de deur: zorgverleners die het verschil in hun kwaliteit van leven merkten, kwamen terug met de vraag wat er nog meer mogelijk was.

Ze was ook duidelijk over het tempo: marketing- en contactcenterteams hebben geen tijd om te wachten, omdat patiënten dit al gebruiken en het al verwachten.

Veiligheid, HIPAA en agents onboarden als nieuwe medewerkers

Emotioneel beladen gesprekken zijn het eerste waar de meeste teams naar vragen. Renown meet al het stemmingssentiment in zijn callcenter en routeert bellers naar meer ervaren menselijke agents, waarbij die context bij de overdracht behouden blijft. Dezelfde discipline geldt voor AI-agents.

Onboard agents zoals je mensen onboardt: geef ze SOP's en een kenniscentrum, train gedrag voor onderbrekingen en escalatie, en evalueer ze vervolgens aan de hand van antagonistische voorbeelden vóór de livegang en in doorlopende PDSA-cycli (plan, do, study, act).

Waarborgen werken op drie lagen:

• Sturing via de system prompt
• Inputvalidatie die vijandige pogingen opvangt voordat de agent reageert
• Realtime-evaluatie van elk antwoord aan de hand van je geconfigureerde beleid

Wat compliance betreft, gelden dezelfde HIPAA-normen die EPD's reguleren ook voor AI-systemen: BAA's met AI-leveranciers, interoperabiliteit, de juiste systemen van registratie, de-identificatie overal waar informatie wordt verplaatst, en geen training op patiëntgegevens zonder expliciete toestemming. ElevenLabs vereist een BAA met klanten in de zorg en biedt een modus zonder gegevensbewaring, zodat gegevens voor verwerking worden doorgegeven en worden teruggestuurd naar je eigen afgeschermde omgeving om ze op te slaan.

Wat klaar is en wat je moet meten

AI draait vandaag al in productie bij klanten in de zorg, voert realtimegesprekken met lage latentie en volgt een script zonder de vragen over te slaan die het moet stellen.

Elk model in de stack is van nature echter probabilistisch, of het nu gaat om speech to text, het LLM of text to speech. Daarom zijn de deterministische lagen eromheen belangrijk en heeft elke implementatie vooraf een vastgestelde risicodrempel en escalatieprotocol nodig, ongeacht of dat doorstuurt naar een mens of naar een capabeler model.

Zodra die drempel is vastgesteld, is de vraag wat je bijhoudt. Renown Health houdt afspraken bij die per kanaal zijn gemaakt, met de toewijzing of elke afspraak via een agent, een telefoongesprek of een sms kwam, omdat patiënten op dezelfde manier toegang tot zorg moeten kunnen krijgen als tot al het andere.

Of meet de net promoter score onder patiënten, mantelzorgers en artsen, want de meeste mensen zijn al tevreden over hun artsen. Alles rondom de zorg creëert de belasting, dus stijgende tevredenheid betekent dat de belasting afneemt. Aan de platformkant volgen we het aantal ingezette agents en bediende minuten voor adoptie, en CSAT en het afbuigingspercentage om te zien of het werk effect heeft.

Best practices voor het implementeren van AI-agents in de zorg

1. Kies een hero journey, geen randgeval: Eén traject met een hoog volume, dat meetbaar is en weinig risico heeft en zich uitbreidt binnen de hele organisatie, is beter dan een verzameling gespecialiseerde implementaties die nooit voortbouwen.
2. Breng de data op orde voordat je het proces automatiseert: Planningssjablonen en standaarden voor open planning moeten eerst op orde zijn. Een agent neemt alle rommel eronder over.
3. Werf artsen als voortrekkers en zorg voor steun van het leiderschap: Het technische werk is niet het trage deel. Draagvlak onder zelfstandige zorgverleners wel, en dat vereist echte ondersteuning tijdens de volledige adoptie.
4. Onboard agents als nieuwe medewerkers: SOP's, een kenniscentrum, getraind gedrag voor onderbrekingen en escalatie, gevolgd door evaluatie aan de hand van antagonistische voorbeelden vóór de livegang en in doorlopende PDSA-cycli.
5. Maak alles wat feitelijk is deterministisch: Haal datums, beschikbaarheid en dossiergegevens op via tools. Laat het model niet afleiden wat het kan opzoeken.
6. Bepaal je escalatiedrempel vooraf: Elk model in de stack is probabilistisch. Bepaal van tevoren wat een overdracht aan een mens of een capabeler model activeert.
7. Meet per kanaal en op tevredenheid: Afspraken die per kanaal zijn gemaakt, tonen of patiënten dit daadwerkelijk gebruiken. NPS onder patiënten, mantelzorgers en artsen toont of de belasting afneemt.

Bekijk de volledige sessie

Bekijk het volledige webinar, Behind the Agent: Sessie over de inzet van AI in de zorg.