Webinar-Rückblick: Erkenntnisse aus dem Einsatz von KI im Gesundheitswesen

Gesundheitssysteme sollen mehr für Patientinnen und Patienten leisten, ohne zusätzliches Personal einzustellen. Das meiste, was Patientinnen und Patienten frustriert, geschieht rund um die Versorgung, nicht in ihr. Den richtigen Arzt zu finden, kostet Mühe. Dasselbe gilt dafür, bei jeder Übergabe dieselbe Geschichte erneut zu erzählen. 

In unserer aktuellen Behind-the-Agent-Session sprach Cindy Liu (Enterprise Deployment, ElevenLabs) mit Jacque Myers (Global Healthcare Lead, Slalom), Sylvia Doane Stephenson (Managing Director, Slalom) und Cristal Woodley (Chief Marketing and Experience Officer, Renown Health) darüber, wo KI-Agenten im Gesundheitswesen tatsächlich eingesetzt werden und was nötig ist, um sie produktiv zu betreiben.

Der Unterschied zwischen Deployments, die sich weiterentwickeln, und solchen, die ins Stocken geraten, liegt im Ausgangspunkt: eine häufige, messbare Journey mit geringem Risiko statt einer Vielzahl spezialisierter Pilotprojekte.

Warum die Patient Journey weiterhin nicht funktioniert

Patientinnen und Patienten stecken in einem wiederkehrenden Kreislauf fest. Bei jedem Versorgungsübergang bestätigen sie ihre Identität und erklären erneut, warum sie anrufen. Sie warten und werden weitergeleitet. Die Antworten, die sie anderswo suchen, sind widersprüchlich. Wenn sie schließlich die richtige Person erreichen, beginnt der Prozess von vorn.

Alle Kontaktpunkte existieren – Website, Patientenportal, Contact Center, EHR, Abrechnung –, aber sie kommunizieren nicht miteinander. Eine vernetzte Journey beginnt dort, wo sich die Patientin oder der Patient befindet, und setzt zuerst dort an, wo das Risiko gering und die Wirkung hoch ist.

Die meisten Organisationen starten KI an den Rändern: mit spezialisierten Anwendungsfällen, die wegen ihres geringen Risikos ausgewählt wurden. Nichts davon baut aufeinander auf. Jacques Alternative nennt sie Hero Journey: eine zentrale Journey, die einen großen Teil Ihrer Arbeit abbildet, weiterhin risikoarm ist und die Sie erweitern, statt für jeden Anwendungsfall neu zu entwickeln.

Demo: Terminvereinbarung von Anfang bis Ende

Die Terminvereinbarung ist ein guter Kandidat für eine Hero Journey: häufig, messbar und risikoarm genug, um darauf aufzubauen. So sieht der erste Teil dieser Journey von Anfang bis Ende aus – von der Patientenaufnahme bis zur Terminbestätigung.

Szenario: Eine Patientin benötigt ein neues Rezept für Kontaktlinsen. Auf der Website ihrer Versicherung findet sie einen Optiker in ihrem Netzwerk und ruft in der Praxis an, wo ein virtueller Terminassistent den Anruf annimmt.

Gezeigt wurde:

• Der Agent führte die Aufnahme von Neupatienten im Gespräch durch und erfasste Name, Geburtsdatum und Telefonnummer
• Er verifizierte ihre Telefonnummer mit einem echten SMS-Code und fing es ab, als der Code beim ersten Versuch falsch verstanden wurde
• Als die Anruferin sich nicht an ihre Versicherungsmitgliedsnummer erinnern konnte, bat der Agent sie, die Karte zum Termin mitzubringen, und fuhr fort
• Er bot drei Termine an, buchte einen davon und schickte eine aus dem Gesprächsverlauf erstellte Bestätigungs-E-Mail sowie eine SMS-Erinnerung
• Derselbe Agent lief über SMS, mit einem identischen Workflow als Textkonversation und ohne separate Entwicklung

Warum das wichtig ist: Ein Agent steuerte sowohl die Telefonleitung als auch den SMS-Thread. Die Experience war damit standardmäßig Omnichannel. Die Demo war in etwa zwei Stunden erstellt – schnell genug, damit ein Team innerhalb weniger Tage einen Prototyp entwickeln und intern vorstellen kann. Der produktive Enterprise-Einsatz hat einen anderen Umfang. Die meiste Arbeit entfällt auf Integration, Tests und Compliance, die ein Agent vor dem Go-live benötigt. Bei ElevenLabs übernehmen das unsere Forward Deployed Engineers.

Wo Sie anfangen sollten und was tatsächlich blockiert

Die Reihenfolge für ein Gesundheitssystem, das beginnt:

• Ambient Listening: falls es noch nicht in Ihr EHR integriert ist. Diese Arbeit erfolgt meist über einen Dokumentationsanbieter, schafft aber das Vertrauen der Behandelnden, auf dem alles Weitere aufbaut.
• Das Contact Center: Die meisten Systeme behandeln es als Kostenstelle. Es kann stattdessen ein Wachstumstreiber sein.
• Patientenaufklärung und Medikamentenadhärenz: Wiederholbare Aufgaben mit unmittelbar messbarem ROI, die sich skalieren lassen.

Der Engpass bei der Automatisierung des Contact Centers ist die Terminplanung der Ärzte. Präferenzkarten und Terminvorlagen sind der sichtbare Teil. Langsam ist die Koordination von Veränderungen bei Menschen, die hoch qualifiziert, sehr kompetent und sehr unabhängig sind. Was funktioniert, sind ärztliche Fürsprecher, eine abgestimmte Führung, die den Wandel begleiten kann, und kontinuierliche Unterstützung – manchmal bis hin zu einem individuellen Coach pro Behandelndem.

Wie Renown Health auf Agenten hinarbeitet

Renown versorgt Patientinnen und Patienten auf einer Fläche von 100.000 Quadratmeilen – von Salt Lake City bis Sacramento.

Cristals Team beginnt mit einem klar abgegrenzten Pilotprojekt. Die betrachteten Anwendungsfälle kommen vollständig ohne Patienteninformationen aus. Interne Erfolge schaffen die Grundlage, um Compliance für die nächsten Schritte zu gewinnen. 

Der Weg dorthin führte über die Daten. Cristals Team arbeitete mit den Behandelnden an Terminvorlagen und standardisierte gleichzeitig die offene Terminvergabe. Schnelle Erfolge durch Ambient Listening öffneten die Tür: Behandelnde, die eine bessere Lebensqualität spürten, fragten anschließend, was noch möglich sei.

Auch beim Tempo war sie deutlich: Marketing- und Contact-Center-Teams können nicht warten, denn Patientinnen und Patienten nutzen das bereits und erwarten es inzwischen.

Sicherheit, HIPAA und das Onboarding von Agenten wie neue Mitarbeitende

Emotional aufgeladene Anrufe sind das Erste, wonach die meisten Teams fragen. Renown misst bereits die Stimmungsanalyse von Stimmen im Call Center und leitet Anrufende an erfahrenere menschliche Agents weiter, wobei dieser Kontext bei der Übergabe erhalten bleibt. Dieselbe Disziplin gilt für KI-Agenten.

Führen Sie Agenten ein wie Mitarbeitende: Geben Sie ihnen SOPs und eine Wissensdatenbank, trainieren Sie Verhaltensweisen für Unterbrechungen und Eskalationen und evaluieren Sie sie vor dem Go-live sowie in fortlaufenden PDSA-Zyklen (Plan, Do, Study, Act) anhand antagonistisch formulierter Beispiele.

Schutzmechanismen wirken auf drei Ebenen:

• Steuerung über den System Prompt
• Eingabevalidierung , die gegnerische Eingabeversuche erkennt, bevor der Agent antwortet
• Echtzeit-Evaluierung jeder Antwort anhand Ihrer konfigurierten Richtlinie

Bei Compliance gelten dieselben HIPAA-Standards, die EHRs regeln, auch für KI-Systeme: BAAs mit KI-Anbietern, Interoperabilität, die richtigen führenden Systeme, De-Identifizierung bei jeder Datenübertragung und kein Training mit Patientendaten ohne ausdrückliche Einwilligung. ElevenLabs verlangt mit Kunden im Gesundheitswesen einen BAA und bietet einen Modus ohne Datenspeicherung. Daten werden zur Verarbeitung weitergeleitet und anschließend zur Speicherung in Ihre eigene eingeschränkte Umgebung zurückgegeben.

Was bereit ist und was Sie messen sollten

KI wird heute bei Kunden im Gesundheitswesen produktiv eingesetzt. Sie führt Echtzeitgespräche mit geringer Latenz und folgt einem Skript, ohne Fragen zu überspringen, die sie stellen soll.

Jedes Modell im Stack ist jedoch von Natur aus probabilistisch, ob es sich um Speech to Text, das LLM oder Text to Speech handelt. Deshalb sind die deterministischen Ebenen darum herum wichtig. Und deshalb benötigt jedes Deployment einen vorab festgelegten Risikoschwellenwert und ein Eskalationsprotokoll – unabhängig davon, ob an einen Menschen oder ein leistungsfähigeres Modell übergeben wird.

Sobald dieser Schwellenwert festgelegt ist, stellt sich die Frage, was Sie messen. Renown Health erfasst pro Kanal gebuchte Termine und ordnet zu, ob sie über einen Agenten, einen Anruf oder eine SMS zustande kamen. Denn Patientinnen und Patienten sollten die Versorgung so erreichen können wie alles andere auch.

Oder messen Sie den Net Promoter Score bei Patientinnen und Patienten, Pflegepersonen und Ärzten. Denn die meisten Menschen mögen ihre Ärzte bereits. Die Belastung entsteht durch alles rund um die Versorgung. Steigende Zufriedenheit bedeutet also sinkende Belastung. Auf Plattformseite beobachten wir für die Akzeptanz die eingesetzten Agenten und bearbeiteten Minuten sowie CSAT und Deflection Rate, um zu sehen, ob die Arbeit Wirkung zeigt.

Best Practices für den Einsatz von KI-Agenten im Gesundheitswesen

1. Wählen Sie eine Hero Journey, keinen Randfall: Eine häufige, messbare Journey mit geringem Risiko, die im gesamten Unternehmen erweitert wird, ist besser als eine Vielzahl spezialisierter Deployments, die nie aufeinander aufbauen.
2. Bereinigen Sie die Daten, bevor Sie den Prozess automatisieren: Terminvorlagen und Standards für offene Terminvergabe müssen zuerst geklärt sein. Ein Agent übernimmt jede Unordnung, die darunterliegt.
3. Gewinnen Sie ärztliche Fürsprecher und unterstützen Sie sie mit Führung: Die technische Arbeit ist nicht der langsame Teil. Die Zustimmung unabhängiger Behandelnder ist es, und sie braucht echte Unterstützung bis zur Einführung.
4. Führen Sie Agenten ein wie neue Mitarbeitende: SOPs, eine Wissensdatenbank, trainierte Verhaltensweisen für Unterbrechungen und Eskalationen sowie Evaluierungen anhand antagonistisch formulierter Beispiele vor dem Go-live und in fortlaufenden PDSA-Zyklen.
5. Machen Sie alles Faktische deterministisch: Rufen Sie Termine, Verfügbarkeiten und Datensatzdetails über Tools ab. Lassen Sie das Modell nicht ableiten, was es nachschlagen kann.
6. Definieren Sie Ihren Eskalationsschwellenwert im Voraus: Jedes Modell im Stack ist probabilistisch. Entscheiden Sie vorab, was eine Übergabe an einen Menschen oder ein leistungsfähigeres Modell auslöst.
7. Messen Sie nach Kanal und Zufriedenheit: Pro Kanal gebuchte Termine zeigen, ob Patientinnen und Patienten es tatsächlich nutzen. Der NPS bei Patientinnen und Patienten, Pflegepersonen und Ärzten zeigt, ob die Belastung sinkt.

Sehen Sie sich die vollständige Session an

Sehen Sie sich das vollständige Webinar an: Behind the Agent: Session zum Einsatz von KI im Gesundheitswesen.