Chatbots in der Medizin

Die künstliche Intelligenz (KI) ist im Begriff, viele Bereiche zu verändern, darunter auch das Gesundheitswesen. Sie bringt vielversprechende Innovationen, aber auch Herausforderungen mit sich, angesichts derer es gilt, ein Gleichgewicht zu finden, das die ethischen und regulatorischen Anforderungen und die transformativen Vorteile berücksichtigt, die diese Innovation für die Betreuung der Patient:innen haben könnte.KI-Tools müssen in der Lage sein, Ärzt:innen bei dieser Betreuung zu unterstützen und den Patient:innen zum rechten Zeitpunkt leicht zugängliche Informationen bereitzustellen, damit mehr Zeit für den Kontakt zwischen Patient:in und Arzt/Ärztin zur Verfügung steht und die Qualität der Betreuung verbessert wird.

Leider ist festzustellen, dass der Zugang zu Fachärzt:innen und inzwischen sogar zu Hausärzt:innen immer schwieriger wird. Patient:innen, die keine Antworten auf ihre Fragen bekommen, wenden sich an Internet-Suchmaschinen oder soziale Netzwerke, wobei sie allzu oft falsche oder sogar gefährliche Informationen erhalten. Diese kontraproduktive Entwicklung führt zu einer Überlastung des Systems und verschlechtert den rechtzeitigen Zugang zur Gesundheitsversorgung und auch die Qualität der Versorgung. Die behandelnden Ärzt:innen ihrerseits sehen sich mit einer begrenzten Sprechzeit, immer komplexeren Fällen, einer Vielzahl von Fachkräften, die koordiniert werden müssen, und einer administrativen Überlastung konfrontiert, was zu zunehmender Frustration führt. Da sie in dieser Situation nicht die qualitativ hochwertige Versorgung leisten können, die sie gerne leisten würden, ist eine Ernüchterung in Bezug auf ihre Aufgaben spürbar.^1–3

Das System muss mit innovativen Lösungen weiterentwickelt werden, damit die Beziehung zwischen Patient:in und Arzt/Ärztin weiterhin im Mittelpunkt der Versorgung stehen kann und die Ärzt:innen ihrer Aufgabe nachkommen können. Chatbots sind ein Beispiel für KI, wie sie heute eingesetzt werden kann, um Ärzt:innen bei ihrer Arbeit zu unterstützen. Chatbots sind Computerprogramme, die ein schriftliches oder mündliches Gespräch in natürlicher Sprache simulieren können. Natürliche Sprache bezieht sich auf die menschliche Sprache, die komplex und mehrdeutig sein kann, aber inzwischen von Maschinen und fortgeschrittenen Chatbot-Modellen (Large Language Models, LLM) verstanden werden kann. Eines der (weiter unten besprochenen) Beispiele für die Entwicklung von LLM-Chatbots, die derzeit am Universitätsspital Genf (HUG) laufen, ist das Projekt confIAnce, ein Chatbot, der allgemeine Informationen über chronische Krankheiten in der medizinischen Grundversorgung liefert. Dieses Projekt basiert auf einer ersten Erfahrung mit einem vom HUG entwickelten Post-Covid-Chatbot: https://www.rafael-postcovid.ch .⁴

Anwendungsbereiche von Chatbots im Gesundheitswesen

Chatbots können in verschiedenen Phasen des Behandlungspfads eingesetzt werden – von der administrativen Verwaltung bis hin zur direkten Interaktion mit Patient:innen. Eine Bestandsaufnahme zeigt, dass Chatbots bei den folgenden Aktivitäten helfen können:

• Terminverwaltung: Patient:innen können mit Chatbots interagieren, um einen Termin zu vereinbaren, Fragen zu stellen, eine Personalisierung ihres Termins zu erhalten oder einen Termin zu verschieben oder abzusagen. Die Interaktivität und der Zugang zu diesen Funktionen verkürzen die Wartezeiten erheblich, personalisieren den Behandlungspfad der Patient:innen und verringern den Verwaltungsaufwand, sodass mehr Zeit für zwischenmenschliche Beziehungen und komplexere Fälle zur Verfügung steht (z.B. Menschen, die digitale Angebote nicht nutzen möchten oder können, Schwierigkeiten bei der Terminvereinbarung oder -verfolgung).

• Verlaufskontrolle und Erinnerungen: Ein Chatbot kann Patient:innen an die Medikamenteneinnahme erinnern, regelmässige Fragen zur Behandlung beantworten oder sogar die Ärztin oder den Arzt alarmieren, wenn die gemeldeten Symptome auffällig sind. Dabei handelt es sich um eine interaktive Plattform, die die Daten der Patient:innen berücksichtigt, um eine individuelle Verlaufskontrolle zu ermöglichen. Diese Verlaufskontrolle, die heute aufgrund der zur Verfügung stehenden Personalressourcen begrenzt ist, könnte dank innovativer Technologien an Bedeutung gewinnen.

• Kontinuierlicher Zugang zu geprüften Informationen: Geprüfte Informationen, die rund um die Uhr zugänglich sind, machen die Patient:innen zu Akteuren in Fragen ihrer Gesundheit und tragen zur Edukation, zur Einhaltung der ärztlich vorgeschlagenen Behandlung und zum Selbstmanagement bei.⁵ Durch die zeitnahe Beantwortung der Anliegen der Patient:innen wird der Zugang zu Informationen und zur Gesundheitsversorgung verbessert, die Wartezeit bis zum nächsten Arzttermin überbrückt und nicht notwendige Vorstellungen im Rahmen der Notfallversorgung werden potenziell reduziert. Zum rechten Zeitpunkt bereitgestellte Informationen haben sich als wirksamer Hebel erwiesen, um Verhaltensweisen oder Gewohnheiten zur Verbesserung der Gesundheit zu ändern («Just-in-time»-Interventionen).⁶Die zugänglichen Informationen müssen geprüft und vertrauenswürdig sein, sonst können sie (wie allzu oft) zu Behandlungsfehlern, einer verminderten Qualität der Versorgung und einem schlechten Verständnis der eigenen Krankheit führen.

Vor diesem Hintergrund und um jederzeit Zugang zu geprüften Informationen zu bieten, entwickelt das HUG den Chatbot «confIAnce» ( https://www.youtube.com/watch?v=uuF3abMgd_w ).

Bereits seit Jahren erarbeitet, aktualisiert und bietet der Service de Médecine de Premier Recours, SMPR, die grösste Abteilung für medizinische Grundversorgung in der Schweiz, frei zugängliche Strategien der medizinischen Grundversorgung zu den häufigsten Themen, die in den Zuständigkeitsbereich der Grundversorgung fallen ( https://www.hug.ch/medecine-premier-recours/strategies-medecine-premier-recours ). Diese Strategien, die in Zusammenarbeit mit Spezialist:innen des HUG und Ärzt:innen aus der Stadt verfasst werden, richten sich in erster Linie an Angehörige der Gesundheitsberufe und werden bei der Behandlung chronischer Krankheiten eingesetzt. Die Strategien sind darüber hinaus aber auch eine wichtige Informationsquelle für Medizinstudent:innen. Die Strategien des SMPR enthalten eine sehr grosse Menge an Informationen, die, in natürlicher Sprache aufbereitet, bei der Entwicklung eines Chatbots für Patient:innen herangezogen werden können. Der Inhalt (die Wissensdatenbank des Chatbots) wird genutzt, um die vielen Fragen der Nutzer:innen zu verstehen und zu beantworten. Durch dieses Füttern oder Trainieren des Chatbots entsteht eine geprüfte Wissensdatenbank, mit der validierte und vertrauenswürdige medizinische Informationen angeboten werden können. Der Chatbot hat die Aufgabe, allgemeine Informationen zu liefern, die sich auf die bereitgestellte und geprüfte Wissensdatenbank (die Strategien des SMPR) beschränken. Eine Diagnose wird nicht gestellt. Vorbereitungs- und Testtätigkeiten mithilfe von Expert:innen aus den Bereichen Recht, IT-Entwicklung, Datensicherheit und Kommunikation helfen dabei, das Einsatzgebiet des Chatbots einzugrenzen, um so ein nützliches Werkzeug anzubieten, das zum rechten Zeitpunkt geprüfte Informationen bereitstellt, ohne die behandelnde Ärztin resp. den behandelnden Arzt zu ersetzen.

Herausforderungen und Grenzen beim Einsatz von Chatbots in der Medizin

Trotz ihrer zahlreichen Vorteile bringt der Einsatz von Chatbots in der Medizin auch nicht zu unterschätzende Herausforderungen mit sich. Die grössten Hürden sind die ärztliche Haftung und die richtige Eingrenzung des Anwendungsgebiets und Kontexts des Chatbots. In naher Zukunft entwickelte Chatbots können möglicherweise eine Krankheit vorhersagen, Ärzt:innen bei der Diagnosestellung helfen oder in den Behandlungspfad eingreifen. Diese Chatbots werden als Medizinprodukte gelten und müssen die entsprechenden Kriterien, Standards und Zertifizierungsprozesse erfüllen.⁷ Ausserdem ist die ärztliche Haftung in diesem Zusammenhang eine echte Herausforderung. Um ein zuverlässiges Angebot bereitstellen zu können, werden nach wie vor eine Risikoanalyse und eine Prüfung durch fachkundige Personen (Ärzt:innen oder andere, je nachdem, wie der Chatbot eingesetzt wird) notwendig sein. Diese Werkzeuge kommen daher, insbesondere in komplexen medizinischen Situationen, als Ergänzung und nicht als Ersatz für die menschliche Versorgung infrage.

Zudem stellen Chatbots, wenn sie auf Informationen von Patient:innen zugreifen, ebenso wie das elektronische Patientendossier eine Herausforderung mit Blick auf den Datenschutz dar und müssen auch nationale und internationale Anforderungen erfüllen. Aktuell werden im HUG Arbeitsgruppen zum Thema KI eingerichtet, um die Begleitung von Projekten und Innovationen innerhalb der Einrichtung zu gewährleisten. Ein Nutzungsleitfaden erinnert daran, dass alle Mitarbeiter:innen der ärztlichen Schweigepflicht unterliegen, dass alle an Chatbots übermittelten Daten als öffentlich zu betrachten sind und dass keine personenbezogenen Daten, wie u.a. Pflegeepisode, Name, Vorname usw., übermittelt werden dürfen.

Schliesslich, und insbesondere im Zusammenhang mit der KI, besteht trotz der bemerkenswerten Fortschritte der letzten Jahre nach wie vor das Risiko von Halluzinationen (falsche oder inkohärente Informationen) und sozialen oder anderen Verzerrungen. Es ist aktuell deutlich erkennbar, dass die angebotenen Modelle grösstenteils mit englischsprachigen Daten trainiert werden und die im Internet vorhandenen umfangreichen und breiten Informationen mit all ihrem Reichtum und all ihren Einschränkungen nutzen. Wir sind der Meinung, dass Chatbots nur dann wirklich relevant in lokalen oder regionalen Kontexten sein können, wenn sie mit Datenbanken gefüttert werden, die für diese Umgebungen geeignet sind. Die Fähigkeit der Anpassung von Chatbots an lokale, regionale oder andere Kontexte und an die Anforderungen der Zielgruppe wird durch lokale und regionale Wissensdatenbanken erreicht, auf die Chatbots beschränkt werden können. Durch diese Personalisierung, wie sie im confIAnce-Projekt angestrebt wird, können wir die Genauigkeit und Nützlichkeit der Antworten für Patient:innen und Ärzt:innen erhöhen, um besser auf ihre spezifischen Anforderungen eingehen zu können.

Ausblick in die Zukunft

Angesichts der rasanten Weiterentwicklungen im Bereich der KI scheint die Zukunft von Chatbots in der Medizin vielversprechend zu sein. Die Integration dieser Technologien in die Gesundheitssysteme könnte den Behandlungspfad von Patient:innen verbessern und dazu beitragen, dass mehr Zeit für den Kontakt zwischen Patient:in und Arzt resp. Ärztin zur Verfügung steht und Letztere ihre berufliche Aufgabe wieder als sinnerfüllt erleben.

Alles in allem stellen Chatbots eine wichtige und mögliche Innovation dar, die einzigartige Chancen bietet, den Zugang zu geprüften Informationen und die Effizienz von Gesundheitssystemen zu verbessern. Ihre Einführung erfordert jedoch eine eingehende Auseinandersetzung mit den ethischen, technischen und menschlichen Herausforderungen, die mit ihrer Nutzung einhergehen. Angehörige der Gesundheitsberufe müssen bei der Implementierung von KI – in einem Rahmen, der Sicherheit und Qualität gewährleistet – heute eine Führungsrolle übernehmen, um morgen die Vorteile einer transformierten Medizin für sich nutzen und an ihre Patient:innen weitergeben zu können.