Arztgespräch per Chatbot? Chancen, Risiken, Nebenwirkungen

Gesundheit

Arztgespräch per Chatbot? Chancen, Risiken, Nebenwirkungen

Von der Diagnose bis zum Behandlungsplan: KI-Modelle schneiden im Test besser ab als Ärzte. Doch wie viel Mensch braucht Medizin? Experten warnen vor Risiken und blinden Flecken.

„Könnten Sie bitte beschreiben, wie lange Sie diesen Husten schon haben und ob begleitende Symptome wie Fieber, Atemnot oder Brustschmerzen auftreten?“ Was wie eine klassische Frage eines Arztes oder einer Ärztin klingt, hat in diesem Fall eine Künstliche Intelligenz (KI) gestellt. KI kann schon länger etwa Tumore auf Röntgenbildern erkennen. Doch inzwischen reicht die Entwicklung bis zum Gespräch mit Patienten und Patientinnen.

Forschende vor allem des Universitätsklinikums Heidelberg und des Else Kröner Fresenius Zentrums für Digitale Gesundheit an der TU Dresden sowie ein Team von Google haben zwei unabhängige KI-Modelle fürs Patientenmanagement entwickelt, die von der Diagnose bis zu Behandlungsempfehlungen reichen. Beide werden aktuell im Fachjournal „Nature“ vorgestellt.

Viele KI-Entwicklungen im Gesundheitsbereich sind bisher auf spezielle Aufgaben beschränkt. Die beiden Modelle MIRA (Medical Intelligence for Reasoning and Action) der Forschenden aus Deutschland und AMIE (Articulate Medical Intelligence Explorer) von Google gehen da deutlich weiter: Unter anderem erfassen sie eigenständig per Chat die Krankheitsgeschichte, ordnen diagnostische Tests wie mikrobiologische Untersuchungen an und erstellen Behandlungspläne samt der Verschreibung konkreter Medikamente.

Dabei berücksichtigen sie zum Beispiel klinische Leitlinien, Fachliteratur und Aspekte wie Wechselwirkungen bei Medikamenten. Statt vager Empfehlungen gab das System von Google den Angaben nach äußerst detaillierte, umsetzbare Anweisungen. In Tests erwiesen sich beide Modelle laut den Autorinnen und Autoren als teils besser und präziser als menschliche Ärztinnen und Ärzte.

Das Google-Team verweist auf Probleme wie Personalmangel und fehlende Kontinuität während einer Behandlung über mehrere Termine hinweg. Die Fachleute aus Heidelberg und Dresden schreiben von „Copiloten“ für Ärzte, damit diese mehr Zeit für die Patientenversorgung haben.

Mit Blick auf das breite Spektrum an Aufgaben im klinischen Management von Patientinnen und Patienten heißt es bei „Nature“: „Wenn KI-Agenten solche Aufgaben übernehmen und effektives klinisches Entscheidungsdenken leisten könnten, wären sie in der Lage, Ärztinnen und Ärzte bei Routineaufgaben zu unterstützen und möglicherweise Ärztemangel in einigen Regionen der Welt zu lindern.“

Nein. Beide Gruppen schreiben, dass ihre Modelle noch nicht im echten Leben angewendet werden könnten. Getestet haben sie ihre Anwendungen mit KI-Versionen von Patienten, die aber auf realen Daten basierten. Diese Simulationen haben den Angaben nach Tücken. Etwa antwortet und reagiert ein solch virtueller Patient völlig anders als ein Mensch aus Fleisch und Blut, der mit akuten Beschwerden in eine Klinik kommt. MIRA habe im Allgemeinen eine angemessene, evidenzbasierte Behandlung vorgeschlagen, heißt es zwar. Die Empfehlungen seien aber nicht zu 100 Prozent zuverlässig gewesen.

„Die Ergebnisse belegen, welches Potenzial KI-Agenten für die Medizin besitzen“, sagt Uwe Platzbecker, Medizinischer Vorstand des Uniklinikums Dresden. Für die weitere Entwicklung gehe es um die Frage, „wie wir solche Innovationen sicher, transparent und zum Nutzen der Patientinnen und Patienten in die klinische Praxis integrieren können“.

Kerstin Denecke von der Berner Fachhochschule sieht als Hürden aktuell die Datenrealität im Gesundheitswesen, Zulassungsverfahren, unklare Verantwortlichkeiten und repräsentative Studien zu Risiken solcher Systeme. „Für klinische Entscheidungen braucht es mehr als Folgsamkeit gegenüber Guidelines“, erklärt die Expertin für patientenzentrierte digitale Gesundheit. Es brauche Verständnis für die individuelle Situation der Betroffenen.