Ärzte vertrauen KI-Empfehlung – trotz wirkungsloser Therapie

KI in der Medizin

Ärzte vertrauen KI-Empfehlung – trotz wirkungsloser Therapie

Ärzte halten womöglich selbst dann an KI-Empfehlungen fest, wenn Rückmeldungen von Patienten darauf hindeuten, dass diese fehlerhaft sind. Was das Online-Experiment zeigte.

Künstliche Intelligenz kann Ärzte bei Diagnosen und Therapien unterstützen, entscheiden muss am Ende jedoch der Mensch. Eine neue Studie legt nahe, dass das in der Praxis schwieriger sein könnte als gedacht. Nachzulesen sind die Ergebnisse im Fachmagazin „PLOS Digital Health“.

Für die Untersuchung nahmen 223 Ärztinnen und Ärzte an zwei Online-Experimenten teil. Sie sollten sich vorstellen, Patienten mit einer seltenen Erkrankung zu behandeln. Eine KI teilte die fiktiven Patienten zuvor in Gruppen ein, die angeblich besser oder schlechter auf eine noch nicht zugelassene Therapie ansprechen würden.

• Studie: KI-Diagnosen benachteiligen bestimmte Personen
• KI als soziale Stütze: Studie weist auf wichtige Risiken hin

Die Mediziner entschieden, wer behandelt werden sollte, und erhielten anschließend Rückmeldungen zum Behandlungserfolg. Diese hätten ihnen zeigen können, dass die Einschätzung der KI falsch war.

Doch genau das geschah meist nicht. In beiden Versuchen orientierten sich die Ärzte weiterhin an der KI-Empfehlung. Selbst als alle Patienten tatsächlich gleich auf die Therapie reagierten, hielten viele die Einstufung der KI weiterhin für zuverlässig.

Besonders auffällig war das zweite Experiment: Hier war die Behandlung vollständig wirkungslos. Trotzdem bemerkten viele Ärzte nicht, dass die Therapie überhaupt keinen Nutzen hatte.

Nach Ansicht der Forscher zeigt die Studie, dass selbst medizinische Fachkräfte für einen sogenannten Automatisierungsbias anfällig sein können – also dazu neigen, Empfehlungen eines Algorithmus zu stark zu vertrauen. Das könne dazu führen, dass widersprüchliche Erfahrungen oder neue Hinweise zu wenig berücksichtigt werden.

„Oft heißt es, dass am Ende immer ein Mensch den Algorithmus kontrolliert“, sagt Co-Autorin Helena Matute. „Unsere Experimente zeigen jedoch, dass Ärzte – genauso wie andere Menschen – Probleme haben, aus den vorhandenen Informationen zu lernen, wenn diese den Empfehlungen eines Algorithmus widersprechen.“

Die Forscher betonen jedoch, dass ihre Ergebnisse nicht bedeuten, dass KI in der Medizin keine Anwendung finden dürfe. Die Experimente fanden unter stark vereinfachten Laborbedingungen mit einer erfundenen Krankheit und einer fiktiven Behandlung statt. Im Klinikalltag stehen Ärzten deutlich mehr Informationen zur Verfügung, etwa Krankengeschichte, Laborwerte oder Leitlinien.

Für die Zukunft sehen die Forscher deshalb vor allem Verbesserungsbedarf im Umgang mit KI. Nun seien weitere Studien nötig, um Strategien und Protokolle zu entwickeln, die kritisches Denken fördern und Ärzten helfen, Fehler von KI-Systemen besser zu erkennen. So ließen sich die Vorteile der Zusammenarbeit von Mensch und KI besser nutzen und mögliche Fehlentscheidungen verringern.