Risiken und Chancen: KI-Chatbots in der medizinischen Praxis – Untersuchung der TUM

BerlinGroße Sprachmodelle wie ChatGPT können mühelos medizinische Prüfungen bestehen. Dennoch ist ihr Einsatz zur Diagnose von Patienten in Krankenhäusern mit Gefahr verbunden. Sie treffen häufig schnelle Diagnosen und halten sich dabei nicht immer an medizinische Richtlinien. Forscher der Technischen Universität München (TUM) untersuchten, ob KI-Chatbots in der klinischen Praxis verwendet werden könnten.

Die Forscher nutzten das frei verfügbare Sprachmodell Llama 2, um den Ablauf vom Notdienst bis zur Behandlung zu simulieren. Dabei bedienten sie sich anonymer Patientendaten einer US-Klinik und wählten 2400 Fälle von Bauchschmerzen aus. Die KI musste entscheiden, welche Tests durchzuführen sind, und darauf basierend Diagnose und Behandlungsplan erstellen.

Ergebnisse:

• Die KI-Modelle forderten nicht konsequent alle erforderlichen Tests an.
• Je mehr Informationen sie erhielten, desto ungenauer wurden sie.
• Die KI ignorierte oft Behandlungsrichtlinien.
• Diagnosen hingen von der Reihenfolge ab, in der Informationen eingingen.

Im Vergleich zu menschlichen Ärzten schnitt die KI nicht so gut ab. Während Ärzte in 89 % der Fälle richtig lagen, erzielte das beste KI-Modell nur eine Trefferquote von 73 %. Bei bestimmten Diagnosen, wie beispielsweise Entzündungen der Gallenblase, war die KI lediglich in 13 % der Fälle korrekt.

Die Forscher testeten keine kommerziellen KI-Modelle wie ChatGPT oder die von Google wegen Datenschutzproblemen. Krankenhäuser benötigen Modelle, die sie kontrollieren und schützen können, was durch Open-Source-Modelle ermöglicht wird. Zudem ist es schwierig, kommerzielle Modelle fair zu bewerten, ohne zu wissen, auf welchen Daten sie basieren.

Lesen Sie auch:

Heute · 16:32

Subtile Verbindungen: Gehirnstrukturen und politische Überzeugungen

Die Entwicklung von KI für medizinische Diagnosen schreitet rasant voran. Prof. Daniel Rückert von der TUM ist der Meinung, dass KI in Zukunft für Ärzte nützlich sein könnte. Sie kann dabei helfen, über Fälle zu diskutieren, aber wird Ärzte nicht so bald ersetzen. Krankenhäuser benötigen Open-Source-Modelle, um Patientendaten sicher zu verwahren und die Kontrolle darüber zu behalten.

KI-Chatbots in der Medizin: Noch nicht bereit, aber vielversprechend

KI-Chatbots könnten in der Medizin nützlich sein, sind aber noch nicht ausgereift. Es bedarf weiterer Tests und Anpassungen. Aktuell können sie bei akademischen Aufgaben und der Unterstützung von Ärzten helfen, jedoch keine endgültigen Diagnosen stellen. Die KI-Technologie entwickelt sich jedoch schnell weiter, sodass die Chatbots in den nächsten Jahren deutlich besser werden dürften.

Ärzte brauchen verlässliche Werkzeuge. Bis KI genauso zuverlässig wie menschliche Ärzte ist, sollte sie keine wichtigen Entscheidungen allein treffen. Forscher entwickeln Testumgebungen, um diese Modelle zu verbessern. Krankenhäuser sollten jedoch nur KI einsetzen, die sie vollständig verstehen und kontrollieren können.

KI-Chatbots zeigen vielversprechende Ansätze, sind jedoch noch nicht bereit für den Einsatz in Krankenhäusern. Es bedarf weiterer Forschung, besserer Datenaufbereitung und strengerer Richtlinien.