Notfall: KI zeigt, dass Frauen verkannt werden

Ein Team von Frankreichs Forschungsinstitut Inserm und der Universität Bordeaux führte eine Studie über kognitive Verzerrungen bei der Triage von Patienten in Notaufnahmen durch. Mit einer generativen künstlichen Intelligenz zeigten die Forscher unter der Leitung von Emmanuel Lagarde, wie Vorurteile des medizinischen Personals die Einschätzung medizinischer Fälle beeinflussen können.

Die Untersuchung wurde nun in den «Proceedings of Machine Learning Research» veröffentlicht. Sie fusst auf 480'000 Patientenakten aus der Notaufnahme des Universitätsklinikums Bordeaux zwischen Januar 2013 und Dezember 2021. Die künstliche Intelligenz wurde trainiert, Triage-Scores zu vergeben, die auf dem Textinhalt der Akten basierten – und der so den Entscheidungsprozess des medizinischen Personals nachahmte.

Dabei wurden die Akten anonymisiert, damit das Modell «blind» eine Punktzahl vergeben konnte.

Die Ergebnisse waren eindeutig: Bei Frauen wurde der Schweregrad ihrer Erkrankung in 5 Prozent der Fälle unterschätzt, während Männer in Bezug auf den Schweregrad leicht überbewertet wurden (3,7 Prozent gegenüber 2,9 Prozent Unterbewertung). Diese Verzerrung war noch ausgeprägter, wenn das mit der Triage betraute Personal wenig Erfahrung hatte.

Die Triage in der Notaufnahme ist ein entscheidender Schritt: Eine Unterschätzung eines Falles kann eine lebensrettende Behandlung verzögern, während eine Überschätzung zu einer Fehlallokation von Ressourcen führen kann, was wiederum andere Patienten benachteiligt. Die Studie zeigt also systemische Verzerrungen auf, die sich direkt auf die Qualität der Versorgung auswirken können.

Die Forscher planen nun, weitere Dimensionen der Triage in Notaufnahmen zu untersuchen, darunter auch altersbedingte Verzerrungen. Später könnte die Einbeziehung nonverbaler Daten – wie Gesichtsausdruck oder Tonfall – die Analysen noch verfeinern.

Im Januar zeigte ein Team des Universitätsspitals Basel mit Bezug auf die Schweiz, dass Frauen, wenn sie einen Herzstillstand erleiden, eine tendenziell «schlechtere» intensivmedizinische Betreuung erhalten. Das Team um Simon A. Amacher und Caroline E. Gebhard wertete die Daten von 41’700 hospitalisierten Personen aus, wovon 21’700 auf Intensivstationen behandelt worden waren. Am Ende ergaben die Zahlen deutliche geschlechtsspezifische Unterschiede bei entscheidenden Kennzahlen:

Es zeigte sich also ein Gesamtbild erheblicher Benachteiligung. Die Autorinnen und Autoren der Studie deuten die Resultate aber mit einer gewissen Vorsicht: Die Patientinnen waren tendenziell älter als die Patienten, und sie litten beim Herzstillstand auch an mehr Komorbiditäten. Dies könnte die höhere Sterblichkeit auf der Intensivstation, aber auch gewisse Therapieeinschränkungen erklären.

Dennoch unterstreichen auch diese Resultate die Notwendigkeit, «geschlechtsspezifische Unterschiede in der Versorgung und Entscheidungsfindung kritisch zu hinterfragen und zukünftige Studien zur präziseren Analyse von Faktoren wie Therapieentscheidungen und Versorgungsstandards durchzuführen» – so ein Fazit des Teams um Amacher, Gebhard et. al.).

Zum Beispiel zeigte sich auch, dass bei Frauen häufiger frühzeitig auf lebenserhaltende Massnahmen verzichtet wurde.