KI: Ärzte brauchen Klarheit über die Haftung

KI-Systeme werden in den kommenden Jahren weiteren Einzug in den Gesundheitssektor der Schweiz halten – soviel ist sicher. «Zu den erwartbaren Vorteilen gehören vor allem eine personalisierte und verbesserte Gesundheitsversorgung sowie eine geringere Belastung des Gesundheitspersonals», sagt dazu David Marti vom Think Tank «Pour Demain». In einer Studie haben sie untersucht, welche Chancen und Risiken Spitäler sehen und wo sie sich mehr Regulierungsmassnahmen wünschen. Demnach erhoffen sich die Befragten viele Vorteile von KI, wie zum Beispiel verbesserte Entscheidungsprozesse im klinischen Bereich, Kosteneinsparungen sowie höhere Zuverlässigkeit.

Vor allem in der medizinischen Bildgebung wird KI heute bereits regelmässig eingesetzt, insbesondere sogenannte Deep-Learning-Modelle. Diese künstlichen neuronalen Netze nutzen grosse Datenmengen, um medizinische Bilder schnell verarbeiten und interpretieren zu können. Der Vorteil: ein Radiologe muss nicht mehr alle 1000 CT-Bilder selbst anschauen, vielmehr können KI-Werkzeuge die 100 wesentlichsten Bilder vorschlagen oder Bildbereiche markieren, die auf eine Krebserkrankung hinweisen könnten. Auch die Dermatologie profitiert von KI: so kann ein Algorithmus Leberflecken als krank oder gesund klassifizieren. Ähnliche Techniken werden bei Erkrankungen des Magen-Darm-Trakts verwendet.

Lungenerkrankungen wiederum können anhand einer «akustische KI», diese analysiert die Hustengeräusche von Patienten, erkannt werden. Hilfreich wird KI aber auch in den chronisch überlasteten Notfallstationen, wo sie zur Triage genutzt werden kann. Ebenfalls sollen die Einsatzplanung und die Administrationsflut dank KI vereinfacht werden. Die Hoffnung: Ärzte und Pflegefachpersonal werden entlastet, Burnout und Fluktuation könnten durch den Einsatz künstlicher Intelligenz reduziert werden.

Obschon die Euphorie derzeit gross ist und das Gesundheitspersonal KI grundsätzlich positiv gegenübersteht, gibt es auch Bedenken. «Diese drehen sich vor allem um Cybersicherheit, Diskriminierung und Erklärbarkeit», sagt Marti. Laut seiner Studie wird befürchtet, dass KI-Systeme unerwartet ausfallen könnten, anfällig für Cyberangriffe sind, Vorurteile reproduzieren oder schwer nachvollziehbare Empfehlungen aussprechen könnten.

Denn, die Deep-Learning-KI ist eine Blackbox und oft ist nicht erklärbar, wie das System zu einem Schluss gekommen ist. Ein reales Beispiel, das David Marti aus der Studie zitiert: Ein KI-System prognostiziert, dass eine Patientin in fünf Jahren Rückenprobleme entwickelt. Aber der Arzt hat keine Ahnung, wieso das System zu dieser Prognose gelangt. Was soll er nun mit der Information anfangen? Auch funktionieren KI-Systeme bis jetzt nur beschränkt, wenn bei einem Patienten eine Kombination von Krankheitsbildern vorliegt.

Eine weitere Sorge ist die ethische Fragestellung. Da die KI abhängig vom Datenmaterial ist, das ihr zur Verfügung steht, sind gewisse Bevölkerungsgruppen unterrepräsentiert. Als Folge davon könnten die Diagnose-Tools bei ihnen schlechtere Resultate liefern und im ‘worst case’ weniger gute Behandlungen empfehlen.

Was es dringend braucht, sind klare KI-Rahmenbedingungen und -Richtlinien auf wirtschaftlicher und politischer Ebene. «Datenschutz und Transparenz sind die am häufigsten genannten Aspekte im Hinblick auf Regulierungsmassnahmen. Ärzte brauchen Klarheit über die Haftung beim Einsatz von KI-Systemen», sagt Marti. Denn: ohne Klärung der wichtigen Fragen zu Erklärbarkeit und Haftung wird die Technologie nicht optimal genutzt werden können.