KI: Ärzte brauchen Klarheit über die Haftung

Künstliche Intelligenz wird bereits heute in allen grösseren Schweizer Spitälern genutzt und fortlaufend ausgebaut. Das Potential ist riesig, was fehlt sind derzeit noch klare Rahmenbedingungen.

, 30. Juni 2023 um 08:33
image
In Zukunft könnten Roboter das Pflegepersonal entlasten. | Unsplash
KI-Systeme werden in den kommenden Jahren weiteren Einzug in den Gesundheitssektor der Schweiz halten – soviel ist sicher. «Zu den erwartbaren Vorteilen gehören vor allem eine personalisierte und verbesserte Gesundheitsversorgung sowie eine geringere Belastung des Gesundheitspersonals», sagt dazu David Marti vom Think Tank «Pour Demain». In einer Studie haben sie untersucht, welche Chancen und Risiken Spitäler sehen und wo sie sich mehr Regulierungsmassnahmen wünschen. Demnach erhoffen sich die Befragten viele Vorteile von KI, wie zum Beispiel verbesserte Entscheidungsprozesse im klinischen Bereich, Kosteneinsparungen sowie höhere Zuverlässigkeit.

Medizinische Bildgebung profitiert von KI

Vor allem in der medizinischen Bildgebung wird KI heute bereits regelmässig eingesetzt, insbesondere sogenannte Deep-Learning-Modelle. Diese künstlichen neuronalen Netze nutzen grosse Datenmengen, um medizinische Bilder schnell verarbeiten und interpretieren zu können. Der Vorteil: ein Radiologe muss nicht mehr alle 1000 CT-Bilder selbst anschauen, vielmehr können KI-Werkzeuge die 100 wesentlichsten Bilder vorschlagen oder Bildbereiche markieren, die auf eine Krebserkrankung hinweisen könnten. Auch die Dermatologie profitiert von KI: so kann ein Algorithmus Leberflecken als krank oder gesund klassifizieren. Ähnliche Techniken werden bei Erkrankungen des Magen-Darm-Trakts verwendet.

Akustische KI erkennt Lungenerkrankung

Lungenerkrankungen wiederum können anhand einer «akustische KI», diese analysiert die Hustengeräusche von Patienten, erkannt werden. Hilfreich wird KI aber auch in den chronisch überlasteten Notfallstationen, wo sie zur Triage genutzt werden kann. Ebenfalls sollen die Einsatzplanung und die Administrationsflut dank KI vereinfacht werden. Die Hoffnung: Ärzte und Pflegefachpersonal werden entlastet, Burnout und Fluktuation könnten durch den Einsatz künstlicher Intelligenz reduziert werden.

Cybersicherheit, Diskriminierung und Erklärbarkeit

Obschon die Euphorie derzeit gross ist und das Gesundheitspersonal KI grundsätzlich positiv gegenübersteht, gibt es auch Bedenken. «Diese drehen sich vor allem um Cybersicherheit, Diskriminierung und Erklärbarkeit», sagt Marti. Laut seiner Studie wird befürchtet, dass KI-Systeme unerwartet ausfallen könnten, anfällig für Cyberangriffe sind, Vorurteile reproduzieren oder schwer nachvollziehbare Empfehlungen aussprechen könnten.

Unklare Prognose

Denn, die Deep-Learning-KI ist eine Blackbox und oft ist nicht erklärbar, wie das System zu einem Schluss gekommen ist. Ein reales Beispiel, das David Marti aus der Studie zitiert: Ein KI-System prognostiziert, dass eine Patientin in fünf Jahren Rückenprobleme entwickelt. Aber der Arzt hat keine Ahnung, wieso das System zu dieser Prognose gelangt. Was soll er nun mit der Information anfangen? Auch funktionieren KI-Systeme bis jetzt nur beschränkt, wenn bei einem Patienten eine Kombination von Krankheitsbildern vorliegt.

Diskriminierung von Minderheiten

Eine weitere Sorge ist die ethische Fragestellung. Da die KI abhängig vom Datenmaterial ist, das ihr zur Verfügung steht, sind gewisse Bevölkerungsgruppen unterrepräsentiert. Als Folge davon könnten die Diagnose-Tools bei ihnen schlechtere Resultate liefern und im ‘worst case’ weniger gute Behandlungen empfehlen.

KI-Rahmenbedingungen und -Richtlinie

Was es dringend braucht, sind klare KI-Rahmenbedingungen und -Richtlinien auf wirtschaftlicher und politischer Ebene. «Datenschutz und Transparenz sind die am häufigsten genannten Aspekte im Hinblick auf Regulierungsmassnahmen. Ärzte brauchen Klarheit über die Haftung beim Einsatz von KI-Systemen», sagt Marti. Denn: ohne Klärung der wichtigen Fragen zu Erklärbarkeit und Haftung wird die Technologie nicht optimal genutzt werden können.

Nachgefragt bei Christian Greis, Dermatologe am Universitätsspital Zürich USZ

Hat sich der Einsatz von künstlicher Intelligenz in der Dermatologie bereits etabliert? Die Bilderkennung mittels KI hat in der Dermatologie ein grosses Potential, etwa um die diagnostische Genauigkeit bei Hautkrebs zu verbessern. Inzwischen haben wir auch Patienten, die aktiv nach der zusätzlichen Kontrolle durch KI fragen. Ich hatte zum Beispiel eine Patientin, die sich erst ihr bösartiges Muttermal entfernen liess, nachdem die KI meinen Verdacht bestätigte.
Worin sehen Sie die hauptsächlichen Vorteile der KI? Durch die Unterstützung von KI können Prozesse vereinfacht und eine Verbesserung der diagnostischen Genauigkeit erreicht werden. KI eignet sich in unserem Fachgebiet sehr gut, um etwa den Schweregrad oder die Ausdehnung von Läsionen zu bewerten. Auch in der Spracherkennung ist KI äusserts hilfreich, etwa beim Diktieren der Arztberichte.
Wie steht es um die erhoffte Zeitersparnis? Wenn man KI richtig einsetzt, kann diese zu deutlicher Zeitersparnis führen. Nebst der angesprochenen Spracherkennung beim Diktieren von Berichten, können neuartige KI-Modelle (vgl. z.B. Chat-GPT) bereits eigens krankheitsspezifische Arztberichte erstellen, die dann nur noch Korrektur gelesen werden müssen. Auch bei der Flächenausmessung von Hauterkrankungen zur Bestimmung des Schweregrades kann KI innert Sekunden und sehr präzise unterstützen.
Wie gross ist die Bereitschaft der Ärzteschaft, sich mit KI auseinanderzusetzen? Anfänglich war eine gewisse Skepsis im Sinne von ‘bin ich als Dermatologe irgendwann überflüssig’ spürbar. Inzwischen ist bei der Ärzteschaft aber eine positive Haltung gegenüber KI vorhanden und der Nutzen durch KI ersichtlich. Die künstliche Intelligenz kann Ärzte nicht ersetzen, aber unterstützen – und das müssen wir nutzen!
Ist KI überhaupt schon genügend im Klinikalltag integriert? Jein. Es wird aktuell sehr viel geforscht auf dem Gebiet und spannende Pilotprojekte sind am Laufen. Im Klinikalltag angekommen und integriert ist es jedoch noch nicht genügend. In der Dermatologie wird die KI bereits flächendeckend in der Muttermal- bzw. Melanomdiagnostik eingesetzt.
Was müsste sich hier ändern? Ein grosses Thema sind Regularien, insbesondere in Hinblick auf den Datenschutz, die die flächenmässige Nutzbarkeit KI-basierter Applikationen einschränkt. Datenschutz ist äusserst wichtig und wurde mit den neuerlichen Anpassungen der Datenschutzverordnung nochmals gestärkt. Nichtsdestotrotz - Länder mit weniger strengen Regularien und politischen Einschränkungen werden künftig in diesen Bereichen führend sein.
Wo liegen derzeit die KI Forschungsschwerpunkte ? In der Dermatologie ist die Bilderkennung sicherlich einer der Schwerpunkte. Inzwischen gibt es gute Modelle die medizinische Fachpersonen aber auch Betroffene direkt in der Erkennung Ihrer Erkrankung unterstützen können. In den letzten Wochen hat beispielsweise Google ein Tool (Google Lens, DermAssist) in den USA auf den Markt gebracht, welches flächendeckend zur Verfügung steht und >200 Hauterkrankungen erkennen und differenzieren kann.

 

 

 

Artikel teilen

Loading

Comment

2 x pro Woche
Abonnieren Sie unseren Newsletter.

oder

Mehr zum Thema

image

Hirslanden: Umbau an der Spitze – näher zu den Regionen

Hirslanden-Zürich-Direktor Marco Gugolz zieht als Regional Operations Executive in die Konzernleitung ein.

image

Was geschieht mit dem Spital Thusis?

Die Stiftung Gesundheit Mittelbünden sucht Wege aus der finanziellen Krise – beraten von PwC. Ein Entscheid soll im Herbst fallen.

image

CSEB: «Herausfordernd, aber zufriedenstellend»

Trotz roten Zahlen und leicht rückläufigen Patientenzahlen gibt sich das Center da sandà Engiadina Bassa optimistisch.

image

Spital STS: Hohe Patientenzahlen bewahren nicht vor Verlust

Sowohl stationär als auch ambulant gab es bei der Spitalgruppe Simmental-Thun-Saanenland 2023 einen Zuwachs.

image

Spital Lachen bricht Neubau-Projekt ab

Nun soll saniert statt neu gebaut werden – aus finanziellen Gründen, aber auch wegen der Flexibilität.

image

Spitalzentrum Biel: Sehr rote Zahlen wegen Sonderabschreiber

Andererseits war 2023 ein Wachstumsjahr für die SZB-Gruppe, es gab einen Rekordwert bei den Patientenzahlen. Und die dynamische Entwicklung setze sich 2024 fort.

Vom gleichen Autor

image

Alzheimer: «Für die Früherkennung eröffnen sich neue Perspektiven»

Demenz-Erkrankungen dürften sich in den nächsten 25 Jahren verdoppeln. Alzheimer-Forscher Julius Popp von der Klinik Hirslanden erläutert, welche Hoffnungen bestehen.

image

«Weihnachten ist auch im Spital eine magische Zeit»

Die Festtage sind eine teils schmerzliche, teils hoffnungsvolle Zäsur für Kranke und Angehörige. Ein Gespräch mit Spital-Seelsorgerin Margarete Garlichs.

image

«Das Spital wird als rechtsfreier Raum wahrgenommen»

Gewalttätige Patienten und Angehörige belasten das Gesundheitspersonal – doch Konsequenzen haben sie kaum zu fürchten. Das muss ändern, sagt Pflegefachmann und Aggressions-Trainer Stefan Reinhardt.