Wenn der KI-basierte Entscheid in die Irre führt

Ein Algorithmus sagte eine schnelle Genesung für eine 85-jährige Patientin voraus. Doch das war «bestenfalls spekulativ», wie ein Gericht urteilt.

, 16. März 2023 um 15:08
image
In den USA entscheidet Künstliche Intelligenz, wann Menschen wieder gesund sind. | Unsplash
Um Entscheidungen über den Gesundheitszustand von Patientinnen und Patienten zu treffen, kommt mehr und mehr Künstliche Intelligenz (KI) zum Einsatz: von der Analyse von Röntgen- und Ultraschallbildern bis hin zu Diagnostik und Behandlung. Solche Systeme können grosse Datenmengen verarbeiten und innerhalb von Sekunden Entscheidungen für oder gegen eine Therapie treffen.
Die Nachrichten-Website «Statnews» berichtet nun über einen Fall, bei dem mit der Technologie «NH Predict» der Firma Navi Health so einiges schief gelaufen zu sein scheint. So beurteilte ein Algorithmus den Fall einer 85-jährigen Patientin, die mit einer verletzten Schulter und einer Allergie gegen Schmerzmittel in einem Pflegeheim lag.

Gericht musste über den Fall entscheiden

Die Künstliche Intelligenz sagte voraus, dass sie nach 16.6 Tagen vollständig genesen sei. Am 17. Tag stoppte ihre Krankenkasse dann auf Grundlage dessen die Zahlungen. Mehr noch: Das System entschied, dass sie bereit war, in ihre Wohnung zurückzukehren, in der sie alleine lebte. Doch das war gemäss «Statnews» eine Fehlentscheidung «unter dem Deckmantel der wissenschaftlicher Strenge».
Denn die medizinischen Aufzeichnungen zeigten ein anderes Bild: In Tat und Wahrheit konnte sich die Frau nicht einmal selbst anziehen, auf die Toilette gehen oder ohne Hilfe einen Rollator schieben. Ein Gericht kam schliesslich zum Schluss, dass die KI-basierte Entscheidung des Versicherers «bestenfalls spekulativ» gewesen sei.

    Artikel teilen

    Loading

    Kommentar

    Mehr zum Thema

    image

    Datenleck bei Hirslanden Zürich: Es war menschliches Fehlverhalten - kein IT-Problem

    Ein Hirslanden-Belegarzt gab seine Login-Daten zu den Patientenakten weiter. Die Zugriffsrechte von Belegärzten seien aber kein grundsätzliches Problem, betont der Hirslanden-Sprecher.

    image

    Lindenhof gibt Spitalstandort Engeried auf

    Grosser Umbau in der Berner Lindenhofgruppe: Im Engeried gibt es künftig nur noch ambulante Radiologie und Arztpraxen. Der Rest wird an den Lindenhof und an den Sonnenhof verlegt.

    image

    Michael Osthoff wird neuer Stiftungsrat im See-Spital

    Das See-Spital erhält einen neuen Stiftungsrat: Michael Osthoff, Chefarzt in Winterthur, wird Nachfolger des zurücktretenden Walter Reinhart.

    image

    Darum haben Dermatologie-Kliniken so grossen Erfolg

    Die Zahl der dermatologischen Kliniken wächst schnell. Die Gründe für den Erfolg von Skinmed, Delc, Dermis und DKZ.

    image

    VITREA leistet Pionierarbeit für Menschen mit Rückenmarkverletzung in Europa

    Die VITREA Gruppe, einer der führenden europäischen Anbieter für Rehabilitation, führt als erste Rehagruppe in Europa die ARC-EX-Therapie von ONWARD Medical ein.

    image

    Spitalverband H+ übt Kritik an Agenda Grundversorgung

    Der Spitalverband H+ beurteilt den Fachbericht zur Agenda Grundversorgung kritisch. Aus Sicht des Verbands werden Spitäler und Kliniken in der Strategie zu wenig berücksichtigt

    Vom gleichen Autor

    image

    Kantonsspital Glarus verliert GL-Mitglied

    Thomas Kühnis, Chef der Finanzen, Informatik und Betriebe, verlässt nach neun Jahren die Geschäftsleitung des Kantonsspitals Glarus.

    image

    Neue Ärzte-Tarife auf dem Weg zur Genehmigung

    Die Tarifpartner beantragen wie geplant die Genehmigung eines Tarifsystems aus ambulanten Pauschalen und Tardoc.

    image

    Schatten über dem Verkauf des Spitals Flawil

    Wurden beim Verkauf des Spitals Flawil die Vertragspartner getäuscht? Mehrere Kantonsparlamentarier verlangen Antworten von der St.Galler Regierung.