Wenn der KI-basierte Entscheid in die Irre führt

Ein Algorithmus sagte eine schnelle Genesung für eine 85-jährige Patientin voraus. Doch das war «bestenfalls spekulativ», wie ein Gericht urteilt.

, 16. März 2023 um 15:08
image
In den USA entscheidet Künstliche Intelligenz, wann Menschen wieder gesund sind. | Unsplash
Um Entscheidungen über den Gesundheitszustand von Patientinnen und Patienten zu treffen, kommt mehr und mehr Künstliche Intelligenz (KI) zum Einsatz: von der Analyse von Röntgen- und Ultraschallbildern bis hin zu Diagnostik und Behandlung. Solche Systeme können grosse Datenmengen verarbeiten und innerhalb von Sekunden Entscheidungen für oder gegen eine Therapie treffen.
Die Nachrichten-Website «Statnews» berichtet nun über einen Fall, bei dem mit der Technologie «NH Predict» der Firma Navi Health so einiges schief gelaufen zu sein scheint. So beurteilte ein Algorithmus den Fall einer 85-jährigen Patientin, die mit einer verletzten Schulter und einer Allergie gegen Schmerzmittel in einem Pflegeheim lag.

Gericht musste über den Fall entscheiden

Die Künstliche Intelligenz sagte voraus, dass sie nach 16.6 Tagen vollständig genesen sei. Am 17. Tag stoppte ihre Krankenkasse dann auf Grundlage dessen die Zahlungen. Mehr noch: Das System entschied, dass sie bereit war, in ihre Wohnung zurückzukehren, in der sie alleine lebte. Doch das war gemäss «Statnews» eine Fehlentscheidung «unter dem Deckmantel der wissenschaftlicher Strenge».
Denn die medizinischen Aufzeichnungen zeigten ein anderes Bild: In Tat und Wahrheit konnte sich die Frau nicht einmal selbst anziehen, auf die Toilette gehen oder ohne Hilfe einen Rollator schieben. Ein Gericht kam schliesslich zum Schluss, dass die KI-basierte Entscheidung des Versicherers «bestenfalls spekulativ» gewesen sei.

    Artikel teilen

    Loading

    Kommentar

    Mehr zum Thema

    image

    Basel-Stadt: Seelsorge wird interreligiös organisiert

    Künftig übernimmt eine interreligiöse Trägerschaft die «Spezialisierte Spiritual Care» in Spitälern und Gefängnissen. Der Kanton Basel-Stadt stellt dafür jährlich 1,6 Millionen Franken bereit.

    image

    CSS-Vizechef übernimmt Führung bei Swica

    Der Krankenversicherer Swica bekommt eine neue Führung: Rudolf Bruder übernimmt im November 2026 die CEO-Position von Reto Dahinden, der das Unternehmen nach 15 Jahren verlässt.

    image

    ZHAW-Studie: Der Digitale Reifegrad unserer Akteure ist unbefriedigend – Was können wir dagegen tun?

    Der aktuelle Digital Health Report 2025/26 der ZHAW belegt: Das Gesundheitswesen hinkt bei digitalen Kompetenzen hinterher. Der Handlungsbedarf ist riesig, doch Praktiker machen oft einen Fehler. Lesen Sie, wie Sie das Problem mit Micro-Teachings effektiv und effizient angehen.

    image

    Zürich: Fast eine halbe Milliarde für die nächste Ärztegeneration

    Der Zürcher Kantonsrat bewilligt 25 Millionen Franken für das Projekt «Med500+». Ab 2030 sollen an der Universität Zürich jährlich 700 statt 430 Studierende Humanmedizin beginnen.

    image

    Frauenklinik Züri Ost vor Führungswechsel

    Die Frauenklinik Züri Ost der Spitäler Männedorf und Uster steht vor einem Führungswechsel: Aufbauleiter Ralf Joukhadar verlässt die Kooperation im Herbst 2026.

    image

    Ziel verfehlt: Der Traum vom universellen Krebsbluttest gerät ins Wanken

    Der Galleri-Test erkennt laut Hersteller über 50 Krebsarten. Entscheidend ist jedoch, ob durch ihn fortgeschrittene Tumoren seltener auftreten. Genau das gelang nicht.

    Vom gleichen Autor

    image

    Kantonsspital Glarus verliert GL-Mitglied

    Thomas Kühnis, Chef der Finanzen, Informatik und Betriebe, verlässt nach neun Jahren die Geschäftsleitung des Kantonsspitals Glarus.

    image

    Neue Ärzte-Tarife auf dem Weg zur Genehmigung

    Die Tarifpartner beantragen wie geplant die Genehmigung eines Tarifsystems aus ambulanten Pauschalen und Tardoc.

    image

    Schatten über dem Verkauf des Spitals Flawil

    Wurden beim Verkauf des Spitals Flawil die Vertragspartner getäuscht? Mehrere Kantonsparlamentarier verlangen Antworten von der St.Galler Regierung.