Wenn der KI-basierte Entscheid in die Irre führt

Ein Algorithmus sagte eine schnelle Genesung für eine 85-jährige Patientin voraus. Doch das war «bestenfalls spekulativ», wie ein Gericht urteilt.

, 16. März 2023 um 15:08
image
In den USA entscheidet Künstliche Intelligenz, wann Menschen wieder gesund sind. | Unsplash
Um Entscheidungen über den Gesundheitszustand von Patientinnen und Patienten zu treffen, kommt mehr und mehr Künstliche Intelligenz (KI) zum Einsatz: von der Analyse von Röntgen- und Ultraschallbildern bis hin zu Diagnostik und Behandlung. Solche Systeme können grosse Datenmengen verarbeiten und innerhalb von Sekunden Entscheidungen für oder gegen eine Therapie treffen.
Die Nachrichten-Website «Statnews» berichtet nun über einen Fall, bei dem mit der Technologie «NH Predict» der Firma Navi Health so einiges schief gelaufen zu sein scheint. So beurteilte ein Algorithmus den Fall einer 85-jährigen Patientin, die mit einer verletzten Schulter und einer Allergie gegen Schmerzmittel in einem Pflegeheim lag.

Gericht musste über den Fall entscheiden

Die Künstliche Intelligenz sagte voraus, dass sie nach 16.6 Tagen vollständig genesen sei. Am 17. Tag stoppte ihre Krankenkasse dann auf Grundlage dessen die Zahlungen. Mehr noch: Das System entschied, dass sie bereit war, in ihre Wohnung zurückzukehren, in der sie alleine lebte. Doch das war gemäss «Statnews» eine Fehlentscheidung «unter dem Deckmantel der wissenschaftlicher Strenge».
Denn die medizinischen Aufzeichnungen zeigten ein anderes Bild: In Tat und Wahrheit konnte sich die Frau nicht einmal selbst anziehen, auf die Toilette gehen oder ohne Hilfe einen Rollator schieben. Ein Gericht kam schliesslich zum Schluss, dass die KI-basierte Entscheidung des Versicherers «bestenfalls spekulativ» gewesen sei.

    Artikel teilen

    Loading

    Comment

    2 x pro Woche
    Abonnieren Sie unseren Newsletter.

    oder

    Mehr zum Thema

    image

    Schönheitsoperationen: Lieber ins Nachbarland

    Weltweit boomt die Schönheitschirurgie. Aber Zahlen zeigen: Schweizerinnen lassen sich lieber im Ausland operieren.

    image

    Südkoreas Ärzte protestieren - gegen mehr Studienplätze!

    In Südkorea streiken die Ärzte. Sie fürchten die Konkurrenz, wenn es wie geplant 2000 Studienplätze mehr geben sollte.

    image

    Pro Infirmis, SRK, SPG, Kispi: Die guten Arbeitgeber im Schweizer Gesundheitswesen

    Beim Ranking der «Besten Arbeitgeber 2023» waren die Ergebnisse der Branche eher mittel.

    image

    Viktor 2023: Reden Sie mit, stimmen Sie ab

    Der Countdown zum Award des Schweizer Gesundheitswesens geht weiter. In fünf Kategorien sind starke Leistungen nominiert – jetzt können Sie dazu Ihre Stimme abgeben.

    image

    St. Gallen startet Standesinitiative für höhere Spitaltarife

    Das Kantonsparlament beschloss einen Vorstoss in Bern – womit zumindest ein Zeichen gesetzt wird.

    image

    Spital Oberengadin benötigt dringend Finanzspritze

    Letztes Jahr erlitt die SGO einen Verlust von mehr als 5 Millionen Franken. Nun beantragt sie bei den Trägergemeinden einen Nachtragskredit.

    Vom gleichen Autor

    image

    Kantonsspital Glarus verliert GL-Mitglied

    Thomas Kühnis, Chef der Finanzen, Informatik und Betriebe, verlässt nach neun Jahren die Geschäftsleitung des Kantonsspitals Glarus.

    image

    Neue Ärzte-Tarife auf dem Weg zur Genehmigung

    Die Tarifpartner beantragen wie geplant die Genehmigung eines Tarifsystems aus ambulanten Pauschalen und Tardoc.

    image

    Schatten über dem Verkauf des Spitals Flawil

    Wurden beim Verkauf des Spitals Flawil die Vertragspartner getäuscht? Mehrere Kantonsparlamentarier verlangen Antworten von der St.Galler Regierung.