Wenn der KI-basierte Entscheid in die Irre führt
Ein Algorithmus sagte eine schnelle Genesung für eine 85-jährige Patientin voraus. Doch das war «bestenfalls spekulativ», wie ein Gericht urteilt.
, 16. März 2023 um 15:08
Um Entscheidungen über den Gesundheitszustand von Patientinnen und Patienten zu treffen, kommt mehr und mehr Künstliche Intelligenz (KI) zum Einsatz: von der Analyse von Röntgen- und Ultraschallbildern bis hin zu Diagnostik und Behandlung. Solche Systeme können grosse Datenmengen verarbeiten und innerhalb von Sekunden Entscheidungen für oder gegen eine Therapie treffen.
Die Nachrichten-Website «Statnews» berichtet nun über einen Fall, bei dem mit der Technologie «NH Predict» der Firma Navi Health so einiges schief gelaufen zu sein scheint. So beurteilte ein Algorithmus den Fall einer 85-jährigen Patientin, die mit einer verletzten Schulter und einer Allergie gegen Schmerzmittel in einem Pflegeheim lag.
Gericht musste über den Fall entscheiden
Die Künstliche Intelligenz sagte voraus, dass sie nach 16.6 Tagen vollständig genesen sei. Am 17. Tag stoppte ihre Krankenkasse dann auf Grundlage dessen die Zahlungen. Mehr noch: Das System entschied, dass sie bereit war, in ihre Wohnung zurückzukehren, in der sie alleine lebte. Doch das war gemäss «Statnews» eine Fehlentscheidung «unter dem Deckmantel der wissenschaftlicher Strenge».
Denn die medizinischen Aufzeichnungen zeigten ein anderes Bild: In Tat und Wahrheit konnte sich die Frau nicht einmal selbst anziehen, auf die Toilette gehen oder ohne Hilfe einen Rollator schieben. Ein Gericht kam schliesslich zum Schluss, dass die KI-basierte Entscheidung des Versicherers «bestenfalls spekulativ» gewesen sei.
Artikel teilen
Loading
Comment
2 x pro Woche
Spital Bülach rutscht in die Verlustzone
Ein Abschreiber auf dem Neubauprojekt des Spitals führt unter dem Strich zu einem negativen Gesamtergebnis.
«Der Tardoc wird Hausärzte besserstellen»
Die FMH-Präsidentin über den Fachärztemangel, die Dringlichkeitsklausel, die Ärztedichte, den Tardoc und das BAG.
Werden EU-Ärzte in der Schweiz diskriminiert?
Das Zulassungsrecht verunmöglicht EU-Ärzten zulasten der OKP tätig zu werden - ohne vorgängige Berufserfahrung in der Schweiz. Aufgrund jüngster Äusserungen im Parlament haben Zweifel über die Vereinbarkeit mit dem EU-Freizügigkeitsabkommen neuen Auftrieb erhalten. Wie begründet sind diese Bedenken?
Gesundheitspersonal in Bern soll endlich mehr Geld verdienen
Mehrere Berner Personalverbände lancieren eine Petition, um ihren Anliegen Nachdruck zu verleihen. Sie fordern höhere Löhne und einen Teuerungsausgleich von mindestens drei Prozent.
Stiftung Pflegezentrum Baar zeigt Ex-Heimleiterin an
Gegen die Frau, die bis vor einem Jahr das Pflegezentrum Baar geleitet hat, wurde eine Strafanzeige eingereicht. Sie soll mehrfach Geld veruntreut haben.
Zürcher Gemeinden wollen Palliative Care in Pflegeheimen finanzieren
Das Pilotprojekt «Palliative Care in Heimen» des GZO Spital Wetzikon trägt Früchte: 25 von 27 Gemeinden wollen das mobile Team für die Einsätze in Pflegeheimen stärken.
Vom gleichen Autor
Attila Kollár wird Chefarzt im Spitalzentrum Biel
Der Onkologe übernimmt in Biel die Onkologie-Leitung in der Funktion des Chefarztes. Dem Inselspital bleibt er aber erhalten.
Welche Vitamin-Marken am meisten Emotionen auslösen
Vitamintabletten sind bei der Schweizer Bevölkerung so beliebt wie nie. Neuromarketing-Profis haben drei Anbieter auf Herz und Bauchgefühl geprüft.
Das Luks Wolhusen hat jetzt eine Co-Leitung
Monika Banz und Guido Schüpfer übernehmen gemeinsam die Führung des Luks-Spitalstandortes Wolhusen.