Wenn der KI-basierte Entscheid in die Irre führt

Um Entscheidungen über den Gesundheitszustand von Patientinnen und Patienten zu treffen, kommt mehr und mehr Künstliche Intelligenz (KI) zum Einsatz: von der Analyse von Röntgen- und Ultraschallbildern bis hin zu Diagnostik und Behandlung. Solche Systeme können grosse Datenmengen verarbeiten und innerhalb von Sekunden Entscheidungen für oder gegen eine Therapie treffen.

Die Nachrichten-Website «Statnews» berichtet nun über einen Fall, bei dem mit der Technologie «NH Predict» der Firma Navi Health so einiges schief gelaufen zu sein scheint. So beurteilte ein Algorithmus den Fall einer 85-jährigen Patientin, die mit einer verletzten Schulter und einer Allergie gegen Schmerzmittel in einem Pflegeheim lag.

Die Künstliche Intelligenz sagte voraus, dass sie nach 16.6 Tagen vollständig genesen sei. Am 17. Tag stoppte ihre Krankenkasse dann auf Grundlage dessen die Zahlungen. Mehr noch: Das System entschied, dass sie bereit war, in ihre Wohnung zurückzukehren, in der sie alleine lebte. Doch das war gemäss «Statnews» eine Fehlentscheidung «unter dem Deckmantel der wissenschaftlicher Strenge».

Denn die medizinischen Aufzeichnungen zeigten ein anderes Bild: In Tat und Wahrheit konnte sich die Frau nicht einmal selbst anziehen, auf die Toilette gehen oder ohne Hilfe einen Rollator schieben. Ein Gericht kam schliesslich zum Schluss, dass die KI-basierte Entscheidung des Versicherers «bestenfalls spekulativ» gewesen sei.