KI auf Abwegen: Wenn das Röntgenbild sagt, dass einer Bier trinkt

Der Einsatz von künstlicher Intelligenz (KI) im Gesundheitswesen wird zunehmend selber zum Thema: Was kann die Künstliche Intelligenz leisten, was die Fachkräfte nicht können? Und wo sind beginnt der Fehlerbereich? Bekannt ist, dass KI Anomalien erkennt, die ein Mensch kaum durchschauen kann, und Muster durchschaut, die für das blosse Auge unsichtbar sind.

Doch wie zuverlässig ist die KI am Ende? Dieser Frage ging nun ein Team des Dartmouth-Hitchcock Medical Center in den USA nach. Ins Zentrum der Studie geriet dabei ein heikles Phänomen: «Shortcut learning». Lernen in der Schnelldurchwahl. Das heisst: AI-Systeme können genaue Ergebnisse liefern – die aber potenziell überflüssig oder sogar falsch sind.

Mit einer Analyse von mehr als 25'000 Röntgenaufnahmen des Knies stellten die Forscher fest, dass die KI Feinheiten und Störfaktoren aufnahm – um daraus Merkmale «vorherzusagen», die gar keinen medizinischen Bezug hatten. Das System ging also dermassen ins Detail, dass es am Ende Korrelationen sichtete, wo keine sind, und sich daraus etwas zusammenbastelte.

So meinte die KI genau erkennen zu können, dass ein Knie-Patient eher gebratene Bohnen mag und Bier trinkt – oder nicht. Solche Vorhersagen haben keine klinische Grundlage. Aber in ihrer Detailgenauigkeit kombinierten die Algorithmen falsche Schlussfolgerungen.

«Das geht viel weiter als die Verzerrungen («bias»), die man wegen Details bei Herkunft oder Geschlecht macht», sagt Brandon Hill, ein Mitautor der Studie. Der Experte für Machine Learning fügt an: «Wir fanden heraus, dass der Algorithmus sogar dazu neigen kann, das Jahr zu behaupten, in dem eine Röntgenaufnahme gemacht wurde. Das ist bösartig: Wenn Sie ihn hindern, etwas Bestimmtes zu lernen, lernt er einfach etwas anderes, was er davor noch ignoriert hat. Das kann wirklich zu fragwürdigen Behauptungen führen. Man muss sich bewusst werden, wie leicht das bei dieser Technik geschieht.»

Nötig sind also strenge Bewertungsstandards – denn blindes Vertrauen in Algorithmen kann schwerwiegende Fehlinterpretationen nach sich ziehen. Die Forscher weisen darauf hin, dass KI nicht wie ein Mensch wahrnimmt oder konzeptualisiert.

Es sei «fast wie bei einer ausserirdischen Intelligenz», erklärt Hill: Sie löst Aufgaben nach ihren eigenen, für Menschen oft undurchschaubaren Regeln – was einen kritischen Ansatz bei ihrem Einsatz in der Medizin unabdingbar macht.