Autonome KI-Agenten: Die Medizin von morgen braucht neue Regeln

Wer in der Schweiz digitale Versorgung, Spitalstrategie oder Medtech-Entwicklung mitgestaltet, kommt an einer Frage nicht mehr vorbei: «Wie regulieren wir autonome KI?». Die heute noch experimentellen Systeme werden schon bald Teil des klinischen Alltags sein – von der Onkologie bis zur Notfallmedizin.

Doch ihre Einführung droht an den Zulassungsmechanismen zu scheitern. Denn durch ihren medizinischen Zweck gelten sie oft als Medizinprodukte und müssen spezifische Gesetze und Vorgaben erfüllen.

Ein Forschungsteam der Technischen Universität Dresden warnt in «Nature Medicine» vor einer wachsenden Lücke zwischen technologischem Fortschritt und regulatorischen Realitäten – auch mit Blick auf die Patientensicherheit.

Autonome KI-Agenten gehen über klassische Entscheidungsunterstützung hinaus. Sie kombinieren LLMs (Large Language Models) mit Bildanalyse, klinischen Guidelines und Patientendaten – und vor allem: Sie agieren zunehmend selbstständig.

Für Spitäler, Praxisnetzwerke oder Pflegeeinrichtungen bieten solche Systeme enormes Potenzial: Effizienzgewinne, Entlastung bei Routineaufgaben und vernetzte Versorgung in Echtzeit. Doch der regulatorische Rahmen stammt aus einer Zeit statischer, klar abgegrenzter Medtech-Produkte.

Das Forschungsteam des Else Kröner Fresenius Zentrums für Digitale Gesundheit (EKFZ) an der TU Dresden schlägt folgende Schritte vor:

1. Kurzfristig: Ausweitung bestehender Ermessensspielräume («Enforcement Discretion») oder temporäre Ausnahmen (Nicht-Medizinprodukt-Klassifizierung) für bestimmte KI-Anwendungen.

2. Mittelfristig: Entwicklung freiwilliger alternativer Zulassungswege, die dynamische Anpassungen und Überwachung im realen Einsatz ermöglichen – statt einer rein statischen Vorabprüfung.

3. Langfristig: Etablierung eines Qualifikationssystems analog zur ärztlichen Qualifizierung: KI-Systeme würden stufenweise mehr Autonomie erhalten, basierend auf dokumentierter Sicherheit und Wirksamkeit im Einsatz.

Für das Gesundheitswesen bedeutet das: Es braucht regulatorischen Mut. Und eine neue Kultur der Zusammenarbeit zwischen Tech-Branche, Fachgesellschaften, Behörden und Spitälern. Nur so kann sichergestellt werden, dass Innovation nicht auf der Strecke bleibt – und dass Patientinnen und Patienten sicher profitieren.