ETH Lausanne bietet offenes KI-System für die Medizin

Im Gegensatz zu den anderen grossen Medizin-Sprach-Modellen sind die Trainings-Daten von «Meditron» völlig transparent, betont die EPFL.

, 29. November 2023 um 06:31
image
Symbolbild: Medinside, erstellt mit AI Midjourney.
Forscher der ETH Lausanne (EPFL) haben ein Large-Language-Modell (LLM) für medizinische Anwendungen entwickelt und freigegeben. «Meditron», wie es genannt wird, soll Medizinerinnen und Medizinern in aller Welt dabei helfen, korrekte klinische Entscheidungen zu treffen.
Das Besondere an Meditron ist sein Open-Source-Konzept. Das heisst: alle können es weitergestalten. Es gibt bereits LLMs für die Medizin, die meisten seien aber proprietär: Sie stehen also unter Kontrolle eines Unternehmens oder einer Institution; Anwender könnten dabei nicht genau wissen, mit welchen Materialien sie trainiert wurden und können auch bei der Weiterentwicklung nicht eingreifen.
Large Language Modelle verarbeiten massenhaft Daten aus der allgemeinen Sprache in Ergebnisse, die wiederum selber in normaler Sprache dargestellt werden. Es sind also lernende Künstliche-Intelligenz-Systeme, die mit Sprachbefehlen («Prompts») gesteuert werden. Das bekannteste LLM ist Chat-GPT.
Im Gegensatz dazu legt man bei «Meditron» offen, welche Daten für das Training verwendet wurden. Das System sei mit sorgfältig ausgewählten medizinische Datenquellen von hoher Qualität trainiert worden – insbesondere wissenschaftlich geprüfter medizinischer Fachliteratur aus öffentlich zugänglichen Quellen wie Pubmed; ferner mit Guidelines für medizinische Praktiken aus verschiedenen Spitälern, Ländern und Regionen. Auch Guidelines von internationalen Organisationen seien verwendet worden, darunter das Internationalen Rote Kreuz.

Humanitärer Aspekt

Es komme nicht oft vor, dass bei der Entwicklung von medizinischen Tools auch humanitäre Aspekte berücksichtigt würden, kommentiert Javier Elkin vom IKRK. Deshalb freue man sich sehr über diese Zusammenarbeit mit der EPFL.
Nun hoffe man auf internationale Mitarbeit bei der Weiterentwicklung von «Meditron», sagt Martin Jaggi, der das Laboratorium für Machine Learning und Optimierung der EPFL leitet: «Wir wollen, dass Forscher mit unserem Modell Stress-Tests durchführen. Mit ihren Verbesserungen können sie es verlässlicher und robuster und sicherer machen. Es geht um den langen, aber notwendigen Prozess der Validierung in der realen Welt. Genau dies ist aber mit proprietären Modellen gar nicht möglich.»
  • Zeming Chen, Alejandro Hernández Cano, Angelika Romanou et al.: «Meditron-70B: Scaling Medical Pretraining for Large Language Models», Arxiv, November 2023.
  • doi.org/10.48550/arXiv.2311.16079
Es gibt zwei Versionen von «Meditron» mit 7 oder 70 Milliarden Parametern. Obwohl die proprietären Modelle hunderte von Milliarden Parametern verwenden, könne das eigene Open-Source-LLM bei der Qualität seiner Antworten mithalten, so die EPFL. Die sorgfältige Auswahl von weniger, aber für den Einsatzzweck massgeschneiderten und hochqualitativen Trainingsdaten mache dies möglich.
Nach der Entwicklung von «Meditron» habe man vier bekannte medizinische Benchmark-Tests durchgeführt, um das System zu evaluieren. Dabei habe sich gezeigt, dass «Meditron» nicht nur besser sei als alle anderen gegenwärtig erhältlichen Open-Source-Modelle, sondern auch besser als die proprietären Modelle GPT-3.5 und Med-PaLM. Die Meditron-Version mit 70 Milliarden Parametern erreiche zudem beinahe die Performance von GPT-4 und Med-PaLM-2, den beiden gegenwärtig besten LLMs für medizinische Zwecke.

  • ärzte
Artikel teilen

Loading

Comment

2 x pro Woche
Abonnieren Sie unseren Newsletter.

oder

Mehr zum Thema

image

Die Liste: Operationen, die für schwangere Chirurginnen unbedenklich sind

In Deutschland hat die Gesellschaft für Orthopädie und Unfallchirurgie eine «Positivliste« veröffentlicht.

image

Urteil: Wer den Doktor fälscht, kann auch nicht seriös als Ärztin arbeiten

Beim «Dr. med.» meint es das Zürcher Verwaltungsgericht ernst: Es untersagt einer Ärztin wegen Falschangaben die eigenverantwortliche Berufsausübung.

image

Neue Chefärztin für die Psychiatrie St. Gallen

Regula Meinherz ist nun die medizinische Leiterin der Psychiatrie St.Gallen in Pfäfers.

image

Auf diesem Kindernotfall werden auch die Eltern betreut

Am Universitäts-Kinderspital beider Basel sorgt ein neuer Dienst dafür, dass bei den Eltern kein Stress oder Frust aufkommt.

image

Gebühren für Bewilligungen: Der Preisüberwacher greift ein

Bei den Lizenzen für Medizinal- und Gesundheitsberufe herrscht Intransparenz. Sogar der Verdacht auf Abzockerei drängt sich auf.

image

«Der Regulierungswahn zerstört die Qualität der jungen Chirurgengeneration»

Es hat sich viel Frust aufgestaut bei den Chirurgie-Assistenten. Ein junger Arzt gibt Einblick in seinen Alltag.