Verbundvorhaben FRAIM - Jenseits reiner Performanz: ein ethischer Rahmen für die Nutzung von KI in der Neuromedizin; Teilprojekt 2 Rechtliche Analysen

Abstract

Die Diskussion um den Einsatz von Künstlicher Intelligenz (KI) in der Medizin und speziell in der Radiologie wird seit Jahren intensiv geführt. Geoffrey Hinton behauptete im Jahr 2016, dass die Ausbildung von Radio loginnen und Radiologen eingestellt werden sollte, da KI diese in fünf bis zehn Jahren überflüssig machen werde [1]. Im Jahr 2023 hat Hinton seine frühere Einschätzung teilweise zurückgenommen und bemerkt, er habe etwa um den Faktor 3 falsch gelegen. Er sei aber immer noch davon überzeugt, auf lange Sicht recht zu behalten [2]. Seit Hintons erster Äußerung hat sich vieles verändert. Während damals kaum KI-basierte Anwendungen verfügbar waren, gibt es mittlerweile eine Vielzahl zugelassener Medizinprodukte, die KI beinhalten. Ende 2024 führte die US-amerikanische Food and Drug Administration (FDA) auf ihrer Website 1 026 zugelassene KI-basierte Medizinprodukte - 777 davon entfielen auf den Bereich der Radiologie [3]. KI-Anwendungen in der Radiologie sind damit keine Spekulation mehr, sondern haben die klinische Praxis erreicht. Beispiele für relevante Anwendungsfelder sind unter anderem die KI-gestützte Frakturerkennung in Röntgenbildern [4] oder die Röntgen-Thorax-Diagnostik, bei der unter anderem eine Verbesserung der Detektionsrate relevanter Lungenrundherde [5] und eine Verkürzung der Befundungszeiten [6] belegt werden konnten. Dennoch ist festzustellen, dass die Verwendung radiologischer KI-Anwendungen in der medizinischen Routine, zumindest gemessen am Angebot, bislang wenig verbreitet ist. Gründe hierfür sind unter anderem finanzielle Faktoren [7] sowie die spärliche Validierung eines Mehrwerts [8]. Zudem hält die Implementierung mit der rasanten Entwicklung im mer weniger Schritt. Schon jetzt lassen neue Möglichkeiten großer Sprachmodelle [9] sowie sogenannter "foundation models" [10] die bestehende KI-Integration anachronistisch erscheinen. Parallel zur technischen Entwicklung haben sich die regulativen Rahmenbedingungen für medizinische KI in den vergangenen Jahren erheblich verändert, nicht zuletzt mit der KI-Verordnung der Europäischen Union von 2024. Dessen ungeachtet sind viele ethische und rechtliche Aspekte der Implementierung noch offen, und die Frage der Akzeptanz von KI-basierten Anwendungen in der Medizin ist bislang nur ansatzweise beantwortet. Der bekannte Gartner Hype Cycle [11] unterscheidet fünf Phasen der Aufmerksamkeit auf eine Technologie: Einem technologischen Auslöser folgen demnach zunächst ein Gipfel der überzogenen Erwartungen und ein Tal der Enttäuschungen, bevor der Pfad der Erleuchtung schließlich auf das Plateau der Produktivität führt. Ob wir uns langsam diesem Plateau annähern, wird man erst in Zukunft retrospektiv beurteilen können - dennoch scheint es sinnvoll, eine Zwischenbilanz zu ziehen.