VUKIM – Verantwortungsvoller Umgang mit Künstlicher Intelligenz in der Medizin; Teilprojekt "TP-S-Soziale Aspekte"

Abstract

Künstliche Intelligenz (KI) hält in zunehmendem Maße Einzug in das Gesundheitswesen, einem besonders sensiblen und vulnerablen Bereich, in dem sie tiefgreifende Auswirkungen auf soziale Interaktionen, ethische Verantwortlichkeiten und institutionelle Strukturen entfalten könnte. Denn im Zuge ihrer zunehmenden Einbettung in arbeitsteilige Versorgungsprozesse, der damit verbundenen Reorganisation professioneller Zuständigkeiten sowie ihrer potenziellen Bedeutung für die Generierung und Bewertung von entscheidungsrelevanten Informationsgrundlagen und Wissensordnungen könnte sich KI auf klinische Entscheidungsprozesse und Behandlungspraktiken in allen Versorgungsphasen auswirken – von der Prävention über Diagnostik und Therapieplanung bis hin zur Nachsorge. Gleichzeitig wird sie als Treiber für eine personalisierte Medizin gehandelt und verspricht Effizienzsteigerung und Qualitätsverbesserung. Die Integration von KI stellt jedoch die hochkomplexen, stark regulierten und arbeitsintensiven Strukturen des Gesundheitssystems vor erhebliche Herausforderungen. Denn neben den rein technischen Aspekten von KI treten hier insbesondere Fragen der ethischen Gestaltung, der sozialen Akzeptanz, der rechtlichen Regulierung sowie der (arbeits-)organisatorischen Umsetzbarkeit in den Vordergrund. Für eine verantwortungsvolle Implementierung und Nutzung von KI reicht es folglich nicht aus, die technologische Leistungsfähigkeit allein zu betrachten. Entscheidend ist vielmehr, wie sich Werte und Prinzipien wie Fairness, Transparenz, Autonomie, Verantwortung und Datenschutz unter realen Arbeitsbedingungen umsetzen und dauerhaft sichern lassen. Dazu muss geprüft werden wie sich diese ethischen Fragestellungen rechtlich und regulatorisch konkretisieren und mit den Anforderungen der Arbeitspraxis im Gesundheitswesen in Einklang bringen lassen. Vor diesem Hintergrund fokussierte das interdisziplinäre Verbundprojekt VUKIM (Verantwortungsvoller Umgang mit Künstlicher Intelligenz in der Medizin), als Teil der ELSA-Förderlinie des BMBF, auf die komplexen Schnittmengen und Wechselwirkungen ethischer, sozialer, rechtlicher und epistemologischer Dimensionen der Anwendung von KI in der Medizin. Das hier vorgestellte (arbeits-)soziologische Teilprojekt "Soziale Aspekte" (VUKIM TP-S) untersuchte hierbei empirisch, wie KI-gestützte Systeme Kompetenzen, berufliche Rollen, Arbeitsprozesse und institutionelle Strukturen verändern und welche Gestaltungsoptionen sich für eine verantwortungsvolle Integration in den klinischen Alltag ergeben.