Verbundprojekt: Privatsphäreschützendes Maschinelles Lernen für endgerätzentrierte Selbstvermessung - MLens

Abstract

Das Innovationspotenzial des Big-Data-Markts im Gesundheitswesen wird durch zahlreiche regulatorische Hürden eingeschränkt. Zwar existieren für viele gesetzliche Vorgaben etablierte Umsetzungsprozesse, doch mangelt es im Bereich des verantwortungsvollen Umgangs mit Patientendaten häufig an grundlegenden technologischen Lösungen. Dies führt zu Investitionsunsicherheiten bei datenbasierten Innovationen im Healthcare-Sektor. Maschinelles Lernen (ML) bildet einen zentralen Bestandteil zahlreicher datengetriebener Entwicklungen der letzten Jahre. Mithilfe von ML-Methoden lassen sich auf Basis von Beispieldaten (den sog. Trainingsdaten) Muster und Bewertungsmechanismen erkennen und Regeln zur Generierung künstlicher Daten (sog. Synthesedaten) ableiten. Zahlreiche Angriffe haben gezeigt, dass ML-Modelle, die mit schützenswerten Trainingsdaten trainiert wurden, häufig erhebliche Mengen dieser Daten memorieren. Dadurch gelten die Modelle selbst als schützenswert. Diese sogenannte "Memorization" wirft die grundlegende Frage auf, ob sich effektive maschinelle Lernverfahren entwickeln lassen, die sämtliche Angriffe auf die zugrunde liegenden Trainingsdaten verhindern und somit jede Form der Datenmemorierung ausschließen. In der praktischen Umsetzung ergibt sich eine weitere Herausforderung: In Szenarien ohne zentrale Instanz, der alle beteiligten Personen vertrauen würden, stellt sich zusätzlich die Frage, ob praxistaugliche, verteilte Lernverfahren realisierbar sind, die mit schützenswerten Trainingsdaten arbeiten können, ohne dass diese zuvor zentral zusammengeführt werden müssen. Ziel unseres Projekts ist es nun, die Anwendbarkeit und Marktchancen neuartiger Verfahren für privatsphäre-schützendes Maschinelles Lernen zu untersuchen und anhand von Demonstratoren erfahrbar und bewertbar zu machen. Das Vorhaben baut auf aktuellen Forschungsergebnissen zu datenschutzgerechten Lernmethoden auf, bei denen beispielsweise Differential Privacy (DP) und Secure Multi-Party Computation (SMPC) eingesetzt werden, um den Schutz schützenswerter Trainingsdaten zu gewährleisten. Bestehende Ansätze gelten bislang jedoch entweder als ineffizient, technisch schwer skalierbar oder bieten keinen ausreichenden Schutz in realitätsnahen Anwendungsfällen. Unser Projekt adressiert insbesondere drei zentrale Problemstellungen: (1) ungewollte Informationsabflüsse durch Nutzeranfragen, (2) das Offenlegen schützenswerter Informationen über Trainingsdaten durch das Modell selbst sowie (3) grundsätzliche Risiken durch zentrale Datenspeicherung. Hier setzen wir auf dezentrale und endgerätebasierte Lernverfahren, die diese Risiken technisch eindämmen sollen.