Verbundvorhaben: SENSIBLE-KI - Sichere und vertrauenswürdige mobile KI

Abstract

Im Projekt SENSIBLE-KI wurden Methoden am Beispiel von Android-Systemen untersucht, um den Schutz von KI-Systemen und der von ihnen verarbeiteten Daten sicherzustellen und gleichzeitig eine sichere Übertragung der KI-Modelle auf mobile Endgeräte zu ermöglichen. Dafür wurden Lösungen entwickelt, um Angriffe auf KI-Systeme im mobilen und eingebetteten Kontext zu erschweren oder komplett zu verhindern. Konkret kamen hardwarebasierte Trusted-Computing-Verfahren sowie softwarebasierte Mechanismen zum Einsatz, welche unabhängig von der Plattform auf die KI-Anwendung angewendet werden können. Diese Maßnahmen verbessern einerseits die Robustheit, andererseits aber auch die Vertraulichkeit und Privatheit der Machine-Learning-Modelle und deren Daten. Die innerhalb der Projektlaufzeit gewonnenen Erkenntnisse wurden anhand zweier Use-Case-getriebenen Demonstratoren praktisch veranschaulicht.