Verbundvorhaben: SENSIBLE-KI - Sichere und vertrauenswürdige mobile KI

Abstract

Im Projekt SENSIBLE-KI wurden Methoden am Beispiel von Android-Systemen untersucht, um den Schutz von KI-Systemen und der von ihnen verarbeiteten Daten sicherzustellen und gleichzeitig eine sichere Übertragung der KI-Modelle auf mobile Endgeräte zu ermöglichen. Dafür wurden Lösungen entwickelt, um Angriffe auf KI-Systeme im mobilen und eingebetteten Kontext zu erschweren oder komplett zu verhindern. Konkret kamen hardwarebasierte Trusted-Computing-Verfahren sowie softwarebasierte Mechanismen zum Einsatz, welche unabhängig von der Plattform auf die KI-Anwendung angewendet werden können. Diese Maßnahmen verbessern einerseits die Robustheit, andererseits aber auch die Vertraulichkeit und Privatheit der Machine-Learning-Modelle und deren Daten. Die innerhalb der Projektlaufzeit gewonnenen Erkenntnisse wurden anhand zweier Use-Case-getriebenen Demonstratoren praktisch veranschaulicht. Datei-Upload durch TIB In the SENSIBLE-KI project, methods were investigated using the example of Android systems to ensure the protection of AI systems and the data processed by them, while at the same time enabling the secure transfer of AI models to mobile devices. To this end, solutions were developed to make attacks on AI systems in mobile and embedded contexts more difficult or to prevent them completely. Specifically, hardware-based trusted computing procedures and software-based mechanisms were used, which can be applied to the AI application regardless of the platform. These measures improve both the robustness and the confidentiality and privacy of the machine learning models and their data. The insights gained during the project were illustrated in practice using two use case-driven demonstrators.