KI-Absicherung, Teilprojekte des HCI

Abstract

Im Rahmen des Verbundsprojektes KI Absicherung wurden Methoden und Maßnahmen für die Absicherung KI-basierter Funktionen für autonome Fahrzeuge entwickelt und deren Eignung hinsichtlich einer stringenten Sicherheitsargumentation untersucht. Gegeben des Standes der Technik wurde ein umsetzbarerer und im Expertenkreis anerkannter Weg einer strukturierten Herangehensweise zum Nachweis der Absicherbarkeit von KI-Modulen aufgezeigt und, zusammen mit allen anderen Inhalten des Vorhabens, an einem definierten und abgrenzbaren Use-Case methodisch erarbeitet. Die vom HCI durchgeführten Arbeiten fokussierten sich hierbei zum einen auf die Entwicklung und Implementierung von State-of-the-Art Detektionsmethoden zur Fußgängererkennung. Der Hauptfokus lag jedoch auf der Erfoschung von Methoden zur Absicherung dieser Detektionsmethoden, insbesondere in den Bereichen Data-Augmentation, Funktionsrobustifizierung und White-Box-Methodenentwickung. The joint project ‘KI.Absicherung’ developed means and methods for safeguarding AI-based functions for automated cars and investigated their suitability with regard to a stringent safety argumentation. Based on current state of the art methods a feasible way for a structured approach to prove the securability of AI modules was shown and, together with all other contents of the project, methodically elaborated on a defined use case. The works of the HCI Heidelberg within this project focused on investigating and developing state-of-the-art methods for AI-based pedestrian detection as well as exploring approaches for safeguarding these detection methods. The main focus here was put on approaches for data augmentation, function robustification and white-box methods.