Förderprojekt "KI Absicherung" - Methoden und Maßnahmen zur Absicherung von KI-basierten Wahrnehmungsfunktionen für das automatisierte Fahren

Abstract

Das Projekt KI Absicherung zielte darauf ab, einen ganzheitlichen und iterativen Ansatz und eine Methodik für eine neuartige evidenzbasierte Sicherheitsargumentation zu entwickeln, die systematisch Unzulänglichkeiten von KI-basierten Funktionen identifiziert, messbar macht und es ermöglicht, diese zu reduzieren. Als exemplarischer Anwendungsfall wurde eine KI-basierte Funktion (Video) zur Fußgängererkennung im urbanen Kreuzungskontext verwendet. Zu diesem Zweck wurde das Projekt in fünf Teilprojekte (TP1: KI Funktion; TP2: Generieren von synthetischen Daten; TP3: Methoden & Maßnahmen zur Absicherung von KI; TP4: Gesamtheitliche KI-Absicherungsstrategie; TP5: Projektmanagement und Dissemination) und fünf Teilprojekt-übergreifende Prozesse (P1-P5) gegliedert, in denen die 24 beteiligten Projektpartner und vier externe Technologieanbieter gemeinsam an der Entwicklung der Vielzahl der Projektergebnisse beteiligt waren. Zusätzlich zur Arbeit in den einzelnen TPs wurden in sechs Evidenz-Workstreams (EWS), die jeweils aus einer Arbeitsgruppe von KI-Entwicklern, KI-Testern und Sicherheitsexperten zusammengesetzt waren, Fragmente der Sicherheitsargumentation exemplarisch durch Identifizierung, Priorisierung und Anwendung geeigneter Sicherheitsmetriken, sicherheitsorientierter Testmethoden und Sicherheitsmaßnahmen zur Reduzierung möglicher DNN-spezifischer Sicherheitsbedenken und DNNUnzulänglichkeiten erarbeitet. Die Projektergebnisse mit Bosch Beteiligung und Beiträge der Robert Bosch GmbH werden im Bericht vorgestellt.