Förderprojekt "KI Absicherung" - Methoden und Maßnahmen zur Absicherung von KI-basierten Wahrnehmungsfunktionen für das automatisierte Fahren

Abstract

Das Projekt KI Absicherung zielte darauf ab, einen ganzheitlichen und iterativen Ansatz und eine Methodik für eine neuartige evidenzbasierte Sicherheitsargumentation zu entwickeln, die systematisch Unzulänglichkeiten von KI-basierten Funktionen identifiziert, messbar macht und es ermöglicht, diese zu reduzieren. Als exemplarischer Anwendungsfall wurde eine KI-basierte Funktion (Video) zur Fußgängererkennung im urbanen Kreuzungskontext verwendet. Zu diesem Zweck wurde das Projekt in fünf Teilprojekte (TP1: KI Funktion; TP2: Generieren von synthetischen Daten; TP3: Methoden & Maßnahmen zur Absicherung von KI; TP4: Gesamtheitliche KI-Absicherungsstrategie; TP5: Projektmanagement und Dissemination) und fünf Teilprojekt-übergreifende Prozesse (P1-P5) gegliedert, in denen die 24 beteiligten Projektpartner und vier externe Technologieanbieter gemeinsam an der Entwicklung der Vielzahl der Projektergebnisse beteiligt waren. Zusätzlich zur Arbeit in den einzelnen TPs wurden in sechs Evidenz-Workstreams (EWS), die jeweils aus einer Arbeitsgruppe von KI-Entwicklern, KI-Testern und Sicherheitsexperten zusammengesetzt waren, Fragmente der Sicherheitsargumentation exemplarisch durch Identifizierung, Priorisierung und Anwendung geeigneter Sicherheitsmetriken, sicherheitsorientierter Testmethoden und Sicherheitsmaßnahmen zur Reduzierung möglicher DNN-spezifischer Sicherheitsbedenken und DNNUnzulänglichkeiten erarbeitet. Die Projektergebnisse mit Bosch Beteiligung und Beiträge der Robert Bosch GmbH werden im Bericht vorgestellt. Datei-Upload durch TIB The project KI Absicherung aimed at developing a stringent and iterative approach and methodology for a novel evidence-based safety argumentation that systematically identifies insufficiencies of AI-based functions, makes them measurable and allows to mitigate them. As an exemplary use case, a video and AI-based based pedestrian detection function was used. For this purpose, the project was structured into five sub-projects (TP1: DNN-based pedestrian detection algorithms; TP2: synthetic data generation & data analysis; TP3: DNN assurance methods & measures; TP4: Comprehensive Assurance Strategy; TP5: Project Mgmt. and Dissemination) and five cross-sub-project processes (P1-P5) in which the 24 project partners and 4 external technology providers collaboratively participated in the development of the different project deliverables. Additionally, within six evidence workstreams (EWS) each consisting of a working group of AI developers, testers and safety experts, fragments of the safety argumentation were created on an exemplary basis by identifying, prioritizing, and applying appropriate safety-aware metrics, safety-oriented test-methods and safety-measures to mitigate possible DNN-specific safety concerns and DNN-insufficiencies. Core results from the project work with Bosch participation and main contributions of Robert Bosch GmbH are explained in this report.