Abschlussbericht der Firma umlaut zum Projekt KI-Absicherung

Abstract

Formuliert von VW für das gesamte Vorhaben: Ziel des Vorhabens ist die Entwicklung und Untersuchung von Methoden und Maßnahmen für die Absicherung KI-basierter Funktionen für das automatisierte Fahren. Es wird zudem eine Argumentation für eine abgesicherte KI-Funktion entwickelt. Mit Hilfe der im Vorhaben gewonnenen Erkenntnisse soll durch Kommunikation mit normativen Gremien und Zertifizierungsstellen ein Industriekonsens bezüglich einer KI-Teststrategie unterstützt werden. Umlaut beteiligt sich im Teilprojekt 3 (TP3) "Methoden und Maßnahmen zur Absicherung von KI" mit Beiträgen im Bereich White-/Greybox Methoden und Maßnahmen (AP3.4). Hier arbeitet umlaut an der Entwicklung, Implementierung, und Untersuchung von Heatmapping-Methoden, insbesondere mit Schwerpunkt die Laufzeit zu optimieren. Über die Heatmaps sollen Anomalien erkannt werden, sodass auch eine Online-Überwachung ermöglicht wird. Ein zusätzlicher Schwerpunkt ist die Offline Verifikation über ein zu entwickelndes, auf den Heatmaps basierendes, Verifikationsmaß. Datei-Upload durch TIB As formulated by VW for the entire project: the goal of the project is developing and examining methods and measures for validating AI-based functions for autonomous driving. On top, a line or reasoning for a verified AI function should be developed. Knowledge gained from the project shall complement communication to standardization and certification boards for reaching an industry-wide consensus on AI-based testing strategies. Umlaut participates in work package 3 "Methoden und Maßnahmen zur Absicherung von KI" by contributing to white/greybox methods and measures (AP 3.4). umlaut works on developing, implementing and analysing heatmapping methods, especially with a focus on runtime optimization. Heatmaps shall detect anomalies with the goal of online supervision. Additionally, also offline verification by developing a heatmap based verification measure was one of our goals.