Abschlussbericht der Firma umlaut zum Projekt KI-Absicherung

Abstract

Formuliert von VW für das gesamte Vorhaben: Ziel des Vorhabens ist die Entwicklung und Untersuchung von Methoden und Maßnahmen für die Absicherung KI-basierter Funktionen für das automatisierte Fahren. Es wird zudem eine Argumentation für eine abgesicherte KI-Funktion entwickelt. Mit Hilfe der im Vorhaben gewonnenen Erkenntnisse soll durch Kommunikation mit normativen Gremien und Zertifizierungsstellen ein Industriekonsens bezüglich einer KI-Teststrategie unterstützt werden. Umlaut beteiligt sich im Teilprojekt 3 (TP3) "Methoden und Maßnahmen zur Absicherung von KI" mit Beiträgen im Bereich White-/Greybox Methoden und Maßnahmen (AP3.4). Hier arbeitet umlaut an der Entwicklung, Implementierung, und Untersuchung von Heatmapping-Methoden, insbesondere mit Schwerpunkt die Laufzeit zu optimieren. Über die Heatmaps sollen Anomalien erkannt werden, sodass auch eine Online-Überwachung ermöglicht wird. Ein zusätzlicher Schwerpunkt ist die Offline Verifikation über ein zu entwickelndes, auf den Heatmaps basierendes, Verifikationsmaß.