Projekt: "safe.trAIn - Sichere KI am Beispiel fahrerloser Regionalzug"; Teilvorhaben: Nachweis der Vertrauenswürdigkeit von KI-Methoden für den autonomen Schienenverkehr

Abstract

Im Teilvorhaben der Fraunhofer-Gesellschaft im Projekt safe.trAIn wurden Methoden zur Vertrauenswürdigkeitsbewertung von KI-Systemen für den autonomen Schienenverkehr entwickelt. Ziel war es, die sichere Anwendung KI-basierter Perzeptionsfunktionen im GoA4-Betrieb zu ermöglichen. Hierzu wurden innovative Metriken zur Bewertung von Robustheit, Erklärbarkeit und Out-of-Domain-Erkennung konzipiert und erprobt. Ergänzend wurde eine Operational Design Domain (ODD)-Taxonomie für den Bahnbereich entwickelt, die in der DIN DKE SPEC 99004 standardisiert wurde. Die Ergebnisse wurden in einem virtuellen Testfeld validiert und in eine GSN-basierte Sicherheitsargumentation integriert. Die entwickelten Konzepte wurden auf internationalen Konferenzen vorgestellt und in Fachpublikationen veröffentlicht. Durch die enge Zusammenarbeit mit Industrie, Normung und Forschung leistet das Projekt einen wesentlichen Beitrag zur sicheren und nachvollziehbaren Integration von KI in sicherheitskritische Systeme.