Schlussbericht safe.trAIn - Sichere KI am Beispiel fahrerloser Regionalzug

Abstract

Im Projekt safe.trAIn wurden die technischen Grundlagen für die sichere Anwendung von künstlicher Intelligenz (KI) in einem Perzeptionssystem für fahrerlose Regionalzüge entwickelt. Dazu gehört: - Analyse bestehender Standards und Regularien - Entwicklung einer Sicherheitsarchitektur inkl. von (Sicherheits-) Anforderungen und eines Test-Systems - Entwicklung von Metriken und Testkriterien zur Verifizierung des Systems - Entwicklung und Aufbau einer virtuellen Testumgebung und Teststrategie sowie Testkonzept - Entwicklung eines Sicherheitsnachweis-Konzeptes - Erstellung eines Konzept-Gutachtens zur entwickelten Vorgehensweise - Ableitung von Standardisierungspotential von KI-basierten Systemen im Schienenverkehr Die Ergebnisse des Projekts stellen einen wesentlichen Beitrag zur Weiterentwicklung der Automatisierung im Schienenverkehr dar. Durch die konzeptionelle Entwicklung von Methoden zur Sicherheitsbetrachtung von KI-basierten Systemen zur Perzeption und Hinderniserkennung können die Voraussetzungen für den Einsatz fahrerloser Regionalzüge geschaffen werden.

In the safe.trAIn project, the technical foundations for the safe application of artificial intelligence (AI) in a perception system for driverless regional trains were developed. This includes: - Analysis of existing standards and regulations - Development of a safety architecture including (safety) requirements and a test system (System under Test = SuT) - Development of metrics and test criteria for system verification - Development and setup of a virtual test environment and test strategy as well as test concept - Development of a safety proof concept - Creation of a concept report on the developed approach - Derivation of standardization potential of AI-based systems in rail transport The results of the project make a significant contribution to the further development of automation in rail transport. By conceptually developing methods for the safety assessment of AI-based systems for perception and obstacle detection, the prerequisites for the use of driverless regional trains can be created.