safe.trAIn - Sichere KI am Beispiel fahrerloser Regionalzug

Abstract

Während KI in kontrollierten Umgebungen wie U-Bahnen bereits erfolgreich eingesetzt wird, stellt der Einsatz in offenen, unvorhersehbaren Umgebungen wie beim Regionalzugbetrieb eine größere Herausforderung dar. Es fehlt an Normen, Standards und etablierten Prozessen für die Entwicklung und Sicherheitsbewertung solcher Systeme. Das Projekt safe.trAIn zielt darauf ab, die Grundlagen für den sicheren Betrieb fahrerloser Regionalzüge zu schaffen. Dies schließt die Entwicklung von Sicherheitsarchitekturen, Testumgebungen und Nachweiskonzepten ein, um KI-basierte Perzeptionssysteme für Hinderniserkennung und Fahrwegsüberwachung in offenen Umgebungen sicher und nachvollziehbar zu gestalten. Ziel ist es, die Automatisierung des Schienenverkehrs zu fördern und gleichzeitig Sicherheits- und Klimaziele zu unterstützen. Das Projekt erzielte relevante Ergebnisse in den Bereichen Sicherheitsarchitekturen für KI-Perzeptionssysteme, virtuelles Testfeld zur Validierung, Beschreibung der Operational Design Domain, Metriken zur Bewertung der KI-Verlässlichkeit sowie Methoden zur Sicherheitsnachweisführung. Das Projekt leistete damit einen wichtigen Beitrag zur Automatisierung und Sicherheit des Schienenverkehrs. Die Ergebnisse können über den Bahnbereich hinaus in anderen sicherheitskritischen Industrien wie der Automobilindustrie, Luftfahrt oder Medizin eingesetzt werden.