safe.trAIn - Sichere KI am Beispiel fahrerloser Regionalzüge

Abstract

Dieser Abschlussbericht fasst die Beiträge der Edge Case Research GmbH (ECR) zum Projekt safe.trAInzusammen – einer Initiative, die den sicheren, vertrauenswürdigen und zertifizierbaren Einsatz KI-basierter Wahrnehmungstechnologien in autonomen Regionalzugsystemen (GoA3/GoA4) zum Ziel hat. In Ermangelung umfassender, bahnspezifischer Methoden für die Zertifizierung von KI konzentrierte sich das Projekt darauf, bewährte Sicherheitskonzepte aus angrenzenden Domänen – vor allem der automobilen Autonomie (z.B. ISO 21448, UL 4600) – zu übertragen und zu erweitern. Die Kernaufgaben von ECR umfassten:

Entwicklung von Sicherheitsnachweisen für ML-Komponenten: ECR entwarf grundlegende Strukturen für Sicherheitsnachweise (Safety Cases), die für maschinelles Lernen (ML) in sicherheitskritischen Bahnanwendungen geeignet sind. Neue Verfahren für Verifikation & Validierung (V&V) von KI: ECR entwickelte neuartige Methoden zur Prüfung von KI-Modellen, darunter defektbasiertes Testen und eine quantitative, risikobasierte Performance-Budgetierung für ML (qFTA). Weiterentwicklung der nLoop Safety Case Management Plattform: ECR baute nLoop zu einem dynamischen Werkzeug für den gesamten Lebenszyklus aus, das kontinuierliche Evidenzintegration, das Verfolgen von Safety Performance Indikatoren (SPI) und die Anbindung von Partner-Systemen (z.B. Siemens ai.store) ermöglicht. Mitarbeit in Normungsgremien: ECR trug zu Standardisierungsaktivitäten bei, insbesondere DIN DKE SPEC 99002 (Terminologie) und DIN DKE SPEC 99004 (ODD-Taxonomie für den Schienenverkehr).

Das Projekt lieferte erfolgreich eine strukturierte Methodik und Werkzeuge, die die Lücke zwischen bestehenden, statischen Bahnsicherheitsstandards (EN 50126/50128/50129) und den datengetriebenen Anforderungen moderner KI schließen. Damit wurde ein Weg geschaffen, prüfbare Testnachweise für autonome Wahrnehmungssysteme im Bahnsektor zu erbringen.