safe.trAIn - Sichere KI am Beispiel fahrerloser Regionalzug; Partnerspezifischer Schlussbericht DIN e.V.

Abstract

Nach dem heutigen Stand der Technik reicht konventionelle Automatisierung nicht aus, um die für fahrerlose Züge notwendige Umfeldwahrnehmung und Hinderniserkennung sicher und zuverlässig zu gewährleisten. Künstliche Intelligenz bietet hier großes Potenzial, bringt jedoch erhebliche Herausforderungen mit sich – insbesondere, da bislang keine konkreten Normen/Standards oder etablierten Entwicklungsprozesse für KI-basierte Perzeptionssysteme existieren. Das Projekt safe.trAIn verfolgte daher das Ziel, Grundlagen, Methoden und Standards für den sicheren Einsatz von KI-basierten Perzeptionssystemen im Regionalzugverkehr zu entwickeln und damit die Voraussetzungen für einen vollautomatisierten Fahrbetrieb (GoA3/4) zu schaffen. Damit sollten die Verkehrswende gefördert, die Klimaschutzziele der Bundesregierung unterstützt und die technologische Souveränität Deutschlands und Europas im Bereich sicherheitskritischer KI-Anwendungen gestärkt werden. Über die im Projekt entwickelten Standards sollte zudem Innovation gefördert, die Wettbewerbsfähigkeit gesteigert und die europäische und internationale Anschlussfähigkeit unterstützt werden. Zur Umsetzung konzentrierte sich das Projekt auf die Analyse bestehender Normen, Standards und Regularien sowie die Entwicklung einer Sicherheitsarchitektur mit definierten Sicherheitsanforderungen und einem Testsystem (System under Test, SuT), ergänzt durch ein Sicherheitsnachweis-Konzept als Grundlage für Zertifizierung oder Konformitätsbewertung. Darüber hinaus wurden Metriken und Testkriterien zur Systemverifizierung definiert und eine Testumgebung (Virtual Testfield, VTF) mit abgestimmter Teststrategie und Testkonzept aufgebaut, um realitätsnahe Szenarien zu simulieren und die Robustheit der KI zu prüfen. Ergänzend wurden Konzept-Gutachten erstellt und zwei projektbezogene Standards für KI-Systeme im Schienenverkehr erstellt, um Anforderungen, Testverfahren und Sicherheitskriterien zu harmonisieren und die Übertragbarkeit der Ergebnisse auf weitere Anwendungen zu sichern. Auf diese Weise entstand eine belastbare Grundlage für die Normungsarbeit, die die sichere Implementierung von KI-Technologien im Schienenverkehr unterstützt. Darüber hinaus trugen die verschiedenen Verbreitungsmaßnahmen im Projekt zu einer effektiven Außendarstellung bei, verbreiteten Wissen, förderten den Austausch mit relevanten Stakeholdern aus Wissenschaft, Industrie und Normung und stärkten die breite Akzeptanz sowie Unterstützung für die entwickelten Standards. Insgesamt leistete das Projekt einen wesentlichen Beitrag zur Weiterentwicklung der Automatisierung im Schienenverkehr, indem es die Voraussetzungen für den Einsatz fahrerloser Regionalzüge schuf. Die erarbeiteten Ansätze und projektspezifischen Standards stärken die sichere Anwendung KI-basierter Perzeptionssysteme und fördern zugleich Harmonisierung, Interoperabilität sowie Übertragbarkeit innerhalb Europas und international. Auf diese Weise entstand eine belastbare Grundlage, auf der künftige Normungsaktivitäten aufbauen können. According to the current state of the art, conventional automation is insufficient to ensure the safe and reliable perception of the environment and obstacle detection required for driverless trains. Artificial intelligence offers great potential in this context but also presents significant challenges—particularly because, to date, there are no concrete norms, standards, or established development processes for AI-based perception systems. The safe.trAIn project therefore aimed to develop the foundations, methods, and standards for the safe deployment of AI-based perception systems in regional train operations, thereby creating the prerequisites for fully automated train operation (GoA3/4). The project sought to support the transformation of transport, advance the german government’s climate protection goals, and strengthen the technological sovereignty of germany and europe in the field of safety-critical AI applications. Furthermore, the standards developed within the project were intended to foster innovation, increase competitiveness, and ensure european and international interoperability. To achieve this, the project focused on analyzing existing norms, standards, and regulations, as well as developing a safety architecture with defined safety requirements and a system under test (SuT), complemented by a safety assurance concept as a basis for certification or conformity assessment. Additionally, metrics and test criteria for system verification were defined, and a Virtual Testfield (VTF) with an aligned test strategy and concept was established to simulate realistic scenarios and evaluate the robustness of the AI. Complementary concept assessments were conducted, and two project-specific standards for AI systems in rail transport were developed to harmonize requirements, test procedures, and safety criteria, ensuring the transferability of results to other applications. In this way, a robust foundation was created for standardization work, supporting the safe implementation of AI technologies in rail transport. Moreover, the various dissemination measures within the project contributed to effective public communication, knowledge transfer, exchange with relevant stakeholders from science, industry, and standardization, and strengthened broad acceptance and support for the developed standards. Overall, the project made a significant contribution to the advancement of automation in rail transport by creating the prerequisites for the deployment of driverless regional trains. The approaches and project-specific standards developed strengthen the safe application of AI-based perception systems and simultaneously promote harmonization, interoperability, and transferability across Europe and internationally. In this way, a solid foundation was established on which future standardization activities can build.