safe.trAIn - Sichere KI am Beispiel fahrerloser Regionalzug; individueller Schlussbericht

Abstract

In den vergangenen Jahren haben Methoden der Künstlichen Intelligenz (KI), insbesondere im Bereich des maschinellen Lernens (ML), bemerkenswerte Fortschritte erzielt. Diese Entwicklung betrifft zunehmend auch sicherheitskritische Systeme wie beispielsweise autonome Fahrzeuge, medizinische Diagnoseinstrumente und automatisierte Schienenfahrzeuge. Gleichzeitig steigt das gesellschaftliche Interesse an der verstärkten Automatisierung von Verkehrsmitteln, um Emissionen zu reduzieren und dem Klimawandel entgegenzuwirken. Besonders im Schienenverkehr ist eine Ausweitung des vollautomatisierten Betriebs (GoA4) erforderlich, um attraktive, flexible und kostengünstige Mobilitätsangebote bereitstellen zu können. Allerdings gibt es bislang erhebliche Herausforderungen bei der Zertifizierung und Sicherheitsnachweisführung KI-basierter Systeme. Die Anwendung dieser Technologien im sicherheitskritischen Bereich wirft Fragen bezüglich ihrer Zuverlässigkeit, Erklärbarkeit, Robustheit und regulatorischen Zulassung auf. Insbesondere fehlen standardisierte Prüfmethoden und Bewertungsverfahren für KI-Funktionen, was ihre Integration in bestehende Zulassungsprozesse erschwert. Das safe.trAIn-Vorhaben adressierte genau diese Herausforderungen. Ziel des Projekts war es, methodische und technologische Grundlagen für den sicheren und regulatorisch akzeptierten Einsatz von KI-Methoden am Beispiel eines fahrerlosen Regionalzugs zu schaffen. Ein Schwerpunkt lag hierbei auf der Erforschung von Prüfmethoden und Werkzeugen zur Sicherheitsbewertung von KI, der Entwicklung einer geeigneten Sicherheitsarchitektur sowie der prototypischen Umsetzung und Evaluation in einem virtuellen Testfeld.