safe.trAIn- sichere Ki am Beispiel fahrerloser Regionalzug

Abstract

Mit dem EU AI Act wurden KI-Systeme mit sicherheitskritischen Funktionen als Hochrisiko-Anwendungen eingestuft. Sie müssen hohen Anforderungen an Datenqualität, Robustheit, Transparenz und Konformitätsbewertung genügen. Forschungsarbeiten zur Erklärbarkeit neuronaler Netze (z. B. LRP, CAM) und zur Auswirkung optischer Eigenschaften auf KI-Systeme bilden die Basis. Zudem wurde erkannt, dass fehlerhafte Daten und optische Abbildungsfehler die Sicherheit stark beeinträchtigen können. Ziel des Projekts safe.trAIn war es, die Voraussetzungen für einen sicheren vollautomatisierten Zugbetrieb zu schaffen. Im Fokus stand die Absicherung KI-basierter Verfahren zur Hinderniserkennung und deren Integration in Sicherheitsnachweise. Die Hochschule Düsseldorf (HSD) übernahm zentrale Aufgaben bei der Entwicklung und Weiterentwicklung von Methoden zur Daten- und KI-Absicherung, insbesondere den Queens-Methoden (QI² und ECS). Methoden:

Entwicklung und Anwendung der Queens-Methoden zur Bewertung von Datenqualität und Modellrobustheit Analyse von Unsicherheiten in KI-gestützter Objekterkennung und deren Propagation Entwicklung physikalisch realistischer Optikmodelle zur Untersuchung sensorischer Einflüsse Validierung im virtuellen Testfeld (GoA4-System, driverless operation) Integration in Sicherheitsarchitekturen (RAMS- und GSN-Methodik) sowie Begutachtung durch TÜV. Ergebnisse: Erfolgreiche Weiterentwicklung der Queens-Methoden (QI², ECS) für Daten- und Modellbewertung Entwicklung von Verfahren zur Erklärbarkeit (Kombination QI² mit LRP) Neue Ansätze zur datenqualitätsbasierten Fehlererkennung ohne Training Optische Modellierungen und verbesserte Kamerakalibrierung Beitrag zur Standardisierung (DIN DKE SPEC 99002) Mehrere wissenschaftliche Publikationen und Betreuung von Promotionen und Abschlussarbeiten. Die entwickelten Methoden ermöglichen eine systematische Absicherung von KI-Systemen im Bahnumfeld. Anwendungsmöglichkeiten bestehen in der Integration in Zulassungsprozesse, bei der Datenkuratierung, in der Sensorikgestaltung sowie in weiteren sicherheitskritischen Bereichen. Darüber hinaus sind die Methoden anschlussfähig für andere Forschungsfelder (z. B. Transformer-Netzwerke, chaostheoretische Analysen). Damit wurde eine technologische Grundlage für den sicheren Betrieb fahrerloser Regionalzüge geschaffen.