Verbundprojekt EXPLAIN - Erklärbare Künstliche Intelligenz für die Industrie

Abstract

Künstliche Intelligenz (KI) gewinnt in der Industrie zunehmend an Bedeutung etwa in der Energieerzeugung, Metallverarbeitung oder in der Prozessindustrie. Obwohl KI-Systeme leistungsfähig sind, gelten viele von ihnen weiterhin als „Black Boxes“: Ihre Entscheidungsprozesse sind für Anwenderinnen und Anwender schwer nachvollziehbar. Dies mindert Vertrauen, Akzeptanz und letztlich die praktische Nutzbarkeit von KI in sicherheitskritischen und komplexen industriellen Umgebungen.

Das Verbundprojekt EXPLAIN – EXPLanatory interactive Artificial Intelligence for INdustry hatte das Ziel, Künstliche Intelligenz transparent, nachvollziehbar und menschzentriert zu gestalten. Im Mittelpunkt stand die Entwicklung von Verfahren und Werkzeugen, die technische Erklärbarkeit mit nutzerorientiertem Design verbinden und so eine vertrauenswürdige Zusammenarbeit zwischen Menschen und KI ermöglichen. EXPLAIN leistete damit einen wesentlichen Beitrag zur verantwortungsvollen und sicheren Nutzung von KI in der Industrie.

EXPLAIN wurde im Rahmen des Eureka-Clusters ITEA als internationales Verbundprojekt mit Partnern aus Deutschland, Schweden und den Niederlanden durchgeführt. Der deutsche Projektteil wurde vom Bundesministerium für Forschung, Technologie und Raumfahrt (BMFTR) gefördert und vereinte fünf Partner aus Industrie und Forschung.

Insgesamt arbeiteten 15 Organisationen aus drei Ländern zusammen, um erklärbare KI für unterschiedliche industrielle Domänen praktisch nutzbar zu machen. Für seine wissenschaftlich und technologisch herausragenden Ergebnisse wurde EXPLAIN im Jahr 2025 mit dem ITEA Award of Excellence for Innovation ausgezeichnet – als bestes europäisches Innovationsprojekt des ITEA-Programms.