EXPLAIN - Erklärbare Künstliche Intelligenz für die Industrie

Abstract

Künstliche Intelligenz (KI) gewinnt in der Industrie zunehmend an Bedeutung etwa in der Energieerzeugung, Metallverarbeitung oder in der Prozessindustrie. Obwohl KI-Systeme leistungsfähig sind, gelten viele von ihnen weiterhin als "Black Boxes": Ihre Entscheidungsprozesse sind für Anwenderinnen und Anwender schwer nachvollziehbar. Dies mindert Vertrauen, Akzeptanz und letztlich die praktische Nutzbarkeit von KI in sicherheitskritischen und komplexen industriellen Umgebungen. Das Verbundprojekt EXPLAIN - EXPLanatory interactive Artificial Intelligence for INdustry hatte das Ziel, Künstliche Intelligenz transparent, nachvollziehbar und menschzentriert zu gestalten. Im Mittelpunkt stand die Entwicklung von Verfahren und Werkzeugen, die technische Erklärbarkeit mit nutzerorientiertem Design verbinden und so eine vertrauenswürdige Zusammenarbeit zwischen Menschen und KI ermöglichen. EXPLAIN leistete damit einen wesentlichen Beitrag zur verantwortungsvollen und sicheren Nutzung von KI in der Industrie.