Verbundprojekt: Vertrauenswürdige Künstliche Intelligenz für polizeiliche Anwendungen (VIKING); Teilvorhaben: Visual Analytics für vertrauenswürdige und erklärbare Künstliche Intelligenz

Abstract

Das Hauptziel des Verbundprojekts "Vertrauenswürdige Künstliche Intelligenz für polizeiliche Anwendungen“ (VIKING) ist die Entwicklung von KI-Methoden zur Unterstützung der polizeilichen Ermittlungsarbeit unter besonderer Berücksichtigung ethischer und rechtlicher Aspekte. Im Rahmen des Projekts wurde die Eignung aktueller KI-Methoden überprüft und in Demonstratoren umgesetzt. Neben der Genauigkeit und Robustheit wurden für die eingesetzten Methoden die Attribute Transparenz, Erklärbarkeit und Fairness bzw. Debiasing untersucht und entsprechende Lösungen implementiert. Gemeinsam wurden übergreifende Standards und Richtlinien für die Sicherstellung rechtlicher und ethischer Aspekte entworfen und umgesetzt. Der vorliegende Schlussbericht behandelt das Teilprojekt der Universität Konstanz (UKON), das sich mit der technischen Umsetzung von Transparenz- und Erklärbarkeitsmethoden beschäftigt. Als technische und wissenschaftliche Leitung unterstützt die UKON bei der Umsetzung aller technischen Teilprojekte. Außerdem wirkte die UKON im Rahmen des Teilprojekts direkt an der Erstellung von Dokumenten zur DIN-Standardisierung und an Prüfkatalogen mit.