Vertrauenswürdige Künstliche Intelligenz für polizeiliche Anwendungen (VIKING); Teilvorhaben: Bedingungen für eine Operationalisierung ethischer Anforderungen an vertrauenswürdige KI in polizeilichen Anwendungen

Abstract

Die Polizeiarbeit unterliegt ebenso wie andere gesellschaftliche Bereiche der Digitalisierung, die eine Vielzahl neuer Überwachungs- und Aufklärungsmöglichkeiten bietet. Der Einsatz von Softwarelösungen auf der Basis von künstlicher Intelligenz – insbesondere mit Hilfe von Methoden des maschinellen Lernens – in diesem Bereich polizeilicher Arbeit zur Auswertung des anfallenden Datenmaterials ist mit einer Vielzahl von Problemen verbunden, wie z.B. Verzerrungen, Fehlschlüssen und übermäßigem technischen „Solutionismus“ sowie ethischen Fragen. Einerseits besteht ein ethischer Reflexionsbedarf über Definitionen und das Verhältnis von Vertrauen, Nachvollziehbarkeit, Transparenz und Fairness im Zusammenhang mit KI-Technologien. Zum anderen stehen Fragen der Operationalisierbarkeit von ethischen Anforderungen im Hinblick auf den konkreten Anwendungskontext im Vordergrund. In diesem Teilprojekt „Bedingungen für die Operationalisierung ethischer Anforderungen an vertrauenswürdige KI in polizeilichen Anwendungen“ werden eine Risikomatrix und ein Katalog ethischer Anforderungen für den KI-Einsatz in der Polizeiarbeit vorgeschlagen. Dieser operationalisiert die Grundprinzipien vertrauenswürdiger KI im Lichte der neuen EU-Anforderungen (EU AI Act) sowie anderer Operationalisierungsinitiativen. Darüber hinaus wird zwischen verschiedenen Gruppen von Adressaten unterschieden, indem Anforderungen speziell für Anbieter:innen und Anwender:innen definiert werden.