Verbundprojekt: Einsatz von KI zur Früherkennung von Straftaten (Akronym: KISTRA); Teilvorhaben: Technischer Software-Demonstrator

Abstract

Das Teilvorhaben KISTRA-TSD untersuchte den Einsatz von KI zur Früherkennung und Verfolgung von Straftaten, insbesondere Hasskriminalität, durch polizeiliche AnwenderInnen, mit dem Ziel der Entwicklung technischer Lösungen zur Klassifizierung von Hassrede sowie Bild- und Videodaten, um die polizeiliche Auswertung effizienter zu gestalten. Ein besonderer Schwerpunkt lag auf dem rechtlichen und ethischen Kontext der Datenverarbeitung durch Sicherheitsbehörden. Basierend auf dem KI-Framework "MIL.ml Net" und der OSINT-Analyseplattform "INspectre" wurden spezifische Anforderungen erfasst und dokumentiert, Trainingsdaten erhoben, Modelle trainiert und integriert. Der Gesamtdemonstrator beinhaltet angepasste Nutzerschnittstellen zur Minimierung von Fehlprüfungen und Berücksichtigung besonderer Betriebsanforderungen. Ein technisches Anforderungsdokument beschreibt die rechtlichen, ethischen und funktionalen Aspekte des Systems. Ein Bildklassifizierer zum Erkennen von Swastikas und weitere Modelle zur Erkennung von Hassrede wurden ebenfalls entwickelt und integriert. Die Nachvollziehbarkeit und Erklärbarkeit der Modellvorhersagen wurde schließlich durch Visualisierungen unterstützt. In NutzerInnentests wurden die KI-Modelle als hilfreich und die Umsetzung im Demonstrator als geeignet bewertet. Insgesamt zeigte das Projekt, dass die entwickelten Lösungen die polizeiliche Effizienz verbessern können, wobei rechtliche und ethische Rahmenbedingungen berücksichtigt werden.