Verbundprojekt: Einsatz von KI zur Früherkennung von Straftaten; Teilvorhaben: Technischer Software-Demonstrator; Akronym: KISTRA

Abstract

Das Teilvorhaben KISTRA-TSD untersuchte den Einsatz von KI zur Früherkennung und Verfolgung von Straftaten, insbesondere Hasskriminalität, durch polizeiliche AnwenderInnen, mit dem Ziel der Entwicklung technischer Lösungen zur Klassifizierung von Hassrede sowie Bild- und Videodaten, um die polizeiliche Auswertung effizienter zu gestalten. Ein besonderer Schwerpunkt lag auf dem rechtlichen und ethischen Kontext der Datenverarbeitung durch Sicherheitsbehörden. Basierend auf dem KI-Framework „MIL.ml Net“ und der OSINT-Analyseplattform „INspectre“ wurden spezifische Anforderungen erfasst und dokumentiert, Trainingsdaten erhoben, Modelle trainiert und integriert. Der Gesamtdemonstrator beinhaltet angepasste Nutzerschnittstellen zur Minimierung von Fehlprüfungen und Berücksichtigung besonderer Betriebsanforderungen. Ein technisches Anforderungsdokument beschreibt die rechtlichen, ethischen und funktionalen Aspekte des Systems. Ein Bildklassifizierer zum Erkennen von Swastikas und weitere Modelle zur Erkennung von Hassrede wurden ebenfalls entwickelt und integriert. Die Nachvollziehbarkeit und Erklärbarkeit der Modellvorhersagen wurde schließlich durch Visualisierungen unterstützt. In NutzerInnentests wurden die KI-Modelle als hilfreich und die Umsetzung im Demonstrator als geeignet bewertet. Insgesamt zeigte das Projekt, dass die entwickelten Lösungen die polizeiliche Effizienz verbessern können, wobei rechtliche und ethische Rahmenbedingungen berücksichtigt werden.

Datei-Upload durch TIB

The subproject KISTRA-TSD investigated the use of AI for the early detection and tracking of crimes, particularly hate crimes, by police users. The aim was developing technical solutions for classifying hate speech as well as image and video data to make police analysis more efficient. A particular focus was placed on the legal and ethical context of data processing by security authorities. Based on the AI framework "MIL.ml Net" and the OSINT analysis platform "INspectre," specific requirements were collected and documented, training data was gathered, models were trained and integrated. The overall demonstrator includes customized user interfaces to minimize false positives and take into account special operational requirements. A technical requirements document describes the legal, ethical, and functional aspects of the system. An image classifier for recognizing swastikas and other models for detecting hate speech were also developed and integrated. The traceability and explainability of the model predictions were ultimately supported by visualizations. In user tests, the AI models were found to be helpful and the implementation in the demonstrator was deemed suitable. Overall, the project demonstrated that the developed solutions can improve police efficiency while taking into account legal and ethical frameworks.