ALETHEIA - Interpretierbare Deepfake-Erkennung
Schlussbericht; Förderprogramm: StartUpSecure - Förderphase I (Entwicklungsphase)
Date
Authors
Editor
Advisor
Volume
Issue
Journal
Series Titel
Book Title
Publisher
Supplementary Material
Other Versions
Link to publishers' Version
Abstract
Das Projekt Aletheia erforschte und entwickelte Ansätze zur robusten und erklärbaren Erkennung von KI-generierten Inhalten (Deepfakes) in Bildern und Videos. Im Projektverlauf wurden zahlreiche bestehende Deepfake-Detektoren aus der Forschung reproduziert und systematisch analysiert. Eine zentrale Erkenntnis war, dass robuste Erkennung wesentlich stärker von der Qualität und Diversität der Trainingsdaten abhängt als von der Modellarchitektur. Auf Basis eigener Datensätze und gezieltem Finetuning von Foundation-Modellen (z.B. CLIP) wurden starke Erkennungsergebnisse erzielt. Erste Erklärbarkeitskonzepte wurden erarbeitet und intern getestet. Eine prototypische Infrastruktur einschließlich On-Premise-fähiger Architektur wurde aufgebaut. Am Ende der Förderphase wurde TRL 5 erreicht. Die Detesia GmbH wurde im August 2025 gegründet.