Verbundprojekt: Transparenz und Sensibilisierung in ubiquitären Rechnerwelten (UbiTrans); Teilvorhaben: Technologische Grundlagen für die effektive Erkennung von Fake News und Web-Tracking

Abstract

Das Projekt untersuchte zentrale Herausforderungen für Transparenz, Datenschutz und Vertrauen in digitalen Informationsräumen. Im Mittelpunkt standen die Erkennung KI-generierter Medieninhalte, die Analyse von Web-Tracking sowie die Untersuchung missbräuchlicher Aktivitäten auf sozialen Plattformen. Hierzu wurden empirische Nutzerstudien, großskalige Web- und Plattformmessungen sowie technische Analyse- und Detektionsverfahren entwickelt. Die Ergebnisse zeigen, dass künstlich erzeugte Inhalte für Nutzerinnen und Nutzer nur schwer zuverlässig erkennbar sind und dass soziale Plattformen in erheblichem Umfang für Betrug, Markenimitation, gefälschte Spendenaufrufe und den Handel mit Accounts missbraucht werden. Ergänzend wurden die Wirksamkeit regionaler Filterlisten zur Tracking-Abwehr untersucht und Optimierungspotenziale identifiziert. Die Projektergebnisse schaffen damit eine wissenschaftlich fundierte Grundlage für nutzerfreundliche Transparenzwerkzeuge, Awareness-Maßnahmen und technische Schutzmechanismen zur Stärkung digitaler Souveränität und IT-Sicherheit. The project studied key challenges related to transparency, data protection, and trust in digital information spaces. It focused on the detection of AI-generated media content, the analysis of web tracking, and the investigation of fraudulent activities on social platforms. To this end, empirical user studies, large-scale web and platform measurements, and technical analysis and detection methods were developed. The results show that artificially generated content is difficult for users to reliably identify and that social platforms are being misused on a significant scale for fraud, brand imitation, fake fundraising appeals, and the trading of accounts. Additionally, the effectiveness of regional filter lists for tracking defense was examined, and opportunities for optimization were identified. The project results thus provide a scientifically sound foundation for user-friendly transparency tools, awareness-raising measures, and technical protection mechanisms to strengthen digital sovereignty and computer security.