RUBIN - news-polygraph - Verbundvorhaben: MOVERA - Multimodal Orchestration for Media-Content Verification; Teilvorhaben 3: TextBase: Text-basierte Analyseverfahren für Multi-Modale Fake-News Identifizierung

Abstract

Das Projekt adressiert die zunehmende Herausforderung der Erkennung und Verifikation von Desinformation in modernen Medienumgebungen. Durch den Einsatz generativer KI sind die Hürden zur Erstellung und Verbreitung irreführender Inhalte deutlich gesunken, während zugleich der Bedarf an skalierbaren, transparenten und vertrauenswürdigen Verifikationswerkzeugen für journalistische Anwendungen steigt. Der Stand der Technik hat sich durch große Sprachmodelle und neuronale natürliche Sprachverarbeitun (NLP)-Verfahren erheblich weiterentwickelt. Dennoch bestehen zentrale Einschränkungen: Rein automatisierte Ansätze sind in sensiblen Kontexten wie dem Journalismus unzureichend, da sie Anforderungen an Transparenz, Nachvollziehbarkeit und menschliche Kontrolle nicht erfüllen. Zudem fehlt es den bestehenden Systemen häufig an Erklärbarkeit, und politische Verzerrungen (Bias), beeinflussen durch Daten, Modellverhalten sowie sprachliche und kontextuelle Faktoren, bleibt eine zentrale Herausforderung. Forschung zeigt, dass erklärbare KI zwar Transparenz und wahrgenommene Nützlichkeit erhöht, jedoch nicht zwingend die Entscheidungsqualität verbessert und Risiken wie Automatisierungsbias mit sich bringen kann. Gleichzeitig stellen regulatorische Entwicklungen wie der EU AI Act hohe Anforderungen an Transparenz, Risikomanagement und menschliche Aufsicht und verdeutlichen die bestehende Lücke zwischen rechtlichen Vorgaben und technischer Umsetzung. Vor diesem Hintergrund zielt das Projekt auf die Entwicklung vertrauenswürdiger, erklärbarer und multimodaler KI-Systeme zur Desinformationserkennung. Im Fokus stehen textbasierte Verfahren wie automatisierte Faktenprüfung, politische Bias-Erkennung und erklärbare NLP-Pipelines, ergänzt durch multimodale Ansätze und Human-in-the-Loop-Konzepte.