Detektion von Fake News und Fehlinformationen durch schwache Wissensgraphen und künstliche Intelligenz

Abstract

Ziel von NEBULA war die Detektion von Fake News und Fehlinformationen in sicherheitsrelevanten Situationen. Der umgesetzte Ansatz ermöglichte eine automatisierte Detektion in Kombination mit der Identifikation von für Anwender:innen transparenten Indikatoren für deren Bewertung von Inhalten. Die Indikatoren zeigten zielgruppengerecht an, warum es sich wahrscheinlich um falsche oder irreführende Inhalte handelt, um Reaktanzen - Widerstände gegen eine automatische Bewertung - vorzubeugen, das eigene Mitdenken zu fördern sowie Vertrauen in die KI zu erlangen. Ein besonderer Fokus lag dabei auf vulnerablen Personen (z. B. Nicht-Muttersprachler:Innen und ältere Menschen), die v.a. in sicherheitsrelevanten Situationen besondere Berücksichtigung erfordern. Das hier beschriebene Teilvorhaben von NEBULA legte den Fokus auf die Komponenten zur automatischen Detektion von Fake News und Fehlinformationen. Dabei wurden stilistische Eigenschaften der zu prüfenden Texte mit einer inhaltlichen Prüfung kombiniert. Für letztere wurde dabei auf schwache Wissensgraphen zurückgegriffen, die zeitnah aus verlässlichen Quellen extrahiert werden können und somit aktuelles Wissen enthalten.