Der Mensch entscheidet: Die Ergebnisse, die das KI-System liefert, werden anhand von Visual Analytics anwenderfreundlich und interaktiv dargestellt. (Quelle: Samira Schulz/h_da)

 

Fake News, Hassrede, manipulierte Inhalte: Wer durch Social-Media- Netzwerke scrollt, stößt täglich auf fragwürdige Beiträge. Doch wie lassen sich wirklich problematische Inhalte erkennen, ohne vorschnell über „wahr“ oder „falsch“ zu urteilen? Mit dieser Frage hat sich Informatikerin Dr. Mina Schütz an der Hochschule Darmstadt (h_da) in ihrer Dissertation am Promotionszentrum für Angewandte Informatik intensiv beschäftigt und ein KI-gestütztes Analysewerkzeug entwickelt, das Expertinnen und Experten beim Erkennen von Desinformation unterstützt.

 

Ergebnis ihrer Dissertation ist das System „DisDETECT“, das sich von einem klassischen Faktencheck in einem zentralen Punkt unterscheidet: Statt Inhalte automatisch zu klassifizieren und in Kategorien wie „wahr“ oder „falsch“ einzusortieren, analysiert das Tool Texte anhand von mehr als 50 Merkmalen und macht so auffällige Muster in Texten sichtbar. Journalistinnen und Journalisten, Forschende oder Fachleute aus Behörden und Organisationen können schnell erkennen, bei welchen Inhalten genauer hingeschaut werden sollte. „Die eigentliche Einordnung bleibt aber immer beim Menschen“, betont Mina Schütz. Das System unterstütze die Analyse, treffe aber keine endgültigen Entscheidungen.

 

Das webbasierte Tool kann große Mengen von Texten analysieren und bewertet unter anderem, ob Beiträge emotional formuliert sind, Hinweise auf Hassrede, Desinformation und Verschwörungsmythen enthalten oder typische Merkmale von Clickbait aufweisen. Die Ergebnisse werden interaktiv visualisiert und in einem Ampelsystem in vier Farbstufen eingeordnet – von vertrauenswürdig bis kritisch. „Desinformation ist komplex. Ein Text kann faktisch korrekt sein und trotzdem manipulativ wirken – oder umgekehrt“, erläutert Mina Schütz. „Die Kombination verschiedener Signale ermöglicht eine fundierte Einschätzung.“ Im Hintergrund arbeiten 19 KI-Modelle zusammen, deren Ergebnisse gebündelt werden. Zusätzlich zeigt das System ein Konfidenzintervall für seine Ergebnisse an. Es gibt also selbst Auskunft darüber, wie hoch die Fehlerwahrscheinlichkeit ist.

 

Die gesellschaftliche Relevanz des Themas Hassrede und Desinformation sei in den vergangenen Jahren deutlich gestiegen, stellt Schütz fest: „Viele Menschen wissen nicht mehr, welchen Quellen sie vertrauen können.“ Dadurch wachse die Unsicherheit in der Gesellschaft. Besonders wichtig war der Informatikerin deshalb, den Menschen in die Analyse einzubeziehen. Über visuelle Datenanalyse („Visual Analytics“) können Anwenderinnen und Anwender selbst entscheiden, welche Informationen sie sich anzeigen lassen und wie tief sie in die Daten eintauchen möchten. In ersten Tests mit potenziellen Nutzergruppen erhielt das System positives Feedback. Noch handelt es sich allerdings um einen Prototyp. Für den breiten Praxiseinsatz sind weitere Entwicklungsarbeiten nötig.

 

Die Promotionsarbeit entstand am Promotionszentrum für Angewandte Informatik (PZAI) der h_da in Kooperation mit dem Austrian Institute of Technology (AIT). Ihre Forschung führt Mina Schütz am Center for Digital Safety & Security des AIT Austrian Institute of Technology fort.

 

Siehe auch:

https://impact.h-da.de/tool-gegen-hassrede-und-fake-news