Das neue Programm liefert einen Kontext, um Beiträge schnell einordnen zu können – es braucht nach wie vor das „menschliche Urteil“.

Im Internet und auf Sozialen Medien sind Fake News oft nur schwer von wahren Nachrichten zu unterscheiden. Mitarbeiter von Rechercheplattformen investieren mitunter viel Zeit, um Licht ins Dunkel zu bringen. Armin Kirchknopf, Absolvent des Masterstudiums Interactive Technologies und Forschungsassistent der Forschungsgruppe Media Computing an der Fachhochschule St. Pölten, entwickelte in seiner Masterarbeit „Automated Identification of Information Disorder in Social Media from Multimodal Data“ Methoden, mit denen potentielle Fake News – zumindest in einem ersten Schritt – automatisch erkannt werden können. Das Programm ordnet Meldungen durch das Auswerten von Texten, Bildern und anderen Informationen aus Social Media ein und nutzt dabei Verfahren der Künstlichen Intelligenz.

© Lifka Photography

Close

„Die manuelle Identifikation von Fake News bzw. von Gerüchten ist eine sehr anspruchsvolle Aufgabe und selbst für Experten schwierig“, erklärt Kirchknopf. „Angesichts der stetig wachsenden Datenmengen habe ich mir die Frage gestellt, ob Fake News durch Datenanalyse auch automatisch erkannt und bewertet werden können.“

Viele Aspekte und Kontext sind entscheidend

Ansätze dazu gab es bereits, doch bestehende Methoden konzentrierten sich meist auf eine Art von Daten (z.B. Text) und eine begrenzte Menge an Datensätzen. Kirchknopfs Fake-News-Detektor kombiniert eine Vielzahl an Informationen: etwa Texte, Bilder und Kommentare.

© Lifka Photography

Close

Auch weitere sogenannte Meta-Informationen aus den sozialen Medien nutzt Kirchknopf. Dazu gehören etwa die Information, ob Nutzer verifiziert sind, zustimmende oder ablehnende Beurteilungen eines Beitrags, das Teilen des Beitrags und die Anzahl der Kommentare. Basierend auf einem Datensatz mit mehr als einer Million Einträgen von der Plattform reddit.com entwickelte Kirchknopf eine automatische Methode für die Erkennung von potentiellen Falschnachrichten. Prinzipiell ist der Detektor auch auf andere Plattformen übertragbar, wenn man ihn anpasst.

Kirchknopf baute seinen Fake-News-Detektor auf Basis neuronaler Netzwerkmodelle aus dem Bereich der Künstlichen Intelligenz sowie auf Methoden des Natural Language Processing (NLP) und der Computer Vision auf. Ziel war ein lernfähiges System, das sich an neue Themen anpasst und Metadaten aus Social Media verwendet, um das Erkennen der Fake News zu verbessern.

© PantherMedia/kbuntu

Close

Menschliches Urteil nicht ersetzbar

Das Ziel von Kirchknopfs Arbeit war es, eine Methode zu schaffen, die es Nutzern von Social-Media-Kanälen ermöglicht, News schnell als Fake oder wahr zu identifizieren. Eine Nachricht muss aber nicht zu hundert Prozent falsch sein oder kann auch nur dazu dienen, die öffentliche Meinung in eine bestimmte Richtung zu verschieben oder etwas zu diskreditieren.

Kirchknopf wies darauf hin, dass die Nachrichten oftmals in mehrere Kategorien fallen können. „Es geht nicht nur um wahr oder falsch. Fake News sind nicht nur schwarz oder weiß. Das Programm soll einen Kontext liefern, um Beiträge schnell einordnen zu können. Oft gibt es auch nur die Einstufung als ‚wahrscheinlich Fake‘. Um in die Tiefe zu gehen, braucht es Recherche und weitere große Datensätze. Am Ende ist immer noch der gesunde Menschenverstand entscheidend.“

Das Projekt wurde mit einem Stipendium von der Internet-Förderinitiave netidee gefördert.

https://www.netidee.at/automated-identification-information-disorder-social-media-multimodal-data

https://www.fhstp.ac.at/de/newsroom/news/podcast-wie-kann-man-fake-news-automatisch-erkennen