Wer die öffentliche Meinung im Netz steuert : Trolle, Bots und Deepfakes

Schon in der Antike wusste man um die Macht von Fake News: 335 vor Christus führte die Falschmeldung vom Tod Alexander des Großen zu einem Aufstand in der griechischen Stadt Theben. Ein Rivale des damaligen makedonischen Königs hatte sie bewusst lanciert - allerdings mit unbeabsichtigt verhängnisvollem Ausgang. Die Truppen des keinesfalls toten Alexander des Großen schlugen die Revolte nieder und zerstörten dabei Theben. Desinformation, also die gezielte Verbreitung von falschen oder irreführenden Informationen, konnte schon damals weitreichende Folgen haben.

Soziale Netzwerke funktionieren als Verstärker

Neu im Internetzeitalter ist jedoch, wie oft, schnell und weit sich Falschmeldungen verbreiten. Studien des Massachusetts Institute of Technology zufolge zirkulieren falsche Nachrichten sechsmal so schnell und erreichen hundertmal so viele Menschen wie Fakten.

Nicht aber jede falsche Nachricht in den Medien, sei es im Internet, im Radio oder in der Zeitung, wird mit einer Täuschungsabsicht in die Welt gesetzt. Manchmal ist die Ursache ein Versehen, etwa wenn Journalisten trotz aller Sorgfaltspflicht handwerkliche Fehler unterlaufen.

Mit dem Begriff Fake News sind jedoch weniger diese unbeabsichtigten Falsch- oder Fehlinformationen gemeint, sondern bewusste Fälschungen. Der Duden beschreibt Fake News so auch als "in manipulativer Absicht in Medien und im Internet, besonders in Sozialen Netzwerken, verbreitete Falschmeldungen".

Motive für Desinformation sind unterschiedlich - ein Scherz oder kommerzielle Interessen: Fake News-Urheber ködern Nutzer, Webseiten zu besuchen mit dem Ziel, Geld durch Werbeeinnahmen zu verdienen. Auch Menschen mit kriminellen Interessen verbreiten Fake News, um etwa mit falschen Versprechen an Informationen wie Bankdaten zu kommen. Als Gefahr für die Demokratie gelten allerdings vor allem politisch motivierte Falschinformationen, die auf die Beeinflussung von Meinungen zielen. Manchmal werden zu diesem Zweck auch Verschwörungstheorien mit Fake News verknüpft.

Falsche Gerüchte streuen, Stimmung gegen Politik und Medien machen

Zu den Urhebern politisch motivierter Desinformation und Manipulation gehören nicht nur Einzelpersonen und extremistische Gruppen, sondern auch Geheimdienste und Organisationen, die im Auftrag von Staaten falsche Gerüchte streuen und Stimmung gegen Politik und Medien machen. Im großen Maßstab übernehmen das für sie vor allem sogenannte Trolle. So werden Menschen genannt, die die Debatten- oder Kommentarfunktion von Sozialen Medien wie Facebook oder X nutzen, um zu provozieren, zu beleidigen oder zu hetzen. Agieren Trolle in Gruppen, ist von "Trollfabriken" die Rede. Medienrecherchen zufolge nutzt die russische Regierung bereits seit über 20 Jahren eine eigens rekrutierte "Trollarmee", um die öffentliche Meinung in westlichen Demokratien zu manipulieren.

Auswärtiges Amt enttarnte russisches Propagandanetzwerk

So waren russische Trolle laut US-Geheimdienstinformationen etwa im Vorfeld der US-Wahlen 2016 und 2021 aktiv. Genutzt wurden dabei Zehntausende gefälschte Nutzerkonten sowie Zweit- und Drittaccounts, im Netzjargon auch "Sockenpuppen" genannt. Im vergangenen Jahr enttarnte das Auswärtige Amt ein russisches Propagandanetzwerk mit etwa 50.000 Fake-Accounts.

Das Auffinden und Löschen von gefälschten Konten ist eine Daueraufgabe für Soziale Netzwerke: 1,1 Milliarden gefälschte Konten löschte Facebook, das mit rund drei Milliarden monatlichen Nutzern größte soziale Netzwerk, nach eigenen Angaben allein zwischen Juli und September des vergangenen Jahres.

Nicht nur der Kreml, sondern auch rechtsextreme Netzwerke nutzen Trolle im großen Stil. Nach Recherchen der Investigativ-Journalistin und Extremismusforscherin Julia Ebner hatte vor der Bundestagswahl 2017 die damals größte deutsche Trollfabrik "Reconquista Germanica" 7.000 Mitglieder, vor der letzten Serversperrung im Juni 2018 sogar mehr als 10.000 Mitglieder. Heute ist das Netzwerk nach Einschätzung der Bundesregierung nicht mehr aktiv. Geheime Nachfolgeprojekte schließt sie jedoch nicht aus.

Um Fake News massenhaft zu verbreiten, sind auf Social-Media-Plattformen oft auch "Bots" im Einsatz: "Bot" ist die Kurzform für Roboter und bezeichnet ein Softwareprogramm, das automatisierte, sich wiederholende und vordefinierte Aufgaben ausführt. Solche Bots sollen das Verhalten menschlicher Nutzer in Netzwerken nachahmen: Sie "liken" und kommentieren zum Beispiel auf Geheiß bestimmte Begriffe mit dem Ziel, Algorithmen von Social-Media-Plattformen und Suchmaschinen so zu beeinflussen, dass diese mehr Aufmerksamkeit erhalten. So wächst die Reichweite von Fake News.

Deepfakes sind kaum noch als Fälschungen erkennbar

Auch Algorithmen, die bestimmen, welche Inhalte Nutzern in einem Sozialen Netzwerk angezeigt werden, können Desinformation verstärken: TikTok, eine Plattform, die besonders von Jugendlichen genutzt wird, spielt bei der Verbreitung von Fake News eine große Rolle, meinen Social-Media-Experten wie der US-Historiker Jason Steinhauer. Der Algorithmus sei darauf optimiert, Nutzer abhängig zu machen. Zudem habe die App eine Art "Anti-Establishment-Haltung" unterstützt. Beides scheine Fake News und Verschwörungserzählungen zu befördern, sagte Steinhauer im Magazin "Der Spiegel".

Sorge bereitet auch die Verfügbarkeit generativer Künstlicher Intelligenz (KI), mit der sich Texte, Bilder, aber auch Videos manipulieren oder gänzlich neu generieren lassen - per Mausklick. Sogenannte "Deepfakes" sind kaum noch als Fälschung zu erkennen. Wahlbeeinflussung, Angriffe auf politische Gegner, Kriegspropaganda - KI ermöglicht sie, wenn unreguliert, in neuer Quantität und Qualität. Das könnte sich für unsere Gesellschaft womöglich ähnlich zerstörerisch auswirken wie die Truppen Alexanders des Großen für Theben.