Teil 2: Bedrohungsbericht von Facebook. Ich freue mich darauf.

Kürzlich hat Facebook berichtet über mehr als 150 koordinierte unauthentische Operationen, die es identifiziert, gemeldet und zerschlagen hat. Wir haben die Bedeutung dieser 150 Abschaltungen bereits diskutiert. Offensichtlich hat die Plattform ihre Inhaltsmoderation weiterentwickelt, doch darüber hinaus haben auch viele verdeckte Akteure der Desinformation ihre Taktiken weiterentwickelt, warnt Facebook.

Trotz Facebooks Fortschritten ist der Bericht kein Grund, sich zurückzulehnen, da Bedrohungsakteure sich auch an Facebooks Durchsetzung anpassen. Laut der Plattform entwickelt sich ein zunehmend komplexes Katz-und-Maus-Spiel. Das Team von Facebook skizziert sechs wesentliche Trends:

Der erste Trend ist eine Verschiebung von „Großhandel“ zu „Einzelhandel“. Bedrohungsakteure wenden sich von breit angelegten, lauten Täuschungskampagnen kleineren, gezielteren Operationen zu. Ein Beispiel ist ein Fall aus Anfang 2020, als Facebook ein von russischem Militärgeheimdienst betriebenes Netzwerk entdeckte und entfernte. Mit Fokus auf die Ukraine und Nachbarländer und ausgestattet mit falschen Personas, die über Blogging-Foren und mehrere Social-Media-Plattformen hinweg agierten, nahm das Netzwerk Kontakt zu politischen Entscheidungsträgern, Journalisten und anderen Personen des öffentlichen Lebens auf.

Einzelhandelsoperationen sind für Verbreiter von Desinformation kostspielig, und Facebook behauptet, ihre Rendite sei gering. Das könnte sich mit kommenden technologischen Fortschritten ändern.Zum Beispiel veröffentlichte die Georgetown University letzte Woche einen Bericht über Automatisierung und Desinformation. Die Forschenden analysierten, wie GPT-3, ein System der künstlichen Intelligenz (KI), das Texte schreibt, wahrscheinlich in Desinformationskampagnen eingesetzt werden wird. Feindliche Akteure könnten Automatisierung nutzen, um hochgradig skalierbare Desinformationskampagnen mit weniger Personal zu starten, als derzeit erforderlich ist, warnen die Forschenden:

„Diese Beobachtung wirft ein Licht auf eine einfache Tatsache: Während sich die Diskussion in den USA über russische Desinformation auf das populäre Bild automatisierter Bots konzentriert hat, waren die Operationen selbst grundsätzlich menschlich, und die IRA [die Internet Research Agency, ein in Russland ansässiges und mit der russischen Regierung verbundenes Unternehmen] war eine bürokratische Organisation mittlerer Größe wie viele andere.“

Der zweite Trend, den Facebook sieht, ist das Verschwimmen der Grenzen zwischen authentischer öffentlicher Debatte und Manipulation. So beseitigte Facebook im Juli 2018 ein Netzwerk, das mit der IRA verbunden war und sich an vorab geplanten, authentischen Veranstaltungen beteiligte. Ziel des Netzwerks war es, Veranstaltungen zu polarisierenden Themen ins Visier zu nehmen und sich freiwillig zu melden, um sie im Namen der lokalen Organisatoren zu verstärken.

Drittens spricht Facebook von „Perception Hacking“.Akteure, die Bedrohungen darstellen, versuchen, aus der Angst der Öffentlichkeit vor Einflussoperationen (IOs) Kapital zu schlagen, um die falsche Wahrnehmung einer weitverbreiteten Manipulation von Wahlsystemen zu erzeugen – selbst ohne Beweise. So spürte Facebook in den letzten Stunden der US-Zwischenwahlen 2018 eine Operation der IRA auf, die behauptete, sie betrieben Tausende gefälschter Konten mit der Fähigkeit, die Wahlergebnisse in den gesamten Vereinigten Staaten zu beeinflussen. Sie erstellten sogar eine Website — usaira[.]ru — einschließlich eines „Wahl-Countdown“-Timers, auf der sie als Beleg für ihre Behauptung nahezu hundert kürzlich erstellte Instagram-Konten anboten. Die Macht der sich selbst erfüllenden Prophezeiung in der Desinformation.

Der vierte Trend, den Facebook sieht, ist „Einflussoperationen als Dienstleistung“. Kommerzielle Akteure führen Einflussoperationen sowohl im Inland als auch international durch, bieten ihren Kunden Abstreitbarkeit und machen Einflussoperationen breiter verfügbar. In den vergangenen vier Jahren hat Facebook Einflussoperationen untersucht und entfernt, die von kommerziellen Akteuren durchgeführt wurden, darunter Medien-, Marketing- und Public-Relations-Unternehmen. Leider stellt Facebook keine quantitativen Informationen zu diesem Trend bereit.

Fünftens beschreibt Facebook den Trend zu erhöhter operativer Sicherheit. Erfahrene Akteure haben ihre Fähigkeit, ihre Identitäten zu verbergen, deutlich verbessert, indem sie technische Verschleierung sowie wissende und unwissende Stellvertreter einsetzen.Als Reaktion auf die verstärkten Bemühungen, sie zu stoppen, haben die anspruchsvolleren Bedrohungsakteure — darunter aus Russland und China — ihre operative Sicherheit verbessert. Sie sind disziplinierter geworden, um nachlässige Fehler zu vermeiden, etwa indem sie sich nicht von St. Petersburg in Russland aus in angeblich amerikanische Konten einloggen. So entfernte Facebook entfernte im Oktober 2019 ein russisches, mit der IRA verbundenes Netzwerk, das zu den ersten gehörte, die auf die US-Wahl 2020 abzielten. Das Netzwerk veröffentlichte hauptsächlich Inhalte anderer Personen, darunter Memes mit minimalem oder gar keinem englischen Text sowie Screenshots von Social-Media-Posts von Nachrichtenorganisationen und Personen des öffentlichen Lebens.

Sechstens: Plattformdiversifizierung. Um der Entdeckung zu entgehen und Risiken zu streuen, zielen Operationen auf mehrere Plattformen (einschließlich kleinerer Dienste) und die Medien ab und stützen sich auf eigene Websites, um die Kampagne fortzuführen. Durch die Durchführung von Operationen auf mehreren Plattformen versuchen Bedrohungsakteure wahrscheinlich sicherzustellen, dass ihre Aktivitäten die Durchsetzung durch eine bestimmte Plattform überstehen. Sie haben auch hyperlokale Plattformen (lokale Blogs und Zeitungen) ins Visier genommen, um bestimmte Zielgruppen zu erreichen und öffentliche Räume mit weniger gut ausgestatteten Sicherheitssystemen anzugreifen.

Abmilderung der Bedrohungen

„Wir rechnen damit, weltweit mehr lokale Akteure zu sehen, die versuchen, mit IO-Taktiken die öffentliche Debatte in ihren eigenen Ländern zu beeinflussen, wodurch die Grenzen zwischen authentischer öffentlicher Debatte und Täuschung weiter verschwimmen.Technologieplattformen, traditionelle Medien und die Zivilgesellschaft werden wiederum vor anspruchsvolleren politischen und Durchsetzungsentscheidungen stehen“, sagt Facebook. Facebook schlägt vor, spezifische Schritte zu unternehmen, die Einflussoperationen weniger wirksam, leichter zu erkennen und kostspieliger machen. Im Folgenden werden wir einige davon erörtern.

Gesamtgesellschaftlicher Ansatz und Aufbau von Abschreckung

Ein Bereich, in dem ein gesamtgesellschaftlicher Ansatz wirksam ist, besteht darin, Täter davon abzuhalten, Desinformation zu verbreiten. Während Plattformen innerhalb ihrer Grenzen Maßnahmen ergreifen können, sind sowohl gesellschaftliche Normen als auch Regulierung gegen IO und Täuschung – auch wenn sie von authentischen Stimmen ausgehen – entscheidend, um Missbrauch abzuschrecken und die öffentliche Debatte zu schützen. Im März haben wir einen Überblick über aktuelle Forschung dazu प्रस्तुत, wie man Abschreckung aufbauen kann.

Facebook argumentiert außerdem, dass Desinformation in der Abwesenheit (von Informationen) gedeiht, was auch mit einem russischen Strategiepapiers übereinstimmt, das wir im vergangenen Jahr entdeckt haben. Anfang Februar 2020 veröffentlichte das Russische Institut für Strategische Studien (RISS), ein kremlfinanzierter Thinktank, einen Aufsatz mit dem Titel „Sicherung von Informationen für außenpolitische Zwecke im Kontext der digitalen Realität“.Das Papier behauptete, dass:

„Ein präventiv geformtes Narrativ, das den nationalen Interessen des Staates entspricht, kann die Wirkung der Aktivitäten ausländischer Kräfte im Informationsraum erheblich verringern, da sie in der Regel versuchen, „Leerstellen“ [im Informationsfluss] zu besetzen.“

Zu verhindern, dass Desinformation diese Leerstellen besetzt, ist das, was die EUvsDisinfo-Kampagne tut. Wir entwickeln Kommunikationsprodukte und Kampagnen, die darauf ausgelegt sind, EU-Werte, -Interessen und -Politiken in den Ländern der Östlichen Partnerschaft zu erklären. Darüber hinaus berichten und analysieren wir Desinformationstrends, decken Desinformationsnarrative auf und schärfen das Bewusstsein für die negativen Auswirkungen von Desinformation, die im Informationsraum der östlichen Nachbarschaft und darüber hinaus verbreitet wird.

Quelle: FB, Threat Report, 2017–2020

Die unbekannten Bekannten und unbekannten Unbekannten

Obwohl Facebook seine Fähigkeiten zur Erkennung von Einflussoperationen verbessert hat, wissen wir nicht, welche inauthentischen Netzwerke Facebook möglicherweise übersehen hat, und wir wissen nicht genau, was sonst noch auf der Plattform geschieht, vielleicht sogar jenseits unserer Vorstellungskraft.In jedem Fall bleiben Facebooks Wissen und seine Möglichkeiten zur Entfernung von Inhalten entscheidend im Kampf gegen Desinformation und bei dem Bestreben, ihren Urhebern höhere Kosten aufzuerlegen.

Ben Nimmo, ein Mitautor des Berichts, brachte es auf Twitter ganz einfach auf den Punkt:

„Mehr Akteure versuchen es, aber mehr Akteure werden auch erwischt. Die Herausforderung besteht darin, weiter voranzukommen, um voraus zu bleiben und sie zu erwischen.“