Die Sankt Petersburger Trollfabrik nimmt Wahlen von Deutschland bis in die Vereinigten Staaten ins Visier

• • Die Sankt Petersburger „Trollfabrik“, auch bekannt als die Internet Research Agency (IRA), ist zu einem zentralen Bestandteil des Wahlbeeinflussungs-Drehbuchs des Kremls geworden.

• • Die IRA exportiert seit 2013 aktiv die Desinformationstaktiken des Kremls ins Ausland und nimmt dabei zahlreiche Wahlen und Referenden in Europa und den USA ins Visier.

• • Insgesamt belief sich die Finanzierung für die US-Operation zwischen Januar 2016 und Juni 2018 auf ungefähr 35 Millionen US-Dollar.

• • Die IRA ist weiterhin mit ihren Online-Manipulationsbemühungen aktiv; Expertinnen und Experten warnen, dass russische Trolle ihre Strategien anpassen, um neue Schutzmaßnahmen zu umgehen, die von Social-Media-Unternehmen implementiert wurden.

Seit ihrer Gründung hat die Sankt Petersburger Trollfabrik einen besonderen Schwerpunkt auf Wahlbeeinflussungsoperationen gelegt.

2014 sollten in Sankt Petersburg, Russland, Kommunalwahlen stattfinden. Doch lange vor dem Wahltag begannen einige Einwohnerinnen und Einwohner der Stadt, unerwartete Besucher zu empfangen, die an ihre Türen klopften.Die Gäste gaben sich als Journalisten der Zeitung Nevskie Novosti aus und sagten, sie würden Interviews führen: „Welche Politiker unterstützen Sie? Was sind die größten Probleme in Ihrer Nachbarschaft?“

Tatsächlich waren die „Journalisten“ alles andere als das – sie waren Analysten aus einem von mehreren Projekten, die von der Internet Research Agency (IRA) gegründet wurden: der mittlerweile berüchtigten St. Petersburger Trollfabrik, und die Zeitung wurde und wird von ihr betrieben. Ziel der Haustürwerbung und Interviewbemühungen der Analysten war es, Informationen zu sammeln, die genutzt werden konnten, um einen Sieg für die Regierungspartei Einiges Russland sicherzustellen, und einzuschätzen, bei welchen Kandidaten vermutlich „Korrekturen“ des Stimmenauszählungsergebnisses mittels Wahlbetrug nötig sein würden.

Während diese Operation lief, stellte die Trollfabrik bereits offen englischsprachige Spezialisten ein.

Im Vorfeld der Europawahlen 2019 ist unser Verständnis des operativen Umfangs, der Ziele und der Methoden der Trollfabrik deutlich größer als noch vor wenigen Jahren. Wir wissen, dass der physische Betrieb inzwischen auf das Dreifache seiner ursprünglichen Größe angewachsen ist und 12.000 Quadratmeter im Lakhta-Geschäftsviertel einnimmt, obwohl jüngste Berichte darauf hindeuten, dass eines seiner Unternehmensverbünde angeblich ausgezogen ist aus den Büroräumen.Die Trollfabrik hat erfolgreich ein ganzes Netzwerk von populären russischsprachigen Medien aufgebaut, die jeden Monat mit Dutzenden Millionen Leserinnen und Lesern prahlen.

Die Organisation wird von dem russischen Geschäftsmann Jewgeni Prigoschin kontrolliert, der nebenbei eine Reihe weiterer Unternehmungen betreibt, darunter Catering-Dienstleistungen für russische Schulen und die Armee sowie private Militärunternehmen, die derzeit in der Ukraine und in Syrien operieren. Angesichts dieses Lebenslaufs überrascht es nicht, dass Prigoschin auch mit gewalttätigen Angriffen auf Blogger und Oppositionsaktivisten in Verbindung gebracht wurde, die den Kreml kritisieren.

Wie mehrere jüngere Wahlzyklen in Europa und den USA gezeigt haben, ist die Trollfabrik äußerst geschickt darin, die Desinformationstaktiken des Kremls ins Ausland zu exportieren, indem sie komplexe Online-Einflussoperationen durchführt, um Wahlen zu beeinflussen und die öffentliche Meinung zu manipulieren. Und sie zeigt keine Anzeichen, langsamer zu werden – im Gegenteil: Konfrontiert mit neuen Schutzmaßnahmen von Social-Media-Unternehmen, um die Verbreitung von Desinformation auf ihren Plattformen zu verhindern, beginnen die Trolle, ihre Einflussstrategien anzupassen, um immer neue Wege zu finden, ihr Gift zu verbreiten.

IRA-Facebook-Beitrag, gepostet von Stop A.I.Seite im Januar 2017 (Gesamtzahl der Shares: 312.667)

Versuche, US-Wähler zu manipulieren, begannen 2013, eskalierten jedoch 2014 rasch – zunächst auf Twitter und breiteten sich anschließend aus auf YouTube, Instagram und Facebook. Nur wenige Wochen vor der Präsidentschaftswahl 2016 verfügte die für die US-Operation zuständige Abteilung bereits über mehr als 80 Mitarbeiter und ein monatliches Budget von 1,25 Millionen US-Dollar. Zwischen 2013 und 2018 erreichten die Facebook-, Instagram- und Twitter-Kampagnen der IRA zig Millionen Nutzer in den gesamten Vereinigten Staaten.

Im Vorfeld der Wahl 2016 zielten die Aktivitäten der Trollfabrik darauf ab, die US-Wählerschaft zu polarisieren, indem bestehende Bruchlinien und hochemotionale parteipolitische Streitfragen ausgenutzt wurden – darunter Rassenbeziehungen, LGBT-Rechte, Waffenrechte, Einwanderung und mehr. Die Trolle produzierten Inhalte, die afrikanisch-amerikanische Wähler dazu ermutigten, Wahlen zu boykottieren und falschen Wahlverfahren zu folgen, stachelten Wähler der extremen Rechten dazu an, konfrontativer aufzutreten, und verbreiteten Desinformation zu einer breiten Palette von Themen an Wähler an beiden Enden des politischen Spektrums.

Parallel zur Trollfabrik-Operation hackte Russlands militärischer Geheimdienst GRU mehrere zentrale demokratische Gruppen und stahl große Mengen an E-Mails und Dokumenten.Dann erstellte die GRU mithilfe falscher Online-Personas und Websites – und in Zusammenarbeit mit Wikileaks – und veröffentlichte strategisch Zehntausende dieser Dokumente zu Schlüsselmomenten während des Wahlkampfs, in einem offensichtlichen Versuch, den Schaden für Hillary Clinton zu maximieren und dadurch die Unterstützung für Donald Trump zu steigern.

Die Trollfabrik verstand auch die Macht lokaler Nachrichten: Die IRA richtete eine Reihe von Twitter-Konten ein, die echte lokale Nachrichten posteten und als Schläferkonten dienten, um Vertrauen und Leserschaft aufzubauen, die bei zukünftigen Einflussoperationen ausgenutzt werden konnten. Twitter sperrte die Konten, bevor sie für Desinformationszwecke genutzt wurden.

IRA-Facebook-Post, veröffentlicht von der Seite „Being Patriotic“ am 8. September 2016 (Gesamtzahl der Shares: 640.390)

Nach der US-Wahl 2016 nahmen die Engagement-Bemühungen der Trollfabrik sowohl im Umfang als auch in der Intensität zu; sie wurden ausgeweitet, um neue Zielgruppen anzusprechen und ein breiteres Spektrum an Themen abzudecken.Jüngere Wähler wurden ins Visier genommen, ebenso wie mexikanisch-amerikanische und hispanische Wähler, mit Maßnahmen, um ihr Misstrauen gegenüber US-Institutionen zu verstärken.

Der Höhepunkt des Werbevolumens der Trollfabrik auf Facebook war im April 2017: ein Zeitraum, der mit dem syrischen Raketenangriff, dem Einsatz der „Mother of All Bombs“ gegen ISIS-Tunnel in Afghanistan und der Veröffentlichung des US-Steuerreformplans zusammenfällt.

Im Jahr 2018 intensivierte sich die US-Operation erneut, als das Budget für Januar bis Juni auf 10 Millionen USD erhöht wurde. Insgesamt belief sich die Finanzierung der US-Operation von Januar 2016 bis Juni 2018 auf 35 Millionen USD.

Die Aktivitäten der Trollfabrik beschränkten sich nicht auf die USA, sondern zielten auf zahlreiche europäische Wahlen ab, von den Niederlanden bis nach Deutschland.IRA-Konten bewarben auch den Daten-Dump aus der Hack-and-Leak-Operation gegen den französischen Präsidenten Emmanuel Macron während seines Wahlkampfs.

Bevor die Niederländer 2016 in einem Referendum über das EU-Ukraine-Assoziierungsabkommen abstimmten, verbreitete die Trollfabrik ein gefälschtes Video über ukrainische rechtsextreme ultranationalistische Kämpfer des Asow-Bataillons, die angeblich damit drohten, Terroranschläge in den Niederlanden zu verüben, falls das Referendum abgelehnt würde, und die niederländische Flagge verbrannten.

Im Vereinigten Königreich konzentrierte sich die Strategie darauf, antimuslimische Stimmung anzuheizen im Vorfeld der Brexit-Abstimmung. Der am häufigsten retweetete Tweet in den sechs Monaten vor dem Referendum lautete: „London: Muslime betreiben einen Kampagnenstand für die Scharia! Muss von @MayorofLondon gesponsert sein!“

Vor dem Brexit begann die Trollfabrik, ihre Publikumsbasis aufzubauen, indem sie über unverfängliche Themen wie Gesundheit und Fitness twitterte, um unter dem Radar zu bleiben (ähnlich wie bei dem, was sie mit lokalen Nachrichten in den USA zu erreichen versuchte), und verlagerte später ihren Fokus auf politische Botschaften.Am Tag des Referendums waren seine Tweets im Allgemeinen EU-feindlich, enthielten aber auch Nachrichten wie: „Algerier illegal in Großbritannien griff in zehn Tagen 8 Frauen an! Schickt den Muslim zurück in die EU!“ und aus einem gefälschten US-Account: „Ich hoffe, das Vereinigte Königreich wird nach #BrexitVote anfangen, ihr Land von der muslimischen Invasion zu säubern!“

Tweet eines IRA-Accounts nach dem Terroranschlag in London im März 2017, der von The Sun und Mail Online zitiert wurde. Die IRA schürte auch nach dem Brexit weiterhin antiislamische Stimmung.

Zu einer breiten Palette von Themen wurden IRA-Accounts in britischen Medien mehr als 80-mal zitiert, bevor Twitter sie identifizierte und entfernte.

Nicht auf Brexit bezogen, sondern allgemein, konzentrierte sich der Großteil der Twitter-Aktivität der Trollfabrik auf Beiträge in englischer und russischer Sprache. Weniger als 100 000 Tweets wurden auf Deutsch veröffentlicht.Unterdessen verstärkten IRA-Konten im Vorfeld der deutschen Bundestagswahlen im September 2017 ihre deutschen Botschaften boosted, supporting AfD, nur um nach dem Wahltag wieder langsamer zu werden.

Ein internationales Publikum erfuhr erstmals von der Trollfabrik durch russische investigative Journalisten, die die Operation 2013 exposed.

Die Aktivistin und Ermittlerin Lyudmila Savchuk verbrachte Ende 2014 two months undercover in der St. Petersburger Trollfabrik und won a lawsuit später 2016 gegen die Trollfarm. Sie hat die Abläufe ihres früheren Arbeitgebers in zahlreichen Publikationen explained the operations und als Zeugin in der Klage eines anderen Ex-Trolls ausgesagt.Weitere Details wurden von anderen früheren Trollen bereitgestellt.

Seitdem haben drei Anklageschriften (1, 2, 3), die vom US-Sonderermittler Robert Mueller im Rahmen seiner Untersuchung der russischen Einflussnahme auf die Wahl 2016 vorbereitet wurden, sowie zwei umfangreiche Berichte des Oxford Project on Computational Propaganda und von New Knowledge, die auf Daten beruhen, welche von Technologieunternehmen dem Geheimdienstausschuss des US-Senats (SSCI) zur Verfügung gestellt wurden, unser Verständnis der Aktivitäten und des operativen Modells der Trollfabrik weiter verfeinert.

Seit den enormen Nachwirkungen der US-Wahl 2016 hat Twitter neun Millionen IRA-Tweets stillgelegt und Daten dazu veröffentlicht. Ein durchsuchbares Archiv für Analysten, Journalisten und die allgemeine Öffentlichkeit ist hier verfügbar.Inzwischen hat Facebook die Kerngruppe der US-bezogenen IRA-Konten entfernt, die insgesamt fast 31 Millionen Shares, 39 Millionen Likes und 5,4 Millionen Emoji-Reaktionen verzeichnete.

Zuletzt sind Berichte aufgetaucht, wonach das US-Militär während der Zwischenwahlen 2018 seine erste offensive Cyberoperation gegen die Trollfabrik durchgeführt und den Internetzugang der IRA blockiert habe.

Auch die Social-Media-Unternehmen stehen unter Druck von Regierungen und der EU, ihre Rolle als Kanäle zur Verstärkung und Verbreitung von Desinformation zu verringern. Die Plattformen haben sich dem Verhaltenskodex verpflichtet, die Transparenz bei politischer Werbung zu erhöhen und die Zahl der Fake-Accounts zu reduzieren.Monatliche Berichterstattung der Social-Media-Unternehmen im Vorfeld der Europawahlen 2019 und Antworten der Kommission hier.

Allerdings, auch wenn die breite Öffentlichkeit nun den Umfang von Russlands Online-Wahlmanipulation und die Raffinesse seiner früheren Operationen verstehen kann, erinnern uns Expertinnen und Experten daran, dass die derzeit verfügbaren Daten nur einen historischen Bericht über die Taktiken der IRA liefern, nicht aber über ihre zukünftigen.

Tatsächlich entwickeln böswillige Akteure – sowohl kremlnahe als auch andere – gleichzeitig innovative Wege, diese Schutzmaßnahmen zu umgehen, während Social-Media-Unternehmen wie Facebook und Twitter versuchen, koordiniertes unechtes Verhalten zu unterbinden.

Neue Tricks könnten laut Expertinnen und Experten Strategien verlagern – weg von der Erstellung von Desinformation hin zur Verstärkung von Inhalten über gefälschte Social-Media-Konten. Eine aufkommende Hacking-Methode besteht beispielsweise darin, in Computergeräte einzudringen und sie zu nutzen, um auf einmal eine große Zahl von Social-Media-Konten zu eröffnen, die den Anschein erwecken, zu legitimen Nutzerinnen und Nutzern zu gehören.

“Hysterie anheizen, Zwietracht säen, Verwirrung stiften: Detaillierter Bericht über Manipulationsversuche vor den US-Wahlen“. (2018). EUvsDisinfo.

“Militärgeheimdienst, gefälschte Online-Personas, gefälschte Lokalnachrichten: Wie Russland auf die US-Wahlen abzielte“.(2018). EUvsDisinfo.

„Die Trolle kommandieren“. (2018). EUvsDisinfo.

„Die IRA und politische Polarisierung in den Vereinigten Staaten, 2012–2018“. (2018). Forschungsprojekt zu computergestützter Propaganda, Universität Oxford.

„Der Desinformationsbericht“. (2018). New Knowledge.