Część 2: Raport o zagrożeniach z Facebooka. Z niecierpliwością czekam na dalszy ciąg.
Ostatnio Facebook poinformował o ponad 150 skoordynowanych, nieautentycznych operacjach, które zidentyfikował, zgłosił i zakłócił. Już omówiliśmy znaczenie tych 150 działań polegających na usunięciu. Jasne jest, że platforma rozwinęła moderację treści, ale poza tym wielu ukrytych sprawców dezinformacji również udoskonaliło swoje taktyki — ostrzega Facebook.
Pomimo postępów Facebooka raport nie jest powodem, by spocząć na laurach, ponieważ podmioty stanowiące zagrożenie dostosowują się także do egzekwowania zasad przez Facebooka. Według platformy wykształca się coraz bardziej złożona gra w „uderz w kreta”. Zespół Facebooka wskazuje sześć głównych trendów:
Pierwszym trendem jest przejście z „hurtu” na „detal”. Podmioty stanowiące zagrożenie przechodzą od szeroko zakrojonych, hałaśliwych kampanii wprowadzających w błąd do mniejszych, bardziej ukierunkowanych operacji. Przykładem jest przypadek z początku 2020 roku, gdy Facebook wykrył i usunął sieć prowadzoną przez rosyjski wywiad wojskowy. Koncentrując się na Ukrainie i krajach sąsiednich oraz posługując się fałszywymi personami działającymi na forach blogowych i na wielu platformach społecznościowych, sieć angażowała decydentów, dziennikarzy i inne osoby publiczne.
Operacje „detaliczne” są kosztowne dla szerzących dezinformację, a Facebook twierdzi, że ich zwrot z inwestycji jest mizerny. Może się to zmienić wraz z nadchodzącym postępem technologicznym.Na przykład w zeszłym tygodniu Uniwersytet Georgetown opublikował raport na temat automatyzacji i dezinformacji. Badacze przeanalizowali, w jaki sposób GPT-3, system sztucznej inteligencji (AI) piszący tekst, będzie prawdopodobnie wykorzystywany w kampaniach dezinformacyjnych. Wrodzy aktorzy mogliby używać automatyzacji do uruchamiania wysoce skalowalnych kampanii dezinformacyjnych przy mniejszej liczbie personelu, niż jest obecnie wymagane — ostrzegają badacze:
„Ta obserwacja rzuca światło na prosty fakt: podczas gdy dyskusja w USA na temat rosyjskiej dezinformacji koncentrowała się na popularnym obrazie zautomatyzowanych botów, same operacje były zasadniczo prowadzone przez ludzi, a IRA [Internet Research Agency, firma z siedzibą w Rosji i powiązana z rosyjskim rządem] była biurokratyczną organizacją średniej wielkości, jak wiele innych.”
Drugim trendem, który Facebook dostrzega, jest zacieranie granic między autentyczną debatą publiczną a manipulacją. Na przykład w lipcu 2018 roku Facebook usunął sieć powiązaną z IRA, która angażowała się w z góry zaplanowane, autentyczne wydarzenia. Celem tej sieci było namierzanie wydarzeń związanych z dzielącymi społeczeństwo kwestiami oraz zgłaszanie się na ochotnika, by je nagłaśniać w imieniu lokalnych organizatorów.
Po trzecie, Facebook mówi o „hakowaniu percepcji”.Podmioty działające w złej wierze starają się wykorzystać publiczny strach przed operacjami wpływu (IO), aby stworzyć fałszywe wrażenie powszechnej manipulacji systemami wyborczymi — nawet bez dowodów. Na przykład w schyłkowych godzinach wyborów śródokresowych w USA w 2018 r. Facebook namierzył operację IRA, która twierdziła, że prowadzi tysiące fałszywych kont zdolnych do wpłynięcia na wyniki wyborów w całych Stanach Zjednoczonych. Stworzyli nawet stronę internetową — usaira[.]ru — wraz z „odliczaniem do wyborów”, na której jako dowód swoich twierdzeń przedstawili niemal sto niedawno utworzonych kont na Instagramie. Siła samospełniającej się przepowiedni w dezinformacji.
Czwartym trendem, który dostrzega Facebook, są „operacje wpływu jako usługa”. Podmioty komercyjne prowadzą operacje wpływu zarówno w kraju, jak i za granicą, zapewniając swoim klientom możliwość zaprzeczania i czyniąc operacje wpływu szerzej dostępnymi. W ciągu ostatnich czterech lat Facebook badał i usuwał operacje wpływu prowadzone przez podmioty komercyjne, w tym firmy medialne, marketingowe i public relations. Niestety Facebook nie udostępnia żadnych danych ilościowych dotyczących tego trendu.
Po piąte, Facebook opisuje trend zwiększonego bezpieczeństwa operacyjnego. Doświadczeni aktorzy znacząco poprawili swoją zdolność ukrywania tożsamości, stosując techniczne zaciemnianie oraz świadomych i nieświadomych pośredników.W odpowiedzi na nasilone działania mające je powstrzymać, bardziej wyrafinowani sprawcy zagrożeń — w tym z Rosji i Chin — poprawili swoje bezpieczeństwo operacyjne. Są bardziej zdyscyplinowani, by unikać nieostrożnych błędów, na przykład logowania się do rzekomo amerykańskich kont z Petersburga w Rosji. Przykładowo w październiku 2019 r. Facebook usunął rosyjską sieć powiązaną z IRA, która należała do pierwszych, które obrały za cel wybory w USA w 2020 r. Sieć ta publikowała przede wszystkim treści innych osób, w tym memy z minimalną ilością tekstu w języku angielskim lub bez tekstu oraz zrzuty ekranu wpisów w mediach społecznościowych pochodzących od organizacji informacyjnych i osób publicznych.
Po szóste, dywersyfikacja platform. Aby uniknąć wykrycia i zdywersyfikować ryzyko, operacje obejmują wiele platform (w tym mniejsze serwisy) oraz media, a także opierają się na własnych stronach internetowych, aby kontynuować kampanię. Prowadząc działania na wielu platformach, sprawcy zagrożeń najprawdopodobniej próbują zapewnić, że ich wysiłki przetrwają egzekwowanie zasad przez dowolną konkretną platformę. Atakowali również platformy hiperlokalne (lokalne blogi i gazety), aby dotrzeć do konkretnych odbiorców oraz wykorzystywać przestrzeń publiczną z mniej zasobnymi systemami bezpieczeństwa.
Ograniczanie zagrożeń
„Spodziewamy się, że na całym świecie pojawi się więcej lokalnych podmiotów, które będą próbowały stosować taktyki IO, aby wpływać na debatę publiczną we własnych krajach, co jeszcze bardziej zaciera granice między autentyczną debatą publiczną a oszustwem.Z kolei platformy technologiczne, tradycyjne media i społeczeństwo obywatelskie będą musiały mierzyć się z trudniejszymi wyborami w zakresie polityki i egzekwowania przepisów — mówi Facebook. Facebook proponuje podjęcie konkretnych kroków, które sprawią, że operacje wpływu będą mniej skuteczne, łatwiejsze do wykrycia i bardziej kosztowne. Poniżej omówimy kilka z nich.
Podejście obejmujące całe społeczeństwo i budowanie odstraszania
Jednym z obszarów, w którym podejście obejmujące całe społeczeństwo ma istotny wpływ, jest zniechęcanie sprawców do rozpowszechniania dezinformacji. Choć platformy mogą podejmować działania w ramach własnych granic, zarówno normy społeczne, jak i regulacje przeciwko IO oraz oszustwu, w tym wtedy, gdy są realizowane przez autentyczne głosy, mają kluczowe znaczenie dla odstraszania przed nadużyciami i ochrony debaty publicznej. W marcu przedstawiliśmy przegląd najnowszych badań na temat tego, jak budować odstraszanie.
Facebook argumentuje również, że dezinformacja rozkwita w braku (informacji), co jest także zgodne z rosyjskim dokumentem strategicznym, który dostrzegliśmy w zeszłym roku. Na początku lutego 2020 r. Rosyjski Instytut Studiów Strategicznych (RISS), finansowany przez Kreml think tank, opublikował esej zatytułowany „Zabezpieczanie informacji dla celów polityki zagranicznej w kontekście cyfrowej rzeczywistości”.W artykule stwierdzono, że:
„Narracja ukształtowana prewencyjnie, odpowiadająca interesom narodowym państwa, może znacząco ograniczyć wpływ działań sił zewnętrznych w sferze informacyjnej, ponieważ one z reguły próbują zajmować „pustki” [w przepływie informacji]”.
Zapobieganie zajmowaniu tych pustek przez dezinformację jest tym, czym zajmuje się kampania EUvsDisinfo. Opracowujemy produkty komunikacyjne i kampanie zaprojektowane tak, aby wyjaśniać wartości, interesy i polityki UE w krajach Partnerstwa Wschodniego. Dodatkowo raportujemy o trendach dezinformacyjnych i je analizujemy, ujawniamy narracje dezinformacyjne oraz zwiększamy świadomość negatywnego wpływu dezinformacji rozpowszechnianej w przestrzeni informacyjnej wschodniego sąsiedztwa i poza nią.
Źródło: FB, Threat Report, 2017-2020
Znane niewiadome i nieznane niewiadome
Mimo że Facebook poprawił swoje możliwości wykrywania operacji wpływu, nie wiemy, które nieautentyczne sieci Facebook mógł przeoczyć, i nie wiemy dokładnie, co jeszcze dzieje się na platformie — być może nawet poza naszą wyobraźnią.W każdym razie wiedza Facebooka i jego możliwości wykrywania oraz usuwania pozostają kluczowe w walce z dezinformacją oraz w wysiłkach na rzecz nałożenia wyższych kosztów na jej sprawców.
Ben Nimmo, współautor raportu, ujął to bardzo prosto na Twitterze:
„Więcej operatorów próbuje, ale więcej operatorów jest też wyłapywanych. Wyzwanie polega na tym, by wciąż iść naprzód, utrzymać przewagę i ich łapać.”
