Farmy botów - czy należy z nimi walczyć?

    Kilka dni temu SBU (Służba Bezpieczeństwa Ukrainy) poinformowała, że rozbiła kolejną farmę botów (szczegółowy opis tutaj).

Wspomniana farma miała możliwości tworzenia do 500 fałszywych kont w social mediach dziennie (sic!), co pokazuje skalę operacji, ale też możliwości rozbitej farmy.

Współczesna wojna w sieci ma parę głównych celów:

• zapewnienie przewagi informacyjnej
• manipulacja w celu odniesienia określonych korzyści (operacje wpływu, dezinformacja)
• testowanie systemów przeciwnika

Jak w każdej wojnie by osiągać określone cele potrzebujemy broni, w przypadku wojny w sieci naszą bronią są social media, które możemy śmiało porównać do broni masowego rażenia.

Jednak by działanie było skuteczne potrzeba odpowiedniego ich użycia w dużej ilości.

Tak oto na scenę wchodzą tytułowe farmy botów.

Nie można przeprowadzić skutecznej operacji wpływu, czy też dezinformacji bez masowego użycia fałszywych kont w social mediach powielajacych ustaloną narrację.

Ten schemat bardzo dobrze możemy obserwować podczas inwazji Rosji na Ukrainę. 

Rosjanie do perfekcji opanowali działania w ramach wojny w sieci, używając do tego licznych farm.

W zasadzie nie ma miesiąca by Ukraińcy nie odkrywali i zamykali kolejnej, a każda ma średnio dziesiątki tysięcy kont.

Czy warto zatem wzorować się na Ukrainie?

Czy warto tracić zasoby na to by tropić wirtualnych agentów wpływu w sieci? - ktoś powie po co, przecież to tylko internet i nić realnego nam nie zagraża.

Zastanówmy się wspólnie.

Przekonanie społeczeństwa do własnej narracji jest kluczowym elementem by odnieść sukces.

Jest to w interesie polityków, wojskowych, wroga zewnetrznego, który zagraża danemu państwu.

Odpowiednio dobrana narracja może doprowadzić do chaosu (dezinformacja), skłócenia społeczeństwa (dezinformacja plus operacje wpływu) czy upadku rządu (operacja wpływu).

Nie jest to nic nowego i historia zna takie przypadki od dawna.

Dobrym przykładem jest to, co Caryca Katarzyna mówiła o nas i naszym Kraju (tutaj dla przypomnienia).

Jak widzicie użycie tego typu broni ma długie tradycje, jednak wraz z pojawieniem się internetu i social mediów siła rażenia jej stała się masowa.

Co oznacza masowa w moim rozumieniu?

Przyjmijmy, że jedna farma botów ma 20 000 kont, które będą regularnie powielać określoną narrację.

Wpis każdego konta przeczyta średnio 30 osób (bardzo ostrożne założenie), co już daje nam 600 000 osób, które zapoznają się z określoną narracją i to tylko podczas jednego wpisu.

Przy założeniu, że nasze boty są leniwe i tylko 5 razy w ciagu dnia powielą narrację, to mówimy już tutaj o 3 milionach ludzi którzy, zapoznali się z wrogim przekazem.

Do tego należy dodać tych, którzy w dobrej wierze "podadzą dalej" odpowiednie wpisy (efekt misinformation).

Trzy miliony ludzi może tylko w ciagu jednego dnia przeczytać informację, która spowoduje, że pojawią się u nich wątpliwości, niechęć bądź też nawet agresja mogąca realnie wpłynąć na funkcjonowanie kraju.

Oczywiście zasięgi generowane przez farmy botów zależą od wielu aspektów m.in. takich jak:

• "atrakcyjność" powielanych treści (przekaz najczęściej bazuje na emocjach jakie dominują w społeczeństwie)
• "wiarygodność" powielanych treści ("...najlepsze kłamstwa są w 90% prawdziwe" - Jo Nesbo)
• odpowiednio ustawiona sieć botów podająca dalej wpisy

Jeśli nadal macie wątpliwości czy należy z farmami walczyć to podam konkretny przykład.

W czasie tworzenia tego wpisu od tygodnia trwa ukraińska kontrofensywa, trwa ona nie tylko w świecie rzeczywistym, ale także w sieci.

Przy okazji wojny w sieci pojawiają się masowo rozpowszechniane przez Rosjan informacje o bardzo wysokich stratach ukraińskich.

Internet został wręcz zalany wspomnianym przekazem, dystrybuowanym przez rosyjskie farmy botów.

Przeanalizujmy ten konkretny przykład - duże straty Ukrainy w czasie kontrofensywy:

• "atrakcyjność" treści - wysoka, gdyż cały świat zachodni czekał na kontrofensywę plus obywatele Ukrainy, których bliscy walczą na froncie i giną tam
• "wiarygodność" treści - bardzo dużo zdjęć zniszczonego sprzętu, filmów z systemów naprowadzania rakiet niszczących wojska/sprzęt Ukrainy, czy też zabitych ukraińskich żołnierzy (tylko nieliczni eksperci są w stanie ustalić, wiarygodność przekazu)
• impakt tego przekazu - bardzo wysoki, jeśli działania farm botów zdołają przekonać swoją narracją zachodnie społeczeństwa i polityków, że nie warto pomagać bo kontrofensywa się nie udała to realnie wpłynie na sytuację na froncie. Jeśli obywatele Ukrainy i żołnierze uwierzą w powielany przekaz to zwątpią w sens walki, a to spowoduje realne osłabienie siły wojsk Ukrainy.

To bardzo prosta analiza, jednak pokazuje, że działania w sieci mają realny wpływ na świat rzeczywisty.

Głównym nośnikiem fałszywych treści są nasi dzisiejsi bohaterowie czyli farmy botów, które zarządzają tysiącami kont w social mediach.

Wracając zatem do naszego pytania - czy należy walczyć z farmami botów odpowiedź wydaje się być jasna.

Tak należy, gdyż jest to broń masowego rażenia i pomimo, że występuje w świecie cyfrowym to jej skutki są jak najbardziej realne.

Z powyższym stwierdzeniem w pełni zgadzają się ukraińskie służby, które poświęcają bardzo dużo czasu i środków by tropić i niszczyć farmy botów na ich terytorium. 

Nasz sąsiad doskonale zdaje sobie sprawę, jak ważna jest to walka, i że może ona realnie wpłynąć na wynik wojny.

Teraz opiszę (bardzo ogólnikowo) jak walczy się z farmami botów.

Zajmują się tym wyspecjalizowane służby, które analizują aktywność kont w sieci.

Analizuje się CIB (Coordinated Inauthentic Behavior) - dla zainteresowanych tutaj więcej na ten temat.

Analizie podlega także materiał audio, video, schematy zachowań, a także treść powielane przez fałszywe konta.

Kluczowa tutaj także jest współpraca służb z firmami technologicznymi (BigTech-y), które zarządzają swoimi sieciami społecznościowymi i mają narzędzia by aktywnie wspierać służby.

Na koniec krótka informacja, jak wygląda walki z farmami botów w naszym kraju.

Od początku rosyjskiej inwazji na Ukrainę (ale także przed nią) nie odnaleziono i nie zlikwidowano żadnej farmy botów (chyba, że utrzymywane jest to w wielkiej tajemnicy), która rozpowszechniała prorosyjską narrację.

Mylące jest myślenie, które automatycznie się nasuwa, iż widocznie u nas ten problem nie występuje. Nawet przy pomocy mało zaawansowanego oprogramowania można zobaczyć niepokojące skupiska profili schematycznie powielających określoną narrację.

Nie podejmę się analizy, dlaczego tak się dzieje, jednak brak jakichkolwiek działań w tym zakresie jest wysoce niepokojący.

Mam nadzieję, że udało mi się Was przekonać, że należy walczyć z farmami botów, bo zaniedbania w tej materii mogą mieć realny wpływ na to co się dzieje w naszym kraju, a także u naszych sąsiadów.