Deepfake w kontekście nadchodzących wyborów

                                                                         Wprowadzenie

W niniejszej publikacji zamierzam poruszyć tematykę zjawiska deepfake jako zagrożenia dla prawidłowego toku procesu wyborczego w kontekście nadchodzących wyborów parlamentarnych i samorządowych. 

Celem artykułu jest poszerzenie świadomości związanej z działaniem technologii Deepfake oraz zwrócenie uwagi na możliwości manipulacji opinii publicznej poprzez wykorzystanie zaawansowanych metod inżynierii społecznej. 

Definicja Deepfake

„Choć definicje mogą się różnić, deepfake najczęściej opisuje fałszerstwa tworzone przy użyciu technik uczenia maszynowego (ML) - jednej z dziedzin sztucznej inteligencji (AI), zwłaszcza generatywnych sieci przeciwników (GAN). W procesie GAN, dwie sieci neuronowe są trenowane w rywalizacji ze sobą. Pierwsza sieć, zwana generatorem, ma za zadanie tworzenie fałszywych danych - takich jak zdjęcia, nagrania dźwiękowe czy materiały wideo - które odzwierciedlają właściwości oryginalnego zestawu danych. Druga sieć, zwana dyskryminatorem, ma za zadanie identyfikację fałszywych danych. Na podstawie wyników każdej iteracji, sieć generatora dostosowuje się, aby tworzyć coraz bardziej realistyczne dane. Sieci kontynuują rywalizację - często przez tysiące lub miliony iteracji - aż generator poprawi swoje osiągnięcia na tyle, że dyskryminator nie jest już w stanie odróżnić prawdziwych danych od fałszywych.” (1) 

Potencjał technologiczny Deepfake

Opisywana technologia ma ogromny potencjał do tworzenia treści multimedialnych, które wydają się autentyczne, ale są w rzeczywistości fałszerstwem, ukierunkowanych na szerzenie dezinformacji oraz manipulacji.

Deepfake jest w stanie dokładnie odwzorować wygląd i ruchy twarzy, mimikę, gesty i głos osoby, która występuje na nagraniu. Działanie to może obejmować „podstawienie” twarzy jednej osoby na ciele innej, zmianę słów wypowiedzianych przez osobę na nagraniu lub stworzenie całkowicie fikcyjnych wystąpień i wypowiedzi.

Przykłady znanych deepfake'ów:

1. Deepfake Baracka Obamy - W 2018 roku powstało wideo przedstawiające Baracka Obamę, który odnosi się do filmu "Czarna Pantera", komentuje Sekretarza ds. Mieszkalnictwa i Rozwoju Miast Benjamina Carsona oraz określa Prezydenta Donalda Trumpa jako "całkowitego i kompletnego sk****yna". (2)

2. Deepfake Prezydenta Ukrainy Wołodymyra Zełenskiego nakazujący żołnierzom złożyć broń i poddać się w walce przeciwko Rosji. Przedmiotowe nagranie ukazało się w marcu 2022 r. na kilku serwisach społecznościowych (3) 

3. Deepfake Prezydenta Rosji Vladimira Putina również ukazał się w marcu 
2022 r. i dotyczył zakończenia negocjacji między Rosją a Ukrainą, skutkującym osiągnięciem porozumienia w sprawie uznania granic Ukrainy, w tym obwodów Donieckiego i Ługańskiego. Dodatkowo, z treści nagrania możemy dowiedzieć się, iż wspólnie z USA i UE zostanie utworzona duża fundacja, która będzie służyć odbudowie infrastruktury w tych regionach. Ponadto miało również dojść do podpisania pięcioletniego planu dotyczącego przywrócenia niepodległości Krymu jako republiki 
w składzie Ukrainy. Oczywiście nic takiego nie miało nigdy miejsca. (4)

4. Deepfake Kemala Kılıçdaroğlu - Prezydent Turcji Recep Tayyip Erdoğan w niedawnej kampanii wyborczej wykorzystał przedmiotową technologię w celu przedstawieniaopozycji i jej lidera Kemala Kılıçdaroğlu jako grupy politycznej wspieranej przez zdelegalizowaną Partię Pracujących Kurdystanu, która uznawana jest za organizację terrorystyczną. (5)

 

 

Potencjalne zagrożenia dla zabezpieczenia prawidłowego toku wyborczego 
w kontekście zagrożeń płynących z wykorzystania technologii Deepfake

Powyżej podane przykłady deepfake'ów, obejmujących wypowiedzi wpływowych polityków w przejrzysty sposób ukazują możliwości tej AI w kontekście wpływania za pomocą prostych metod inżynierii społecznej na grupy odbiorców, do których przekaz jest skierowany. Wykorzystanie tej technologii, jak pokazują prezydenckie wybory w Turcji to nowy element prowadzonych kampanii wyborczych. 

Warto zwrócić uwagę, iż w dobie szybkiego rozwoju AI jej wykorzystanie staje się ona coraz większym wyzwaniem dla uczciwości procesu wyborczego. W prowadzonych kampaniach deepfake może odpowiadać za szerzenie dezinformacji, czy też tworzenie fałszywego wizerunku polityków, wpływając tym samym na ich odbiór społeczny. Powyższe działania stoją w sprzeczności z demokratycznym procesem wyborczym, który powinien opierać się m.in. na zasadach uczciwości, rzetelności i przejrzystości.

Poniżej przedstawię kilka prawdopodobnych scenariuszy potencjalnego użycia omawianej technologii w procesie wyborczym:

1. Tworzenie fałszywych wypowiedzi kandydatów: deepfake mógłby być wykorzystany do stworzenia wideo przedstawiającego polityka, który wygłasza kontrowersyjne lub nieprawdziwe wypowiedzi. Celem takiego działania może być m.in.zdyskredytowanie kandydata partii politycznej lub manipulacja opinią publiczną.

2. Tworzenie nieprawdziwych informacji o przeciwnikach politycznych: deepfake może być również wykorzystywany do stworzenia wideo, z którego jasno wynika, iż przeciwnik polityczny popełnia czyny stojące w sprzeczności z ogólnie przyjętymi zasadami/wartościami społecznymi (np. popełnia przestępstwo korupcyjne) lub wypowiada obraźliwe słowa w stosunku do potencjalnych wyborców. 

3. Podważanie wiarygodności liderów politycznych: deepfake może być także użyty do stworzenia wideo, które sugeruje, że liderzy polityczni wypowiadają się w sposób sprzeczny z ich dotychczas reprezentowanym politycznie stanowiskiem.

4. Tworzenie wywiadów z politykami: deepfake mógłby być wykorzystany do stworzenia fałszywych wywiadów z politykami, w których odpowiadają oni na kontrowersyjne pytania lub wygłaszają wypowiedzi sprzeczne z ich rzeczywistymi stanowiskami. 

Warto podkreślić, że powyższe scenariusze to jedynie hipotetyczne przykłady potencjalnego użycia deepfake'ów w procesie wyborczym, stworzone na cele niniejszego artykułu. Wykorzystanie przedmiotowej technologii może być znacznie szersze, jedynym ograniczeniem twórców jest ich wyobraźnia oraz umiejętności tworzenia treści.

Podsumowanie

Mając na uwadze powyższe należy zaznaczyć, iż deepfake w przypadku ukierunkowania na szerzenie dezinformacji oraz manipulacji w celu wywarcia wpływu na decyzje wyborcze społeczeństwa może stanowić realne zagrożenie dla uczciwości wyborów. 

Zarówno służby, jak i organy odpowiedzialne za zabezpieczenie prawidłowego toku procesu wyborczego powinny zdawać sobie sprawę z tego zagrożenia i podejmować działania na rzecz ochrony jego uczciwości.

Uważam, że koniecznym jest podjęcie działań zmierzających do ustanowienia odpowiednich regulacji prawnych dotyczących deepfake’ów (szerzej samej AI), inwestowania w technologie ich wykrywania oraz edukacji społecznej. Co istotne, organy administracji publicznej powinny również współpracować z platformami społecznościowymi, aby monitorować i eliminować 
z życia społecznego dezinformację związaną z ww. technologią. 

Jedynie poprzez podjęcie ww. działań można będzie w sposób zadowalający zapobiegać negatywnym skutkom stosowania deepfake’ów, a co za tym idzie w sposób odpowiedni chronić uczciwość i integralność procesu wyborczego.

Bibliografia:

1) Kelley M. Sayler, Laurie A. Harris, „Deep Fakes and National Security”, Congressional Research Service, źródło: https://s3.documentcloud.org/documents/22055886/deep-fakes-and-national-security-june-3-2022.pdf, 03.06.2022 r.

2) Sean McGregor, „Incident 39: Deepfake Obama Introduction of Deepfakes”, AI INCIDENT DATABASE, źródło: https://incidentdatabase.ai/cite/39/

3) Bobby Allyn, „Deepfake video of Zelenskyy could be 'tip of the iceberg' in info war, experts warn”, NPR, źródło: https://www.npr.org/2022/03/16/1087062648/deepfake-video-zelenskyy-experts-war-manipulation-ukraine-russia, 16.03.2022 r.

4) Rachel Baig, „The deepfakes in the disinformation war”, DW, źródło: https://www.dw.com/en/fact-check-the-deepfakes-in-the-disinformation-war-between-russia-and-ukraine/a-61166433, 18.03.2022 r.

5) Turkish Minute, „Erdoğan plays deepfake video at election rally to show oppositionlinked to terrorist group”, źródło: https://www.turkishminute.com/2023/05/08/erdogan-play-deepfake-video-at-election-rally-to-show-opposition-linked-to-terrorist-group/, 08.05.2023 r.

Autor: Michał Szpot