Żołnierze WOT zamieniają karabinki na łuki? Sprawdź sam

Sztuczna inteligencja (AI) to nie tylko ChatGPT, Gemini, Copilot, to także popularne narzędzia do manipulacji obrazem i dźwiękiem. Termin “deepfake”, którym określa się zjawisko oszukiwania za pomocą zmanipulowanych wzorców jest zbitką językową, złożoną z fraz: “deep learning – głębokie uczenie” oraz “fake – fałszywy, podrobiony, zmanipulowany”.

Początkowo tym terminem nazywano wyłącznie zmianę twarzy na materiałach video. Obecnie “deepfake” to zarówno technologia, która pozwala na kreowanie, przerabianie, podrabianie oraz odtwarzanie w przestrzeni informacyjnej obrazów i dźwięków, które nie istnieją w rzeczywistości, jak i zjawisko wykorzystywania takich “fałszywek” dla wprowadzanie ludzi w błąd. Przerobione zdjęcia, filmy, nagrania służą do oszukiwania i manipulacji ludzką percepcją. Określenie “fake” jednoznacznie wskazuje, że stworzona grafika jest kłamstwem i ma na celu oszukanie odbiorcy, a także wprowadzenie go w błąd. Fałszywe treście w sieci w rękach niewłaściwych osób mogą wpływać na zbiorowe zachowania całych grup społecznych i indywidualnych odbiorców, narażając ich na straty moralne i nierzadko materialne.

Narzędzia do tworzenia deepfake’ów są obecnie powszechnie dostępne w internecie, łatwe w wykorzystaniu, nie wymagają specjalistycznej wiedzy, a do osiągniecia zamierzonych efektów wystarczy podstawowa wiedza w zakresie korzystania z komputera. W kilka minut, bardzo niskim kosztem można stworzyć fałszywy materiał, np. zdjęcie lub film i udostępnić na platformach społecznościowych oraz serwisach video. Ludzie ufają obrazom i dźwiękom bo to są naturalne sposoby komunikacji wykształcone w drodze ewolucji. Jeśli do otrzymywanego komunikatu wizualnego lub werbalnego dodamy psychologiczne zasady wywierania wpływu, czyli np. regułę  autorytetu, sympatii, niedostępności, to skuteczność manipulacji za pomocą deepfake’ów znacząco wzrasta. I właśnie połączenie naturalnej ludzkiej podatności oraz dostępności narzędzi skutkuje lawiną fałszywych obrazów i dźwięków w internecie.

Manipulacje tożsamością

Najbardziej popularna metoda oszukiwania z użyciem “deepfake” wykorzystuje techniki podmiany twarzy, klonowania głosu, dopasowania ruchu warg i mimiki. Następuje nałożenie na twarz aktora obrazu osoby publicznej i podłożenie jej głosu. Takie fałszerstwo ma jeden cel: zmusić manipulowaną osobę do wykonania określonej czynności, podjęcia lub zaniechania działań dzięki temu, że ofiara ufa przekazywanym jej treściom. W polskiej przestrzeni informacyjnej w sposób ciągły udostępniane są materiały, w których wykorzystuje się wizerunek np. Prezydenta, Premiera, celebrytów, lekarzy oraz wojskowych. Dzieje się tak, żeby podnieść wiarygodność przekazu i włożyć go w “usta” osoby, którą znamy lub darzymy szacunkiem i zaufaniem.

Manipulacje treścią przekazu

Osoby “występujące”, lub raczej należałoby powiedzieć: “wykorzystane wizerunki” promują korzystne, ekskluzywne oraz ograniczone czasowo projekty finansowe, namawiają na różnego rodzaju inwestycje, rejestrację na platformach, przekazanie środków, danych logowania
do systemów etc. Deepfake, jak każdy inny sposób manipulacji ma wywołać u ofiary emocje takie, jak strach, złość, gniew, agresję, ale też chciwość, chęć wsparcia lub niesienia pomocy. Właśnie w sytuacji gdy jesteśmy w stanie “emocjonalnej huśtawki” stajemy się mniej czujni, a tym samym bardziej podatni na manipulację. To właśnie w połączeniu z coraz lepszą jakością techniczną tworzonych deepfake’ów powoduje, że coraz trudniej w sposób jednoznaczny i na pierwszy rzut oka ocenić czy dana wypowiedź / nagranie / zdjęcie jest prawdziwe.

Przykłady deepfake:

Tom Cruise - nigdy nie był na TikToku

W 2021 roku na platformie TikTok pojawiło się konto @deeptomcruise. Opublikowano na nim filmy przedstawiające znanego aktora. W bardzo krótkim czasie materiał miał 11 milionów wyświetleń. Filmy były niezwykle przekonujące – charakterystyczny śmiech aktora oraz głos wydawały się identyczne z oryginałem. Okazało się, że były to deepfake zmontowane przez belgijskego artystę efektów wizualnych Chrisa Umé we współpracy z sobowtórem znanego aktora. Umé spędził dwa i pół miesiąca tworząc model SI na tysiącach zdjęć i filmów Toma Cruise’a.

Przykład ten pokazuje, że technologia deepfake tak się rozwninęła, że nie jesteśmy w stanie rozróżnić prawdziwego obrazu od fałszywego.  

Aresztowanie Donalda Trumpa, które nigdy się nie wydarzyło.

W 2023 roku na platformie Twitter (obecnie X) pojawił się wpis dotyczący aresztowania Donalda Trumpa. Zdjęcia wyglądały realistycznie, natomiast zostały całkowicie wygenerowane przez sztuczną inteligencję.  Problem w tym, że były całkowicie fałszywe i wygenerowane przez SI. Post został wyświetlony prawie 7 mln razy, a udostępniony ponad 6 tys. razy. Tego typu działania pokazują klasyczną dezinformację wizualną, która bardzo szybko rozprzestrzenia się w sieci bez weryfikacji faktów oraz źródeł.

Robert Lewandowski namawia do inwestowania  

Na platformie Facebook ukazało się fałszywe nagranie wykorzystujące wizerunek piłkarza, który namawia do inwestowania. W pierwszym momencie oglądając film można uznać, że to prawdziwa reklama, gdyż został wygenerowany jego głos za pomocą sztucznej inteligencji. Konto, na którym zamieszczono publikację zostało utworzone w 2024 roku i zawierało tylko, i wyłącznie ten post. Przykład ten pokazuje, że zawsze należy sprawdzać wiarygodność źródła.

Materiały deepfake są też elementem wojny hybrydowej. Służą one różnym grupom interesu oraz wrogim państwom do realizacji swoich celów geopolitycznych bez wypowiadania otwartego konfliktu zbrojnego. Obszary, w których wykorzystywane są deepfake:

Próba paraliżowania procesu decyzjnego:

Sfingowane kryzysy - generowanie fałszywych nagrań dowódców wojskowych np. w kwestii kapitulacji (próba z Prezydentem Zełeńskim w 2022 roku).

Incydenty dyplomatyczne - wykorzystywane sztucznej inteligencji w celu kreowania wizerunku zagranicznych liderów w obszarze przekazywania fałszywych informacji.

Sabotaż i destabilizacja infrastruktury

Wywołanie paniki - podrabianie komunikatów służb ratunkowych o rzekomych atakach na infrastrukturę krytyczną.

Pamiętaj!

Deepfake to nowoczesne narzędzie manipulacji, które wykorzystuje wiedzę o ludzkiej psychice, emocjach i naturalnej skłonności do ufania temu, co widzimy i słyszymy. Odpowiednio przygotowany materiał może wzbudzać zaufanie, wywoływać strach, złość lub niepokój, a w konsekwencji wpływać na nasze opinie i decyzje.

Dynamiczny rozwój sztucznej inteligencji oraz coraz łatwiejszy dostęp do opartych na niej narzędzi sprawiają, że tworzenie realistycznych, fałszywych obrazów, nagrań i wypowiedzi staje się coraz prostsze. Dlatego nie możemy bezkrytycznie wierzyć każdej treści, nawet jeśli na pierwszy rzut oka wydaje się autentyczna.

Najlepszą obroną przed manipulacją jest zachowanie spokoju i czujności. Zanim zareagujemy lub udostępnimy materiał, warto sprawdzić jego źródło, poszukać potwierdzenia w innych wiarygodnych kanałach i zastanowić się, czy treść nie została przygotowana po to, aby wywołać w nas silne emocje.

W rękach cyberprzestępców deepfake może służyć do oszustw, szantażu, niszczenia reputacji, szerzenia dezinformacji, manipulowania opinią publiczną oraz wywoływania niepokojów społecznych. Może również wpływać na bezpieczeństwo państwa i funkcjonowanie gospodarki.

Zachowajmy spokój, sprawdzajmy źródła i nie dajmy się zmanipulować.