Deepfake to hiperrealistyczna cyfrowa podmiana twarzy i głosu w taki sposób, że bardzo trudno rozszyfrować montaż. Do przygotowania deepfake'u używa się zaawansowanej technologii wykorzystującej cechy fizyczne, fizjologicznie i behawioralne do stworzenia szczegółowej mapy rysów twarzy oraz sztuczną inteligencję, która jest w stanie zmienić czyjąś twarz w oblicze kogoś zupełnie innego. Cechą charakterystyczną takich klipów jest to, że mają one potencjał viralowy (wirusowy), czyli są nieprzewidywalnie oraz bez kontroli rozpowszechniane w internecie. Jeśli taka sfabrykowana treść padnie na podatny grunt, to w ciągu kilku minut może dotrzeć do setek tysięcy osób, zarażając dezinformacją kolejną nieświadomą kłamstwa osobę.
Internetowi sygnaliści już jakiś czas temu przewidzieli, że tego typu technologia może być wykorzystywana w polityce. Skutki zainfekowania jednostki deepfakiem zostały potwierdzone przez naukowców z uniwersytetu w Loughborough. Wykazali oni, że deepfake może aktywnie zmieniać nasze emocje, postawy, a nawet zachowania. Nawet jeśli nie damy się oszukać, to polityczny deepfake może zasiać w nas niepewność i obniży nasze zaufanie do wiadomości płynących z mediów społecznościowych.
Naukowcy z uniwersytetu w Loughborough wykazali, że dezinformacja prowadzi do obniżenia kompetencji demokratycznych obywateli, co jest rozumiane jako bezrefleksyjne szerzenie treści dezinformacyjnych. Autorzy dowiedli tego, przeprowadzając badanie podczas brytyjskiej kampanii wyborczej 2017 r. Okazało się, że prawie 70 proc. badanych użytkowników Twittera zadeklarowało bezrefleksyjne udostępnianie fake'ów. Solidnie wykonany fake, wypuszczony w świat przez przedstawicieli wrogich sobie stron albo orędowników światowych mocarstw, może nieźle namieszać w życiu społecznym i politycznym obywateli.
Dezinformacja nie jest jednak niczym nowym. Pod koniec ubiegłego wieku na rynek wszedł innowacyjny program komputerowy do tworzenia i obróbki grafiki Adobe Photoshop. Oprogramowanie pozwalało przerabiać dowolne zdjęcia w sposób uniemożliwiający odróżnienie oryginału od zmanipulowanej kopii. Dzisiaj, w erze mediów cyfrowych, fotomontaż ewoluował w stronę przerobionego, dynamicznego nagrania.
Ludzie są przekonani, że potrafią skutecznie wykryć deepfake, ale badania pokazują coś odwrotnego. Badacze z Instytutu Maksa Plancka oraz uniwersytetu w Amsterdamie wykazali, że poprzez huraoptymistyczną wiarę w umiejętność rozpoznawania deepfake'ów w połowie przypadków ulegamy dezinformacji. Ludzkie umiejętności rozpoznawania deepfake'ów są zatem statystycznie tak dobre jak zgadywanka. Przekonanie, że jesteśmy odporni na deepfake, jest tylko złudzeniem.
Rozróżnienie między oryginalnym a zmanipulowanym klipem potrafi być wyzwaniem nawet dla komputerów wyposażonych w specjalistyczne oprogramowanie. Jest to szczególnie trudne, gdy spreparowane klipy są krótkie i mają niską rozdzielczość (co sprawia, że trudniej jest wychwycić szczegóły). Jeżeli zatem specjalistyczny program może się mylić, to my tym bardziej. Zwłaszcza wtedy, gdy oglądamy filmik w internecie i nie skupiamy się w takim stopniu jak skrypt komputerowy.
16 marca tego roku prezydent Wołodymir Zełenski na antenie najprawdopodobniej zhakowanej telewizji Ukraine24 wezwał swoich rodaków do porzucenia broni w obliczu rosyjskich najeźdźców. Klip błyskawicznie, viralowo upowszechnił się rękami użytkowników mediów społecznościowych: YouTube'a, Facebooka, Twittera.
Nadrzędnym celem użycia deepfake'a była próba rozsiania fałszywej informacji. Na szczęście próba zachęcenia ludzi do upowszechniania niczym wirus tego nagrania spaliła na panewce. Wbrew oczekiwaniom autorów odbiorcy z rezerwą podeszli do tej próby dezinformacji.
Według naukowców z Applied Face Cognition Lab działającym przy Massachusetts Institute of Technology Media Lab najlepsze efekty deepfake'a można uzyskać, jeśli dubler w swojej posturze jest podobny do osoby, którą ma odegrać. Mistyfikator wcielający się w prezydenta wyraźnie różni się wyglądem od Wołodymira Zełeńskiego.
Dla produkcji deepfake'a nie ma znaczenia, jaki wyraz twarzy widnieje na nagraniach i zdjęciach ani gdzie nagrania i zdjęcia były robione. Liczy się tylko to, żeby było ich od groma. Ostatecznym celem takiej podmiany jest uchwycenie manieryzmów, czyli unikatowego sposobu, w jaki osoba mówi, uśmiecha się czy przeżywa i eksponuje różne emocje. Zdobycie takiej bazy w przypadku prezydenta Załenskiego było zadaniem dziecinnie łatwym. Od czasu agresji Rosji na Ukrainę twarz prezydenta codziennie pojawia się w mediach. Był w nich też często obecny od lat. Zełeński, zanim został prezydentem, był aktorem, komikiem i prezenterem telewizyjnym, zatem feeria jego ekspresji mimicznych i manieryzmów była na wyciągnięcie ręki.
Jak zauważa Mateusz Chrobok, twarz, mimika, gesty, ton głosu Zełeńskiego były dobrze znane Ukraińcom. Przemówienia prezydenta codziennie oglądają miliony Ukraińców oraz dziesiątki milionów ludzi na całym świecie. Każda osoba narażona na zainfekowanie deepfakiem mogła zatem od razu rozszyfrować, że w nagraniu coś nie gra. Dezinformacyjna akcja zakończyła się zatem fiaskiem.
Technicznie źle wykonany fake nie przeszedł do fazy deepfake'a również dlatego, że viralowa/wirusowa reakcja łańcuchowa zarażania kłamstwem kolejnych obywateli została zatrzymana wyprzedzającym atakiem, że nieprzyjaciel może przygotowywać deepfake'a, który pokaże rzekomo prezydenta Wołodymira Zełeńskiego ogłaszającego kapitulację.
Niedawno podobnej manipulacji uległ Rafał Trzaskowski, prezydent Warszawy, który - jak się później okazało - rozmawiał z fałszywym prezydentem Kijowa Witalijem Kliczko. Nagranie z tej rozmowy nie zostało jednak upublicznione. Nie można zatem ocenić, dlaczego ten deepfake okazał się sukcesem.
www.newswe(*)keow-jak-temu-zaradzic/mn02dxn
Z dedykacją dla Zeniu73 za całokształtwww.racjonalista.pl/forum.php/s,885016
Dlaczego miałbym wierzyć, że tego maila napisał romaro? Przecież to może być ktoś podstawiony, kto tylko podszył się pod ten nick.
