Deepfake zagrażają cywilizacji? Technologiczne niebezpieczeństwo z wykorzystaniem gwiazd. Iga Świątek, Omenaa Mensah, Magda Gessler i inni

Deepfake to technika, która wraz z rozwojem sztucznej inteligencji coraz częściej pojawia się w sieci. Polega na łączeniu obrazów twarzy ludzkich. Przy specjalnej technologii jesteśmy w stanie "ożywić" zdjęcia lub przerobić filmy, by wydarzenia na nich działy się tak, jak chcemy.

Gdy dołożymy do tego możliwość wygenerowania każdego głosu na świecie przy pomocy AI, mamy naprawdę niebezpiecznie narzędzie.

Osoby, które wykorzystują deepfake, mogą stworzyć ruchome obrazy, które będą przekazywać takie informacje, jakie tylko zapragną, albo przerobić m.in. filmy pornograficzne, by podłożyć w nich twarz znanych osobistości. Często już nagrania te wyglądają w taki sposób, że potrzebujemy dłuższej chwili, by wiedzieć, że nie jest to rzeczywiste wideo, a wytwór sztucznej inteligencji.

Jesteśmy na Google News. Dołącz do nas i śledź Portal i.pl codziennie. Obserwuj i.pl!

Nie każdy jednak ma świadomość istnienia takiego zjawiska. Takie osoby będą bardziej podatne na deepfake'i, co może skończyć się dla nich tragicznie.

Deepfake są wykorzystywane m.in. by wyłudzić nasze dane, okraść nas z pieniędzy, ale też mogą być niebezpiecznym narzędziem, które może wpłynąć na wynik wyborów. Oczywiście, często służą też do tworzenia memów i zabawnych filmów, jednak problem jest na tyle poważny, że nie można go bagatelizować.

Naukowa i Akademicka Sieć Komputerowa we wtorek zamieściła materiał, w którym przestrzega przed problemem. Przedstawiono przykład wykorzystana naszej najlepszej tenisistki Igi Świątek.

"Ostrzegamy przed nowymi oszustwami typu #deepfake, które ostatnio pojawiły się w sieci. Przed Wimbledonem oszuści spreparowali film z wizerunkiem polskiej tenisistki. Materiał służy na Facebooku do "reklamowania" strony z fałszywą inwestycją w projekt Baltic Pipe" - czytamy w poście na Facebooku.

Do wpisu zamieszczono materiał z YouTube, w którym możemy zobaczyć deepfake.

"Drodzy Polacy, nie pozwolę, aby wyższe władze okradały was, napychając sobie kieszenie pieniędzmi Polaków. Sejm robi wszystko, aby ukryć ten film, ale ja ujawniam wam tajemnicę, jak każdy Polak może zarobić ponad 25 tysięcy złotych miesięcznie bez wychodzenia z domu, dzięki projektowi gazociągu Baltic Pipe" - opowiada nam sfałszowana Iga Świątek.

Materiał, na szczęście, na pierwszy rzut oka wygląda już podejrzanie i jest niedopracowany, ale i tak może sprawić, że mniej zorientowane osoby nabiorą się na niego.

NASK pokazała również inne przykłady w swoim wideo. Ofiarami przeróbki deepfake zostały również m.in. restauratorka i celebrytka Magda Gessler, dziennikarka Monika Olejnik, podróżnik Wojciech Cejrowski, minister finansów Andrzej Domański czy premier Donald Tusk.

Również we wtorek Rafał Brzoska - polski miliarder i właściciel InPost - zamieścił emocjonalny wpis na swoich mediach społecznościowych.

"Przychodzi taki moment w życiu każdego z nas, że mówimy DOŚĆ. Mówimy tak z wielu powodów, ale jednym z nich jest powiedzenie DOŚĆ na łamanie prawa, naruszanie norm społecznych i czerpanie korzyści finansowych z oczywistych przestępstw" - napisał.

Jak wyjaśnił, chodzi o działania firmy META, która pozwala w swoich portalach na rozprzestrzenianie deepfake'ów. Rafał Brzoska sam padł ofiarą takich nagrań.

"W skrócie-dziś ze sponsorowanych (opłaconych) reklam na FB i Instagramie dowiedziałem się od Was, że uśmiercono mi żonę, że ja pobiłem swoją ukochaną Amma Omenaa Mensah, a na koniec Ją samą zaaresztowano" - wyjaśnił, nie pozostawiając dalej suchej nitki na Marku Zuckerbergu.

Sama Omenaa Mensah również odniosła się do tej sytuacji.

"Drodzy, informacje o mojej śmierci są mocno przesadzone! Jak widzicie, żyję i mam się świetnie. Przez lata mojej działalności wielokrotnie mierzyłam się z hejtem. Ludziom przeszkadzał najpierw mój kolor skóry i fakt, że pracuję w telewizji. Teraz być może boli sukces naszego wydarzenia charytatywnego Grand Charity Auction TOP CHARITY, jaki osiągnęliśmy wspólnie z Rafałem Brzoską i ludźmi biznesu z Polski oraz innych krajów, których wyróżnia ogromne serce i chęć pomagania. Jesteśmy nr 1 w Europie! Mam złą wiadomość dla wszystkich "dobrze mi życzących". Zamierzam żyć pełnią życia i nadal realizować moją misję pomagania! Proponuję zwrócić szczególną uwagę i zająć się fake newsami na nasz temat, ponieważ słupki reklamowe to nie wszystko! Treści, które pokazujecie, są niebezpieczne i wpływają na naszych bliskich. Dziękuję wszystkim za wsparcie! Razem jesteśmy silniejsi. PS. A odnosząc się do fake newsa, że mąż mnie pobił. To owszem, na polu golfowym, ale regularnie trenują i wkrótce będzie miał godnego siebie przeciwnika" - napisała na Facebooku.

Deepfake działają nie tylko w Polsce. W przeszłości ofiarami były m.in. Taylor Swift czy Jena Ortega. Teraz wykorzystano głos Morgana Freemana. W aplikacji TikTok pojawiło się wideo, w którym gwiazdor miał opowiadać o urodzinach swojej siostrzenicy.

Aktor zareagował jednak natychmiastowo, a następnie podziękował swoim fanom za wsparcie w walce z deepfake'ami.

"Dziękuję moim niesamowitym fanom za czujność i wsparcie w nagłaśnianiu nieuprawnionego użycia głosu AI, który mnie naśladuje. Dzięki Waszemu zaangażowaniu autentyczność i integralność pozostają najważniejsze. Wdzięczny" - napisał na X.