Markus Spiske/unsplash.com
Bezpieczeństwo danych

Deepfake. Jak powstaje i co złego może zrobić?

Potrzebujesz ok. 3 min. aby przeczytać ten wpis

Na początku lat 90. naukowcy z instytucji akademickich opracowali technologię Deepfake, która została następnie udoskonalona przez programistów w społecznościach internetowych.

Ostatnio podróbki Deepfake cieszą się dużym zainteresowaniem ze względu na ich wykorzystanie w oszustwach finansowych, mistyfikacjach i fałszywych wiadomościach. Zmusiło to rząd i przemysł do zidentyfikowania i ograniczenia ich nielegalnego wykorzystania. Jednak technologia ta ma ogromny potencjał, jeśli zostanie właściwie wykorzystana.

Czym jest technologia Deepfake?

Deepfaki to zmanipulowane treści wizualne generowane przez zaawansowaną sztuczną inteligencję, która tworzy sfabrykowane obrazy i dźwięki, które wydają się prawdziwe. W większości przypadków osoba na istniejącym filmie lub obrazie zostaje zastąpiona podobizną kogoś innego. Deepfaki są budowane przy użyciu modeli głębokiego uczenia, podklasy metod uczenia maszynowego opartych na sztucznych sieciach neuronowych z uczeniem reprezentacyjnym. Część generatywna algorytmu, ucząc się na podstawie istniejących zdjęć, tworzy nowy obraz.

Niebezpieczeństwo technologii

Deepfaki mają niemal nieograniczone możliwości: można ich użyć, aby „zmusić” każdego do powiedzenia i zrobienia czegokolwiek. W 2018 roku reżyser Jordan Peele nakręcił film, w którym Barack Obama mówi o niebezpieczeństwach deepfake’ów i fałszywych wiadomości w ogóle. W rzeczywistości sam Obama nie był prawdziwy, a film został stworzony, aby ostrzec użytkowników przed niebezpieczeństwami deepfake’ów i zachęcić ich, by nie wierzyli we wszystko, co widzą.

Ponadto deepfaki mogą „pomóc” w rozwoju oszustw w sieci. W 2019 roku dyrektor generalny brytyjskiej firmy energetycznej zapłacił oszustom 220 000 euro, ponieważ sądził, że poprosił o to jego szef, którego głos został wygenerowany przez cyberprzestępców.

Nie tylko złe przypadki

Deepfaki same w sobie nie są złe i niebezpieczne. Na szczęście są też przykłady i przypadki dobrego wykorzystania tej technologii. Na przykład Microsoft ma aplikację Seeing.AI dla osób niewidomych i niedowidzących – zsyntetyzowany głos komentuje wszystko, co dzieje się wokół osoby niedowidzącej, pomagając jej poruszać się po świecie.

Deepfaki można wykorzystać również w edukacji. WPP to brytyjski międzynarodowy holding w dziedzinie komunikacji, reklamy, public relations, technologii i handlu. Podczas pandemii COVID-19 firma potrzebowała korporacyjnego programu szkoleniowego. WPP zwróciło się do Synthesia, firmy zajmującej się sztuczną inteligencją, która stworzyła dla nich program szkoleniowy, w którym awatary deepfake pełnią rolę wykładowców.

Technologia deepfake z powodzeniem wykorzystywana jest także w marketingu i reklamie. Marka kosmetyków Clarins oferuje możliwość przetestowania makijażu bez wychodzenia z domu. Wystarczy wejść na stronę produktu w sklepie internetowym i kliknąć przycisk „Makeup Online”. Możesz przesłać zdjęcie z galerii telefonu lub zrobić nowe i sprawdzać produkty do twarzy, oczu i ust. Podobne inicjatywy mają Maybelline New York, NYX, Armani, Mary Kay, L’Oreal Paris.

Detektory deepfake’ów

W związku z zagrożeniami, jakie niesie technologia deepfake, stworzone zostały specjalne programy i granty dla tych, którzy stworzą najlepszy detektor deepfake. Badaniem tego niebezpiecznego zjawiska zajmuje się także Facebook. Ponad 2000 specjalistów wzięło udział w stworzonym przez firmę konkursie Deepfake Detection Challenge. Dzięki temu AI Facebooka wyposażone jest w nowe metody rozpoznawania fałszywych obrazów i filmów.

Zdj. główne: Markus Spiske/unsplash.com

o autorze

Artykuły

Choć bliżej jej do natury niż technologii, to nie wyobraża sobie życia bez gadżetów i aplikacji, które ułatwiają codzienne życie. Szczególnie interesują ją komputery, nowinki w branży gamedev i robotyki. Z zawodu copywriterka i tłumaczka, dlatego na razie nie boi się, że zastąpią ją roboty.
Klaudia Kostyra

Dodaj komentarz

Twój adres email nie zostanie opublikowany. Pola, których wypełnienie jest wymagane, są oznaczone symbolem *