Na początku lat 90. naukowcy z instytucji akademickich opracowali technologię Deepfake, która została następnie udoskonalona przez programistów w społecznościach internetowych.
Ostatnio podróbki Deepfake cieszą się dużym zainteresowaniem ze względu na ich wykorzystanie w oszustwach finansowych, mistyfikacjach i fałszywych wiadomościach. Zmusiło to rząd i przemysł do zidentyfikowania i ograniczenia ich nielegalnego wykorzystania. Jednak technologia ta ma ogromny potencjał, jeśli zostanie właściwie wykorzystana.
Deepfaki to zmanipulowane treści wizualne generowane przez zaawansowaną sztuczną inteligencję, która tworzy sfabrykowane obrazy i dźwięki, które wydają się prawdziwe. W większości przypadków osoba na istniejącym filmie lub obrazie zostaje zastąpiona podobizną kogoś innego. Deepfaki są budowane przy użyciu modeli głębokiego uczenia, podklasy metod uczenia maszynowego opartych na sztucznych sieciach neuronowych z uczeniem reprezentacyjnym. Część generatywna algorytmu, ucząc się na podstawie istniejących zdjęć, tworzy nowy obraz.
Deepfaki mają niemal nieograniczone możliwości: można ich użyć, aby „zmusić” każdego do powiedzenia i zrobienia czegokolwiek. W 2018 roku reżyser Jordan Peele nakręcił film, w którym Barack Obama mówi o niebezpieczeństwach deepfake’ów i fałszywych wiadomości w ogóle. W rzeczywistości sam Obama nie był prawdziwy, a film został stworzony, aby ostrzec użytkowników przed niebezpieczeństwami deepfake’ów i zachęcić ich, by nie wierzyli we wszystko, co widzą.
Ponadto deepfaki mogą „pomóc” w rozwoju oszustw w sieci. W 2019 roku dyrektor generalny brytyjskiej firmy energetycznej zapłacił oszustom 220 000 euro, ponieważ sądził, że poprosił o to jego szef, którego głos został wygenerowany przez cyberprzestępców.
Deepfaki same w sobie nie są złe i niebezpieczne. Na szczęście są też przykłady i przypadki dobrego wykorzystania tej technologii. Na przykład Microsoft ma aplikację Seeing.AI dla osób niewidomych i niedowidzących – zsyntetyzowany głos komentuje wszystko, co dzieje się wokół osoby niedowidzącej, pomagając jej poruszać się po świecie.
Deepfaki można wykorzystać również w edukacji. WPP to brytyjski międzynarodowy holding w dziedzinie komunikacji, reklamy, public relations, technologii i handlu. Podczas pandemii COVID-19 firma potrzebowała korporacyjnego programu szkoleniowego. WPP zwróciło się do Synthesia, firmy zajmującej się sztuczną inteligencją, która stworzyła dla nich program szkoleniowy, w którym awatary deepfake pełnią rolę wykładowców.
Technologia deepfake z powodzeniem wykorzystywana jest także w marketingu i reklamie. Marka kosmetyków Clarins oferuje możliwość przetestowania makijażu bez wychodzenia z domu. Wystarczy wejść na stronę produktu w sklepie internetowym i kliknąć przycisk „Makeup Online”. Możesz przesłać zdjęcie z galerii telefonu lub zrobić nowe i sprawdzać produkty do twarzy, oczu i ust. Podobne inicjatywy mają Maybelline New York, NYX, Armani, Mary Kay, L’Oreal Paris.
W związku z zagrożeniami, jakie niesie technologia deepfake, stworzone zostały specjalne programy i granty dla tych, którzy stworzą najlepszy detektor deepfake. Badaniem tego niebezpiecznego zjawiska zajmuje się także Facebook. Ponad 2000 specjalistów wzięło udział w stworzonym przez firmę konkursie Deepfake Detection Challenge. Dzięki temu AI Facebooka wyposażone jest w nowe metody rozpoznawania fałszywych obrazów i filmów.
Zdj. główne: Markus Spiske/unsplash.com
