Čo je to Deepfake a prečo je nebezpečené?

ZDROJ | Samsung

Digitálna doba je výsledok dlhoročnej práce vizionárov. Kto sa však pohybuje na internete vie, že nie je všetko čo tam číta a vidí naozaj pravda. Deepfake je najnovším dôkazom, už ani videám, ktoré tam uvidíme, nemôžeme slepo dôverovať.

Deepfake je nový pojem, ktorý sme pred pár rokmi nepoznali. Označenie vzniklo spojením deep learning a fake. Takto sa označuje technológia, ktorá vďaka výraznej pomoci umelej inteligencie dokáže vložiť do existujúceho videa napríklad tvár človeka.

Pozrite siFacebook zakazuje uverejnovať na sociálnej sieti deepfake videá

Vďaka pokroku výpočtovej techniky je dnes ľahko možné vložiť nikdy nevyrieknuté slová do úst významných osobností či politikov a navodiť zdanie reality. Z nepohodlného politika sa tak môže za okamih stať pedofil, rasista či antivaxer. Čo na prvý pohľad pôsobí úsmevne, môže mať obrovské následky, či už trestnoprávne, alebo politické – keď následkom systematickej práce cudzích štátov hrozí zvrátenie výsledov volieb.

Doteraz bola tvorba deepfake pomerne náročná, dlhá a výsledok neistý. Aplikácia Reface, o ktorej písal kolega Stano, však ukazuje, že sa to zvládne urobiť doslova za pár sekúnd. Vytvorenie falošného videa dokáže aj technický antitalent a môže ním zabávať svoje okolie.

V prípade tejto appky však môže používateľ riskovať zneužitie fotografií a videí, pretože ich odosiela na cudzie servery, kde nemá istotu, že ich niekto nezneužije. Nemusíme pripomínať, že tvár slúži aj ako biometrický údaj, ktorým si zabezpečujeme svoje mobily, dokonca nimi dokážeme odomknúť našu bankovú aplikáciu.

Pozrite siDeepfake video do niekoľkých sekúnd? Aplikácia Reface valcuje internet

Občas pripadá, že sa z webu stáva džungľa, horšia od skutočného sveta, kde sa človek bojí vyjsť až po zotmení. Proti deepfake s digitálnou výmenou tvárí sa už rázne postavili popredné technologické spoločnosti (Apple, Google, Facebook, Microsoft), čo je určite správne. Adobe, New York Times Company a Twitter sa spojili, aby mohli úspešne bojovať proti digitálnym podvodom. Vážnosť situácie si uvedomujú aj ďalšie spoločnosti.

Vedeli ste, že…

deepfake videá sa pôvodne rozmohli v porno priemysle? Nie nadarmo sa hovorí, že práve toto odvetvie pre dospelých je jedným z technologicky najvyspelejších.

Pozrite si6 deepfake videí, ktoré vám ukážu silu trendu výmieňania tvárí

Google už minulý rok uvoľnil databázu s 3 000 videami, ktoré vznikli pomocou technológie hĺbkového učenia. Vďaka nej je možné vytvárať modely, ktoré sú schopné syntetizovať hyperrealistické obrazy, reč, hudbu ale i video.

Aj v tomto prípade je najlepším riešením ako nesadnúť na lep podvodníkom, používať vlastnú hlavu a zvlášť sa v prípade šírenia bombastických výrokov zamyslieť, či majú vôbec reálny základ.

Komentáre k článku