Google bojuje proti deepfake sprístupnením tisícok falošných videí

ZDROJ | Logitech

Vyrobiť deepfake video je v súčastnosti oveľa jednoduchšie ako bolo donedávna možné. Svedčí o tom množstvo videí na YouTube, ktorých jediným cieľom je pobaviť divákov. Vo virtuálnom svete kolujú ďalšie tisícky videí, o ktorých bežní ľudia netušia, že sú falošné.

Tak ako bolo kedysi ľahké sfalšovať fotku a pridať krátky popis (napr. „Tisícky migrantov dobíjajú Prahu!, zdieľaj kým nezmažú“), dnes sa robí s videom a oveľa sofistikovanejšie.

Google uvoľnil databázu s 3 000 videami, ktoré vznikli vďaka technológii hĺbkového učenia. Práve vďaka tejto technológii je možné vytvárať modely, ktoré sú schopné syntetizovať hyperrealistické obrazy, reč, hudbu a najnovšie aj video. Hovorí sa, že všetko zlé je na niečo dobré, ale platí to aj opačne.

Pozrite si6 deepfake videí, ktoré vám ukážu silu trendu výmieňania tvárí

Deep learning sa začal využívať v množstve aplikácií, ktoré zlepšovali kvalitu života (zdravotníctvo, školstvo). Potom ho objavilo porno a napokon ľudia, ktorým vyhovuje šíriť klamstvá, propagandu, nedôveru a rozosievať nenávisť. Spojením pojmu deep learning a falzifikát (fake) vzniklo nové označenie deepfake.

Deepfake môže spôsobiť vážne problémy. Google už minulý rok uverejnil Zásady AI, kde sa zaväzuje vyvíjať osvedčené postupy umelej inteligencie na zabránenia jej zneužitia. V januári uvoľnil súbory údajov syntetickej reči  slúžiace na vývoj výkonných detektorov falošných zvukov. Súbor údajov si stiahlo viac ako 150 výskumných a priemyselných organizácií, teraz je voľne k dispozícii verejnosti.

Herci boli snímaní v rôznych scénach, niektorých vidíte v hornej časti. Deepfake je dolu, niekedy ide o jemnú, inokedy výraznú zmenu.

V utorok v spolupráci so spoločnosťou Jigsaw uvoľnil Google obrovskú databázu, ktorú vytvoril v spolupráci s platenými hercami pri nahrávaní stoviek videí. Následne z nich pomocou verejne dostupných metód generovania vytvoril tisíce deepfake.

Výsledné videá, skutočné a falošné, predstavujú náš príspevok, ktorý sme vytvorili s cieľom priamej podpory úsilia o detekciu deepfake.

Google AI Blog

Ako súčasť benchmarku FaceForensics je teraz tento súbor údajov k dispozícii bezplatne pre výskumnú komunitu na použitie pri vývoji metód identifikovania falošného videa.

Pozrite siJe Mark Zuckerberg obeťou deepfake, reklamou alebo umeleckým dielom?

Na vytvorenie videí boli náhodne vybrané páry hercov. Hĺbkové neurónové siete zamenili tváre jedného herca s druhým.

Google začal bojovať proti týmto praktikám, ktoré môžu dezinformáciami zmeniť aj výsledky volieb, alebo zasiať medzi ľuďmi rasovú neznášanlivosť a nedôveru v systém. Zaujímavé však je, že sa o zvrátenie tohto nebezpečného trendu neusilujú v prvom rade poslanci a politici. Skeptik by si tak mohol v slabej chvíli pomyslieť, že im technológia deepfake pripadá ako zaujímavý nástroj na boj s oponentmi.

ZdrojGoogle

Komentáre k článku