Facebook vývíja nový nástroj proti deepfake technológií

ZDROJ | Youtube.com/NateHiggs

Deepfake videá a obrázky sa stávajú čoraz realistickejšie a uveriteľnejšie. Facebook proti tejto technológií vyvíja nový nástroj.

Označenie vzniklo spojením deep learning a fake. Takto sa označuje technológia, ktorá vďaka výraznej pomoci umelej inteligencie dokáže vložiť do existujúceho videa napríklad tvár človeka. Vďaka pokroku výpočtovej techniky je dnes ľahko možné vložiť nikdy nevyrieknuté slová do úst významných osobností či politikov a navodiť zdanie reality. Z nepohodlného politika sa tak môže za okamih stať pedofil, rasista či antivaxer.

Pozrite siČo je to Deepfake a prečo je nebezpečené?

V súčasnosti sa deepfake videá a obrázky využívajú väčšinou ako demonštrácia technológie. Je však len otázkou času, kedy ich začnú využívať rôzni štátni či neštátni aktéri na dosahovanie rôznych cieľov. Facebook v spolupráci s Michigan State University (MSU) predstavili metódu, ktorá dokáže odhaliť deepfake obrázky či videá na základe umelej inteligencie, ktorá dokáže odhaliť vrstvenie obrázkov, ktoré sa pri deepfake využíva.

Výhodou takéhoto postupu je odhalenie pôvodnej podoby obrázku. Každá úprava zanechá na obrázku určitý „digitálny odtlačok“. Práve táto nová metóda dokáže tieto odtlačky odhaliť.

Na otestovanie tejto metódy vedecký tím nahral dáta v podobe 100 000 falošných obrázkov ľudí generovaných z verejne dostupných modelov.

ZDROJ | Facebook

Pozrite siDeepfake video do niekoľkých sekúnd? Aplikácia Reface valcuje internet

Napriek tomu, že deepfake obsah zatiaľ nepredstavuje pre Facebook problém, do budúcna môžeme byť svedkami aj takéhoto obsahu. Pokiaľ sa technológiu podarí rozpracovať, Facebook dokáže odhaliť falošný obsah, ale aj používateľov, ktorí ho šíria. Taktiež platí, že takýto nástroj nájde uplatnenie aj na iných platformách a sociálnych sieťach. Ďalšou oblasťou, kde by takýto nástroj našiel uplatnenie, je internetová pornografia, kde je používanie deepfake nástrojov populárne.

Samotná technológia deepfake je v súčasnosti už tak dokonalá, že odhaliť je ju veľmi náročné a nástroje na 100-pecentné odhalenie zatiaľ neexistujú.

ZdrojThe Verge,Facebook

Komentáre k článku