Komentár 44. týždeň: Umelá inteligencia vyvinula šifru, nikto nevie ako funguje

Tento týždeň komentujeme udalosť týždňa – experiment v ktorom Google prinútil umelú inteligenciu vyvinúť metódu šifrovania, ktorá odolala odpočúvaniu.

Stroje si už dokážu vyvinúť vlastný jazyk

V pondelok 24.10.2016 Martin Abadi a David Andersen z výskumného projektu Google Brain zverejnilli výsledky unikátneho experimentu. Autori testovali schopnosti neurónových sietí odovzdávať si tajné informácie.

Pracovníci Googlu zisťovali, či sa dve neurónové siete môžu naučiť:

a) odovzdávať si tajnú informáciu v zašifrovanom tvare a súčasne,

b) skomplikovať dekódovanie tajnej správy treťou neurónovou sieťou.

Výsledky experimentu ukázali, že:

a) neurónové siete sú schopné samostatne vyvinúť vlastnú šifrovaciu metódu a použiť ju vo vzájomnej komunikácii,

b) menej úspešné sú v dekodóvaní tejto informácie.

O čom tento experiment v skutočnosti je?

Princíp experimentu bol v celku jednoduchý. Autori zobrali tri neurónové siete typu GAN (angl. Generative Adversarial Networks, voľný preklad – generatívne konfrontačné siete). Siete pomenovali ako je zvykom v kryptografických modeloch: Alica, Bob a Eva a každej sieti naprogramovali iný cieľ:

ai-cypto-experiment
ZDROJ | Google Brain
  1. Alica mala poslať Bobovi textovú správu (P) v zašifrovanom tvare (C).
  2. Bob mal zašifrovanú správu (C) správne dekódovať (PBob).
  3. Alica i Bob mali k dispozícii rovnaký šifrovací kľúč (K) ako v prípade symetrického šifrovania.
  4. Eva mala za úlohu tiež zašifrovanú správu (C) dekódovať (PEve), nepoznala však šifrovací kľúč.

Hoci autori experimentu dali Alici i Bobovi k dispozícii symetrický šifrovací kľúč (K), nijak neovplyvňovali ako ich umelé neurónové siete využijú. Metóda šifrovania bola teda autenticky vymyslená umelou neurónovou sieťou „Alica“.

bob-eve-google-errors
ZDROJ | Google Brain

Prvých, zhruba, 7 000 pokusov Alica nebola príliš úspešná. Ani Bob, ale ani Eva nedokázali správne dešifrovať jej tajnú správu.

Potom sa však začala rapídne zlepšovať a postupne vyvinula šifrovací algoritmus, ktorý Bob dokázal úspešnejšie dešifrovať, ako Eva.

Nakoniec Alica dokázala generovať také šifrovanie, ktoré Bob dešifroval len s minimálnym množstvom chýb a naopak, Eva zostala úplne neúspešná.

Zaujímavé je, že vedci ani poriadne nevedia aký druh šifrovania Alica vlastne použila. Je pravdepodobné, že ide o oveľa jednoduchšiu formu šifrovania ako v súčasnosti používame my.

Dôsledky tohto experimentu sú však závažné.

V prvom rade sa ukázalo, že Generatívne umelé neurónové siete sú zrelé pre generovanie komplexných výstupov. Aby bolo jasnejšie čo mám na mysli, musím najprv vysvetliť – čo sú Generatívne neurónové siete.

Všetky algoritmy umelých neurónových sietí sa delia na dve hlavné skupiny:

  1. Generatívne neurónové siete a
  2. Diskriminatívne neurónové siete.

Generatívne neurónové siete generujú pre zadané vstupy (X) najpravdepodobnejšie výstupné hodnoty (Y) na základe pravdepodobnosti, ktorú sa naučili zo vzorových vstupov a výstupov (x,y).

Diskriminatívne neurónové siete vyhľadávajú vo vzorových vstupoch a výstupoch (x,y) takú dvojicu, pre ktorú sa vzorové vstupy (x) najviac podobajú zadaným vstupom (X). Nájdené (y) sa potom prehlási za výstup (Y).

Z pohľadu výstupov sú Generatívne neurónové siete stochastické (na rovnaké vstupy generujú podobné výstupy), Diskriminatívne neurónové siete sú deterministické (na rovnaké vstupy generujú rovnaké výstupy).

Hoci by sa zdalo, že Generatívne neurónové siete lepšie popisujú realitu, v klasifikačných úlohách sú Diskriminatívne siete zatiaľ stále neporaziteľné.

I z tohto dôvodu sa Generatívnym neurónovým sieťam nevenovala v minulosti zvlášť veľká pozornosť. Až v poslednom čase, s rozvojom hardvéru, sa mohla ukázať ich skutočná sila.

Čo všetko dokážu a ako sa v priebehu roka zdokonalili prezentuje nasledovný obrázok z dieľne Google – Geometric Intelligence.

ai_generates_pictures_of_noun_progress
ZDROJ | Google

Vľavo i v pravo sú uvedené obrázky, ktoré umelá neurónová sieť vygenerovala na výstupe, keď jej vedci zadali na vstup určité pomenovanie objektu, napríklad: Mravec, Hviezdica, Padák, Skrutka v roku 2015 a Cheesburger, Plavky, Tenisky, Džbán na vodu v roku 2016. Ten pokrok je ohromujúci.

Ďalší príklad vizuálnych asociácií prezentuje nasledovný obrázok:

ai_generates_pictures_of_noun
ZDROJ | Google

Možno to znie divne, ale v ľudskej reči sú to vlastne sny umelej inteligencie.

A niekedy sú to poriadne strašidelné sny. Vedci z MIT vyvinuli systém „Nightmare Machine“, ktorý sa snaží vytvoriť strašidelné snímky zo svetoznámych lokalít.

colosseumhaunted_nightmaremachine
ZDROJ | MIT/NightmareMachine
chramvasilamoskva_nightmare
ZDROJ | MIT/NightmareMachine

Ale Generatívne neurónové siete vynikajú aj v inej zaujímavej činnosti. Dokážu zrekonštruovať tvár človeka z obyčajnej vzorky DNA.

Profesor antropológie a genetiky na Štátnej Univezite v Penn (USA) Mark Shriver zostrojil program, ktorý umožňuje z DNA vymodelovať tvár človeka. Znamená neoceniteľný prínos najmä policajným vyšetrovateľom.

Ako sú jeho predikcie presné posúďte sami.

24faces_otherpeople-master1050
ZDROJ | Newyork Times

Viete si predstaviť, že týmto programom môžete zistiť tvár človeka, ktorý zanechal vlasy na obruse alebo zahodil žuvačku na chodník alebo nechal ohorok v popolníku?

Rovnako tak program dokáže zrekonštruovať tvár zomrelých príbuzných alebo ešte nenarodených detí.

V druhom rade sa otvárajú možnosti, aby si počítače vyvinuli super-bezpečné komunikačné protokoly samé. Aby si vyvinuli akési minimalistické analógie ľudských jazykov, slangov a nárečí.

Výhodou by bolo, že by si počítače rozumeli len s tými počítačmi, s ktorými by mali vyvinutý komunikačný protokol. Vďaka tomu by odpočúvanie prakticky prestalo byť možné.

Nielenže by daný protokol fungoval ako dôkaz identity, okrem toho by umožňoval ľahko vystopovať zdrojový počítač.

internet_threat

A v neposlednom rade, takýto spôsob komunikácie bude znamenať, že umelá inteligencia by fakticky ovládla komunikáciu na internete. Vrátane internetu vecí (IoT).

A ak sa tak stane, budeme už navždy odkázaní na asistenciu počítačov pri komunikácii. Nikdy nebudeme schopní analyzovať a pochopiť také obrovské množstvo komunikačných protokolov.

A to má ešte umelá inteligencia v zálohe svoj najväčší tromf.

Vzájomné učenie.

Ako sa s ňou dá držať krok?

human-brain-5
ZDROJ | New Mind Journal

ZdrojNew Scientist,Orion Pictures


Komentáre k článku