Umelá inteligencia – verný sluha, či ničivý démon?

Je nemálo odborníkov, ktorí umelej inteligencii bezvýhradne dôverujú a vidia v nej novú zázračnú cestu k blahobytu ľudstva. Patrí k nim aj zakladateľ Facebooku Mark Zuckerberg, ktorý opatrný postoj Elona Muska, Billa Gatesa a ďalších autorít považuje za škodlivý.

ZDROJ | Wikimedia

„Som optimistický a myslím si, že šírenie takýchto scenárov je negatívne a miestami aj dosť nezodpovedné,“ odpovedal Mark Zuckerberg na Facebooku jednému zo svojich fanúšikov na otázku, ako vníma obavy Elona Muska v súvislosti s rizikami umelej inteligencie.

Obaja miliardári sa kvôli tomu dostali aj do sporu, pričom Musk sa o Zuckerbergovi nelichotivo vyjadril, že „má príliš obmedzené chápanie umelej inteligencie“.

Šéf Tesly, SpaceX a spoluzakladateľ neziskovej organizácie OpenAI, zameranej práve na výskum umelej inteligencie (UI), Elon Musk, si myslí, že v tomto prípade je proaktívna regulácia nevyhnutnosťou. Tvrdí, že ak bude regulácia reagovať až v čase, keď nám umelá inteligencia začne robiť starosti, bude už pravdepodobne neskoro.

Elon Musk nedávno na Twitteri upozornil na bezpečnostné riziká umelej inteligencie, ktoré označil za väčšiu hrozbu, ako Severná Kórea. (V súvislosti s aktuálnymi vyhrážkami KĽDR, že môže zaútočiť raketami na ostrov Guam.) Musk takto reagoval potom, čo jeho startup OpenAl porazil v turnaji s videohrami majstrov v hre „Dota 2“.

Pozrite siUmelá inteligencia porazila najlepších hráčov Dota 2

Pripustil, že regulácia je vždy nepopulárna, ale všetko, čo môže byť pre ľudí nebezpečné, je regulované. Platí to pre cestnú, železničnú, aj leteckú dopravu, lieky a ďalšie oblasti. Výnimkou by nemala byť ani umelá inteligencia. Ak necháme umelú inteligenciu podľa Muska neregulovanú, hrozí, že sa superpočítače zmenia zo sluhov na otrokárov a ľudia sa dostanú do pozície domácich zvierat.

Ako to teda bude? Vypustíme démona, ktorý nás ohrozí, alebo získame neoceniteľného pomocníka?

Jazykové okienko

Jazykové programy a prekladače sú jednou z oblastí, kde umelá inteligencia nachádza široké uplatnenie. Poznať to aj na zlepšujúcej sa kvalite populárneho Prekladača Google, ktorý prešiel od prekladov slova za slovom k prekladu celých viet a fráz. Pomáhajú mu neurónové siete a systémy hĺbkového učenia.

Pozrite siIntel Nervana – prvý procesor od Intelu zameraný na AI

A práve jazyk sa stal nedávno dôvodom pre isté znepokojenie v súvislosti s UI. Výskumníci siete Facebook prerušili program umelej inteligencie, keď zistili, že namiesto angličtiny, na ktorú bol nastavený, začal používať svoj vlastný jazyk. Systém kódových slov zrejme pripadá umelej inteligencii efektívnejší, ako ľudský jazyk.

ZDROJ | AndroidPIT

Podobné tendencie zaznamenali softvéroví inžinieri aj v iných spoločnostiach, vrátane OpenAI a Google. Internetový gigant zistil, že program jeho prekladača si „tajne“ vytvoril pomocný jazyk na prekladanie viet.

Samotný fakt, že si umelá inteligencia iniciatívne vyvíja vlastný jazyk, aby vedela pracovať efektívnejšie, by nebol problém. Nepríjemné však je, že takýto jazyk je pre človeka nezrozumiteľný a teda nedokážeme spoľahlivo odhaliť, čo umelá inteligencia rieši.

A umelá inteligencia, ktorú nemáme celkom pod kontrolou, môže predstavovať potenciálnu hrozbu.

Ako atómová bomba?

Nebezpečenstvo hroziace zo strany spontánneho konania umelej inteligencie je, samozrejme, reálne. Pritom je v podstate jedno, akú jej formu máme na mysli – vzburu robotov, alebo počítačový softvér, ktorý nebude brať ohľad na prospech, alebo bezpečnosť ľudí. Omnoho väčšou hrozbou je však zneužitie umelej inteligencie samotnými ľuďmi. Je to ako hra s ohňom, ktorý je dobrý sluha, ale zlý pán.

V roku 1899  podpísali svetové mocnosti v Haagu zmluvu, ktorá zakázala používanie lietadiel na vojenské účely. Dôvodom boli obavy (ako dnes vieme, oprávnené) z ničivých dopadov novej technológie dopravy. Už o päť rokov neskôr bolo toto moratórium zrušené a počas prvej svetovej vojny boli lietadlá nasadené na zabíjanie a ničenie pozemných cieľov.

Greg Allen z amerického think tanku Center for New American Security si myslí, že niektoré  technológie sú tak silné, až sú neodolateľné. A práve takéto čaro má pre armádny sektor umelá inteligencia.

V správe o vplyve UI na národnú bezpečnosť, ktorej je G. Allen spoluautorom,  sa uvádza, že vplyv technológií, akými sú napríklad bojové autonómne roboty, môže mať v medzinárodných vzťahoch podobnú váhu ako jadrové zbrane.

ZDROJ | Wikia

Robotickí pyrotechnici pomáhajú polícii a armáde už dnes, hoci sú ovládaní na diaľku.

Správa vypracovaná na žiadosť výskumnej agentúry IARPA hovorí, že drony s pohyblivosťou vtákov, robotickí hackeri, alebo softvér schopný generovať fotorealistické falošné videozáznamy môže výrazne posilniť a zvýhodniť americkú armádu a jej spojencov. Podobné nástroje však v hybridných vojnách, ktorých sme svedkami aj v súčasnosti, využívajú aj iné krajiny, než USA.  

Mnohé z týchto aplikácií pritom už existujú. Napríklad vedci z Washingtonskej univerzity vyvinuli softvér, ktorý hlasový záznam dokáže premeniť na pohyby pier konkrétnej osoby a tento obraz integruje do existujúceho videozáznamu.

Vznikne tak falošný „autentický“ videozáznam osoby, ktorá v skutočnosti hovorila čosi úplne iné. Zdá sa, že potom, čo sme si zvykli na možnú manipuláciu digitálnych obrázkov vo Photoshope a v podobných editoroch, nebudeme môcť dôverovať ani videu.

Pozrite siUmelá inteligencia zmení náš svet

Takáto manipulácia s videozáznamom je zatiaľ komplikovaná – vedci program demonštrovali na „vylepšení“ prejavu bývalého amerického prezidenta Obamu, pričom na dokonalé zmapovanie a napodobenie pohybov jeho pier potrebovali až 17 hodín obrazového materiálu. Ale zrýchlenie je „len“ otázkou zlepšených algoritmov a výpočtového výkonu. V budúcnosti sa asi môžeme tešiť na záplavu video hoaxov, ktorými vydesení, alebo nahnevaní ľudia zaplavia sociálne siete.

Za úvahu stojí riziko účinnej manipulácie verejnej mienky pomocou takýchto „fake“ správ a klipov, ktorá môže vychýliť volebné preferencie v prospech domácich záujmových skupín, ale aj cudzích mocností. Podozrenie z ruskej manipulácie amerických a francúzskych prezidentských volieb môže byť len začiatkom série podobných incidentov.

Od nových technológií, a umelá inteligencia je čosi ako „supertechnológia“, sa dá očakávať, že prinesú množstvo významných morálnych, politických a diplomatických výziev.

Vytváranie nového druhu vojenských systémov s využitím umelej inteligencie je jedna vec, a rozhodnúť, aké formy použitia týchto nových zbraní sú prijateľné, je ďalšia vec. V spomínanej správe pre IARPA sa odporúča, aby USA začali zvažovať, aby vojenské použitie UI bolo obmedzené prostredníctvom medzinárodných zmlúv.

Pozrite siUmelá inteligencia sa učí čítať myšlienky

Hra na Boha, alebo hra s ohňom

Kým boli počítače len bezduchými strojmi pracujúcimi na základe svojho operačného systému a aplikačných programov, nebol žiadny problém. Boli to síce šikovné zariadenia, ale stále len stroje. Zavedením umelej inteligencie sme však vykonali kvantový skok, v ktorom sme strojom vdýchli život.

S trochou fantázie môžeme povedať, že sme v pozícii Boha v knihe Genesis, keď stvoril ľudské bytosti a obdaril ich inteligenciou. Keďže zároveň dostali slobodnú vôľu, netrvalo dlho, kým prví biblickí ľudia porušili jedno zo základnych pravidiel – zákaz jesť jablká zo stromu poznania. Nasledovali reštrikcie zo strany Stvoriteľa, keď Adama a Evu vyhnal z raja, atď. Zvyšok príbehu zrejme poznáte.

ZDROJ | Wikimedia

Podobné riziko neželaného chovania nepochybne hrozí aj zo strany umelej inteligencie. Pokiaľ bude disponovať slobodnou vôľou, bude schopná porušiť nastavené pravidlá, ak dôjde k záveru, že z toho bude mať prospech.

Ako to môže dopadnúť, s istotou nevieme. Okrem katastrofických scenárov prichádzajú do úvahy aj menej hrozivé možnosti. Ak nás umelá inteligencia prekoná „rozdielom triedy“, možno ľudstvo prestane byť pre ňu zaujímavé.

Možno budeme príliš nepodstatní, aby stálo za to s nami bojovať a škodiť nám. Umelá inteligencia si môže nájsť nejaké „vznešené“ ciele, ktoré budú stáť za námahu a nás, ľudských mravcov, nechá na pokoji.

Mysliace vesmírne sondy

Isté je jedno – v niektorých oblastiach nás umelá inteligencia nahradí, ale bude to v náš prospech. Jedným z príkladov, ktoré sú hneď po ruke, budú autonómne autá.

Etické a morálne problémy s nimi budú spojené, nechajme teraz bokom. Situácie, kedy sa bude musieť inteligentný autopilot rozhodovať, či namiesto vrazenia do davu chodcov nemá radšej ohroziť vlastnú posádku, sú tvrdým orieškom.

Oblasť, v ktorej sa však bez umelej inteligencie nezaobídeme, je kozmonautika, konkrétne prieskum vzdialených končín vesmíru. Kozmonauti na ISS to dnes majú jednoduché. Keďže sa stanica pohybuje len pár stoviek kilometrov nad Zemou, všetky náročné výpočty sa vykonávajú v pozemnom riadiacom stredisku a na stanicu sa odosielajú len výsledky.

Prvý superpočítač začnú na ISS testovať len teraz, v súvislosti s prípravou pilotovaného letu na Mars. Kozmická loď bude pri tejto ceste príliš ďaleko, aby mohla zdieľať dáta zo Zeme s prijateľným oneskorením.

ZDROJ | NASA

Populárny marsovský rover Curiosity stále skúma červenú planétu.

Platí to aj pre robotické sondy na Marse a tým skôr vo vzdialenejších končinách slnečnej sústavy. Hoci aj marsovský rover Curiosity už disponuje určitými formami autonómneho rozhodovania, opatrní vedci mu väčšinu príkazov posielali z riadiaceho strediska. Pohyb a výskum na Marse to výrazne brzdí.

Curiosity nedávno dostala povolenie, aby mohla sama rozhodnúť, ktoré geologické útvary stoja za výskum pomocou laseru a spektroskopu ChemCam. Zaujímavý kúsok horniny robotická sonda najprv nastrelí laserom a následne spektroskop z uvoľnených plynov určí jej chemické zloženie.

Pozrite siUmelá inteligencia môže do roku 2025 pripraviť pilotov o prácu

Jet Propulsion Laboratory pri agentúre NASA navrhuje intenzívne rozvíjať autonómnu umelú inteligenciu, vďaka ktorej sondy získajú nielen bádateľské schopnosti, ale aj slobodnú vôľu. Samé sa na mieste budú rozhodovať, čo, kedy a ako skúmať.

Bez takýchto schopností by bol výskum mesiacov Saturna a Jupitera pomocou sond prakticky nemožný. Príčinou sú príliš dlhé časy šírenia rádiových signálov, ale aj miestne podmienky. Bez autonómnych robotických sond prakticky nedokážeme skúmať oceán na Jupiterovom mesiaci Europa, ktorý sa nachádza pod hrubým ľadovým pancierom. Vrstva ľadu spoľahlivo odtieni rádiové signály, takže spojenie so sondou by bolo nemožné.

Náš svet sa zmení

Virtuálna realita a umelá inteligencia nepochybne zmenia náš svet. A to nielen fyzický. Ak podľa filozofov je obraz našej reality len odrazom nášho myslenia (a zmyslové vnímanie takisto), aké svety dokáže stvoriť umelá inteligencia?

Prostredníctvom virtuálnej reality môžeme do týchto svetov vstúpiť a dokonca v nich žiť a možno byť aj šťastnejší. Niektorí vedci špekulujú, že existencia inteligentného vedomia vo fyzickom tele človeka, je len istým vývojovým štádiom. Tým ďalším a dokonalejším vraj môže byť digitálna obdoba nesmrteľnej duše, ktorá v podobe umelej inteligencie môže fungovať a rozvíjať sa večne.

Pozrite siElon Musk zakladá Neuralink. Chce tvoriť kyborgov?

Možno sú tieto názory trochu uletené, ale nemusí to byť nevyhnutne tak. Aj Elon Musk navrhuje vytvoriť symbiózu ľudského mozgu a umelej inteligencie pomocou čipových mozgových implantátov. Takéto „nalievanie“ vedomostí a schopností do biolologického mozgu by nám vraj pomohlo držať krok s umelou inteligenciou v počítačoch a v robotoch.

Takýto „duševný exoskeleton“ sa môže stať pomôckou, ktorá umelým spôsobom prinesie ľuďom zdokonalenie mnohých schopností. Samotná premena na kyborgov by bola dobrovoľná a analytici predpokladajú, že dokonca populárna a žiadaná, tak ako sú dnes vyhľadávané plastické operácie za účelom krajšieho vzhľadu. Kto by nechcel byť inteligentnejší a šťastnejší?

Uvidíme, čo prinesie vývoj. K rizikám umelej inteligencie by sme ale mali zrejme prirátať aj tieto bionické vylepšenia mozgu. Minimálne z etického hľadiska prinášajú mnoho otáznikov.

ZDROJ | GIZMODO

Komentáre k článku