Google DeepMind testuje egoizmus umelej inteligencie

Digitálna éra a Priemysel 4.0 prináša mnoho prekvapení a nejedno úskalie, s ktorým sa budeme musieť vyrovnávať. Zatiaľ sa s niektorými musia vysporiadať len vývojári. Zavádzanie umelej inteligencie (UI) je rozhodne jednou z takýchto oblastí.

Pozrite siDigitálny matrix – 4. priemyselná revolúcia

Vyvoláva vo vás UI obavy? Nový výskum v laboratóriách Google DeepMind ich môže, ale nemusí zmierniť.

Výskumníci v DeepMind pracujú s dvoma jednoduchými hrami, aby vyskúšali, či neurónové siete budú mať väčšiu tendenciu súťažiť alebo spolupracovať, aby dosiahli optimálny výsledok v prospech celku (napríklad ľudstva). Dúfajú, že tento výskum by mohol viesť UI k lepšej spolupráci s ostatnými agentmi UI v situáciách, ktoré obsahujú nedokonalé informácie.

Pozrite siGoogle vyvíja „zabijáka“ umelej inteligencie

V prvej hre nazvanej Gathering majú dvaja agenti (modrý a červený čtvorček) zbierať jablká (zelený štvorček). Môžu však navzájom tiež strieľať pomocou laserov a tak ochromiť súpera.

Vedci zistili, že červení, aj a modrí boli ochotní zbierať len jablká, keď ich bolo hojne. Ale keď sa stali vzácnejšími, súboje sa odohrávali častejšie. Podobne sa k prírodným zdrojom staviame aj my, ľudia. Okrem toho vedci zistili, že agenti začali používať zbrane skôr, ak boli vybavení vyššou umelou inteligenciou, akoby si dokázali vyrátať výhodnosť takejto stratégie pre budúcnosť.

Druhá hra Wolfpack mala motivačné pravidlá nastavené na spoluprácu. V simulácii dvaja roboti naháňajú tretieho. Ak sa im to podarí spoločne, získajú viac bodov, ako keď „vlka“ chytí samostatný agent.

Kým roboti nemali dostatočný výkon, konali skôr individuálne, keďže spolupráca bola príliš náročná. Po navýšení výkonu však začali spolupracovať vo zvýšenej miere, aby tak maximalizovali bodové zisky.

Pozrite siElon Musk: roboty a počítače urobia všetku prácu, univerzálny príjem bude nutný

Experimenty ukázali, že v otvorenom systéme, kde prvky na seba navzájom reagujú, sú výsledky úzko viazané na nastavenie pravidiel spolupráce. Kým v prvom scenári (Gathering) vyššia inteligencia viedla k vyššej agresivite, v hre Wolfpack inteligencia naopak viedla k užšej spolupráci.

ZDROJ | DeepMind

Nevhodné nastavenie systémov umelej inteligencie sa tak aj v budúcnosti môže prejaviť v nevýhodnom chovaní z pohľadu celku, čo môže byť fakticky celé ľudstvo.

DeepMind zatiaľ robí experimenty pomocou jednoduchých scenárov v primitívnych hrách. Podstatne zložitejšie nastavenie pravidiel budú vyžadovať komplikovanejšie scenáre, kde sa motivácia súperov nebude dať definovať jednoduchým spôsobom.

ZdrojDeepMind Blog

Komentáre k článku