Neotvárajme Pandorinu skrinku! Experti chcú regulovať smrtiace roboty

Obavy z umelej inteligencie (UI) rastú súbežne s pokrokom, ako sa zdokonaľujú jej algoritmy a technické aplikácie. Aj preto experti čoraz častejšie varujú zákonodarcov a medzinárodné organizácie, že je potrebné umelú inteligenciu regulovať.

Terminátori realitou?

Šéf Tesly, SpaceX a The Boring Company Elon Musk sa však nehodlá nečinne prizerať, ako nás chaotický vývoj umelej inteligencie môže ohroziť. Už vlani venoval 11 miliónov amerických dolárov organizácii Future of Life Institute, cez ktorú sa rozdelia granty pre 37 vedeckých tímov zaoberajúcich sa rôznymi aspektmi umelej inteligencie.

Pozrite siElon Musk chce dostať umelú inteligenciu pod kontrolu

„S umelou inteligenciou vyvolávame démona“, varoval Elon Musk. Umelá inteligencia pritom nemusí mať fyzickú podobu robota, alebo iného stroja. Môže fungovať (a aj funguje) aj v informačných sieťach, kde môže vytvoriť obrovský superpočítač, schopný riadiť množstvo iných počítačov a inteligentných zariadení.

ZDROJ | Southeast Medical Imaging

V prípade autonómnych zbraní, inak povedané bojových robotov, sa však možnosť mení na poslanie. V tomto prípade má umelá inteligencia priamo za cieľ útočiť proti ľuďom.

V pokročilom štádiu na to dokonca nebude potrebovať ani asistenciu operátora a sama rozhodne o cieľoch a bojovej stratégii. Isaac Asimov by sa asi veľmi divil, ako končí jeho myšlienka zákonov robotiky. Alebo nekončí?

Oslovili OSN

„Ako spoločnosti, ktoré tvoria technológie v oblasti umelej inteligencie a robotiky, použiteľné na vývoj autonómnych zbraní, máme pocit, že sme zvlášť zodpovední za obozretnosť pri ich využívaní. Úprimne vítame rozhodnutie Konferencie OSN o dohovore o vybraných konvenčných zbraniach (CCW) s cieľom vytvoriť skupinu vládnych expertov (GGE) pre smrtiace autonómne zbraňové systémy. Mnoho našich vedcov a inžinierov je pripravených ponúknuť vám technické poradenstvo“, píše sa v otvorenom liste, ktorý OSN adresovalo viac ako 100 expertov z oblasti vývoja umelej inteligencie a robotiky.

Pozrite si„Železný muž“ nechce stroje – otrokárov

Ide o generálnych riaditeľov a zakladateľov uvedených spoločností z celého sveta a v tejto silnej zostave nechýba ani Elon Musk.

ZDROJ | Breaking the Silence

Experti varujú pred treťou revolúciou v technikách boja a vystríhajú pred „smrtiacou autonómnou technológiou“, ktorá je „Pandorinou skrinkou“. Ak by sme konali až potom, čo sa takéto zbrane objavia, môže byť podľa expertov neskoro. Zbrane (nielen roboty) s umelou inteligenciou je potrebné jednoducho zakázať.

Už skôr Elon Musk a iní technologickí lídri prirovnali hrozbu umelej inteligencie k jadrovým zbraniam. V súvislosti s najnovšími incidentmi a vyhrážkami KĽDR E. Musk uviedol, že umelá inteligencia je nebezpečnejšia ako Severná Kórea.

https://www.youtube.com/watch?v=Xmh0fp6SOSw

„Keď budú také metódy vyvinuté, rozsah možných ozbrojených konfliktov sa výrazne rozšíri a rýchlosť, s ktorou sa takéto incidenty budú môcť odohrať, úplne presiahne ľudské chápanie. Môžu to byť nástroje teroru; zbrane, ktoré diktátori a teroristi použijú proti nevinným ľuďom,“ píše sa v liste.

Magnet pre vojakov

Problém je, že silné technológie s ničivým potenciálom sú pre vojakov mimoriadne atraktívne a armády často vlastnia takéto konvenčné zbrane (napríklad kazetové bomby), aj zbrane hromadného ničenia (biologické a chemické zbrane, či jadrové nálože), napriek medzinárodným konvenciám, ktoré ich zakazujú.

ZDROJ | Duke Robotics

Rezignovať na reguláciu umelej inteligencie len preto, že budeme apriori očakávať jej porušovanie, by však bolo veľkou chybou.

Rokovanie OSN o moderných autonómnych zbraniach sa malo uskutočniť 21. augusta, kvôli neuhradeným členským poplatkom niekoľkých štátov však bolo odložené na november.

Pozrite siIzrael bude mať na boj v mestách ozbrojené drony TIKAD

Signatári uvedeného listu ľutujú tento odklad, zároveň však dúfajú, že skupina vládnych expertov vytvorená za účelom regulácie autonómnych zbraňových systémov na prvom stretnutí svoje úsilie zdvojnásobí.

Čas totiž v tomto prípade skutočne pracuje proti nám. Množstvo armádnych výskumných kapacít, vrátane americkej DARPA, aj menších, či väčších firiem, už na robotických zbraniach dávno intenzívne pracuje. Možno sú to zatiaľ „len“ diaľkovo ovládané drony, roboty a vozidlá vystrojené palebnou silou, alebo bez nej, ale premeniť ich na inteligentné zbrane nebude problém.

Pozrite siHybridný robot Handle od Google má doteraz najplynulejšie pohyby

V kalkuláciách a simuláciách stratégov sa už modely nasadenia takýchto zbraní objavujú, bez toho, aby vyvolávali adekvátne zdesenie verejnosti. To by sa rýchlo dostavilo, ak by boli proti nej takéto zbrane nasadené.

Netreba si totiž robiť ilúzie, že inteligentní terminátori, alebo roje dronov strieľajúcich z automatických zbraní na všetko, čo sa hýbe, by boli nasadené len proti vojakom. Veľmi dobre vidíme, ako v praxi vyzerá ničenie „živej sily“ nepriateľa dnes, kedy sú za streľbu a bombardovanie zodpovední živí ľudia, ktorým aspoň sčasti zväzujú ruky morálne zásady.

Je dosť dobrých dôvodov držať umelú inteligenciu pod kontrolou. Pri smrtiacich zbraniach to platí viac, než kdekoľvek inde.

ZdrojFuture of Life Institute

Komentáre k článku