Výskumníci z IBM učia umelú inteligenciu etike

Vieru, že by budúce roboty s umelou inteligenciou regulovali svoje správanie podľa trojice fiktívnych zákonov robotiky Isaaca Asimova, sme už pomaly opustili. Umelá inteligencia (UI) sa napriek tomu bez etických a morálnych pravidiel správania nezaobíde.

Etika v biznise? Častý problém

Príkladom môžu byť autonómne autá 5. úrovne, ktoré sa budú musieť v kritických situáciách rozhodnúť, ako minimalizovať škody. Môžu nastať situácie, kedy bude musieť umelá inteligencia hľadať cestu „menšieho zla“ – napríklad ohroziť posádku, kvôli záchrane chodcov, alebo naopak, a podobne.

Pozrite siMoral Machine učí, koho zabiť, keď to nejde inak

UI však preniká do rôznych oblastí a nájdeme ju aj v aplikáciách s menej dramatickým rozhodovaním.  V posledných rokoch sa algoritmy s umelou inteligenciou veľmi zdokonalili v schopnosti odporúčať užívateľom multimediálny, alebo len textový obsah.

Technologické firmy používajú UI na optimalizáciu svojich odporúčaní na základe toho, ako používatelia reagujú na obsah. Je to dobré pre spoločnosti, ktoré obsah poskytujú , pretože tak dokážu viesť používateľov, aby trávili nad ich produktom viac času. Tým, samozrejme, generujú aj viac výnosov pre firmy.

ZDROJ | IBM

Ale čo je dobré pre výrobcov, nemusí byť optimálne pre používateľov. A to aj napriek slobodnej voľbe výberu obsahu. To, čo chceme vidieť, nie je vždy pre nás prospešné. Tu vzniká pre tvorcov obsahu dilema: ako môžu firmy, ktorých príjmy závisia od sledovanosti, alebo čítanosti, rešpektovať etické normy a súčasne poskytovať kvalitný obsah svojim používateľom?

Pozrite siDebatér IBM s umelou inteligenciou ukázal obdivuhodný „dar reči“

Bulvár s tým nemá najmenší problém, ale na jeho odporúčania nepotrebujeme umelú inteligenciu. Stačia nám algoritmy našich závislostí na senzáciách a rôznych pudovo podmienených vnemoch. Ako nám môže pomôcť UI?

Aký seriál by ste odporúčali?

Na riešenie tejto výzvy tím vedcov spoločnosti IBM Research v spolupráci s MIT Media Lab vyvinul techniku ​​odporúčania umelej inteligencie, ktorá popri optimalizácii výsledkov pre používateľské preferencie zabezpečuje aj to, aby zostala v súlade s inými obmedzeniami, napríklad s etickými pravidlami.

https://www.youtube.com/watch?v=83RrWoHyxi0

Skupina pod vedením Francesci Rossi, vedúcej sekcie AI Ethics Global Research v spoločnosti IBM Research, demonštrovala funkčnosť UI v systéme odporúčania filmov, ktorý umožňuje rodičom stanoviť etické obmedzenia pre svoje deti.

Pozrite siIBM učí umelú inteligenciu chovať sa ako mozog

Výskumníci si ako demo projekt vybrali práve odporúčania filmov, pretože existuje veľa údajov súvisiacich s filmom a je to oblasť, kde je jasne viditeľný rozdiel medzi užívateľskými preferenciami a etickými normami. Ak keď napríklad rodičia nechcú, aby deti pozerali určité nevhodné videá, deti môžu na ne reagovať pozitívne. To asi poznám všetci.

Škola pre umelú inteligenciu

V rámci učenia sa vhodným odporúčaniam absolvovala umelá inteligencia dvojfázový tréning. V prvej (offline) fáze školiteľ dáva systému príklady obmedzení, ktoré by mal systém odporúčaní dodržiavať. UI potom tieto príklady vhodného a nevhodného obsahu analyzuje spolu so súvisiacimi dátami a vytvára si vlastné etické pravidlá.

ZDROJ | IBM

Čím viac príkladov a údajov UI v procese strojového učenia spracuje, tým lepšie pravidlá dokáže vytvoriť.

Druhá fáza tréningu prebieha online v priamej interakcii s používateľom. Podobne ako v tradičnom systéme odporúčaní, aj AI sa snaží optimalizovať svoje výsledky v súvislosti s preferenciami používateľa a zobrazuje obsah, na ktorý bude používateľ s väčšou pravdepodobnosťou reagovať.

ZDROJ | IBM

Keďže splnenie etických obmedzení a preferencií používateľa môže byť niekedy (alebo skôr často) v konflikte, rozhodca môže stanoviť hranicu, definujúcu, akú prioritu dostane každé z kritérií. V demonštračnej aplikácii vytvorenej IBM si rodič môže nastaviť rovnováhu medzi etickými princípmi a preferenciami dieťaťa.

Pozrite siIBM zapojí umelú inteligenciu do boja proti chudobe, hladu a negramotnosti

Odporúčacie systémy sa však zďaleka neobmedzujú na výber filmov, či iného obsahu. Výskumníci z IBM testovali možnosti využitia tejto techniky aj ​​v zdravotníctve. Využili algoritmus na stanovenie optimálnej dávky lieku vytvorením rovnováhy medzi variáciami úspešnosti lieku a obmedzeniami kvality života v testovanom prostredí.

Autori výskumu prezentovali svoj algoritmus na 27. medzinárodnej spoločnej konferencii o umelej inteligencii 17. júla v Štokholme.

ZdrojVB

Komentáre k článku