Aká bude umelá inteligencia – dobrá či zlá?
Chápanie termínu „umelá inteligencia“ sa za posledné desaťročia zmenilo. Ľudia si pod ním bežne predstavovali niečo mystické, záhadné a nebezpečné. Dnes sa pohľad na umelú inteligenciu mierne upravuje, ale nemôžem sa ubrániť pocitu, že je stále mierne nadhodnocovaná.
Keď hovorí o umelej inteligencii odborník, často tým nemyslí z technického pohľadu nič špeciálne. Môže ísť napríklad „iba“ o také riešenie úloh a/alebo spracovanie údajov, ktoré sa nedajú dosiahnuť bežnou tzv. „predvídateľnou algoritmizáciou“ [*1]. Je to veľmi zjednodušený pohľad, ktorý sa snaží naznačiť len jednu jedinú vec: nie je umelá inteligencia ako umelá inteligencia.
To, čo si pod umelou inteligenciou počas minulých desaťročí bežne predstavovala verejnosť je, mierne mystifikovaná: AGI – Artificial General Intelligence – všeobecná umelá inteligencia. (Doslovne „umelá všeobecná inteligencia“, pretože skratka GAI má už rezervovaných viacero iných významov, medzi inými napríklad Guaranteed Annual Income.)
Pred päťdesiatimi rokmi sa viacero ľudí domnievalo, že tento druh inteligencie je takpovediac „za rohom“ – dosiahnuteľný v horizonte desiatich rokov [1]. Dnes sa opäť domnievame, že AGI „je za rohom“, ale tento raz je prognóza postavená realistickejšie a takpovediac „so zdvihnutým prstom“. Ak by tu AGI bola už dnes [*2], nevieme odhadnúť, aké by to malo dôsledky. Stále nie je doriešených mnoho otázok, vrátane tých zásadných, morálnych a/alebo bezpečnostných [2].
Aký druh umelej inteligencie už máme („my“ ako ľudstvo) k dispozícii a aký druh umelej inteligencie by sme chceli mať k dispozícii? Ak to prirovnáme k tomu, čo dôverne poznáme sami na sebe, tak „umelú“ inteligenciu, ktorou disponuje náš vlastný mozog môžeme veľmi zjednodušene rozdeliť na dva typy: (1) automatizované činnosti a (2) tvorivé činnosti.
Vďaka tomu prvému druhu bezpečne zaparkujeme svoje auto pred domom bez toho, aby sme nad tým vôbec museli premýšľať a vzápätí sa plesneme dlaňou po čele, lebo práve dnes sme sa mali cestou z práce ešte zastaviť po mlieko (alebo urobiť niečo iné, „neautomatizované“). Nuž a ten v poradí druhý druh „umelej“ inteligencie používame presne tam, kde sa ten prvý použiť nedá – na riešenie takých problémov, ktoré ešte riešené neboli a ktoré tak nevieme dosť dobre automatizovať.
Umelá inteligencia druhého typu je ešte ďaleko
Ľudstvo má momentálne k dispozícii práve ten druh umelej inteligencie, ktorý je ekvivalentný [*3] tomu prvému typu inteligencie. AI, ktorá sa dokáže natrénovať na veľkom objeme údajov, ale nie je dobrá pri plnení úloh, ktoré vyžadujú inovatívne prístupy, ktorých riešenie nie je možné natrénovať na obrovskej množine údajov, pretože tieto jednoducho nie sú k dispozícii. Áno, už sú na svete prípady, kedy sa tento nedostatok dá nahradiť celkom jednoducho – chýbajúci objem údajov jednoducho „vyrobíme“. Čo však v prípade, keď sa chýbajúce údaje nedajú „vyrobiť“?
Prečo si myslím, že umelá inteligencia je nadhodnocovaná a prečo zároveň verím, že presne to je jej hlavný bezpečnostný problém? Alebo inak povedané, prečo sa menej obávam toho, že ľudstvo vyhynie z dôvodu prevzatia kontroly superinteligenciou, ktorú sám vytvoril, ale skôr pociťujem reálne obavy z toho, že ľudstvo by mohla vyhubiť ním vytvorená „nie až tak dokonalá umelá inteligencia“?
Vytvorme si priestor na porovnanie a zamyslenie sa vymodelovaním zopár jednoduchých príkladov, v ktorých umelú inteligenciu nahradíme ekvivalentmi živej inteligencie [*4].
Povedzme, že nemáme žiadne morálne a etické obmedzenia a naopak máme široké možnosti. Majme „k dispozícii“ rôznych ľudí s rôznymi „poruchami“ alebo skôr nedostatkami ich vnútornej všeobecnej „umelej“ inteligencie, čiže akoby naše vlastné laboratórne živé verzie AGI:
(1) Tínedžerského autistu, ktorý vie hrať dokonale šach,
(2) celkom šikovné, nie však úplne geniálne trojročné dieťa a
(3) dospelého sociopata, čiže človeka, ktorý vie celkom dobre predstierať empatiu, ale v skutočnosti mu je táto prirodzená schopnosť úplne cudzia (aj keď tejto súvislosti môže nadobúdať značnú mieru „zručnosti“).
Skopírujme ich 1 : 1 do nejakej podoby AGI a nasaďme ich do praxe. Ktorej z nich by ste zverili do rúk nejakú kritickú činnosť? Práve takú, ktorá by vyžadovala niečo, o čom sa dá tušiť, že to ten človek/AGI nemá. Ktorému z nich by sme napríklad dali do rúk zbraň? Myslím si, že bez ohľadu na realitu (najmä v súvislosti s 3), by sme mali problém pri všetkých troch prípadoch. Pre mňa osobne je kritická najmä predstava dieťaťa so zbraňou v ruke…
K vytvoreniu naozaj špičkovej umelej inteligencie, ktorá by ľudí prevyšovala po všetkých stránkach vrátane efektívneho a správneho riešenia morálnych otázok, vedie ešte dlhá cesta. Netvrdím, že túto dlhú cestu nebude ľudstvo schopné „preskočiť“ v priebehu nasledujúceho desaťročia. Vravím len, že to bude znamenať ešte neskutočné množstvo práce.
Napriek všetkým tienistým stránkam si však myslím, že túto cestu v tejto fáze už ľudstvo podstúpiť musí. Dôvod? Veľmi jednoduchý: Ak je raz niečo viditeľne možné, tak sa skôr či neskôr určite nájde niekto, kto to uskutoční a lepšie by podľa mňa bolo, keby to boli „good guys“, nie „bad guys“. Či sa nám to páči, alebo nie, už to raz je v možnostiach ľudí a ak by sme sa tomu systematicky vyhýbali, raz by sa našiel niekto, kto by sa nikoho nepýtal. Je lepšie to vyvinúť a mať pevne v rukách (ak to bude možné mať „pevne“ v rukách), než ostať bezbranní.
[Roman] [*1] Priestor na predstavivosť je široký, ale najčastejšie sa ako príklad uvádza strojové učenie sa, potom tvorba expertných systémov, ďalej napríklad rozpoznávanie zvuku/reči alebo obrazu. [*2] Z toho vyplýva, že AGI tu dnes ešte nie je. Môžeme byť pokojní? Alebo práve naopak? [*3] Ekvivalentný, pretože išlo o prirovnanie umelej inteligencie k tej „neumelej“, v tomto prípade ľudskej. Navyše, išlo o zjednodušený model. Odborník z oblasti kognitívnej vedy by vedel presnejšie povedať, kedy by bolo stotožňovanie prirodzenej a umelej inteligencie smiešne a naopak, kedy a v čom sú si značne podobné. V tomto kontexte je podľa mňa zaujímavé pozrieť si [4] – populárny pohľad na to, prečo sa to nedá celkom dobre porovnávať a [5, 6, 7, 8, 9] na získanie hrubej predstavy o zložitosti ľudského mozgu a jeho rôznych schopnostiach… [*4] S tým, že budeme mať opäť na pamäti to, že tieto dve veci sa nedajú úplne stotožňovať a teda ani nie úplne bez výhrad porovnávať. To znamená, že ide o hypotetické príklady, myšlienkové experimenty, ak chceme, vytvorené najmä s cieľom získania lepšej predstavivosti.– – –
Myšlienky na záver:
● V texte sú naznačené celkom zaujímavé príklady toho, čomu by sme sa v prípade nasadenia AGI do praxe radi vyhli. Bez ohľadu na to, kto a s akým pôvodným úmyslom to vyvinie. Takýchto myšlienkových experimentov sa dá vymyslieť mnoho, každý z nich so zameraním na iný aspekt AGI a jej nasadenia. Z môjho pohľadu je dosť dôležité sa tým zaoberať, aby sa nestalo, že „tvoríme rýchlejšie, než myslíme…“
● Elon Musk sa nechal počuť v tom zmysle, že umelá inteligencia (mal na mysli práve AGI) príde skôr, než by sme čakali a že nad ňou nebudeme mať žiadnu (alebo úplnú?) kontrolu. Myslím si, že ak má byť AGI tým, čím by sme ju chceli mať, tak ani nie je možné mať nad ňou úplnú kontrolu. Veď ani nad žiadnym ľudským jednotlivcom nemáme úplnú kontrolu v tom zmysle, že by sme boli schopní so stopercentnou presnosťou predvídať jeho správanie. To vieme len do určitej miery – predvídať, prípadne ovplyvňovať.
● Poznáme termín strojové učenie sa (machine learning), ale zatiaľ nepoznáme termín „strojová výchova“ (machine upbringing). Myslím si, že práve naplnenie obsahu tohto termínu bude pre ľudstvo kľúčové. Ako to zariadiť, aby to bolo „to pravé orechové“, aby napríklad veľmi rýchlo nenastalo sprofanovanie tohto termínu? Hamletovská otázka. Zatiaľ je ešte čas, takže ostáva veriť, že to vezmú do rúk tí správni ľudia a tým správnym spôsobom.
● V celom texte ani raz nezaznelo slovo vedomie – umelé, či to naše „reálne“… Toto by totiž bola téma hodná samostatného príspevku, avšak s otáznym prínosom. V súčasnosti nemám vedomosť o tom, že by niekto na svete rozumel tomu, čo je to vedomie a ako vlastne „vzniká“. Osobne sa radím medzi skeptikov a myslím si, že vedomie je „emergent property“ – „spontánne vznikajúca vlastnosť zložitého systému“, ale to je môj názor. Rád by som veril niečomu inému, ale bola by to „len“ viera…
– – –
Použité a odporúčané zdroje:
[1] Lange, Danny: On the Road to Artificial General Intelligencehttps://www.youtube.com/watch?v=sRyZ-XwmgnE [2] Valpola, Harri: Can we build human-like AI? Should we?
https://www.youtube.com/watch?v=GUApSRMWxqo [3] Rosa, Marek: How far are we from general AI?https://www.youtube.com/watch?v=Tr8ROG533jQ [4] Brain vs. Computer
https://youtu.be/TlUK69Wsk6g?t=40 [5] Amen, Daniel: The most important lesson from 83,000 brain scans
https://www.youtube.com/watch?v=esPRsT-lmw8 [6] Taylor, Jill Bolte: My stroke of insight
https://www.youtube.com/watch?v=UyyjU8fzEYU [7] Chandran, Siddharthan: Can the damaged brain repair itself?
https://www.youtube.com/watch?v=0FQXicAGy5U [8] Bloch, Jocelyne: The brain may be able to repair itself – with help
https://www.youtube.com/watch?v=6d6oq0zGGmw [9] Markram, Henry: A brain is a supercomputer
https://www.youtube.com/watch?v=hWzgz66WGC8https://www.youtube.com/watch?v=LS3wMC2BpxU
Albakri, Abdel: How Powerful is the Human Brain?
https://www.youtube.com/watch?v=RDi4YpGVq5Y
How Smart is a Supercomputer?
https://www.youtube.com/watch?v=lG1GgcLVmc0
Silicon Brain: 1,000,000 ARM cores
https://www.youtube.com/watch?v=2e06C-yUwlc
Scientists Put the Brain of a Worm Into a Robot… and it moved
https://www.youtube.com/watch?v=eYS7UIUM_SQ
This Is How Your Brain Powers Your Thoughts
https://www.youtube.com/watch?v=yxUkUaV2VPs
Neuromorphic Computing Is a Big Deal for A.I., But What Is It?
<https://www.youtube.com/watch?v=TetLY4gPDpo