Mysliaci papier

Minule mi jedna zásielková spoločnosť – všetci tušíte ktorá – nedoručovala balík, aj keď som cez tracking videl, že im leží v sklade. Píšem im cez zákaznícku linku, asistent po chvíľke odpisuje. Odpovedá zoširoka, vyhýba sa mojím otázkam, mám pocit, že rozhovor nikam nesmeruje. Vtedy som sa zamyslel, píšem si vôbec s človekom?

Stroj prejde Turingovým testom, ak komunikáciu s ním nebudeme vedieť odlíšiť od komunikácie s človekom. Keďže sa časť ľudí v tejto súťaži vybrala v protismere, je už teraz naozaj zložité určiť, či komunikujeme s inteligenciou človeka či počítaču.

Nie všetci sú s takýmto kritériom spojní. Filozof John Searle prišiel s príkladom, ktorý sa v istej podobe traduje od 18. storočia. Predstavte si, že máte izbu a v nej počítač, ktorý komunikuje po čínsky. Do miestnosti vložíte odkaz, on ho prečíta, sformuluje odpoveď a vytlačenú správu podstrčí cez dvere von. Ak je stroj dosť dobrý – komunikuje na nerozlíšenie od človeka – zhodnotíme, že prešiel testom a je inteligentný. Povieme, že stroj rozumie po čínsky.

Searle však nesúhlasí. Čo ak by si do tej miestnosti sadol on a dostal knihu, v ktorej sú presne zapísané všetky počítačové inštrukcie. Zároveň dostane dostatok ceruziek, papiera a času. Do miestnosti príde lístok a on krkolomne prejde cez všetky kroky počítača ručne a bez toho, aby rozumel, čo robí, vyprodukuje výstup, ktorý bude osobou za dverami akceptovaný – aj keď Searl nevie po čínsky ani zaťať.

Na tentoargument existuje pekný protiargument – treba spraviť krok späť. Správna interpretácia je taká, že celá miestnosť – Searle, pomôcky a inštrukcie – vedia po čínsky, aj keď Searl sám nie.

Núti nás to však zamyslieť nad tým, čo považujeme za inteligenciu a čo nie.

Zoberme si zjednodušený model konverzácie. Jedna otázka na päť slov, jedna odpoveď na päť slov.  Turingov test v zjednodušenej podobe.

„Ahoj, ako sa dnes máš?“
„Dnes sa mám celkom lopata.“
Hupsík, neprešiel.

V jazyku je, pre jednoduchosť hrubo zaokrúhľujme, 10 na 4, teda 10 000, slov. Dokopy teda existuje 10 na 20 možných pätíc slov – drvivá väčšina z nich nedáva zmysel. Rovnako máme 10 na 20 možných odpovedí. Kombinácií, ako priradiť otázky k odpovediam, je 10 na 40. Nie sme – v počte cifier – ďaleko od počtu atómov v celej zemeguli. A to máme len jednoduchú otázku a jednoduchú odpoveď.

Ak dávame dokopy hocijaké slová, väčšina otázok samozrejmenebude dávať zmysel. Vhodné odpoveď na ne však existuje, napríklad: „Čože? Tomu teda vôbec nerozumiem.“

Podobne je väčšina možných odpovedí len náhodná kombinácia slov, ktoré nebudú predstavovať vhodnú odpoveď na žiadnu otázku. To nevadí, tvoria množinu možných odpovedí.

Časť otázok a odpovedí však bude dávať zmysel. V princípe si vieme predstaviť obrovský papyrus, na ktorom bude ku každej otázke priradená odpoveď tak, že ak by tú istú otázku dostal nejaký človek, danú odpoveď by považoval za rozumnú. Bude to taká veľká pavučina, komunikačný ťahák pre neinteligentnú bytosť. Keď jej položíte hocijakú otázku (na päť slov), na papyruse nájde príslušnú odpoveď tak, aby pôsobila inteligentne.

Samozrejme, na zhotovenie takéhoto papyrusu nemáme dosť dát*. Ak by však existoval – spadol z neba – mohli by sme potom povedať, že je daný papyrus inteligentný? Asi ťažko, aj keď produkuje odpovede ako človek.

Čo sa nám na tom nepáči? Pozrime sa na príklad hier. Piškvorky na ploche 3 × 3 sú jednoduchá hra a na papier viete napísať plán, ako postupovať pri každom ťahu. Asi sa zhodneme, že toto by sme za inteligenciu nepovažovali.

Piškvorky 10 × 10 by si vyžiadali oveľa dlhší zoznam, ale stále by nám zoznam asi na kritérium inteligencie nestačil. Počítačový program, ktorý bez zadania presných ťahov dokáže vyhrať pišvorky 10 × 10; to už by bolo na zamyslenie. Samozrejme, šlo by o veľmi úzku inteligenciu, no už by sme to asi inteligenciou nazvali.

Tento príklad nie je úplne ďaleko od reality. Šach ponúka toľko možností, že sa nedajú všetky kombinácie vypísať a tak musí počítač robiť niečo lepšie, ako len sa ťahy „učiť naspamäť“. Ešte lepší príklad je hra GO na ploche 19 × 19, ktorá sa roky považovalo za strojmi neporaziteľnú, lebo však stroje predsa nemyslia. Od roku 2016 (aj) tejto hre kraľujú stroje.

Ak by AlphaGO vyhral vďaka šialene dlhému zoznamu inštrukcií, asi by nám to nestačilo. Za inteligentné považujeme, že to spravil bez neho. Inteligentné správanie môže byť ako podľa dlhého zoznamu inštrukcií – no tak dlhého, že je jeho praktické zhotovenie nereálne. Napísať zoznam odpovedí na všetky možné otázky či všetky možné ťahy GO je nereálne. No aj tak vieme odpoveďať aj hrať. A vedia to aj stroje.

Záver je teda taký, že inteligenciu strojov asi netreba posudzovať len podľa toho, či na položené otázky vedia dať rozumné odpovede. Dôležitým kritériom je aj to, či to robia efektívne. Práve efektívnosť ľudskej mysle, schopnosť posudzovať koncepty, prepájať abstraktné významy a extrapolovať nám umožňuje (podľa posúdenia ostatných) rozumne odpovedať na otázky, ktoré sme doteraz, v danom kontexte, ešte nepočuli. Napríklad: „Chutí mango podobne ako živica?“  

[Samuel]

PS: V niečom je to podobné aj pri ľuďoch, vnímame rozdiel medzi tým, keď sa niekto postup riešenia problému naučí naspamäť a keď tomu postupu rozumie a vie ho tým pádom podľa potreby modifikovať.

PS2: Na poslednú otázku mi ChatGPT odpovedal: „Mango chutí sladko, nie živicovo.“

* Dajme tomu, že jeden človek denne zodpovie na 100 otázok, čiže 36 500 ročne. Žijeme, pre jednoduchosť odhadu, 100 rokov, takže to máme asi 3.65 milióna otázok na život. Ľudí na planéte žilo dajme tomu 100 miliárd, takže dokopy bolo ľuďmi položených tak 3.65 × 10^17 otázok. To sme z tých 10^40 ani nezačali uberať!