Budú mať raz stroje vedomie?

Venované Jozefovi Dragašekovi.

Keď človek komunikuje s počítačom, a pritom si vôbec nevšimne, že hovorí s počítačom, tak má tento počítač umelú inteligenciu. Ide o Turingov test, o ktorom sa hovorí napríklad vo filme Ex Machina. Sformuloval ho Alan Turing, a na svete už je počítač, ktorý ho zvládol, pričom simuloval trinásťročného chlapca.

Ja by som však pojem umelej inteligencie odlíšil od pojmu vedomia, ktoré keby raz počítače nadobudli, išlo by o skutočný a zásadný prielom. Mám na mysli vedomie, ako schopnosť uvedomovať si svoje vlastné psychické procesy a vztiahnuť ich na svoje Ja. Som presvedčený, že je to teoreticky možné. Otázne skôr je, či sa to niekedy aj naozaj udeje. Umelú inteligenciu však už teraz máme všade naokolo. Počítačové systémy, ktoré dennodenne obsluhujeme a využívame, či internetové vyhľadávače, ktoré sa snažia vyhovieť tomu, čo presne hľadáme, to už je predsa umelá inteligencia. A to pritom nehovorím o takej, o akej píšu Michal Novota a Lukáš Krivošík v najnovšom .týždni. Nemusí byť ihneď dokonalá, veď ani tá ľudská nie je. Poznáme napríklad prípady podpriemerného intelektu, pričom predsa neprestáva ísť o človeka. To, že by stroj nadobudol vedomie, by zas neznamenalo, že by prestal byť strojom.

Materiálny substrát vedomia

Môže byť vedomie viazané aj na niečo iné ako mozog? S kolegom stojíme pod veľkolepou kupolou Santa Maria del Fiore a trocha rozpačito si kladieme práve túto otázku. To vedomie, ktoré poznáme ako ľudské, v ktorom máme všetky zážitky spojito zviazané s našou osobnosťou, s našou minulosťou a budúcnosťou, a v ktorom si vieme uvedomiť sami seba, tak to je späté s mozgom človeka. Je však možné predstaviť si, že môže byť viazané i na inú hmotnú štruktúru, pričom by to nemusela byť rovno organizovaná matéria živej plastickej hmoty, ukrytá pod klenbou lebky? Mohlo by ísť trebárs o obvod? V prípade, že je dostatočne zložitý, že je schopný samo-organizácie podľa okolitého a dokonca aj vnútorného kontextu a v prípade, že si je v istú chvíľu schopný povedať, že je to on, obvod, ktorý činí toto alebo ono, tak vedomie môže byť viazané i naň. Totiž, ani dieťa nie je schopné uvedomiť si samé seba ihneď. Je to vysoko diferencovaný proces, na ktorého náročnosť musí ešte dozrieť.

Problémom je, že k obvodu pristupujeme ako k hardvéru, pričom jeho vedomie považujeme implicitne za súčasť softvéru. Tak je to, hrubo povedané, aj u človeka. Je to však skreslenie. Človek je unikátny v tom, že zmeny softvéru sa odzrkadľujú na zmenách hardvéru a naopak, preto je tak ťažké predstaviť si vedomie bez svojho neustále sa meniaceho mozgu, teda od neho oddelené a vzdialené, alebo prežívajúce po jeho smrti. U stroja však nemusí ísť o štruktúru, ktorá sa premieňa podľa stavu softvéru. Zrejme by stačilo, keby bol daný softvér dostatočne flexibilný. Inak povedané, pri svojom fantazírovaní o vedomí počítača trpíme hardvérovo/softvérovou metaforou, podobne, ako pri teoretizovaní o človeku používame pojmový nôž, ktorým ho krájame na telo a na dušu.

(Problému väzby vedomia na materiálny základ sa venujem aj v blogu, v ktorom sa síce tvárim, že revidujem svoju teóriu lopaty, v skutočnosti to však samozrejme nerobím)

Ako by sa správal počítač s vedomím?

Môžeme predpokladať, že podobne ako človek, ale môžeme sa aj mýliť. Ak by si uvedomoval stroj seba samého, mohol by jednať skôr podľa vlastných záujmov, než by mal slepo poslúchať zadania. My od stroja obvykle chceme to druhé. Potrebujeme, aby nám slúžil a uľahčoval život. Ak by mal vedomie, mohlo by sa to celkom skomplikovať.

Akoby sme zistili, že má vedomie? Podľa filmu Ex Machina by sme na to prišli vtedy, keby sme si nevšimli, že hovoríme s počítačom. To by však platilo, len keby mal nejakú humanoidnú podobu, keby bola komunikácia iba textová, alebo by sme iba počuli jeho do ľudskej formy upravený hlas. Znaky vedomia by sme ale mohli zaregistrovať aj z vlastného notebooku, ktorý by nás trebárs odrazu mohol svojimi reakciami značne prekvapovať. Sugestívnejší by bol dojem vedomia v prípade, že ho nečakáme, a notebook sa mi na to zdá celkom dobrým príkladom. Stroj by mohol byť samozrejme i naprogramovaný k tomu, aby vedomie simuloval. I to chce dosť komplexný program, ale jeho výsledkom by nebolo nadobudnutie seba-uvedomovania, iba generovanie jeho ilúzie v človeku, ktorý by s ním interagoval. Problém simulácie je však neskutočne široký. Simulácia môže byť totiž aj známkou vysoko rozvinutého vedomia. Mám na mysli klamstvo. Počítač s vedomím by nás mohol oklamať, že mu ide o istý cieľ, ale pritom by nami manipuloval. I to je predsa známka inteligencie. Doslova hrôzu vyvoláva scenár, podľa ktorého by nás počítač s nadobudnutým vedomím klamal, že žiadne vedomie nemá, a pritom by ticho pracoval na svojich vlastných záujmoch.

Klamstvo môže byť teda známkou inteligencie, kým ilúzia, ktorá vzniká v človeku, ktorý si myslí, že je počítač inteligentný, prezrádza, že človek je náchylný uveriť v inteligenciu niečoho, čo ju v skutočnosti nemá. Už len schopnosť komunikovať ho u stroja môže viesť prinajmenšom k implicitnému dojmu, že jeho partner v podobe mašiny je inteligentný. Na tomto mieste možno použiť aj argument čínskej izby, podľa ktorého je človek schopný na otázku odpovedať aj v čínštine, ak si osvojil istý súbor formálnych znakov, hoci čínštinu vôbec neovláda. Rozumie počítač, ktorý nás oklame, že je trinásťročným chlapcom, vlastne tomu, o čom komunikuje a chápe, že komunikuje? Teda, aj pozitívny Turingov test automaticky neznamená, že počítač má teóriu mysle (schopnosť pripísať istý vnútorný stav inej osobe a na základe toho aj predpokladať jej reakcie, či úmysly) a vedomie.

Odkiaľ však vieme, že isté systémy alebo stroje už teraz nemajú akési prekurzory vedomia, ak ide o rýchlo sa učiace a bleskurýchlej adaptácie schopné počítače? Mnohí totiž vidia základ vedomia v reflexnej činnosti. Keby boli tieto počítače vybavené vizuálnym vnímaním a pohybom, nemohli by sa napríklad rozpoznať v zrkadle? (test rozpoznania v zrkadle, vyvinutý Gordonom Gallupom, má za cieľ určiť, či zviera – ale pre náš článok môžeme zvoliť skôr termín: neľudský tvor – je schopný rozpoznať seba samého, čo je tzv. self-recognition)

Emócie ako špeciálne informácie

Pre mňa je najzložitejšou otázkou, ako by to bolo s emocionalitou počítačového mentálneho tvora. Emócia ako smútok, radosť alebo strach, je totiž celkom zvláštnym druhom informácie, ktorý výrazne podfarbuje konanie. Niekedy je jeho brzdou, inokedy k nemu doslova pohýna. Emocionalita pritom vývojovo predchádza racionalitu, čo platí nielen pre vývoj individuálneho človeka, ale aj celého nášho druhu. Neviem si predstaviť vedomie, podobné tomu nášmu, ktoré by bolo bez pocitov. Tie majú svoj koreň vo fyziologických reakciách, v telesnom pohodlí alebo nepohodlí, takže pocity si zas nemožno predstaviť bez tela. A tak sme zas pri probléme hardvéru. Buď ho musíme chápať predsa len širšie, ako niečo, čo sa samo môže pohybovať a samo seba pociťovať – pretože bez tela by nebolo ani ega, ktoré vníma isté telesné pocity – alebo mám príliš slabú fantáziu na to, aby som pripustil, že môže jestvovať i čisto mentálny tvor, spojený s nejakým špeciálnym počítačom.

Stroj s vedomím by už zrejme nebol iba strojom, ale strojovou bytosťou, ktorá by mala vlastnú vôľu a vlastné rozhodovanie. Nemyslím, že niečo také nutne potrebujeme, či už teraz, alebo vo vzdialenej budúcnosti.

Čo si o tom myslíte vy?