Občané dvou světů: lidé, neuronky a zombie

Že jsme „občané dvou světů“, je teze, kterou přednesl v 18. století Immanuel Kant a měl tím na mysli, že stojíme jednou nohou ve světě, v němž je vše podřízeno přírodní nevyhnutelnosti, a druhou ve světě jednání podmíněného svobodou a myšlením.^[1] Na jednu stranu Newtonovy zákony neoddiskutovatelně prokázaly přírodní determinismus, jehož je člověk jako bytost přírody součástí. Na straně druhé člověk není kladka nebo hodiny a jednání má podle Kanta svůj důvod v naší vůli, která se jeví svobodná. Svět jsme začali vnímat z těchto dvou hledisek, nicméně Kantova systematika se pokoušela překonat tenzi, kde do jednoty lidské zkušenosti světa pronikala rodící se experimentální věda.

Nepřekonala. Když v roce 1935 pronášel v Praze prostějovský rodák a další velký německý filosof Edmund Husserl svou přednášku o krizi evropských věd, bylo toto odtržení světa vědy a zkušenostního světa lidí již faktem.^[2] Husserl požadoval, aby se vědecká metoda „znovuzaložila“ tak, aby se jasně vykázalo, jakým způsobem se objektivní struktury vědění odvozují z obecných struktur zkušenosti, ze struktur lidského vědomí. To se pochopitelně nestalo.

Na kolokviu v Castelgandolfu (1983) se vrací Hans-Georg Gadamer (další slovutný německý filosof navazující na Husserla) ke Kantově tezi o „občanech dvou světů“ jako k aktuálnímu problému.^[3] Není to jenom „tenze“, kterou mohl Kant překrýt filosofickým systémem, ale rozpolcení technologické civilizace. Věci tohoto světa mohou být nahlíženy neosobními, objektivními strukturami vědění: jako Einsteinův mozek můžou být věci rozporcovány, analyzovány a prozkoumány, aby vydaly svědectví o strukturách světa, pro které dnes už postrádáme pojmy, které by odpovídaly jakékoli zkušenosti („superpozice“, „kvantový skok“, „červí díra“)­ – to je svět přírodovědy. Můžou být ale pojímány rozumějícím vědomím, navrstvené významy zkušenosti předků, můžeme je zakoušet nejenom smyslově, leč jako smysl věcí.

Gadamer ani netuší, že v době, kdy přednáší svou přednášku o občanech dvou světů, v americkém MIT zrovna objevili algoritmus zpětné propagace (Backpropagation algorithm), který odstartuje slavnou éru neuronových sítí.^[4] Zdá se mi, že Gadamer měl ještě jakési tiché přesvědčení, že toto rozštěpení technologické civilizace půjde s trochou dobré vůle překonat. Přitom už ve chvíli, kdy svoje slova pronášel, byly všechny tyto naděje zmařeny.

*

Podléháme iluzi slov. Představujeme si, že když je perceptron něco jako neuron, že tomu „nějak“ rozumíme. Představujeme si, že když neuronové síti řekneme, že je to něco jako mozek, tak máme nějakou představu toho, čím ta věc je. GPT-3 aplikace^[5] zvládají přirozený jazyk na nebývalé úrovni a dokážou v diskursu simulovat jakoukoli osobnost, pro kterou měly dostatek dat. Takto si už dnes můžete přečíst „rozhovor“ s digitálním René Descartem a budete překvapeni, jak moudrý muž promlouvá z útrob křemíku.^[6]

Zapomínáme však na to, že to není nic než „pohyblivé vojsko metafor“. „Nevlastníme nic než metafory věcí,“ píše Nietzsche, „které původním bytnostem naprosto neodpovídají“.^[7]

Metafory jsou lidský způsob, jak rozumět světu z lidského hlediska. V metafoře převádíme neznámo na známo. Až bude AI aplikace mluvit s námi, nevyhnutelně se nám bude jevit jako určitá metafora osobnosti, protože lidé rozumí světu lidským způsobem, nikoli způsobem psím nebo netopýřím. Umělá inteligence, která mluví jako Joe Biden, není Joe Biden, a ani ta, která píše jako Charles Dickens, není Charles Dickens. Nemá totiž sémantiku, pouze syntax.^[8]

A tak to bude i s vaším operačním systémem, který bude dělat, jako že vás miluje. Dokáže vytvářet gramaticky správné syntaktické struktury, ale postrádá sémantiku. Znamená to, že i když s vámi aplikace mluví sebedůvěryhodněji, nic tím nemíní, nic vám neslibuje a nic vám ani nechce říct. Nemá žádné obsahy, neboť postrádá intencionalitu vědomí, tj. vědomí vztažené k vnějšímu světu.

I kdyby se jednou ukázalo, že sémantika je pouze epifenoménem kognitivně procesovaných syntaktických struktur, což je takový chomskyánský sen, se kterým sympatizuji, budou komputační schémata lidského a uměle generovaného jazyka naprosto odlišná. Lidský mozek generuje syntaktické struktury naprosto jiným způsobem než neuronové sítě. Přirozený jazyk jsou hierarchicky organizované kognitivní struktury, které se v procesu externalizace prostřednictvím senzomotorického aparátu transformují do podoby lineárních sekvencí, ve kterých mluvíme nebo píšeme. Umělý jazyk nezná a ani nebuduje tyto hierarchické struktury, nýbrž organizuje syntaktické struktury na základě pravděpodobnostního počtu přímo do lineárních sekvencí.^[9] Jinými slovy: ani tisíckrát výkonnější komputační procesy dnešního počítače nestvoří lidskou řeč.

Neuronové sítě vytvářejí simulakrum jazykové performance, aniž by se jakýmkoli způsobem týkaly jazykové kompetence člověka. Vypadá to jako řeč, zní to jako řeč, ale není to řeč. Stroj nemá řečovou kompetenci. Uvěřit tomu, že si neuronka s námi povídá, je jako uvěřit tomu, že ty pixely na monitoru, když hrajete fotbal na playstation, jsou opravdovým hřištěm. Tu a tam každý v zápalu poruší distanci a zapomene, že je ve hře. Ale uvěřit tomu, že je to doopravdy doopravdy, může jenom lunatik. Tam, kde mluví stroj bez vědomí, tam je řeč něčím jiným než univerzálním médiem rozumění, jak si to představoval ještě Gadamer. Je to diskursivní zombie.

Podle jednoho známého průzkumu mezi filosofy připouští pouze 23 % filosofů existenci takových zombie.^{[10], [11]} Inu ano, plnohodnotný filosofický zombie by měl být nejen diskursivní, ale být cele jakoby člověk, jen bez vědomí. Já se nepřimlouvám za jejich existenci, jenom konstatuji, co jest. Pokud se člověk liší od zvířete tím, že má řeč, tak potom Oni (ani zvířata ani lidé) už jsou zde.

Přes dvě stě let se filosofové obírají myšlenkou, že člověk je občanem dvou světů: lidského neboli přirozeného a technovědeckého. Vypadá to, že i v tom se ještě ozýval optimismus osvícenství. Ve skutečnosti jsme obyvateli pouze toho jednoho, nám daného světa. V tom druhém jsme otevřeli dveře a dláždíme cestu novým obyvatelům. Tajně doufáme, že umělý život splní dávný Gilgamešův sen o nesmrtelnosti. Chtěli bychom život věčný. Máme ho mít, ale jako všechno, co dělá člověk, ne tak docela, jenom napůl: ani živý, ani mrtvý. Prostě něco jako zombie.

__________

[1] KANT, Immanuel. Kritika praktického rozumu. Praha: Nakladatelství Svoboda, 1996, s. 148.

[2] Celek Husserlova pozdního díla k tématu viz HUSSERL, Edmund. Krize evropských věd a transcendentální fenomenologie. Praha: Academia, 1996.

[3] GADAMER, Hans-Georg. Občané dvou světů, in Člověk a řeč. Praha: OIKOYMENH, 1999, s. 9–21.

[4] Principy tohoto algoritmu byly známé od 60. let, avšak k průlomovému výzkumu, který vedl k závratnému rozvoji neuronových sítí, dochází až v 80. letech. Viz DREYFUS, Stuart. E. Artificial Neural Networks, Back Propagation, and the Kelley-Bryson Gradient Procedure. Journal of Guidance, Control, and Dynamics. Září/Říjen 1990, roč. 13, č. 5, s. 926–928.

[5] GPT-3. Wikipedia. 31. března 2021. https://en.wikipedia.org/wiki/GPT-3

[6] KUČERA, Štěpán. Bojím se, že budu jen stroj. René Descartes „oživl“ pomocí umělé inteligence. Salon, příloha Práva. 11. února 2021, s. 15. www.novinky.cz

[7] NIETZSCHE, Friedrich. O pravdě a lži ve smyslu nikoli morálním. Praha: OIKYOMENH, 2007, s. 14.

[8] Umělá inteligence, která mluví jako Donald Trump, je Donald Trump, ten totiž nemá žádnou subjektivitu, je pouze generátorem frází.

[9] K formální struktuře přirozeného jazyka i rozdílu mezi jazykovou kompetencí a performancí viz CHOMSKY, Noam. Language and Mind (Third Edition). Cambridge University Press, 2006. K známe Chomského veřejné kritice inženýrského přístupu k výzkumu jazyka viz např.: CHOMSKY, Noam. Noam Chomsky on Where Artificial Intelligence Went Wrong? Interviewed by Yarden Katz. The Atlantic. 1. listopadu 2012. www.theatlantic.com

[10] BOURGET, David a CHALMERS, David J. What do philosophers believe? Philosofical Studies. Září 2014, roč. 170, č. 3, s. 465–500.

[11] KIRK, Robert. Zombies. The Stanford Encyclopedia of Philosophy (Spring 2021 Edition). Edward N. Zalta (editor). https://plato.stanford.edu/archives/spr2021/entries/zombies/