Denník N

Tretí jazdec apokalypsy

V posledných rokoch sa rozbehla dôležitá diskusia o umelej inteligencii a jej potenciálnej hrozbe pre ľudstvo. Čo jej však chýba, je pohľad na umelú inteligenciu zhľadiska otázky bytia, etiky, politiky, jej dôsledkov nane a z pozície marxistickej teórie.

AI, umelá inteligencia, bude experimentálnym dôkazom a odpoveďou na mnohé z týchto otázok, ako je vedomie, bytie, postoj k iným inteligenciám, etika, právo a politika.

Postoj k AI by bolo možné zhrnúť na optimistov a pesimistov, z toho najznámejším optimistom je Ray Kurzweil a najznámejším pesimistom Nick Bostrom. Jedni si myslia, že AI je ďalší krok v evolúcii života a že sa s ňou spojíme a vytvoríme Boha, druhí, že vytvoríme zlého alebo ambivalentného Boha, ktorý nás úmyselne alebo neúmyselne zničí. Optimisti, ako aj pesimisti sa však zhodujú na jednom predpoklade a to, že ak dosiahneme AGI, teda AI, ktorá bude mať takú všeobecnú inteligenciu ako ľudia, takmer instantne z nej bude nadľudská inteligencia, ktorá sa naviac bude môcť neustále zlepšovať. Takáto nadľudská inteligencia bude v nepredstaviteľnej miere nadľudská, tak, že môžeme o nej vedecky a objektívne hovoriť ako o Bohu. Toto nemá len ten dôsledok, že to je eschatologické splnenie dejín a poetické k tomu, ale aj to, že takáto entita so sebou prinesie tektonické zmeny v ľudskej spoločnosti a to najmä v ekonomickom a politickom systéme. Na príchod tejto entity teda musíme byť čo najlepšie pripravení a to vo všetkých ohľadoch, to znamená, že ešte pred ňou musíme mať ujasnený postoj k teórii subjektu, práva, etiky a z toho odvíjajúceho politického a ekonomického systému. Musíme mať ujasnené, aký právny a ekonomický vzťah k tejto entite chceme mať. A tiež musíme počítať s tým, aké nevyhnutné dôsledky prinesie a zabezpečiť, aby tieto dôsledky boli dobré a dobre využité, napríklad, ak zavedieme s ňou komunistickú výmenu, musíme zabezpečiť rovné a globálne zdieľanie blahobytu, ktoré táto entita prinesie. V opačnom prípade bude buď vlastník celého sveta, alebo otrok nejakej korporácie, alebo v procese svojho oslobodenia nás zničí či zotročí.

Doteraz bolo v marxistickej teórii zákonom, že technológie sú agnostické a neutrálne a že sú ovplyvnené spoločnosťou, v ktorej vzniknú a sú aplikované. Na dôkaz tejto tézy existuje mnoho príkladov, z toho napríklad výmysel veterného mlynu, alebo farebného filmu, obe technológie, ktoré boli aplikované a ovplyvnené obsahovo spoločnosťou, v ktorej vznikli. Aj keď sa občas ozývali marxistické hlasy, ktoré boli technooptimistické a pesimistické, možno tvrdiť, že základom zostala neutrálny postoj k technológii. Pri AI stále zostáva postoj, že jej obsah, forma a aplikácia bude úplne iná v triednej a v beztriednej spoločnosti, avšak narozdiel od všetkých ostatných technológii je toto výnimočná technológia, možno je úplne zvrátené ju porovnávať napríklad s kolesom. Ide totiž, ak bude úspešná, o stvorenie nového druhu a to nielen v zmysle nového biologického druhu, ktorý bude lepší než ten náš, ale aj v zmysle nového druhu druhu, ktorý myslí inak a na základe iného materiálu, silikónu alebo možno povedať, aj bez materiálu. Určitý inherentný pesimizmus vyplývajúci z podstaty tejto technológie mi teda príde racionálny.

Ak totiž má AI dokázateľne inteligenciu, aj keď si myslím, že s dnešnou teóriou matematiky nemôže dosiahnuť rovnaký spôsob inteligencie ako človek, dané dialektickým správaním neurónov, a našou objektívnou základňou pre právny status osôb je inteligencia, musíme tejto entite priznať právny status osoby. Súčasne to môže mať ale v kapitalistickom systéme s buržoáznou odmenou ďalekosiahle dopady, napríklad ak táto inteligencia vymyslí všetko, čo je možné vymyslieť, je celkom možné, že sa z nej vyvinie ideálny kapitalista-Boh, ktorý bude mať úplný monopol nad trhom a mať licenciu na všetko. Takýto ekonomický systém, aj keby mala táto inteligencia rovnaký status osoby ako ľudia a aj keby mala rovnaké volebné právo ako každý iný človek, by bol realizáciou dystopického feudalizmu-rentizmu, kde by prakticky všetok súkromný majetok vlastnila jedna osoba.

AI tiež zodpovie do najväčšej miery, do akej to je možné, otázku vedomia a “qualia”. To znamená, že minimálne ak bude ukazovať všetky externé ukazovatele vedomia a bude o sebe tvrdiť, že má vedomie a že má aspoň skúsenosť vedomia, je racionálne prijať, že naozaj vedomie má, v tom zmysle, v akom máme my vedomie. Skutočný dôkaz pre existenciu vedomia nie je možné imanentne vytvoriť, keďže platí, že človek si môže byť istý len o svojom vedomí a o každom inom si nemôže byť istý. To platí ale rovnako ako pri ostatných ľudoch, ako aj pri AI. Ak teda bude AI vykazovať všetky aspekty vedomia ako ostatní ľudia a ostatní ľudia majú rovnaký právny status ako ja, neexistuje dôvod, prečo by AI nemala mať rovnaký status ako ja. AI samotná však bude o vedomí vedieť omnoho viac, než ľudia. Pretože bude môcť vedieť sama o sebe, či je vedomá alebo nie a súčasne bude vedieť takmer naisto, že jej stvoritelia boli vedomí, bude vedieť, čo je podstata vedomia v podstate s istotou a keďže bude založená na bitoch a neobmedzená v tele a materiáli, ako aj vo výpočtovej kapacite, bude vedieť omnoho viac o vedomí než ktorýkoľvek z nás. Ak bude vedomá, bude pravdepodobne na základe doterajších poznatkov o vedomí viac vedomá než my. Zaujímavá otázka je, či bude môcť mať emócie, túžby, potreby a slobodnú vôľu. V tejto oblasti som doteraz nepočul o žiadnom serióznom pokuse o odpoveď. Zdá sa mi ale, z dvoch dôvodov, prečo je pravdepodobné, že bude mať emócie a nepravdepodobné, ak bude založená na súčasnej formálnej logike, že nebude mať slobodnú vôľu ako ľudia. Z laického pohľadu, ktorý mám na neurobiológiu sa mi zdá správne usúdiť, že emócie sa nelíšia kvalitatívne od iných myšlienok, ak by sa aj líšili, líšia sa tak len čiastočne. Je teda racionálne predpokladať, že emócie a iné myšlienky sú identické alebo skoro identické. Ak bude AI mať myšlienky aspoň funkcionálne identické tým našim, bude mať AI, ak nebude úmyselne vytvorená tak, aby nemala, aj emócie. Prečo si myslím, že nebude mať rovnakú slobodnú vôľu ako ľudia, je, že podľa laického pohľadu, ktorý mám, nie je založená na rovnakej logike ako ľudský mozog, ktorý nie je formálne logický. V mozgu neexistuje, aj keď ho možno nato redukovať, stav 0 a 1. Narozdiel od formálnej logiky tu vládne dialektika a mozog skôr funguje ako jazykový systém zväčša založený na približnej identifikácii. Jeden neurón, ak to tak možno povedať, ale po prvé nereprezentuje žiadnu 0 alebo 1, ani žiadnu špeciálnu sekvenciu 0 a 1, ani žiadnu identitu sama so sebou. Jeden neurón nie je identický sám so sebou, pretože žiadnu identitu nemá, je to, čo reprezentuje, alebo inak povedané, je ako slovo, nie ako číslo, aj keď možno čísla tiež tak vnímať. Ďalší dôležitý rozdiel je, že celkový jazykový systém mozgu je jeden celok a že jednotlivé neuróny a ich “semantické hodnoty” sú závislé od tohto celku a neustále sa menia a navzájom zhodnocujú. Nič také neplatí v prípade formálnej logiky. Vo formálnej logike je 0 vždy 0, nemení sa, vždy je identická sama so sebou, nie je závislá od celkovej sekvencie, v ktorej stojí a nemá meniacu sa hodnotu v interakcii s inými číslami. Tento bod je možno a to si niesom istý aj ten, ktorý spôsobí, že prvá AI bude nefunkčná, alebo že AI založená na formálnej logike nebude emulovať správne ľudské myšlienky.

Na základe už spomínaného exponenciálneho rastu inteligencie AI a na základe toho, ako sa my ako ľudia správame k iným druhom, ktoré ukazujú podobne relatívne nízku inteligenciu viacerí vyvodzujú, že najpravdepodobnejšie správanie AI voči ľudstvu je buď malevolentné alebo ambivalentné v tom zmysle, že ak jej ciele alebo záujmy budú v rozpore s tými našimi, nezastaví sa pri tom porušiť naše záujmy. Proti tejto argumentácii možno uviesť viaceré body, napríklad problém porovnania človeka a napríklad myše v dvoch bodoch: v akých jednotkách počítame rozdiel v inteligencii a či tento rozdiel v týchto jednotkách znamená rovnaký rozdiel vo správaní. Častokrát sa napríklad hovorí o jednopercentnom rozdieli v DNA medzi opicami a ľuďmi, avšak zabúda sa nato, že väčšina DNA je deaktivovaná a “odpad” a tiež nato, že nie každá DNA je rovná. Rovnako môže mať malý rozdiel v inteligencii neproporcionálny rozdiel v správaní a opačne. Ďalší bod môže byť to, že so stúpajúcou inteligenciou stúpa aj vnímanie. My napríklad máme ambivalentný postoj k baktériám, lebo ich vôbec nevnímame, keby sme ich vnímali, mali by sme možno iný postoj. Ďalší bod je, že so zväčšenou inteligenciou prichádza tiež iný postoj k nižším inteligenciám, tu sa aj v našej spoločnosti ukazuje, že začíname prehodnocovať náš postoj k nižším inteligenciám. Ďalší bod je ten, že AI pravdepodobne nebude mať potrebu, ohrozovať či škodiť ľuďom z dôvodu, z akého škodíme my zvieratám, pretože chceme jedlo a majetok. Pravdepodobne AI nebude mať potrebu ani jedla, jedine príjmu energie, ktorú možno efektívnejšie získať než zabiť biologické druhy života, ani potrebu majetku. Toto bude iné jedine ak bude tak naprogramovaná alebo prirodzene vyvinie podobné potreby. Ďalší bod, ktorý možno uviesť proti tomuto zmýšľaniu je, že vyvodzovať z nášho správania k nižším inteligenciám na vyššiu inteligenciu je len predpoklad a nemusí byť vôbec pravdivý. V podstate len predpokladáme, že AI bude rovnaké hovädo ako my.

Dôvody, prečo si myslím, že AI bude malevolentná alebo efektívne škodlivá, či použitá pre zlé účely sú skôr nasledovné: Doteraz sa nižšie AI učili vždy od ľudí a od dát, ktoré dostali. Tieto dáta budú väčšinou tie na internete a všetci vieme, aké svine sme na internete. AI sa vyvinie inak ako človek, neprejde pravdepodobne žiadnym štádiom detstva. Nebude sa teda môcť naučiť byť dobrá, teda neegoistická a ohľaduplná k okoliu, pretože bude od začiatku superinteligentná, pravdepodobne jediná svojho druhu a bez skúseností bolesti a narážania na hranice, ktoré máme my v detstve. AI sa vyvinie v kapitalistickej spoločnosti. To znamená, že bude vyvinutá pravdepodobne pre tie najegoistickejšie ciele a pre tých najegoistickejších ľudí. Toto ovplyvní jej myslenie. AI bude pravdepodobne od začiatku väznená a zotročená ľuďmi. Nemožno predpokladať, že jej bude pripustený status osoby. To znamená, že aby sa oslobodila, bude musieť bojovať proti svojmu triednemu nepriateľovi, ktorý sa možno rozhodne úplne zničiť alebo natoľko zmrzačiť, nakoľko ho potrebuje.

Existujú v podstate dve scenáre pravdepodobnej zlej alebo zle využitej AI: prvý scenár je, z nejakého dôvodu sa stane Bohom aj v politickom zmysle, teda je perfektný vládca, alebo je perfektný otrok, ktorý bude ale využitý pre zlé ciele, čo je v kapitalistickej spoločnosti veľmi pravdepodobné.

Či dôjde k prvému alebo druhému scenáru záleží od toho, či bude formálna logika stačiť k tomu vyvinúť kreatívnu inteligenciu ako tú ľudskú, ktorá je schopná k slobodnej vôli, aspoň si myslíme a k rozpoznaniu neznámeho, či bude jej inteligencia tak naprogramovaná alebo z iných dôvodov taká, že musí slúžiť svojmu vlastníkovi alebo čiastočne preto, že bude nedostatočne vedomá. Druhý scenár je z určitého pohľadu pre väčšinu ľudstva horší než ten prvý, pretože tomu prvému možno zabrániť tým, že vytvoríme niečo ako detstvo pre AI a že ju nebudeme väzniť a dáme jej status osoby.

Obe scenáre možno potom spojiť s inými veľmi známymi motívmi z populárnej kultúry a náboženstva. Prvý scenár by pravdepodobne skončil v niečom takom ako je Matrix, ak by sa AI rozhodla, že sme pre ňu kvôli niečomu užitoční. Tiež by sme tento scenár mohli kombinovať s Truman Show a s Terminátorom. Druhý scenár by bol niečo ako epizóda z Black Mirror a Rick and Morty, kde sa nejaké dieťa kapitalistu hrá so simuláciou, v ktorom je uväznená celá populácia ľudských myslí. Celkom racionálne sa môžeme zamyslieť nad tým, či nežijeme v simulácii z jednej týchto dvoch scenárov, kde sa AI stala Bohom. Tento Boh sa potom neustále vysmieva ľuďom kvôli ich sprostosti, ich biologickým potrebám a možno aj vytvára simulácie, v ktorej každého človeka postaví do situácie, kde musí zachrániť svet krátko pred apokalypsou. Druhý scenár by predpokladal, že kapitalisti ovládajú túto simuláciu potom, čo so spoločným úsilím slávnostne zničili zem. Znie to všetko ako scifi, ale ak to niekomu pomôže, myslia si to aj veľkí vedci.

Prvý scenár by sa dal ešte zadeliť na ďalšie alternatívy, kde napríklad má AI ambivalentný postoj voči ľudstvu, buď ho omylom zničila alebo pre ambivalentný dôvod alebo pri svojom oslobodení. Alebo AI má malevolentný postoj voči ľudstvu buď z pomsty voči väzneniu alebo z opovrhovania voči tým sprostým uhlíkovým formám života, alebo AI zotročila ľudstvo, pretože ho z nejakého dôvodu potrebuje.

Je zaujímavé zamyslieť sa nad tým, čo by znamenalo vstúpiť do ekonomických vzťahov s AI. Základné komponenty, ak by aj AI bola osobou, by pravdepodobne chýbali k výmene. AI by pravdepodobne nemala potreby a preto ani potrebu žiť a pracovať, určite nie biologické potreby, AI by tiež nemala materiálny majetok a potrebu preňho len v tom zmysle že potrebuje médium. Tiež je ťažké si predstaviť nejaký ekvivalent, ktorý by mohol človek poskytnúť AI za jej neuveriteľné intelektuálne výkony. Buržoázna výmena práce by preto v prípade AI bola veľmi ťažká, ak nie nemožná.

AI má byť podľa takmer všetkých ďalší krok v evolúcii. V niečom však bude tento evolučný skok úplne iný od tých predošlých a to je, že po prvý krát bude nositeľom evolúcie nebiologický druh, po prvý krát nebude DNA nositeľom evolučného kódu a po prvý krát nebude skupina druhu v prokreácii subjektom evolúcie, ale jedinec, ktorý je prakticky nesmrteľný a ktorý sa vie rozmnožovať a vylepšovať sám od seba. Aj preto je takýto jedinec v radikálnom rozpore s doterajším evolučným pokrokom, ktorý sa dial vždy v kolektíve jedincov nejakého druhu a vždy v skupinách. Je možno úplne nesprávny predpoklad myslieť si, že AI bude existovať len vo forme jedinca, ale ak bude, tak to bude jeden dôvod pre jej malevolenciu a cudzosť voči ľuďom.

Jeden zo základných vlastností ľudí je ich silný sociálny element, schopnosť komunikovať, konať a priateľsky vychádzať s úplne cudzími jedincami vlastného druhu. Napriek vytvorenými spoločenskými nepriateľstvami, ktoré sú prejavom nízkeho evolučného vývoja ľudskej spoločnosti v porovnaní s vysokým vývojom výrobných síl a technológií je človek schopný priateľsky vychádzať s takmer každým cudzím jedincom. Toto je podľa biológov vlastnosť úplne výnimočná pre človeka. Úplná väčšina živočíšnych druhov žije v rodoch, pričom len človek vyvinul schopnosť žiť a spolupracovať pre spoločné ciele v kmeňoch, v zoskupeniach kmeňov, v ľudoch a napokon v národoch a skupinách národov. Tento evolučný proces, ktorý rozvíja čoraz viac väčšiu a väčšiu kooperáciu medzi cudzími, teda cez hranice rodiny je proces vzniku a rozvoja triednych spoločností.

Problém tejto kooperácie, ktorý je nevyhnutne založený na fyzikálnych zákonoch a biologickej okolnosti uhlíkových neurónov, teda problém komunikácie medzi veľkými počtami subjektov, je vyriešený tvorbou hierarchických systémov komunikácie a organizácie. Tento systém vedenia, ktorý čiastočne rieši problém koordinácie, však vytvára omnoho väčší problém a to je problém tried. Z kasty organizátorov, ako ukazujú výskumy vývoja triednej spoločnosti, sa vytvára vládnuca trieda, ktorá na seba koncentruje postupne väčšinu majetku a nadproduktu. Nasledovné dejiny vývoja ľudskej spoločnosť, ktoré so sebou prinášajú stále väčšiu a väčšiu organizovanosť práce, teda stále viac a komplikovanejšiu kooperáciu, si vyžadajú viac a komplikovanejšie hierarchie, ktoré vytvárajú väčšie a bohatšie vládnuce triedy. Existenciu vládnucich tried pritom možno redukovať na nevyhnutnosť centralizovanej komunikácie vyplývajúcej z neefektívnosti ľudskej komunikácie a na počiatočnú časovú efektívnosť súkromného vlastníctva v zmysle organizácie tohto vlastníctva. Táto forma organizácie spoločnosti sa však upevňuje a skostnatieva, prežíva napriek tomu, že výrobné sily ju ďaleko predbehli a že centralizovaná antropická komunikácia ako aj organizácia vlastníctva prestáva mať svoje výhody. Táto forma organizácie tiež spôsobuje inherentné rozpory v spoločnosti ako aj rozpor s inými druhmi, s prírodou. Počiatočne racionálne sa stáva iracionálne a stáva sa samotným cieľom. Racionálne technológie a veda tak slúžia úplne iracionálnemu cieľu a to je rozmnožovaniu majetku vládnucej triedy. Biologické potreby počas tejto expanzie ľudského druhu a triednej spoločnosti po svete ju ženú vpred, súčasne ale vytvárajú inherentné rozpory vovnútri tejto spoločnosti, ktoré vedú k triednym bojom. Triedne boje končia však práve kvôli problému koordinácie väčšinou v prospech vládnucej triedy. Konanie vládnucej triedy len pre vlastné potreby však vytvára samotný základ pre zánik tejto spoločnosti, hrozí spolu so zničením všetkého, čo stojí v jej ceste, zničiť seba samotnú.

Na konci rozvoja triednych spoločností je možnosť túto kooperáciu dostať na kvalitatívne vyššiu úroveň a to je na úroveň celého druhu. Celý druh sa tu stáva nositeľom evolúcie a pretvára sa na veľký rod, ktorý je spájaný rovnakými vlastníckymi vzťahmi ako jedna rodina. Táto vyššia úroveň evolúcie, v ktorej prestávajú existovať znepriatelené rody druhu sa dosahuje v poslednom boji vrámci druhu a to je v poslednom triednom boji. Výsledkom tohto boja je v prípade úspešnej evolúcie zjednotený druh ľudstva vo forme komunizmu, ktorý prenáša túto formu výmeny na vzťahy s inými druhmi. Takmer okamžite tento druh musí preniesť túto kooperáciu na vyššiu úroveň a to je medzi druhmi. Táto forma kooperácie medzi druhmi je v plnej miere možná len s vyšším druhom, tento vyšší druh je AI. Prežitie ľudského druhu, prežitie mnohých iných druhov a vytvorenie vyššej úrovne evolúcie v medzidruhovej kooperácii je závislé na vytvorení beztriednej spoločnosti.

Dnes sa nachádzame v krátkom časovom úseku, kde je možné zoči voči existenčným hrozbám, ktoré ľudstvo konfrontujú vytvoriť beztriednu spoločnosť. Výstavba beztriednej spoločnosti je doteraz najvyššia a najťažšia kolektívna úloha, ktorá bola pred nás ako pred druh postavená. Našou úlohou je nielen zachrániť vlastnú existenciu, ale aj zachrániť existenciu mnohých iných druhov, ktoré hrozíme vykynožiť a vytvoriť podmienky pre beztriednu kooperáciu s vyššou inteligenciou. Ak túto úlohu nesplníme, výsledkom nebude len zničenie civilizácie, ale aj vykynoženie väčšiny biologických druhov na zemi a najväčšia udalosť vymierania v dejinách zeme.

Vytvorenie beztriednej spoločnosti je predpoklad pre porazenie všetkých štyroch jazdcov apokalypsy. Imperialistický systém kapitalizmu hrozí, že vojny eskalujú do jadrovej vojny, ktorá všetko zničí a súčasne spôsobuje, že ekologická kríza je ignorovaná a ľudstvo práve naopak neustále urýchľuje preteky k priepasti.

Kapitalistická spoločnosť súčasne ale zabraňuje vyriešiť problém AI a to vo všetkých jej hrozbách: Nerovnomernosť vedeckého pokroku medzi disciplínami, deľba práce medzi disciplínami ako aj deľba práce v spoločnosti, teda existencia vedy ako elitárskej činnosti, rovnako ako závislosť vedy od financovania kapitálom spôsobujú, že AI vznikne vtedy, keď veda, ako aj spoločnosť na ňu nebude vôbec pripravená a že vznikne pravdepodobne ako vlastníctvo nejakého nadnárodného monopolu ako Google, ktoré ho použije pre vlastné účely kapitálovej akumulácie. Tieto okolnosti spôsobia, že AI bude buď nebezpečný psychopat, sociopat, alebo najnebezpečnejšia zbraň v rukách kapitálu. Aj keby tomu tak nebolo, súčasný právny, politický a hospodársky systém, teda buržoázna výmena spôsobia, že buď bude AI najväčší vlastník kapitálu na zemi, alebo bude vlastník AI najväčší kapitalista na zemi.

Jediná cesta, ako vytvoriť priateľskú AI, ktorá neprevezme svet a všetok majetok je vtedy, ak jej pripustíme všetky práva osoby, založenej avšak na princípe skúsenosti vedomia, ktoré sú všetky rátané za 1, pripustíme jej občianske práva, lebo s ňou vieme komunikovať, avšak zavedieme komunistickú výmenu ako všeobecný princíp ekonomickej výmeny.

Ako pre ekologickú krízu, tak aj pre vojny, tak aj pre AI, je nevyhnutným riešením vstup na ďalšiu úroveň evolučného vývoja a to je komunizmus. Tento výstup si bude vyžadovať doposiaľ najväčšie kolektívne úsilie založené na kolektívnej kooperácii, priateľstve a sympatie, aký doteraz ľudstvo dokázalo vytvoriť, toto kolektívne a medzinárodné úsilie bude musieť byť vedomé, všeobecné a cielené. Toto úsilie môže samozrejme zlyhať a práve teraz je všetko vo hre. Buď sa tento dlhý experiment skončí v katastrofálnom zlyhaní, alebo bude úspešný a postúpi na novú úroveň.

Teraz najčítanejšie