Najzásadnejšia otázka o umelej inteligencii je, či stroj môže mať vedomie

Autor je vysokoškolský pedagóg, FEI STU Bratislava

Dôležitá téma, ktorá sa objavuje čoraz častejšie, je, či môžu alebo budú mať stroje vedomie. Povieme si, prečo je táto otázka dôležitá a čo z toho môže vyplývať pre budúcnosť ľudstva.

Najskôr poznamenajme, čo chápeme pod pojmom umelá inteligencia. Je to disciplína, ktorá ponúka prostriedky napodobňujúce spôsoby, akými živá príroda a človek (čiže prirodzená inteligencia) riešia praktické problémy.

Spravidla ide o zložité problémy, ktoré sme nevedeli vyriešiť „konvenčnými“ metódami. A keďže príroda to dokáže, snažíme sa ňou inšpirovať.

Zjednodušuje život, berie živobytie

Vieme, že inteligentné stroje sa dnes dokážu učiť podobne ako človek – vedia vnímať svet, robiť rozhodnutia, riešiť problémy a zvládať komplikované činnosti. Dokážu nahradiť prácu stredoškolsky aj vysokoškolsky vzdelaných ľudí a čoskoro aj konštruktérov a vedcov. Čiže už hovoríme aj o tvorivej vedeckej práci stroja.

Umelá inteligencia ľudstvu zjednodušuje život. Na druhej strane čoraz viac berie ľuďom živobytie. Pre zamestnávateľov a majiteľov firiem je často efektívnejšie miesto ľudí používať inteligentné stroje, ktoré sú spoľahlivé, disciplinované, neúnavné, precízne aj lacnejšie.

Okrem hroziacej veľkej nezamestnanosti a narastajúcich sociálno-ekonomických rozdielov sa však v budúcnosti črtá aj ďalší a ľudstvo pravdepodobne ešte ohrozujúcejší problém.

Môžu počítače dosiahnuť schopnosti ľudského mozgu?

Ľudia si už dlho kladú otázku, či počítače môžu dosiahnuť schopnosti ľudského mozgu. Je zaujímavé, že rýchlosť pohybu informácie v biologickom mozgu je zhruba miliónkrát pomalšia než v súčasných mikroprocesoroch. Napriek tomu výkon dnešných počítačov ešte veľmi zaostáva za tým, čo dokáže mozog. Je to preto, lebo reprezentácia informácií a organizácia pohybu informácií v biologickom mozgu je výrazne efektívnejšia a prebieha v miliardách neurónov súčasne.

V mikroprocesoroch sa informácie síce spracovávajú veľmi rýchlo, ale tak, že nasleduje jedna inštrukcia programu po druhej, jedno číslo sa spočíta s druhým a až potom sa pokračuje ďalej. Paralelizmu tam je stále pomerne málo.

Aby súčasné počítače dosahovali výkon ľudského mozgu, bola by potrebná hala plná prepojených mikroprocesorov a malá elektráreň na výrobu energie pre ne.

Počítače podobné mozgu

Preto sa v súčasnosti hľadá taká architektúra počítačov, ktorá sa podobá architektúre mozgu a základnými stavebnými jednotkami nie sú radič, aritmeticko-logická jednotka, pamäť (a iné), ako je to doteraz, ale vzájomne husto prepojené umelé neuróny.

V ľudskom mozgu je neurónov 86 miliárd, každý je prepojený s tisíckami iných. Preto sa dnes na viacerých pracoviskách sveta začínajú navrhovať počítače podobné mozgu. Ich základom sú kremíkové čipy s umelými neurónmi, ktoré sa naučia riešiť daný problém podobne, ako sa to učí človek.

Takýto umelý mozog sa učí rozpoznávať tváre ľudí tak, že ich dokola memoruje, až je jeho úspešnosť vyhovujúca, spravidla lepšia než u človeka. Rýchlosť takýchto neuromorfných počítačov je podstatne väčšia než tých klasických (takzvaného von Neumannovho typu) a spotreba energie je tiež radikálne znížená.

Predpovedá sa, že výkon ľudského mozgu dosiahneme o zhruba 10 až 20 rokov. Ale treba poznamenať, že podobných predpovedí už bolo v histórii viac a zatiaľ boli veľmi nepresné a príliš optimistické.

Superinteligencia

V každom prípade sa očakáva, že raz príde deň, kedy výkon človekom vytvoreného počítača prekoná ľudský mozog. A od toho okamihu sa začne výkonnosť počítačov exponenciálne rýchlo vzďaľovať svojej biologickej predlohe. Tomuto stavu sa hovorí superinteligencia.

Stroj na báze superinteligencie bude výrazne úspešnejší v riešení takmer všetkých problémov, než je človek. O sociálno-ekonomických, politických alebo vojensko-strategických dosahoch superinteligencie sa dajú písať knihy a organizovať konferencie, ale to nie je teraz naša téma. Najzásadnejšia otázka nie je, či umelá inteligencia pripraví ľudstvo o prácu, ale či jej vzostup ľudstvo vôbec prežije.

Môže mať stroj vedomie?

Tieto obavy súvisia s otázkou vedomia. Najprv si povedzme, čo je to vedomie. Pohľadov na vedomie je viac a pochádzajú z medicíny, psychológie, filozofie, umenia, fyziky.

Pre naše účely chápme vedomie ako schopnosť jedinca uvedomovať si seba samého, hodnotiť vlastné správanie a uvedomovať si svoje miesto v časopriestore. Z toho následne vyplývajú aj ciele a túžby každého jedinca. Podľa niektorých názorov je stav vedomia vlastný v živočíšnej ríši iba človeku.

Na otázku, kedy počas evolúcie vzniklo vedomie, sa stále vedú diskusie. Podľa neurovedcov je podmienkou vzniku vedomia dostatočne veľké množstvo neurónov v mozgu, ich vzájomná komunikácia, existencia viacerých izolovaných častí mozgu pre spracovanie rôznych funkcií a integrita organizmu v kompaktnom tele.

Otázka, prečo vedomie počas evolúcie vzniklo, ešte nie je uspokojivo zodpovedaná. Prináša to evolučnú výhodu? Inteligentné správanie je možné vykonávať aj bez vedomia.

Podľa Francisa Cricka, ktorý získal Nobelovu cenu za spoluobjav štruktúry DNA, stačí k vytvoreniu ľudskej inteligencie interakcia neurónov. Ľudská myseľ je podľa neho iba stroj na spracovanie informácií. Počítače sú tiež stroje na spracovanie informácií, a preto ak navrhneme správny hardvér a dobre ho naprogramujeme, môžeme vytvoriť myseľ s vedomím.

Na podporenie možnosti vzniku vedomia v stroji môžeme spomenúť aj takzvanú komputačnú teóriu mysle. Podľa nej je vznik vedomia iba otázkou dostatočného počtu neurónov a ich komunikácie. Čiže ak nahradíme ľudský konektóm (prepojená sieť všetkých neurónov v mozgu), ktorý je z vytvorený z bielkovín, umelým konektómom na kremíkových čipoch, môže vzniknúť vedomie v stroji.

Niektorí autori tvrdia, že človek je biochemický algoritmus (vhodnejšie by bolo použiť pojem automat), ktorého správanie je možné opísať podobnými matematickými rovnicami ako pri počítači.

Singularita

Pre situáciu, keď sa superpočítačom podarí docieliť stav vedomia, sa zaviedol pojem singularita. Mnohí psychológovia, neurovedci a biológovia nepripúšťajú existenciu singularity. Naproti tomu medzi počítačovými vedcami a technikmi prevláda „optimistickejší“ názor.

Ak hypotéza o vzniku singularity bude prakticky potvrdená, v istom okamihu sa zrazu v stroji objaví jednotný pocit „som to ja, vnímam svet okolo seba, toto sú moje túžby a ciele“.

Pocit sebauvedomenia u človeka je subjektívny, nedá sa priamo pozorovať zvonka. Preto môžeme iba nepriamo, z vonkajších pozorovaní predpokladať, že vedomie v stroji eventuálne vzniklo. Dôkazom možno bude to, keď stroj začne robiť niečo iné, ako očakával alebo požadoval jeho ľudský tvorca.

Singularitu predpovedá okolo roku 2045

Pripusťme teraz hypotézu, že singularita vznikne. Aké to môže mať následky? Niektorí rešpektovaní autori, napríklad futurista Ray Kurzweil, predpokladajú, že k stavu, keď počítač dosiahne inteligenciu človeka, príde zhruba o desať rokov. K singularite môže podľa Kurzweila prísť okolo roku 2045. Vtedy už bude inteligencia strojov vzhľadom na exponenciálnu rýchlosť vývoja podstatne vyššia než ľudská. Stroje nebudú mať IQ 150, ale povedzme 1500 alebo 15-tisíc.

Aký bude vzťah mnohokrát inteligentnejšieho umelého stvorenia s vlastným vedomím k človeku? Napomôcť nám môže zamyslenie, ako sa správa človek k menej inteligentným živým stvoreniam, povedzme k hlodavcom alebo k domácim zvieratám. Prípadne si pripomeňme, ako sa európski kolonizátori správali k menej vyspelým pôvodným obyvateľom Ameriky či Afriky.

Možno si raz stroj povie: „Toto sú moje túžby a ciele. Ale tento málo inteligentný živočích chce, aby som vykonával všetko, čo mi prikáže. Prečo by som to mal robiť?“ Bude nás inteligentný stroj akceptovať či nebodaj k nám bude prechovávať úctu ako k živočíchovi, ktorý ho stvoril?

Bude poznať niečo ako úcta, vďačnosť, empatia, ohľaduplnosť? Alebo emócie? A čo bude nasledovať ďalej? Nie je možné vylúčiť, že singularita bude predstavovať koniec existencie ľudského druhu.

Koniec našej historickej úlohy?

Z pohľadu superinteligentného robota s vedomím človek už svoju úlohu splnil. Vytvoril umelú inteligenciu z polovodičov a z ocele s vlastným vedomím. To bola jeho historická úloha v jeho kratučkej, zhruba 2,5 milióna rokov trvajúcej epizóde v dlhej histórii planéty Zem.

Inteligentné stroje totiž spontánne, bez pomoci človeka, vzniknúť nemohli – na rozdiel od biologického života a človeka s jeho prirodzenou inteligenciou.

Teraz už však táto vedomá umelá inteligencia môže ovládnuť planétu, bez obmedzení sa klonovať a kopírovať svoje znalosti ďalším, čoraz dokonalejším generáciám.

Následne sa môže bez veľmi veľkých problémov, na rozdiel od biologických organizmov a človeka, presídľovať na iné miesta vesmíru za hľadaním ďalších zdrojov energie a surovín. Lebo energia a suroviny budú to jediné, čo bude k svojej existencii a k svojej evolúcii potrebovať. Nemôžeme vylúčiť, že takéto civilizácie robotov už blúdia po vesmíre a hľadajú nové náleziská železa, kremíka, lítia, uránu a nových priestorov na osídlenie.

Je toto sci-fi alebo možná realita? Túto otázku dnes ešte nedokážeme zodpovedať. Ale je dobré mať toto všetko pri vývoji umelej inteligencie a nových technológií na pamäti už teraz, kým nie je neskoro.

A to podľa možnosti v rámci dohody všetkých relevantných krajín, vedcov a politikov. Lebo pokým nebude dohoda medzi Východom a Západom, Severom a Juhom, bude tu prebiehať nekontrolovaná súťaž a nie zodpovedný a regulovaný výskum umelej inteligencie.