Prežijeme umelú inteligenciu?

Autor je vysokoškolský pedagóg, FEI STU Bratislava

Pojem umelá inteligencia (UI) je dnes už vo verejnosti dobre známy. Stručne a výstižne môžeme povedať, že pod UI chápeme schopnosť strojov alebo počítačov napodobňovať inteligentné správanie sa živej prírody, hlavne človeka. Dnes sa stále častejšie diskutuje o tom, čo nám tieto nové technológie môžu priniesť. Pritom rôzne predpovede sa pohybujú od optimistických až po katastrofické.  V tomto príspevku si stručne, na mozaike niekoľkých príkladov, ukážeme, čo dnešná UI dokáže, a pokúsime sa predpovedať, čo bude nasledovať v blízkej alebo vzdialenejšej budúcnosti.

Súčasný stav UI

Väčšina čitateľov iste počula o tom, že dnes sa už testujú a na niektorých miestach aj používajú autonómne autá, ktoré jazdia bez ľudského šoféra a už sa plánuje ich bežná prevádzka. Takéto automobily kamerou a senzormi vnímajú svet okolo seba, samy sa rozhodujú a pohybujú sa v dopravnej premávke. Sú tu síce ešte isté etické a legislatívne otázky, ktoré sa však vyriešia. Čoskoro tak budú autonómne stroje schopné nahradiť kvalifikovaných šoférov a dokonca sa predpokladá, že premávka bude bezpečnejšia. Podobne existujú mobilné roboty, ktoré sa dokážu pohybovať v neznámom prostredí, objavujú priestor a autonómne riešia zložité problémy.

To, že dnes roboty vo fabrikách vyrábajú automobily alebo televízory bez zásahu človeka, už snáď videl takmer každý. Nahrádzajú tak ťažkú, stereotypnú, ale aj jemnú, precíznu a komplikovanú mechanickú prácu. Iné zariadenia dokážu identifikovať osoby podľa tvárí alebo vyhodnocovať obraz, napríklad z RTG snímky alebo z CT vyšetrenia za účelom lekárskej diagnostiky. A dokážu to už spoľahlivejšie ako človek.

Iné systémy dokážu rozpoznávať reč a komunikovať s človekom. Napríklad smart televízor alebo mobil dokáže vyhľadať na internete človekom vyslovený názov filmu alebo hudobnej skladby. Ale stroje vybavené UI dokážu už nielen slová identifikovať, ale aj pochopiť hlbší význam reči. Podobne počítače dokážu spracúvať surové textové dokumenty. Systém si ich sám „prečíta“, vyberie z nich to dôležité a dá človeku odporúčanie, alebo priamo spraví nejaké rozhodnutie. To znamená, že takéto zariadenie dokáže nahradiť vysokoškolsky kvalifikovaného úradníka.

Už bol overený aj expertný systém, ktorý si najskôr „naštudoval“ veľké množstvo znalostí z tisícok súdnych sporov konaných v minulosti a teraz dokáže s lepšou spoľahlivosťou určiť výsledok aktuálneho súdneho sporu, než veľmi skúsený právnik. A pomaly sa dostávame do štádia, keď stroje analyzujú množstvo vedeckých článkov z istej oblasti a navrhujú neobvyklé, nové a doteraz neznáme výskumné riešenia, ako sú nové lieky, materiály a výrobné metódy. O čom to teda už hovoríme? O tvorivej, vedeckej práci stroja.

Dosiahnu stroje inteligenciu človeka?

O tom, či stroje dosiahnu stupeň inteligencie človeka, sa špekuluje už dávno a prognóz už bolo v minulosti veľa, spravidla nepresných. Tie aktuálne hovoria, že k tomu dôjde o 20 až 30 rokov. V tejto súvislosti sa hovorí aj o takzvanej „silnej“ alebo „všeobecnej“ UI. Tá napodobní inteligenciu človeka v celom jej rozsahu, to znamená od vnímania prostredia cez uvažovanie, učenie sa – až po ovplyvňovanie prostredia.

Alternatívou k silnej UI je slabá UI, za ktorú sa považuje riešenie iba čiastkových úloh, ako je napríklad iba rozpoznávanie obrazu alebo iba získavanie znalostí z textov a podobne. Okrem týchto pojmov sa dnes spomína aj pojem „superinteligencia“. Predpokladá sa, že po príchode silnej UI nastane taká explózia technológií, že stroje sa začnú veľmi rýchlo svojou inteligenciou od človeka vzďaľovať. IQ strojov môže byť nie 140, ale 1 400 alebo 14 000.

Prídeme o prácu?

Dôležitou otázkou, ktorú si dnes ľudstvo kladie je, aký dosah bude mať na našu spoločnosť postupný príchod UI alebo príchod superinteligencie? Manuálna aj administratívna práca človeka je už dnes vo vyspelých krajinách nahrádzaná robotmi a počítačmi. Nasleduje vysoko kvalifikovaná práca a bude nasledovať aj tvorivá výskumno-vývojová práca.

Tu sú na mieste nasledovné otázky: Čo budú robiť ľudia po príchode superinteligencie? Kto bude profitovať z inteligentných strojov a inteligentných fabrík? Keď stroje budú mnohokrát inteligentnejšie než človek, bude ten ešte tvorivo pracovať a bude sa vôbec ešte vyvíjať? Do akej miery budeme závislí od strojov? Uvedené otázky už prestávajú byť problémami iba pre vedcov a technikov a začínajú byť problémami pre politikov. Hlavná otázka je, kto bude vlastniť tieto prostriedky, kto z toho bude profitovať?

Prvý scenár je taký, že inteligentné stroje budú slúžiť všetkým ľuďom na planéte a tí budú využívať ich osoh a budú sa zabávať a rozptyľovať inou činnosťou. V druhom, krajnom prípade budú tieto stroje patriť malému zlomku ľudí na planéte. Ku ktorému prípadu smeruje ľudstvo? Od polovice 70. rokov 20. storočia sa čisté mzdy očistené od inflácie takmer nezvyšujú. Ale príjmy a zisky súkromných spoločností neustále rastú.

Odhliadnuc od otázky vlastníctva prostriedkov UI sú tu ešte aj iné dôležité problémy. Ak vysoko inteligentným strojom delegujeme isté rozhodovacie právomoci, tieto sa budú správať podľa svojej „strojovej logiky“, ktorá nemusí zohľadňovať etiku, morálku, empatiu, ohľaduplnosť, súcit alebo zodpovednosť tak, ako ich chápe človek. Toto môže mať nepredvídateľné následky napríklad v doprave, službách, v zdravotníctve a podobne.

Najväčšie riziko však hrozí pri implementácii UI do zbraní. Jadrové zbrane sú síce nebezpečné, ale doteraz ich mal vždy pod kontrolou človek. A ten ich, po skončení 2. svetovej vojny, už nikdy nepoužil. Bude sa rovnako zodpovedne správať aj superinteligentný autonómny dron, tank či ponorka? Dobre, môžeme si povedať, že aby sme mali správanie zbraní pod kontrolou, superinteligenciu v nich nepoužijeme. Ale čo ak to urobí náš potenciálny nepriateľ?  Budú všetky svetové mocnosti schopné v mene zodpovednosti spoločne sa dohodnúť na regulácii vývoja a použitia UI?

Nová paradigma

A aby toho všetkého nebolo dosť, je tu ešte jedna otázka, ktorá môže byť ešte dôležitejšia než všetko, čo sme doteraz povedali. Tá otázka znie: Budú mať stroje vedomie? Budú schopné uvedomiť si svoju vlastnú existenciu a svoje miesto vo vesmíre tak, ako to dokáže človek? Budú mať stroje vlastné ciele? Prípadne, budú mať emócie, budú schopné pociťovať lásku, priateľstvo, nenávisť, zlosť? Tu sa zatiaľ pohybujeme na tenkom ľade špekulácií.

Nič podobné sa doteraz nepotvrdilo, ale podľa tzv. „Komputačnej teórie mysle“ je existencia vedomia iba otázkou dostatočného množstva neurónov a ich vzájomnej komunikácie. Otázkou teda je, či vedomie môže vzniknúť aj v človekom vytvorenom stroji, ktorý má namiesto biologických neurónov z bielkovín umelé neuróny vyrobené na kremíkových čipoch.

Ak pripustíme, že toto možné je, vynárajú sa nové otázky: Aký bude vzťah inteligentných strojov k človeku? Budú takéto stroje človeka poslúchať? Ak budú mať mnohokrát vyššiu inteligenciu a vlastné ciele, prečo by to robili? Aký budú mať stroje hodnotový systém? Budú stroje presadzovať svoju vôľu na úkor vôle človeka?

Pre stav, keď sa objaví kombinácia superinteligencie a vedomia u stroja sa začal používať pojem „singularita“. Podľa pesimistov bude singularita to posledné, čo človek vymyslí. Stephen Hawking povedal, že „UI môže spôsobiť koniec ľudskej civilizácie. Pomalá ľudská evolúcia bude nahradená rýchlo sa vyvíjajúcou UI“. Elon Musk hovorí: „Myslím, že nebezpečenstvo UI je oveľa vyššie, než nebezpečenstvo jadrových zbraní.“

Môžeme takýto vývoj zastaviť? Vývoj UI prináša technologické, ekonomické aj vojensko-strategické výhody. Záujmy podnikateľov, finančníkov a armády môžu prísť do konfliktu so záujmami ľudstva, kolektívneho dobra, trvalo udržateľného rozvoja. Z toho vyplýva, že konanie vedcov, podnikateľov a svetových politikov by malo byť zodpovedné, regulované a koordinované.