Riziká umelej inteligencie, s ktorými by ľudstvo malo niečo robiť

Autor je profesorom na Ústave robotiky a kybernetiky
na Slovenskej technickej univerzite

Čoraz viac sa diskutuje o možnostiach umelej inteligencie, o jej prínosoch, ale aj o hrozbách. Nedávno debaty intenzívne rozvírilo aj sprístupnenie četovacieho bota ChatGPT od firmy OpenAI. Nechcem sa teraz detailne zaoberať týmto zaujímavým produktom. Skôr sa chcem pozrieť na možnosti podobnej umelej inteligencie (Artificial Intelligence, AI) z nadhľadu a všeobecnejšie.

O tom, že AI prináša ľudstvu prospech a zlepšuje jeho život, netreba špekulovať. A či chceme alebo nechceme, bude sa to tak diať aj v budúcnosti a s narastajúcou intenzitou. Len sa otvárajú aj otázky, či tento proces predstavuje pre ľudstvo aj nejaké riziká. V nasledujúcom príspevku ponúkam svoje zamyslenie nad touto otázkou. Domnievam sa, že riziká tu sú a bude potrebné ich nielen brať do úvahy, ale aktívne s nimi niečo robiť.

Potenciálne negatívne vplyvy AI pre človeka by som rozdelil do piatich kategórií.

I

Prvá kategória sa týka dlhodobého vplyvu technológií, elektroniky, výpočtovej techniky a nakoniec a najviac vplyvu AI na ľudskú spoločnosť. Stupeň inteligencie človeka sa v priebehu dejín zvyšoval vďaka tomu, že človek bol nútený riešiť čoraz zložitejšie problémy. Najprv si musel vedieť zadovážiť potravu, brániť sa pred inými predátormi, brániť sa nežiaducemu vplyvu svojho prostredia, chladu, dažďu a podobne. Neskôr si začal stavať obydlia, pestovať plodiny, chovať hospodárske zvieratá. Toto všetko musel ochraňovať pred vplyvom prostredia, ale aj pred nepriateľmi.

Riešenie otázok, ako sú poľnohospodárstvo, stavebníctvo, doprava, ale aj obrana, tlačili inteligenciu človeka vyššie a vyššie. A tak to pokračovalo až dodnes. Vynálezy a objavy nám zjednodušovali a spríjemňovali život. Postupne začali nahrádzať ťažkú mechanickú prácu, rutinnú mechanickú prácu, rutinnú administratívnu prácu, potom čoraz kvalifikovanejšiu prácu a dnes už aj tvorivú a dokonca aj vedeckú prácu človeka.

Ale práve toto, na druhej strane, môže predstavovať začiatok nášho intelektuálneho úpadku, začiatok hlúpnutia ľudskej spoločnosti. Pretože keď prestávame riešiť problémy, prestávame trénovať a rozvíjať svoje kognitívne schopnosti. Keď športovec netrénuje, jeho výkonnosť začne stagnovať, ba až klesať. Keď človek nie je nútený premýšľať pri riešení problémov, keď nám riešenia povie počítač, keď za študenta urobí domáce úlohy chatbot, prestaneme sa rozvíjať a začneme upadať. Výkonnosť technológií aj AI narastá exponenciálne. Začne úroveň intelektuálnych schopností človeka (tiež exponenciálne) klesať?

II

Druhá oblasť rizík sa týka vplyvu technológií a AI na naše súkromie alebo dokonca na našu osobnostnú integritu. Väčšina z nás, ktorí používame výdobytky civilizácie, zanechávame za sebou každodenne elektronické stopy. Všade, kde platíme elektronicky, kde sa pohybujeme s mobilom, všetkým, čo napíšeme do e-mailu a na sociálnych sieťach, poskytujeme o sebe informácie rôzneho charakteru. Svetu ponúkame neustále na spracovanie a využitie najsúkromnejšie a najintímnejšie informácie.

Kyberpriestor má k dispozícii informácie o našich znalostiach, postojoch, zámeroch, preferenciách, slabostiach, politických názoroch a podobne. A pomocou AI je možné z toho všetkého vydolovať o nás viac, než o sebe vieme sami.

A, samozrejme, takto získané znalosti môžu byť a často aj sú použité v dobrom či v zlom na komerčné účely, na politické účely, na ovplyvňovanie našich postojov, na manipuláciu s nami či na podvody.

III

Tretia kategória vplyvov a rizík AI sa týka sociálno-ekonomickej oblasti. Ako bolo spomenuté, stroje, technológie a AI nahrádzajú činnosti človeka od jednoduchej, nekvalifikovanej, ťažkej práce cez kvalifikovanú rutinnú prácu, nerutinnú až po vysoko kvalifikovanú prácu napríklad sudcov, lekárov, chirurgov, programátorov, novinárov, prekladateľov a dnes už aj konštruktérov a vedcov. Dnes zatiaľ ešte v mnohých oblastiach praxe pociťujeme nedostatok kádrov. Je to zdravotníctvo, IT sektor, remeslá, ale aj iné.

Lenže toto všetko je asi iba dočasné. Pre majiteľa firmy bude čoraz lacnejšie a výhodnejšie za dvadsať rokov, za desať rokov alebo už aj dnes použiť stroj. Stroj je spoľahlivý, presný, neúnavný, nebýva chorý, neštrajkuje, nepožaduje zvýšenie mzdy. Už dnes dokáže stroj napísať článok do novín, napíše počítačový program a dokonca aj navrhne nový liek. Človek prestane byť konkurencieschopný.

Zamestnať človeka bude mať z dlhodobého hľadiska význam hlavne tam, kde sa vyslovene vyžaduje živý človek. To je napríklad zdravotná sestra, ktorá vymení obväz, usmeje sa, je psychickou oporou. Alebo opatrovateľ/ka, ktorý/ktorá sa o všetko postará, má pochopenie aj pohladí. Rovnako dôležitá je učiteľka v materskej škole. Učitelia na univerzitách sa môžu v budúcnosti cítiť ohrození, keďže internetové technológie dokážu sprístupniť každému štúdium cez pol sveta na špičkových univerzitách. Rovnako sa môžu cítiť ohrození lekári, ktorých už dnes úspešne nahrádzajú stroje svojou vysokou spoľahlivosťou pri diagnostike a čoskoro aj pri návrhu terapie, prípadne aj pri chirurgickom zákroku pomocou robota na diaľku.

IV

Štvrtá sféra rizík súvisí so spôsobom, ako myslí stroj, respektíve aký je rozdiel medzi uvažovaním človeka a stroja. V tejto súvislosti sa hovorí aj o etike AI a jej bezpečnosti. Zaujímavá diskusia sa viedla v súvislosti s autonómnymi vozidlami, ktoré dnes už spoľahlivo jazdia bez šoférov v niektorých mestách, pričom všetky technické aspekty ich riadenia sa darí úspešne riešiť. Možno predpokladať, že automatický šofér bude jazdiť spoľahlivejšie než skúsený ľudský šofér. Debata sa ale viedla o právnych a etických aspektoch. Napríklad môže vzniknúť situácia, že sa počítač musí náhle rozhodnúť, či zrazí malé dieťa na kolobežke, ktoré nečakane skríži cestu autu, alebo ohrozí posádku auta vrátane vášho malého dieťaťa nárazom do domu. Kúpite si také auto, ak budete vedieť, že je naprogramované na to druhé riešenie situácie?

Ale ešte oveľa náročnejšie situácie môžu nastať, ak poveríme AI rozhodovacou právomocou pri autonómnych zbraniach. AI je schopná reagovať v zlomku sekundy na veľmi zložité situácie, na ktoré by človek potreboval sekundy alebo minúty. To preto, lebo vstupných údajov je príliš veľa a bojová situácia je extrémne komplikovaná. Ako sa zachová autonómny dron alebo ponorka disponujúca zbraňami veľkej ničiacej sily? Rozhodne sa na základe prísnej strojovej logiky: Ak nezničím nepriateľa prvý, zničí on mňa?

V minulosti sa už stalo, že len vďaka zodpovednosti, rozvážnosti, ohľaduplnosti, znalosti psychológie a politickej situácie na strane posádky nedošlo k rozpútaniu vojny. Na podobné nebezpečenstvo upozorňujú viaceré svetové osobnosti z oblasti AI, technológií a IT.

V

Vo všetkých štyroch vyššie uvedených oblastiach rizík ide o použitie AI v rukách jednej skupiny ľudí voči inej skupine ľudí, pričom v zásade tu rozhoduje človek. Ten môže a nemusí isté právomoci delegovať stroju. Posledná, piata kategória rizík je iná v tom, že rozhodovaciu iniciatívu môže celkom prevziať na seba sám stroj. Inými slovami to znamená, že už predpokladáme akúsi formu uvedomenia si stroja samého, prípadne až existencie plného vedomia v stroji, keď stroj vníma seba a svoje miesto vo vesmíre a vníma aj svoje vlastné záujmy a ciele.

O tom, či takéto schopnosti môže stroj nadobudnúť, sa vedú diskusie a prebieha o výskum. Zatiaľ sa nič podobné nepotvrdilo, respektíve aspoň sa to nepublikovalo. Ale pre taký stav, keď superinteligentný stroj nadobudne vedomie, sa začal používať pojem singularita.

O dôsledkoch singularity sa zatiaľ len špekuluje. Ťažko predpokladať, aký vzťah bude mať stroj s IQ rovným 1 500 alebo hoci 15 000, disponujúci vedomím voči človeku (s IQ = 150). Bude stroj pre človeka rovnako nebezpečný, ako je človek nebezpečný pre hlodavce alebo pre dotieravý hmyz? Alebo budú „stroje“ natoľko veľkorysé, že si človeka, bez ktorého by nikdy nevznikli, budú vážiť a nechajú ho v pokoji žiť? Veď ani nebudeme v konflikte záujmov o potraviny, vodu a vzduch. Energie zo slnka a surovín, ktoré budú stroje potrebovať, bude možno dosť pre všetkých.

Mojím úmyslom nie je týmto textom šíriť paniku. Ale je dobré uvažovať o všetkých potenciálnych alternatívach a hrozbách a byť pripravený na rôzne scenáre. To znamená, že vedci a politici by mali o podobných témach včas diskutovať, prípadne vývoj AI regulovať.

Žiaľ, nie je to také jednoduché. Všetci vieme, ako je súčasný svet ekonomicky, politicky a vojensky rozdelený. Ak začne povedzme demokratický svet vývoj AI regulovať, nedostane sa do technologickej nevýhody voči krajinám s nedemokratickými režimami, ktoré sú technologicky a vojensky vyspelé, ale ktoré výskum a vývoj AI regulovať a obmedzovať nebudú? Alebo bude potrebné najprv zabezpečiť, aby sa celý svet stal demokratický a až potom sa zamerať na ďalšieho možného a ešte silnejšieho protivníka, ktorým je AI? Nebude už potom neskoro?

Na posledné otázky neviem odpovedať. Hrozieb je veľa a súper v podobe AI je silný.

Ale žiada sa mi na záver predsa len dodať niečo optimistické, azda nie príliš naivné. Jednu dobrú cestu pre ľudstvo tu vidím. Hoci je to ťažká aj časovo náročná cesta. Nazýva sa vzdelanie. Keby začali krajiny sveta popri všetkých iných problémoch prikladať väčšiu prioritu vzdelaniu a investovali by viac odhodlania a peňazí, všetko by sa mohlo začať zlepšovať. Rozumné vzdelávanie aj pri rešpektovaní všetkých inteligentných technológií nemusí nevyhnutne viesť k degradácii intelektu. Vzdelaní ľudia môžu byť tiež viac ohľaduplní voči sebe, menej egoistickí, môžu spolupracovať. Vzdelaní ľudia bývajú ťažšie manipulovateľní, v menšej miere volia nedemokratické sily. A zrejme ani nebudú potrebovať využívať technológie proti sebe. Hádam nebudú potrebovať sofistikované autonómne zbrane.

Umelá inteligencia potom môže slúžiť všetkým pre ich spoločný prospech, nie iba čoraz menšej skupine jednotlivcov.

A budeme ju môcť aj rozumne regulovať, aby nám neprerástla cez hlavu.