Denník N

Umelá inteligencia prinesie v tomto storočí prudké zmeny. Zíde sa nám flexibilita a odolnosť voči stresu, vraví expert

Odborník na umelú inteligenciu Martin Takáč. Foto N - Vladimír Šimíček
Odborník na umelú inteligenciu Martin Takáč. Foto N – Vladimír Šimíček

🎧 Novinka: Všetky podcasty Denníka N nájdete teraz iba v aplikácii Dennik N. Jej nová verzia má vylepšené funkcie prehrávania. Stiahnite si ju, vyskúšajte a napíšte nám, čo by ste ešte vylepšili.

Martin Takáč sa venuje modelovaniu toho, ako umelá inteligencia rozmýšľa (kognitívne modelovanie). V rozhovore vysvetľuje, že pokrok sa nedá zastaviť, no pri vývoji každej novej aplikácie sa treba zamyslieť, či zmení svet k lepšiemu. V pozitívnom scenári vidí v roku 2100 takmer neviditeľnú umelú inteligenciu, ktorá potichu rieši naše problémy s klímou či zdravím, v najhoršom scenári chaos, diktatúru a zničenie spoločnosti.

V rozhovore sa dozviete aj:

  • či inteligentný četbot potrebuje „telo“;
  • či sa môže z umelej inteligencie stať klasická záporná postava zo sci-fi filmov;
  • ako môžeme vďaka umelej inteligencii lepšie spoznať ľudský mozog;
  • či nás umelá inteligencia prekoná vo väčšine povolaní a čo budeme robiť my;
  • prečo malým deťom pri učení pomáha, že majú krátke ruky a ako to môže využiť umelá inteligencia;
  • čo robí vedec vo firme, ktorú založil držiteľ Oskara za film Avatar.

Tento článok si môžete prečítať vďaka ESET Science Award – oceneniu, ktoré podporuje výnimočnú vedu na Slovensku. 

V online priestore sledujeme rozmach programov umelej inteligencie (AI z anglického artificial inteligence, pozn. red.), ktoré sú dostupné pre všetkých. Ako umelá inteligencia ťaží z toho, že sa s ňou veľa bežných ľudí hrá a skúšajú jej limity?

Umelo inteligentné systémy sa učia z interakcií, no v prípade takýchto obrovských systémov, ako povedzme čet GPT-3, je to len kvapka v mori. Popri biliónoch dát nespraví týchto „pár“ konverzácií navyše veľký rozdiel. Dôležité však je, že to dáva systému publicitu. Verejnosť sa dozvie, že takýto četbot existuje, čo zároveň vyvolá rôzne potrebné otázky. Napríklad či takéto systémy chceme, ako nás zmenia a ako s nimi správne narábať.

Četbot GPT-3 vie napríklad napísať esej, alebo hľadať odpoveď na hocijakú otázku, ktorú mu zadáte. Ako vyhodnocuje, čo v údajoch, z ktorých sa učí, je pravda a čo nie?

Problém týchto systémov je práve v tom, že sa učia z obrovského množstva textu. Tam „zisťujú“, ako vyzerajú správne formulované vety, odseky či celé state. Keď sa tohto systému potom niečo opýtate, pokúša sa vygenerovať vetu, ktorá by najpravdepodobnejšie mohla nasledovať po vete, ktorú ste povedali vy. Naučil sa to na fragmentoch existujúcich textov, ktoré sú dostupné na internete, ale nijako si neoveruje, ktoré texty sú pravdivé a ktoré nie. Takže sa môže stať, že vám úplne plynulo a „s úsmevom“ povie lož či úplnú hlúposť. Ale vyzerá to vierohodne, lebo je to napísané v korektnom jazyku, ktorý by použil človek.

Pre použitie programu inak ako na zábavu to nie je veľmi praktické. Môže sa četbot naučiť rozoznávať pravdu a lož na internete?

Malo by sa to dať, lebo už pred viac než dekádou vyhral systém IBM Watson súťaž Jeopardy, čo je vlastne taký americký Milionár. Tam mu nestačili hocijaké odpovede, museli byť pravdivé. Vtedy bol tento program ešte atrakciou, no dnes je prakticky štandardným rozhraním, ktoré si mnohé firmy kupujú. Samozrejme, im nestačí, aby požadované odpovede mali len dôveryhodný slovosled, musia byť aj pravdivé. Takže v princípe sa umelá inteligencia dá naučiť hľadaniu pravdivých odpovedí. Ale myslím, že len málo AI systémov sa robí týmto spôsobom.

Systém IBM Watson v súťaži Jeopardy. Zdroj – YouTube

Z čoho sa četbot učí? Keď som sa ho pýtala, kto je Zuzana Vitková, napísal, že nemá potrebné informácie k dispozícii. No keď napíšem svoje meno do Googlu, zopár odkazov nájde. Prečo nemá umelá inteligencia k dispozícii celý internet?

Tieto systémy nie sú úplne transparentné, takže môžu mať naprogramované črty, o ktorých neviem. No podľa toho, čo je verejne známe, systém neprehľadáva internet v momente, keď mu položíte otázku. Učil sa predtým – z biliónov viet na internete, z rôznych zdrojov ako wikipédia, reddit a tak ďalej.

Väčšinou to učenie prebieha tak, že mu je predložená veta, v ktorej je jedno slovo zakryté a systém sa ho snaží uhádnuť. Iný variant je, že sa systému dá iba začiatok vety a on má odhadnúť, ako veta pokračuje. Vy mu následne ukážete správnu odpoveď a on si upraví svoje vnútorné parametre tak, aby mal v budúcnosti väčšiu šancu, že na túto otázku odpovie správne.

Sú známe príklady, keď umelá inteligencia v četbotovi odporúčala pridať do materského mlieka rozdrvený porcelán na vyváženie obsahu živín alebo jadrovú vojnu ako fajn nápad na čerstvý začiatok sveta. Môže sa umelá inteligencia rozhodovať bez kontroly?

Závisí od aplikácie, lebo pod pojem umelá inteligencia spadajú milióny softvérových riešení a systémov. Mali by sme veľmi rozlišovať, či je nejaký systém určený na zábavu a chcem sa s ním porozprávať, alebo je to systém poskytujúci informácie, od ktorých bude niečo závisieť v reálnom svete. Napríklad pri monitorovaní jadrovej elektrárne alebo riadení lietadla musia systémy umelej inteligencie podliehať verifikácii. Ale ak sa bavíme o týchto veľkých jazykových modeloch, tak tam nie sú nejaké garancie, že umelá inteligencie vie, o čom hovorí.

Četboty sa nám často snažia „sebavedomo“ odpovedať, aj keď odpovede nepoznajú. Prečo si umelá inteligencia takto bezbreho vymýšľa?

Lebo rieši presne tú úlohu, ktorú sme jej zadali. Nebola trénovaná na to, aby dávala pravdivé odpovede, ale na to, aby vedela konštruovať správne vety v danom kontexte. Veľakrát sa môže stať, že pravdivú odpoveď trafí, lebo aj v trénovacích dátach je veľa textov, ktoré majú hlavu a pätu. Ale nie je tam žiadna garancia. To je problém, lebo predstavte si, že prídete do turistickej informačnej kancelárie a opýtate sa, čo treba vidieť v Bratislave. No a tento systém vám odporučí niečo, čo znie dôveryhodne, ale s povedzme 20-percentnou pravdepodobnosťou to bude úplne vymyslená vec.

Sú aj nejaké prípady, keď sa aplikácia umelej inteligencie „pokazila“ a stala sa z nej klasická záporná postava, ako počítač HAL 2000 vo filme Vesmírna odysea?

Často ide skôr o myšlienkové experimenty s umelou inteligenciou. Napríklad, že vám chce uvariť na večeru vašu mačku, lebo uvažuje inak ako človek a považuje ju za zdroj bielkovín. Vieme, že samojazdiace autá môžu na určitých pozadiach nesprávne vyhodnotiť situáciu a zraziť chodca. Existujú aj takzvané adverzariálne útoky, kde viete šikovnou manipuláciou obrazu zmeniť pár pixelov a zrazu na ňom algoritmus umelej inteligencie vidí niečo úplne iné, zatiaľ čo človek by s tým problém nemal.

Ďalším známym príkladom je četbot, ktorý bol nasadený na web pred pár rokmi, no firma ho musela veľmi rýchlo stiahnuť, lebo sa vyjadroval rasisticky a sexisticky. Stalo sa to aj vďaka tomu, že ten systém sa učil od ľudí. Iba replikoval to, ako sa ľudia rozprávali s ním.

Inteligentný počítač HAL 2000 vo filme Vesmírna odysea. Zdroj – YouTube

Ďalšie momentálne populárne programy umelej inteligencie tvoria obrázky (Midjourney či DALL:Y 2). Keď im zadáte, že na obraze má byť mačka, ktorá žongluje vnútri vesmírnej rakety, umelá inteligencia to za pár sekúnd vyskladá. No pri niektorých požiadavkách, napríklad vytvoriť spolovice človeka a spolovice mravca, zostal program úplne bezradný. Ako umelá inteligencia skladá dokopy naše atypické zadania?

Začnem tým, ako funguje ľudské videnie. Máme na neho v mozgu určených viacero vrstiev neurónov. Prvá vrstva napríklad spracováva iba vstupy zo sietnice, na ktorú dopadá svetlo a deteguje čiary alebo hrany určitej orientácie. Ďalšie vrstvy to skladajú do vyšších celkov – pribúdajú tam informácie o hĺbke, farbe a až niekde veľmi vysoko vzniká rozpoznanie toho, na čo sa pozeráme. To znamená, že všetko, čo vidíme, je poskladané z malých fragmentov, ktoré sa dajú rôzne rekombinovať.

Systém umelej inteligencie je tiež zložený z umelej neurónovej siete s množstvom vrstiev. Vygenerovanie obrázku pritom nastáva až na veľmi vysokej úrovni. Systém určite pozná obrázok mravca aj človeka a pracuje aj s ich textovými popismi, čiže by mal vedieť tieto fragmenty rekombinovať aj do divokých kombinácií, ktoré ešte nevidel. Ale keďže má takýchto fragmentov k dispozícii miliardy, niekedy mu to ide lepšie, inokedy horšie. Pri tom mravcočloveku ste ho zjavne nachytali.

Najbližšie, ako sa umelá inteligencia k mravcočloveku po niekoľkých pokusoch dostala. Zdroj – Z. V. a DALL:E 2

Pri zadávaní úloh umelej inteligencii veľmi záleží na tom, ako ich človek naformuluje, aby sa človek a umelý systém pochopili. Ako zmení častá komunikácia s umelou inteligenciou nuansy tej medziľudskej?

Dal by sa použiť precedens z minulosti. V roku 1997 šachový program Deep Blue po prvý raz porazil majstra sveta v šachu. Odvtedy sa šachové programy berú veľmi vážne a veľa ľudských šachistov s nimi trénuje. To mení celkovú povahu šachu, lebo ľudia začínajú používať ťahy proti niekomu, kto rozmýšľa radikálne inak a to ich tiež mení. Z tohto hľadiska by to teda mohlo mať nejaký vplyv.

Myslím si však, že medziľudskú komunikáciu oveľa viac ovplyvňuje komunikácia pomocou technológií, napríklad cez sociálne siete. Komunikácia sa stáva skratkovitejšou, povrchnejšou a rýchlejšou. Keď som napríklad kedysi chcel vedieť, ako sa niekto má, tak som mu zavolal alebo ho navštívil. Dnes si ľudia sami vešajú na svoju pomyslenú nástenku fotografie a informácie o tom, ako sa majú. Stačí sa na ňu pozrieť a nemusíte ich ani kontaktovať.

Vplyv sociálnych sietí nás civilizačne dosť prekvapil a až s odstupom času vyhodnocujeme, čo sa zmenilo. Sme na masívny nástup umelej inteligencie pripravení lepšie?

Myslím si, že nie sme. Súvisí to aj s tým, že sme evolučne vybavení na pohyb v trojrozmernom fyzickom priestore a väčšinou veríme vlastným očiam a ušiam. Problém je, že informácie, ktoré sú na internete, nemusia byť pravdivé, aj keď ich vidíme na vlastné oči. Toto je problém aj niektorých aplikácií umelej inteligencie.

Rôzne ďalšie aplikácie umelej inteligencie sú schopné zmeniť ľudský hlas, vizáž a iné aspekty reality. Čo sú ich najväčšie nástrahy?

Čiastočne som sa už dotkol toho, že máme tendenciu považovať za pravdivé to, čo si prečítame. Na jednej strane je tu relatívne nový fenomén deepfake, čiže vygenerovanie videa, ktoré nie je záznamom reálnej udalosti, ale vyzerá tak. Ďalším problémom sú napríklad bubliny sociálnych sietí, ktoré umelá inteligencia vytvára. Hovorí sa, že stokrát opakovaná lož je pravdou a keď sa na vás vo vašej vyfiltrovanej bubline zo všetkých strán valí tá istá informácia, tak si začnete myslieť, že to hovorí každý a musí to byť pravda. Ale nie je to tak.

Zatiaľ sme sa rozprávali najmä o zábavných aplikáciách umelej inteligencie ako četboty alebo generátory obrázkov. Kde vidíte najväčšie praktické využitie umelej inteligencie?

Vo viacerých oblastiach. Už dnes nám nesmierne uľahčuje život, napríklad vo forme navigácie či systémov, ktoré mi nájdu najvýhodnejšiu letenku. Ďalšie oblasti majú veľký potenciál do budúcnosti. Napríklad uľahčovanie života ľuďom so zdravotným postihnutím. Viem si predstaviť rôzne aplikácie ako náhradu chýbajúcich zmyslov či schopností.

Z environmentálneho hľadiska sú zase systémy, ktoré by dokázali efektívne plánovať rozloženie zdrojov, napríklad kamiónovú dopravu, aby sa tovary zbytočne neprevážali z jedného miesta na druhé. Viem si predstaviť, že takéto komplexné scenáre by umelo inteligentné systémy vedeli vypočítať a zoptimalizovať oveľa lepšie než ľudia.

A čo zdravotníctvo? Pandémia covidu-19 ukázala, že málo krajín ho má v stave, ktorý postačuje pre prípad globálneho problému. Mnoho krajín, medzi nimi aj Slovensko, má problém aj s dennodennou prevádzkou. Je umelá inteligencia možným riešením napríklad nedostatku všeobecných lekárov?

Do istej miery áno. Viem si to predstaviť na začiatku pandémie, keď ľuďom zúfalo chýbali informácie a nedarilo sa im dovolať na zahltené infolinky. Veľa ľudí pritom malo iba úplne rutinné otázky, ktoré by vedel zodpovedať aj automatizovaný systém alebo četbot, ktorý na túto tému garantuje správne odpovede.

Na druhej strane si uvedomujem, že v takýchto krízových situáciách je dôležitý aj ľudský kontakt. Keď je niekde zemetrasenie, je bezpečnejšie nasadiť do pátracích a záchranných akcií robotov, ale neviem, ako by počas pandémie pacienti znášali, že medzi nimi behajú len roboty, ktoré sa síce nenakazia, ale nedokážu vystrašeným pacientom nahradiť ľudský kontakt.

Nahrádzaním ľudských zdrojov umelou inteligenciou sa zaoberal aj tohtoročný prieskum medzi 365 odborníkmi na umelú inteligenciu. Až 90 percent z nich sa vyjadrilo, že vznik umelej inteligencie na takzvanej ľudskej úrovni je v tomto storočí pravdepodobný. Čo si o tom myslíte vy?

Nevylučujem to. Myslím si, že raz tu môže byť aj umelá inteligencia, ktorá nás dokáže prekonať, ale netrúfal by som si odhadnúť, či to bude o 50, 100 alebo 200 rokov.

Podľa spomenutého prieskumu viac ako polovica odborníkov verí, že už do roku 2061 bude samostatná umelá inteligencia schopná vykonávať všetky činnosti lacnejšie a presnejšie než človek. Čo budeme robiť my?

Ideálny stav by bol ten, v ktorom by sme nerobili činnosti, aké nechceme, alebo nutne nemusíme a sústredili by sme sa na iné odvetvia. Napríklad takmer v každej krajine chýbajú ľudia v povolaniach, ktoré sú založené na ľudskej starostlivosti. Pokiaľ veríme, že pre ľudí je cenné, aby sa o nich starali iní ľudia, či už je to asistencia ľuďom s hendikepmi, seniorom, alebo aj v rámci komunitnej pomoci, tak by sme sa mohli starať o seba navzájom a iné veci nech robí umelá inteligencia.

Prerozdelenie pracovného trhu budúcnosti podľa umelej inteligencie. Písaný text v obrázkoch jej ešte robí problémy. Zdroj – Z. V. s DALL:E 2

Stane sa z ľudskej práce exkluzívna záležitosť podobne, ako je to teraz pri ručne robených výrobkoch, ktoré bývajú drahšie?

Myslím si, že toto určite nastane. Teraz si v supermarkete môžete vybrať, či idete k automatickej pokladni alebo k živému človeku a cena je rovnaká. Ale myslím si, že v budúcnosti bude ľudská práca drahšia, čo opäť trochu viac otvorí nožnice sociálnej nerovnosti. Bohatí ľudia si budú môcť dovoliť ľudský kontakt a ľudskú starostlivosť a zvyšok populácie bude obsluhovaný robotmi alebo technológiami, lebo to bude lacnejšie. Ľudský kontakt bude pravdepodobne ešte dlho kvalitnejší, čiže chudobnejšia časť populácie pravdepodobne dostane menej kvalitné služby.

Dlho sa verilo, že doménou ľudí budú práve kreatívne práce. Aj to sa však mení a maľby, ktoré vytvorila umelá inteligencia, vyhrávajú umelecké súťaže bez toho, aby porota vedela, že dielo nevytvoril človek. Četboty zase vedia vytvoriť jednoduchú pesničku či reklamný slogan. Vidíte do budúcna potrebu rozlišovať medzi ľudským a umelým produktom?

Závisí od toho, ako ďaleko do budúcna. V blízkej budúcnosti ešte určite áno. Niektoré krajiny majú dokonca dané zákonom, že keď sa rozprávate s niečím, čo nie je človek, mali by ste to vedieť. Je to dôležité, pretože automaticky očakávame, že ľuďom niektoré veci netreba vysvetľovať. Keby ste si mysleli, že komunikujete s človekom, no bola by to umelá inteligencia, ktorá takto nemusí fungovať, môžete sa stať, že sa spoľahnete na nepravdivú informáciu, ktorá vás poškodí. Keď sa tie systémy dostanú na úroveň, v ktorej budú poskytovať rovnako kvalitné alebo kvalitnejšie služby než človek, tak to prestane hrať rolu. Ale dovtedy by sme mali mať túto informáciu v dispozícii.

Ako umelá inteligencia zmení výučbu a vzdelávanie? Ktoré zručnosti sa oplatí pestovať?

V kratšom horizonte sa hovorí o tom, že budú potrebné zručnosti, ako kritické či líderské myslenie. V dlhšom horizonte by som zacitoval Harariho, ktorý v knižke 21. lekcií pre 21. storočie hovorí, že budúcnosť bude taká radikálne iná, že mladí ľudia budú potrebovať dve veci: veľkú flexibilitu a odolnosť voči stresu. Lebo tie zmeny budú radikálne, prudké, bude ich veľa a budú stresujúce.

Čo by ste povedali človeku, ktorý bude tvrdiť, že umelú inteligenciu treba radšej nechať tak, lebo nevieme, čo všetko nám prinesie?

Nie nutne by som mu oponoval. V iných technológiách, povedzme v genetických manipuláciách, máme precedensy, že kým to nie je dobre preskúmané, je lepšie niektoré veci nerobiť, spomaliť ich, alebo regulovať. To sa bude diať aj s umelou inteligenciou, keďže jej aplikácie môžu mať obrovské nezamýšľané sociálne dôsledky. Napríklad Európska únia v tomto smere pripravuje takzvaný Artificial Intelligence Act, čiže zákon regulujúci používanie produktov umelej inteligencie.

Na druhej strane, pokrok sa nedá zastaviť a niekto tie aplikácie bude tak či tak vyvíjať, lebo je to okrem iného aj zdroj finančného zisku. Opäť zacitujem niekoho múdrejšieho odo mňa: „Treba sa zamyslieť nad tým, ako získať všetky benefity, ktoré nám umelá inteligencia môže ponúknuť a vyhnúť sa tým rizikám, ktoré sú s tým spojené.“

Ja zacitujem Jurský park, kde herec Jeff Goldblum hovorí: „Vaši vedci boli takí zaujatí tým, či môžu, že im vôbec nenapadlo zamyslieť sa, či by mali.“ Čo si o tom myslíte?

Je to veľmi pekná myšlienka. Momentálne sa už vytvárajú rôzne nástroje, ktoré nám majú pomôcť vyhodnotiť vplyv umelej inteligencie. Časť otázok, ktoré si v rámci neho treba položiť, znie: „Bude svet lepší, keď tento systém vytvoríme? Zlepší nám život? Ak ak áno, ako nám ho zlepší? Stojí to za to?“

Vaša špecializácia je kognitívne modelovanie. Pri kognitívnych vedách si predstavím ako prvú skôr psychológiu alebo antropológiu. Akú úlohu tu má umelá inteligencia?

Kognitívna veda čerpá z viacerých disciplín ako psychológia a antropológia, bez ktorých by si nepomohla. Ale aj umelá inteligencia tam má svoje miesto, lebo veci veľakrát najlepšie pochopíme tak, že ich skonštruujeme. Ľudská myseľ je taká „čierna skrinka“, do ktorej nevidíme. Ak máme hypotézu, ako by mohol nejaký mechanizmus v ľudskej mysli fungovať, môžeme ho skúsiť naprogramovať. Ak sa bude výsledok správať podobne ako ľudský mozog, môže nám to priniesť nové poznanie o ľudskej mysli.

Pred vývojom novej aplikácie umelej inteligencie by sme sa podľa Martina Takáča mali zamyslieť, či zmení svet k lepšiemu. Foto N – Vladimír Šimíček

Z fyziologickej stránky mozog stále nepoznáme dostatočne. Ako nám môže pomôcť výpočtová technika celkovo?

Neuro-zobrazovacie metódy – ako je funkčná magnetická rezonancia či pozitrónová emisná tomografia – nám s pomocou výpočtovej techniky za posledných 30 rokov osvetlili toľko informácií o fungovaní ľudskej mysle, koľko sme nenazbierali za celé tisícročia. Ale je tam aj opačný vplyv. Od ľudského mozgu sa môžeme učiť, ako vytvárať lepšie aplikácie umelej inteligencie.

Napríklad?

Existuje takzvaná vývinová umelá inteligencia, ktorá sa snaží kopírovať princípy, akými sa učia malé deti. Zistilo sa, že keď sa malé dieťa učí vidieť a rozpoznávať objekty, veľmi mu pomáha, že má krátke ruky. Takže musí mať skúmaný objekt blízko a zaberá mu skoro celé vizuálne pole. Každý človek má v strede fokálne videnie ostrejšie a perifériu zahmlenú. Toto všetko sú veci, ktoré jednoznačnosti učenia veľmi pomáhajú. Čiže pár takýchto jednoduchých trikov, ktoré sme odkukali od toho, ako sa učia malé deti, alebo ako sa učia ľudia vo všeobecnosti, nám pomáha spraviť lepší algoritmus pre strojové videnie.

Ako sa lepšie zaostrenie a krátke ruky dajú pretaviť do programu umelej inteligencie?

Napríklad tak, že mu dáme telo a bude sa učiť z interakcií. Lebo aj v kognitívnej vede existuje takzvaná stelesnenosť (z angl. embodiment, pozn. red.). Kognitívni vedci si uvedomili, že nemyslíme iba hlavou, ale celým telom, a to telo je veľmi dôležité pre spôsob, akým poznávame svet. Časť toho sa dá simulovať aj v umelom systéme.

Ako veľmi pripomínajú umelé neurónové siete v četbotovi tie, ktoré sú v mozgu?

Ľudská neurónová sieť je zložená z miliárd neurónov, ktoré sú medzi sebou poprepájané, komunikujú cez elektrochemické signály a dokážu sa meniť skúsenosťou. To znamená, že niektoré spojenia môžu narastať a zvyšovať alebo znižovať svoju priepustnosť. Keď to chceme modelovať umelo, môžeme si takisto vytvoriť sieť maličkých matematických funkcií, ktoré majú svoje parametre. Tie potom môžeme meniť na základe skúseností tak, aby to dávalo želaný výsledok. Môže ísť pritom až o bilióny čísel.

Mozog je jedna vec, ale zamýšľate sa aj nad celkovým vedomím? To zatiaľ nevieme poriadne definovať ani v ľuďoch. Vieme ho vytvoriť pre umelú inteligenciu?

My nielenže nevieme presne, čo vedomie je, ale keby nejaký takýto umelo inteligentný systém vedomie mal, tak to ani nevieme s určitosťou dokázať. Lebo jediné vedomie, o ktorom viem, že existuje, je moje vlastné.

Napríklad to, že máte vedomie vy, si iba odvodzujem z toho, že reagujete, odpovedáte na otázky, máme očný kontakt a zároveň ste človek ako ja, čiže tipujem, že ho máte rovnako ako ja. Ale keby ste boli robot, ktorý tiež pochybuje a dáva otázky, tak napriek tomu neviem, čo vám beží v hlave. Vedomie je hrozne komplikované z hľadiska vedy ako takej, lebo je to niečo, čo poznáme len z perspektívy prvej osoby. Je to moja osobná skúsenosť, ktorú nikto zvonku nemôže vidieť.

Takže keď umelá inteligencia získa vyššie vedomie, nebudeme prví, kto to zistí.

Samozrejme. Ona o tom neskôr môže začať rozprávať, ale problémom je, že niekto do nej mohol len naprogramovať šikovné triky. Vďaka nim potom bude tvrdiť, že vedomie má, aj keď to tak nie je.

Okrem práce na Univerzite Komenského pôsobíte aj v novozélandskej firme, ktorá sa zaoberá tvorbou digitálnych ľudí, takzvaných avatarov. Ako sa takíto avatari líšia od inteligentných četbotov?

Četbot je komunikačný program, ktorý nemusí mať žiadnu podobu, stačí, že s vami vie viesť dialóg. Avatar je postava vo virtuálnom svete, ktorá má telo a nejaký výzor. Môže ho riadiť buď človek, alebo umelá inteligencia. Asi najlepšie tomu porozumejú ľudia, ktorí hrávajú počítačové hry ako nejaké postavy, ktoré sú ich avatarmi.

Avatari z dielne spoločnosti Soul Machines, kde Martin Takáč pracuje. Zdroj – YouTube/Soul Machines

Prečo potrebujeme, aby mal četbot ľudskú podobu?

Lebo komunikácia s ním je pre nás potom prirodzenejšia, intuitívnejšia a dôveryhodnejšia. Zo sci-fi filmov poznáme najmä kovové a robotické hlasy umelej inteligencie, ktorým chýba akákoľvek sociálna inteligencia. Ale takýto avatar vám vie dať aj neverbálne signály a zároveň reagovať na tie vaše. S nejakým asistentom zákazníckeho servisu by ste sa vedeli dohodnúť aj gestami, vedel by vám pomôcť vyplniť nejaký formulár tým, že by naň ukazoval a tak ďalej.

Roboty začali nadobúdať ľudskú podobu práve vďaka tomu, aby na nich ľudia reagovali pozitívnejšie. Vedci však prišli na to, že keď sa robot začne na človeka podobať až príliš, no zároveň je jasné, že ním nie je, narazí u ľudí na emóciu odporu až hnusu (fenomén známy aj ako uncanny valley). Prekonali sme to už?

Do istej miery áno. Vidno to napríklad vo filmovom priemysle, kde už veľakrát vidíte „ľudské postavy“, ktoré vznikli počítačovou animáciou. Úplne by však stačilo, aby ste pri interakcii s takýmto avatarom mali pomalší internet a kvôli tomu by sa jeho odpovede o pol sekundy oneskorovali. Už tam bude niečo neprirodzené a budete mať z toho divný pocit.

Zakladateľ firmy, v ktorej pôsobíte, získal Oscara za špeciálne efekty vo filme Avatar. Ako preniesol skúsenosti z filmu do sveta umelej inteligencie?

Vyvinul unikátnu metódu animácie tvárových svalov, ktorá obsahuje detailný fyziologický model toho, ako sa majú hýbať svaly, nervy a tak ďalej. Nebolo to použité iba v Avatarovi, ale aj v King Kongovi, Planéte Opíc či Spider-Manovi 2. Takže práve vďaka týmto skúsenostiam z filmového priemyslu teraz dokážeme vyrábať veľmi realisticky vyzerajúcich avatarov.

Čo je vašou úlohou v tejto firme?

Pracujem na projekte umelého dieťaťa, kde testujeme rôzne hypotézy o vývinovej umelej inteligencii. Čiže o tom, ako by sa mohol takýto umelo inteligentný systém vyvíjať pomocou interakcií s ľuďmi. To naše „malé dieťa“ má v počítači simulované telo aj myseľ a ja navrhujem architektúru jeho mysle. Napríklad to, ako bude fungovať jeho pozornosť, učenie jazyka, priestorová orientácia a ďalšie veci. Snažím sa, aby to bolo vedecky realistické, takže vychádzame z kognitívnych vied a z neurovied.

Pred dvoma rokmi ste napísali knihu s názvom Myseľ ako objekt s podtitulom Kde hľadať pevný bod v meniacom sa svete? Kde ho hľadať počas všetkých zmien, ktoré ste spomenuli?

Nepredstavujte si žiaden pevný bod, o ktorý by sme sa mohli fyzicky oprieť. Ide skôr o zachovanie kontinuity vývoja. To znamená, že uprostred radikálnych a zrýchľujúcich sa zmien by sme ich mali do čo najväčšej miery reflektovať, nestrácať kontakt sami so sebou ani so svojou ľudskosťou.

V budúcnosti by sme nemali strácať kontakt sami so sebou, ani so svojou ľudskosťou, hovorí Martin Takáč. Foto N – Vladimír Šimíček

Ako vyzerá váš ideálny svet, v ktorom sme sa naučili z aplikácií umelej inteligencie benefitovať čo najlepšie povedzme v roku 2100?

Možno som atypický výskumník umelej inteligencie, lebo pokiaľ môžem, zo svojho sveta ju vyraďujem. Najradšej mám prírodu, les a prirodzený priestor. Takže v mojom ideálnom svete bude umelá inteligencia viac-menej neviditeľná. Doprava, obchody, riadenie a tak ďalej budú fungovať hladko, pretože bude v pozadí predchádzať problémom a riešiť ich. Ale viem si predstaviť, že ľudia budú žiť svoje vzťahy aj starosvetským spôsobom, akým sme žili donedávna a niektorí aj dodnes. A možno tu vďaka nej bude v roku 2100 stále aj kus prírody, pretože odvrátime klimatickú katastrofu.

Ako by nám mohla umelá inteligencia pomôcť odvrátiť klimatickú katastrofu?

Mohla by nám pomôcť s efektívnejším plánovaním používania zdrojov. Časom by mohla prichádzať aj s nejakými inovatívnymi technológiami. Samozrejme, klimatická zmena je do veľkej miery aj o neochote ľudí prekonávať vlastnú nenažranosť. To nám umelá inteligencia asi nevyrieši.

Ideálny scenár sme si už povedali, aký je, naopak, ten najhorší?

Zlých scenárov je minimálne toľko ako tých dobrých. Možno ešte viac. S použitím umelej inteligencie vo vojenských technológiách sa môžeme dopracovať k stavu, že sa konca storočia ako ľudstvo ani nedožijeme. Viem si predstaviť aj to, že inteligencia bude zneužiteľná na manipuláciu ľudí. Už v dnešnej dobe vidíme nárast extrémizmu najrôznejšieho typu, úbytok demokracie a pokrivené režimy. Bojím sa, že umelá inteligencia by v udržiavaní diktatúr mohla hrať svoju úlohu. Napríklad v Číne už dnes existuje systém sociálnych kreditov a veľké sledovanie obyvateľstva. Čiže v najhoršom scenári vidím chaos, diktatúru a zničenie.

Ako teda umelú inteligenciu aplikovať v budúcnosti čo najzodpovednejšie?

Ak by som mal poradiť bežným ľuďom, ktorí nemajú veľkú možnosť ovplyvňovať vedecký rozvoj, ale môžu ovplyvňovať svoje vlastné zvyky a to, ako technológie používajú, poradil by som im, aby veľmi zvážili, kedy a koľko zo svojej slobody chcú delegovať na umelý systém a koľko chcú ponechať vlastnému rozhodovaniu. Pokiaľ je niekto vedec, regulátor alebo politik, odporučil by som, aby sa seriózne zaoberal scenármi, ktoré môžu v budúcnosti nastať a prípadnými reguláciami nových technológií.

Martin Takáč

Je kognitívny vedec a informatik. Zaoberá sa najmä kognitívnym modelovaním umelej inteligencie. Pôsobí v Centre pre kognitívnu vedu Katedry aplikovanej informatiky, Fakulty matematiky, fyziky a informatiky UK. Od roku 2017 spolupracuje s novozélandskou firmou Soul Machines na projekte vývoja avatarov. Je autorom knihy Myseľ ako objekt. Kde hľadať pevný bod v meniacom sa svete?

[Viac podcastov a článkov, ktoré si môžete vypočuť od Denníka N: Na stránke dennikn.sk/audio nájdete vždy kompletnú ponuku na počúvanie.]

Máte pripomienku alebo ste našli chybu? Prosíme, napíšte na pripomienky@dennikn.sk.

Človek

ESET Science Award

Rozhovory

Technológie

Umelá inteligencia

Vedecký podcast N2

Veda

Teraz najčítanejšie