Denník N

Máme šancu zlepšiť prístup ľudstva k energiám aj liekom, hovorí odborník na umelú inteligenciu

Michal Valko pôsobí v akadémii vied v Lille, učí na univerzite v Paríži a pôsobí v spoločnosti DeepMind. Foto N - Tomáš Benedikovič
Michal Valko pôsobí v akadémii vied v Lille, učí na univerzite v Paríži a pôsobí v spoločnosti DeepMind. Foto N – Tomáš Benedikovič

Michal Valko patrí medzi svetovú špičku v strojovom učení. V rozhovore vysvetľuje, ako sa do umelej inteligencie snaží zakódovať zvedavosť a prečo si ľudia umelú inteligenciu poľudšťujú. Vraví aj to, ako nástroje, ktoré vyvíja, urýchľujú výskum z rokov na sekundy.

🎧 Novinka: Všetky podcasty Denníka N nájdete teraz iba v aplikácii Dennik N. Jej nová verzia má vylepšené funkcie prehrávania. Stiahnite si ju, vyskúšajte a napíšte nám, čo by ste ešte vylepšili.

V rozhovore sa dočítate aj o tom:

  • či vedia agenti umelej inteligencie spolupracovať;
  • ako umelá inteligencia vyriešila problém, ktorý vedie k rýchlemu vývoju liekov;
  • v čom netreba umelej inteligencii dôverovať;
  • že umelá inteligencia vie namaľovať obraz, no nevie improvizovať v džeze.

Tento článok si môžete prečítať vďaka ESET Science Award – oceneniu, ktoré podporuje výnimočnú vedu na Slovensku. 

Už definícia ľudskej inteligencie je ťažká. Čo je potom umelá inteligencia?

Je pravda, že ani vedci sa nezhodujú v tom, čo by mala inteligencia byť. Najbližšie k definícii je asi to, že veci sú inteligentné, keď majú určité črty, ktoré inteligencii pripisujeme. Je ich 20 až 30 a patrí k nim kreativita, pamäť, odhad či generalizácia. No nevieme úplne presne povedať, ktoré veci sú inteligentné a ktoré nie. Pri umelej inteligencii máme takú pracovnú definíciu, že je to vec, ktorá vie z nejakých príkladov extrapolovať (vyvodiť, odhadnúť, pozn. red.) a naučiť sa nejakému zaujímavému správaniu.

Dnes máme k dispozícii veľmi dobré umelé inteligentné systémy, no sú to takí „športovci“, ktorí trénujú len na jednu úlohu. Napríklad máme umelú inteligenciu, ktorá vie hrať šach lepšie ako Gary Kasparov (bývalý najlepší šachista svet, pozn. red.). Ale Kasparov vie okrem toho hovoriť aj niekoľkými jazykmi, písať poéziu a tak ďalej. Takúto všestrannú umelú inteligenciu zatiaľ nemáme. Ale v DeepMinde sa snažíme o to, aby vedela robiť veľa zaujímavých vecí naraz.

Vedia agenti umelej inteligencie spolupracovať?

Vedia. Pred niekoľkými rokmi sme mali v DeepMinde systém, ktorý vedel hrať hru Starkraft a komunikovať pri nej s viacerými agentmi (agent – pojem zaužívaný pre aktéra umelej inteligencie, pozn.red.). Ako keď sa hráte hru s viacerými ľuďmi. Samozrejme, najjednoduchšie je robiť veci pre jedného agenta, ktorý vám napríklad povysáva izbu. Potom sú to systémy s dvoma hráčmi ako v šachu, no a hry s viacerými hráčmi sú najťažšie. Komunikácia medzi agentmi je zatiaľ nakódovaná dopredu, ale robíme aj výskum toho, keď si nejaký jazyk vedia dohodnúť. Zatiaľ je to však v základoch a ľudskej komunikácii sa to nepodobá.

Program s umelou inteligenciou AlphaGo práve poráža 18-násobného svetového šampióna z Južnej Kórey. Foto – TASR/AP

Takže nehrozí, že by sa za našimi chrbtami spojili a preľstili nás?

Toto je naozaj iba sci-fi.

No keď sa povie umelá inteligencia, aj tak býva našou častou asociáciou strach z nadvlády strojov. Prečo?

Je logické, že si ľudia umelú inteligenciu takto poľudšťujú. Je to preto, že my sami sme najlepším príkladom inteligencie, ktorú máme.

Umelej inteligencii pripisujeme často ľudskú podobu aj preto, lebo predpokladáme, že na inteligenciu a vedomie potrebujeme aj nejaký substrát, ktorý bude pripomínať tých pár gramov, čo máme v lebke. Pochopiť inteligenciu nám možno naozaj pomôže, keď ju budeme vedieť vytvoriť aj inde než v ľudskom mozgu. Napríklad v silikóne.

Ako ďaleko sme od toho?

Veľmi. Je veľa výziev, ktoré musíme prekonať. Napríklad asociácie v dlhom časovom horizonte sú pre umelú inteligenciu veľmi ťažké. Keď si ja dnes ráno zoberiem dáždnik, potom prší a zistím, že som nezmokol, tak automaticky vyhodnotím, že sa to stalo preto, lebo som si ho ráno zobral. No umelá inteligencia takto zatiaľ nerozmýšľa.

Ďalšia vec je pamäť. Keď niečo jednu neurónovú sieť naučím a potom ju chcem naučiť niečo druhé, tak to prvé zabudne. To sa nám ľudom až v takej katastrofickej podobe nestáva.

A čo si predstavíte ako prvé vy, keď sa povie umelá inteligencia?

Systém, ktorému viem dať nejaký vzorec správania a on vie učením sám prísť k správaniu, ktoré som mu predtým neukázal. Napríklad dať povysávať izbu, ktorú robot nikdy predtým nevidel.

Michal Valko prezentuje poster na konferencii International Conference on Machine Learning. Zdroj – archív M. V.

Ďalšia z vecí, ktoré si predstavujem, je opisný jazyk. Pred tisícročiami sme „objavili“ matematiku, ktorá veľmi dobre opísala fyziku. Napríklad Newtonove zákony sú len niekoľko premenných, no vedia dokonale opísať pohyb planét. Biológia je však oveľa komplikovanejšia a tú zatiaľ tak pekne opísať nevieme. Umelá inteligencia môže byť pre ňu presne takýmto opisným jazykom a vysvetliť nám, ako funguje.

Venujete sa takzvanému „reinforcement learningu“ s minimom spätnej väzby. Prečo sa snažíte umelú inteligenciu naučiť, aby sa pri hrách alebo vysávaní spoľahla sama na seba?

Pretože takto sa učia aj ľudia. Máme nejaké vnútorné pohnútky alebo niečo, čo chceme dosiahnuť. Ale nikto nám na každom kroku nenašepkáva ani nedáva odmenu. Umelá inteligencia potrebuje nejaký signál, aby vedela, z čoho sa má učiť. Keď ho nemá, nevie, čo má robiť. Ľudia sa ako spoločnosť učili z tisícročí evolúcie, a keďže umelú inteligenciu to musíme naučiť úplne od piky, tak sa to spätnou väzbou snažíme zatiaľ suplovať.

Môj výskum sa zaoberá tým, ako túto spätnú väzbu nahradiť. Posledné dva roky sa napríklad snažím do umelej inteligencie zakódovať zvedavosť. Čiže aby v nej boli takí „malí vedci“, ktorí často nie sú motivovaní platom, ale poznaním. Umelú inteligenciu preto nútim robiť malé experimenty, aby objavovala, ako funguje prostredie, v ktorom sa akurát nachádza, a sama zistila, čo má robiť. O dva mesiace by mi o tom mal vyjsť vedecký článok.

Zatiaľ sa bavíme o tom, či je umelá inteligencia zvedavá a či sa vie hrať. Ale čo sú problémy ľudstva, ktoré by nám mohla pomôcť vyriešiť?

Asi najbližšie je hľadanie liekov na veľmi zriedkavé choroby a zvýšenie dĺžky životnosti batérie. Ďalším výstupom by mohlo byť napríklad umožnenie jadrovej fúzie, keďže umelá inteligencia prišla na to, ako udržať plazmu v potrebnom tvare čo najdlhšie. Sme na začiatku doby, v ktorej máme šancu veľa vecí zlepšiť. Veľa problémov ľudstva je spojených s nedostatkom zdrojov, ktorý spôsobuje rôzne druhy napätia. Zlepšiť prístup k energiám a liekom by nám mohlo pomôcť žiť lepšie.

Spoločnosť DeepMind, pre ktorú pracujete, v lete oznámila, že svoju databázu 3D štruktúr proteínov, ktorú vytvorila umelá inteligencia, rozšírila z milióna na viac ako 214 miliónov proteínov. To je obrovský skok, ale načo vlastne potrebujeme takúto databázu?

Keď sa farmafirmy snažili dizajnovať nový liek v minulosti, museli nejaký proteín najprv navrhnúť a potom zistiť, ako funguje. To trvalo niekoľko rokov výskumu s neistým koncom. Za celých 50 rokov výskumu sa ľudstvu podarilo urobiť iba zhruba 150-tisíc týchto sekvencií. Teraz ich vieme urobiť niekoľko za sekundu. Stačí si vyhľadať potrebnú 3D štruktúru proteínu v databáze podobne, ako keď niečo vyhľadáme v Googli.

Jedna zo štruktúr proteínu predpovedaná programom AlphaFold. Zdroj – DeepMind/EMBL-EBI

V rámci výskumu spolupracujeme priamo s niekoľkými partnermi, napríklad s Centrom pre zanedbané choroby, ale zároveň sme túto databázu voľne sprístupnili, lebo veríme, že tým urýchlime celkový progres v biológii.

Hľadanie nových liekov je dôležité aj pre stúpajúcu rezistenciu na súčasné antibiotiká, ktorá denne zabíja tisíce ľudí. Zrýchli umelá inteligencia aj ich vývoj?

Áno, pretože vedcom umožňuje zrýchliť proces vývoja. Od nápadu, ako by nejaký liek mohol vyzerať, vieme za pár sekúnd vidieť potrebnú štruktúru proteínov a čo sa ňu naviaže alebo nenaviaže. To nám predtým trvalo dni až roky. Ale štruktúra proteínov je len jedna z hádaniek, ktoré sme veľmi urýchlili. Ešte stále to nie je tak, že zadáme nejakú chorobu a umelá inteligencia nám vypľuje návod na jej liek.

V rozhovore pre Denník N ste pred dvoma rokmi povedali, že chcete riešiť problémy, ktoré by si zaslúžili Nobelovu cenu. Ste k tomu dnes o niečo bližšie?

Určite. Napríklad AlphaFold je projekt, ktorý by si podľa mňa nobelovku zaslúžil. Zároveň sme len minulý týždeň zverejnili nový nástroj umelej inteligencie AlphaTensor. Ten urýchľuje počítače až o 15 %, keďže zrýchľuje základný problém násobenia matíc. Takéto počítače vedcom výrazne ušetria energie a čas. To je tiež vynález, ktorý potenciálne môže viesť k oceneniu.

Na začiatku sme sa bavili o predsudkoch, ktoré ľudia majú voči umelej inteligencii, teraz o projektoch, vďaka ktorým nám môže pomôcť zmeniť svet. No ani umelá inteligencia nie je bezproblémovou technológiou. Akým etickým výzvam čelí a ako ich konfrontujete?

Musíme byť veľmi opatrní v tom, ako ju zo simulácií dostaneme do každodenného použitia. Vo firme o týchto problémoch komunikujeme aj s filozofmi, inými vedcami či politikmi. Napríklad pri AlphaFolde sme sa na základe rozhovorov s biológmi rozhodli, že prínos nášho programu pre urýchlenie liečiv prevyšuje jeho potenciálne riziká. Ale už sa stalo, že sme si pri niektorých veciach neboli istí, či by ich niekto nemohol zneužiť, a tak sme ich nevydali.

„Musíme byť veľmi opatrní v tom, ako umelú inteligenciu zo simulácií dostaneme do každodenného použitia,“ hovorí expert. Foto N – Tomáš Benedikovič

Máme aj komisiu, ktorá preveruje každý výskum ešte pred jeho začiatkom, či je eticky v poriadku. Do nejakých vecí sa ani nepúšťame, napríklad máme striktný zákaz pracovať na programe, ktorý by mohol prepojiť umelú inteligenciu so zbraňami a podobne. Funguje u nás niekoľko záchytných mechanizmov, ktoré nás upozornia, či je možné našu technológiu takto zneužiť.

Aké rozhodnutia by ste na umelé systémy nepresunuli?  

Zatiaľ asi žiadne. Momentálne by umelá inteligencia mala byť používaná iba ako nástroj tak, aby definitívne rozhodnutia stále zostávali v rukách ľudí. Aj v tej biológii si treba dávať pozor. Lebo keď agent povie, ako podľa neho vyzerá štruktúra proteínu, neznamená to, že sa nemohol pomýliť. Kým nasadíme liek do obehu, musí prejsť všetkými kontrolnými systémami, ktoré existujú roky.

Ak by ste šli k doktorovi, ktorý povie, že umelá inteligencia rozhodla, že potrebujete bypass, tak by ste tiež mali otázky a overovali, či sú dôvody nevyhnutné. Potrebujeme rozumieť rozhodnutiam, ktoré z umelej inteligencie vychádzajú.

Niektorí vedci hovoria, že umelá inteligencia môže byť náš posledný vynález. To je dobré alebo zlé?

Dúfam, že nám práveže umožní robiť ďalšie vynálezy rýchlejšie. Už teraz si užívame nejaké jej výsledky a pomocou nich objavujeme ďalej. Ale ako som povedal, musíme byť veľmi opatrní pri jej uvádzaní do života.

Takže vedci neprídu o svoje heuréka momenty, len budú prichádzať častejšie?

Neprídu, pretože umelá inteligencia vie zatiaľ robiť len veľmi špecifické veci. Zatiaľ nevie pracovať skutočne kreatívne. Napríklad priniesť novú hru, ktorá by nás zaujala. Nám sa zdá, že agenti umelej inteligencie sa tvária inteligentne, no oni nám vlastne dávajú odpovede, ktoré sú akýmsi priemerom celého internetu. Ten by človek za svoj život nezvládol prečítať.

Poviem príklad. Umelá inteligencia vie hrať šach, ale zatiaľ nevie vymyslieť hru, ktorá by bola taká zaujímavá ako šach. Jednoducho jej nevieme vysvetliť, čo vlastne chceme. Zatiaľ s ňou nevieme komunikovať tak, aby sme jej špecifikovali, že to má byť hra, pri ktorej stačí pár minút na pochopenie pravidiel, ale potrebujete niekoľko životov na to, aby ste sa v nej stali neprekonateľnými expertmi.

Kreativitu však umelá inteligencia vie dôkladne napodobniť. Napríklad tento rok vyhral súťaž v Spojených štátoch obraz, ktorý do súťaže prihlásil človek pod svojím menom, no vytvoril ho za pomoci umelej inteligencie bez toho, aby to priznal. Mala by byť niekde nakreslená hranica medzi ľudským umením a umelou inteligenciou, aj keď to konzument nevie rozlíšiť?

Asi pred piatimi rokmi som mal študenta, ktorý počas školy vytvoril program, pomocou ktorého vytvoril dielo a vydražil ho v aukčnej sieni Christie’s za veľmi veľa peňazí. Tiež to spustilo veľkú polemiku.

Obraz vytvorený umelou inteligenciou, ktorý tento rok vyhral umeleckú súťaž v USA. Zdroj – Twitter

Ale hovorí sa, že krása je v očiach pozorovateľa. Tak ako nevieme definovať inteligenciu, nevieme definovať ani umenie. Sú ľudia, ktorí nepovažujú ani moderné umenie za „skutočné umenie“, a predpokladám, že zaň nebudú považovať ani nič, čo súvisí s umelou inteligenciou. Ale myslím, že si nájde aj priaznivcov. Inak, umelá inteligencia vie skladať aj hudbu, ale ešte som nevidel takú, ktorá by vedela napodobniť ten typ kreativity, aký sa používa v džeze.

Ste ambasádorom ocenenia Eset Science Award, ktoré oceňuje úspešných vedcov. Predchádzajúci laureáti hlavnej kategórie boli z odvetví materiálovej a jadrovej fyziky či chémie spojenej s diagnostikou. Máme na Slovensku aj špičkových vedcov vo vašom odbore?

Máme vedcov, ktorí robia matematickú analýzu či sekvenovanie pomocou aplikácií umelej inteligencie, ale priamo v reinforcement leraningu nemáme nikoho. Nemyslím si, že by to bolo nedostatkom talentu, skôr tým, že takýto výskum je výpočtovo veľmi náročný. DeepMind má veľkú výhodu, že je súčasťou Alphabetu (americká technologická spoločnosť, ktorá vlastní Google, pozn. red.) a má prístup k jeho serverom, na ktorých môže robiť veľmi komplikované simulácie. Na Slovensku na niečo také zatiaľ nemáme prostriedky.

Eset Science Awards

Finálovú pätnástku vedkýň a vedcov nominovaných na tohtoročné ocenenie Eset Science Awards a ďalšie informácie o vyhlásení laureátov ocenenia 14. októbra nájdete tu.

RTVS odvysiela záznam z galavečera na Jednotke 15. októbra o 21.35.

Predsedníčka tohtoročnej poroty a držiteľka Nobelovej ceny za chémiu Ada Yonath bude mať v sobotu 15. októbra o 10.30 v Divadle P. O. Hviezdoslava v Bratislave diskusiu na tému vzniku života, ale hovoriť bude aj o láske k vede a o ženách vo vedeckom svete. Lístky sú dostupné tu.

Je podľa vás verejné oceňovanie vedcov dôležité?

Myslím si, že verejne prezentovať úspešných vedcov, ale aj to, ako funguje veda a vedecké metódy, nás ako spoločnosť môže posunúť ďalej. Ambasádorom tohto ocenenia som sa stal aj preto, lebo som presvedčený, že tým môžem mať pozitívny vplyv na vývoj na Slovensku.

Roky pôsobíte vo Francúzsku, akú pozíciu v spoločnosti majú vedci tam?

Lepšiu ako na Slovensku. Francúzsko sa hrdí tým, že približne percento ich populácie pracuje vo vede a výskume, čo je veľmi veľa. Samozrejme, aj vo Francúzsku sa vedci sťažujú na nedostatok prostriedkov a tí najlepší odchádzajú do Severnej Ameriky či súkromného sektora. No myslím si, že na Slovensku je ten problém ešte vypuklejší. Vedci často riešia existenčné problémy a musia mať druhé zamestnanie. Takisto bojujú s administratívou či počtom hodín, ktoré musia odučiť. To všetko znamená menej času na výskum.

Pred príchodom do Francúzska ste šesť rokov pôsobili v USA. Čo je základným rozdielom medzi americkou a európskou vedou?

V Amerike prevláda individualistický prístup. Jeden profesor získa veľký grant a môže si povedať, koho najme a aký výskum bude robiť, ale potom je za jeho výsledky aj osobne zodpovedný. V Európe sa zase dáva dôraz na spoluprácu. Za veľkými projektmi je väčšinou konzorcium univerzít a krajín.

Ďalším rozdielom je, že v Amerike ľudia na univerzitách zväčša pracujú sedem rokov v skúšobnej lehote a potom sa univerzita rozhodne, či ich zamestná doživotne, alebo je koniec ich spolupráce. Pre zhruba polovicu ľudí to pritom znamená koniec kariéry, čo ich dostáva pod veľký stres. To sa v Európe nestáva a veľa vedcov má dlhodobé miesto ešte pred tridsiatkou. Mne osobne vyhovuje Francúzsko, lebo ho považujem za strednú cestu medzi Slovenskom a USA.

Za akých okolností by vás Slovensko dokázalo prilákať späť?

Na Slovensko sa zatiaľ nechystám, lebo výskum, ktorý robím, potrebuje veľmi veľkú výpočtovú silu. Tú by bolo ťažké získať so slovenskými prostriedkami a na pokrytie nákladov takéhoto výskumu by nepostačovalo ani niekoľko európskych ERC grantov, ktoré sú dosť vysoké. Zároveň máme veľa inžinierskych výstupov, takže by nestačilo, aby som prišiel na Slovensko ja, ale museli by so mnou prísť aj ďalšie desiatky ľudí.

Je náročné dostať prácu v súkromnej spoločnosti, ktorá sa venuje špičkovému výskumu umelej inteligencie?

Nie až tak, ako by sa mohlo zdať. Momentálne je nás okolo 1 400, čiže to už nie je o hŕstke špičkových vedcov. Umelá inteligencia je širokoodborná, takže okrem informatikov zamestnávame aj filozofov, biológov či právnikov. Tento rok budeme mať aj vyše stovky stážistov, takže dvere pre šikovných ľudí sú u nás otvorené. V Deepminde pôsobí aj približne desiatka Slovákov.

Michal Valko

Je odborník na strojové učenie. Na Fakulte matematiky, fyziky a informatiky UK vyštudoval odbor umelá inteligencia a matematické metódy v informatike. Doktorandské štúdium absolvoval na Univerzite v Pittsburghu. V rokoch 2009 až 2010 bol na stáži v spoločnosti Intel v Silicon Valley. Momentálne pôsobí v akadémii vied v Lille. Učí na Univerzite v Paríži a od roku 2019 je aj v spoločnosti DeepMind. Zaoberá sa „reinforcement learningom“, čo je aktívny spôsob strojového učenia, kde sa algoritmy učia robiť správne rozhodnutia.

[Viac podcastov a článkov, ktoré si môžete vypočuť od Denníka N: Na stránke dennikn.sk/audio nájdete vždy kompletnú ponuku na počúvanie.]

Máte pripomienku alebo ste našli chybu? Prosíme, napíšte na pripomienky@dennikn.sk.

ESET Science Award

Iné podcasty Denníka N

Rozhovory

Umelá inteligencia

Vedecký podcast N2

Veda

Teraz najčítanejšie