Čo potrebuje Slovensko, aby vo svete umelej inteligencie nebolo zbytočné

Umelá inteligencia (AI) určite pomôže vytvárať nové produkty a služby, zvyšovať produktivitu či zlepšovať konkurencieschopnosť, o tom niet pochýb. Aktuálna otázka je preto už len, čo potrebuje Slovensko, aby tu mohli vznikať plodné riešenia AI. V posledných mesiacoch som o tom počul  hovoriť mnoho ľudí na viacerých AI konferenciách v Bratislave a všetci hovorili v podstate len o vzdelávaní novej generácie informatikov. To je však chyba.

Nespochybňujem investície do výchovy nových expertov na inovatívne IT. Tak ako má dnes firma so sto zamestnancami povedzme dvoch či troch klasických informatikov, zajtra by mala mať toľko isto odborníkov na dáta a AI. Myslím si však, že pes je zakopaný aj niekde inde.

V prvom rade je dôležité, aby znalosti o AI získali aj odborníci z iných, aj netechnických odborov. Slovensko viac než programátora AI potrebuje napríklad poľnohospodára schopného základnej práce s dátami. Druhá vec, ktorú súrne potrebujeme, sú samotné dáta.

To všetko však bude nanič, ak nepochopíme, že pri AI sa dá aj popáliť. Toronto nedávno zažilo protest, ktorý spojil nahnevaných aktivistov, vystrašených občanov a rozhorčených politikov. Čoho sa všetci boja? Senzorov, dát, umelej inteligencie  – nosných pilierov zamýšľanej výstavby inteligentného mesta, ktoré má vyrásť na brehu Ontárijského jazera. Za týmto projektom stojí internetový IT gigant, ktorý plánoval využiť aj dáta o tom, ako kto doma splachuje záchod.

Preto tretia vec, ktorá zaradí Slovensko medzi tie krajiny, čo vedia umelú inteligenciu používať úspešne, je to, či sa s ňou naučíme pracovať tak, aby sme si pri tom neublížili a aby sme pokrok vedeli zladiť s postojmi ľudí.

Umelá inteligencia nestojí na programátoroch

Vráťme sa však k výchove slovenských expertov na AI. Potrebujeme ich, ale nie na to, aby sme sa stali lídrom vo výskume samotnej AI. Ten prebieha z výraznej časti v USA a Číne, a kým sa ich aspoň čiastočne snažia dohnať aj niektoré európske krajiny, usilovať sa o niečo podobné u nás by bolo naivné. Minimálne preto, lebo je extrémne ťažké zvládnuť obrovský dopyt po špičkových odborníkoch na AI, a aj tých, čo tu vychováme, si len ťažko udržíme.

Inak je to však s aplikovaním algoritmov AI v najrozličnejších odvetviach. Na to zvyčajne treba len prekvapivo málo znalostí spadajúcich do pôsobnosti expertov na AI – informatikov. Dôležitejšie je totiž poznať oblasť, kde sa AI nasadzuje.

Najlepšiu prezentáciu o využití AI u nás som videl od plachého marketéra, ktorý sa hneď v úvode, kým neodborne zápasil s pripojením notebooku k projektoru, skromne priznal, že je prvýkrát v živote na IT konferencii.

Prezentoval nasadenie AI na predpovedanie skladových zásob veľkej slovenskej siete potravín, v ktorej doposiaľ to, aké potraviny budú zákazníci kupovať v najbližších dňoch, odhadovali vedúci predajní.

Na riešenie nepotreboval počítač ani server, skrátka nič zo sveta klasického IT. Potrebné algoritmy našiel v cloude jedného z amerických IT gigantov. Keď ich však nakŕmil len historickými dátami o predaji, uspokojivý výsledok nedostal, pretože predikcie boli horšie, ako by urobila skúsená vedúca predajne.

Kľúčové bolo doplniť algoritmy AI špecifickými znalosťami o predaji konkrétneho sortimentu potravín v našich podmienkach. Predaj niektorých výrobkov je závislý od demografickej štruktúry či kúpyschopnosti obyvateľstva, iných skôr od počasia, vysvetľoval nám.

Takto vyladený model už bol lepší ako predpovede ľudí, obzvlášť ak ho vybavil poznaním o istých lokálnych špecifikách. To ilustroval politicky nekorektnou anekdotou o jednej predajni v blízkosti rómskej osady, kde bolo údajne celé tajomstvo predpovede predaja skryté v poznaní dátumu vyplácania dávok.

Aj laici už dnes chápu, že úspešnosť AI závisí od kvality vstupných dát. Tie musia byť aktuálne, nezaujaté, neskreslené a úplné, ale predovšetkým relevantné. A to, ktoré dáta súvisia s daným problémom a akým spôsobom, vie povedať len odborník na danú oblasť, ktorý chápe jej súvislosti.

Preto tým, čo Slovensko potrebuje, aby vedelo produkovať úspešné riešenia na poli AI, sú odborníci v jednotlivých odvetviach, ktorí si existujúcu počítačovú gramotnosť doplnia o základné schopnosti využívania dostupných nástrojov AI. Platí to pre vinohradníkov, energetikov, stavbárov, športovcov aj umelcov a na to, aby sa naučili pracovať s dátami, pochopiť fungovanie strojového učenia, vybrať si vhodný algoritmus či trénovať zvolený model, by im mohol stačiť aj krátky vzdelávací kurz.

Ozaj, máme dáta?

Ak vás o potrebe otvorených dát (nielen) vo verejnej správe doteraz ešte nepresvedčili argumenty o lepšej transparentnosti, efektívnejšej štátnej správe či ekonomickom potenciáli na vznik nových produktov a služieb, teraz tu je nový a, dovolím si povedať, najsilnejší argument v prospech sprístupnenia čo najväčšieho množstva dát: umelá inteligencia.

Dáta sú pre AI také esenciálne, až platí, že ak nebudeme mať otvorené dáta, nebudeme mať skrátka ani AI. Na Slovensku budeme mať presne toľko AI, koľko budeme mať dát.

Niet lepšieho príkladu, ako sú dáta o počasí. Tie tvorí náš Slovenský hydrometeorologický ústav, no verejne dostupné nie sú. Obhajujú sa tým, že sú príspevkovou organizáciou a ich fungovanie závisí aj od komerčného predaja vlastných dát.

Aj NASA v Spojených štátoch najprv za fotky z Hubblovho ďalekohľadu pýtala peniaze, potom však súd rozhodol, že fotografie vyhotovené zo zariadenia financovaného z daní musia byť daňovým poplatníkom sprístupnené zadarmo.

Ak sa napríklad medzi našimi vinohradníkmi nájde niekto taký pokrokový,  že si trúfne vytvoriť aplikáciu na automatizované polievanie viniča, bude potrebovať nielen znalosti o jeho zavlažovaní, ale aj veľmi detailné informácie o predpovedi počasia.

Dočítal som sa, že vinič u nás trpí vlahovým deficitom, ale zároveň platí, že prevlažovanie je preň omnoho škodlivejšie ako nedostatok vlahy, takže poliať ho predtým, ako bude pršať, je veľkou chybou.

Preto bude táto aplikácia nevyhnutne potrebovať detailné informácie o predpovedi počasia s veľkou časovou aj priestorovou presnosťou, v surovom dátovom formáte a okamžite prístupné cez počítačové rozhranie API.

Optimálne by bolo mať tiež priamy prístup k živým dátam z konkrétnych profesionálnych meteostaníc SHMÚ, takých, čo stoja okolo desaťtisíc eur, rozmiestnených povedzme na konkrétnych miestach na úpätí Malých Karpát.

Nič také u nás zatiaľ možné nie je, čo je škoda, lebo slovenský vinohradník má pri vývoji takejto AI aplikácie oproti hocikomu zvonka, komu chýbajú lokálne znalosti o pestovaní viniča v našich podmienkach, odovzdávané z generácie na generáciu vinohradníkov, obrovskú výhodu. Americký vývojár len sotva pochopí presakavosť pôdy v regióne Tokaja a obdobná situácia je aj v mnohých ďalších odvetviach.

Je preto dôležité, aby iniciatívy za otvorené dáta nabrali na Slovensku nový dych. Mnoho miest či inštitúcií dnes kupuje rôzne senzory, ktoré merajú teplotu, kvalitu ovzdušia, pohyb ľudí, prietok vody, počet áut, produkovanie odpadu a bezpočet iných veličín. Je však potrebné myslieť na to, aby pri obstarávaní týchto zariadení dostali zodpovedné verejné subjekty aj prístup k dátam a tie následne v čo najpodrobnejšej surovej kvalite sprístupnili.

Mimochodom, odpadne im vďaka tomu aj množstvo práce s vizualizovaním či používaním týchto dát, lebo to súkromný sektor či občania radi spravia sami.

Čoho sa naozaj treba báť

No a do tretice tu máme oblasť zodpovedného využitia AI. S ňou súvisia aj isté obavy týkajúce sa ochrany súkromia či toho, ako sa AI rozhoduje. A práve z týchto dôvodov stavitelia inteligentného mesta v Toronte narazili na odpor.

Medzi nové výzvy, ktoré umelá inteligencia priniesla, preto patria aj riziká neúmyselnej diskriminácie v dôsledku neférových rozhodnutí a napríklad aj informovanosť zákazníkov o tom, že sa AI podieľa na dôležitých či citlivých rozhodnutiach o nich samotných. Veľkým problémom AI algoritmov je aj to, že nevieme nahliadnuť do ich útrob tak, aby sme pochopili, ako sa rozhodujú.

A preto by práve teraz mali ľudia predovšetkým z humanitných odvetví, napríklad psychológovia, filozofi, sociológovia, právnici či politológovia, skúmať rozhranie medzi AI a spoločnosťou. Veľa veľkých otázok zostáva nezodpovedaných a niektoré, azda ešte väčšie, sme sa ešte ani len neopýtali.

Ako použiť AI pri rozhodovaní o ľuďoch tak, aby bol tento proces vysvetliteľný, transparentný a férový?

Ako rozpoznať, kedy má AI pri rozhodovaní nežiaduce predsudky?

Kedy jej môžeme zveriť proces bez toho, aby sme ju kontrolovali, a kedy je dôležité ponechať aj dozor človeka?

Je tiež dôležité opatrne zvážiť, či by nemali ľudia dostať možnosť rozhodnúť sa, či vôbec chcú byť vystavení algoritmom AI a či radšej nechcú, aby sa im venoval človek.

Napríklad je pozitívne, že na Slovensku máme banku, kde sa dá založiť účet prostredníctvom biometrie tváre, ale je možno rovnako dôležité, aby bola naďalej ponechaná možnosť otvoriť si účet aj klasicky na pobočke, zoči-voči bankovému úradníkovi.

Tieto otázky sa musíme naučiť zodpovedať my sami, tu u nás. Množstvo algoritmov AI k nám prichádza zo zahraničia a môžu byť vytrénované na vzorkách, ktoré u nás nemusia fungovať hodnoverne. Ak bude napríklad naše letisko rozpoznávať tváre pasažierov a porovnávať ich s fotografiami teroristov, algoritmus trénovaný povedzme v Číne môže byť nepresný pri ľuďoch s tmavšou pokožkou, keďže ich črty sú vizuálne menej kontrastné, čo by mohlo viesť k nezamýšľanej diskriminácii našich Rómov.

Iné dovezené AI technológie u nás môžu po technickej stránke fungovať bezchybne, ale nebudú kompatibilné s našimi hodnotami. V Číne napríklad vyvinuli inteligentné semafory, ktoré rozpoznajú chodcov, čo prebehnú na červenú, a ich meno a tvár hanlivo zobrazia na digitálnom bilborde. Takéto niečo by u nás nepochybne narazilo na naše vnímanie (či legislatívu) ochrany súkromia, ale pri iných príkladoch to nemusí byť také jednoznačné a môže si to vyžadovať hlbšie bádanie.

Niekoľké nákupné centrá na Slovensku napríklad nasadili inteligentné podsvietené reklamné vitríny, tzv. citylighty, ktoré sú vybavené kamerou a inzerentom ponúkajú údaje o ľuďoch, ktorí sa na ne pozerali, napríklad ich vek, pohlavie či čas strávený čítaním citylightu. Ako posúdiť, či je to už neetické? Mala by vás kamera, ktorá sníma váš vek, informovať, že tak robí? Päť miest na východnom Slovensku nedávno takéto citylighty osadilo aj v nemocniciach, poliklinikách a detských centrách. Je v tom rozdiel?

Toto všetko sa budeme musieť naučiť vyhodnotiť a spracovať, aby sme AI mohli používať zodpovedne. Získané poznatky potom môžeme ponúkať ďalej a aj týmto spôsobom byť vo svete AI relevantným hráčom.

Tak ako sa vyvíjajú AI technológie, budú napredovať aj s nimi spojené výzvy v oblasti riadenia rizík či etiky. Je možné, že poznanie toho, čo všetko to s nami robí, bude rovnako cenné ako vývoj samotných AI technológií.

A ak sa tieto riziká nenaučíme identifikovať a priebežne riešiť, hrozí nám, že sa verejnosť postaví proti nasadzovaniu AI tak, ako v príklade z Toronta, čo by bola škoda.

Je v záujme ľudského pokroku, aby sa technológie spojili s občianskou spoločnosťou. Preto treba neustále sledovať ich vplyv na spoločnosť, zároveň monitorovať jej postoj k jednotlivým technológiám a následne zabezpečiť, aby tieto technológie boli nasadzované etickým spôsobom tak, aby z nich mali prospech všetci ľudia. Len tak totiž žiadaný pokrok bude môcť prísť.