Denník N

Umelá inteligencia neznamená desivú budúcnosť, hlásal priekopník Marvin Minsky

Marvin Minsky na fotke z roku 1987. Foto – Ap
Marvin Minsky na fotke z roku 1987. Foto – Ap

Nestačilo mu vytvoriť stroj, ktorý dokáže to, čo človek. Túžil po strojoch, ktoré by dosahovali svoje ciele rovnakým postupom ako my ľudia. A pritom narazil na skutočnosť, že to, čo robí tieto postupy ľudskými, sú emócie.

24. januára tohto roku zomrel Marvin Minsky, jeden z najvýznamnejších priekopníkov modernej vedy. Je pozoruhodným zjavom aj preto, že pri svojom vednom odbore bol od jeho zrodu až po dnešok, t. j. rovných 60 rokov.

Bol jedným zo štyroch vedcov, ktorí navrhli zvolať do Dartmouth College v roku 1956 kolegov, aby sa zaoberali otázkou či – vtedy ešte len nedávno zostrojené – počítače môžu myslieť podobným spôsobom ako človek. Práve v návrhu tejto akcie prvýkrát použili ono kontroverzné slovné spojenie umelá inteligencia. Výraz, ktorý niekomu pripadá ako protirečenie, inému ako desivá budúcnosť, v ktorej miesto ľudí zaujmú stroje.

Na Minského práci ukážem, že nejde ani o jedno z toho.

Prvá etapa: Matematické dokazovanie viet

Na spomínanú akciu v Darmouth College priniesli kolegovia Newell a Simon nápad nakódovať počítačový program zvaný LT. Z axióm výrokovej logiky dokázal pomocou pravidiel substitúcie a modus ponens základné matematické tvrdenia. Ako prvý počítač vôbec tak uskutočnil výpočet nie s číslami, ale so symbolmi, konkrétne s logickými formulami.

Vedci sa tak snažili potvrdiť svoju hypotézu, že počítač, ktorý dokáže realizovať formálne operácie nad symbolmi, je dostatočný nástroj na zavedenie inteligentného správania. LT dokázal vetu „ak z P vyplýva, že P neplatí, potom P neplatí“. Nešlo o tvrdenie, ktoré by nám nebolo známe, naopak, šlo o najtriviálnejšie tvrdenie, ktoré poznáme.

a

Novinkou bolo, že ho vedci dokázali dostať do pamäte počítača v podobe reťazca symbolov, ktorý je dôsledkom manipulácie s podobne vyjadrenými axiómami.

Nie je jasné, do akej miery sa Minsky podieľal na kódovaní programu. O to viac sa zaoberal filozofickou otázkou, čo vlastne existencia LT znamená. LT neobjavil princípy matematickej logiky. Vložili ich doň ľudia.

Ale na druhej strane bol schopný vykonať matematický dôkaz, čo ani po vysvetlení princípov matematickej logiky veľa smrteľníkov nedokáže. Nakoľko sa však to, čo robí LT, zhoduje s procesom, ktorý prebieha v mozgoch ľudí? Minského vždy zaujímalo viac to, čo sa deje v ľudskom mozgu, než ako urobiť užitočný systém, ktorý v dôsledkoch dokáže to, čo mozog.

Druhá etapa: Neurónové siete

Minsky ako jeden z prvých (v roku 1951) navrhol takzvanú umelú neurónovú sieť. Nazval ju SNARC; verne simulovala navigáciu potkanov v bludisku. K tejto problematike mal blízko, okrem matematiky vyštudoval aj neurofyziológiu. Spojenie takých odlišných profesií je pre odbor umelej inteligencie typické dodnes.

Neurónová sieť je výpočtové zariadenie, ktoré na rozdiel od LT nepracuje so symbolmi, ale so signálmi. Reprezentuje ich veľkosť takzvaného akčného potenciálu či frekvencia takzvaného pálenia.

Pozostávajú z jednotiek, takzvaných neurónov, ktoré sú vzájomne poprepájané. Každý z nich prijíma vstupné signály prichádzajúce od ostatných neurónov a spracúva ich určitým spôsobom na výstupný signál. Pokiaľ by sme sa sústredili na jeden neurón, len ťažko by sme vedeli povedať, čím prispieva ku globálnej funkcii neurónovej siete. Tá spravidla spočíva v naučení sa určitej sady vzorov z predložených príkladov a v schopnosti ich asociácie s podobnými, prípadne čiastočnými vstupmi. Vďaka tomu rozpoznáva rukou písané číslice a písmená.

Minsky nielen navrhol vlastnú neurónovú sieť, ale po tom, čo sa objavili ďalšie – v prvom rade perceptrón od Franka Rosenblatta – začal sa ako prvý zaoberať ich demystifikáciou. Výskum v oblasti neurónových sietí začal snahou urobiť nejaké výpočtové zariadenie, v ktorom sa odohráva niečo podobné ako v mozgu, a potom skúmať, čo robí a na čo sa dá využiť.

Minskému nestačilo vnímať neurónové siete ako zaujímavú čiernu skrinku. Chcel matematicky chápať, čo tieto siete robia, a spoznať, čo dokážu a čo nedokážu. V známej knihe „Perceptrons: an introduction to computational geometry“ spolu so Seymourom Papertom na konci 60. rokov odhalili, že perceptróny toho dokážu oveľa menej, než sa všeobecne očakáva.

Ich limity spočívajú v neschopnosti postihnúť vlastnosti, ktoré sa nedajú opísať ako súčasný výskyt viacerých lokálnych príznakov. (Je pozoruhodné, že tento limit majú aj dnešné metódy rozpoznávania obrazu. Napriek tomu sú technicky veľmi užitočné.)

aab
Na obrázku Jozefa Kelemena sú v strede a vpravo dva pre perceptrón nerozlíšiteľné obrazce zložené z rovnakých lokálnych príznakov (vľavo).

Kritici dodnes Minskému vyčítajú, že týmto demotivujúcim objavom zabrzdil vývoj neurónových sietí na dvadsať rokov. Nebola to však jeho chyba. Mystifikácia rôznych typov neurónových sietí je problémom dodnes. Napriek množstvu užitočných aplikácií a ohromujúcich výsledkov neurónové siete dodnes nezvládajú osvojiť si taký triviálny koncept, ako je nepriama úmera.

Tretia etapa: Rámcová reprezentácia poznatkov

Istá demotivácia z výskumu neurónových sietí zasiahla zrejme aj samotného Minského. V 70. rokoch minulého storočia sa venoval prevažne výskumu v oblasti reprezentácie poznatkov. Poznatok je napríklad „Jozef učí na Fakulte manažmentu“. Dovtedy známe spôsoby reprezentácie poznatkov boli:

  • deklaratívna: Učí (Jozef, FakultaManažmentu)
  • procedurálna: FakultaManažmetu = KdeUčí (Jozef)
  • asociatívna: Jozef − Učí → FakultaManažmetu

Minsky sa snažil o ich skĺbenie do jednotnej reprezentácie, ktorá by v sebe zahrnovala všetky výhody typické pre jednotlivé prístupy. Navrhol takzvanú rámcovú reprezentáciu poznatkov. Pri prvom pohľade na náš príklad vyjadrený pomocou nej:

Učiť {

kto Jozef

kde FakultaManažmetu

}

nám nemusí hneď napadnúť, v čom spočívajú jej prednosti. Určite však oceníme to, že sa dnes využíva – okrem expertných systémov – na modelovanie scén virtuálnej reality.

Štvrtá etapa: Societný model mysle

V 80. rokoch sa Minsky naplno vrátil k procesom myslenia, ktoré prebiehajú v mozgu. Zaujali ho práce Jeana Piageta, vývinového psychológa, ktorý skúmal kognitívne schopnosti detí v závislosti od ich veku.

Piaget robil aj takéto pokusy. Vzal dva poháre s rovnakým objemom, jeden štíhly a vysoký, druhý široký a nízky. Do jedného nalial vodu, prelial ju do druhého a prvý znovu naplnil vodou. Zistil, že keď sa v tejto chvíli opýta štvorročného dieťaťa: „V ktorom pohári je viac vody?“, rozhodne sa pre jeden z pohárov. Avšak staršie deti už odpovedia, že vody je rovnako veľa.

ab

Minsky si kládol otázku, čo sa deje v mozgu dieťaťa, že najprv nevie, a potom vie daný problém riešiť. Pustil sa do syntézy prístupov typických pre neurónové siete a rámcovú reprezentáciu poznatkov (konekcionistický a symbolicko-komputačný prístup) a navrhol takzvaný societný model mysle.

V ňom myseľ tvorí (na vyššej úrovni opisu) množstvo agentov, ktorí sú čiastočne vzájomne prepojení a prebieha medzi nimi výmena informácií. O každom agentovi sa dá povedať, čo robí, ale sú to spravidla jednoduché veci. Správne globálne správanie mysle povstáva z interakcie agentov. Z toho, že sa správni agenti ozvú v správny čas.

Tento koncept dáva návod, ako pristúpiť k realizácii úloh, ako je plne automatické riadenie vozidla (bez vodiča). Pri takýchto úlohách je nám jasné, čo chceme, ale nemáme najmenšiu nápovedu, ako to dosiahnuť. Minsky radí napodobniť niečo ako vývin kognitívnych funkcií dieťaťa premietajúci sa do prekrývajúcich sa riadiacich štruktúr, kde nová povstáva vďaka tomu, že povstali už tie staršie.

V priebehu tohto procesu pribúdajú do riadiaceho systému agenti, ktorých individuálne správanie si vieme dobre predstaviť ,a teda aj ľahko zaviesť. Pribúdajú aj nové prepojenia, ktoré zabezpečujú, že z individuálnych správaní agentov povstane správne globálne správanie systému.

Piata etapa: Stroj riadený emóciami

Ostatné roky svojho života Minsky zasvätil výskumu emócií. Nestačilo mu vytvoriť stroj, ktorý dokáže to, čo človek. Túžil po strojoch, ktoré by dosahovali svoje ciele rovnakým postupom ako človek. A pritom narazil na skutočnosť, že to, čo robí tieto postupy ľudskými, sú práve emócie.

Nadviazal preto na prácu Sigmunda Freuda a položil si otázku, kedy sme vlastne oprávnený povedať o nejakom stroji, že má emócie. Je to analogická otázka, akú si na úsvite umelej inteligencie kládol Alan Turing. Na rozdiel od Turinga, ktorý si odpovedal testom, kde stroj predstavuje čiernu skrinku, Minsky si odpovedal štrukturálne.

Jeho societný model sa dá rozšíriť tak, že emócie v ňom predstavujú stavy, ktoré ovplyvňujú väčšinu agentov. Kým tí pôsobia v mysli lokálne, emócie pôsobia globálne. Že tu ide o technicky využiteľný fakt, Minsky predviedol v knihe „Emotion machine“.

aaab
Marvin Minsky na fotke Jozefa Kelemena

Okrem výskumu sa Minsky úspešne venoval aj organizačnej a pedagogickej práci. Na MIT založil so Seymourom Papertom slávny AI Lab, v ktorom – mimo iného – uzreli svetlo sveta slávne roboty HERBERT alebo COG.

Našu krajinu ovplyvnil prostredníctvom Jozefa Kelemena, autora prvej slovenskej učebnice umelej inteligencie, ktorý v AI Lab na MIT určitý čas pôsobil a aj potom udržiaval s Minským vzájomný kontakt.

Ako jeho žiak sa venujem rozvíjaniu Minského myšlienok o societnom modeli mysle v implementácii konkrétnych riadiacich systémov mobilných robotov. Hoci som Minského na vlastné oči videl len dva razy – na verejných prednáškach vo Viedni a v Prahe – s jeho dielom som takmer vždy, keď mi to situácia dovoľuje.

Autor pôsobí na oddelení umelej inteligencie Katedry aplikovanej informatiky UK v Bratislave

Teraz najčítanejšie