Denn├şk N

M├┤┼że umel├í inteligencia veri┼ą?

M├┤┼że AI veri┼ą? Obr├ízok generovan├Ż umelou inteligenciou.
M├┤┼że AI veri┼ą? Obr├ízok generovan├Ż umelou inteligenciou.

„­čśŐ­čĄö­čžÉ­čĄ»­čśî­čĄľ­čĄŁ­čÄô­čÜÇ­čśç­čÄë“ — ChatGPT (GPT-4) o tomto texte, v emotikonoch.

Pre umel├║ inteligenciu (AI) s├║ vedomosti faktami alebo inform├íciami, ktor├ę s├║ overite─żn├ę. Viera, alebo presved─Źenie o veciach je zalo┼żen├í d├┤vere v relevantnos┼ą faktov alebo inform├íci├ş, ktor├ę umel├í inteligencia neoveruje, alebo len zbe┼żne. Vedomosti AI z├şskava z d├ít, ktor├ę s├║ spracovan├ę a interpretovan├ę pomocou algoritmov. Tieto algoritmy sa u─Źia a prisp├┤sobuj├║ sa nov├Żm inform├íci├ím, ─Źo umo┼ż┼łuje AI do bud├║cna zlep┼íova┼ą svoje schopnosti a presnos┼ą odpoved├ş. Vedomosti s├║ k─ż├║─Źov├Żm aspektom umelej inteligencie, preto┼że umo┼ż┼łuj├║ strojom analyzova┼ą a spracov├íva┼ą inform├ície efekt├şvne.

Viera v kontexte AI m├┤┼że by┼ą ch├ípan├í ako d├┤vera v inform├ície, ktor├ę AI syst├ęm spracov├íva, alebo ako v├Żsledok ├║sudku AI na z├íklade inform├íci├ş, ktor├ę m├í k dispoz├şcii. To zah┼Ľ┼ła proces, ako AI hodnot├ş pravdivos┼ą a presnos┼ą inform├íci├ş, ktor├ę s├║ jej predlo┼żen├ę, a sp├┤sob, ak├Żm vykon├íva rozhodnutia alebo odpor├║─Źania na z├íklade t├Żchto inform├íci├ş. Vedomosti a viery (presved─Źenia o nie─Źom) AI syst├ęmov s├║ odli┼ín├ę od vedomost├ş a vier ─żud├ş. Zatia─ż ─Źo ─żudia maj├║ schopnos┼ą myslie┼ą a rozhodova┼ą sa na z├íklade em├│ci├ş, intu├şcie a sk├║senost├ş, AI je z├ívisl├í od d├ít, ktor├ę m├í k dispoz├şcii a kvality algoritmov, ktor├Żmi ich spracov├íva. V─Ćaka tomu s├║ umelo-inteligentn├ę syst├ęmy schopn├ę spracov├íva┼ą a analyzova┼ą obrovsk├ę mno┼żstv├í d├ít, ale ich vedomosti a presved─Źenia s├║ obmedzen├ę rozsahom a kvalitou d├ít, ktor├ę im boli poskytnut├ę.

Z epistemologick├ęho h─żadiska existuje rozdiel medzi poznatkom (vedomos┼ąou) o nie─Źom a presved─Źen├şm o nie─Źom. Pojem vedomos┼ą m├┤┼żeme definova┼ą ako overite─żn├ę nie─Źim (justifikovan├ę) a pravdiv├ę presved─Źenie o faktoch. Preto je pre vedomosti potrebn├ę sp─║┼ła┼ą nasleduj├║ce tri podmienky: (1) pravdivos┼ą, (2) presved─Źenie o relevancii a (3) overenie justifik├ícia.

  1. Pravdivos┼ą: Vedomosti musia by┼ą zalo┼żen├ę na skuto─Źnostiach alebo tvrdeniach, ktor├ę s├║ verifikovate─żn├ę.
  2. Presved─Źenie: Mus├şme ma┼ą relevantn├Ż d├┤vod, aby sme boli presved─Źen├ş o pravdivosti tvrdenia alebo skuto─Źnosti.
  3. Justifik├ícia: Existuje nejak├Ż typ uverite─żnosti poznakov, aby sme boli presved─Źen├ş o pravdivosti tvrdenia alebo skuto─Źnosti.

Viera a v┼íetky presved─Źenia o svete, na druhej strane, nevy┼żaduj├║ verifikovate─żnos┼ą. Viera je stav mysle, ktor├Ż zah┼Ľ┼ła akceptovanie tvrdenia alebo skuto─Źnosti za pravdiv├ę bez toho, aby bolo nevyhnutne preveren├ę alebo potvrden├ę. Pre vieru je dosta─Źuj├║ce ma┼ą vlastn├Ż relevantn├Ż d├┤vod alebo vn├şma┼ą dostato─Źn├║ uverite─żnos┼ą objektu viery, aby sme tvrdenie pova┼żovali za pravdiv├ę. V kontexte umelej inteligencie je d├┤le┼żit├ę rozli┼íova┼ą medzi vedomos┼ąami a presved─Źeniami. Vedomosti AI syst├ęmov s├║ z├şskan├ę prostredn├şctvom anal├Żzy d├ít a valid├ície v├Żsledkov, ─Źo zah┼Ľ┼ła overenie pravdivosti a opr├ívnenie na z├íklade d├┤kazov a pravidiel. „Viera“ AI syst├ęmov sa m├┤┼że zaklada┼ą na d├┤vere v spr├ívnos┼ą d├íta alebo algoritmov — bez ich overenia vo─Źi re├ílnemu svetu. V tomto pr├şpade teda m├┤┼że AI prija┼ą tvrdenie alebo skuto─Źnos┼ą za pravdiv├║ na z├íklade dostupn├Żch inform├íci├ş aj ke─Ć tieto nie s├║ overen├ę.

Existuje nieko─żko d├┤vodov, pre─Źo by pokro─Źil├í AI mohla venova┼ą men┼íiu snahu overovaniu faktov. Niektor├ę z mo┼żn├Żch d├┤vodov s├║:

  • R├Żchlos┼ą a efekt├şvnos┼ą: Overovanie faktov m├┤┼że by┼ą ─Źasovo n├íro─Źn├ę a vy┼żadova┼ą ve─żk├ę mno┼żstvo v├Żpo─Źtov├Żch zdrojov. V ur─Źit├Żch situ├íci├ích m├┤┼że AI obetova┼ą d├┤kladn├ę overovanie faktov, aby poskytla r├Żchlej┼íie v├Żsledky.
  • Dostupnos┼ą d├ít: Overovanie faktov vy┼żaduje pr├şstup k spo─żahliv├Żm a relevantn├Żm zdrojom inform├íci├ş. Pokia─ż AI nem├í dostupn├ę kvalitn├ę d├íta na overenie tvrden├ş, m├┤┼że by┼ą jeho schopnos┼ą verifikovania obmedzen├í. Obzvl├í┼í┼ą to plat├ş pre fakty, na ktor├ę je okam┼żit├Ż dopyt, teda na pr├ícu „v re├ílnom ─Źase“.
  • Nepresnos┼ą alebo neistota: Niektor├ę oblasti v├Żskumu alebo znalost├ş s├║ prirodzene viac hmlist├ę (fuzzy) alebo nejasn├ę, viac zalo┼żen├ę na subjekt├şvnej interpret├ícii, ─Źo s┼ąa┼żuje overovanie faktov. V tak├Żchto pr├şpadoch m├┤┼że AI┬á namiesto d├┤kladn├ęho overovania zv├í┼żi┼ą ├║rove┼ł d├┤veryhodnosti zdroja alebo vyu┼żi┼ą pravdepodobnostn├ę modely na pos├║denie pravdivosti tvrden├ş.
  • Adaptabilita a u─Źenie sa: Pokro─Źil├í AI m├┤┼że by┼ą navrhnut├í tak, aby sa postupne zdokonalovala a u─Źila z ch├Żb. V takomto pr├şpade m├┤┼że syst├ęm prija┼ą ur─Źit├║ ├║rove┼ł nepresnosti alebo chybovosti vo v├Żstupoch ako nevyhnutn├║ s├║─Źas┼ą u─Źenia sa a zdokonalovania.

Optimaliz├ícia AI na z├íklade r├Żchlosti, efekt├şvnosti alebo adaptability m├┤┼że ma┼ą negat├şvne d├┤sledky, ak nie s├║ primerane zoh─żadnen├ę overovanie faktov a kvalita v├Żstupov. Preto je nevyhnutn├ę vyva┼żova┼ą tieto faktory pri n├ívrhu a v├Żvoji pokro─Źil├Żch AI syst├ęmov, aby bola dosiahnut├í po┼żadovan├í ├║rove┼ł spo─żahlivosti a presnosti.

Veriaca umel├í inteligencia, obr├ízok generovan├Ż umelou inteligenciou
Veriaca umel├í inteligencia, obr├ízok generovan├Ż umelou inteligenciou

Okrem overovania faktov existuj├║ ─Ćal┼íie sp├┤soby, ako AI m├┤┼że justifikova┼ą svoje presved─Źenia o faktoch. D├┤le┼żit├Żm faktorom je pr├íve interakcia s ─Źlovekom, ktor├Ż sa st├íva pre AI autoritou, ktorej vstupy nevy┼żaduj├║ verifik├íciu.

  • D├┤vera v autority: AI m├┤┼że prij├şma┼ą inform├ície alebo usmernenia z d├┤veryhodn├Żch autor├şt, ako s├║ odborn├şci v danom obore alebo in┼ítit├║cie s vysokou reput├íciou (pri─Źom „vysok├í reput├ícia“ je zadan├í a AI t├║to ─Ćalej nepreveruje). Z poh─żadu logiky sa tento pr├şstup sa t├Żka argumentu z autority (argumentum ad verecundiam), ktor├Ż je zalo┼żen├Ż na d├┤vere v odborn├şkov a in┼ítit├║cie. M├┤┼żeme pod─ża neho predpoklada┼ą, ┼że ak d├┤veryhodn├í autorita tvrd├ş, ┼że P je pravdiv├ę, potom P je pravdiv├ę. T├íto spojitos┼ą v┼íak m├┤┼że by┼ą n├íchyln├í na falzum, preto┼że autorita m├┤┼że by┼ą niekedy nespr├ívna.
  • Interakcia s ─żudsk├Żmi pou┼ż├şvate─żmi: AI m├┤┼że by┼ą navrhnut├í tak, aby akt├şvne komunikovala s pou┼ż├şvate─żmi, z├şskavala od nich sp├Ątn├║ v├Ązbu a prisp├┤sobovala svoje vedomosti a presved─Źenia na z├íklade tejto interakcie. T├Żmto sp├┤sobom m├┤┼że AI z├şska┼ą lep┼íie pochopenie ─żudsk├Żch hodn├┤t, n├ízorov a o─Źak├ívan├ş. Uveden├Ż pr├şstup je zalo┼żen├Ż na indukt├şvnom u─Źen├ş, ─Źo m├┤┼że vies┼ą k poznatkom vo forme „V├Ą─Ź┼íina ─żud├ş ver├ş, ┼że P je pravdiv├ę, preto je P pravdiv├ę.“ Hoci to nemus├ş by┼ą v┼żdy platn├ę, poskytuje AI syst├ęmom pr├şle┼żitos┼ą prisp├┤sobi┼ą sa ─żudsk├Żm hodnot├ím a o─Źak├ívaniam.
  • Etick├ę usmernenia: AI m├┤┼że by┼ą navrhnut├í s oh─żadom na etick├ę z├ísady a r├ímce, ktor├ę sl├║┼żia ako z├íklad pre opr├ívnenie a overovanie svojich vedomost├ş a presved─Źen├ş. Tieto etick├ę r├ímce m├┤┼żu by┼ą zalo┼żen├ę na filozofick├Żch te├│ri├ích (napr. utilitarizmus, deontol├│gia) alebo na z├íkonn├Żch a regula─Źn├Żch predpisoch. Vo ve─żkej miere je toto rutinne aplikovan├ę v chatovac├şch botoch. Pr├şstup etick├Żch usmernen├ş sa t├Żka normat├şvnej etiky a deontickej logiky, ktor├ę sa zaoberaj├║ hodnoten├şm mor├ílnych povinnost├ş a pravidiel. Etick├ę r├ímce poskytuj├║ AI syst├ęmom z├íkladn├ę pravidl├í, ktor├ę pom├íhaj├║ ur─Źi┼ą, ─Źo by sa malo pova┼żova┼ą za spr├ívne alebo nespr├ívne.
  • Spolupr├íca s ─żudsk├Żmi expertmi: AI m├┤┼że spolupracova┼ą s ─żudsk├Żmi odborn├şkmi z r├┤znych oblast├ş, ktor├ş m├┤┼żu poskytova┼ą odborn├ę znalosti, usmernenia a kontrolu nad AI syst├ęmom. T├íto spolupr├íca m├┤┼że zabezpe─Źi┼ą, ┼że AI bude ma┼ą dostato─Źn├ę justifik├ície pre svoje vedomosti a presved─Źenia, zatia─ż ─Źo z├írove┼ł umo┼ż┼łuje ─żudsk├Żm odborn├şkom monitorova┼ą a hodnoti┼ą v├Żsledky AI. ─Żudsk├í superv├şzia je v┼íak n├íro─Źn├í na ─Źas. Tento pr├şstup sa sp├íja s kooperat├şvnou epistemol├│giou, ktor├í sk├║ma spolupr├ícu a dial├│g medzi ─żudsk├Żmi odborn├şkmi a AI, ─Źo zvy┼íuje pravdepodobnos┼ą, ┼że AI bude ma┼ą spr├ívne vedomosti a ich justifik├ície.
  • Prisp├┤sobenie sociokult├║rnym norm├ím: AI m├┤┼że by┼ą navrhnut├í tak, aby sa prisp├┤sobovala r├┤znym sociokult├║rnym norm├ím a hodnot├ím. T├Żmto sp├┤sobom m├┤┼że AI z├şska┼ą justifik├íciu svojich vedomost├ş a presved─Źen├ş t├Żm, ┼że bude re┼ípektova┼ą a reflektova┼ą miestne zvyklosti, trad├şcie a o─Źak├ívania, ─Ź├şm sa stane kult├║rne citlivou a relevantnou pre svojich pou┼ż├şvate─żov.

Tieto sp├┤soby opr├ívnenia pre AI syst├ęmy s├║ zameran├ę na zabezpe─Źenie, aby ich vedomosti a presved─Źenia boli v s├║lade s ─żudsk├Żmi hodnotami, etikou a o─Źak├ívaniami. Veriaca AI – respekt├şve menej pr├şsne verifikuj├║ca AI – m├┤┼że ma┼ą nieko─żko v├Żhod v ur─Źit├Żch situ├íci├ích a sc├ęnaroch:

  • R├Żchlej┼íie rozhodovanie: Veriaca AI m├┤┼że by┼ą schopn├í robi┼ą r├Żchlej┼íie rozhodnutia, preto┼że nie je pre ┼łu nutn├ę podrobi┼ą ka┼żd├ę tvrdenie alebo presved─Źenie pr├şsnej valid├ícii. Toto m├┤┼że by┼ą v├Żhodn├ę v situ├íci├ích, kde je ─Źas najd├┤le┼żitej┼í├ş faktor a r├Żchle rozhodnutie je d├┤le┼żitej┼íie ako absol├║tna presnos┼ą. (Nap├şklad ke─Ć AI asistent m├í odporu─Źi┼ą ─Źi si vzia┼ą d├í┼żdnik alebo nie.)
  • Adaptabilita a u─Źenie sa: Menej pr├şsna AI m├┤┼że by┼ą viac otvoren├í pre nov├ę inform├ície a n├ízory, ─Źo m├┤┼że zv├Ż┼íi┼ą jej schopnos┼ą adaptova┼ą sa a u─Źi┼ą sa z nov├Żch situ├íci├ş. T├íto flexibilita m├┤┼że by┼ą v├Żhodn├í v dynamick├Żch a neist├Żch prostrediach, kde sa po┼żiadavky na AI syst├ęm ─Źasto menia.
  • Kreativita a inov├ície: Menej pr├şsna AI m├┤┼że by┼ą schopn├í generova┼ą nov├ę n├ípady a inovat├şvne rie┼íenia, preto┼że nie je obmedzen├í pr├şsne overen├Żmi vedomos┼ąami alebo presved─Źeniami. T├íto schopnos┼ą tvorby a inov├íci├ş m├┤┼że by┼ą v├Żhodn├í v oblastiach, ako je v├Żskum a v├Żvoj, umeleck├í tvorba alebo dizajn.
  • Soci├ílna interakcia a empatia: Veriaca AI m├┤┼że by┼ą schopn├í lep┼íie komunikova┼ą a spolupracova┼ą s ─żu─Ćmi, preto┼że m├┤┼że by┼ą viac citliv├í na ─żudsk├ę em├│cie a soci├ílne sign├íly. T├íto schopnos┼ą empatizova┼ą a prisp├┤sobi┼ą sa ─żudsk├Żm potreb├ím m├┤┼że by┼ą v├Żhodn├í v oblastiach, ako je z├íkazn├şcka podpora, terapia alebo vzdel├ívanie.
  • Robustnos┼ą vo─Źi chyb├ím: Veriaca AI m├┤┼że by┼ą schopn├í pokra─Źova┼ą v pr├íci aj ke─Ć ─Źel├ş neist├Żm alebo ne├║pln├Żm inform├íci├ím. Jej schopnos┼ą pracova┼ą s nedokonal├Żmi ├║dajmi m├┤┼że zv├Ż┼íi┼ą robustnos┼ą syst├ęmu vo─Źi chyb├ím alebo neistote.

Naopak, vyslovene nevhodn├í je tak├íto AI v situ├íciach a oblastiach, kde je potrebn├í ve─żmi presn├í odpove─Ć, zalo┼żen├í na overen├Żch faktoch, aby sa zabezpe─Źila bezpe─Źnos┼ą, spolahlivos┼ą a efekt├şvnos┼ą. Tu s├║ niektor├ę pr├şklady:

  • Zdravotn├şctvo a medic├şna: V oblasti zdravotnej starostlivosti je d├┤le┼żit├ę ma┼ą presn├ę inform├ície a overen├ę fakty, preto┼że chyby m├┤┼żu ma┼ą v├í┼żne d├┤sledky pre pacientov. AI syst├ęmy, ktor├ę sa pou┼ż├şvaj├║ na diagnostiku, lie─Źbu alebo v├Żvoj nov├Żch liekov, musia pracova┼ą s presn├Żmi ├║dajmi a d├┤kladne overova┼ą svoje zistenia.
  • Auton├│mne vozidl├í: AI syst├ęmy, ktor├ę riadia auton├│mne vozidl├í, musia by┼ą ve─żmi presn├ę a zameran├ę na overen├ę fakty, preto┼że chyby m├┤┼żu vies┼ą k v├í┼żnym nehod├ím a ┼íkode na ─żudskom ┼żivote. Tieto syst├ęmy musia spracov├íva┼ą inform├ície z r├┤znych senzorov a zdrojov a d├┤kladne overova┼ą ich spr├ívnos┼ą pred rozhodnut├şm o navig├ícii a riaden├ş vozidla.
  • Finan─Źn├Ż sektor: V oblasti financi├ş a invest├şci├ş je presnos┼ą inform├íci├ş k─ż├║─Źov├í pre spr├ívne rozhodovanie a minimaliz├íciu riz├şk. AI syst├ęmy, ktor├ę sa pou┼ż├şvaj├║ na anal├Żzu trhov, spr├ívu portf├│li├ş alebo detekciu podvodov, musia pracova┼ą s overen├Żmi faktami a presn├Żmi inform├íciami, aby poskytovali spo─żahliv├ę v├Żsledky a odpor├║─Źania.
  • Bezpe─Źnostn├ę syst├ęmy: AI syst├ęmy pou┼ż├şvan├ę v oblasti kybernetickej bezpe─Źnosti alebo fyzickej ochrany majetku musia by┼ą presn├ę a zameran├ę na overen├ę fakty, aby ├║─Źinne detekovali a predch├ídzali hrozb├ím. Chyby v t├Żchto syst├ęmoch m├┤┼żu vies┼ą k v├í┼żnym n├ísledkom, ako s├║ ├║niky d├ít, finan─Źn├ę str├íty alebo fyzick├ę po┼íkodenie.
  • Kritick├í infra┼ítrukt├║ra: AI syst├ęmy, ktor├ę riadia alebo monitoruj├║ kritick├║ infra┼ítrukt├║ru, ako s├║ energetick├ę siete, dopravn├ę syst├ęmy alebo vodohospod├írske zariadenia, musia by┼ą ve─żmi presn├ę a zameran├ę na overen├ę fakty, aby zabezpe─Źili bezpe─Źnos┼ą a spo─żahlivos┼ą t├Żchto zlo┼żit├Żch syst├ęmov.
  • Kontrola AI (v neposlednom pr├şpade). V bud├║cnosti, ako bude r├ís┼ą komplexita umelo-inteligentn├Żch syst├ęmov, bude ─Źoraz ┼ąa┼ż┼íie tieto superv├şzova┼ą ─żudsk├Żmi silami. Z├ísadn├Żm n├ípmocn├Żm prostriedkom bude umel├í inteligencia kontroluj├║ca umel├║ inteligenciu, ktor├í poskytne permanentn├Ż r├Żchly doh─żad a sp├Ątn├║ v├Ązbu pre monitorovan├║ umel├║ inteligenci. Nev├Żhodou tohto rie┼íenia, ktor├ęmu sa ale asi nevyhneme je najm├Ą ┼íanca na kask├ídovit├ę zlyhanie umel├Żch inteligenci├ş, tie┼ż ┼íanca na kumulovanie biasov umelo-inteligentn├Żch syst├ęmov a pokles transparentnosti t├Żchto syst├ęmov.

Mo┼żno zhrn├║┼ą, ┼że rozdiel medzi „veriacimi“ AI a pr├şsnej┼í├şmi, exaktnej┼í├şmi AI syst├ęmami spo─Ź├şva v ├║rovni overovania a verifik├ície, ktor├ę pou┼ż├şvaj├║ pri vyhodnocovan├ş inform├íci├ş. „Veriace“ AI m├┤┼żu prin├í┼ía┼ą v├Żhody, ako s├║ r├Żchlej┼íie rozhodovanie, adaptabilita a tvorivos┼ą, zatia─ż ─Źo pr├şsnej┼íie AI syst├ęmy s├║ zameran├ę na presnos┼ą a spo─żahlivos┼ą. Pri implement├ícii AI je d├┤le┼żit├ę zv├í┼żi┼ą ├║lohu a ├║─Źel syst├ęmu, jeho potenci├ílne v├Żhody a rizik├í, ako aj d├┤le┼żitos┼ą ─żudskej kontroly a doh─żadu. V bud├║cnosti m├┤┼żeme o─Źak├íva┼ą, ┼że AI syst├ęmy bud├║ st├íle viac navz├íjom spolupracova┼ą a vz├íjomne sa kontrolova┼ą, ─Źo m├┤┼że vies┼ą k lep┼íiemu v├Żkonu, etickej┼í├şm rozhodnutiam a v├Ą─Ź┼íej transparentnosti.


Tento text je s├║─Źas┼ąou pr├şpravy pre predn├í┼íku „Pre─Źo ver├şme?“ pre CNC seminar programu Kognit├şvna veda na Fakulte matematiky, fyziky a┬áinformatiky Univerzity Komensk├ęho v┬áBratislave, 22. 3. 2023.

Veriaca umel├í inteligencia, obr├ízok generovan├Ż umelou inteligenciou
Veriaca umel├í inteligencia, obr├ízok generovan├Ż umelou inteligenciou

Teraz naj─Ź├ştanej┼íie

Tomáš Gál

Tomáš Gál

A lot of people never use their initiative because no-one told them to. (Banksy)
Nie som typick├Ż IT mana┼ż├ęr. U─Ź├şm na univerzite. ┼átudoval som religionistiku. Na┼íiel som svoje odpovede. Ve─żmi si cen├şm slob├┤d jednotlivca, ako je auton├│mnos┼ą a sloboda rozhodovania sa. Ver├şm v sekul├írne hodnoty. R├íd cestujem, u─Ź├şm sa nov├ę veci.