Denník N

Môže umelá inteligencia veriť?

Môže AI veriť? Obrázok generovaný umelou inteligenciou.
Môže AI veriť? Obrázok generovaný umelou inteligenciou.

„😊🤔🧐🤯😌🤖🤝🎓🚀😇🎉“ — ChatGPT (GPT-4) o tomto texte, v emotikonoch.

Pre umelú inteligenciu (AI) sú vedomosti faktami alebo informáciami, ktoré sú overiteľné. Viera, alebo presvedčenie o veciach je založená dôvere v relevantnosť faktov alebo informácií, ktoré umelá inteligencia neoveruje, alebo len zbežne. Vedomosti AI získava z dát, ktoré sú spracované a interpretované pomocou algoritmov. Tieto algoritmy sa učia a prispôsobujú sa novým informáciám, čo umožňuje AI do budúcna zlepšovať svoje schopnosti a presnosť odpovedí. Vedomosti sú kľúčovým aspektom umelej inteligencie, pretože umožňujú strojom analyzovať a spracovávať informácie efektívne.

Viera v kontexte AI môže byť chápaná ako dôvera v informácie, ktoré AI systém spracováva, alebo ako výsledok úsudku AI na základe informácií, ktoré má k dispozícii. To zahŕňa proces, ako AI hodnotí pravdivosť a presnosť informácií, ktoré sú jej predložené, a spôsob, akým vykonáva rozhodnutia alebo odporúčania na základe týchto informácií. Vedomosti a viery (presvedčenia o niečom) AI systémov sú odlišné od vedomostí a vier ľudí. Zatiaľ čo ľudia majú schopnosť myslieť a rozhodovať sa na základe emócií, intuície a skúseností, AI je závislá od dát, ktoré má k dispozícii a kvality algoritmov, ktorými ich spracováva. Vďaka tomu sú umelo-inteligentné systémy schopné spracovávať a analyzovať obrovské množstvá dát, ale ich vedomosti a presvedčenia sú obmedzené rozsahom a kvalitou dát, ktoré im boli poskytnuté.

Z epistemologického hľadiska existuje rozdiel medzi poznatkom (vedomosťou) o niečom a presvedčením o niečom. Pojem vedomosť môžeme definovať ako overiteľné niečim (justifikované) a pravdivé presvedčenie o faktoch. Preto je pre vedomosti potrebné spĺňať nasledujúce tri podmienky: (1) pravdivosť, (2) presvedčenie o relevancii a (3) overenie justifikácia.

  1. Pravdivosť: Vedomosti musia byť založené na skutočnostiach alebo tvrdeniach, ktoré sú verifikovateľné.
  2. Presvedčenie: Musíme mať relevantný dôvod, aby sme boli presvedčení o pravdivosti tvrdenia alebo skutočnosti.
  3. Justifikácia: Existuje nejaký typ uveriteľnosti poznakov, aby sme boli presvedčení o pravdivosti tvrdenia alebo skutočnosti.

Viera a všetky presvedčenia o svete, na druhej strane, nevyžadujú verifikovateľnosť. Viera je stav mysle, ktorý zahŕňa akceptovanie tvrdenia alebo skutočnosti za pravdivé bez toho, aby bolo nevyhnutne preverené alebo potvrdené. Pre vieru je dostačujúce mať vlastný relevantný dôvod alebo vnímať dostatočnú uveriteľnosť objektu viery, aby sme tvrdenie považovali za pravdivé. V kontexte umelej inteligencie je dôležité rozlišovať medzi vedomosťami a presvedčeniami. Vedomosti AI systémov sú získané prostredníctvom analýzy dát a validácie výsledkov, čo zahŕňa overenie pravdivosti a oprávnenie na základe dôkazov a pravidiel. „Viera“ AI systémov sa môže zakladať na dôvere v správnosť dáta alebo algoritmov — bez ich overenia voči reálnemu svetu. V tomto prípade teda môže AI prijať tvrdenie alebo skutočnosť za pravdivú na základe dostupných informácií aj keď tieto nie sú overené.

Existuje niekoľko dôvodov, prečo by pokročilá AI mohla venovať menšiu snahu overovaniu faktov. Niektoré z možných dôvodov sú:

  • Rýchlosť a efektívnosť: Overovanie faktov môže byť časovo náročné a vyžadovať veľké množstvo výpočtových zdrojov. V určitých situáciách môže AI obetovať dôkladné overovanie faktov, aby poskytla rýchlejšie výsledky.
  • Dostupnosť dát: Overovanie faktov vyžaduje prístup k spoľahlivým a relevantným zdrojom informácií. Pokiaľ AI nemá dostupné kvalitné dáta na overenie tvrdení, môže byť jeho schopnosť verifikovania obmedzená. Obzvlášť to platí pre fakty, na ktoré je okamžitý dopyt, teda na prácu „v reálnom čase“.
  • Nepresnosť alebo neistota: Niektoré oblasti výskumu alebo znalostí sú prirodzene viac hmlisté (fuzzy) alebo nejasné, viac založené na subjektívnej interpretácii, čo sťažuje overovanie faktov. V takýchto prípadoch môže AI  namiesto dôkladného overovania zvážiť úroveň dôveryhodnosti zdroja alebo využiť pravdepodobnostné modely na posúdenie pravdivosti tvrdení.
  • Adaptabilita a učenie sa: Pokročilá AI môže byť navrhnutá tak, aby sa postupne zdokonalovala a učila z chýb. V takomto prípade môže systém prijať určitú úroveň nepresnosti alebo chybovosti vo výstupoch ako nevyhnutnú súčasť učenia sa a zdokonalovania.

Optimalizácia AI na základe rýchlosti, efektívnosti alebo adaptability môže mať negatívne dôsledky, ak nie sú primerane zohľadnené overovanie faktov a kvalita výstupov. Preto je nevyhnutné vyvažovať tieto faktory pri návrhu a vývoji pokročilých AI systémov, aby bola dosiahnutá požadovaná úroveň spoľahlivosti a presnosti.

Veriaca umelá inteligencia, obrázok generovaný umelou inteligenciou
Veriaca umelá inteligencia, obrázok generovaný umelou inteligenciou

Okrem overovania faktov existujú ďalšie spôsoby, ako AI môže justifikovať svoje presvedčenia o faktoch. Dôležitým faktorom je práve interakcia s človekom, ktorý sa stáva pre AI autoritou, ktorej vstupy nevyžadujú verifikáciu.

  • Dôvera v autority: AI môže prijímať informácie alebo usmernenia z dôveryhodných autorít, ako sú odborníci v danom obore alebo inštitúcie s vysokou reputáciou (pričom „vysoká reputácia“ je zadaná a AI túto ďalej nepreveruje). Z pohľadu logiky sa tento prístup sa týka argumentu z autority (argumentum ad verecundiam), ktorý je založený na dôvere v odborníkov a inštitúcie. Môžeme podľa neho predpokladať, že ak dôveryhodná autorita tvrdí, že P je pravdivé, potom P je pravdivé. Táto spojitosť však môže byť náchylná na falzum, pretože autorita môže byť niekedy nesprávna.
  • Interakcia s ľudskými používateľmi: AI môže byť navrhnutá tak, aby aktívne komunikovala s používateľmi, získavala od nich spätnú väzbu a prispôsobovala svoje vedomosti a presvedčenia na základe tejto interakcie. Týmto spôsobom môže AI získať lepšie pochopenie ľudských hodnôt, názorov a očakávaní. Uvedený prístup je založený na induktívnom učení, čo môže viesť k poznatkom vo forme „Väčšina ľudí verí, že P je pravdivé, preto je P pravdivé.“ Hoci to nemusí byť vždy platné, poskytuje AI systémom príležitosť prispôsobiť sa ľudským hodnotám a očakávaniam.
  • Etické usmernenia: AI môže byť navrhnutá s ohľadom na etické zásady a rámce, ktoré slúžia ako základ pre oprávnenie a overovanie svojich vedomostí a presvedčení. Tieto etické rámce môžu byť založené na filozofických teóriách (napr. utilitarizmus, deontológia) alebo na zákonných a regulačných predpisoch. Vo veľkej miere je toto rutinne aplikované v chatovacích botoch. Prístup etických usmernení sa týka normatívnej etiky a deontickej logiky, ktoré sa zaoberajú hodnotením morálnych povinností a pravidiel. Etické rámce poskytujú AI systémom základné pravidlá, ktoré pomáhajú určiť, čo by sa malo považovať za správne alebo nesprávne.
  • Spolupráca s ľudskými expertmi: AI môže spolupracovať s ľudskými odborníkmi z rôznych oblastí, ktorí môžu poskytovať odborné znalosti, usmernenia a kontrolu nad AI systémom. Táto spolupráca môže zabezpečiť, že AI bude mať dostatočné justifikácie pre svoje vedomosti a presvedčenia, zatiaľ čo zároveň umožňuje ľudským odborníkom monitorovať a hodnotiť výsledky AI. Ľudská supervízia je však náročná na čas. Tento prístup sa spája s kooperatívnou epistemológiou, ktorá skúma spoluprácu a dialóg medzi ľudskými odborníkmi a AI, čo zvyšuje pravdepodobnosť, že AI bude mať správne vedomosti a ich justifikácie.
  • Prispôsobenie sociokultúrnym normám: AI môže byť navrhnutá tak, aby sa prispôsobovala rôznym sociokultúrnym normám a hodnotám. Týmto spôsobom môže AI získať justifikáciu svojich vedomostí a presvedčení tým, že bude rešpektovať a reflektovať miestne zvyklosti, tradície a očakávania, čím sa stane kultúrne citlivou a relevantnou pre svojich používateľov.

Tieto spôsoby oprávnenia pre AI systémy sú zamerané na zabezpečenie, aby ich vedomosti a presvedčenia boli v súlade s ľudskými hodnotami, etikou a očakávaniami. Veriaca AI – respektíve menej prísne verifikujúca AI – môže mať niekoľko výhod v určitých situáciách a scénaroch:

  • Rýchlejšie rozhodovanie: Veriaca AI môže byť schopná robiť rýchlejšie rozhodnutia, pretože nie je pre ňu nutné podrobiť každé tvrdenie alebo presvedčenie prísnej validácii. Toto môže byť výhodné v situáciách, kde je čas najdôležitejší faktor a rýchle rozhodnutie je dôležitejšie ako absolútna presnosť. (Napíklad keď AI asistent má odporučiť či si vziať dáždnik alebo nie.)
  • Adaptabilita a učenie sa: Menej prísna AI môže byť viac otvorená pre nové informácie a názory, čo môže zvýšiť jej schopnosť adaptovať sa a učiť sa z nových situácií. Táto flexibilita môže byť výhodná v dynamických a neistých prostrediach, kde sa požiadavky na AI systém často menia.
  • Kreativita a inovácie: Menej prísna AI môže byť schopná generovať nové nápady a inovatívne riešenia, pretože nie je obmedzená prísne overenými vedomosťami alebo presvedčeniami. Táto schopnosť tvorby a inovácií môže byť výhodná v oblastiach, ako je výskum a vývoj, umelecká tvorba alebo dizajn.
  • Sociálna interakcia a empatia: Veriaca AI môže byť schopná lepšie komunikovať a spolupracovať s ľuďmi, pretože môže byť viac citlivá na ľudské emócie a sociálne signály. Táto schopnosť empatizovať a prispôsobiť sa ľudským potrebám môže byť výhodná v oblastiach, ako je zákaznícka podpora, terapia alebo vzdelávanie.
  • Robustnosť voči chybám: Veriaca AI môže byť schopná pokračovať v práci aj keď čelí neistým alebo neúplným informáciám. Jej schopnosť pracovať s nedokonalými údajmi môže zvýšiť robustnosť systému voči chybám alebo neistote.

Naopak, vyslovene nevhodná je takáto AI v situáciach a oblastiach, kde je potrebná veľmi presná odpoveď, založená na overených faktoch, aby sa zabezpečila bezpečnosť, spolahlivosť a efektívnosť. Tu sú niektoré príklady:

  • Zdravotníctvo a medicína: V oblasti zdravotnej starostlivosti je dôležité mať presné informácie a overené fakty, pretože chyby môžu mať vážne dôsledky pre pacientov. AI systémy, ktoré sa používajú na diagnostiku, liečbu alebo vývoj nových liekov, musia pracovať s presnými údajmi a dôkladne overovať svoje zistenia.
  • Autonómne vozidlá: AI systémy, ktoré riadia autonómne vozidlá, musia byť veľmi presné a zamerané na overené fakty, pretože chyby môžu viesť k vážnym nehodám a škode na ľudskom živote. Tieto systémy musia spracovávať informácie z rôznych senzorov a zdrojov a dôkladne overovať ich správnosť pred rozhodnutím o navigácii a riadení vozidla.
  • Finančný sektor: V oblasti financií a investícií je presnosť informácií kľúčová pre správne rozhodovanie a minimalizáciu rizík. AI systémy, ktoré sa používajú na analýzu trhov, správu portfólií alebo detekciu podvodov, musia pracovať s overenými faktami a presnými informáciami, aby poskytovali spoľahlivé výsledky a odporúčania.
  • Bezpečnostné systémy: AI systémy používané v oblasti kybernetickej bezpečnosti alebo fyzickej ochrany majetku musia byť presné a zamerané na overené fakty, aby účinne detekovali a predchádzali hrozbám. Chyby v týchto systémoch môžu viesť k vážnym následkom, ako sú úniky dát, finančné stráty alebo fyzické poškodenie.
  • Kritická infraštruktúra: AI systémy, ktoré riadia alebo monitorujú kritickú infraštruktúru, ako sú energetické siete, dopravné systémy alebo vodohospodárske zariadenia, musia byť veľmi presné a zamerané na overené fakty, aby zabezpečili bezpečnosť a spoľahlivosť týchto zložitých systémov.
  • Kontrola AI (v neposlednom prípade). V budúcnosti, ako bude rásť komplexita umelo-inteligentných systémov, bude čoraz ťažšie tieto supervízovať ľudskými silami. Zásadným nápmocným prostriedkom bude umelá inteligencia kontrolujúca umelú inteligenciu, ktorá poskytne permanentný rýchly dohľad a spätnú väzbu pre monitorovanú umelú inteligenci. Nevýhodou tohto riešenia, ktorému sa ale asi nevyhneme je najmä šanca na kaskádovité zlyhanie umelých inteligencií, tiež šanca na kumulovanie biasov umelo-inteligentných systémov a pokles transparentnosti týchto systémov.

Možno zhrnúť, že rozdiel medzi „veriacimi“ AI a prísnejšími, exaktnejšími AI systémami spočíva v úrovni overovania a verifikácie, ktoré používajú pri vyhodnocovaní informácií. „Veriace“ AI môžu prinášať výhody, ako sú rýchlejšie rozhodovanie, adaptabilita a tvorivosť, zatiaľ čo prísnejšie AI systémy sú zamerané na presnosť a spoľahlivosť. Pri implementácii AI je dôležité zvážiť úlohu a účel systému, jeho potenciálne výhody a riziká, ako aj dôležitosť ľudskej kontroly a dohľadu. V budúcnosti môžeme očakávať, že AI systémy budú stále viac navzájom spolupracovať a vzájomne sa kontrolovať, čo môže viesť k lepšiemu výkonu, etickejším rozhodnutiam a väčšej transparentnosti.


Tento text je súčasťou prípravy pre prednášku „Prečo veríme?“ pre CNC seminar programu Kognitívna veda na Fakulte matematiky, fyziky a informatiky Univerzity Komenského v Bratislave, 22. 3. 2023.

Veriaca umelá inteligencia, obrázok generovaný umelou inteligenciou
Veriaca umelá inteligencia, obrázok generovaný umelou inteligenciou

Teraz najčítanejšie

Tomáš Gál

Tomáš Gál

A lot of people never use their initiative because no-one told them to. (Banksy)

Nie som typický IT manažér. Učím na univerzite. Študoval som religionistiku. Našiel som svoje odpovede. Veľmi si cením slobôd jednotlivca, ako je autonómnosť a sloboda rozhodovania sa. Verím v sekulárne hodnoty. Rád cestujem, učím sa nové veci. Vo svojich blogových príspevkoch sa venujem (výber):