Aké by mali byť pravidlá používania umelej inteligencie na univerzitách a vo vede

Autor je profesorom na Slovenskej technickej univerzite

V súčasnosti sa v akademickej aj vo vedeckej sfére veľa diskutuje o možnostiach aj spôsoboch používania a aj správneho odkazovania sa na použitie nástrojov umelej inteligencie (AI) a predovšetkým generatívnej AI (GAI) v publikačnej činnosti.

Pri narastajúcich schopnostiach GAI je témou čoraz častejšie aj otázka, či má význam na univerzitách aj naďalej písať alebo, naopak, zrušiť študentské záverečné práce (bakalárske, diplomové).

Rád by som sa s čitateľmi podelil o svoje názory na tieto témy.

Nástroje umelej inteligencie

Univerzity ako pedagogické a výskumné inštitúcie sa vždy snažia vo vzdelávacom aj vo vedecko-výskumnom procese podporovať a implementovať aktuálne a progresívne metódy a nástroje vedy a technológií. Medzi takéto nástroje dnes patrí aj umelá inteligencia.

Aktuálne je na evidentnom vzostupe najmä generatívna AI, ktorá dokáže človeku pomáhať vytvárať nový obsah či už vo forme textov, počítačových programov, alebo aj vo forme obrazu a videa. Predpokladám, že slovenské univerzity považujú GAI za nástroje, ktoré predstavujú zmysluplný a užitočný smer, a budú odporúčať študentom aj zamestnancom ich použitie.

Ale na druhej strane sa takéto nástroje budú musieť používať uvážene a zodpovedne, pretože môžu predstavovať aj isté riziká. Okrem iného treba zabezpečiť, aby použitie GAI nikdy neprišlo do konfliktu s akademickou či vedeckou integritou každého jednotlivca.

Akademická a vedecká integrita

Akademická integrita jednotlivca stojí na dodržiavaní nasledovných atribútov: transparentnosť (čestnosť), dôvera, rešpekt (spravodlivosť), zodpovednosť a odvaha.

Transparentnosť znamená, že dokážeme jasne deklarovať, čo sú naše výsledky a príspevky k aktuálnemu stavu poznania a čo sú výsledky a príspevky iných. Dôvera znamená, že ostatní môžu dôverovať tomu, čo deklarujeme ako svoj vlastný prínos, a na druhej strane my môžeme rovnako dôverovať iným.

Rešpekt na jednej strane znamená, že registrujeme, akceptujeme, prípadne si aj vážime názory, výsledky a prínosy iných členov akademickej či vedeckej komunity. A na druhej strane aj to, že rešpektujeme právo iných overovať a spochybňovať naše názory a výsledky.

Zodpovednosť znamená, že sme schopní posúdiť dosah našich názorov, nášho konania a našich výsledkov a zabrániť ich negatívnym vplyvom. Ale aj to, že sa snažíme odradiť iných od negatívnych vplyvov ich konania.

Odvaha znamená schopnosť konať v súlade s našimi hodnotami aj napriek strachu z reakcie iných, strachu z neúspechu či z odmietnutia. K odvahe patrí aj odhodlanie testovať, diskutovať a v prípade potreby aj spochybňovať názory a výsledky iných.

Akademickú integritu je možné chápať ako záväzok či morálny kódex pre všetkých zamestnancov, pedagógov a študentov univerzity, ktorým sa treba riadiť. Porušenie jedného alebo viacerých uvedených princípov sa chápe ako priestupok voči akademickej integrite.

Analogicky, vedecká integrita stojí na rovnakých princípoch ako akademická integrita, len je aplikovaná vo vedeckom prostredí.

Aktuálne prínosy a nedostatky

Aktuálne verzie generatívnej AI sú založené väčšinou na veľkých jazykových modeloch (Large Language Models, LLM), ktoré sú vytvorené na základe veľmi rozsiahlych hlbokých umelých neurónových sietí (UNS). Tieto UNS sú trénované tak, aby vedeli odpovedať na textové otázky (výzvy, prompty) aj aby vedeli viesť dlhší dialóg s používateľom v textovej alebo hlasovej forme, ktoré majú podobu obyčajnej hovorovej reči.

Na nadobudnutie tejto schopnosti sú LLM dlhodobo a intenzívne trénované s využitím obrovského množstva dostupných textov v elektronickej podobe, ktoré sú prístupné na sieti a ktoré v minulosti vytvorili aj aktuálne tvoria ľudia. Na trénovanie používané aj dialógy vedené s používateľmi v minulosti. Pritom môže ísť o dôveryhodné a spoľahlivé zdroje, ale aj o menej spoľahlivé zdroje, ktoré nemusia byť ani pravdivé. Môžu byť z rôznych dôvodov tendenčné, zaujaté, môžu byť získané za sporných podmienok a podobne.

LLM generujú výstupy takým spôsobom, že na základe štatistiky predpovedajú najpravdepodobnejšie nasledujúce slovo v odpovedi, potom najpravdepodobnejšiu vetu a najpravdepodobnejší odsek. Počas komunikácie si pamätajú zväčšujúce sa kontextové okno dialógu, ktorý vedú s používateľom. Pritom však vôbec nerozumejú tomu, na čo sa ich pýtame. Nedisponujú schopnosťou chápať podstatu dialógu tak, ako ho chápu diskutujúci živí ľudia.

Živý človek využíva zásadne odlišný mechanizmus uvažovania. Nemá síce také rozsiahle znalosti, pamäť ani rýchlosť spracovania informácií ako počítač s LLM, ale vďaka celoživotnej výchove, vzdelávaniu a interakcii so svetom disponuje niečím, ako je „mentálny model sveta“, vďaka ktorému chápe „povahu sveta“, rozumie súvislostiam medzi entitami a javmi. Disponuje zároveň dôležitou vlastnosťou, ktorou je tvorivosť. Tú zatiaľ LLM nemajú, hoci sa nám to tak javí.

Z odlišného princípu generovania odpovede v prípade LLM vyplýva, že ten sa môže dopúšťať nepresných, skreslených alebo až nepravdivých odpovedí (halucinácií).

Ďalším problémom je, že LLM používajú dáta, ktorých pravdivosť pred trénovaním nemusí byť vždy dostatočne overená. Otázne býva aj dodržiavanie súkromia, osobných a autorských práv pôvodcov dát alebo aj používanie dát zaťažených predsudkami alebo stereotypmi. Všetky údaje, aj citlivé, ktoré boli poskytnuté LLM od používateľov v dialógu, môžu byť neskôr využité na ďalší tréning systému, a tak sa môžu dostať na verejnosť. Nedá sa ani vylúčiť, že používateľ sa vďaka službám LLM nechtiac dopustí plagiátorstva alebo iného porušenia akademickej alebo vedeckej integrity.

Pri generovaní textu nástroje GAI niekedy vytvárali aj odkazy na literárne zdroje, ktoré sa zdali reálne, ale v skutočnosti neexistujú. Preto je vhodné si tieto údaje overovať.

Napriek všetkému uvedenému odpovede často vyzerali veľmi dôveryhodne. Za zmienku stojí aj skutočnosť, že programátori LLM pri kontrole a označovaní trénovacích dát využívali služby veľmi slabo platených pracovníkov v chudobných krajinách. Hoci producenti LLM mnohé spomínané nedostatky v priebehu času eliminujú, pokiaľ sa nezmení základný koncept LLM, viaceré problémy sa asi celkom odstrániť nepodarí.

Okrem textových a hlasových výstupov môžu LLM generovať aj obrazové výstupy, ktoré čerpajú predlohy z existujúcich obrazových zdrojových podkladov, pôvodne vytvorených ľuďmi. Tu je situácia v niektorých črtách podobná ako pri GAI vytvárajúcej textový/hlasový obsah.

Ďalším negatívnym aspektom používania GAI je, že systematickým redukovaním nutnosti písania a kontroly textov sa budú oslabovať tieto zručnosti u študentov. Bude sa oslabovať ich tvorivosť na elementárnej úrovni, originalita, schopnosť úsudku aj kritického myslenia. Totiž tým, že sami formulujeme myšlienky v texte, tým že sami vyhľadávame a spracovávame myšlienky, budujeme svoje znalosti, zdokonaľujeme (trénujeme) svoje kognitívne schopnosti a svoju prirodzenú inteligenciu. Preto sa neodporúča neprimerané použitie GAI, najmä v skoršej fáze vzdelávania, keď sa budujú základné zručnosti a esenciálne znalosti. Používanie GAI môže byť vtedy až kontraproduktívne.

Napriek vyššie uvedeným problémom použitie nástrojov GAI prináša nesporné prínosy. Má potenciál výrazne zefektívniť písanie textov, pomáhať pri zhromažďovaní podkladov na tvorbu textov, pomáha pri úprave a korekcii textu, pri jazykových prekladoch a iných činnostiach.

GAI môže byť prospešná pri individuálnom štúdiu, môže zvýšiť jeho efektivitu, kreativitu na vyššej úrovni aj inšpirovať autora.

Odporučenia pre študentov

Odporúčania pre študentov by som rozdelil do troch kategórií.

Prvá kategória predstavuje činnosti, kde nevidím potrebu použitie nástrojov AI obmedzovať. Sem patrí kontrola gramatiky, oprava textu, zlepšenie zrozumiteľnosti textu, tvorba osnovy, návrh štruktúry textu, taktiež zhromažďovanie informácií a podkladov na následnú tvorbu textu autorom. A napokon sem patrí aj použitie výpočtových, simulačných a konštrukčných metód, nástrojov a softvéru, ktoré obsahujú metódy AI.

Druhú kategóriu tvoria činnosti, kde by som odporučil použitie GAI s následným kritickým zhodnotením a kontrolou výstupov. Ide o tieto činnosti: preklady medzi jazykmi (strojový preklad), úpravy a reformulácie textu, tvorbu zhrnutí a rešerší. Zároveň treba zvážiť a overiť citovanie odpovedí GAI alebo aj ich parafrázovanie. Ale toto iba v nevyhnutných prípadoch, je lepšie sa im vyhnúť. Potom je to tvorba počítačových programov. Výsledky treba kontrolovať na funkčnosť a bezchybnosť. Autor kódu by sa mal vedieť v programe orientovať a rozumieť mu v plnom rozsahu, musí ho dokázať vysvetliť a používať. Nakoniec sem patrí tvorba grafického obsahu a obrázkov, aj keď budú upravené. Tieto činnosti by mali byť autorom deklarované v závere textu s uvedením zdroja GAI.

Tretiu kategóriu tvoria činnosti, kde by som vôbec neodporučil použitie GAI. Predovšetkým je to formulácia pôvodných myšlienok, formulácia téz, opis a hodnotenie riešenia, experimentov, výpočtov, výsledkov, formulácia záverov akademickej alebo výskumnej práce. Takýto text má byť vlastným dielom autora. Nie je možné akceptovať ani použitie AI na vpracovanie odpovedí počas testov a skúšok.

Za poslednú oblasť, kde by sme mali použitie nástrojov AI uvážene regulovať, sú skoré fázy vzdelávacieho procesu, kde dochádza k budovaniu základných zručností a základných teoretických znalostí študentov, ako sú schopnosť rozumieť fyzikálnej podstate reality, schopnosť logicky uvažovať, základy teoretických predmetov, schopnosť formulovať myšlienky, tvoriť odborný text a podobne. Tieto obmedzenia by mali individuálne posúdiť a regulovať garanti a učitelia v konkrétnych prípadoch vzdelávania.

Pri písaní textov alebo pri tvorbe diela v každom prípade platí, že každý autor je plne zodpovedný za svoj text a dielo, bez ohľadu na to, aké nástroje AI, GAI alebo iné nástroje pri jeho tvorbe použil. Tvorbou textu alebo diela autor nesmie porušiť zásady akademickej alebo vedeckej integrity.

Použitie umelej inteligencie má byť transparentne deklarované, podobne ako sa deklaruje obsah vytvorený inou prirodzenou inteligenciou – čiže citovanie iných autorov.

Odporúčania pre učiteľov a výskumníkov

Pri hodnotení študentov za dôležité považujem, aby učitelia, skúšajúci a garanti vysokoškolských predmetov v maximálnej miere overovali znalosti takou formou, ktorá vylúči možnosť (online) používania prostriedkov AI, GAI a komunikačných technológií počas skúšok, testov či pri obhajobe a vysvetľovaní výsledkov svojich prác študentmi.

Študent musí preukázať nadobudnuté znalosti a vie ich vysvetliť aj implementovať bez asistencie uvedených prostriedkov. Pokiaľ to podmienky dovoľujú, odporučil by som maximalizovať formu osobnej – ústnej obhajoby, resp. formu dialógu medzi učiteľom a študentom.

Pokiaľ ide o vedeckú a publikačnú činnosť pracovníkov univerzity alebo výskumníkov, odporučil by som dodržiavať rovnaké, vyššie uvedené zásady použitia GAI tak, aby ich činnosť bola v súlade so zásadami vedeckej integrity.

Deklarovanie použitia AI

V prípade používania výstupov AI ako súčastí textu akademickej alebo výskumnej práce je potrebné o tom uviesť dostatok podrobností. Vhodnou formou je v závere práce za zoznamom použitej literatúry uviesť zoznam častí textu, ktoré boli vytvorené za pomoci AI, uviesť spôsob využitia (generovanie textu, úprava textu atď.) a uviesť referenciu na konkrétny použitý nástroj AI. Je možné použiť zvolený citačný štýl podobne, ako je používaný pri citovaní iných literárnych zdrojov.

Alternatívne je možné uviesť aj vyhlásenie, ktoré nástroje AI boli použité na ktoré časti textu a s akým cieľom, ako napríklad: „Na tvorbu tejto práce (alebo jej časti) boli použité nástroje AI [uviesť názov a referenciu] na účely [spôsob použitia].“

Vkladanie textu vytvoreného AI bez náležitého uvedenia tohto nástroja je porušením akademickej integrity. Aj používanie nástrojov AI spôsobom, ktorý nebol schválený školou alebo príslušným učiteľom, sa môže považovať za porušenie akademickej integrity.

Autori (ľudia) by nemali uvádzať nástroje AI ako spoluautorov diela ani citovať umelú inteligenciu ako autora. Nástroje AI generujú svoje výstupy na základe napodobňovania existujúcich textov skôr vytvorených ľuďmi. Nevytvárajú teda pôvodné diela vytvorené umelou mysľou v zmysle autorského práva, preto sa ani nepovažujú za autorov. Aspoň zatiaľ.

AI v študentských záverečných prácach

Touto témou sa už skôr zaoberal aj článok Filipa Struhárika v Denníku N a ja by som si dovolil prispieť do tejto diskusie ako predstaviteľ technickej univerzity. Niektoré univerzity vo svete deklarovali, že plánujú zrušiť, alebo možno už aj zrušili písanie niektorých typov záverečných prác.

Podľa Univerzity Komenského by mohli byť bakalárky a diplomovky na niektorých odboroch nahradené inou formou, ako sú kazuistika, správa z praxe, chorobopis alebo záverečná správa z projektu. Podľa košickej Univerzity Pavla Jozefa Šafárika má písanie záverečných prác stále svoj zmysel. „Niektoré profesie si jednoducho vyžadujú schopnosť odborný text tvoriť a pracovať s ním, čo nezmení ani využívanie umelej inteligencie. Najmä v humanitných vedách, ako je právo, filozofia, história, literatúra, učiteľské odbory, je táto úloha vysokých škôl nezastupiteľná.“

Aj viaceré univerzity v Česku plánujú zrušiť písanie záverečných prác. V niektorých prípadoch ich môže nahradiť bakalársky projekt, ktorý je viac orientovaný na prax. Uvažuje sa aj o tom, že záverečnú prácu nahradí stáž doma alebo v zahraničí, môžu pracovať na výskumnom alebo podnikateľskom projekte. Takýto projekt budú potom obhajovať pred komisiou.

Ja pôsobím na technickej univerzite. Obsah štúdia na technických fakultách, ale aj prírodovedných, ekonomických či niektorých iných je orientovaný na tvorivú činnosť v oblasti techniky, IT, konštrukcie, prírodných vied, návrhu a tvorby originálnych prakticky použiteľných výsledkov, postupov a podobne. Výsledkom takejto činnosti nie je prioritne samotný text záverečnej práce, ale nejaký v praxi použiteľný výsledok. Za podstatu záverečnej práce je považované samotné riešenie problému (metóda, postup, experiment, výpočet, softvér, simulácia, predmet a podobne). Text záverečnej práce spravidla iba dokumentuje jeho vlastnosti a vysvetľuje jeho použitie.

Pre takéto fakulty a študijné programy môže byť textová forma záverečnej práce naďalej zmysluplná a potrebná sprievodná súčasť vytvoreného diela. Fakt, že pri tvorbe textu práce boli použité nástroje AI, nie je prekážkou. Naopak, môže to byť prínosom.

Je možné uvažovať o redukcii rozsahu súčasných prác, ale funkcia sprievodného dokumentu k pôvodným výsledkom študenta je podľa mňa zmysluplná. Touto formou sa zabezpečí aj archivovanie študentom vytvorených riešení.

Autor práce musí byť v každom prípade schopný svoj dosiahnutý výsledok v plnej miere vysvetliť a obhájiť pred príslušnou komisiou.