Prečo si s nami umelá inteligencia zahrá bullshit bingo
Autor je spoluzakladateľ projektu Konšpirátori.sk
a veľa rokov pracoval v komunikácii
Jednou z vlastností jazykových modelov ako ChatGPT je schopnosť vymýšľať si veci, ktoré nie sú pravda, ale mohli by byť. V službách dezinfoscény teda vyzerajú ako ideálny pomocník.
Odpoveď na to, či nám AI v blízkej budúcnosti viac dezinformácií vytvorí alebo odchytí, nám naznačujú predchádzajúce technologické revolúcie. Spoiler alert: dôvodov na optimizmus je málo.
Čo keď natrénujeme AI na statusoch Ľuboša Blahu?
Dezinformačné a konšpiračné texty sú jedny z najľahších žánrov na svete. Ich čítanie aj písanie pripomína vtipnú hru bullshit bingo. Hráči si pri nej z kartičiek odškrtávajú slová, ktoré podľa nich v danom dezinformačnom texte určite zaznejú. Pri Ľubošovi Blahovi by to bola napr. Amerika, prezidentka, liberáli či slniečka. Zoznam kľúčových slov je u konšpiračnej scény ľahko predvídateľný a rovnako ľahko by ste ho vedeli nasypať do generátora dezinformácií.
Ani úroveň článkov na našich dezinfoweboch nie je o nič lepšia a naučiť sa ich napodobniť je pre jazykový model malina. Okrem kľúčových slov tak stroj ľahko naučíte aj spôsob, akým tieto slová spájať do bizarných súvislostí.
Treba si uvedomiť, že dnes automatizovanému generovaniu dezinformačných naratívov bránia iba etické pravidlá tvorcov jazykových modelov a aj kapitál, ktorý na natrénovanie umelej inteligencie potrebujete. S lacnejúcim hardvérom, dostupnejším softvérom a ochotou istej skupiny výskumníkov dať sa do služieb dezinformačných aktérov nás však čakajú komplikované časy.
Generatívne modely umelej inteligencie totiž budú schopné vytvárať presvedčivé dezinformačné články, memečká či statusy jedným klikom a ešte ich aj umne prispôsobovať rôznym cieľovkám.
Výskumný tím na Georgetownskej univerzite už v roku 2021 skúmal dezinformátorské schopnosti jazykového modelu GPT-3, ktorý poháňa aj slávneho četbota ChatGPT. Ukázalo sa, že tento model vie
