MediaBrífing: Obavy z vplyvu umelej inteligencie na dezinformácie môžu byť prehnané

Súčasné obavy z účinkov umelej inteligencie na šírenie dezinformácií sú prehnané, myslia si to autori komentára, ktorý nedávno vyšiel vo vedeckom časopise Misinformation Review vychádzajúcom na Harvarde.

Autori článku reagujú na tri najčastejšie tvrdenia, ktoré sa opakujú v súvislosti s generatívnou umelou inteligenciou (AI) a jej vplyvom na šírenie internetových nezmyslov.

1. AI môže byť využitá na hromadné a lacné generovanie dezinformácií

Četboty a generátory obrázkov, ktoré dokážu za sekundu vygenerovať akýkoľvek obsah, ľudí znepokojili, pretože s takýmito nástrojmi je možné veľmi rýchlo a lacno zvýšiť produkciu lží a propagandy. Pravda sa tak môže stratiť v záplave neprávd.

No autori komentára v Misinformation Review argumentujú, že už aj predtým bolo šírenie dezinformácií lacnejšie ako publikovanie overených a spoľahlivých správ. Internet je plný hoaxov, no mnohé zostávajú nepovšimnuté. Dezinformácie sú dostupné, nie sú za paywallom, no aj tak ich priemerný čitateľ zachytí len veľmi málo.

„Naša pozornosť je obmedzená,“ povedal Sacha Altay, výskumník z univerzity v Zürichu. „Sme vystavení len veľmi malému zlomku informácií, ktoré sú dostupné na internete, takže zvýšenie množstva dezinformácií nič nezmení,“ myslí si.

Dezinformácie zasahujú len určitú časť verejnosti, ktorá ich sleduje aj preto, že má pre to predispozície, napríklad nedôveruje inštitúciám. Problémom teda nie je to, či majú prístup ku kvalitným informáciám, ale že uprednostňujú tie nekvalitné.

AI nezvýši dopyt ľudí po dezinformáciách. Ich väčšia ponuka tak bude mať len obmedzený vplyv na šírenie dezinformácií, argumentujú autori citovaného článku.

2. AI umožní tvorbu kvalitnejších a presvedčivejších dezinformácií

Druhý často skloňovaný argument tvrdí, že pomocou AI je možné tvoriť vierohodnejšie dezinformácie, ktoré bude ťažšie odhaliť a vyvrátiť. To môže viesť k strate dôvery v úplne všetky správy.

Autori komentára reagujú, že ak je väčšina ľudí vystavená dezinformáciám len okrajovo, ich vyššia kvalita by sa prejavila len veľmi málo.

Navyše, nástroje na vytváranie hodnoverných hoaxov máme už dlho (Photoshop), no nevyužívajú sa až tak často. Konšpirátori siahajú skôr po iných manipulatívnych technikách. Nezdá sa totiž, že technologicky zložitejšie manipulácie sú efektívnejšie. Namiesto sofistikovaných „deepfakes“ musia fact-checkeri riešiť skôr lacné „cheapfakes“.

AI môže pomôcť aj tvorcom kvalitných správ, napríklad tým, že uľahčí časť práce novinárom. Nie je dôvod myslieť si, že z nových technológií budú výrazne viac ťažiť šíritelia lží ako dôveryhodné médiá.

3. AI umožní lepšie zacielenie a personalizáciu dezinformácií

Podľa tretej obavy bude pomocou AI možné vytvárať dezinformácie šité podľa vkusu, názorov a preferencií ľudí. Generatívna AI totiž dokáže napodobňovať rôzne štýly. Avšak pokrok v oblasti veľkých jazykových modelov priamo neovplyvňuje technológie, ktoré majú na starosti mikrocielenie obsahu na používateľov.

Cielenie reklám je užitočné, ale má obmedzené účinky. A to sa tak skoro nezmení, pretože presviedčanie ľudí je ťažké.

Predstava, že AI je schopná vytvárať veľmi personalizovaný obsah, nie je zatiaľ potvrdená. Tieto nástroje sú natrénované na obrovskom množstve dát, ale zatiaľ nedokážu reprezentovať celé spektrum preferencií a hodnôt ľudí. Nemajú ani prístup k dátam o používateľoch, a tak ani nevedia generovať skutočne personalizovaný obsah.

Viac informácií: Autori článku uvádzajú, že existuje ešte štvrtý častý argument v súvislosti s vplyvom AI na šírenie dezinformácií. Ide o nevedomé generovanie zdanlivo hodnoverných, no nepravdivých informácií. Četboty si napríklad často vymýšľajú, a tak ľudia môžu neúmyselne šíriť nezmysly, ktoré im ponúkla AI.

Ľudia s nižšou digitálnou gramotnosťou sa budú stávať obeťami takýchto omylov. Hrozí aj, že niektoré médiá budú robiť viac chýb, lebo sa budú spoliehať na AI. Toto by však podľa autorov článku nemalo byť vážnym rizikom pre spoločnosť.

Kontext: Autori komentára uznávajú, že ich argumenty platia pre vyspelé, bohaté a demokratické krajiny s rozvinutým mediálnym prostredím. Inde môže mať AI negatívnejší vplyv.

Prečo je to dôležité: Pri pohľade na popularitu slovenských konšpirátorov a propagandistov, na ich vplyv na výsledky parlamentných volieb, krehkosť slovenských inštitúcií a katastrofálne výsledky našich žiakov v testovaní PISA je ťažké nemať obavy z toho, čo u nás môže napáchať umelá inteligencia.

Technológia, ktorá – zdá sa – čoskoro ovplyvní každú oblasť nášho života, vyvoláva znepokojenie a otázniky. Panika je pochopiteľná, ale nemala by nás paralyzovať či zviesť z cesty. Aj preto je skepticizmus autorov komentára v Misinformation Review cenným príspevkom do debaty o budúcnosti médií a dezinformácií.

Viac správ o umelej inteligencii

• Nástroje AI využíva 85 % redakcií, vyplýva to z reportu iniciatívy JournalismAI patriacej pod londýnsku univerzitu LSE.
• 74 % manažérov médií si myslí, že AI pomôže redakciám zvýšiť produktivitu bez toho, aby zmenila podstatu žurnalistiky. 21 % si myslí, že AI zásadne ovplyvní prácu všetkých ľudí v médiách, vyplýva to z analýzy Reuters Institute.
• Väčšina čitateľov chce, aby ich médiá informovali, ak im pri písaní článkov pomáhala AI. Zároveň však médiám veria menej, ak AI použili.
• Google predstavil svoj doposiaľ najväčší AI model s názvom Gemini. Je vraj „natívne multimodálny“, takže rozumie textu, obrázkom, videu aj audiu. Model bude dostupný pre verejnosť na budúci rok.
• Šéf amerického burzového regulátora varoval firmy pred „AI washingom“, teda nepravdivými tvrdeniami o využívaní AI v ich produktoch a službách. Gary Gensler to prirovnal ku „greenwashingu“, teda vyhláseniam o tom, že je niečo ekologické, hoci na to nejestvujú dôkazy. Voči takýmto tvrdeniam už regulátor v minulosti zasiahol.
• X.ai, firma Elona Muska zameraná na umelú inteligenciu, chce získať investície vo výške 1 miliardy dolárov.
• Sam Altman zo spoločnosti OpenAI sa stal CEO roka podľa časopisu Time. Altman je podľa magazínu tvárou a lídrom technologickej revolúcie.

---

Koľko reklám vidíme v televízii?

Počas jedného reklamného bloku odvysiela televízia Markíza v priemere 18 reklám. Joj má v priemere 16 reklám, vyplýva to z analýzy spoločnosti Kantar.

Spoločnosť sa pozrela na dáta za október, počas ktorého je – prekvapujúco – v reklamných blokoch dlhodobo najviac reklám v porovnaní s ostatnými mesiacmi.

• Reklamné spoty bývajú rôzne dlhé, niektoré majú 10 sekúnd, niektoré trvajú viac ako minútu. Najviac reklám má 20 sekúnd.
• Najvyšší počet reklám odvysielala v októbri Jojka, takmer 25-tisíc.
• Keďže mala Joj viac 30-sekundových reklám ako Markíza, jej priemerný počet reklám v jednom brejku je nižší.
• Markíza zas odvysielala najviac sponzorských odkazov, priemerne 105 denne. Jednotka RTVS odvysielala denne priemerne 72 sponzorských odkazov, Joj 60 a TA3 len 22, informoval Kantar.

Ďalšie dôležité správy

• Vláda chce dramaticky znížiť príspevok pre RTVS. Môže to spôsobiť úplné zrušenie staníc RTVS :24 a :Šport, obmedzenie vlastnej tvorby či podstatné znižovanie počtu zamestnancov.
• Ministerka kultúry Martina Šimkovičová ďalej moderuje v dezinformačnej TV Slovan a propaguje ju, mohla by preto prísť o ročný plat. Prípadom sa bude zaoberať výbor pre nezlučiteľnosť funkcií, avšak väčšinu v ňom má koalícia.
• Ruský špión Bohuš Garbár napokon bude musieť splatiť peňažný trest 15-tisíc eur, rozhodol o tom Najvyšší súd. Bývalý spolupracovník dezinformačného webu Hlavné správy je právoplatne odsúdený, dostal trojročný podmienečný trest.
• Spravodajstvo a publicistiku v RTVS bude od januára opäť riadiť Mária Hlucháňová. Súčasná riaditeľka sekcie Anna Sámelová odchádza na dlhodobý študijný pobyt do USA.
• Spotify prepustí 1500 z celkovo 9000 zamestnancov, dôvodom je snaha znížiť náklady. Streamovacia služba už predtým škrtala svoje výdavky na podcasty, tento týždeň oznámila, že končí aj s populárnymi podcastami Heavyweight a Stolen.
• Blízky spolupracovník Donalda Trumpa Kash Patel pohrozil stíhaním novinárov v prípade, že bude Trump opäť zvolený za amerického prezidenta. „Pôjdeme po ľuďoch v médiách, ktorí (..) pomohli Joeovi Bidenovi zmanipulovať prezidentské voľby,“ povedal.

Titulka týždňa

Osobnosťou roka podľa magazínu Time sa stala speváčka Taylor Swift. „V rozdelenom svete, kde zlyháva príliš veľa inštitúcií, našla Taylor Swift spôsob, ako prekonávať hranice a byť zdrojom svetla. Nikto iný na planéte nedokáže tak dobre zapôsobiť na toľkých ľudí,“ píše o nej redakcia.

Speváčka púta obrovskú pozornosť médií, no s novinármi nekomunikuje. Do jej profilu v časopise Time poskytla po rokoch prvý rozhovor.

Pekný víkend!