Pápež v luxusnom kabáte či zatknutý Donald Trump sú deepfaky. Ako odlíšime, čo je skutočné a čo umelé?

Väčšina ľudí, prinajmenšom v našej kultúre, považuje zrak za najdôležitejší zmysel.

Hoci niekedy našu myseľ pomýlia optické ilúzie, bežne nášmu zraku dôverujeme, čo vyjadruje napríklad fráza „lepšie raz vidieť ako stokrát počuť“.

Lenže umelá inteligencia už pokročila natoľko, že naše oči môže pomýliť, aj keď sa nepozeráme na optickú ilúziu. Znamená to, že v budúcnosti sa zotrie hranica medzi tým, čo je skutočné a fiktívne?

„Myslím si, že v tejto situácii sa už – do veľkej miery – nachádzame a už teraz je čoraz zložitejšie odlíšiť obsah, ktorý je skutočný alebo sa vygeneroval umelo,“ vraví Juraj Podroužek, odborník na etiku umelej inteligencie z Kempelenovho inštitútu inteligentných technológií (KInIT).

Pápež František, Donald Trump aj zemetrasenie

Príkladom tohto druhu je obrázok pápeža Františka v „pufovanom“ zimnom kabáte luxusnej módnej značky Balenciaga, ktorý sa od víkendu masovo šíril na sociálnych sieťach.

Fotky pápeža Františka v zimnej luxusnej bunde vygenerovala umelá inteligencia. Zdroj – Reddit

Pre niektorých išlo o dôkaz, že katolícka cirkev je zhýralá a rozhadzuje peniaze, keďže nebol dôvod myslieť si, že obrázok „nastajlovaného“ pápeža nie je skutočný.

Až dodatočne sa ukázalo, že fotografiu vygeneroval nástroj umelej inteligencie Midjourney.

„Myslela som si, že pápežova zimná bunda je skutočná, a ďalej som o tom nepremýšľa,“ napísala na Twitteri Chrissy Teigenová, americká modelka a televízna osobnosť. „Neexistuje, že prežijem budúcnosť tejto technológie,“ dodala skepticky.

Týždeň pred fotkami s pápežom sa šírili aj fotky zo zadržania bývalého amerického prezidenta Donalda Trumpa. Aj v tomto prípade sa na ich tvorbu využil nástroj Midjourney.

Tieto fotografie dal zhotoviť Eliot Higgins, zakladateľ Bellingcatu, portálu investigatívnej žurnalistiky. Od minulého pondelka ich len na jeho účte na Twitteri videlo vyše 6 miliónov ľudí.

Fotky zo zadržania Donalda Trumpa vygeneroval nástroj Midjourney, ktorý použil Eliot Higgins. Zdroj – Eliot Higgins/Twitter

Making pictures of Trump getting arrested while waiting for Trump's arrest. pic.twitter.com/4D2QQfUpLZ

— Eliot Higgins (@EliotHiggins) March 20, 2023

Higgins na sociálnej sieti uviedol, že fotky Trumpa nie sú skutočné, no niektorí užívatelia ich šírili bez tohto kontextu. Fotografie z jeho zadržania pobúrili niektorých prívržencov politika, ktorí si mysleli, že zábery sú reálne.

Pred pár dňami sa na Reddite šírila aj séria vygenerovaných fotografií dokumentujúcich fiktívne zemetrasenie a cunami, ktoré zasiahlo USA a Kanadu v roku 2001. Jeden z top komentárov, ktorý mal najviac interakcií, uvádza: „Ľudia v roku 2025 to budú mať s dezinformáciami naozaj ťažké. Ľudia v roku 2100 nebudú vedieť, ktoré časti histórie boli skutočné…“

Falošné fotky zemetrasenia a cunami z roku 2001. Zdroj – Reddit

Chcel sa iba zabaviť

Vráťme sa k pápežovi. Odhaliť, že jeho obrázky v luxusnom zimnom kabáte sú vygenerované umelo, bolo o to ťažšie, že ich autor nikde neupozorňoval, že ide o nereálne fotky.

Autor nahral fotografie najprv do skupiny na Facebooku AI Art Universe, neskôr na Reddit. Odtiaľ sa rozšírili na Twitter. Portál Buzzfeed zistil, že ich tvorcom je Pablo, 31-ročný robotník na stavbách, ktorý býva pri Chicagu.

Nápad vytvoriť takéto fotografie dostal po tom, ako užil halucinogénne huby.

Na tvorbu obrázkov použil najnovšiu verziu Midjourney v5, ktorá sa spustila len pred zhruba dvomi týždňami. Jej výhodou je, že generuje ešte uveriteľnejšie fotografie ako jej predchodca.

Midjourney tvorí obrázky na základe „promptov“, čiže kľúčových slov. „Prišlo mi na um, že by som mal spraviť pápeža. [Prompty] sa hrnuli ako voda – pápež v zimnej bunde od Balenciagy, Moncleru, ako sa prechádza ulicami Ríma a Paríža. Také veci,“ povedal Pablo pre BuzzFeed.

Muž povedal, že jeho jediným cieľom bolo zabaviť sa a nechcel nikomu uškodiť. „Pripadalo mi vtipné vidieť pápeža v smiešnom kabáte.“

Niekoľko hodín po zverejnení fotiek na Reddite mu zakázali prístup na túto stránku.

Podľa BuzzFeedu je Pablo „zdesený“ z toho, že ľudia uverili tomu, že fotografie sú pravé. „Cítim sa pod psa,“ reagoval muž na komentáre ľudí, ktorí obrázky využili na kritiku cirkvi za nadmerné výdaje. „Je to šialené,“ dodal.

Jak těžké bylo udělat virální montáž "papeže v prošívané bundě"? Podle mne to bylo velice jednoduché. Nevím samozřejmě, jaký prompt použil původní autor. Ale i naprosto jednoduché zadání vede v Midjourney v5 k 💯 realistickým výsledkům. Vlevo virální snímek, vpravo můj 1. pokus. pic.twitter.com/bP6DvqsUm2

— Pavel Kasík (@kasikp) March 28, 2023

Juraj Podroužek povedal, že ľudia mylne považujú systémy umelej inteligencie za hodnotovo neutrálne a myslia si, že neovplyvňujú žiadne morálne a spoločenské hodnoty. „Ale práve tento prípad nám ukazuje, ako to, čo bolo myslené ako zábava, môže mať ďalekosiahle následky,“ vraví odborník na etiku umelej inteligencie.

Keďže systémy ako Midjourney alebo aj ChatGPT sú interaktívne a vychádzajú zo slov či z inštrukcií používateľov, časť zodpovednosti za vygenerované výsledky musia niesť aj tí, ktorí tieto nástroje používajú, povedal Podroužek a dodal: „Zodpovednosť nenesú len tvorcovia týchto systémov.“

Prečo sa masovo šíril práve pápež?

Toto nie je prvý raz, čo sa masovo šíril deepfake. Ale je to zrejme prvý raz, čo sa masovo rozšíril obrázok vytvorený nástrojom umelej inteligencie typu Midjourney.

Deepfake je obsah (obrazový, zvukový či video), ktorý sa podobá existujúcim osobám, ale aj predmetom, miestam či udalostiam a niektorým ľuďom by sa mohol mylne javiť ako pravdivý.

Takúto definíciu deepfaku upravuje návrh Aktu o umelej inteligencii od Európskej únie.

Juraj Podroužek z KInITu povedal, že fotografie s pápežom sa stali virálne pravdepodobne pre rozpor medzi „životnou jednoduchosťou, ktorú zosobňuje pápež František, a okázalým outfitom“.

Pozorný človek si môže všimnúť znaky umelej syntézy obrázkov pápeža v deformovaných detailoch, ktoré sa nachádzajú na náhrdelníku s krížom, okuliaroch alebo prstoch pravej ruky, v ktorej hlava katolíckej cirkvi drží… ťažko povedať čo.

Deformácie možno odhaliť na okuliaroch či ruke. Zdroj – TIME/Twitter

Here's how to spot AI-generated images, like Pope Francis in a Balenciaga puffer jacket https://t.co/0ms6OftZvC

— TIME (@TIME) March 28, 2023

Bez ohľadu na to fotografia vyzerá uveriteľne a ľudia nemali dôvod myslieť si, že ide dielo vytvorené umelo. Dopodrobna skúmať každú fotografiu, ktorá sa užívateľom mihne vo „feede“ na sociálnej sieti, nie je možné.

Kritické myslenie aj regulácie

Výskyt obrazových „deepfakov“ podľa Podroužka kladie ešte väčší dôraz na rozvoj kritického myslenia. „Bude treba si overovať nielen to, čo sme čítali alebo počuli, ale aj to, čo sme videli.“

Ak sa objaví podozrivý obrázok, na ktorom nejaká známa osoba robí veci, ktoré doteraz bežne nerobila alebo ich nerobila vôbec, obrázok treba zasadiť do širšieho kontextu ďalších informácií a pýtať sa, „či niečo také môže byť pravda“, vraví odborník na etiku umelej inteligencie z KInITu.

Lenže čo robiť v prípade, že sa umelo vygeneroval obrázok neznámej osoby a nie je možné porovnať ho s minulosťou? A ako sa brániť v situácii (viac či menej vzdialenej budúcnosti), keď internet zaplaví také množstvo falošných textových či obrazových správ, že porovnať ich s pravdou nebude možné, lebo už nebude vôbec zrejmé, čo je pravda?

„Uvedená situácia predstavuje obrovskú výzvu s ohľadom na reguláciu digitálneho obsahu,“ povedal Podroužek.

Podľa neho bude nevyhnutné zapojiť do odhaľovania nezákonného obrazového – či iného – obsahu aj prevádzkovateľov sociálnych sietí či fact-checkerov, ktorí podvody odhaľujú.

Väčšina ľudí hodnotila obrázok ako skutočný, hoci ho vyrobila umelá inteligencia. Zdroj – Petr Ludwig/Facebook

Využiť možno aj umelú inteligenciu – tak ako generuje nepravdivý a dezinformačný obsah, môže poslúžiť aj na jeho odhaľovanie, povedal Juraj Podroužek a dodal: „V KInITe sa podieľame aj na výskumných projektoch, ktoré sa týkajú odhaľovania automaticky generovaného obsahu a toho, ako využiť algoritmy umelej inteligencie na to, aby pomáhala fact-checkerom odhaľovať dezinformácie.“

Podľa Podroužka by sa obrázky mali označovať, aby ľuďom bolo jasné, či ide alebo nejde o umelo vytvorený obsah. „Napríklad aj návrh Aktu o umelej inteligencii zavádza podmienky transparentnosti, aby sme boli upozornení nielen na to, kedy komunikujeme so systémom umelej inteligencie, ale aj v prípadoch, keď konzumujeme deepfaky či podobný umelo vygenerovaný obsah.“

List o nástrahách umelej inteligencie

Vývoj systémov umelej inteligencie napreduje takým tempom, že viacerí intelektuáli a vedci podpísali tento týždeň otvorený list, ktorý vyzýva na pozastavenie trénovania veľkých jazykových modelov silnejších ako GPT-4.

„Systémy umelej inteligencie dosahujú úroveň porovnateľnú s človekom a pre spoločnosť a človeka môžu predstavovať vážne riziká,“ uvádza sa v liste.

Navrhované polročné moratórium by sa podľa dokumentu malo využiť na hľadanie bezpečnostných štandardov a dohôd. Ak sa súkromné spoločnosti nedohodnú, zakročiť by mali vlády.

Výzvu môže podporiť ktokoľvek, v tejto chvíli má takmer 1 900 signatárov. Je medzi nimi napríklad podnikateľ Elon Musk, spoluzakladateľ firmy Apple Steve Wozniak alebo historik Yuval Noah Harari.

Juraj Podroužek kvituje, že dokument vyvolal debatu, no má obavy, že našu pozornosť nasmeruje zlým smerom. „Myslím si, že výzva môže presunúť pozornosť od tém, ktoré by nás v tejto chvíli mali zaujímať v prvom rade, ako sú napríklad otázka transparentnosti, súkromia, diskriminácie či prílišného sa spoliehania na výstupy umelej inteligencie.“

Ak by sa prijalo polročné moratórium, veľa by podľa neho nevyriešilo, lebo ide o krátky čas. „Sú to už takmer dva roky, čo Európska komisia prišla s návrhom Aktu o umelej inteligencii, a stále nie sme na konci legislatívneho procesu. Najväčší optimisti hovoria, že finálna verzia by mohla v Únii začať platiť koncom roka.“

Podroužek povedal, že o možných nástrahách umelej inteligencie sa diskutuje už dlho a „experti na umelú inteligenciu už dávnejšie pomenovali, čo treba robiť“. Teraz je to predovšetkým na politikoch, aby tlačili na výrobcov a prevádzkovateľov systémov umelej inteligencie, dodal odborník z KInITu.