Deepfake videá môžu viesť ku katastrofe. Facebook či YouTube musíme pokutovať, hovoria experti

Firmy ako Facebook a Google musíme regulovať. Za extrémny obsah či falošné videá musia platiť pokuty, hovoria David Ibsen a Hans-Jakob Schindler z americkej neziskovky Counter Extremism Project (CEP). Na Slovensku sa rozprávali aj s ministerstvom zahraničných vecí.

O čom ste hovorili so slovenskou políciou a s ministerstvom zahraničných vecí?

Hans-Jakob Schindler: Predstavili sme im našu organizáciu. A rozprávali sme sa o pár technických postupoch, ktoré CEP prináša v súvislosti s teroristami na webe.

Môžu byť vaše nástroje použiteľné aj na Slovensku?

David Ibsen: Jednoznačne. Máme partnerov v Amerike aj v niektorých európskych krajinách. Nástroj, ktorý sme vyvinuli, sa môže použiť v rôznych veciach. Predtým sa využíval na vyhľadávanie detskej pornografie. Môže odhaliť reklamu pri predaji drog na webe. My ho využívame na extrémistické účely. Slovenská vláda má záujem o identifikáciu materiálu, ktorý propaguje násilie, ktorý radí, ako vyrobiť bombu, ako vykonať útok nožom.

Dal by sa využívať aj na fake news?

DI: Náš kolega Hani Farid je expert na fake news a deepfake. Vie zistiť, či je obrázok reálny alebo nie. Spolupracuje s rôznymi entitami.

Ako by ste laikom vysvetlili, čo je to deepfake?

HJS: Je to simulovaný obsah vytvorený použitím iných existujúcich kúskov materiálov slávnych ľudí skompilovaných, aby to vyzeralo realisticky. Môžete vytvoriť video, na ktorom politici robia poburujúce veci bez toho, aby konzument správ chápal, že sa to nikdy nestalo. Nedávno v USA kolovalo video demokratickej predsedníčky snemovne Nancy Pelosiovej, na ktorom vyzerala opitá. Profesor Farid pracuje na nástroji, ktorý deepfake rozpozná a zistí, že do videa bol nejaký elektronický zásah, že to nie je reálna nahrávka.

Ako sa to dá odhaliť?

DI: Môžete skúmať tok krvi z tela do hlavy, môžete kontrolovať údery srdca. Pri deepfake nesedí napríklad mimika tváre, reč tela.

Je to budúcnosť fake news?

DI: Bezpochyby. Skutočná otázka je, či to podkope vieru populácie v akékoľvek video, predtým ako nájdeme riešenie. Tento cynizmus bude mať efekt na všetko: demokratické inštitúcie či dôveru populácie vo volených zástupcov. Môže to byť katastrofa. Ľudia chcú veriť. V prípade Nancy Pelosiovej Facebook nereagoval dostatočne rýchlo a férovo, aby video odstránil. Niektorí ľudia to videli a povedali si, je to čudné. Ale iní ľudia nemajú radi Nancy Pelosiovú, myslia si, že je skorumpovaná a cynická. V momente, keď to vidia, začínajú to šíriť a komentovať.

Ako v tomto konkrétnom prípade reagoval Facebook?

DI: Iba vravel, prečo to neodstráni.

Stále to môžem nájsť online?

DI: Áno, kolovalo to aj neskôr. Technologické spoločnosti hovoria, že neodstraňujú fake news. Nie je v ich podmienkach užívania, aby obsah na ich stránkach musel byť pravdivý. Hovoria iba, že reálny musí byť váš účet. Toto je ich argument, prečo to napriek obrovskej kritike neodstránia. Facebook pritom maže materiály neustále bez toho, aby o tom niekomu povedal. Teraz nastavili precedens. Každý si doma môže spraviť deepfake video a dať ho na Facebook a nik ho neodstráni.

HJS: Naša organizácia stále argumentuje, že by sme sa mali zaoberať kyberpriestorom ako akoukoľvek inou časťou ekonomiky. Nastaviť nejaké základné pravidlá, čo sa môže a čo sa nemôže. Veľkí internetoví poskytovatelia služieb a poskytovatelia platforiem neustále tvrdia, že oni sú obhajcovia slobody prejavu. Zároveň však nehovoria, že oni majú vnútorné pravidlá, čo odstraňujú a čo nie. Nie sú neutrálni poskytovatelia platformy, ktorí nechajú ľudí publikovať, čo chcú. Silicon Valley hovorí zvyšku sveta, kde sú limity slobody prejavu. My v CEP to vnímame ako nesmierne nedemokratický spôsob. Čo je sloboda prejavu, by mala určovať spoločnosť, súdy či vlády.

Naznačujete teda, že vlády by mali regulovať sociálne siete?

DI: Musia. Firmy zo Sillicon Valley vždy dávajú prednosť samoregulácii. To zjavne nefunguje. Ale očakávame, že v roku 2019 či 2020 dôjde k obratu. Európska únia pretláča veľmi silné zákony, ktorými bude regulovať obsah na internete. V Británii máte celé portfólio zákonov, nad ktorými sa uvažuje. A dokonca aj v USA sú ľudia, ktorí hovoria, že je čas odstrániť imunitu voči žalobám technologických firiem, ktorú majú od 90. rokov. Najväčší spojenec, ktorého technologické firmy majú, je americká vláda a prvý dodatok ústavy.

HJS: A to hovorí bývalý člen americkej vlády, nie nejaký anarchista (smiech).

Ak nájdete radikálny obsah, ako postupujete? Spolupracujete s políciou?

DI: Závisí od okolností. Spoločnostiam posielame požiadavku, aby to zablokovali, podobne ako môže každý užívateľ. Mali by sme mať prednostný status. Záleží od obsahu, ale niekedy môžeme kontaktovať aj políciu.

Ako dlho to trvá, kým spoločnosti ako YouTube zareagujú?

DI: (smiech) Rôzne. Niekedy sú to dni, niekedy to nestiahnu vôbec.

HJS: Máme dojem, že reakcia technologických firiem záleží na tom, aký to môže vzbudiť mediálnu pozornosť a poškodiť ich reputáciu. Materiály Dáišu odstraňujú ochotne. Je im jasné, že New York Times by napísal článok, ak by to nespravili. Ale ak ide o rovnako nebezpečnú, no menšiu pravicovú skupinu, ktorá nespraví také mediálne haló, váhajú dlhšie. Spomeniem jednu skupinu – už podľa názvu je jasné, že nejde o golfový klub v Detroite. Volá sa to Atomwaffen Division. Je to superradikálna krajne pravicová americká skupina a šíri veľa nebezpečného materiálu. Napriek tomu, spoločnosti váhajú dlho, kým odstránia ich príspevok.

Pretože nie sú známi?

HJS: Nedostanete od nich odpoveď. Je v tom však element verejného tlaku, ktorý treba, pokiaľ nemáte regulácie a základné pravidlá podobne ako banky, letecký priemysel, cestovné kancelárie, hotely. Nehovorím, že tieto spoločnosti chcú, aby ich teroristi používali. Ale zneužívajú ich. Ale pokiaľ ich nebudete motivovať, aby tomu predchádzali, tak to tak bude. Teraz to najhoršie, čo sa im môže stať, je, že budú mať pár zlých článkov v novinách.

Ako by mala vyzerať tá regulácia? Mali by dostávať pokuty?

DI: Áno, tento rámec je aj v európskych modeloch a je správny. Takto funguje regulácia v rôznych oblastiach. Pri bankách stále vidíme, že im americké úrady dávajú pokuty: 700 miliónov dolárov, 1 miliardu dolárov. Prečo by Google nemal platiť pokutu?

HJS: Iný prístup by bol, že veľké spoločnosti a platformy povedia, že nás nezaujíma obsah a môžete uverejniť, čo chcete. Ak by to robili, nemali by sme žiaden argument. Ale oni už rozhodujú. Nechceme porno na našich platformách, nechceme matky, ktoré dojčia svoje deti. Pri každej dohode o užívaní je napísané, že oni určujú, ktorý obsah je nevhodný pre komunitu. Nie sú neutrálni.

Mali by dostávať pokuty aj za fake news?

DI: Ak to nevyriešia, tak by to malo byť.

Ale kde je tá hranica, čo je už fake news a čo nie je?

HJS: Toto rozhodnutie musia robiť každý deň noviny, rádia či televízie. Ak máte v názve niečo ako News feed, je mi veľmi ľúto, ale práve ste sa stali vydavateľom. Musíte robiť rovnaké rozhodnutia.

DI: A teraz má Facebook aj televíziu, YouTube má televíziu. Hovoria, že sú neutrálne tretie strany, ale zároveň chcú vysielať, chcú robiť originálne filmy. Sú v produkčnom biznise, sú súčasťou volebného biznisu, lebo predávajú služby politickým stranám v Amerike, na Filipínach aj v Nemecku. Pomáhajú kandidátom šíriť ich odkazy. Toto všetko chcú, no zároveň odmietajú akúkoľvek reguláciu.

Vidíte rozdiel, ktorá spoločnosť sa správa zodpovednejšie a ktorá menej? 

DI: Nedá sa to povedať.

HJS: Nie je to konzistentné. Niekedy sa správajú fajn a potom bez zjavných príčin je to s nimi ťažké. Prečo jedno video odstránia, no keď sa reuploadujú, majú problém znova ho zablokovať.

DI: Napríklad spustili Facebook Live bez akýchkoľvek štúdií a bez zváženia, aké to bude mať vplyvy na spoločnosť. Neustále sa reuploaduje live video strelca z novozélandského Christchurch (muž zastrelil v mešitách 51 moslimov pozn. red.). Môžeme povedať, že tie staršie a zrelšie spoločnosti ako napríklad Microsoft sa správajú lepšie. Už začiatkom tisícročia sa museli vysporiadať s hrozbou proti trustom a tiež s nevôľou zákazníkov. Uvedomili si, že musia viac reagovať.

Stále bojujú proti zavedeniu regulácií, alebo si to začínajú uvedomovať, že k tomu príde?

DI: Ich náklady na lobing išli za posledné dva roky strmhlav nahor.  Facebook či Google zamestnávajú mnohých bývalých členov vlád či poslancov ako svojich politických poradcov.

HJS: Videli sme to aj v Európskej únii. Zjavne sa snažili zdržovať, aby nové regulácie neboli do eurovolieb. Oddialili sa tým o dva roky. Teraz vidíme kajúceho Zuckerberga, ale v skutočnosti sa vo Washingtone, Bruseli či Berlíne snažili, aby regulácie napokon nemali reálny vplyv, prípadne chceli skomplikovať a pozdržať tento proces.

Boja sa, že ľudia od nich odídu?

HJS: To si nemyslím. Ide hlavne o peniaze za pokuty a súdy. Ľudia reálne nemôžu zažalovať Facebook. A pritom Facebook niekedy napomáha šíreniu genocídy. Zoberte si rodinu Jamesa Foleyho (americký novinár popravený Dáišom, pozn. red.). Ak by Facebook nebol chránený zákonom, čelil by žalobám za spôsobenie emocionálnej ujmy rodine v miliónoch dolárov.

Vždy pripomínam slávny prípad horúcej kávy v McDonald´s. Viete, prečo je na každom pohári napísané, že obsahuje horúci nápoj? Pretože jedna žena si raz dala kávu medzi nohy v aute, stúpila na brzdy a popálila si nohy. Vysúdila na tom milióny dolárov. Z podobného dôvodu je v Amerike v návode každej mikrovlnky napísané, že neslúži na sušenie zvierat. Niekto dal svoju mačku do mikrovlnky a mačka aj s mikrovlnkou vybuchla. A firmy museli zaplatiť kolektívne stovky miliónov dolárov za to, že na to neupozorňovali.

Rodina Jamesa Foleyho sa musela pozerať na to, ako popravujú ich syna, tisícky krát. Pre matku a otca to nebola šťastná skúsenosť, no nie je nič, čo by proti tomu mohli robiť.

DI: Ľudia sa snažili dať na súd tieto firmy v súvislosti s terorizmom a ukázalo sa to, že to nemá oporu v zákone.

Prečo?

DI: Pretože zákon hovorí, že tieto platformy  sú neutrálne tretie subjekty a nemôžu byť súdené za to, čo sa na nich objaví.

Myslíte si, že o niekoľko rokov budú Facebook a YouTube regulované?

DI: Myslíme že, medzi ľuďmi sa to otočilo. Možno o 20 rokov, keď bude nejaký regulačný rámec, sa pozrieme sa na toto obdobie, keď sa nedal Facebook žalovať, a budeme hovoriť, že to bolo šialené. Keď schválili zákon o bankovom tajomstve v 70. rokoch, ľudia boli pobúrení, tvrdili, že útočíte na právo na súkromie. Moja finančná inštitúcia bude hlásiť vláde moju transakciu, ak bude podozrivá? Teraz to však nik nehovorí, je to úplne normálne.

Ani regulácie však neodstránia nebezpečný obsah. Napríklad škodlivé live video sa nedá zablokovať okamžite.

DI: Nehovoríme, že sa ich služby nebudú dať zneužiť, ale hovoríme: uistite sa, aby to nebolo ľahké.  Prečo spustili Facebook Live len tak. To si neuvedomili, že niekto z vyše miliardy užívateľov môže uverejniť video, ako niekoho bije, video so sexuálnym obsahom? Vraždu niekoho, teroristický útok? Bolo jasné, že sa niečo také stane. Urobili to však tak či tak. Hýb sa rýchlo a nič veci, to je ich krédo. Nie je to startup z internátnej izby, sú to veľké multinárodné spoločnosti, musia mať zodpovednosť a nemôžu len tak spustiť nový produkt len preto, že ich akcie porastú a je to cool.