Denník N

Deepfake videá môžu viesť ku katastrofe. Facebook či YouTube musíme pokutovať, hovoria experti

Hans-Jakob Schindler (vľavo) a David Ibsen z americkej neziskovky Countre Extremism Project. Foto N - Vladimír Šimíček
Hans-Jakob Schindler (vľavo) a David Ibsen z americkej neziskovky Countre Extremism Project. Foto N – Vladimír Šimíček

Silicon Valley hovorí zvyšku sveta, čo je sloboda prejavu, vravia ľudia z Counter Extremism Project, ktorí bojujú proti extrémizmu na sociálnych sieťach.

Firmy ako Facebook a Google musíme regulovať. Za extrémny obsah či falošné videá musia platiť pokuty, hovoria David Ibsen a Hans-Jakob Schindler z americkej neziskovky Counter Extremism Project (CEP). Na Slovensku sa rozprávali aj s ministerstvom zahraničných vecí.

O čom ste hovorili so slovenskou políciou a s ministerstvom zahraničných vecí?

Hans-Jakob Schindler: Predstavili sme im našu organizáciu. A rozprávali sme sa o pár technických postupoch, ktoré CEP prináša v súvislosti s teroristami na webe.

Môžu byť vaše nástroje použiteľné aj na Slovensku?

David Ibsen: Jednoznačne. Máme partnerov v Amerike aj v niektorých európskych krajinách. Nástroj, ktorý sme vyvinuli, sa môže použiť v rôznych veciach. Predtým sa využíval na vyhľadávanie detskej pornografie. Môže odhaliť reklamu pri predaji drog na webe. My ho využívame na extrémistické účely. Slovenská vláda má záujem o identifikáciu materiálu, ktorý propaguje násilie, ktorý radí, ako vyrobiť bombu, ako vykonať útok nožom.

Dal by sa využívať aj na fake news?

DI: Náš kolega Hani Farid je expert na fake news a deepfake. Vie zistiť, či je obrázok reálny alebo nie. Spolupracuje s rôznymi entitami.

Ako by ste laikom vysvetlili, čo je to deepfake?

HJS: Je to simulovaný obsah vytvorený použitím iných existujúcich kúskov materiálov slávnych ľudí skompilovaných, aby to vyzeralo realisticky. Môžete vytvoriť video, na ktorom politici robia poburujúce veci bez toho, aby konzument správ chápal, že sa to nikdy nestalo. Nedávno v USA kolovalo video demokratickej predsedníčky snemovne Nancy Pelosiovej, na ktorom vyzerala opitá. Profesor Farid pracuje na nástroji, ktorý deepfake rozpozná a zistí, že do videa bol nejaký elektronický zásah, že to nie je reálna nahrávka.

Ako sa to dá odhaliť?

DI: Môžete skúmať tok krvi z tela do hlavy, môžete kontrolovať údery srdca. Pri deepfake nesedí napríklad mimika tváre, reč tela.

Je to budúcnosť fake news?

DI: Bezpochyby. Skutočná otázka je, či to podkope vieru populácie v akékoľvek video, predtým ako nájdeme riešenie. Tento cynizmus bude mať efekt na všetko: demokratické inštitúcie či dôveru populácie vo volených zástupcov. Môže to byť katastrofa. Ľudia chcú veriť. V prípade Nancy Pelosiovej Facebook nereagoval dostatočne rýchlo a férovo, aby video odstránil. Niektorí ľudia to videli a povedali si, je to čudné. Ale iní ľudia nemajú radi Nancy Pelosiovú, myslia si, že je skorumpovaná a cynická. V momente, keď to vidia, začínajú to šíriť a komentovať.

Ako v tomto konkrétnom prípade reagoval Facebook?

DI: Iba vravel, prečo to neodstráni.

Stále to môžem nájsť online?

DI: Áno, kolovalo to aj neskôr. Technologické spoločnosti hovoria, že neodstraňujú fake news. Nie je v ich podmienkach užívania, aby obsah na ich stránkach musel byť pravdivý. Hovoria iba, že reálny musí byť váš účet. Toto je ich argument, prečo to napriek obrovskej kritike neodstránia. Facebook pritom maže materiály neustále bez toho, aby o tom niekomu povedal. Teraz nastavili precedens. Každý si doma môže spraviť deepfake video a dať ho na Facebook a nik ho neodstráni.

HJS: Naša organizácia stále argumentuje, že by sme sa mali zaoberať kyberpriestorom ako akoukoľvek inou časťou ekonomiky. Nastaviť nejaké základné pravidlá, čo sa môže a čo sa nemôže. Veľkí internetoví poskytovatelia služieb a poskytovatelia platforiem neustále tvrdia, že oni sú obhajcovia slobody prejavu. Zároveň však nehovoria, že oni majú vnútorné pravidlá, čo odstraňujú a čo nie. Nie sú neutrálni poskytovatelia platformy, ktorí nechajú ľudí publikovať, čo chcú. Silicon Valley hovorí zvyšku sveta, kde sú limity slobody prejavu. My v CEP to vnímame ako nesmierne nedemokratický spôsob. Čo je sloboda prejavu, by mala určovať spoločnosť, súdy či vlády.


David Ibsen je výkonný riaditeľ Counter Extremism Project (Projektu proti extrémizmu). Je odborník na bezpečnosť a zahraničné vzťahy. Predtým pracoval ako politický analytik na americkom ministerstve zahraničia a ako delegát USA v OSN.
Foto N – Vladimír Šimíček

Naznačujete teda, že vlády by mali regulovať sociálne siete?

DI: Musia.

Tento článok je exkluzívnym obsahom pre predplatiteľov Denníka N.

Facebook

Hoaxy a propaganda

Teraz najčítanejšie