Denník N

Blížiacu sa katastrofu menom deepfake videá musíme zastaviť hneď

Predsedníčka Snemovne reprezentantov Nancy Pelosiová. Foto – TASR/AP
Predsedníčka Snemovne reprezentantov Nancy Pelosiová. Foto – TASR/AP

Dilema Facebooku, Twitteru a iných sociálnych sietí ohľadom falošného videa s Nancy Pelosiovou ukazuje, že nové štandardy potrebujeme predtým, než bude neskoro.

Paródia a satira sú legitímnymi súčasťami verejnej debaty. Falošné videá sú všade okolo nás. Niektoré sú zábavné, niektoré sú upravené tak, aby zvýraznili pointu.

Takéto argumenty slúžia na podporu Facebooku, ktorý sa rozhodol nestiahnuť zostrihané video predsedníčky Snemovne reprezentantov Nancy Pelosiovej, v ktorom sa javí ako opitá alebo inak indisponovaná.

Neadekvátna reakcia

Jedna verzia, ktorá sa objavila na facebookovej stránke Politics WatchDog, zaujala za posledných niekoľko dní dva milióny používateľov. Niet pochýb o tom, že mnohí z nich považovali nahrávku za autentickú.
Facebook uznal, že to tak nie je, ale nakoniec vyhlásil, že „naša politika nestanovuje, že informácie, ktoré na Facebooku uverejňujete, musia byť pravdivé“.

Namiesto toho, aby video s Pelosiovou vymazal, Facebook vyhlásil, že k nemu pripojí malý infobox, kde sa okrem iného píše, že „pred zdieľaním tohto obsahu by ste mohli chcieť vedieť, že sa k nemu objavilo aj dodatočné spravodajstvo“, a nasledujú dva linky na stránky overujúce pravdivosť správ, ktoré zistili, že nahrávka je falošná. Facebook taktiež vyhlásil, že „veľmi zredukuje“ možnosť, aby sa video zobrazovalo na stenách jednotlivých používateľov sociálnej siete.

V snahe nájsť rovnováhu sa Facebook ocitol v zjavne náročnej pozícii, ale tieto kroky nie sú adekvátnou odpoveďou na rastúce nebezpečenstvo.

Stále väčšie riziko

Minulý týždeň sa zodpovednosť Facebooku, Twitteru a iných sociálnych médií dostala do pozornosti verejnosti aj preto, že inžinieri zo Samsungu oznámili jednu strašidelnú a udivujúcu vec. Podaril sa im veľký pokrok vo vytváraní „deepfakes“: falošných videí či už živých, alebo mŕtvych ľudských bytostí, ktoré vyzerajú ako skutočné. Tento nový prístup dokáže z pár obrázkov, potenciálne len jedného jediného obrázku, vytvoriť „veľmi realistické a personalizované modely hovoriacich hláv“.

S takýmito možnosťami sa môže akákoľvek známa osoba, vlastne úplne každý, kto sa kedy ocitol na fotografii, dostať do videa, na ktorom hovorí či robí úplne čokoľvek. Ak sa napríklad Rusko bude aj naďalej snažiť podkopať volebný proces v Spojených štátoch, bude mať (a možnože už má) k dispozícii mocný nástroj na to, aby túto snahu ďalej prehĺbilo.

Odpoveďou na toto zjavné riziko by mohol byť napríklad nasledujúci návrh, ktorý myslím ako predbežné pozvanie do diskusie.

Vedia, že klamú

Facebook, Twitter, YouTube a iné firmy by na svojich sieťach

Tento článok je exkluzívnym obsahom pre predplatiteľov Denníka N.

Komentáre

Teraz najčítanejšie