Denník N

Facebook zmazal 7 miliónov lží o korone, pre pandémiu však už admini nekontrolujú všetko

Ilustračný obrázok: Denník N / FS
Ilustračný obrázok: Denník N / FS

Keď vypukla pandémia koronavírusu, spoločnosť Facebook priznala, že automatické systémy budú musieť robiť časť práce, ktorú dovtedy robili ľudia. V marci totiž väčšina zamestnancov sociálnej siete musela ostať doma a aj tí, ktorí prešli na home office, nemohli robiť všetko tak ako na pracovisku.

„Napríklad grafický obsah je veľmi ťažké moderovať doma, keď sú okolo nich ľudia,“ povedal Guy Rosen, ktorý má na starosti integritu Facebooku.

Tento týždeň sociálna sieť zverejnila dáta, ktoré ukazujú, aké to malo dôsledky na odstraňovanie nevhodného obsahu zo siete.

„Hoci sa naša technológia na odhaľovanie a odstraňovanie nevhodného obsahu zlepšuje, naďalej tu budú oblasti, v ktorých sa budeme spoliehať na ľudí kontrolujúcich obsah a trénujúcich našu technológiu,“ vysvetlila firma.

„Napríklad sa veľmi spoliehame na to, že ľudia preskúmajú príspevky o samovraždách, sebapoškodzovaní a zneužívaní detí a že pomôžu zlepšovať technológiu, ktorá proaktívne vyhľadáva a odstraňuje identický alebo veľmi podobný obsah, ktorý porušuje pravidlá.“

V iných oblastiach sa vraj podarilo technológiu zdokonaliť a automatické systémy dosahujú lepšie výsledky ako predtým ľudia. Jednou z takýchto oblastí sú napríklad nenávistné prejavy.

Čo ukázali aktuálne štatistiky?

Nenávistné prejavy: V období od apríla do júna bolo z Facebooku odstránených 22,5 milióna príspevkov obsahujúcich „hate speech“. Ide o doposiaľ najlepší výsledok, v predchádzajúcom štvrťroku bolo zmazaných 9,6 milióna príspevkov. „Vylepšili sme proaktívnu detekciu a rozšírili automatizáciu na španielsky, arabský a indonézsky jazyk,“ vysvetlila firma tento nárast. Zo všetkých nenávistných príspevkov, voči ktorým firma zasiahla, bolo 94,5 percenta odhalených skôr, ako na ne upozornili používatelia.

Šikanovanie a obťažovanie zatiaľ nevedia automatické systémy odhaľovať. Tieto prípady sú totiž veľmi osobné a záleží pri nich na kontexte. „To znamená, že použitie technológie na aktívnu detekciu šikanovania a obťažovania môže byť náročnejšie,“ vysvetľuje firma. Sociálna sieť potrebuje, aby ju ľudia na šikanu upozornili. V druhom štvrťroku bolo zmazaných 2,4 milióna príspevkov, tri mesiace predtým to bolo 2,3 milióna.

Falošné účty: V druhom štvrťroku Facebook zrušil 1,5 miliardy (áno, naozaj miliardy) falošných účtov. Každý deň totiž sociálna sieť blokuje milióny pokusov o vytvorenie falošných účtov.

Spam: V prvom štvrťroku 2020 Facebook odstránil milióny príspevkov, ktoré automatické systémy omylom označili za spam, neskôr boli obnovené. V apríli bola preto technológia aktualizovaná, aby bola presnejšia. „Výsledkom bolo zníženie počtu zásahov z 1,9 miliárd v prvom kvartáli 2020 na 1,4 miliárd v druhom štvrťroku.“

Samovraždy a sebapoškodzovanie: V tejto oblasti sa sociálna sieť spolieha viac na rozhodnutia moderátorov, nie umelej inteligencie. Aj preto s príchodom pandémie klesol počet zmazaných príspevkov z 1,7 milióna štvrťročne na 911-tisíc. Moderátori totiž takýto citlivý obsah nemohli posudzovať doma.

Násilný a grafický obsah: Podobne ako v predchádzajúcom prípade, aj v prípade mazania snímok násilných vecí je Facebook závislý na moderátoroch. Počet odstránených príspevkov klesol medzikvartálne z 25,4 milióna na 15,1 milióna.

Terorizmus a nebezpečné organizácie: V druhom kvartáli Facebook zmazal 8,7 milióna príspevkov zaradených do kategórie terorizmus (6,3 milióna v prvom štvrťroku) a ďalšie 4 milióny príspevkov od organizácií šíriacich nenávisť (4,7 milióna v predchádzajúcom štvrťroku).

Facebook tiež oznámil, že od apríla do júna zmazal celosvetovo 7 miliónov nepravdivých správ o koronavíruse vrátane príspevkov, ktoré opisovali falošné spôsoby prevencie alebo nepotvrdené spôsoby liečby.

Pri ďalších 98 miliónoch príspevkov o nákaze vraj sociálna sieť zobrazuje upozornenie, že môže ísť o nepravdivú informáciu.

Minulý týždeň Facebook odstránil video Donaldovi Trumpovi, pretože americký prezident šíril nepravdu o tom, že deti sú takmer imúnne voči koronavírusu.

Na Slovensku má Facebook len jedného fact-checkera, a tak väčšina falošných správ v slovenčine o víruse je bez kontroly a šíri sa sociálnou sieťou ďalej.

Aké nedostatky majú tieto štatistiky?

Facebook zverejňuje tieto dáta – tzv. Community Standards Enforcement Report – pravidelne od roku 2018. Problémom je, že poskytuje len sumárne čísla pre celý svet, odmieta ukázať podrobnejšie dáta o mazaní nevhodného obsahu na kontinentoch či v jednotlivých krajinách.

Odborníci predpokladajú, že takéto údaje by odhalili priepastné rozdiely medzi jednotlivými regiónmi a jazykmi. V súčasnosti napríklad nemáme dáta pre Slovensko, ale je prakticky isté, že vo väčšine kategórií sú tunajší používatelia horšie chránení ako v anglicky hovoriacich krajinách.

Podrobnejšie dáta chcel od Facebooku aj európsky mediálny regulátor ERGA (The European Regulators Group for Audiovisual Media Services), ale neúspešne. „Hovorili, že tých dát by bolo obrovské množstvo. My zas argumentujeme, že platformy pri komunikácii so zadávateľmi reklám vedia poskytnúť naozaj veľa informácií, takže si myslíme, že by nemal byť taký problém poskytnúť viac dát regulátorom,“ povedal Ľuboš Kukliš, ktorý rok a pol predsedal ERGA.

Výskumníci si tiež sťažujú, že Facebook poskytuje dáta v nepoužiteľnej podobe a neumožňuje im jednoducho stiahnuť si tabuľky a datasety.

Ako adminom pomáha technika

Facebook tiež priblížil, ako technológie pomáhajú moderátorom pri odstraňovaní nevhodného obsahu.

Umelá inteligencia už vraj vo viacerých oblastiach dokáže upozorniť na problematický obsah s vyššou presnosťou, ako to robili vo svojich nahláseniach používatelia.

Systém tiež pomáha škálovať rozhodnutia moderátorov na ďalšie rovnaké či veľmi podobné príspevky, a tak ľudia nemusia posudzovať ten istý obsah viackrát.

Ďalším prínosom je prioritizácia nevhodného obsahu. „Namiesto toho, aby sme sledovali nahlásený obsah v chronologickom poradí, naša umelá inteligencia uprednostňuje najviac kritický obsah, ktorý treba skontrolovať,“ vysvetlil Facebook. Prednosť by mali dostávať príspevky, ktoré môžu napáchať najväčšie škody, virálne príspevky a obsah, u ktorého je vyššia pravdepodobnosť, že porušuje pravidlá.

Nezávislý audit

Sociálna sieť tiež oznámila, že hľadá nezávislú audítorskú firmu, ktorá by už od začiatku budúceho roka mala kontrolovať dáta o odstraňovaní nevhodného obsahu.

„Žiadna firma by si nemala hodnotiť svoje vlastné domáce úlohy a naše systémy si musia dôveryhodnosť získať,“ tvrdí sociálna sieť. Na druhej strane však na žiadosti novinárov, výskumníkov a úradov o viac dát reaguje odmietavo a neumožňuje dôkladnejšiu verejnú kontrolu.

Navyše, internetový gigant neraz ignoruje rozhodnutia nezávislých odborníkov, s ktorými spolupracuje. Minulý týždeň napríklad novinári odhalili, že Facebook prehliadal porušenia pravidiel zo strany vplyvných amerických konzervatívnych a dezinformačných stránok. Hoci fact-checkeri upozorňovali na šírenie lží, Facebook nezasiahol a pre obavy z kritiky republikánov stránky nepenalizoval.

Prihláste sa na odber newslettra MediaBrífing a v piatok dostanete súhrn všetkého, čo potrebujete vedieť o médiách a internete.

Facebook

Hoaxy a propaganda

Koronavírus

Svet

Teraz najčítanejšie