Denník N

Umelá inteligencia moderuje diskusie na facebookovej stránke Denníka N, darí sa jej skrývať nenávisť

Denník N začal na moderovanie diskusií na Facebooku používať umelú inteligenciu. V posledných mesiacoch redakcia testovala slovenský nástroj TrollWall, ktorý v diskusiách automaticky skrýva vulgárne a nenávistné príspevky, útočné komentáre, vyhrážky či odkazy na dezinformačné weby.

Za prvé tri mesiace tohto roka TrollWall skontroloval viac ako 108-tisíc komentárov na facebookovej stránke Denníka N. Z nich skryl vyše 14-tisíc príspevkov, teda zhruba 13 percent.

Percentuálne bolo v prvom kvartáli najviac problematických príspevkov zachytených v marci (17 percent), objavovali sa najmä pod príspevkami o návšteve českého prezidenta Petra Pavla na Slovensku.

Umelá inteligencia (AI – skratka anglického výrazu artificial intelligence – pozn. red.) toxické príspevky neodstraňuje, ale len skrýva. Príspevky naďalej vidia ich autori a ich priatelia. Pre všetkých ostatných sú skryté príspevky nedostupné.

Tento prístup pomáha predchádzať ďalším nechceným komentárom. Redakcia zároveň môže kontrolovať rozhodnutia umelej inteligencie a v prípade, že dôjde k chybe, môže príspevky obnoviť.

AI pracuje len s verejne dostupnými informáciami, nespracúva žiadne osobné údaje.

Väčšia rýchlosť

Denník N moderuje diskusie na svojej facebookovej stránke od svojho vzniku v roku 2014. Vlani redakcia zablokovala „ručne“ takmer 6300 profilov, ktoré v diskusiách šírili nenávisť či dezinformácie. Zablokované profily sa už do diskusií nemôžu zapájať.

S využitím umelej inteligencie sa dá teraz postupovať ešte rýchlejšie a efektívnejšie. Redakcia napríklad nemala kapacity na kontrolu diskusií pri živých videoprenosoch – z tlačových konferencií, demonštrácií či diskusií. V týchto situáciách je rýchlosť reakcie obzvlášť dôležitá. TrollWall skrýva toxický obsah do pár sekúnd od jeho zverejnenia, takže zlepšuje diskusiu aj pri naživo vysielaných podujatiach.

Napríklad pri marcovej prezidentskej debate Zuzany Čaputovej a Petra Pavla vysielanej online bolo takmer 30 percent komentárov problematických. TrollWall skryl 117 z celkového počtu 397 komentárov, ktoré ľudia počas živého prenosu napísali.

Facebook problém nerieši

Facebook má dlhodobo problém s toxickým obsahom a nie je schopný odstrániť ani nahlásené vyhrážky zabitím. Sociálna sieť neposkytuje bežným používateľom a majiteľom stránok dostatočné nástroje, aby mohli aspoň na svojich profiloch takéto problémy efektívne riešiť.

Kto nechce ustúpiť pred nenávisťou a má záujem urobiť niečo s úrovňou diskusií, musí do toho investovať veľa času a nervov. Prípadne hľadať iné technické riešenia, napríklad aj v podobe AI.

„TrollWall vyvíjame rok, z čoho až šesť mesiacov bol v testovacej prevádzke nasadený pod ľudským dohľadom. Tak mohol byť AI model vyladený na rôznorodých komentároch z praxe, aby sme si boli istí jeho kvalitou pred verejným spustením,“ povedal Filip Strýčko, spoluzakladateľ TrollWallu a expert na umelú inteligenciu. Firmu tvoria štyria odborníci z oblasti IT, umelej inteligencie a správy sociálnych sietí.

Od marca 2023 je TrollWall v ostrej prevádzke a Denník N patrí medzi jeho prvých klientov.

Nástroj momentálne pomáha čistiť diskusie na Facebooku, od mája ho bude možné použiť aj na kontrolu diskusií na Instagrame. Následne by mali pribudnúť aj ďalšie sociálne siete.

Okrem Denníka N používa Trollwall napríklad PR agentúra Seesame a ďalšie firmy. „V Čechách pomáhal tento nástroj skrývať návaly nadávok na profile prezidentského kandidáta Petra Pavla počas jeho úspešnej kampane a testujú ho ďalší českí klienti,“ povedal Strýčko.

Firma pomáha zadarmo s diskusiami aj viacerým mimovládnym organizáciám a iniciatívam, napríklad Ide nám o život, Dúhový pride, Tepláreň, Iniciatíva Inakosť, Greenpeace či Znepokojené matky.

Fungujú aj elfovia

Kontrole diskusií na Facebooku a Instagrame sa venuje aj ďalší slovenský projekt – Elfovia. Spustila ho pred rokom PR agentúra New School Communications, vtedy ešte fungujúca pod názvom Katedra komunikácie. Elfov dnes využíva 15 slovenských a českých médií, napríklad Markíza, Joj, Rádio Expres, Aktuálně.cz či Plus 1 deň.

Elfovia využívajú kombináciu umelej inteligencie a ľudských moderátorov obsahu. Viac ako 80 percent príspevkov vyrieši systém automaticky, zvyšok posudzujú ľudia.

„Aby sme sa dostali na túto úroveň, trénovanie modelov nám zabralo niekoľko mesiacov práce. Prvý vytrénovaný model sme spustili v októbri minulého roka. Odvtedy sme nasadili niekoľko ďalších vylepšených verzií tohto modelu,“ povedal zakladateľ New School Communications Gabriel Tóth.

„Pri trénovaní nových modelov sme sa zamerali predovšetkým na kontrolu dát. Elfovia znovu prechádzali schválené a skryté komentáre a kontrolovali správnosť týchto rozhodnutí, čo nám podstatne zvýšilo mieru presnosti, pretože dáta prešli dvojitou kontrolou,“ dodáva Tóth.

Nedostatky AI

Umelá inteligencia ešte stále robí chyby – občas v diskusii skryje príspevok, ktorý by ľudský moderátor nechal viditeľný, a naopak, niektoré problematické príspevky prehliadne.

„Najväčším nedostatkom AI sú nové spoločenské témy. S tými si nevie poradiť, pretože podobný typ komentára zatiaľ nevidela,“ vysvetľuje Tóth z projektu Elfov. Pozitívne však vníma, že sa AI dokáže rýchlo a kontinuálne učiť.

„Takisto ako všetky AI modely, ale často aj ľudia, má aj TrollWall problém s detekciou sarkazmu,“ vraví Strýčko. „Keďže ľudia vedia byť kreatívni aj pri vulgarizmoch, tak náš AI model vylepšujeme priemerne dvakrát do mesiaca, aby zachytil nové ‚trendy‘ vo vulgarizmoch. Zároveň na základe spätnej väzby od klientov ladíme presnosť umelej inteligencie,“ dodáva.

Zakladateľ TrollWallu upozorňuje aj na rastúci problém spamu v diskusiách. Falošné profily sa snažia ľudí nalákať na „priateľstvo“, ponúkajú pôžičky alebo investície. „Preto práve spúšťame k detekcii hejtu aj detekciu spamu,“ dodáva Strýčko.

Redakcia Denníka N pravidelne kontroluje fungovanie umelej inteligencie. Zasahuje v momentoch, keď automatické systémy urobia chybu, a spolupracuje na zdokonaľovaní AI. A hoci sme stále na začiatku, už teraz sa dá povedať, že vďaka umelej inteligencii sú diskusie na webe Denníka N oveľa bezpečnejšie a slušnejšie.

Cieľom kontroly diskusií nie je skrývať kritické príspevky, na niečo také AI ani nie je trénovaná. Cieľom je, aby sa ľudia nemuseli báť vyjadriť svoj názor a nečelili zaň útokom nenávistného online davu.

Aj touto cestou ďakujeme všetkým čitateľom, ktorí diskutujú slušne, vecne a neagresívne. Vďaka vám majú diskusie na sociálnych sieťach ešte nejaký zmysel.

🗳️ Ak chcete podporiť našu prácu pred druhým kolom volieb aj nad rámec predplatného, môžete to urobiť aj darom.🗳️

Máte pripomienku alebo ste našli chybu? Prosíme, napíšte na [email protected].

Falošní diskutéri

Nové na eNku

Umelá inteligencia

Slovensko

Teraz najčítanejšie