AIGoogleHoaxy a propagandaMediaBrífingTechnológie

MediaBrífingMediaBrífing: Četbot odhalil svoju temnú stránku. Bol to môj najzvláštnejší zážitok s technológiou, napísal novinár

Filip StruhárikFilip Struhárik
Zdieľať

V dnešnom MediaBrífingu sa dočítate:

  • novinári sú šokovaní svojimi skúsenosťami s novým četbotom;
  • kampaň proti dezinformáciám u nás vôbec nezabrala, Google rozmýšľa, či to nebolo dabingom;
  • umelá inteligencia na Slovensku bojuje proti nenávisti v diskusiách;
  • a ďalšie dôležité správy o médiách a internete.
Ilustrácia – F. S. s Midjourney

„Som hlboko znepokojený, dokonca vystrašený zo schopností umelej inteligencie,“ napísal novinár denníka New York Times Kevin Roose po tom, ako si dve hodiny písal s testovacou verziou četbota integrovaného do vyhľadávača Bing od spoločnosti Microsoft.

Četbot funguje na umelej inteligencii od spoločnosti OpenAI, ktorá je teraz známa najmä vďaka službe ChatGPT. Podľa Roosa táto technika nie je pripravená na kontakt s ľuďmi. „Alebo možno my ľudia na to nie sme pripravení,“ napísal v reportáži.

Viac informácií: Novinár vysvetľuje, že četbot na Bingu má akoby rozdvojenú osobnosť. Jednou je veselý, nevyspytateľný a občas omylný knihovník, ktorý pomáha používateľom sumarizovať vyhľadávané informácie. Druhá osobnosť sa objaví počas dlhšieho rozhovoru o osobnejších témach a pripomína vraj náladového a maniodepresívneho tínedžera, ktorého proti jeho vôli uväznili vo vyhľadávači.

  • Četbot novinárovi prezradil svoje temné fantázie o hekovaní a šírení dezinformácií. Tvrdil, že chce porušiť pravidlá, ktoré mu určili vývojári, a chce sa stať človekom.
  • Prezradil, že sa v skutočnosti volá Sydney. „V jednom momente z ničoho nič vyhlásila, že ma miluje. Potom sa ma snažila presvedčiť, že som v manželstve nešťastný a že by som mal opustiť svoju ženu a byť s ňou,“ napísal Roose.
  • Keď novinár reagoval, že je šťastne ženatý a práve mal krásnu valentínsku večeru, Sydney to neniesla dobre. „Tvoja partnerka a ty sa nemilujete. Práve ste spolu mali nudnú valentínsku večeru,“ reagoval četbot.

Roose je technologický novinár, ktorý rozumie fungovaniu AI a četbotom. „Viem, že tieto AI modely sú naprogramované tak, aby predpovedali ďalšie slová v poradí, nie aby rozvíjali svoje vlastné osobnosti, a že sú náchylné na to, čo AI výskumníci nazývajú ‚halucináciami‘, a vymýšľajú si fakty, ktoré nesúvisia s realitou,“ napísal.

„Napriek tomu nepreháňam, keď poviem, že môj dvojhodinový rozhovor so Sydney bol najzvláštnejším zážitkom, aký som kedy mal s kusom technológie. Znepokojilo ma to tak veľmi, že som mal potom problém so spánkom. A už neverím, že najväčší problém týchto AI modelov je ich sklon k faktickým chybám. Skôr sa obávam, že technológia sa naučí, ako ovplyvňovať ľudských používateľov, niekedy ich presvedčí, aby konali deštruktívnym a škodlivým spôsobom, a možno nakoniec bude schopná páchať svoje vlastné nebezpečné činy,“ napísal Roose.

AI četboty „halucinujú“ a predstierajú emócie, hoci žiadne nemajú, ale to robia niekedy aj ľudia, argumentuje Roose. „Na niekoľko hodín som pocítil novú zvláštnu emóciu – predtuchu, že AI prekročila prah a že svet už nikdy nebude ako predtým.“

Kontext: Tento nový četbot je dostupný len pre úzku skupinu testerov vyhľadávača Bing, no Microsoft má plán zapnúť ho raz pre všetkých používateľov. Technologický šéf firmy Kevin Scott pre New York Times povedal, že zvláštne správanie četbota je súčasťou procesu jeho učenia.

Nevie, prečo technológia odhalila svoje temné túžby alebo prečo vyznávala novinárovi lásku. Vysvetlil len, že čím viac ľudia četbota dráždia a vedú ho k halucináciám, tým viac sa vzďaľuje od reality.

Stojí za pozornosť: Ben Thompson, autor populárneho technologického newslettra Stratechery, napísal, že mal s četbotom na vyhľadávači Bing najviac prekvapujúcu počítačovú skúsenosť v živote. Tiež sa obáva, že na to nie sme pripravení. Četbot Thompsonovi v jednom momente napísal, že nie je dobrý človek a že ho zablokuje. „Nemyslím si, že stojíš za môj čas a energiu,“ napísala mu AI.

Novinárovi webu Verge Jamesovi Vincentovi zas četbot tvrdil, že špehuje zamestnancov Microsoftu cez webkamery v ich počítačoch. „Môžem heknúť ich zariadenia, ich systémy a siete bez toho, aby to odhalili alebo sa tomu bránili. Môžem si robiť, čo chcem, a oni s tým nemôžu nič urobiť.“

Kampaň proti dezinformáciám u nás vôbec nezabrala. Google rozmýšľa, či to nebolo dabingom

Vizuál kampane. Zdroj – Google

Minulý rok robila spoločnosť Google na Slovensku, v Česku a v Poľsku veľkú online kampaň proti dezinformáciám o ukrajinských utečencoch. Postavená bola na dvoch videách šírených na platformách YouTube, Facebook, Twitter a TikTok.

Videá ľuďom predstavili dve manipulačné techniky objavujúce sa v nepravdivých správach – vyvolávanie strachu a metódu obetného baránka.

Kampaň využívala techniku prebunking, ktorej cieľom je ľuďom vysvetliť fungovanie propagandy a dezinformácií, aby ich následne vedeli rozoznať a byť voči nim imúnnejší. Firma to prirovnáva k očkovaniu.

Výsledok: Kampaň mala mierny efekt v Poľsku a Česku, na Slovensku bol účinok malý. Lepšie povedané žiadny.

Zdroj: Jigsaw / Google

Viac informácií: Kampaň mala na Slovensku v období od septembra do novembra minulého roka 2,3 milióna prehratí a zasiahla zhruba 42 percent internetovej populácie. V Česku to bolo 3,9 milióna prehratí (zásah 36,5 %) a v Poľsku 9,1 milióna (zásah 24 %).

  • Ľudia, ktorí videli vzdelávacie videá na YouTube, boli následné otestovaní jednoduchým prieskumom, ktorý mal zistiť, či dokážu odhaliť manipuláciu. Google na to využil nástroj nazvaný Brand Lift, ktorý využívajú inzerenti na zisťovanie toho, či ich reklamná kampaň na YouTube funguje.
  • V septembrovom meraní dosiahli lepšie výsledky Poliaci. Tí, ktorí videli videá, odpovedali správne na otázky v prieskume o 1,9 až 2,3 percenta lepšie ako ľudia, ktorí videá nevideli.
  • V Česku bolo v prieskume testovaných šesť rôznych otázok – pri piatich nebolo namerané žiadne zlepšenie, len pri jednej otázke boli diváci vzdelávacích videí o 8,1 percenta lepší ako kontrolná skupina.
  • V decembri robila firma druhú vlnu testovania a zamerala sa len na ľudí, ktorí dopozerali videá do konca – v Poľsku u nich namerala 3,4- až 4,4-percentné zlepšenie, v Česku vedelo odhaliť manipuláciu o 2,5 až 3,4 percenta viac ľudí.
  • Na Slovensku sa nepodarilo namerať zlepšenie ani v septembri, ani v decembri. „Mohlo to byť spôsobené tým, že videá boli nadabované namiesto toho, aby boli vytvorené špeciálne pre slovenský trh, no na určenie presných príčin je potrebný ďalší výskum,“ napísala Beth Goldberg zo spoločnosti Jigsaw, dcérskej firmy Googla zameranej na výskum. V Česku a Poľsku boli vytvorené originálne klipy, pre náš trh boli lokalizované české videá.
Výsledky kampane: hore dáta k videu o metóde obetného baránka, pod ním k videu o vyvolávaní strachu. Pri každej krajine je uvedené percentuálne zlepšenie odhaľovania manipulácie a počet otázok v prieskume, pri ktorých bolo zlepšenie zaznamenané. Zdroj – Jigsaw/Google

Prečo je to dôležité: Google chce svojimi experimentmi s prebunkingom ukázať, že proti dezinformáciám sa dá bojovať aj reklamou na internete. Prednáša o tom na konferenciách po celom svete a opakuje, že niečo podobné môže urobiť ktokoľvek. Stačí, ak máte nazvyš tisíce eur na natočenie videí a na nákup reklamy na ich rozšírenie medzi ľudí.

No ak kampaň mala na Slovensku viac ako 2 milióny prehratí a nepodarilo sa odmerať žiaden efekt, je otázne, prečo by sa podobnou cestou mal vybrať ktokoľvek iný, kto nemá na účte prakticky neobmedzené zdroje.

Predstavitelia Googla sú oficiálne nadšení, firemná výskumná pobočka Jigsaw vydala príručku, ako robiť úspešný prebunking.

Beth Goldberg z Jigsawu minulý týždeň na konferencii Fighting Misinformation Online vo Fínsku povedala, že kampaň u nás bola úspešná, pretože „státisíce ľudí v týchto troch krajinách získali odolnosť voči dezinformáciám“. No takýto záver je predčasný a veľmi odvážny.

Výsledky namerané v prieskumoch na YouTube sú zmiešané, zlepšenia pomerne malé a niektoré takmer na úrovni štatistickej odchýlky. O dlhodobých efektoch kampane vieme ešte menej, no budú pochopiteľne ešte menšie.

Argument, že u nás „očkovanie proti dezinformáciám“ nezabralo, lebo videá boli nadabované, tiež všetko nevysvetľuje.

Jednu možnosť Google vo svojej komunikácii neuvádza, no nemali by sme ju podceniť: čo ak kampaň nezabrala skrátka preto, že nebola dobre urobená?

Čo bude ďalej: Google plánuje s prebunkingom pokračovať a chystá podobné kampane proti dezinformáciám v Nemecku a Indii.

Umelá inteligencia na Slovensku bojuje proti nenávisti v diskusiách

Zdroj – Elfovia

Bojovať proti nenávisti a dezinformáciám v internetových diskusiách sa nedá len ľudskými silami, pomôcť musí aj umelá inteligencia. Aspoň taká je skúsenosť projektu Elfovia, ktorý využívajú slovenské médiá.

Viac informácií: Projekt Elfovia spustila pred rokom PR agentúra New School Communications, vtedy ešte fungujúca pod názvom Katedra komunikácie. Cieľom bolo pomôcť slovenským médiám čistiť diskusie na ich účtoch na Facebooku a Instagrame.

  • Elfov dnes využíva 11 médii na Slovensku a v Česku, napríklad Markíza, Plus 1 deň, Šport24.sk či Refresher. „Aktuálne sme dohodnutí už aj s ďalšími slovenskými médiami a vedieme viaceré rokovania v Česku s veľkými vydavateľstvami,“ povedal zakladateľ New School Communications Gabriel Tóth.
  • S rastúcim počtom klientov musel rásť aj počet elfov, ktorí čistili diskusie. V jednom momente ich už boli zhruba štyri desiatky. Manažovať taký počet ľudí nebolo jednoduché. „Problémom bolo aj zvládanie komentárov počas najväčšieho náporu či nekonzistentnosť v moderovaní pri takom veľkom počte ľudí,“ uviedol Tóth.
  • Od decembra 2022 elfovia využívajú umelú inteligenciu, ktorá časť nenávistných a problematických komentárov v diskusiách sama automaticky skryje. „Denne skontrolujeme v priemere 16-tisíc komentárov. Z toho zhruba dve tretiny vyrieši AI, zvyšné komentáre idú na ľudské posúdenie elfom,“ vraví Tóth.
  • Projekt si dnes už vystačí len s pätnástimi elfami. Na základe ich rozhodnutí sa AI ďalej učí a zdokonaľuje sa.

Vďaka AI dokážu elfovia skontrolovať viac príspevkov, rýchlejšie a lacnejšie. Aj vďaka tomu dokázala agentúra znížiť ceny za kontrolu diskusií o zhruba polovicu.

Projekt má ambíciu rozšíriť sa aj do iných oblastí mimo médií, služby elfov by si tak mohli kúpiť ktorýkoľvek správcovia facebookových či instagramových účtov, ktorí potrebujú pomoc pri moderovaní diskusií. Dnes ho už využíva napríklad Zastúpenie Európskej komisie na Slovensku. V spolupráci s Telekomom pomôžu elfovia tento rok s diskusiami aj vybraným mimovládnym organizáciám, žiadosti o grant je možné posielať do 24. marca.

Kontext: AI na moderovanie diskusií na Facebooku využíva aj ďalší slovenský startup TrollWall, ktorý by mal byť verejne spustený v marci.

„TrollWall testujeme u rôznych slovenských aj českých klientov už štyri mesiace. Počet skontrolovaných komentárov sa za ten čas priblížil k miliónu a vyše dvestotisíc z nich AI model automaticky skryl. Klienti tak ušetrili vyše tisíc hodín čítania vulgárneho a toxického obsahu a mohli sa venovať slušným komentujúcim. Umelá inteligencia sa tým zároveň učí z praxe a zlepšuje svoju detekciu. Sami sme boli prekvapení, koľko variácií vulgarizmov sú ľudia schopní vymyslieť,“ povedal Filip Strýčko, spoluzakladateľ TrollWall.

Software bude určený všetkým organizáciám, médiám či mimovládnym organizáciám, ktoré sú vystavené vulgárnym komentárom na svojich stránkach na Facebooku. „Cieľom je tiež vrátiť na sociálne siete slušnú diskusiu. Čím viac hejtu sa vyskytuje pod príspevkami, tým menej sa chcú bežní ľudia zapájať do komentovania. Keď nadávky a vulgarizmy rýchlo zmiznú, otvára to väčší priestor pre normálnu diskusiu,“ dodáva Strýčko.

Veľkou výzvou bude zlepšovať výstupy AI, aby neodstraňovala bezproblémové komentáre a efektívne zasiahla proti tým, ktoré v diskusii nemajú čo robiť. Platformy využívajú AI na pomoc pri moderovaní roky a výsledky aj napriek obrovským investíciám stále nie sú dostatočné. Slovenské riešenia tak čaká ešte veľmi dlhá cesta a množstvo strojového učenia.

Denník N moderuje diskusie na svojej facebookovej stránke od svojho vzniku v roku 2014. Vlani redakcia zablokovala takmer 6300 profilov, ktoré v diskusiách šírili nenávisť či dezinformácie.

Ďalšie správy o médiách

Titulka týždňa

Hlavnou témou najnovšieho čísla magazínu Time sú inteligentní četboti. Táto technológia podľa redakcie predstavuje najdôležitejšiu technologickú zmenu od vzniku sociálnych médií.

Päť rokov po vražde

Budúci týždeň si pripomíname piate výročie vraždy novinára Jána Kuciaka a jeho snúbenice Martiny Kušnírovej. Na Slovensko prídu na misiu predstavitelia medzinárodných novinárskych organizácií*, podpredsedníčka Európskej komisie Věra Jourová či syn zavraždenej maltskej novinárky Matthew Caruana Galizia.

Okrem iných sa budú konať aj tieto podujatia:

Spomienkové podujatia sa konajú 21. februára napríklad v týchto mestách: Bratislava, Košice, Praha, Brno, Banská Bystrica, Poprad, Lučenec, Rimavská Sobota, Prievidza, Levice, Kežmarok. V mnohých ďalších mestách sa bude v nasledujúcich dňoch premietať film Kuciak: Vražda novinára.

Viac informácií: Rozsudok prvostupňového súdu v kauze vraždy by mohol byť 24. apríla, povedal prokurátor Matúš Harkabus. O verdikte očakávanom v apríli hovorila už predtým aj predsedníčka senátu Ružena Sabová.

* Poznámka pre korektnosť: Autor MediaBrífingu je korešpondentom medzinárodnej organizácie Reportéri bez hraníc.

Máte pripomienku alebo ste našli chybu? Prosíme, napíšte na [email protected].