Súd, ktorý ovplyvní budúcnosť internetu. Výsledku sa obávajú Google aj Facebook

Píšu Cat Zakrzewskiová a Robert Barnes, článok zverejňujeme so súhlasom The Washington Post.

V novembri 2015 traja ozbrojenci z teroristickej organizácie Islamský štát spustili streľbu v reštaurácii v Paríži a zabili 23-ročnú Nohemi Gonzalezovú, vysokoškolskú študentku na výmennom pobyte. O takmer osem rokov neskôr sa jej rodina domáha spravodlivosti, pričom sa nezameriava na strelcov, ale na technologického giganta YouTube. Ide o prípad, ktorý môže byť prelomový a môže zmeniť základy internetového práva.

Najvyšší súd si v utorok vypočul ústne argumenty v procese Gonzalezová vs. Google. Obžaloba tvrdí, že technologické spoločnosti by mali byť právne zodpovedné za škodlivý obsah, ktorý propagujú ich algoritmy. Rodina Gonzalezovcov tvrdí, že služba YouTube, patriaca pod Google, sa odporúčaním obsahu súvisiaceho s ISIS správala ako náborová skupina pre teroristov, čím porušovala americké zákony proti napomáhaniu terorizmu a navádzaniu naň.

V súdnom procese ide o paragraf 230, ustanovenie napísané v roku 1996, teda roky pred založením spoločnosti Googlu a ďalších moderných technologických gigantov. Paragraf však podľa súdov chráni platformy pred zodpovednosťou za príspevky, fotografie a videá, ktoré si ľudia zdieľajú v ich službách.

Google sa bráni, že paragraf 230 ho chráni pred právnou zodpovednosťou za videá, ktoré navrhnú ich odporúčacie algoritmy. Spoločnosť tvrdí, že takáto imunita je nevyhnutná pre schopnosť technologických spoločností poskytovať svojim používateľom užitočný a bezpečný obsah.

Právnici Gonzalezovcov však tvrdia, že uplatňovanie paragrafu 230 na algoritmické odporúčania stimuluje propagáciu škodlivého obsahu a že obetiam odopiera možnosť brániť sa, keď im tieto odporúčania spôsobili zranenia či dokonca smrť.

Debata o budúcej podobe internetu

Zo súdu sa stala dôležitá politická téma, keďže jeho výsledok môže mať vplyv na budúcnosť online priestoru. Algoritmy odporúčaní sú základom takmer každej interakcie ľudí na internete od neškodných návrhov piesní až po hanebné výzvy na pripojenie sa ku konšpirátorským skupinám na Facebooku.

Paragraf 230 je „štítom, ktorý nikto nedokázal prelomiť,“ povedala jedna z právničiek rodiny Gonzalezovcov Nitsana Darshanová-Leitnerová. Je zakladateľkou a prezidentkou izraelského centra Shurat HaDin, ktoré sa špecializuje na žaloby proti spoločnostiam napomáhajúcim terorizmu. „Paragraf dáva sociálnym médiám pocit, že sú nedotknuteľné,“ dodala Darshanová-Leitnerová.

Google, materská spoločnosť služby YouTube, proti žalobe rodiny Gonzalezovcov uspela na nižších súdoch. Hájila sa tým, že paragraf 230 spoločnosť chráni v prípadoch, keď napríklad zobrazí na YouTube video v zozname „Ďalší“ alebo keď vo výsledkoch vyhľadávania zaradí jeden odkaz nad iný.

Tieto súdne úspechy však Google dosiahol napriek tomu, že niektorí prominentní sudcovia namietali, že súdy poňali interpretáciu ochrany podľa paragrafu 230 príliš zoširoka. „Najvyšší súd by sa mal chopiť správneho výkladu paragrafu a vniesť svoju múdrosť a znalosti do tejto zložitej a komplexnej témy,“ napísal sudca Ronald Gould.

Najvyššia právna zástupkyňa Googlu Halimah DeLainová Pradová tvrdí, že skúmanie prípadu na Najvyššom súde predstavuje riziko, že celý technologický priemysel bude čeliť náporu nových súdnych procesov. To by mohlo byť pre malé firmy a webové stránky príliš nákladné. „Presahuje to Google,“ uviedla DeLainová Pradová. „Naozaj to ovplyvňuje základné predstavy o amerických inováciách.“

Prípad prichádza v čase rastúcich obáv z toho, že súčasné zákony regulujúce internet nie sú dostatočne vybavené na efektívny dohľad nad moderným internetom. Viaceré z nich vznikli mnoho rokov pred objavom platforiem sociálnych médií, akými sú Facebook, YouTube, Twitter alebo TikTok.

Americkí politici z oboch strán – republikánskej aj demokratickej – sa dožadujú zavedenia nových digitálnych pravidiel po tom, ako vláda v posledných troch desaťročiach uplatňovala v tejto oblasti prevažne princíp laissez-faire (nechať veciam voľný priebeh – pozn. red.). Snahy o vytvorenie nových zákonov v kongrese však stroskotali, v dôsledku čoho ich na seba prevzali súdy a štátne zákonodarné zbory.

Teraz má ústrednú rolu zohrať Najvyšší súd. Po utorkovom vypočúvaní sa sudcovia v stredu začnú zaoberať iným súdnym sporom Twitter vs. Taamneh. Žalobu aj v tomto prípade podala rodina obete teroristického útoku a taktiež tvrdí, že spoločnosti vlastniace sociálne médiá sú zodpovedné za to, že umožnili Islamskému štátu používať ich platformy.

V októbri sa budú navyše súdy zrejme zaoberať aj návrhom floridských zákonodarcov, ktorí chcú dosiahnuť, aby sociálne médiá nemohli blokovať politikov. V Texase je zase na stole zákon, ktorý by spoločnostiam zakazoval odstraňovať obsah založený na politickej ideológii používateľa.

„Dostali sme sa do bodu, keď súdy a zákonodarcovia zvažujú, či chcú naďalej pokračovať v súčasnom prístupe k internetu, v rámci ktorého sa môže každý rozhodovať bez riadených zásahov,“ hovorí Jeff Kosseff, profesor práva kybernetickej bezpečnosti na Námornej akadémii Spojených štátov a autor knihy The Twenty-Six Words That Created The Internet.

Kritizovali ho Trump aj Biden, ale z iných dôvodov

Paragraf 230 vznikol po súdnych sporoch vedených proti starším internetovým spoločnostiam. Jeden súd vtedy uznal spoločnosť Prodigy Services za zodpovednú za hanlivé komentáre na jej stránke. V tom období internetu kraľovali verejné nástenky a Američania sa hromadne pripájali k službám ako CompuServe, Prodigy a AOL, vďaka čomu sa ich nekontrolované príspevky dostali k miliónom iných ľudí.

Na tento verdikt zareagoval kongres, ktorý vytvoril paragraf 230, čím chcel zabezpečiť, že rozsudok nezastaví rozvíjajúce sa internetové inovácie.

Kľúčová časť paragrafu 230 má len 26 slov a hovorí, že žiadna technologická platforma „by nemala byť považovaná za vydavateľa či šíriteľa akýchkoľvek informácií poskytnutých iným poskytovateľom informačného obsahu“.

Zdanlivo neškodný paragraf, ktorý je súčasťou zákona o komunikačnej slušnosti z roku 1996, si v čase svojho zavedenia do platnosti nezískal veľkú mediálnu pozornosť či fanfáry. Časom sa však stal čoraz kontroverznejším, pretože ho zaťahovali do sporných bitiek o to, aký obsah by mal zostať na sociálnych médiách.

V posledných piatich rokoch členovia kongresu podali desiatky návrhov buď na zrušenie zákona, alebo na vytvorenie výňatku, ktorý by vyžadoval, aby technologické spoločnosti na svojich platformách riešili škodlivý obsah, ako terorizmus alebo sexuálne zneužívanie detí.

Bývalý prezident Donald Trump a súčasný prezident Joe Biden toto ustanovenie kritizovali a žiadali jeho zrušenie, ale z iných dôvodov.

Demokrati väčšinovo argumentujú, že paragraf 230 umožňuje technologickým spoločnostiam zbaviť sa zodpovednosti za nenávistné prejavy, dezinformácie a ďalší problematický obsah na ich platformách. Republikáni, naopak, tvrdia, že spoločnosti blokujú priveľa obsahu a dlhodobo obviňujú technologický priemysel z politickej zaujatosti.

„To, že sa to rieši teraz, je sčasti spôsobené tým, že sme sa všetci zobudili o 20 rokov neskôr a internet už nie je taký skvelý,“ povedal na nedávnom podujatí organizovanom think tankom Brookings Institution profesor Hany Farid z Kalifornskej univerzity.

Niektorí sudcovia Najvyššieho súdu naznačili, že ich záujem bojovať o podobu budúcnosti online priestoru rastie – hoci nie konkrétne v súvislosti s Gonzalezovej prípadom algoritmických odporúčaní.

Sudca Najvyššieho súdu Clarence Thomas v roku 2020 povedal, že „by sa patrilo“, aby súd našiel správny spôsob na preskúmanie paragrafu 230. Naznačil, že súdy paragraf interpretujú zoširoka tak, že „poskytuje imunitu niektorým z najväčších spoločností na svete“. V roku 2021 zase povedal, že možnosť platforiem sociálnych médií odstraňovať prejavy môže viesť k porušeniam prvého dodatku ústavy a že by mohla byť zavedená vládna regulácia.

V prípade Gonzalezovej je však kľúčovou otázkou, či technologické spoločnosti majú zaistenú ochranu, keď ich algoritmy vyberajú a odporúčajú špecifický obsah. A na to sa sudca Thomas nezameriava.

On a ďalší sudca Samuel A. Alito ml. vyjadrili väčšie obavy z možností spoločností blokovať obsah a používateľov. Táto záležitosť však bude jasnejšie nastolená po tom, ako budú súdy riešiť návrhy zákonov z Floridy a Texasu. Nižšie súdy sú v názoroch na ústavnosť či protiústavnosť zákonov rozdelené. Bidenovu administratívu preto požiadali, aby určila, či by sa zákony mali súdne preskúmať.

Alito spolu s Thomasom a ďalším sudcom Neilom M. Gorsuchom minulý rok jasne vyhlásili, že očakávajú súdne preskúmanie zákonov, ktoré riešia „silu dominantných spoločností ovládajúcich sociálne médiá v oblasti formovania verejnej debaty o dôležitých témach súčasnosti“.

Niektorí právni experti tvrdia, že zákonodarcovia v 90. rokoch nemohli predvídať, ako bude moderný internet zneužívaný zločincami vrátane teroristov. Výkonná riaditeľka Georgetownského právneho inštitútu pre ochranu ústavnosti Mary B. McCordová na brífingu s novinármi povedala, že ten istý kongres, ktorý schválil paragraf 230, taktiež schválil aj protiteroristické zákony.

Iní právni experti však vyjadrili skepticizmus voči ťažkopádnemu prístupu k regulácii technológií. Profesor práva kybernetickej bezpečnosti Koseff varoval, že tlak vyvíjaný na využívanie vládnej moci na riešenie problémov s internetom môže byť „naozaj krátkozraký.“

„Keď raz odovzdáte vláde moc nad prejavom, už ju nezískate späť,“ povedal.

Autori paragrafu ho bránia

Svoje pripomienky k procesu (amicus curiae – pozn. red.) navrhlo 75 nezainteresovaných neziskoviek, právnikov a firiem. Väčšina z nich sa prikláňa na stranu Googlu. Skupiny či jednotlivci, ktorí dostávajú finančnú podporu od Googlu, stoja za 37 z týchto návrhov. Ďalších deväť navrhli iné technologické spoločnosti, ktorých biznisu by sa dotkla zmena paragrafu 230. Sú medzi nimi aj materská spoločnosť Facebooku Meta či Twitter.

Autori paragrafu 230 – demokratický senátor Ron Wyden a bývalý republikán Chris Cox – tvrdia, že paragraf v podobe, v akej bol pôvodne navrhnutý, ochraňuje cielené odporúčania. Wyden a Cox hovoria, že súčasné systémy odporúčaní, ktoré používa YouTube, sa veľmi nelíšia od tých, ktoré používali spoločnosti v čase vzniku paragrafu.

Podľa nich sú „priamymi potomkami prvých snáh o ochranu obsahu, ktoré kongres bral do úvahy pri uzákonení paragrafu 230“, napísali.

Bidenova administratíva sa však aspoň čiastočne prikláňa na stranu rodiny Gonzalezovcov. Vláda tvrdí, že paragraf 230 chráni YouTube pred zodpovednosťou za zverejňovanie obsahu súvisiaceho s Islamským štátom, no odporúčanie obsahu pomocou algoritmov a ďalších nástrojov si vyžaduje odlišnú analýzu bez poskytovania všeobecnej imunity.

Google spochybňuje tvrdenie, že odporúčania sú formou podpory. „Odporúčacie algoritmy sú tým, čo ľuďom pomáha nájsť ihlu v kope sena,“ bránil sa Google na súde. „Vzhľadom na to, že takmer každý závisí od prispôsobených online výsledkov, je paragraf 230 atlasom, o ktorý sa opiera moderný internet – presne tak, ako si to kongres predstavoval v roku 1996.“

Farid hovorí, že v prípade Gonzalezovej súdy zápasia s viacerými problémami, ktoré sa v technologickom priemysle objavili v poslednom desaťročí. Tvrdí, že je čoraz naliehavejšie riešiť ujmy spôsobené internetom – obzvlášť teraz, keď sa vývoj technológií zrýchľuje a zažívame vzostup umelej inteligencie.

„Musíme sa v tomto smere posunúť,“ povedal Farid. „Musíme sa dostať von z týchto problémov a nečakať, až sa zhoršia natoľko, že začneme reagovať prehnane.“