Denník N

Etické IT vs. Informačné systémy verejnej správy

Futuristic style painting: "Struggle with information systems in public sector", HotPot AI Art Generator
Futuristic style painting: „Struggle with information systems in public sector“, HotPot AI Art Generator

V dnešnom uponáhľanom svete sa informačné technológie (IT) stali neoddeliteľnou súčasťou každého aspektu nášho života. S rozmachom internetu a digitálnych technológií sa zvyšuje dopyt po celoštátnych informačných systémoch, ktoré môžu poskytovať spoľahlivé a presné informácie širokej verejnosti. Vytvorenie takýchto systémov však vyvoláva dôležité etické otázky, ktoré je potrebné riešiť pred implementáciou týchto technológií.

Hneď prvým etickým problémom, ktorý vzniká pri vytváraní celoštátnych informačných systémov je otázka ochrany súkromia. Pri obrovskom množstve osobných údajov, ktoré je možné zhromažďovať a uchovávať v týchto systémoch, existuje riziko, že tieto informácie by mohli byť zneužité a preto je nevyhnutné, aby tieto systémy mali zavedené robustné bezpečnostné opatrenia na ochranu súkromia osobných údajov používateľov. Šifrovanie, brány firewall a kontrola prístupu sú len niektoré z bezpečnostných opatrení, ktoré je potrebné implementovať na zaistenie bezpečnosti týchto systémov.

Druhým etickým problémom, ktorý treba zvážiť, je potenciál pre (ne)zaujatosť v týchto systémoch. Pri použití umelej inteligencie (AI) a algoritmov strojového učenia v týchto systémoch existuje reálne riziko, že sa do systému zavedie neúmyselné skreslenie. To môže mať vážne dôsledky, najmä pokiaľ ide o rozhodovanie na základe údajov poskytnutých systémom. Preto je dôležité zabezpečiť, aby boli tieto algoritmy navrhnuté a testované tak, aby sa minimalizovalo riziko zaujatosti a aby sa zabezpečilo, že rozhodnutia prijaté systémom sú spravodlivé a nestranné.

Ďalšou etickou otázkou, ktorá vzniká pri vytváraní celoštátnych informačných systémov, je otázka dostupnosti. Tieto systémy musia byť navrhnuté tak, aby boli prístupné všetkým členom spoločnosti vrátane tých, ktorí sú zdravotne postihnutí alebo ktorí hovoria primárne inými jazykmi. Dá sa to dosiahnuť použitím princípov inkluzívneho dizajnu, ako je navrhovanie pre dostupnosť od začiatku a testovanie systému s rôznorodou skupinou používateľov.

Nakoniec je tu otázka transparentnosti. Široká verejnosť musí byť schopná dôverovať, že informácie poskytované týmito systémami sú presné a nezaujaté. Preto je dôležité, aby tieto systémy fungovali transparentne a aby údaje používané pri rozhodovaní boli sprístupnené verejnosti. To môže pomôcť vybudovať dôveru v systém a zabezpečiť, aby sa rozhodnutia prijaté systémom považovali za legitímne.

Aké sú teda očakávania širokej verejnosti od etického IT?

Jedným z hlavných očakávaní verejnosti je, že jej osobné informácie budú uchovávané v bezpečí a súkromí. Ľudia očakávajú, že ich údaje nebudú zneužité alebo zdieľané bez ich súhlasu a že spoločnosti podniknú všetky potrebné kroky na ochranu ich osobných údajov pred hackermi a kybernetickými útokmi. Okrem toho sa očakáva, že technológie sú navrhnuté a používané zodpovedným a etickým spôsobom. To znamená, že spoločnosti (a orgány verejnej moci) by mali podniknúť kroky na zabezpečenie toho, aby ich technológie nepoškodzovali jednotlivcov alebo spoločnosť ako celok. Ľudia napríklad očakávajú, že algoritmy AI sú navrhnuté tak, aby sa vyhli predsudkom, ktoré by mohli negatívne ovplyvniť určité skupiny ľudí, a že platformy sociálnych médií nešíria dezinformácie ani neumožňujú nenávistné prejavy.
Ďalším všeobecným očakávaním je, že technológie sú dostupné pre všetkých členov spoločnosti. To zahŕňa ľudí so zdravotným postihnutím alebo ľudí, ktorí hovoria rôznymi jazykmi – či už ide o etnické minority alebo príslušníkov iných národov, rezidentov. Ľudia očakávajú, že technológie sú navrhnuté tak, aby ich mohol používať každý, a že sa odstránia prekážky v dostupnosti. Napokon, verejnosť od IT spoločností a organizácií očakáva transparentnosť a zodpovednosť. Ľudia chcú vedieť, ako sa používajú ich údaje a kto k nim má prístup. Očakávajú tiež, že spoločnosti a orgány verejnej moci prevádzkujúce informačné systémy prevezmú zodpovednosť za všetky negatívne vplyvy, ktoré môžu mať ich technológie, a podniknú kroky na zmiernenie týchto vplyvov.

Výzvy kybernetickej bezpečnosti

Najvýznamnejšie bezpečnostné výzvy etického IT sa môžu líšiť v závislosti od konkrétnej technológie a jej použitia. Medzi najbežnejšie hrozby však vo  všeobecnosti patria:

  1. Kybernetické útoky: Jednou z najväčších bezpečnostných výziev etického IT je riziko kybernetických útokov. Kyberzločinci môžu na získanie prístupu k citlivým informáciám alebo systémom využívať rôzne taktiky, ako je malvér, phishing a sociálne inžinierstvo. Výsledkom môže byť krádež osobných údajov, finančné straty alebo dokonca ohrozenie kritickej infraštruktúry.
  2. Znehodnotenie údajov: Toto môže nastať, keď neoprávnené strany získajú prístup k citlivým informáciám alebo ich ukradnú. Môže k tomu dôjsť v dôsledku slabých miest v systémoch, slabých hesiel alebo ľudskej chyby. Znehodnotenie údajov môže mať závažné dôsledky, ako je krádež identity, finančná strata alebo poškodenie dobrého mena jednotlivca.
  3. Ohrozenie zo strany kompetentných osôb: Tzv. zasvätené hrozby sa týkajú rizika, ktoré predstavujú jednotlivci v rámci organizácie, ktorí môžu mať prístup k citlivým informáciám alebo systémom. Tieto osoby môžu úmyselne alebo neúmyselne zneužiť svoj prístup na spôsobenie škody alebo úniku citlivých údajov.
  4. Obavy týkajúce sa (narušenia) súkromia: Etické IT sa musí zaoberať aj obavami o súkromie súvisiace so zhromažďovaním a používaním osobných údajov. Používatelia očakávajú, že ich osobné údaje budú chránené a použité iba na legitímne účely. Nedostatočná ochrana súkromia môže mať za následok stratu dôvery a poškodenie dobrého mena.
  5. Reálny súlad s predpismi: Existuje mnoho predpisov, ktoré musia organizácie dodržiavať pri zaobchádzaní s citlivými informáciami. Napríklad všeobecné nariadenie o ochrane údajov (GDPR) v Európskej únii ukladá prísne požiadavky na to, ako môžu byť osobné údaje zhromažďované, používané a uchovávané. Nedodržanie týchto nariadení môže mať za následok značné sankcie a poškodenie dobrého mena.

Stručne povedané, medzi najvýznamnejšie bezpečnostné výzvy etického IT patria kybernetické útoky, porušenia údajov, vnútorné hrozby, obavy o súkromie a dodržiavanie predpisov. Organizácie musia uprednostniť bezpečnosť a prijať vhodné opatrenia na riešenie týchto problémov, aby ochránili citlivé informácie a zachovali si dôveru svojich používateľov.

Verejné vs. korporátne IT

Štátne (celonárodné) informačné systémy a podnikové informačné systémy majú niekoľko dôležitých rozdielov, pokiaľ ide o etiku. Medzi najvýznamnejšie rozdiely možno spomenúť:

  • Účel: Primárnym účelom štátneho (celoštátneho) informačného systému je slúžiť verejnému záujmu, pričom primárnym účelom podnikového informačného systému je slúžiť záujmom spoločnosti a jej zainteresovaných strán. V dôsledku toho môžu byť etické úvahy, ktorými sa riadi návrh a implementácia týchto systémov, značne odlišné.
  • Zodpovednosť: Štátne informačné systémy zvyčajne podliehajú vyššej úrovni zodpovednosti ako podnikové informačné systémy. Vlády sa zodpovedajú verejnosti a musia zabezpečiť, aby ich informačné systémy boli transparentné, bezpečné a chránili súkromie občanov. Naproti tomu korporácie sa zodpovedajú svojim akcionárom a nie sú nevyhnutne povinné uprednostňovať záujmy svojich zákazníkov alebo verejnosti.
  • Prístupnosť: Štátne informačné systémy sú často navrhnuté tak, aby poskytovali rovnaký prístup všetkým občanom, zatiaľ čo podnikové informačné systémy môžu byť navrhnuté tak, aby poskytovali lepší prístup k určitým zákazníkom alebo skupinám používateľov. To môže vyvolať etické obavy týkajúce sa spravodlivosti a rovnosti, najmä ak sú určité skupiny vylúčené alebo diskriminované.
  • Regulácie: Štátne informačné systémy podliehajú väčšej miere regulácie ako podnikové informačné systémy. Vlády môžu zaviesť nariadenia týkajúce sa ochrany osobných údajov, bezpečnosti a iných etických hľadísk, zatiaľ čo spoločnosti môžu slobodne stanoviť svoje vlastné etické normy a usmernenia.
  • Dôvera verejnosti: Štátne informačné systémy sú užšie späté s dôverou verejnosti ako podnikové informačné systémy. Ak občania neveria svojej vláde, že bude chrániť ich súkromie alebo poskytovať bezpečné služby, môže to mať závažné dôsledky pre sociálnu stabilitu a demokratické inštitúcie. Na rozdiel od toho, podnikové informačné systémy môžu čeliť následkom reputácie, ak zákazníci spoločnosti nedôverujú, ale tieto dôsledky vo všeobecnosti nie sú také závažné ako tie, ktorým čelia vlády.

Čo môžeme očakávať do budúcnosti?

Budúcnosť informačných systémov vo verejnej správe bude formovať celý rad technologických, sociálnych a politických faktorov. Môžeme spomenúť väčšie využívanie AI a automatizácie: – informačné systémy verejnej správy sa môžu čoraz viac spoliehať na umelú inteligenciu (AI) a automatizáciu na zlepšenie efektívnosti a rozhodovania. Algoritmy umelej inteligencie by sa napríklad mohli použiť na automatizáciu administratívnych úloh, optimalizáciu prideľovania zdrojov a zvýšenie bezpečnosti.
Očakávané je aj väčšie zameranie na bezpečnosť osobných informácií a údajov súkromného charakteru. Keďže si občania viac uvedomujú hodnotu svojich osobných údajov a riziká narušenia ochrany údajov, informačné systémy verejnej správy budú musieť pri optimalizácii procesov uprednostňovať súkromie a ochranu údajov pred inými faktormi. To by mohlo zahŕňať opatrenia, ako je šifrovanie, kontrola prístupu a väčšia transparentnosť pri zhromažďovaní a používaní údajov.
Ďalším očakávaním je väčšia integrácia a interoperabilita. Informačné systémy verejnej správy sa (pravdepodobne) stanú integrovanejšie a interoperabilnejšie, čo umožní rôznym orgánom verejnej moci a inštitúciám zdieľať údaje a efektívnejšie spolupracovať bez toho, aby museli dodatočne zaťažovať občanov ďalšími byrokratickými krokmi. Prepojenie systémov má potenciál zlepšiť efektívnosť a efektívnosť vládnych služieb, ale mohlo by to tiež vyvolať obavy týkajúce sa súkromia a bezpečnosti údajov.
Nevyhnutným faktorom je aj väčšia participácia a angažovanosť verejnosti. Informačné systémy verejnej správy môžu čoraz viac zahŕňať nástroje na participáciu a angažovanosť verejnosti, ako je online vyjadrovanie názorov k relevantným témam, crowdsourcing a práca so nástrojmi sociálnych sietí. Mohlo by to zlepšiť transparentnosť a zodpovednosť pri prijímaní rozhodnutí vo verejnom sektore. (Ale mohlo by to tiež vyvolať obavy týkajúce sa kybernetickej bezpečnosti a volebnej integrity.)
Napokon, rastúce využívanie technológie blockchain so svojím decentralizovaným a nefalšovateľným systémom identifikácie má potenciál spôsobiť revolúciu v spôsobe, akým štátne informačné systémy spracovávajú transakcie a ukladajú dáta. To by mohlo zlepšiť bezpečnosť, obmedziť podvody a zvýšiť transparentnosť.

Možno zhrnúť, že budúcnosť štátnych informačných systémov bude pravdepodobne formovať komplexná súhra technologických inovácií, spoločenských potrieb a politických priorít. Keďže sa tieto systémy neustále vyvíjajú, bude dôležité uprednostniť etické hľadiská, ako sú súkromie údajov, transparentnosť a zodpovednosť, aby sa vybudovala dôvera a udržala si podporu verejnosti.

Bratislava, 21. 2. 2023

Futuristic style painting: "Struggle with information systems in public sector", HotPot AI Art Generator
Futuristic style painting: „Struggle with information systems in public sector“, HotPot AI Art Generator

Teraz najčítanejšie

Tomáš Gál

Tomáš Gál

A lot of people never use their initiative because no-one told them to. (Banksy)

Nie som typický IT manažér. Učím na univerzite. Študoval som religionistiku. Našiel som svoje odpovede. Veľmi si cením slobôd jednotlivca, ako je autonómnosť a sloboda rozhodovania sa. Verím v sekulárne hodnoty. Rád cestujem, učím sa nové veci. Vo svojich blogových príspevkoch sa venujem (výber):