Denník N

Prečo potrebujeme odborníkov na etiku IT

Ešte koncom štyridsiatych rokov minulého storočia sa americký matematik Norbert Wiener, považovaný aj za duchovného otca kybernetiky, zamýšľal nad úlohou, ktorú by mali zastávať v našom živote moderné technológie. Vychádzal pritom z predpokladu, že cieľom ľudského života je náš rozvoj ako kreatívnych a inteligentných bytostí a chcel, aby sme aj vďaka technológiám mohli žiť dobrý život. Preto by podľa neho malo byť pre nás nanajvýš dôležité, aby sme si pri vývoji nových  technológií uvedomovali aj ich dopad na kľúčové ľudské hodnoty akými sú život, zdravie, šťastie, bezpečnosť, alebo sloboda. Wienerove úvahy tak pred viac ako sedemdesiatimi rokmi položili základ pre etickú reflexiu (nielen) informačných technológií. A ako vyzerá prienik etiky do IT dnes?

Začnime rovno u nás doma, na Slovensku. Veď spoločností, ktoré sa podieľajú na vývoji nových a zásadných informačných technológií už ani tu nie je zanedbateľné množstvo. Naše firmy a vývojárske tímy sa zapájajú  do vývoja technológií ako sú internet vecí, či umelá inteligencia. Množstvo ďalších sa podieľa na ich nasadzovaní do praktického života. Máme napríklad k dispozícii nástroje, ktoré dokážu na základe pohybu ľudí v obchode predikovať vyťaženosť pokladní, alebo nastavenie pracovných zmien. Dokážeme celkom úspešne modelovať reklamnú kampaň a emailový newsletter podľa správania zákazníka na webovej stránke, alebo v e-shope. Môžeme riadiť odvoz komunálneho odpadu podľa predikcií o tom, ako sa budú napĺňať smetné koše v obytnej štvrti, či dodávateľské vzťahy v maloobchode predpovedanim zákazníckej spotreby. Avšak pri vývoji a dizajne týchto nástrojov zvykneme postupovať zmysle dnes už legendárneho hesla Marka Zuckerberga “Move fast, break things”. Teda technológie najskôr vyvinieme a až potom premýšľame nad ich možnými dopadmi, či rizikami.

Hlbšia reflexia podobných technológií by nás však mala naučiť chápať rozdiel medzi tým, čo je vďaka nim možné a tým, čo je ešte morálne prípustné. Medzi otázky, ktoré by sme si potom mali klásť, patria napriklad: Aké miesto vo svete s novými digitálnymi technológiami má zastávať jednotlivec, tak aby viedol dobrý život? Ako vyvíjať také technológie, ktoré nebudú v rozpore s ideálmi dobre spravovanej spoločnosti a dobrého života? Teda otázky, ktoré nabádajú k objavovaniu toho, čo je na IT správne a dobré a čo sa už nachádza za touto hranicou. Takéto skúmanie potom už ale prestáva byť výhradne technického charakteru a začína mať aj svoj hlbší, etický rozmer.

Čo teda robiť v prípade, ak vám uvedené otázky nie sú ľahostajné? A kde vlastne začať? V názve tohto článku sa odvolávam na esej Odborníci na etiku od azda najvýznamnejšej postavy aplikovanej etiky posledných desaťročí, P. Singera. Podľa neho analýzu problémov aplikovanej etiky treba zveriť do rúk odborníkom, ktorí sú na ne najlepšie pripravení. Tvrdí, že “Ten, kto je oboznámený s morálnymi konceptmi a morálnymi argumentmi, kto má neobmedzený čas na vyhľadávanie informácií a premýšľanie o nich, môže očakávať, že dôjde k dobre opodstatnenému záveru častejšie než niekto, kto nevie o morálnych konceptoch a morálnych argumentoch a má málo času.” Každý z nás má totiž potenciál rozlišovať medzi dobrom a zlom. Avšak nie vždy je možné jednoducho a bez prípravy posúdiť spornú situáciu správne. Túto náročnú prácu treba prenechať trénovaným profesionálom – etikom a filozofom. Tí majú oproti amatérom niekoľko výhod. Sú lepšie oboznámení s objasňovaním morálnych konceptov a logickou argumentáciou a majú čas a priestor ísť v uvažovaní hlbšie, ako by si to mohol dovoliť bežný, netrénovaný pozorovateľ.

Súhlasím so Singerovym názorom. A myslím si, že aj v IT by sme mali začať hovoriť o potrebe humanitne orientovaných odborníkov. Avšak som presvedčený, že takýto odborník musí byť dostatočne dobre oboznámený aj s technickou stránkou problémov, ktoré sa snaží riešiť. Naliehavo teda potrebujeme v IT novú generáciu odborníkov. Takých, ktorí budú rozumieť nielen filozofickej povahe problémov, ale aj samotným digitálnym technológiám do takého detailu, aby dokázali správne posúdiť eticky sporné situácie. Tento trend je celkom dobre viditeľný v iných oblastiach, kde filozofia už dávno ponúka pomocnú ruku aplikovanej vede, napríklad v medicínskej etike, environmentálnej etike, či bioetike. Teraz je načase zobudiť aj nás, „ITčkárov“.

V úvode spomínané Wienerove úvahy poukázali ešte na jeden významný prvok, ktorý by mal byť prítomný vo všetkých diskusiách o etických problémoch IT. A to, že okrem reflexie je nemenej dôležitou aktivitou aj predikcia možných dopadov. Mali by sme sa snažiť o formovanie technológií spravnym smerom ešte počas ich vývoja, kym nie je neskoro. V niektorých prípadoch môže byť predpokladaný morálny dopad vyvíjanej technológie dostatočne zrejmý. Spomeňme si napríklad na aktivity spoločnosti Cambridge Analytica, ktorá využívala hĺbkovú analýzu osobnostnych rysov podľa správania užívateľov na Facebooku. Dosiahnuté poznatky potom pri správnom mikrotargetingu dokázali ovplyvniť politickú budúcnosť krajín, ako napríklad pri posledných prezidentských voľbách v USA, alebo neslávnom referende o brexite. Niektoré implementácie IT však nemusia byť morálne problematické hneď na prvý pohľad a naplno sa prejavia až vo fáze používania. Dobrým príkladom je chatbot Tay od spoločnosti Microsoft, ktorý musel byť stiahnutý z Twitteru už po prvom dni jeho nasadenia, keďže prejavoval rasisitické a antisemitské postoje.

Nevyriešené eticky sporné situácie pri vývoji IT narúšajú morálnu integritu vývojárov. Môžu napríklad viesť k strate lojality voči svojmu zamestnávateľovi a v hraničných prípadoch aj k whistleblowingu. Za všetky spomeňme prípady Christophera Wylieho a Brittany Kaiser, ktorí odkryli pozadie už spomínanej kauzy okolo Cambridge Analytica, či aktivitu zamestnancov Microsoftu, ktorí sa podieľali na vývoji okuliarov pre augmentovanú realitu a ktorí odsúdili snahy ich zamestnávateľa ponúknuť túto technológiu armáde USA. A takmer tretina opýtaných britských vývojárov sa vyjadrila v tom zmysle, že technológia, na ktorej vývoji sa sami podieľali, bude mať pravdepodobne negatívny dopad na našu spoločnosť. Pätina z nich práve z tohto dôvodu následne ukončila svoj pracovný pomer u svojho zamestnávateľa.

Bohužiaľ, človek, ktorý sa podieľa na vývoji morálne spornej technológie a ktorý nedisponuje adekvátnym etickým vzdelaním sa musí pri svojej práci spoliehať iba na vlastné morálne intuície a výchovu. Pozorujeme, že títo ľudia cítia, že prekročili isté morálne rámce. Avšak nevedia toto prekročenie buď identifikovať dostatočne skoro, alebo si svoj postoj nedokážu racionálne obhájiť vo vnútri svojich spoločností, či sami pred sebou. Tento stav môže potom viesť aj k depresiám, úzkostiam, prípadne rezignácii a apatii voči tomu, na čom robia a čo ich živí. Konzultácia s odborne vytrénovaným odborníkom, alebo aspoň lepšia orientácia v etickej problematike IT by do budúcna mohla byť pre týchto ľudí určite nápomocná. Proaktívny prístup k etickým problémom má ale aj svoj biznisový význam. Ak firma dostatočne nedbá na etické riziká novej technológie, môže na to doplatiť reputačne aj finančne. Ak si to zhrnieme, riešiť etické problémy až potom, ako necitlivé nasadenie nového produktu, alebo technológie napáchalo zásadné škody na vašich zákazníkoch a zamestnancoch, ale aj na vlastných zamestnancoch, môže byť príliš neskoro.

Na záver cítim potrebu uviesť ešte dve dôležité upozornenia, aby sme predišli prípadným nedorozumeniam. Po prvé, to že sa budeme proaktívne snažiť o identifikáciu  rizík súvisiacich s IT neznamená automaticky nejakú formu odporu voči novým technológiám. Aj ako spolutvorca nových technologických nástrojov mám samozrejme záujem na ich ďalšom rozvoji. Ale snažím sa tak robiť aj prihliadnutím na možné etické riziká, ktoré tento rozvoj prináša. Po druhé, s plnou pokorou by sme si mali byť uvedomovať, že máme pred sebou veľa práce a veľa toho, čo bude treba urobiť pre profesionálny etický vývoj IT a jeho nasadzovanie do reálneho  života. Niektoré z týchto aktivít sa pokúša napĺňať neformálny spolok pre etické a spoločenské dopady informačných technológií E-tika. V rámci neho sa snažíme o prepojenie humanitne orientovaných odborníkov a inžinerov tak, aby nielen spolu hovorili o etických problémoch informačných technológií, ale hľadali aj konkrétne nástroje pre ich riešenie. Myslím si totiž, že čas ignorovať problémy zásadných informačných technológii, ktoré majú evidentne aj svoj hlboký etický rozmer sa blíži aj na Slovensku k svojmu záveru. V skutočnosti vypršal práve teraz.

Teraz najčítanejšie

Juraj Podroužek

Je filozof a IT manažér. Venuje sa etike IT, predovšetkým etike umelej inteligencie a hodnotovo orientovanému dizajnu. Zaujíma sa o zapojenie etických hodnôt a princípov do procesu vývoja a nasadzovania IT. Spoluzakladateľ spolku E-tika a člen stálej komisie pre etiku a reguláciu AI. Vedie tím Etika a ľudské hodnoty v technológiách v Kempelenovom inštitúte inteligentných technológií a čiastočne pôsobí aj na Ministerstve investícií, regionálneho rozvoja a informatizácie Slovenskej republiky. Je spolutvorcom podcastu E-tika o digitálnych technológiách a ich spoločenskom a etickom rozmere.