Denník N

Inteligentné mestá: sny, ktoré sa môžu ľahko zmeniť na nočnú moru

Počuli ste niekedy o mestách Masdar City, Songdo alebo PlanIT Valley? Ak nie, nie je na tom nič prekvapivé. Dva z týchto troch projektov totiž nikdy neopustili pracovný stôl. Aj keď všetky menované prototypy odrážajú utopické vízie tzv. inteligentných miest, zhmotnenia sa dočkal iba projekt mesta Songdo v Kórejskej republike. Inteligentné mestá sľubujú trvalú udržateľnosť, vnútornú prepojenosť a optimalizáciu služieb – no nie je to na úkor ľudských práv?

Koncom júna vydala spoločnosť Sidewalk Labs (dcérska spoločnosť konglomerátu Alphabet, pod ktorý patrí aj Google) dlhoočakávaný 1500-stranový plán na výstavbu impozantného inteligentného mesta v pobrežnej oblasti Toronta. Projekt na jednej strane sľubuje „globálny model inkluzívneho urbánneho rozvoja“, ktorý prinesie nové pracovné miesta a bude priateľský k životnému prostrediu. Na druhej strane vzbudzuje obavy z ohrozenia súkromia – slovami Shoshany Zuboff, profesorky na Harvardovej univerzite a autorky knihy Vek kapitalizmu dohľadu, tento projekt „stojí v prvej línii historického zápasu medzi kapitalizmom dohľadu a demokraciou“.

Čo sú to inteligentné mestá?

Popularita inteligentných miest v mestskom plánovaní za posledných 10 – 15 rokov nesmierne narástla. Toto odvetvie rastie prekvapivým tempom a riešenia inteligentných miest sa implementujú čoraz viac aj na rozvíjajúcich sa trhoch – často s podporou OSN, prostredníctvom iniciatív ako je napríklad program United Smart Cities.

Inteligentné mestá obsahujú sieť novej infraštruktúry a prepojených elektronických zariadení, ktoré zhromažďujú údaje o prostredí, v ktorom sa nachádzajú, a na základe získaných dát sú schopné operatívne reagovať, reportovať ich alebo sa prispôsobiť zmeneným podmienkam. Marketingové materiály súkromných dodávateľov ako IBM, Oracle a CISCO uhladeným jazykom napomáhajú spoločnosti Sidewalk Labs prezentovať fantastickú víziu Toronta ako „vysnívaného mesta zajtrajška“.

Ak si odmyslíme marketingovú rétoriku, inteligentné mestá v zásade poskytujú na dátach založené riešenia pre mestské priestory a sú príznačné pre fenomén nazývaný internet vecí, t. j. rozširujúcu sa sieť zariadení prepojených prostredníctvom internetu. Od inteligentných chladničiek, cez inteligentné žalúzie, brány, osvetlenie, až po inteligentné vykurovacie systémy, majú tieto zariadenia schopnosť komunikovať so svojimi používateľmi a používateľkami, ako aj s vývojármi a vývojárkami, aplikáciami a samozrejme navzájom, pričom si vymieňajú a zbierajú údaje z monitorovaného prostredia.

Fungovanie inteligentných miest závisí od sledovania a analýzy obrovských množstiev predtým nevyužívaných údajov o pohyboch a aktivitách mestského obyvateľstva. To znamená, že ich príťažlivé vízie sú do značnej miery utopické a v praxi sa môžu rýchlo zmeniť na dystópiu.

O výhodách inteligentných miest sme počuli už veľakrát. Pravdou však ostáva, že zavedenie plne integrovaných technológií založených zbere a vyhodnocovaní dát do mestskej infraštruktúry a riadenia predstavuje vážne riziko pre dodržiavanie ľudských práv.

Stáva sa ochrana súkromia vo verejnom priestore minulosťou?

Zhromažďovanie údajov zozbieraných prostredníctvom inteligentných snímačov umiestnených na smetných nádobách, semaforoch, pouličných lampách, poklopoch kanalizácie, či získaných z bezpečnostných kamier alebo voľne prístupného Wi-Fi pripojenia, môže vytvoriť všadeprítomný systém sledovania, ohrozujúci právo na súkromie, slobodu názoru a prejavu, pokojné zhromažďovanie sa – a viesť k diskriminácii.

V praxi to znamená, že čím väčšie množstvo osobných údajov o nás všetkých mestá zbierajú, často bez nášho vedomia alebo súhlasu, tým viac je narúšané naše právo na súkromie vo verejnom priestore. Smartfóny, ktoré umožňujú zhromažďovanie a zdieľanie údajov o našej geografickej polohe či digitálnej interakcii s mobilnými aplikáciami a poskytovateľmi Wi-Fi, sú oprávnené tieto údaje zdieľať s ďalšími poskytovateľmi služieb. Stále užšie prepojený digitálny charakter mestských služieb teda znamená, že samotné zdržiavanie sa vo verejných priestoroch nás vystavuje nevyžiadanému zdieľaniu našich údajov s tretími stranami.

Takáto infraštruktúra môže bezpečnostným agentúram a štátnym orgánom činným v trestnom konaní poskytnúť dokonalé nástroje na sledovanie etnických menšín alebo iných chránených skupín.

V Číne sú inteligentné mestá v Ujgurskej autonómnej oblasti Sin-ťiang už funkčnou súčasťou systematického dohľadu štátnych orgánov a represií voči moslimským etnickým skupinám v regióne. Bezpečnostné kamery umiestnené pred mešitami, vybavené technológiami na rozpoznávanie tváre a chôdze a umelou inteligenciou, umožnili v Sin-ťiangu zaviesť tzv. „digitálny policajný štát“.

Technológie inteligentných miest priťahujú aj pozornosť súkromných ​​firiem, ktoré chcú využívať zhromaždené dáta na obchodné účely. Výskum Amnesty Tech zameraný na dátových maklérov a možnosti zneužívania údajov o spotrebiteľoch a spotrebiteľkách v USA na profilovanie moslimov a moslimiek ilustruje potenciálne škody, ktoré by mohla spôsobiť ďalšia komercializácia údajov získaných zo systémov inteligentných miest: „Zakaždým, keď použijete platobnú kartu, zapnete si v mobile Wi-Fi, čítate správy online, zaškrtnete súhlas so zmluvnými podmienkami alebo umožníte aplikácii prístup k údajom z vašich sociálnych sietí, existuje vysoká pravdepodobnosť, že nejaká spoločnosť sa usiluje – alebo hneď niekoľko spoločností súperí o vaše údaje.“

Dáta zozbierané prostredníctvom mestských senzorov, zvlášť ak majú osobný a detailný charakter, nevyhnutne pritiahnu záujem dátových maklérov. Okrem zjavného ohrozenia súkromia by však komercializácia údajov zo systémov inteligentných miest mohla viesť aj k diskriminačnému profilovaniu obyvateľstva.

Rovnako ako Facebook technicky „vlastní“ údaje svojich užívateľov a užívateliek, poskytovatelia služieb inteligentných miest často disponujú údajmi zhromaždenými prostredníctvom svojich senzorov. V Toronte sa spoločnosť Sidewalk Labs snažila utíšiť rastúce protesty proti projektu inteligentného mesta ubezpečením, že získané kvantá údajov bude spravovať nezávislá spoločnosť Urban Data Trust. Napriek tomu pretrvávajú pochybnosti, nakoľko je možné dôverovať v takejto citlivej záležitosti firme, ktorá je dcérskou spoločnosťou rovnakej spoločnosti ako Google, a či je vhodné jej zveriť cenné dáta o obyvateľoch a obyvateľkách mesta.

Odborníčka na ochranu osobných údajov Ann Cavoukian, ktorá minulý rok odstúpila z funkcie poradkyne Sidewalk Labs v súvislosti s obavami zo sledovania užívateľov, tvrdí, že zverejnený plán torontského inteligentného mesta má naďalej zásadné nedostatky v oblasti anonymizácie údajov. Problémom je, že zozbierané údaje sa dajú po anonymizovaní prekvapivo ľahko znova identifikovať s konkrétnymi osobami a dokonca aj zdanlivo neškodné údaje môžu odhaliť o jednotlivcovi alebo jednotlivkyni veľmi osobné informácie.

Ešte predtým, než začneme diskusiu o samotnej správe údajov, tak narážame na oveľa zásadnejšiu otázku: mali by sme akceptovať trendy smerujúce k zberu, analýze a speňaženiu stále podrobnejších a početnejších údajov o našich životoch, ako to navrhujú projekty inteligentných miest? To je otázka, ktorá smeruje do samotného jadra obchodného modelu spoločností ako Google či Facebook, známeho ako „kapitalizmus dohľadu“.

Otázka súkromia vo verejnom priestore

Vývoj inovácií pre inteligentné mestá je vo veľkej miere záležitosťou súkromného sektora. Väčšina mestských zastupiteľstiev sa pri príprave a realizácii projektov inteligentných miest spolieha na súkromné ​​spoločnosti. Ich systémy sú pritom zvyčajne navrhnuté tak, aby slúžili ako stimuly pre „kapitalizmus dohľadu“. Získavajú a zhromažďujú rozsiahle objemy údajov o aktivitách ľudí a na základe ich analýzy dokážu predpovedať – a ovplyvňovať – spotrebiteľské správanie v záujme podpory predaja prostredníctvom reklamy.

„Inteligentným mestám nemôžeme porozumieť bez toho, aby sme hovorili o obchodných modeloch digitálnych gigantov ako Google, Amazon, Baidu, Alibaba alebo Tencent. Tieto spoločnosti sú už dnes globálnymi subjektmi, ktoré do značnej miery unikajú vládnemu dohľadu. Akú úroveň kontroly nad nimi môže mať miestna územná samospráva?“ – vysvetľuje Sara Degli-Esposti, čestná vedecká pracovníčka na Coventry University.

Miera kontroly, ktorú majú vlády nad týmito technickými gigantmi, je skutočne veľmi nízka. Súčasné napredovanie technológií a preberanie riadenia miest dátovými infraštruktúrami by mohlo viesť k úplnému odovzdaniu verejných služieb do rúk týchto technologických gigantov.

„Miestne samosprávy by stratili vlastnícke práva na netransparentné, mnohovrstevnaté dátové systémy vyvinuté v priebehu rokov a zároveň by neboli ani spôsobilé ich prevádzkovať,“ upozorňuje Degli-Esposti. Hoci takéto podrobné údaje by predstavovali ohrozenie ľudských práv aj v rukách miestnej samosprávy, pri uvedených majetkových pomeroch riziko spočíva v znížení verejnej kontroly nad riadením miest.

Partnerstvá súkromného a verejného sektora sú často viazané dohodami o mlčanlivosti, vyplývajúcimi z majetkovej podstaty používaných technológií. To občanom a občiankam výrazne sťažuje kontrolu systémov, ktorými sú ich mestá vybavené a riadené. Nečitateľnosť týchto modelov vyvoláva vážne obavy o zodpovednosť a transparentnosť v súvislosti s využívaním technológií. Podobné obavy vyvoláva aj otázka „čiernej skrinky“ umelej inteligencie a skutočnosť, že rozhodovací proces za novými algoritmami často nebudú schopní sledovať ani tí, ktorí ho zaviedli, nieto ešte tí, na ktorých bude mať dopad.

Obchodný model samotného „kapitalizmu dohľadu“, prinášajúci bezprecedentnú úroveň zberu údajov a sústredenie moci u hŕstky spoločností, ktoré za svoje správanie nenesú riadnu zodpovednosť, je nutné posudzovať ako zásadne rizikový z hľadiska dodržiavania ľudských práv. Preto sa treba v prvom rade pýtať, či by sa malo toľko údajov o nás vôbec zachytávať.

Prístup založený na ľudských právach

Ľudské práva musia byť stredobodom plánov na vývoj a rozvoj inteligentných miest. Štátni zamestnanci a zamestnankyne by mali technológiám, ktoré sa snažia zaviesť, do hĺbky rozumieť. Mali by tiež presadzovať špecifikácie verejného obstarávania, ktoré ľudí ochránia pred zneužívaním alebo nesprávnym používaním týchto technológií a priniesť záruky, že ich používanie bude v súlade s normami v oblasti ľudských práv. Ľudia, ktorých práva tieto technológie v konečnom dôsledku ovplyvnia, by mali mať nad spôsobom ich využívania primeranú kontrolu a verejný dohľad.

Unikátny príklad z Barcelony ukazuje, aký silný môže byť projekt založený na občianskom, demokratizovanom a inteligentnom meste. Model, ktorý Barcelona nasledovala, spája občiansku participáciu s novou vládnou infraštruktúrou a novými technológiami. Inteligentné mesto Barcelona je vybudované z troch komponentov: platformy na zber a snímanie údajov s otvoreným zdrojovým kódom Sentilo; druhej otvorenej platformy, ktorá spracováva a analyzuje údaje nazývané CityOS; a tretej úrovne používateľského rozhrania, ktoré umožňuje prístup ku všetkým údajom.

Fakt, že všetka digitálna infraštruktúra barcelonského modelu je založená na otvorených zdrojoch, pomáha minimalizovať vyššie spomínané riziká privatizácie motivovanej ziskom. Obyvateľstvu tiež umožňuje nárokovať si kolektívne vlastníctvo svojich údajov. Všetky získané dáta sú k dispozícii občanom a občiankam, súkromným spoločnostiam aj ostatným zainteresovaným stranám, avšak mesto rozhoduje o parametroch prístupu k týmto údajom spoločne so svojimi obyvateľmi a obyvateľkami.

Čas ukáže, či barcelonský model predstavuje účinnú ochranu ľudských práv. Stále však zostáva výnimkou, nie pravidlom. Naďalej sú to najčastejšie súkromné ​​spoločnosti, kto zohráva hlavnú úlohu pri určovaní zmluvných podmienok – výhodných iba pre ne – a kto diktuje regulačné procesy, zatiaľ čo štátnym zamestnancom a zamestnankyniam často chýbajú potrebné odborné znalosti, aby mohli tieto procesy spochybniť.

V Toronte sú teraz na rade orgány miestnej samosprávy, aby rozhodli, či budú dôverovať vízii budúcnosti, akú im predkladá spoločnosť Sidewalk Labs.

Nakoniec, jediný spôsob, ako docieliť, aby inteligentné mestá splnili svoj utopický sľub, je navrhnúť ich od počiatku tak, aby posilnili práva a slobody svojich obyvateľov a obyvateliek. Pokým budú projekty inteligentných miest podnecovať štátne represie alebo poslušne nasledovať nenásytný „kapitalizmus dohľadu“, budú aj inteligentné mestá slúžiť len na ďalšie posilnenie postavenia technologických gigantov a vlád, na úkor samotných miest a ľudských práv.

 

Autorom a autorkou článku sú Lucien Begault a Jessika Khazrik z projektu Amnesty Tech

 

Text je súčasťou blogov Denníka N, nie je redakčným obsahom.
Administrátorov blogov môžete kontaktovať na adrese blog@dennikn.sk.

Teraz najčítanejšie

Amnesty Slovensko

Chceli by ste žiť v krajine, kde sú si všetci ľudia rovní a kde vládne ľudskosť a dôstojnosť? My rozhodne. Preto v Amnesty International bojujeme za ľudské práva pre všetkých. V tomto blogu sa dozviete viac o našich projektoch, ľuďoch, ktorých podporujeme alebo ktorí podporujú nás a mnoho ďalšieho. A ak chcete nášmu zápasu pomôcť, môžete nás podporiť svojím podpisom na www.pripady.amnesty.sk alebo si môžete zaobstarať Pas do Krajiny ľudskosti, aby sa vám ľahšie cestovalo https://darujme.sk/2405/