Vedci skúmali názory na to, či majú samojazdiace autá chrániť posádku alebo účastníkov premávky

„Nikdy v histórii ľudstva sa nestalo,“ píšu autori v novej štúdii, „aby sme prístrojom dovolili autonómne sa rozhodovať v zlomku sekundy o tom, kto by mal žiť a kto zomrieť.

K takýmto situáciám však čoskoro príde a nepôjde o vojenské operácie, ktoré sú nám také vzdialené. Týkať sa budú bežného aspektu našich životov, každodennej prepravy.“

„No ešte predtým, než samojazdiacim autám dovolíme, aby za nás robili morálne rozhodnutia,“ pokračujú vedci, „musí prebehnúť celospoločenská debata, aby výrobcovia áut vedeli, ako majú naprogramovať algoritmy v autách, a zákonodarcovia mali návod na reguláciu samojazdiacich áut.“

Uvedený citát pochádza z novej štúdie z prestížneho časopisu Nature.

Verzie problému dreziny

Informatik Iyad Rahwan z Technologického inštitútu v Massachusetts (MIT) a jeho tím v nej mapovali intuície 2,3 milióna ľudí z desiatok krajín sveta, aby zistili, ako by sa samojazdiace autá mali rozhodovať v krízových situáciách, keď hrozí smrť posádke vozidla alebo ostatným účastníkom dopravy.

Účastníci online prieskumu riešili viacero variantov problému dreziny (z angl. trolley problem).

V klasickej verzii dilemy sa na piatich robotníkov na trati nekontrolovane rúti drezina. Zachrániť sa dajú tak, že prehodíte výhybku, čím drezinu presmerujete na vedľajšiu koľaj. Na nej je však jeden robotník.

Otázka znie, čo spravíte – spôsobíte smrť jedného, aby piati žili, alebo neurobíte nič a výhybku neprehodíte?

Podobné dilemy riešili aj účastníci novej štúdie. Mali si predstaviť situáciu, že autonómnemu autu náhle zlyhali brzdy a rúti sa na ľudí na priechode, ktorí idú na červenú.

Čo má autonómne auto spraviť? Pokračovať v smere jazdy, hoci to bude znamenať smrť ľudí na priechode, alebo sa im má vyhnúť, aj keď potom narazí do stromu či inej prekážky, čo spôsobí smrť posádky? 

Experimenty mali viacero verzií a menili vek, pohlavie, spoločenský status či počet ľudí v aute a na priechode (v jednej verzii vystupovali aj domáci maznáčikovia).

Morálna dilema so samojazdiacimi autami. Zdroj – YouTube

Morálne intuície nie sú univerzálne

Vedci zbierali odpovede rok a pol. Za ten čas zaznamenali 40 miliónov rozhodnutí, ktoré spravili ľudia z 233 krajín a teritórií.

Zistili, že bez ohľadu na pôvod, pohlavie či vek väčšina osôb uprednostňovala ľudí pred domácimi maznáčikmi a skupiny ľudí nad jednotlivcami.

Tam sa však zhoda skončila. Nová štúdia tak ukazuje, že morálne intuície nie sú univerzálne a naprieč kultúrami sa líšia. „Ľudia, ktorí uvažujú o etike strojov, budia dojem, že môžete prísť s nejakým dokonalým zoznamom pravidiel, ako by sa roboty mali správať, no naše údaje ukazujú, že žiadne univerzálne pravidlá neexistujú,“ povedal Rahwan pre Nature v populárnom článku.

Autori novej štúdie zistili, že v krajinách, kde majú vládne inštitúcie silnú pozíciu, napríklad vo Fínsku, ľudia v menšej miere menili smer auta, aby sa vyhlo ľuďom, ktorí šli po priechode na červenú, než respondenti z krajín so slabými inštitúciami, ako je Pakistan či Nigéria.

Tri svetové regióny

Rolu zohrávala aj ekonomická nerovnosť v krajine. V krajinách s vysokou ekonomickou nerovnosťou respondenti nasmerovali auto skôr na bezdomovca, ak stáli pred voľbou, či spôsobia smrť človeka s nižším alebo vyšším sociálnym statusom.

Keď vedci analyzovali odpovede zo 130 krajín, z ktorých mali odpovede od 100 a viac účastníkov, zistili, že svet by mohli rozdeliť do troch regiónov. Jedným z nich bola Severná Amerika a viaceré európske krajiny, kde historicky prevláda kresťanstvo.

V týchto krajinách respondenti uprednostňovali životy mladých pred starými oveľa viac ako respondenti z krajín s islamskou a konfuciánskou tradíciou (dodajme, že tretí samostatný región tvorila Stredná a Južná Amerika, Francúzsko a jeho bývalé kolónie).

Iba akademický problém?

Autori novej štúdie sú presvedčení, že v nej neriešia výhradne akademický problém, keďže až päť výrobcov áut by chcelo do roku 2021 zaviesť masovú výrobu samojazdiacich áut.

V automobilovej veľmoci Nemecku vytvorili minulý rok smernicu o samojazdiacich autách, ktorá hovorí, že ľudský život má absolútnu prioritu. Podľa smernice treba systémy vozidiel naprogramovať tak, aby došlo k poškodeniu majetku alebo zvierat, ak možno takýmto spôsobom predísť ujme na živote a zdraví človeka.

Bryant Walker Smith, ktorý vyučuje právo na univerzite v Južnej Karolíne, si však nemyslí, že by uvedené morálne dilemy predstavovali zásadný problém pre nasadenie autonómnych áut.

„To by sme potom mohli riešiť aj to, ako by sa samojazdiace autá zachovali v prípade, že by na Zem dopadol asteroid,“ skonštatoval pre Nature a dal najavo, že k morálnym dilemám à la problém dreziny by v prípade samojazdiacich áut dochádzalo iba zriedkavo.

Nehody samojazdiacich áut vzbudia väčšiu pozornosť

Odborníci na dopravu sa zhodujú, že samojazdiace autá prinesú do dopravy viac bezpečnosti, takže uvedené morálne dilemy by nemali byť prekážkou toho, aby sa nasadili.

„Na veci sa treba pozerať zo širšej perspektívy. Z testov, ktoré sa robili, jednoznačne vyplýva, že už súčasné autonómne vozidlá by výrazne zvýšili bezpečnosť cestnej premávky. Takže z celkového hľadiska by autonómne vozidlá prispeli k záchrane obrovského počtu ľudských životov,“ povedal pre Denník N minulý rok Tibor Petrov.

Odborník sa zaoberá výskumom komunikačných systémov pre autonómne vozidlá a pôsobí na Elektrotechnickej fakulte Žilinskej univerzity.

Aj Barbara Wegeová, ktorá ma v automobilke Audi na starosti etiku autonómnych áut, uznáva, že samojazdiace autá výrazne zvýšia bezpečnosť na cestách, no pre Nature tiež dodala, že nehody takých vozidiel vzbudia oveľa väčšiu pozornosť.

„Potrebujeme dospieť k spoločenskému konsenzu, ktorý typ rizika (čo sa týka správania samojazdiacich áut v krízových situáciách, pozn. red.) sme ochotní podstúpiť,“ dodala Wegeová.

Dostupné na: https://doi.org/10.1038/s41586-018-0637-6