Denník N

Ako naprogramovať autá, ktoré sa šoférujú samy: majú zachrániť posádku alebo chodcov?

Autonómne auto od Google. Foto – Wikimedia/CC
Autonómne auto od Google. Foto – Wikimedia/CC

Spojenie filozofie a automobilového priemyslu nebolo asi ešte nikdy také úzke.

Ľudia majú najrôznejšie morálne emócie a intuície, preto sa na morálke nikdy jednohlasne nezhodneme. Niekoho adopcie gejov alebo potraty poburujú, iní ich schvaľujú.

Vec sa zamotá ešte viac, ak sa vy alebo vaši blízki stanú aktérmi morálnej dilemy – gejov ste možno odsudzovali, ale keď váš syn spraví coming-out, na vec sa začnete dívať celkom inak.

Emócia hnusu, ktorú ste doteraz pociťovali, ustúpi do pozadia a nahradia ju iné pocity a emócie lásky a nehy k rodinnému príslušníkovi.

Z deontológa, ktorý sa rozhodoval podľa pravidla, že homosexualita je za každých okolností zlá, sa zmeníte na konzekvencionalistu, ktorý zvažuje dôsledky (konzekvencie) svojich rozhodnutí – odsudzovať homosexuálov je zlé, lebo im tak zbytočne ubližujeme.

Suma sumárum, naša morálka nie je stabilná a morálne rozhodnutia meníme podľa toho, ako sa nám to v danej situácii hodí.

Chrániť chodcov alebo posádku?

To môže byť problém pre autonómne autá – ide o vozidlá, ktoré sa šoférujú samy. Jean-François Bonnefon z univerzity v Toulouse a jeho tím zistili, ako veľmi sa intuície ľudí menili v prípade, že riešili dilemu, v ktorej autonómne auto zrazilo človeka a účastník experimentu bol alebo nebol v aute ako člen posádky.

Článok vyšiel minulý týždeň v časopise Science.

Ľudia si v rôznych obmenách mali predstaviť kolíznu situáciu, v ktorej sa autonómne auto rúti na väčší alebo menší počet chodcov. Otázka znela: čo má vozidlo v takej situácii spraviť?

Sú dve možnosti – buď bude za každých okolností chrániť chodca, alebo posádku. V prvom prípade auto naprogramujeme tak, aby zrážke zabránilo aj za cenu toho, že posádka zomrie, v druhom prípade uprednostníme posádku vozidla a obetujeme radšej ďalších účastníkov premávky.

Sociálna dilema autonómnych áut. Zdroj – Youtube

Obetovať jedného, aby žili piati?

Príklad, ktorý ľudia riešili, je obmenou slávneho problému dreziny. Ide o situáciu, ktorá proti sebe kladie konfliktné záujmy dvoch skupín ľudí. Znie tak, že na päť robotníkov na trati sa rúti drezina. Zachrániť ich môžete tak, že prehodíte výhybku a drezinu presmerujete na vedľajšiu koľaj, kde je iba jeden robotník.

Otázka znie, čo spravíte. Z výskumov vyplýva, že až 90 percent ľudí výhybku prehodí. Uvažujú ako konzekvencionalisti, lebo päť zachránených ľudí je viac ako jeden, ktorého obetovali.

V prípade, že robotníkov môžu zachrániť tak, že na trať pred drezinu zhodia človeka z lávky, ktorý je taký ťažký, že drezinu zastaví (dilema lávky), začnú v prevažujúcej miere uvažovať ako deontológovia – akoby si hovorili, že takáto vražda, keď obetujeme jedného, aby žili piati, je zlá. Z lávky by človeka zhodilo iba 30 percent ľudí.

Hoci v dileme lávky i dreziny ide o to isté (smrť jedného, aby piati žili), ľudia o zadaní uvažujú v oboch prípadoch celkom inak.

Dilema autonómnych áut

Podobná flexibilita platila aj pre dilemy, ktoré riešili ľudia pri autonómnych autách. Keď sa účastníkov experimentu pýtali, či by autá mali byť naprogramované tak, aby zachránili čo najviac životov (utilitaristická pozícia), ľudia na škále od nuly po sto schválili takéto riešenie v priemere až sedemdesiatkou.

Situácia sa zmenila, ak sa vedci ľudí pýtali, či by si kúpili takéto „utilitaristické“ auto. Vtedy došlo k masívnemu poklesu zo 70 na 30 percent. „Väčšina ľudí chce žiť vo svete, kde autá minimalizujú obete pri nehodách,“ hovorí v správe univerzity MIT Iyad Rahwan, spoluautor článku.

„Ale každý chce, aby nás naše auto chránilo za každú cenu,“ dodal.

Spojenie filozofie a áut

Otázkou je, ako takéto vzájomne sa vylučujúce intuície zladiť. Pre výrobcov autonómnych automobilov to môže byť veľký problém – auto sa nemôže naraz správať ako utilitarista a deontológ, automobilky si budú musieť vybrať. Ale podľa čoho? Spojenie filozofie (etiky) a automobilového priemyslu nebolo asi ešte nikdy také úzke.

Ľudia riešili aj iné dilemy. Až 75 percent jedincov odpovedalo, že by auto malo zachrániť šoféra, ak hrozila kolízia iba s jedným chodcom. Ak bolo chodcov päť, názor ľudí na záchranu posádky alebo chodcov sa rozdelil rovnomerne, 50:50. Ak bolo chodcov sto, došlo k poklesu na dvadsať percent – toľko ľudí chcelo zachrániť posádku.

Dostupné z: DOI: 10.1126/science.aaf2654

Morálka

Teraz najčítanejšie