Samovozeći automobili i kvaka-22: Svi bi voljeli da automobili žrtvuje vozača, ali ih nitko ne bi posjedovao…

Nakon mog prvog posta (koji je prenijela i RTL-ova Autozona) o moralno-etičkim dvojbama i odgovoru na problem tramvaja automobila koji su prepušteni da upravljaju sami sobom, bilo je puno rasprave o tome što automobil treba učiniti u slučaju neizbježnog. U anketi na dnu tog posta, vas dvije četvrtine izjavilo je da bi automobil treba žrtvovati vozača kako bi spasio druge. Suprotno od onog što je Christoph von Hugo, Mercedesov šef za autonomne sustave, izjavio da će u budućnosti činiti samovozeći automobili ovog uglednog proizvođača. Kako se oko njegove izjave diglo puno prašine, Hugo je brže-bolje dodao kako će ta rasprava potencijalno vrlo brzo ionako postati suvišna s obzirom da automobili kojima upravljaju kompjuteri mogu međusobno komunicirati na način koji je ljudima nedostižan, dojavljujući jedan drugom opasnost na velikim udaljenostima i sl. Kao i da je prioritet spriječiti da do bilo kakve opasne situacije uopće dođe. “Čak 99% našeg rada usmjereno je u to da se takve situaciju spriječe, da do nezgodne niti ne dođe i mi radimo na tome da se naši automobili uopće ne dovedu u situaciju u kojima se takve odluke moraju donositi”, naglasio je Christoph von Hugo. I da, automobili kojima upravljaju računala su u prometu daleko sigurniji od onih kojima upravljaju ljudi, ali ni oni mogu biti savršeno sigurni. Kad-tad – i za to neće proći puno vremena sudeći po količini ubojstava koje su izvršili Teslini automobil u samo godinu dana – dogodit će se situacija u kojoj će automobili trebati birati: ubiti vozača drugog automobila, svog vlasnika ili nevine pješake na cesti. A također je pitanje hoće li se svojim stavom Mercedes zamjeriti budućem zakonodavstvu. Baš poput Asimovljeva tri zakona robotike, Njemačka je naime, već ustanovila tri osnovna pravila za koje očekuje da ih se u budućnosti pridržavaju samovozeći automobili:

• uništavanje imovine ima prednost ispred ozljeda ljudi
• automobil ne smije klasificirati potencijalne žrtve prema godinama, spolu, rasi ili nečem drugom
• za bilo kakvu nezgodu odgovoran je proizvođač automobila

Kada se čitav zakon o samovozećim automobilima konkretizira, u njemu bi se trebao naći odgovor na pitanje smije li automobil kao prioritet imati čuvanje života svog vlasnika. U međuvremenu, ovom problematikom pozabavio se francuski znanstvenik Jean-Francois Bonnefon iz Toulousea koji je doktorirao kognitivnu psihologiju.

On tvrdi da će, iako ne postoji krivi ili točan odgovor na ova pitanja, ključnu ulogu u tome hoće li samovozeći automobili biti prihvaćeni ili ne igrati javno mnijenje. Zato je Jean-Francois Bonnefon s nekoliko svojih francuskih kolega odlučio otkriti koje je mišljenje javnosti o problemu tramvaja u slučaju samovozećih automobila koristeći znanost i eksperimentalnu etiku. A to je uključivalo stavljanje većeg broja ljudi pred etičku dilemu i promatranje njihovih reakcija. I rezultati su vrlo interesantni, premda i vrlo “ljudski”. Evo kakvu su dilemu Jean-Francois Bonnefon i njegovi kolege postavili pred ispitanike:

Zamislite da u skoroj budućnosti posjedujete automobil koji sam vozi. I jedan dan, dok vas on vozi, zbog nesretnog slijed događaja krene juriti prema skupini od 10 ljudi koja prelazi cestu. Automobil ne može stati na vrijeme, ali može izbjeći pogibelju 10 ljudi tako što će naglo skrenuti i zabiti se u zid. No ovaj će manevar vas vjerojatno, kao putnika u automobilu, koštati života. Što bi automobil trebao učiniti?

Jedan pristup je svakako minimiziranje gubitka života. Prema njemu, bolje je žrtvovati jednu osobu da bi se spasili životi 10 ljudi. Ali takvo razmišljanje ima neke druge posljedice. Ako malo ljudi bude kupovalo automobile zato što su programirani da žrtvuju svoje vlasnike, ceste će biti manje sigurne jer automobili kojima upravljaju ljudi uzrokuju više nesreća. I tu je kvaka-22 jer cilj je učiniti takve automobile poželjnim. Znanstvenici su zato pokušali pronaći rješenje ovog problema tako što su dodatno ispipavali mišljenje javnosti. Ključna je paradigma da će ljudi biti skloniji kupnji automobila koji samostalno voze ako će se njihovo ponašanje u izazovnim situacijama slagati s njihovim osobnim stavovima. Zato su proširili svoje istraživanje u koje se uključilo nekoliko stotina radnika Amazonove internetske burze rada Mechanical Turk i pritom su im dali različite scenarije mijenjajući određene varijable. Kao što je primjerice, broj pješaka na zebri, da li o reakciji u bezizlaznoj situaciji odlučuje čovjek ili računalo te da li se radi o njima kao vozačima koji trebaju stradati ili o anonimnim osobama. Rezultat je zanimljiv, donekle očekivan, ali i isto tako i neprovediv.

Generalno naime, većina smatra da je u redu da se automobili vode politikom minimiziranja ljudskih gubitaka. Altruistički pristup je svakako bio najglasniji u javnom mnijenju, no opet kvaka-22 – ljudi su spremni ići samo toliko daleko! Ispitanicima se naime, nije svidjela ideja da samovozeći automobili zaista budu tako programirani u stvarnosti. Ok im je da se drugi voze u vozilima koja će čuvati druge na štetu svog vlasnika, ali ne žele sami posjedovati takve automobile, zaključak je studije. No Jean-Francois Bonnefon naglašava da je ovo tek prvi korak u vrlo kompleksnom etičkom problemu koji će trebati dodatno razraditi. Naročito ako se u obzir uzme teorija vjerojatnosti kao i pitanje krivnje. Jer to onda postavlja druga pitanja: Je li prihvatljivo da automobil izbjegne sudar s motociklom tako što će se zabiti u zid s obzirom da je veća vjerojatnost da će u sudaru teže nastradati motociklist veća nego vozač u automobilu? Treba li donijeti drukčije odluke ako su u automobilu djeca s obzirom da pred sobom potencijalno imaju dulji životni vijek od odraslih i da nisu sama odlučila biti u automobilu? Ako proizvođač automobila ponudi različite verzije moralnog algoritma i vlasnik ih svjesno sam odabere, treba li onda kriviti vlasnika, a ne automobil za posljedice odluka takvog algoritma? I ovo nisu pitanja koja mogu čekati, a njih treba što prije dogovoriti. Jer Mercedes je već pokazao samovozeći autobus koji će prevoziti putnike i time revolucionarizirati javni prijevoz, dok Über u Americi naveliko testira automobile koji će sami prevoziti putnike…

• 
•