Kad oba vozača griješe, ljudi više krive čovjeka

Večeras će vozači u SAD-u ubiti više pješaka nego bilo koje druge noći u godini. Porast broja ljudi koji hodaju u uvjetima slabog osvjetljenja najviše čini Noć vještica opasna noć u godini za pješake.

Broj smrtnih slučajeva pješaka sveukupno je u porastu jer automobili postaju sigurniji za vozače ali opasnije za sve ostale. Sofisticirani sustavi za detekciju pješaka, koji su sve češći u automobilima, ne prolaze osobito dobro. Neki od njih zabijaju visoko na lakšim testovima usred bijela dana, ali rade ne prolazi tako dobro u težim uvjetima poput slabog osvjetljenja.

Kad vozač dijeli krivnju za smrt pješaka s automatiziranim automobilom, kako ljudi pripisuju krivnju? Ovotjedno istraživanje u časopisu Nature Human Behavior sugerira da ljudi mogu usmjeriti svoj bijes na ljude u situaciji zajedničke kontrole. Autori tvrde da bi to moglo dovesti do podregulacije sigurnosti vozila sa zajedničkim upravljanjem.

Podijeljena odgovornost?

Iako široka dostupnost potpuno autonomnih automobila vreba preko horizonta, niz naprednih sustava za pomoć vozaču (ADAS)—od intervencije tijekom hitnih manevara do Teslinog paketa autopilota—prebacuju dio odgovornosti za sigurnost s vozača na automobil.

"Ulazimo u osjetljivu eru zajedničke kontrole između ljudi i strojeva", pišu istraživač Edmond Awad i njegovi kolege. Razumijevanje načina na koji ljudi reagiraju na moralne implikacije ove situacije ključno je za sve, od izračuna očekivanih odgovornost za proizvođače, predviđanje kako bi pravni sustav trebao reagirati na smrtne slučajeve u situacijama zajedničke kontrole između vozača i auto.

Kako će reagirati ljudi koji postavljaju te politike ostaje samo nagađati. Na temelju izvještaja iz medija o a Smrt Teslinog autopilota 2016 i ubojstvo pješaka Uberovim samovozećim automobilom, čini se da bi ljudi mogli biti skloniji svaliti veliku krivnju na ljudske vozače, a manje na automobile, sugeriraju Awad i njegovi kolege. "Je li ovaj uzorak bio slučajnost okolnosti nesreće i novinarskog okruženja?" oni pitaju. "Ili odražava nešto psihološki dublje što može obojiti naše reakcije na zajedničku akciju čovjeka i stroja, a posebno kada par čovjek-stroj zajednički kontrolira vozilo?"

Loša odluka protiv nemara

Kako bi to testirali, Awad i kolege konstruirali su niz vinjeta koje su opisivale automobil sa zajedničkom kontrolom koji je ubio pješaka. Ove su vinjete opisivale niz opcija automobila s jednim ili dva vozača, u rasponu od ljudskog vozača do potpuno automatiziranog automobila (koji se u vinjetama naziva "vozač stroja").

Između su bile opcije s dva pogona s primarnim ljudskim vozačem i sekundarnim strojnim vozačem (slično kao Toyotin čuvar) ili primarni strojni vozač i sekundarni ljudski vozač (poput Teslinog autopilota). Postojale su i opcije za uparivanje čovjek-ljud - poput automobila s dvostrukom kontrolom za ljude koji uče voziti - i uparivanje stroj-stroj.

Istraživači su istraživali kako ljudi raspoređuju krivnju u tim postavkama. Prvo je svaka osoba pročitala opis jedne od različitih kombinacija vozača—tako da je svaki sudionik morao razmišljati samo o jednoj vrsti automobila koji zajedno voze ljudi i stroji. Zatim su pročitali o dva različita scenarija sudara, a oba su opisivala pogrešku vozača koja je dovela do smrti pješaka. Ali dva su se scenarija razlikovala po tome jesu li oba vozača pogriješila ili samo jedan od njih.

U scenarijima "loše intervencije", glavni pokretač (bilo čovjek ili stroj) donosi odluku o vožnji koja bi izbjeći udar u pješaka, ali sekundarni vozač intervenira pogrešnim pozivom, što rezultira a sudar. U lošim intervencijama, logično je da je sekundarni pokretač zapravo krivac, budući da su nadglasali ispravne radnje primarnog pokretača.

Ovo očekivanje odgovara načinu na koji su ljudi reagirali. Kad su sudionici vidjeli ovaj scenarij i ocijenili koliko je svaki vozač vrijedan krivnje i koliko je uzrokovao smrt, na ljestvici od 1 do 100, sekundarni vozač je snosio najveću krivnju. To je vrijedilo bez obzira na to je li sekundarni vozač bio čovjek ili stroj.

Međutim, u scenarijima "propuštene intervencije" stvari su izgledale malo drugačije. U tim scenarijima, glavni pokretač je onaj koji upućuje krivi poziv, ali sekundarni vozač ne intervenira kako bi spasio situaciju. U tim su scenarijima oba vozača pogriješila.

Sudionici su dio krivnje pripisali obojici vozača u ovim scenarijima – ali čovjek je preuzeo veću krivnju od automobila. To je bilo točno kada je čovjek napravio početnu pogrešku, a automobil je nije uspio ispraviti - a također je vrijedilo i kada je automobil napravio pogrešku, a čovjek je nije uspio ispraviti. To sugerira da sudionici nisu pripisivali krivnju na temelju toga je li vozač pogrešno nazvao ili jednostavno nije intervenirao; nego su pripisivali krivnju na temelju vrste vozača.

Ti su rezultati replicirani u različitim studijama, uključujući replikaciju koja je koristila drugog sudionika uzorak i dva koja su dotjerala prikaz vinjeta kako bi izgledale više poput novinskih članaka.

Nedovoljno reagiranje na opasnosti

Rezultati mogu biti intuitivni, ali znanost se bavi provjerom jesu li intuicije potkrijepljene stvarnim podacima. Čini se da ljudi razumiju da samovozeći automobili imaju prilično teška ograničenja u pogledu fleksibilnog postupanja s njima niz scenarija i to bi fleksibilniji vozač - čovjek - trebao pokušati kompenzirati da.

Studija nije posljednja riječ. Kao prvo, sudionici su znali da ne čitaju stvarne priče, što je moglo utjecati na njihove odgovori—ali odgovori se podudaraju s reakcijama javnosti na padove Tesle i Ubera, autori Bilješka. "Iako može postojati mnogo psiholoških prepreka usvajanju samovozećih automobila", pišu oni, "pretjerana reakcija javnosti na slučajeve dvojne pogreške vjerojatno neće biti jedna od njih."

Umjesto toga, tvrde istraživači, mogao bi postojati rizik od pod-reakcija. Ako se regulacija samovozećih automobila temelji na pritisku javnosti i odlukama žirija, proizvođači automobila mogli bi se prilično lako osloboditi krivnje. A to bi moglo smanjiti pritisak na proizvođače da poboljšaju svoje sustave.

Postoji povijesni analog za ovo, pišu Awad i njegovi koautori: ljudi su ignorirali automobil odgovornost proizvođača kada su putnici u vozilu ozlijeđeni u sudarima, jer su sudare pripisali greška vozača. "Regulacija odozgo prema dolje bila je neophodna za uvođenje koncepta 'vrijednosti sudara' u pravni sustav", napominju. Slično tome, tvrde oni, za sigurnost samovozećih automobila možda su potrebni sigurnosni propisi odozgo prema dolje.

Priroda Ljudsko ponašanje, 2018. DOI: 10.1038/s41562-019-0762-8 (O DOI).