Hver verður drepinn af sjálfkeyrandi bíl? Vél, bjargaðu eins mörgum og mögulegt er, en umfram allt, bjargaðu mér!

Ef sú staða kemur upp þar sem sjálfstýrt kerfi bíls þarf að velja fljótt hverjum á að fórna ef yfirvofandi slys verður, hvernig ætti það að bregðast við? Að fórna farþegum til að bjarga gangandi vegfarendum? Ef nauðsyn krefur, drepa gangandi vegfaranda til að hlífa, til dæmis fjögurra manna fjölskyldu sem ferðast í bíl? Eða ætti hann kannski alltaf að verja sig fyrst?

Þó meira en sextíu fyrirtæki hafi þegar fengið leyfi til persónulegra prófa í Kaliforníu einni saman, er erfitt að segja að iðnaðurinn standi frammi fyrir siðferðilegum vandamálum. Í augnablikinu glímir hann við grunnvandamál - rekstur og siglingaskilvirkni kerfa og einfaldlega að forðast árekstra og ófyrirséða atburði. Í aðstæðum eins og nýlegu morði á gangandi vegfaranda í Arizona, eða slysum í kjölfarið (1), hefur það hingað til einfaldlega snúist um kerfisbilanir en ekki um einhvers konar „siðferðilegt val“ á bílnum.

Bjargaðu ríku og ungu

Vandamálin við að taka ákvarðanir af þessu tagi eru ekki óhlutbundin vandamál. Allir reyndir bílstjórar geta vottað þetta. Á síðasta ári greindu vísindamenn frá MIT Media Lab yfir fjörutíu milljónir svara frá svarendum víðsvegar að úr heiminum, sem þeir söfnuðu í rannsóknum sem hófust árið 2014. Skoðanakannanakerfið sem þeir kalla „Ethical Machine“ sýndi að á ýmsum stöðum í kringum heiminum, svipaðar spurningar eru spurðar mismunandi svör.

Almennustu niðurstöðurnar eru fyrirsjáanlegar. Í öfgafullum aðstæðum fólk vill frekar bjarga fólki en að hugsa um dýr, miða að því að bjarga sem flestum mannslífum og hafa tilhneigingu til að vera yngra en aldraðir (2). Það eru líka nokkrar, en síður augljósar, óskir þegar kemur að því að bjarga konum umfram karla, fólk með hærri stöðu fram yfir fátækara fólk og gangandi vegfarendur umfram bílafarþega..

2. Hverjum á bíllinn að bjarga?

Þar sem tæplega hálf milljón svarenda fylltu út lýðfræðilega spurningalista var hægt að tengja óskir þeirra við aldur, kyn og trúarskoðanir. Rannsakendur komust að þeirri niðurstöðu að þessi munur hefði ekki „veruleg áhrif“ á ákvarðanir fólks, en bentu á nokkur menningarleg áhrif. Frakkar höfðu til dæmis tilhneigingu til að vega ákvarðanir á grundvelli áætlaðs fjölda dauðsfalla, en í Japan var áherslan minnst. Hins vegar, í landi hinnar rísandi sólar, er líf aldraðra metið mun meira en á Vesturlöndum.

„Áður en við leyfum bílum okkar að taka sínar eigin siðferðilegu ákvarðanir þurfum við að hafa alþjóðlega umræðu um þetta. Þegar fyrirtæki sem vinna að sjálfstæðum kerfum læra um óskir okkar munu þau þróa siðferðilega reiknirit í vélum sem byggja á þeim og stjórnmálamenn geta byrjað að innleiða fullnægjandi lagaákvæði,“ skrifuðu vísindamennirnir í október 2018 í Nature.

Einn af rannsakendum sem tóku þátt í siðferðisvélatilrauninni, Jean-Francois Bonnefont, fannst valið á því að bjarga fólki með hærri stöðu (eins og stjórnendur fram yfir heimilislausa) vera skelfilegt. Að hans mati tengist þetta mjög miklu hversu efnahagslegur ójöfnuður er í tilteknu landi. Þar sem ójöfnuður var meiri var valinn kostur á að fórna fátækum og heimilislausum.

Ein af fyrri rannsóknunum sýndi sérstaklega að samkvæmt svarendum ætti sjálfstýrður bíll að vernda eins marga og mögulegt er, jafnvel þótt það þýði að missa farþega. Jafnframt sögðust svarendur hins vegar ekki ætla að kaupa bíl sem væri forritaður á þennan hátt. Rannsakendur útskýrðu það á sama tíma og fólki finnist siðferðilegara að bjarga fleirum, þá er það líka hagsmunamál, sem gæti verið merki til framleiðenda um að viðskiptavinir muni veigra sér við að kaupa bíla sem eru búnir altrúískum kerfum.. Fyrir nokkru sögðu forsvarsmenn Mercedes-Benz fyrirtækisins að ef kerfið þeirra bjargaði aðeins einum manni myndu þeir velja ökumanninn en ekki gangandi vegfarandann. Bylgja opinberra mótmæla neyddi fyrirtækið til að draga yfirlýsingu sína til baka. En rannsóknir sýna greinilega að það var mikil hræsni í þessari heilögu reiði.

Þetta er nú þegar að gerast í sumum löndum. fyrstu tilraunir til lagalegrar reglugerðar á sviði. Þýskaland hefur samþykkt lög sem skylda ökumannslausa bíla til að forðast meiðsli eða dauða hvað sem það kostar. Lögin segja einnig að reiknirit geti aldrei tekið ákvarðanir út frá eiginleikum eins og aldri, kyni, heilsu eða gangandi vegfarendum.

Audi tekur við stjórninni

Hönnuður er ekki fær um að spá fyrir um allar afleiðingar reksturs bílsins. Raunveruleikinn getur alltaf gefið blöndu af breytum sem aldrei hafa verið prófaðar áður. Þetta grefur undan trú okkar á möguleikanum á að „forrita“ vél yfirhöfuð. Okkur sýnist að í þeim aðstæðum þar sem mistök eiga sér stað og harmleikur á sér stað "vegna bilunar bílsins", eigi ábyrgðin að vera í höndum framleiðanda og þróunaraðila kerfisins.

Kannski er þessi röksemd rétt, en kannski ekki vegna þess að hún var röng. Frekar vegna þess að hreyfing var leyfð sem var ekki 2019% laus við möguleikann á að gera hana. Það virðist vera ástæðan og sameiginlegri ábyrgð víkur sér ekki frá fyrirtækinu, sem tilkynnti nýlega að það myndi taka ábyrgð á slysum þar sem 8 ára gamlar A3 tæki þátt í því að nota sjálfvirkt Traffic Jam Pilot (XNUMX) kerfi í því.

3. Audi Traffic Jam Pilot Interface

Á hinn bóginn eru milljónir manna sem keyra bíla og gera líka mistök. Svo hvers vegna ætti að mismuna vélum, sem tölfræðilega gera mun færri mistök en menn, eins og sést af fjölmörgum mistökum, í þessum efnum?

Ef einhver heldur að vandamál siðferðis og ábyrgðar í heimi sjálfkeyrandi farartækja séu einföld, haltu áfram að hugsa...