UZ 54. VOZOČAŠĆE GLASA KONCILA U SVETIŠTE MAJKE BOŽJE JERUZALEMSKE NA TRŠKOM VRHU Može li pametna tehnologija zamijeniti čovjeka kao glavnog aktera u prometu?

Foto: Shutterstock | Različiti senzori i algoritmi za prepoznavanje opasnosti, kojima će se koristiti samoupravljajuća vozila, umanjit će rizike od nesreća, no dvojbeno je mogu li pametna vozila donositi i moralne odluke

Svake prve lipanjske nedjelje, neprekinuto od 1968. godine, svetište Majke Božje Jeruzalemske na Trškom vrhu ponad Krapine pretvara se u jedinstveno mjesto molitve za sigurnost u prometu i na cestama. Tako se tradicija ispunjava i ove godine, u nedjelju 6. lipnja. Ipak, vozočašće na Trški vrh može se promatrati i kao svojevrstan izvor za proučavanje povijesti odnosa ne samo čovjeka i automobila, nego i čovjeka i tehnologije općenito. Naime, u vrijeme prvoga vozočašća automobil mnogima nije bio samo nedostižan luksuz, nego i posljednji »tehnološki krik«, iako se to danas čini neobično s obzirom na to da tadašnji automobil osim kotača, volana, mjenjača, kvačila, gasa i kočnice nije imao nikakvu dodatnu opremu.

Doći do cilja što sigurnije

S druge strane, već se tada moglo postaviti pitanje koga se na blagoslovu vozila, osim vozača i njegovih suvozača, blagoslivlja? Može li i vozilo i tehnologija »primiti« blagoslov? Odgovor je dao onovremeni Glas Koncila, koji je, izvještavajući o prvom vozočašću, čitatelje podsjetio: »Crkva blagoslivlje sve što služi čovjeku, želi ona svojim blagoslovom zazvati od Boga na materijalne stvari zaštitu od zla i zloga duha i zle upotrebe i pomoć da stvari služe na što veće dobro čovjeka i na proslavu Stvoritelja.« No danas, kada je razvoj suvremene tehnologije u automobile osim putnika uveo i umjetnu inteligenciju, svojevrsnu novost »računalnoga putnika«, sa silnim senzorima za kočenje i parkiranje, tempomatima, navigacijama, pogonom »4×4« i drugom dodatnom opremom, čini se da tomu odgovoru treba dati i suvremeniju nadopunu, posebno iz moralnoga i etičkoga gledišta.

»Svi napredni sustavi korisni su utoliko ukoliko vozaču pribavljaju trenutačne i potrebne informacije u prometu i o prometu, kako bi vozač što efikasnije reagirao u svakom trenutku prometovanja te na taj način sigurno prispio cilju, odmoran i koncentriran«, smatra
dr. Danijel Crnić

Tehnološki se razvoj automobila, čini se, ne može zaustaviti. »Neizbježno je da će svaki novi model automobila, bilo kojega proizvođača, imati sve više integriranih naprednih automobilskih sustava koji su zaduženi da upravljanje vozilom učine lakšim i sigurnijim«, smatra dr. Danijel Crnić, nastavnik na zagrebačkom KBF-u i župnik župe Muke Isusove na Vukomercu, koji je za Glas Koncila o temi tehnologije modernih automobila itekako relevantan sugovornik jer se u slobodno vrijeme kao hobijem već 19 godina bavi testiranjem vozila. »Teškoća nastaje kada vozač modernoga vozila opremljenoga spomenutim sustavima prepusti pojedinomu sustavu dio upravljanja vozilom, odnosno vjeruje da je sustav nepogrješiv, što nipošto nije tako. Svi napredni sustavi korisni su utoliko ukoliko vozaču pribavljaju trenutačne i potrebne informacije u prometu i o prometu, kako bi vozač što efikasnije reagirao u svakom trenutku prometovanja te na taj način sigurno prispio cilju, odmoran i koncentriran«, dodao je dr. Crnić.

Čovjek treba ostati glavni protagonist prometa

No u slučaju neke neočekivane situacije u prometu, kada prije vozača »pametni sustav« automobila »donese odluku« i, primjerice, zakoči, postavlja se i pitanje može li »računalni suvozač« donositi moralne i etičke odluke. »Prometnu nesreću ili prometni prekršaj izazvati može samo osoba koja izravno upravlja motornim vozilom i pri tome ima uporabu svijesti i slobodnu volju u odlučivanju i reagiranju u prometu…

Snimio: D. Lončar

Umjetna inteligencija ne može donositi moralne ili etičke odluke ni bilo kakve odluke budući da je riječ o programu, koliko god on sofisticiran i napredan bio. Jedino čovjek donosi odluke i sposoban je za etički ili moralno kvalificiran čin. Umjetna inteligencija matematičkom preciznošću reagira i pridonosi sigurnosti prometa, u ovom kontekstu, ali to nije moralni ili etički čin, nego izvođenje upisanoga programa«, pojasnio je dr. Crnić. Ključno je, smatra, da automobilska industrija unatoč rastućemu automatiziranju vozila i razvoju samovozećih prometala zadrži čovjeka kao glavnoga protagonista u prometu, čovjeka kao »slobodnoga i odgovornoga vozača«.

Umjetna inteligencija nije nepogrješiva

No unatoč svim tim prednostima raznih senzora koji su ugrađeni u većinu novijih automobila, upozorava drugi sugovornik Glasa Koncila doc. dr. Anto Čartolovni, nastavnik i istraživač s Hrvatskoga katoličkoga sveučilišta i stručnjak za bioetiku i pitanja umjetne inteligencije, umjetna inteligencija nije svemoćna. »Umjetna inteligencija zasigurno nije nepogrješiva, iako se često predstavlja kao nešto puno objektivnije i savršenije od čovjeka koji je po svojoj naravi nesavršen i sklon pogrješkama, što je zapravo pogrješno viđenje.« Ona je, naime, plod čovjekove kreativnosti i kao takva i dalje nije imuna na pogrješne odluke i tzv. kognitivne pristranosti koje opterećuju i čovjeka i još je otvoreno pitanje u kojoj će se mjeri u budućnosti smanjivati pogrješivost umjetne inteligencije. Također, nije još sasvim izvjesno i koliko će umjetna inteligencija u prometu u budućnosti moći »razmišljati fleksibilno«, odnosno donositi odluke u prometu u skladu s posebnošću određene situacije jer zapravo ni jedna situacija u prometu ne može biti sasvim identična drugoj.

Moralni kodeks za samoupravljajuća vozila?

No moralno je prijeporno pitanje kako se umjetna inteligencija u prometu treba »ponašati« u slučaju da je prisiljena birati između većega i manjega zla. Na to pitanje nije jednostavno odgovoriti ni čovjeku. Na tom problemu već nekoliko godina rade stručnjaci s američkoga sveučilišta MIT, a do rezultata njihovih istraživanja, čak i do sudjelovanja u njihovim pokusima, može se doći uz nekoliko klikova na internetu.

»Umjetna inteligencija zasigurno nije nepogrješiva iako se često predstavlja kao nešto puno objektivnije i savršenije od čovjeka koji je po svojoj naravi nesavršen i sklon pogrješkama, što je zapravo pogrješno viđenje«, upozorava dr. Anto Čartolovni

Naime, upisom pojma »Moral machine MIT« lako se dolazi do istraživanja u kojem ispitanik u 13 fiktivnih situacija bira kako samoupravljajuće vozilo u nekoj izvanrednoj situaciji u prometu treba postupiti. Primjerice, na samoupravljajućem vozilu otkazale su kočnice i ono mora birati između toga hoće li se zabiti u zaprjeku, i usmrtiti sve putnike u vozilu, ili će nastaviti voziti i usmrtiti pješake koji na pješakom prijelazu prelaze za vrijeme crvenoga svjetla na semaforu. Jasno, istraživanje nudi i kompleksnije situacije, kao što je izbor između spašavanja života starice ili djevojčice, izbor hoće li u vozilu uz tri poštena čovjeka poginuti i kriminalac ili će vozilo, želeći spasiti što više života, uključujući i život kriminalca, umjesto u zaprjeku radije naletjeti na liječnika na pješakom prijelazu.

U tim situacijama samoupravljajuće vozilo nalazi se u poziciji donošenja moralnih odluka i stoga je pravo pitanje, upozorava dr. Čartolovni, trebamo li uopće prepuštati donošenje takvih odluka autonomnim vozilima. Smatra da se takve odluke ipak ne bi trebale prepuštati autonomnim sustavima, osobito u vrlo složenim situacijama koje uključuju i druge osobe. Isto tako, dodao je sugovornik dr. Čartolovni, spomenuto istraživanje s MIT-a pokazalo je da se ne može jednostavno uspostaviti univerzalni moralni kodeks za samoupravljajuća vozila jer su ispitanici iz istočnih zemalja svijeta, primjerice, u istraživanju bili skloniji očuvati život starijih osoba, a na Zapadu je bilo potpuno obratno. »Stoga jedno od pitanja koja se postavljaju u slučaju da delegiramo donošenje moralnih odluka na autonomna vozila jest kojom će se etikom ili čijim moralom voditi ta vozila pri donošenju takvih odluka, tj. na koji će način biti programirani«, dodao je dr. Čartolovni.

»Robotaksiji« i Zagreb kao veliki društveni eksperiment
Snimio: D. Grden

Upravo se posljednjih dana u hrvatskoj javnosti često spominje pokušaj uvođenja mreže električnih autonomnih »robotaksija« koji bi bili uključeni u svakodnevni promet Zagreba. »Svi ćemo se složiti da je takva inovacijska investicija hvalevrijedna, no nažalost u medijima je prikazana jednodimenzionalno te se ističu samo prednosti bez osvrtanja na činjenicu jesu li građani Zagreba uopće informirani što to točno znači i podrazumijeva te želi li oni uopće to? Štoviše, zabrinjava me koliko će se i hoće li se uopće posvetiti dovoljno pažnje donošenju kompleksnih odluka u prometu poput onih moralnih i etičkih, na tragu čijih i kojih vrijednosti će biti zadani programerski okviri? Ta pitanja zaslužuju biti na vrijeme adresirana tijekom razvoja te prije implementacije, nadasve kako bi izbjegli da Zagreb ne postane veliki realni životni eksperiment«, smatra dr. Čartolovni. Umjetna inteligencija, napominje, nije nepogrješiva, o čemu najbolje svjedoči i pokus koji je 2018. izvela poznata svjetska kompanija za usluga prijevoza »Uber« u kojem autonomno vozilo prilikom izvanredne situacije u prometu nije uspjelo zakočiti na vrijeme te je udarilo pješaka, iako je senzor primijetio pješaka, a testni se vozač nalazio u vozilu.

IZVORGlas Koncila br. 23/2021.
Prethodni članakPROPITIVANJE FILMSKOGA BRAČNOGA PARA Kakva je sve ljubav?
Sljedeći članakPOUKA GRANČICE I DRVA I malenost Bog izabire da bi pokazao nešto veće