O novoobjavljenoj enciklici »Veličanstveno čovještvo« pape Lava XIV. razgovarali smo s teologom, svećenikom i bioetičarom dr. Damirom Šehićem, koji je njezino objavljivanje i predstavljanje dočekao upravo na postdoktorskom istraživanju na temu »Bioetički izazovi neuroimplantata i projekta Neuralink« na Papinskoj akademiji »Alfonsiana« u Rimu. Riječ je o istraživanju koje se nalazi upravo na sjecištu tema kojima se bavi i papa Lav XIV.: umjetne inteligencije, neuroznanosti, tehnološkoga razvoja i pitanja ljudskoga dostojanstva. Novu je encikliku sugovornik nazvao upravo »Rerum novarum« digitalnoga doba.
Ovu encikliku doživljavam kao dokument koji dolazi u pravom trenutku. Ako je papa Lav XIII. enciklikom »Rerum novarum« otvorio dijalog Crkve s industrijskim društvom, čini mi se da papa Lav XIV. enciklikom »Veličanstveno čovještvo« otvara dijalog s novom tehnološkom civilizacijom koju oblikuju umjetna inteligencija, algoritmi i neurotehnologije. U tom smislu ova enciklika nije tek komentar suvremenih tehnoloških promjena, nego važan teološki i antropološki kompas za vrijeme koje dolazi. Njezin temeljni naglasak nije ponajprije na tehnologiji, nego na čovjeku. Papa Lav XIV. polazi od uvjerenja da se svaka rasprava o umjetnoj inteligenciji mora vratiti pitanju tko je čovjek i koja je njegova nezamjenjiva vrijednost. Zato enciklika u središte stavlja dostojanstvo ljudske osobe, koje ne proizlazi iz učinkovitosti, produktivnosti ili tehnološke nadogradnje, nego iz same činjenice da je čovjek osoba stvorena na sliku Božju. Umjetna inteligencija može biti izvanredno sredstvo napretka, ali nikada ne smije postati kriterij prema kojem se određuje vrijednost ljudskoga života. Drugi je važan naglasak kritika tehnokratske paradigme. Papa upozorava na opasnost da tehnološki napredak počnemo promatrati kao svrhu samomu sebi te da gospodarski i politički sustavi budu vođeni isključivo logikom učinkovitosti i kontrole. Tehnologija mora ostati u službi čovjeka, a ne čovjek u službi tehnologije. Enciklika također snažno naglašava socijalnu dimenziju tehnološkoga razvoja. Umjetna inteligencija ne smije produbljivati nejednakosti između bogatih i siromašnih, razvijenih i nerazvijenih društava. Tehnološki napredak mora biti usmjeren prema općemu dobru, solidarnosti i uključivanju najranjivijih.
Posebna pozornost posvećena je radu, demokraciji, obrazovanju, medijima i ratovanju. Moglo bi se reći da je središnja poruka enciklike jednostavna, ali vrlo važna: budućnost ne će biti određena samo onim što tehnologija može učiniti, nego onim što čovjek odluči učiniti s tehnologijom.
Mislim da se najveća originalnost enciklike ne nalazi u njezinim pojedinačnim zaključcima, nego u promjeni perspektive iz koje promatra umjetnu inteligenciju. Većina suvremenih rasprava pita što umjetna inteligencija može učiniti. Papa Lav XIV. postavlja drukčije pitanje: što se događa s čovjekom kada sve više područja njegova života preuzimaju inteligentni sustavi? U tom je smislu enciklika svojevrsni antropološki zaokret. Ona ne promatra umjetnu inteligenciju ponajprije kao tehnički problem, nego kao izazov razumijevanju ljudske osobe. Upravo zato Papa poseže za suvremenim misliocima koji su promišljali ljudsku slobodu, odgovornost i dostojanstvo u vremenima velikih društvenih promjena. Kao bioetičaru posebno mi je zanimljivo što Papa ne prihvaća logiku prema kojoj bi se čovjekova vrijednost mjerila njegovim sposobnostima, učinkom ili mogućnošću tehnološke nadogradnje. Takva logika već je prisutna u pojedinim transhumanističkim projektima koji čovjeka promatraju kao biološki nedovršen proizvod kojega treba unaprijediti tehnologijom. Enciklika na to odgovara vrlo snažno: čovjek nije projekt koji treba optimizirati, nego osoba koja posjeduje neotuđivo dostojanstvo. Upravo tu vidim njezinu najveću novost.
Kada kaže da tehnologija nije neutralna, Papa zapravo podsjeća na jednu staru biblijsku istinu: čovjek je pozvan koristiti se stvorenim svijetom kao sredstvom služenja životu, ali uvijek postoji opasnost da vlastita djela pretvori u idole. U Svetom pismu idol nije samo kip, nego svaka stvar kojoj čovjek počne pripisivati moć spasenja. Zato je tehnokracija suvremeni oblik stare napasti da se spasenje traži u ljudskoj moći. Tehnologija je dragocjeno oruđe, ali nije spasitelj. Kršćanska vjera podsjeća da čovjek nije stvoren da gospodari svijetom bez granica, nego da odgovorno surađuje s Bogom u djelu stvaranja. Tehnologija je dobra kada ostaje u službi osobe, a postaje opasna kada počne određivati što znači biti čovjek. Naposljetku pitanje nije imamo li sve moćnije tehnologije, nego jesmo li očuvali mudrost da se njima koristimo u službi istine, dobra i ljudskoga dostojanstva.
Najpozitivnije mogućnosti umjetne inteligencije vidim ponajprije u području medicine, osobito u dijagnostici, personaliziranom liječenju i pomoći osobama s teškim neurološkim oštećenjima. Neuroimplantati i sustavi povezani s umjetnom inteligencijom otvaraju mogućnost pomoći osobama koje su izgubile određene motoričke ili komunikacijske sposobnosti, što je vrlo važan humanitarni i medicinski potencijal. Istodobno upravo na tom području postaju vidljive i najveće prijetnje. Problem nastaje kada tehnologija više ne služi terapiji, nego počinje težiti poboljšavanju čovjeka iznad njegovih naravnih granica. Tada ulazimo u logiku transhumanizma, gdje se čovjek sve manje promatra kao osoba s vlastitim dostojanstvom, a sve više kao biološki projekt koji treba optimizirati. Zato smatram da najveća opasnost umjetne inteligencije nije u tome što će strojevi postati previše inteligentni, nego što bi čovjek mogao zaboraviti vlastitu antropološku i moralnu posebnost. Enciklika upravo na to upozorava: tehnologija može liječiti čovjeka, pomagati mu i služiti mu, ali ne smije postati kriterij prema kojem određujemo što znači biti čovjek.
Iz perspektive enciklike rekao bih da su oba problema ozbiljna i međusobno povezana, ali je antropološka kriza dublja i opasnija. Socijalna nepravda nastaje kada pojedinci ili narodi ostanu isključeni iz koristi tehnološkoga razvoja, no još je ozbiljnije ako počnemo prihvaćati ideju da vrijednost čovjeka ovisi o njegovoj učinkovitosti, produktivnosti ili tehnološkoj nadograđenosti. Papa Lav XIV. više puta upozorava da je korijen problema pogrješno razumijevanje čovjeka. Ako čovjeka promatramo kao funkciju, skup podataka ili resurs za proizvodnju, neizbježno će nastati i novi oblici socijalne nepravde. Zato enciklika inzistira da dostojanstvo osobe prethodi svakoj tehnologiji, svakomu tržištu i svakomu društvenomu sustavu. Moglo bi se reći da je socijalna kriza posljedica antropološke krize. Kada izgubimo ispravan pogled na čovjeka, prije ili kasnije počinjemo odbacivati one koji su slabiji, sporiji, bolesni, stariji ili manje »korisni«.
Jedna od većih vrijednosti enciklike jest njezina iznimna pravodobnost. U povijesti Crkve često su se događale situacije da su važni dokumenti dolazili nakon što su se društveni procesi već oblikovali. Ovdje imamo drukčiju situaciju. Papa Lav XIV. progovara o umjetnoj inteligenciji dok se još uvijek oblikuju njezina pravila, granice i političke posljedice. To je svojevrsni kairos rimskoga prvosvećenika – povlašteni trenutak u kojem Crkva ne reagira na dovršene procese, nego aktivno sudjeluje u njihovu usmjeravanju. Posebno je važna Papina jasnoća kada govori o ratovanju. Umjetna inteligencija prvi put u povijesti otvara mogućnost da odluke o životu i smrti budu djelomično ili potpuno delegirane autonomnim sustavima. Tu više nije riječ samo o novom oružju, nego o promjeni same naravi ratovanja.
Ne bih rekao da je riječ samo o još jednom koraku u nizu tehnoloških revolucija. Svaka je tehnologija u povijesti proširivala neku ljudsku sposobnost – kotač kretanje, teleskop vid, računalo obradu informacija. Današnje digitalne tehnologije, a osobito umjetna inteligencija i neurotehnologije, sve više zahvaćaju samo središte ljudske percepcije, pozornosti, odlučivanja, pa čak i identiteta. Zato pitanje nije samo hiperstimulacija mozga. Već danas svjedočimo sustavima koji algoritamski oblikuju naše navike, želje i društvene odnose. Sutra bismo mogli govoriti i o izravnijim oblicima interakcije između mozga i tehnologije preko neuroimplantata i sučelja mozak-računalo, što je područje kojim se i sam bavim u sklopu istraživanja o projektu Neuralink. U tom smislu nalazimo se pred kvalitativno novom situacijom. Prvi put u povijesti čovjek ne razvija samo alate kojima mijenja svijet oko sebe, nego tehnologije koje mogu izravno utjecati na način na koji doživljava svijet i samoga sebe. Upravo zato enciklika s pravom upozorava da tehnološki napredak mora biti praćen jednako snažnim razvojem etičke odgovornosti i antropološke svijesti. Najveća opasnost nije da će mladi izgubiti interes za stvarni svijet, nego da ćemo postupno izgubiti sposobnost razlikovanja onoga što je tehnički moguće od onoga što je istinski ljudski dobro.
U kojem je smislu Papa pozvao na razoružanje?
U enciklici se inzistira na uporabi tehnologije za opće dobro, u skladu s dostojanstvom svih ljudi. Međutim tehnološki su proizvodi komercijalni i dizajnirani su tako da što dulje zaokupe pozornost korisnika. Jesu li utoliko spojivi s općim dobrom i društvenom pravdom?
Mislim da sama činjenica da je neka tehnologija komercijalna ne znači da je nužno suprotna općemu dobru. Uostalom gotovo svaka ljudska djelatnost povezana je s određenim interesom. Problem nastaje kada interes postane jedini kriterij djelovanja. U ekonomiji često kažemo da dobro stvara interes, interes stvara kapital, kapital stvara utjecaj, a utjecaj oblikuje tržište. To samo po sebi nije negativno. Naprotiv, mnoge korisne inovacije nastale su upravo zato što je netko prepoznao stvarnu ljudsku potrebu i u njoj vidio mogućnost razvoja. Međutim pitanje koje postavlja enciklika jest tko određuje što je dobro. Ako se dobro poistovjeti isključivo s profitom, korisnik vrlo lako postaje proizvod. Njegova pozornost, navike, emocije i osobni podatci pretvaraju se u robu kojom se trguje. Zato Papa upozorava da tržište ne može biti jedini arbitar tehnološkoga razvoja. Katolička socijalna misao nikada nije bila protiv poduzetništva, tržišta ili inovacija, ali inzistira da gospodarstvo mora ostati u službi osobe, a ne osoba u službi gospodarstva. Tehnologija je doista spojiva s općim dobrom, ali samo kada čovjek ostane njezin cilj, a ne sredstvo. Drugim riječima, profit je legitiman, ali ne može biti posljednja mjera uspjeha. Posljednja mjera uvijek mora biti pitanje pridonosi li određena tehnologija rastu ljudskoga dostojanstva, slobode i zajedništva.
Da, mislim da već živimo početke takve promjene. Transhumanizam i posthumanizam nisu samo tehnološki projekti, nego izražavaju novu sliku čovjeka. Sve se više cijene brzina, učinkovitost, optimizacija i prilagodljivost, a ovisnost, ranjivost, sporost i trajnost često se doživljavaju kao nedostatci koje treba ukloniti. Takva promjena paradigme ne zahvaća samo gospodarstvo ili tehnologiju, nego i religiju. Kršćanstvo je duboko ukorijenjeno u kategorijama sjećanja, predaje, autoriteta i pripadnosti zajednici. To nije specifičnost samo kršćanstva, nego svih velikih semitskih religija. Međutim novo digitalno doba oblikuje čovjeka koji autoritet traži u algoritmu, identitet u mreži, a istinu u trenutačnoj dostupnosti informacija. To je radikalno drukčiji kulturni krajolik od onoga u kojem su nastajale naše institucije i obrasci prenošenja vjere. Zato Papino upozorenje ne razumijem kao odbacivanje tehnologije, nego kao poziv na novu antropološku i teološku budnost. Ako se paradigma mijenja, Crkva ne može ostati nijemi promatrač. Potrebno je ono što je Drugi vatikanski sabor nazvao aggiornamento – ne promjena vjere, nego obnova načina na koji vjera ulazi u dijalog sa suvremenim svijetom. Upravo zato smatram da je najveći izazov našega vremena ne kako očuvati stare strukture, nego kako trajnu istinu o čovjeku i njegovu dostojanstvu izraziti u civilizaciji koju sve više oblikuju umjetna inteligencija, algoritmi i neurotehnologije. Ako Crkva uspije odgovoriti na taj izazov, ova tehnološka revolucija ne će biti samo prijetnja, nego i nova prilika za evangelizaciju i svjedočenje evanđelja.
Naravno da bih kao bioetičar volio vidjeti još snažniju raspravu o neurotehnologijama, neuroimplantatima, sučeljima između mozga i računala te pitanju mentalne privatnosti. To su teme koje će u sljedećim desetljećima imati goleme antropološke i etičke posljedice. Međutim mislim da bi bilo pogrješno promatrati encikliku kao dokument koji treba iscrpno obraditi sva tehnička pitanja povezana s umjetnom inteligencijom. U tom smislu ona me podsjeća na »Rerum novarum«. Papa Lav XIII. nije 1891. godine napisao tehnički priručnik o industrijskoj revoluciji niti je mogao predvidjeti sve društvene procese koje će ona proizvesti. Njegova je zadaća bila ponuditi temeljna načela za prosuđivanje nove stvarnosti. Upravo zato taj dokument i danas ostaje aktualan.
Slično vrijedi i za encikliku pape Lava XIV. Njezina snaga nije u tome što daje odgovore na svako pojedino tehnološko pitanje, nego što postavlja antropološke i moralne kriterije prema kojima ćemo moći prosuđivati i izazove koji tek dolaze. Ona ne nudi katalog rješenja, nego kompas. Zato bih rekao da neki problemi doista ostaju otvoreni, ali to ne smatram nedostatkom dokumenta. Naprotiv, to pokazuje svijest da se tehnološke promjene odvijaju brže nego što ih može pratiti bilo koji pojedinačni crkveni dokument. Zadaća enciklike nije iscrpiti temu, nego pružiti načela koja će ostati valjana i kada se današnje tehnologije budu činile zastarjelima.
Po mojem mišljenju enciklika je u svojem temelju teološka, ali se služi filozofijom kao važnim sugovornikom. Papa Lav XIV. ne polazi od tehnologije, nego od čovjeka kao slike Božje. To je nedvojbeno teološko polazište. Međutim da bi razumio suvremenoga čovjeka, on ne oklijeva ući u dijalog s filozofima, društvenim znanstvenicima i tehnološkom kulturom našega vremena.
To zapravo mnogo govori i o samom Papi. Dolazi iz Sjeverne Amerike, iz kulturnoga prostora koji je desetljećima među glavnim pokretačima digitalne revolucije. Riječ je o čovjeku koji razumije jezik suvremene kulture, koji bez teškoća govori o umjetnoj inteligenciji, algoritmima i digitalnim platformama, a pritom ostaje duboko ukorijenjen u katoličkoj teološkoj tradiciji. Nije nevažno ni to što pripada generaciji koja svakodnevno živi s tehnologijom, od pametnoga telefona do Apple Watcha. Drugim riječima, ne govori o digitalnom svijetu kao o nečem stranom, nego kao o stvarnosti koju i sam dijeli. Upravo zato smatram da je Lav XIV. u mnogočemu dijete svojega vremena, ali ne u smislu da se prilagođava duhu vremena, nego da ga razumije. Kršćanstvo je uvijek bilo najsnažnije kada je znalo razumjeti svijet u kojem naviješta evanđelje. Možda će se jednoga dana pokazati da najveća vrijednost ove enciklike nije u onome što govori o umjetnoj inteligenciji, nego u načinu na koji pokazuje da Crkva ne kasni za poviješću. Pred nama je Papa koji poznaje tehnološku revoluciju iznutra, ali dovoljno vjeruje u čovjeka da ga ne prepusti tehnologiji. Upravo u toj napetosti između vjernosti tradiciji i razumijevanja budućnosti vidim jedan od najprepoznatljivijih znakova njegova pontifikata.
