Na 69. godišnjoj konferenciji Europske federacije kršćanskih nastavnika, koja je održana ljetos u Napulju, p. Gaël Giraud, isusovac, nastupio je kao jedan od pozvanih govornika. Govorio je o promjeni ekonomskih modela iz perspektive zajedničkoga dobra, a dotaknuo se i etičkih problema koji proizlaze iz tzv. umjetne inteligencije. Rado se odazvao na razgovor za Glas Koncila.
Mislim da su dvije točke bile prijelomne. Prva je bila moje iskustvo u Africi. Poslan sam u Čad, afričku zemlju južno od Libije, poučavati u isusovačkoj gimnaziji. Radio sam ondje kao nastavnik matematike i fizike. Bio sam upravo dovršio doktorat iz matematike i trebao sam odslužiti vojsku u Francuskoj. Želio sam obaviti civilnu službu pa sam radi toga završio u Čadu. U slobodno vrijeme provodio sam mnoge trenutke na ulici, s djecom koje je u tom gradu bilo doista mnogo na ulici. Naposljetku smo, prije dvadeset godina, izgradili centar za njih kroz koji je do sada prošlo 500-tinjak djece. Boraveći među njima, iskusio sam evanđelje. Bili su posve siromašni, nisu imali doslovno ništa, a istodobno su imali duboku radost. Pomogli su mi iskusiti blaženstva, ono kada Isus kaže »blago siromasima«. Za mene to nije više bilo nešto apstraktno. Kada pomislim na blaženstva, pomislim na tu djecu. Želio sam nastaviti napajati se na izvoru radosti kojoj su me naučili. Kada sam se vratio iz Čada, poželio sam postati isusovac i živjeti s vrlo siromašnim ljudima koji su me poučili radosti evanđelja. Bio sam odgojen kao katolik i primio sam klasičnu kršćansku formaciju, iako su moji roditelji imali kritičku distancu spram Crkve, poput mnogih francuskih intelektualaca. Usprkos tomu, željeli su da ja i moj brat primimo tradicionalno, klasično obrazovanje i kršćansku formaciju. Pohađao sam vjeronauk, bio sam ministrant. U dobi od deset godina jako sam zavolio Bachovu glazbu i pitao sam se koje zanimanje trebam odabrati kako bih svaki dan mogao slušati Bacha. Rekli su mi da moram postati orguljaš ili svećenik! Tijekom adolescencije ta je ideja nestala, no vratila se u ranim dvadesetima. Drugi je oblik zvanja koji me privukao to što se isusovci šalju u misije – trebali bi ići do krajnjih granica svijeta.
To što opisujete naziva se dubokom ekologijom. Ona definitivno nije kršćanska. Neki od njezinih zastupnika išli bi toliko daleko da kažu da čovječanstvo treba nestati kako bi prestalo uništavati planet. To sigurno nije kršćanski. Kršćanska tradicija potvrđuje da je ljudsko biće doista u središtu, kao što kaže Knjiga Postanka, ali ne u središtu kako bi dominiralo, vladalo na nasilan način, nego kako bi služilo svemu stvorenju. Vjerujem da to pitanje seže do Postanka 1, 28 i načina kako interpretiramo taj dio Svetoga pisma. Ondje Bog govori Adamu i Evi da se množe i sebi podlože zemlju, ali ne kaže da je mogu uništiti. Mnogi ljudi od 60-ih godina 20. stoljeća nadalje optužuju kršćane, smatrajući ih odgovornima za ekološku katastrofu, zbog toga biblijskoga teksta. Židovi dijele s kršćanima Stari zavjet, a i muslimani priznaju Knjizi Postanka određenu važnost, stoga ta prozivka ne ide samo kršćanima. U enciklici Laudato si’ papa Franjo se eksplicitno pozabavio tom interpretacijom Postanka i kaže da je razumijevanje vladavine kao uništavanja pogrješna interpretacija. U svojem sam doktoratu iz teologije pokušao razumjeti što to znači vladati planetom. Odgovor koji nudim seže do završetka Biblije, u Otkrivenje. U Otk 3, 20-21 Bog govori: »Evo, na vratima stojim i kucam; posluša li tko glas moj i otvori mi vrata, unići ću k njemu i večerati s njim i on sa mnom.« I Bog dodaje: »Pobjednika ću posjesti sa sobom na prijestolje svoje, kao što i ja, pobijedivši, sjedoh s Ocem svojim na prijestolje njegovo.« Drugim riječima, Bog otac želi podijeliti svoju moć s nama. Moć je zajedničko dobro; Bog želi da sjedimo na prijestolju s Kristom. U paraboli o talentima, kada se vrati, kralj pita svoje sluge što su učinili s novcem koji im je povjerio. Kada jedan od njih odgovori da ga je desetostruko umnožio, kralj ga pohvali i kaže da će mu dati da vlada nad deset gradova; on dijeli s njim svoju moć. Mislim da, želimo li ispravo protumačiti Postanak 1, 28, moramo razumjeti što znači vladati, imati moć. To znači dijeliti je. Znači, čovjek je stavljen u središte stvorenja kako bi mu služio. Pozvani smo od Boga podijeliti svoju moć s drugim stvorenjima, a ne uništiti ih. Tada smo jako daleko od duboke ekologije.
To je razlog što neki ljudi ne žele imati djecu. Rekao bih da se vaša generacija suočava s golemim izazovom s kojim se nitko prije nije suočio. Pripadate generaciji mladih kojima treba približiti činjenicu da imaju povijesnu misiju; oni moraju spasiti planet od destrukcije. Ako eliminiraju sebe, tko će ga spasiti? Prije deset godina, kada bih im to govorio, vidio sam sjaj u očima mladih. Mislili su: »Imam veliku misiju u životu!« To je bilo tako do prije dvije godine. Od tada vidim novu tendenciju. Neki su mladi danas toliko zasićeni ekologijom. Odrasli su uz govor o zaštiti okoliša, a to je u njima uzrokovalo velik nemir. Osjećaju da se ne mogu nositi s tom temom pa je odlučuju ignorirati. To se događa i zbog toga što vide da naša generacija ništa ne poduzima ili poduzima vrlo malo. Događa se neka vrsta rascjepa. Govorimo im da nešto treba učiniti, a istodobno velika većina odraslih ništa ne čini. Ne znam kako reagirati na tu tendenciju, to je vrlo teško.
Kakav koncept zajedničkoga dobra zagovarate?
Kako pomiriti ekonomiju slobodnoga tržišta – koja je povezana s potrošačkim društvom – s ekološkom tranzicijom? Pogotovo kada pojedine korporacije nerijetko imaju više političke moći od nekih vlada…
Moje je iskustvo da, kada govorimo o globalnom zatopljenju, većina upravitelja industrije sada shvaća da je promjena paradigme u njihovu interesu. Poduzetništvo je danas »zelenije«. Ne bih to rekao prije deset godina, no moje je iskustvo da se to događa. Tu postoji jedna iznimka – banke. One se doista suočavaju s velikim problemom. One imaju mnogo financijske imovine povezane s fosilnim gorivima jer su financirale mnoga ulaganja u fosilna goriva. A to je zrcalna slika naših odluka. Ako odlučimo prestati upotrebljavati fosilna goriva, vrijednost te imovine banaka past će na nulu. To će banke dovesti do bankrota i one to znaju. Ekološku tranziciju zato vide kao neprijatelja. Tomu se može doskočiti čineći isto što i 2009. – kreiranjem javnih banaka. Tada su osnovane javne banke – »loše banke« – koje će kupiti »toksičnu imovinu« privatnih banaka i zadržati je. Privatne banke tako bi zaradile novac. A ako vrijednost imovine padne na nulu, javna banka može podnijeti taj gubitak. To rješenje ipak sadrži problem: kada javne banke gube imovinu, raste javni dug, koji plaćaju građani. To nije pravedno rješenje. Postoji mnogo bolje rješenje. Europska središnja banka (ECB) može odigrati ulogu »loše banke«. Ona može podnijeti gubitak, može se rekapitalizirati tako da jednostavno kreira novac. Privatna banka to ne može učiniti. Kada sam to rekao prije nekoliko godina u Francuskoj, neki su me ekonomisti oštro kritizirali. Tada je, srećom, Banka za međunarodna poravnanja (BIS), koja kontrolira sve nacionalne središnje banke u Eurozoni, objavila dokument u kojem se kaže da je moj pristup ispravan. No i to rješenje ima manu. To je povjerenje u euro. Moj je odgovor: ako se privatne banke spase, tada one mogu financirati ekološku tranziciju u Europi. Na taj će način biti stvoreno mnogo novih, »zelenih« radnih mjesta, ekonomija će rasti, a ljudi će povratiti povjerenje u euro.
U »umjetnoj inteligenciji« (UI) ne postoji ništa doista inteligentno. Riječ je o varljivoj metafori za neuralnu mrežu koja je zapravo tek niz prekidača. Ono što nazivamo »neuronom« zapravo je niz sklopki. Kada se doda nekoliko slojeva takvih sklopki, omogućeno je »dubinsko učenje« i tada imamo nešto što počinje nalikovati na inteligenciju, ali nema veze sa stvarnim razumijevanjem, nego je tek vrlo brzo računanje. Takav stroj računa mnogo brže nego što to može ijedno ljudsko biće, što pruža dojam inteligencije. Međutim, riječ je o glupom stroju koji je istreniran na milijunima primjera tako da može u većoj ili manjoj mjeri izbaciti odgovor koji se doima inteligentnim. Dva su temeljna problema koja otkrivaju koliko je zapravo stroj neinteligentan. Prvi je problem halucinacija. Postavite li ChatGPT-ju ozbiljno pitanje, npr. tražite stručni rad koji je 70-ih godina 20. stoljeća napisao vrlo poznat mađarski ekonomist o vezi između rasta plaća i pritiska nezaposlenosti – Chat GPT izbacit će rad koji ne postoji, navodno objavljen u časopisu koji nikada nije postojao, a koji nikada nije objavljen. To se naziva halucinacijom. Neko doista inteligentno biće nikada ne bi takvo nešto proizvelo. Ne radi se o laži. Stroj ne laže jer ne razumije razliku između istine i laži – on izmišlja. To se događa zato što sadrži određen broj informacija na temelju kojih daje odgovor. Postavite li mu vrlo jednostavno pitanje, odgovorit će jednostavno; odgovor će zadovoljiti sve kriterije i bit će točan. Međutim, postavite li mu složeno pitanje, izbacit će odgovor koji ne će razlikovati između halucinacije i istine. A postoje i vrlo jednostavne stvari o kojima ne možete komunicirati sa strojem, jer on »ne vidi« ono što vi vidite – ne može protumačiti grafove, primjerice.
Postoji mnogo etičkih problema. Nekolicinu je spomenuo i papa Franjo. U medicini postoji određena napast da se kaže da nam više ne trebaju liječnici, umjesto njih postoji umjetna inteligencija. To znači, kada je netko bolestan i razgovara s liječnikom, sam razgovor koji vodi s tim ljudskim bićem dio je njegove terapije budući da zna da postoji drugo ljudsko biće koje razumije njegovu patnju, koje se s njom može nositi i pronaći rješenje. Nije to samo matematički problem, to je ljudsko biće koje razgovara s drugim ljudskim bićem.
Vrlo jednostavan primjer: kada ljudi koji boluju od raka razgovaraju s vama i objašnjavaju svoju povijest, u samom razgovoru dožive olakšanje. Vrlo je često odnos s onkologom vrlo važan. Ako vjerujem liječniku, vjerojatnost oporavka mnogo je veća. To nikada ne možete postići sa strojem. Drugi su problem sudci i pravda. U mnogim sudovima u SAD-u danas postoje UI-softveri koji su obučeni za rješavanje slučajeva unutar američkoga pravnoga sustava. Oni »znaju« milijune slučajeva. Netko dođe s novim slučajem i pita stroj, u prosjeku, što bi trebalo odlučiti. Kada sudac odluči nešto drugo, a ne ono što kaže stroj, neki se ljudi žale i kažu da stroj zna bolje od sudca! To je vrlo opasno, prije svega zato što je američko pravosuđe kroz povijest bilo duboko pristrano, primjerice u pitanjima povezanim s rasizmom, seksizmom i društvenom segregacijom, i ako stroj treba odlučivati o pravdi, replicirat će pristranost. I postoji treći problem, možda najviše zabrinjavajući – smrtonosno oružje. Papa Franjo bio je vrlo jasan po tom pitanju. Nikada ne bismo smjeli dopustiti stroju da odlučuje trebamo li nekoga ubiti ili ne. I to se sada događa. Postoji autonomno smrtonosno oružje. Imamo dronove koji mogu ubijati ljude pomoću umjetne inteligencije. To je bezumno. Stroj može pogriješiti i ubiti nekoga tko je nevin. Tko je za to odgovoran? Stroj nema etičku odgovornost. U tom kontekstu koncept zakonitoga rata i ratnih zločina nema više smisla, ratno pravo dolazi u pitanje, a time i međunarodno pravo.
Naravno. Svi su chatbotovi pristrani u smislu da su obučeni na određenoj kategoriji podataka, a te podatke sortirali su ljudi. U Keniji slabo plaćeni radnici cijeli dan sortiraju podatke kako bi obučili strojeve umjetne inteligencije jer moraju izbrisati sve što je antisemitsko, rasističko ili pornografsko. Naravno, sve dok se radi o takvim sadržajima, to je redu, ali mogu pokazati mnogo više pristranosti – poput one koju ste spomenuli. Definitivno su chatbotovi politički orijentirani. Kako i ne bi bili? Izradili su ih ljudi. No postoji još jedan problem – »kodna bolest«. Novi chatbotovi, oni najmoćniji, »gutaju« sve što je na internetu i to »probavljaju«. Za razvoj većih modela potrebno je više podataka, a oni su već iscrpili sve podatke dostupne na internetu. To je predviđeno prije nekoliko godina. Inženjeri u Kaliforniji obučavali su nove chatbotove pomoću umjetnih podataka koje nisu stvorili ljudi, nego UI-strojevi. Tako sada imamo drugu generaciju UI-ja koja je obučena na podatcima koje je stvorila umjetna inteligencija prve generacije. Jasno, tu se ne staje. Ako se dođe sve do šeste generacije, primjećujemo svojevrsnu dekadenciju stroja. Oni tada stvaraju potpune besmislice. Proveden je eksperiment. Ljudi su zadali stroju abecedu i, nakon nekoliko ciklusa treninga na podatcima koje je kreirala umjetna inteligencija, tražili da reproducira abecedu. Modeli šeste generacije izbacili su sva slova identična – abeceda je bila izgubljena. To nije halucinacija, to je strukturni problem koji proizlazi iz činjenice da postoji previše pravilnosti u podatcima koje proizvodi umjetna inteligencija. Kada trenirate stroj na sintetskim podatcima, on postaje »glup«, ne kao ljudsko biće, nego kao stroj. Zašto je to golem problem? Postoji gornja granica veličine strojeva koje možemo izgraditi. Ne možemo izgraditi više od šeste generacije. Nakon šeste generacije stroj se ponaša nekoherentno. No to također znači da imamo golem problem s internetom jer više nismo sigurni da je sadržaj na internetu napisao čovjek, a ne umjetna inteligencija. I ne znate kojoj generaciji pripada! Tako da »strojevi jedu strojeve koji postaju glupi«.
Ne. Vjerujem da bi ekološka tranzicija trebala voditi u suprotnom smjeru. Trebala bi nas poučiti kako stvarati energiju u vlastitu dvorištu, pomoću vjetroturbine ili slično. A ako možete proizvesti vlastitu energiju, imate i vlastitu političku moć. To ide ruku pod ruku. Rekao bih da je ekološka tranzicija način oporavka jedinstvenosti i lokalnoga osnaženja. Imate malu energetsku zajednicu – i to stvara duh sela. Time se stvara zajedničko dobro. To je jedan od najvažnijih protuotrova protiv uniformnosti. Uniformnost, vjerujem, leži u dvome. Prvo, industrijskoj revoluciji. Industrijska kultura potpuno je uniformirala kulturu, jezike, ideje, a zatim društvene medije. Drugo, sve se tribaliziralo. Tehnologija me zatvara u krug ljudi koji misle kao ja. Zahvaljujući personalizaciji pretraživanja, na mreži susrećem samo ljude koji misle kao ja. U vlastitom sam balonu, nema načina da promijenim mišljenje. Svakako nam je potrebna regulacija društvenih medija, i ekološki pomak – promicanje zajedničkih dobara, što je način da se malim zajednicama vrati jedinstvenost. Poljoprivreda i biciklizam moraju se prilagoditi mjestu u kojem živimo. Svako je mjesto jedinstveno i mora pronaći svoj vlastiti ekološki put.
