Redatelj Chris Paine dokumentarnim filmom »Vjerujete li ovom računalu?« (ne)uspješno je kanio upozoriti na opasnost da umjetna inteligencija nadiđe ljudsku inteligenciju, postigne samosvijest, osamostali i počne kontrolirati čovječanstvo, te da najzad čak i uništi ljude

Dokumentarni film »Vje­rujete li ovom računalu?« američkoga redatelja i producenta Chrisa Painea (»Tko je ubio električni auto«, »Osveta električnog auta«) započinje zanimljivim i znakovitim citatom: »Ti si moj stvoritelj, ali ja sam tvoj gospodar.« Citat je to iz romana »Frankenstein ili moderni Prometej« engleske književnice Mary Shelley (1797. – 1851.), koji je anonimno izdala 1818. godine (to je bio njezin prvi znanstvenofantastični roman, a prema mnogima i prvi roman toga žanra uopće). Po čemu je zanimljiv i za današnje, informatičko doba relevantan citat iz romana koji je prije točno dvjesto godina napisala i anonimno izdala jedna žena (to da je riječ o ženi zanimljivo je ne samo u kontekstu tipično »muškoga« područja računarstva i općenito tehnologije, nego i u kontekstu vremena kad je roman napisan, kada se na ženske autore gledalo s podsmijehom)? Shelley zasigurno nije mogla predvidjeti to da će se taj citat iz njezina romana pojaviti na početku dokumentarnoga filma koji se bavi umjetnom inteligencijom (UI), ali je zasigurno primijetila da razvoj tehnologije utječe na živote ljudi njezina vremena, koje je danas poznato kao prva industrijska revolucija. Naime, u prvoj polovici 19. stoljeća, tijekom prve industrijske revolucije (1760. – 1840.), tehnologija se ubrzano razvijala i poprilično dramatično mijenjala ne samo način proizvodnje nego i stil života, pa i samu zapadnu kulturu, prvo u Velikoj Britaniji, a zatim u kontinentalnom dijelu Europe i tadašnjim britanskim kolonijama. Zato je vrlo zanimljivo i gotovo proročansko njezino upozorenje, koje je, doduše alegorijsko, u formi fikcije, da bi ista tehnologija koju ljudi razvijaju da bi im služila, mogla postati zlatno tele kojemu će se klanjati i koje će upravljati njihovim životima.

Sličan cilj imao je i redatelj Paine i njegova autorska ekipa: upozoriti gledatelje na opasnost da UI nadiđe ljudsku inteligenciju (postigne razinu super-inteligencije), postigne samosvijest, otme se kontroli, osamostali i počne kontrolirati čovječanstvo, te da najzad čak i uništi ljude ako procijeni da joj oni predstavljaju prijetnju. U tom kontekstu citat iz Shelleyina romana dobiva dodatno na težini jer je i njezin glavni lik u romanu, Victor Frankenstein, ciljao stvoriti biće kojim će on moći upravljati i koje će mu služiti, ali na kraju to biće počne upravljati njegovim životom te mu određuje sudbinu. Ipak, u današnjem kontekstu (i mogućoj budućnosti) ostaje diskutabilno može li UI postići samosvijest i donositi samostalne, neprogramirane odluke koje su svojstvene živim bićima, koja su, u borbi za opstanak, ponekad prisiljena ubijati druga bića.

Intervjui sa stručnjacima

Odgovore na ta i slična pitanja Paine je pokušao dobiti u intervjuima s brojnim relevantnim stručnjacima iz područja novih tehnologija, računarstva i specifično UI-ja, kao što su Stuart Russell (koautor knjige »Artificial intelligence: a modern approach« (»Umjetna inteligencija: moderni pristup«), Eric Horvitz (ravnatelj »Microsoftova« Istraživačkoga laboratorija), Andrew Ng (suosnivač »Google Braina«), Shivon Zilis (ravnatelj »OpenAI«), i raznim drugim kompetentnim (i nekim manje kompetentnim) stručnjacima i autorima, među kojima se po broju pojavljivanja i minuta iz intervjua ističu scenarist i redatelj Jonathan Nolan (brat mnogo poznatijega Christophera Nolana) i poduzetnik Elon Musk (osnivač i direktor »Tesle«).

Je li preuranjeno govoriti o super-inteligenciji?
Jedna od tema kojima se bavi dokumentarac »Vjerujete li ovom računalu?« prikupljanje je informacija, kao što to na primjer čini »Google« kada se rabi njihova tražilica na internetu. Elon Musk u dokumentarcu poprilično fatalistički predstavlja tu činjenicu i algoritme koji predviđaju unos pitanja kao primjer umjetne inteligencije i naznaku za daljnji razvoj nečega što će u konačnici prerasti u super-inteligenciju – računalo koje po inteligenciji nadilazi ljudska bića. Iako je jednostavna činjenica da internetske tražilice i drugi pružatelji usluga prikupljaju osobne podatke koje zatim rabe da bi učinkovitije sugerirali sljedeću kupnju, to je još uvijek vrlo daleko od prave super-inteligencije. Cijelo to područje prikupljanja podataka o potrošačima i o oglašavanju mnogo bolje od Painea prezentirao je Stephen Baker u svojoj knjizi »Numerati« (prevedena na hrvatski i objavljena 2009.)

 

Utjecaj UI-ja na živote ljudi

Paine gledatelje vodi na prilično uzbudljivo i dinamično putovanje kroz razne teme vezane uz UI, uključujući robotiku (automatizaciju radnih mjesta), autonomna oružja (vojni dronovi) i samovozeće automobile, sve obilno ilustrirano CGI robotima iz raznih igranih filmova i citatima poznatih istraživača. Ambiciozno pokušava pružiti objektivnu analizu prijetnje i potencijala UI-ja, ali nažalost u tome ne uspijeva u potpunosti jer ne pruža dovoljno potrebnih detalja i različitih perspektiva koje bi mogle dodatno osvijetliti glavnu temu kojom se bavi. K tomu, neuravnoteženo ističe negativne aspekte razvoja tehnologije na štetu pozitivnih aspekata kao što su uporaba robotike i UI u medicini i drugim granama znanosti, u obrazovanju i u svakodnevnom životu.  Čini se da je zato, paradoksalno, Shelley bila mnogo ozbiljnija u svojoj analizi utjecaja tehnologija na ljude nego Paine, iako je u njezinu slučaju riječ o fikciji iz doba prve industrijske revolucije, a u potonjem o dokumentarnom filmu koji prezentira mišljenja relevantnih stručnjaka o opasnostima umjetne inteligencije.

Ipak, taj je paradoks manji ako se igrane i dokumentarne filmove stavi u ponešto drukčiji kontekst: u igranim filmovima ponekad ima više istine nego u dokumentarnim jer se igrani filmovi među ostalim bave i univerzalnim činjenicama i pitanjima koja su važna svim ljudima i zato su »istinitiji« od dokumentarnih filmova, koji su često pretenciozni, manipulativni ili jednostavno loše odrađeni zbog manjka sposobnosti autora. K tomu se može dodati i činjenica da prosječni gledatelj, kada odabere igrani film, zna da je riječ o fikciji i ne shvaća takav film preozbiljno, dok prečesto zaboravlja da su svi dokumentarni filmovi ipak subjektivni i ograničeni te najčešće ne mogu prezentirati sve važne nijanse teme kojom se bave.

Za autore filma »Vjerujete li ovom računalu?« vjerojatno bi bila prestroga ocjena nazvati ih nekompetentnima i manipulativnima jer se u dokumentarcu može prepoznati iskrena zabrinutost za budućnost ljudi i smjer u kojem ide razvoj UI-ja, ali to ih ne može u potpunosti osloboditi od odgovornosti koju snose za popriličnu narativnu zbrku i (neuspio) pokušaj da pokriju široki spektar tema koje se tiču razvoja novih tehnologija. Unatoč tomu, taj dokumentarac treba pogledati jer otvara mnoge zanimljive teme i može poslužiti kao koristan i provokativan početak ozbiljnijega istraživanja i javne rasprave o utjecaju UI-ja na živote ljudi (već sad, a još više u budućnosti), što je nasušno potrebno.

Skupocjena »besplatna kava«
Japanski lanac kafića »Shiru Cafe«, koji posluje najviše u Japanu i Indiji, lansirao je prvu američku inačicu u Providenceu, Rhode Island, na kampusu Sveučilišta Brown početkom ove godine. Da bi dobili besplatnu kavu, korisnici moraju biti studenti ili profesori koji su voljni »Shiru Cafeu« putem online procesa registracije dati na uvid svoje osobne podatke: imena, datume rođenja i radno iskustvo. Tvrtka se planira proširiti na više lokacija u SAD-u do kraja godine, a jedan od komentara na takvu ponudu »besplatne« kave sažima cijelu problematiku »besplatnoga« u britkoj rečenici: »Ako nešto plaćate svojim podatcima, onda to nije besplatno nego jako skupo jer pružatelj usluge dobiva mnogo više nego što daje.«

IZVORPrilika br. 10/2018.
Prethodni članakKAKO NA FILMSKOM PLATNU IZGLEDA ISKUSTVO BORBE ZA ŽIVOT Iz olujnoga mora ući u novu dimenziju života
Sljedeći članakZAŠTO DJEVICU MARIJU NAZIVAMO »POSUDO POŠTOVANA«, »TORNJU DAVIDOV«, »KUĆO ZLATNA«? Litanije su remek-djelo pučke pobožnosti