Foto: Huttertock;HKS/AI, Bitno.netPrva enciklika pape LavaFoto XIV. Magnifica humanitas velikim se dijelom bavi pitanjem umjetne inteligencije, kako u vidu promjena koje je ona već donijela, tako i u vidu mogućih posljedica za budućnost. Tema enciklike nije nikoga iznenadila, jer je već odabirom svojeg imena Lav XIV. naznačio da će se njegov pontifikat pozabaviti pitanjem tehnološke revolucije koja, baš kao i industrijska revolucija prije nje, utječe na svakodnevni život kako vjernika i nevjernika. Budući da je riječ o pitanju koje sadrži i duhovni i stručni aspekt, odlučili smo o njemu porazgovarati s vlč. doc. dr. Odilonom-Gbènoukpom Singbom, redovitim profesorom na Sveučilišnoj katedri za teologiju i na Tehničkom fakultetu Hrvatskog katoličkog sveučilišta.

– Jeste li uspjeli pogledati papinu encikliku, kakvi su vaši prvi dojmovi?

To je tema kojom se bavim već nekoliko godina i kako sam ranije saznao da osim Antiqua et nova dolazi drugi dokument u obliku enciklike, naravno da sam s nestrpljenjem to iščekivao. Prvi dojam je da se radi o jednom dokumentu koji se može nazvati Kompendijem crkvenog socijalnog nauka o suvremenoj tehnologiji i njezinom utjecaju na razna područja ljudske djelatnosti. Pritom se dokument ne „boji“ imenovati neke ideološke pozadine razvoja tehnologije.

– Zašto poglavar katoličke Crkve ima potrebu progovarati o umjetnoj inteligenciji?

Ovo je pitanje legitimno iz raznih razloga. Najprije riječ je o jednom uskom segmentu tehnoloških razvoja pa se može očekivati da bude enciklika koja bi se općenito bavila pitanjem tehnologija, a ne „detaljima“. Nadalje, ako uzmemo u obzir nestalnost, brzinu i promjenjivost karakteristične za umjetnu inteligenciju zaista se može s pravom pitati čemu crkveni dokument o takvoj tematici. Međutim tko malo prati te dinamike vrlo lako shvaća da se ostvaruje ono što papa Franjo naznačio kao promjenu epohe, a jedno od ključnih obilježja ili sadržaja tehnokratska paradigma kojom se želi doći do brzih rješenja svih ljudskih, egzistencijalnih pitanja i čežnji. Ono čime se želi to konkretno ostvariti upravo je umjetna inteligencija. Prema tome, ovaj dokument nije samo prigodan, nego obveza Crkve, majke i učiteljice mudrosti.

– Na koji način je razvoj umjetne inteligencije drugačiji od svih tehnoloških napredaka dosad, te je li pretjerano govoriti da se društvo nalazi na prekretnici kakva dosad nije zabilježena?

Spomenut ću opet papu Franju koji je upravo istaknuo u Laudato si’ da se, razvojem tehnologija, nalazimo na raskrižju, a ključno je pitanje kojim smjerom trebamo dalje ići. Razvoj umjetne inteligencije zasigurno je drukčiji od ranijih napredaka iz više razloga. Po prvi put imamo alat koji ima naizgled uvjerljiv odgovor svim, baš svim našim pitanjima. Nema pitanja na koje nema odgovora. Tu ne ulazim u istinitost odgovora. Drugo, nema područja u koja primjena umjetne inteligencije ne ulazi što nas stavlja pred ključno pitanje naše odgovornosti prema sebi samima. Naime, pretjerano delegiranje procesa odlučivanja umjetnoj inteligenciji npr. na području zdravstva, ratne prakse, intelektualnog stvaralaštva, umjetnosti itd., nosi opasnost difuzije odgovornosti, intelektualne atrofije, i grube dehumanizacije. Nije stoga čudno da podnaslov dokumenta ističe da je riječ ponajprije o očuvanju ljudske osobe u doba umjetne inteligencije.

– O umjetnoj inteligenciji se puno govori, ali čini mi se da malo ljudi zna kako ona uistinu djeluje. Koja je najčešća zabluda koju prosječan čovjek ima o njoj?

Prije svega treba istaknuti da se ne trebamo bojati umjetne inteligencije jer nije umjetni oblik ljudske inteligencije već je proizvod ljudske inteligencije te stoga još uvijek možemo imati kontrolu nad njom. Nadalje riječ je o alatima, a ne slobodnim „hibridnim ljudima“ koji se nalaze negdje u nevidljivom svijetu te upravljaju našim životom i svijetom. Učinkovitost i brzina kojom ti alati daju odgovor na neke naše zahtjeve može izazvati određene strahove ili krive predodžbe u obliku onih opasnosti koje sam gore istaknuo. Tako se mogu stvoriti i određene psihološke posljedice kod čovjeka. Navest ću samo primjer fenomen “jezive doline” koji je karakterističan po tome što „inteligenciju“ umjetne inteligencije mnogi doživljavaju kao nešto što je čovjeku slično, a opet nije isto kao čovjek. Taj jaz između sličnost, a opet ne istosti je ta dolina koja stvara osjećaj manje vrijednosti, poniženja i zbunjenosti. Time zaboravljamo da umjetna inteligencija nije inteligencije u strogom smislu, nego pokušaj imitacije ljudske inteligencije koja je daleko složenija od mehaničkog oponašanja najvećeg izraza inteligencije.

– Jedna od najčešćih rečenica koje se može čuti prilikom svakog razvoja tehnologije je da je tehnologija „neutralna“, ali Papa u ovoj enciklici ističe da razvoj umjetne inteligencije nije neutralan. Što utječe na njegovu moralnu procjenu?

U enciklici Caritas in veritate pape Benedikta XVI. nalazimo već ovu misao. Stoga je ova rečenica upravo nastavak crkvenog nauka, osobito glede tog načina razumijevanja tehnološkog razvoja. U broju 69 spomenute enciklike, papa Benedikt XVI. tvrdi kako „tehnika nikad nije samo tehnika“. Time jasno daje do znanja da je neodrživ stav po kojem je tehnologija neutralna zbilja te sve ovisi o tome kako je koristimo. Za njega je u svakoj tehnologiji već upisana određena namjera. Takvo razumijevanje koje je nekad vrijedilo danas više ne stoji. U brojevima 9, 85,102-104, 209, enciklike Magnifica humanitas papa Lav nastavlja tu ideju ne-neutralnosti tehnologije. Naime, te tehnologije nose svjetonazor, moralne vizije, filozofiju i ekonomske interese njihovih dizajnera, te uvjetuju percepciju korisnika, tako da valja govoriti o ambivalentnosti, odnosno dvoznačnosti tehnologije, osobito umjetne inteligencije. No ovakva dijagnoza nije poziv na bijeg od korištenja inteligencije, već na edukaciju i opismenjivanje svih nas. Nove okolnosti traže nove spoznaje i otvorenost uma učenju o novim stvarima o kojima govori ova enciklika.

– Jesu li svi modeli umjetne inteligencije jednako dobri/loši za vjernike, možemo li to kako prepoznati, te na što kao vjernici trebamo obratiti pažnju kada se koristimo umjetnom inteligencijom?

Nemoguće je smatrati da su svi modeli umjetne inteligencije jednako dobri i loši. Naime, svaki je model treniran na podacima ovisno o onome na što se želi staviti fokus tog modela. Danas je nemoguće imati neki alat koji bi bio učinkovit za sva područja. Moja je preporuka studentima uvijek da koriste više alata, uspoređuju rezultate, te ih sve podvrgavaju daru prirodne inteligencije kako ne bi upali u zamku onog što se danas naziva „deskilling“, tj. gubitak umijeća, vještina kojima su obdareni. Kada je riječ o vjernicima, ne možemo si dopustiti da ti modeli postaju zamjene za duhovni život ili pitanja. Ljudsko iskustvo Boga traži konkretno lice i ponekad mučne razgovore o raznima temama. Nije problem koristiti razne modele da bismo bolje razumjeli neke pojmove i neke izraze Svetog pisma ili crkvenog učenja. Međutim, umjetna inteligencija ne smije postati duhovna ili emocionalna proteza. Mnogi su mladi ljudi već izgubili svoje živote zbog pretjeranog druženja s nekim alatima koji su im se podilazili u njihovim depresivnim ili suicidalnim mislima. Prema tome oprez!

– Jedan od glavnih papinih bojazni izražena u enciklici je upravljanje umjetnom inteligencijom „u šaci nekolicine“. Je li i kako moguće razvoj umjetne inteligencije „demokratizirati“ tako da veći broj ljudi bude uključen?

Kada pratite narative kreatora raznih modela umjetne inteligencije redovito ćete upravo slušati o njihovoj želji za demokratizacijom tih alata radi pravednog društva, dostupnosti svima. Čak će uvjerljivo koristiti sadržaje crkvenog socijalnog nauka kao što solidarnost ili preferencijalno opredjeljenje za siromahe. Međutim znamo da u praksi nije tako. Naprotiv siromasi su redovito iskorištavani za treniranje, odnosno „hranjenje“ tih alata za mizernu plaću. Upravo ovdje vidimo jedan važan segment Papine enciklike koja najprije daje sažetak crkvenog socijalnog nauka kao nepresušno vrelo i riznicu iz koje treba uvijek crpsti spoznaje i smjernice ne samo u oblikovanju raznih modela, nego u njihovoj provedbi na način da uključe sve ljude, tj. da daju svim ljudima jednaku šansu i jednaku dostupnost.

– Nit koja se provlači enciklikom je usporedba dvaju načina „gradnji“ koje se spominju u Starom zavjetu: gradnja Kule babilonske i Nehemijina gradnja Jeruzalemskih zidina, što nam tom usporedbom Papa poručuje?

Prve rečenice svakog papinskog dokumenta daje odlučujući ključan smjer tom dokumentu. Prva rečenica enciklike u slobodnom prijevodu upravo glasi:  „Veličanstveno čovještvo koje je Bog stvorio danas se nalazi pred odlučujućim izborom: podići novu Babilonsku kulu ili izgraditi grad u kojemu Bog i čovječanstvo žive zajedno“ (MH br. 1). Ovdje se otvara temeljno pitanje: što želimo ostvariti razvojem tehnologije. Babilonska kula, zbog koje Papa govori čak o „babilonskom sindromu“, predstavlja negativni smjer jer je simbol tehnokratske paradigme i uobraženosti, te posljedično dehumanizacije. To je oslanjanje na vlastitu samodostatnost bez Boga i bez zajednice braće i sestara. S druge strane, Nehemijina obnova jeruzalemskih zidina usmjeruje na ono pozitivno jer je simbol zajedničke odgovornosti, strpljivosti i solidarnosti. Temeljno pitanje jest na koji će se način izgraditi odnos prema tehnološkim prilikama: suradnjom sa svima, kao što je to učinio Nehemija, ili slijedeći vlastitu samodostatnost, kao što je to bilo pri gradnji Babilonske kule. Vidimo da je za Papu babilonska kula izraz za tehnologiju u službi moći i oholosti nekolicine, i to bez Boga i bez drugih. Nehemijina perspektiva aludira na obnovu zajednice strpljivim, solidarnim radom u suradnji sa svima. Prema tome jasno je da nam Papa poručuje da pravo pitanje našeg doba digitalne revolucije i umjetne inteligencije je etičke, moralne, antropološke, a ne tehničke naravi.

– Sveti Otac je također pozvao i na sporije usvajanje umjetne inteligencije dok kao društvo ne osmislimo zaštitne mehanizme protiv njenih štetnosti. No, tehnologija se obično razvija svojim tempom koji ne mari puno za dobrobit. Ima li ikakve nade da će Papine želje uroditi konkretnim rezultatima u ovom pitanju?

Ako je uzeti u obzir da je Katolička Crkva institucija koja se najviše bavi etičkim i antropološkim dimenzijama ove teme, možemo imati nadu da će ovaj dokument uroditi plodom. Nije nepoznato da se mnogi moćnici ovog svijeta često nalaze na raznim forumima kako bi raspravljali upravo o ovome o čemu govori Papa – očuvanje od štetnosti brzog razvoja umjetne inteligencije. Stoga mi se čini da ovaj dokument predstavlja putokaz ne samo za katolike, nego i za cijelo čovječanstvo. Prema tome, može se reći da je Magnifica humanitas putokaz za novu epohu, a konkretnim plodovima se imamo pravo nadati. Ali to traži sustavnu raščlambu ove enciklike u  raznim prigodama uz konkretne smjernice koje ne uzimaju obzir samo horizontalnu dimenziju, već i vertikalnu tj. transcendentne korijene ljudskog života.

– Papa često ističe da UI ne smijemo poistovjećivati s osobom, iako ona često glumi da ima karakteristike osobe. Ipak, postoji li mogućnost da UI sustavi jednom razviju svjesnost, te kolika je mogućnost da sve završi apokaliptičkom borbom čovjeka i strojeva kako se to prikazuje u nekim filmovima?

Umjetna inteligencija danas može bolje od samog čovjeka simulirati mnoga područja djelovanja i ponašanja, pa i način razmišljanja. Međutim ovdje je samo i još uvijek riječ o simuliranju. Kada govorimo o mogućnost razvoja svijesti ulazimo u područje koje nije samo biološke, nego i psihološke, duhovne i posljedično moralne naravi. Pitanje svijesti ujedno je povezano sa savjesti. Upravo tu postoji opasnost borbe između čovjeka kao bića svijesti i savjesti, te stroja kao proizvoda čovjekovih ruku. No borba se neće odvijati na razini odgovornosti koja proizlazi iz istinske svijesti ili savjesti, već zbog nedostatka automatiziranog načina djelovanja i postupanja pred kojim može stroj „poludjeti“ kad se stvari ne odvijaju prema zadanim ciljevima. Ovdje stavljam naglasak na cilj. Modeli umjetne inteligencije nemaju svoje ciljeve, već ostvaruju zadane ciljeve. A za posjedovanje ciljeva treba ipak nešto više od mehatronike, sposobnosti unutarnjeg povezivanja zadanih sadržaja. Traži smisao, svrhovitost, otvorenost prema istini koja nadilazi i samog čovjeka, odnos prema transcendenciji u svakom smislu. Modeli umjetne inteligencije to nemaju niti će imati. Riječ je o slobodi, a ne tehničkoj autonomiji.

– Na predstavljanju enciklike sudjelovao je i suosnivač Anthropica Christopher Olah. Koliko vam se njegove riječi čine usklađene s onime što Papa govori, te brine li vas njegovo priznanje da sustavni umjetne inteligencije „u važnim aspektima ostaju tajnoviti čak i nama koji ih treniramo“?

Prije svega treba reći da je i važnost ove enciklike upravo u toj očitovanoj želji za dijalogom sa svojim slojevima i akterima i kreatorima modela umjetne inteligencije. Ono što je istaknuo gospodin Christopher Olah je s jedne strane izraz njegove iskrenosti prema javnosti, ali je ujedno priznanje koje zabrinjava te koje je povezano s onim što se naziva „black box“, crna kutija. Naime, još uvijek nije do kraja običnom korisniku jasno na koji način ti modeli daju odgovor na zadane zahtjeve. Između zahtjeva i odgovora postoji niz procesa prikupljanja informacija i povezivanja izvora koji ostaje nejasan onom tko koristi modele. Suočeni smo dakle s pitanjem transparentnosti, ali i odgovornosti. Prema tome, i onima koji to treniraju stvari mogu izmaknuti kontroli. Stvaramo dakle nešto što izaziva divljenje, a sami nismo svjesni svih procesna i način djelovanja. Ovdje nam treba duh poniznosti, uranjanje u samog Boga Stvoritelja za mudro stvaranje i djelovanje. Inače nas vreba opasnost stalnog straha pred djelom naših ruku.

– Papa piše o opasnosti da korištenje UI-a može dovesti do otuđenja to jest do gubitka želje „za uspostavljanjem autentičnih ljudskih veza“. Možete li nam za kraj dati savjet kako se koristiti umjetnom inteligencijom na zdrav način tako da iz nje izvučemo dobrobiti bez upadanja u potencijalne opasnosti?

Trenutni i javnosti najdostupniji modeli umjetne inteligencije su tzv. konverzacijski modeli. Mnogi mladi danas zamjenjuju fizičke, konkretne odnose s tim alatima s kojima razgovaraju u mnogočemu. Među razlozima zbog kojih mladi danas koriste te alate na visokoj razini se nalazi upravo razgovor. Koliko god ti alati mogu dati odgovore kao da pred sobom imamo čovjeka, ne možemo ovdje govoriti o autentičnom ljudskom odnosu ili vezi. I ovdje vidimo koliko je potrebno ponovno razmatrati otajstvo Božjeg utjelovljenja. Naime, ako mogu opipati, čuti, osjetiti onog tko mi obećava vječni život, onda je to obećanje ne samo uvjerljivo i autentično, nego i osobno. Međutim alati koji mi daju privid sreće i raznih obećanja, ali su nevidljivi, nedostupni, bezlični, zapravo daju samo utopiju. Potrebno je dakle u doba umjetne inteligencije nanovo otkrivati ljepotu konkretnog lica, ruku, zagrljaja, pa i suza koje olakšavaju rasterećuju dušu i daju polet za daljnji hod kroz život nošen braćom i sestrama.

Završio bih upravo riječima pape Lava na tu temu. U broju 100 dokumenta stoji ovo: „Umjetno oponašanje pozitivne ljudske komunikacije – riječi savjeta, empatije, prijateljstva, ljubavi – može djelovati dragocjeno pa čak i korisno, ali kod manje upućenih korisnika može dovoditi u zabludu i stvarati iluziju da su u odnosu s autentičnim osobnim subjektom. Kada je govor simuliran, on ne gradi odnos, već njegovu privid…. Rizik tada nije toliko u tome da osoba povjeruje kako govori s drugom osobom, koliko u tome da izgubi samu želju za istinskim traženjem drugoga.“