Kakve veze imaju primjena umjetne inteligencije u ratu i fantazija o Prstenovima moći? Pitanje se čini prikladnim postaviti o godišnjici rođenja J.R.R.Tolkiena (3.siječnja). Ne možemo zasigurno znati kako bi sami Tolkien, kao katolik, ratni veteran i lingvist (nekoć kandidat za službu unutar britanske obavještajne službe putem tzv. Government Code & Cypher School) komentirao činjenicu da protagonisti razvoja autonomnih oružanih sustava na bazi umjetne inteligencije i Velikih jezičnih modela koriste nazive upravo iz njegova legendarija (Palantir Technologies i Anduril Industries). Ako ništa drugo, svjedočanstvo je to o utjecaju jedne od najčitanijih knjiga 20. stoljeća (Gospodar Prstenova) na mlade umove koji oblikuju globalnu politiku i ekonomiju 21. stoljeća. Ono što znamo sigurno, međutim, jest da Papa u Poruci za Svjetski dan mira (1. siječnja) ove godine upozorava:

„Istraživanje tehnologija koje se javljaju na području takozvanih “smrtonosnih autonomnih oružanih sustava”, uključujući korištenje umjetne inteligencije u ratu, ozbiljan je razlog etičke zabrinutosti.…Razvoji kao što su strojno učenje (machine learning) ili duboko učenje (deep learning) pokreću pitanja koja nadilaze područja tehnologije i inženjerstva i tiču se razumijevanja koje je usko povezano sa smislom ljudskog života, temeljnim kognitivnim procesima i sposobnošću uma da se vine do istine… Kad čovjek, koji je po definiciji smrtan, misli da tehnologijom može nadići svaku ograničenost, u opasnosti je da, opsjednut željom da sve kontrolira, izgubi kontrolu nad samim sobom; da, u potrazi za apsolutnom slobodom, upadne u spiralu tehnološke diktature. Prepoznati i prihvatiti vlastitu ograničenost kao stvorenja neizostavan je uvjet da čovjek postigne puninu ili, bolje rečeno, prihvati puninu kao dar.

Čitajući ove Papine riječi, poznavatelji Tolkienovog opusa primjetit će mnogo sličnih preokupacija, pogotovo kada uzmu u obzir i Pisma potonjeg (The Letters of J.R.R. Tolkien). U Tolkienovo vrijeme nije, naravno, ni bilo umjetne inteligencije kakvom je danas poznajemo. U njegovom velikom narativu, kako sam kaže “nema  svjesne alegorije; to međutim ne znači “ da nema primjenjivosti na sadašnjost. Uvijek je ima.” (usp. Pismo 203). Pogotovo kad se uzme u obzir s kojom slojevitošću Tolkien pristupa tematici (zlo)upotrebe tehnologije i značenju koje pridaje pojmu i fenomenu Stroja (eng. Machine). Iznosimo ovdje tek nekoliko fragemenata Tolkienovih promišljanja koji možda mogu, poput neke poruke u boci ili vremenske kapsule, biti korisni u meditiranju nad prijetnjama koje bi razvoj i korištenje smrtnonosnih autonomnih oružanih sustava u ratu sa sobom mogli donijeti.

Providnost je (ipak) jača od ljudske taštine. U Pismu 102. upućenom sinu Christopheru 9. kolovoza 1945., Tolkien piše: “Današnje vijesti o atomskim bombama toliko su zastrašujuće da čovjek ostaje zapanjen. Kakve li potpune ludosti ovih fizičara da pristanu raditi takav posao u ratne svrhe: smireno planiranje uništenja svijeta! Takva eksplozivnost u rukama ljudi, dok njihov moralni i intelektualni status opada, otprilike je jednako korisna kao što bi bilo podijeliti vatreno oružje svim zatvorenicima u zatvoru i onda reći da se nadate da će to osigurati mir. Ipak, mi smo u Božjim rukama. Ali On ne gleda blagonaklono na graditelje Babilonske kule.”

Čovjek i Stroj: tko je sluga kome? “Uništenje Njemačke, ma da je i 100 puta zasluženo, jedna je od najstrašnijih svjetskih katastrofa. Čini se da se prvi Rat strojeva bliži svom posljednjem neuvjerljivom poglavlju – ostavljajući, nažalost, sve siromašnijma, mnoge ožalošćene ili osakaćene i milijune mrtvih, i samo jednu stvar koja pobjeđuje: Strojeve. Kako sluge Strojeva postaju privilegirana klasa, Strojevi će biti znatno moćniji. Koji je njihov sljedeći potez?” (Pismo 96, 30. siječnja 1945.)

Pali čovjek se često na pogrešan način suočava sa vlastitom smrtnošću. U možda najznačajnijem pismu od svih, upućenom izdavačkoj kući Collins, objašnjavajući značenje svoga djela, Tolkien piše 1951. godine Miltonu Waldmanu: “U svakom slučaju, sve ove stvari se uglavnom tiču ​​Pada, Smrtnosti i Stroja. Pada se tiče neizbježno, taj se motiv javlja u nekoliko modusa. Smrtnosti se posebno tiče jer ona utječe na umjetnost i kreativnu (ili kako bih trebao reći, sub-kreativnu) čežnju za koju se čini da nema biološku funkciju i da je odvojena od zadovoljstva običnog biološkog života, s kojim, u našem svijetu, doista je obično u srazu. Ta je čežnja istodobno povezana sa strastvenom ljubavlju prema stvarnom svijetu (te stoga ispunjena sviješću o smrtnosti), a ipak nezadovoljena njime. Kao takva, ta čežnja u čovjeku ima razne mogućnosti ‘pada’. U toj i takvoj čežnji čovjek može postati posesivan, prianjajući uz ono što je ‘njegovo’ i kao pod-stvoritelj želi biti gospodar i bog svoje privatne kreacije. Pobunit će se protiv Stvoriteljevih zakona – posebno protiv smrtnosti. Ove dvije pojave (same ili zajedno) dovest će do želje za Moći, za bržim djelovanjem volje – i tako do Stroja. Neprijatelj u uzastopnim oblicima uvijek je zaokupljen čistom dominacijom, pa je tako i s Gospodarem strojeva. Problem je u tome što to zastrašujuće zlo može proizaći i proizlazi iz naizgled dobrog korijena (nije tako, međutim, bilo kod Začetnika zla), želje za dobrobiti svijeta i drugih brzo i prema vlastitim planovima.” (Pismo 131).

“Božanska ‘kazna’ također je božanski ‘dar’ – ako se prihvati, budući da je njezin cilj konačni blagoslov, a vrhunska inventivnost Stvoritelja učinit će da ‘kazne’ proizvedu dobro koje se inače ne može postići: Čovjek smrtnik vjerojatno ima (vilenjak bi rekao) višu (iako neotkrivenu) sudbinu od dugovječnosti. Pokušati pomoću naprave ili ‘magije’ vratiti dugovječnost stoga je najveća ludost i zloća ‘smrtnika’. Dugovječnost ili krivotvorena ‘besmrtnost’ (prava besmrtnost je izvan svijeta) glavni je Sauronov mamac – vodi malene u stanje Goluma, a velike u stanje Utvare Prstena.” (Pismo 131)

Osobni talenti i strpljivost kao alternativa Stroju. “Pod potonjim (Stroj) podrazumijevam korištenje izvanjskih planova ili uređaja (aparata) umjesto razvoja inherentnih unutarnjih moći ili talenata – ili čak korištenje tih talenata s iskvarenim motivom dominacije: uništavanje stvarnog svijeta ili prisiljavanje tuđih volja. Stroj je naš očitiji moderniji oblik iako je bliži Magiji nego što se obično priznaje.” (Pismo 131; više o petljanju okultnog s tehnologijom u suvremenoj pop-kulturi ovdje i ovdje)

Polutani nađu put gdje veliki ne mogu ići. “Moral koji bi trebao biti vodič za naše ljudske svrhe, ponašanje u našim životima, jest u u iznalaženju: (a) načina na koje se naši individualni talenti mogu razviti bez rasipanja ili zlouporabe; i (b) bez ozljeđivanja naših srodnika ili uplitanja u njihov razvoj. A iznad svega samopožrtvovnost za ljubav.” (Pismo 310). U Pismu 246. Tolkien pojašnjava na primjeru Prstenonosca što je ipak moguće kada napasti raspolaganja koncentriranom moći nadiđu osobne moralne snage pojedinca i njegovu samopožrtvovnost: “učinio je ono što je mogao i potpuno se potrošio (kao instrument Providnosti) i proizveo situaciju u kojem bi se mogao postići cilj njegove potrage. Njegova poniznost (s kojom je započeo) i njegovo trpljenje su pravedno nagrađene najvišom čašću; njegovo iskazivanje strpljenja i milosrđa prema Golumu steklo mu je Milost: njegov je neuspjeh preobražen.”