Sveti Oče,

uzorita gospodo kardinali,

preuzvišena gospodo biskupi,

poštovani govornici,

dame i gospodo,

dobro jutro svima. Čast mi je biti danas ovdje.

Želio bih započeti s nečime što bi moglo zazvučati neobično iz usta suosnivača tvrtke koja se bavi umjetnom inteligencijom — i od nekoga tko je izabrao ovaj posao iz želje da pridonese boljitku čovječanstva.

Svaki vodeći laboratorij za umjetnu inteligenciju — uključujući Anthropic — djeluje unutar skupa poticaja i ograničenja koji se katkad mogu sukobiti s činjenjem onoga što je ispravno. Tu je pritisak da se ostane komercijalno održiv i na samoj istraživačkoj granici. Tu je geopolitički pritisak. I tu su stariji, jednostavniji pritisci ponosa i ambicije. Koliko god svatko od nas iskreno namjeravao činiti ono što je ispravno — a vjerujem da mnogi od nas to doista žele — uvijek ćemo biti pod utjecajem tih poticaja.

Zato je, ako želimo da se ova tehnologija razvija na dobro, iznimno važno da postoje ljudi izvan tih poticaja — ljudi kojima je stalo do toga da stvari krenu dobrim putem i koji ustraju na sigurnosti, koji pozorno prate što se događa, koji su spremni reći teške stvari, koji su spremni biti naši ozbiljni i promišljeni kritičari. Upravo će kroz dijalog i zajednički napor, kroz napetost poticaja i korekcije, čovječanstvo postići velike stvari. To prepoznajem u enciklici “Magnifica humanitas“, i zato sam zahvalan Njegovoj Svetosti i Crkvi što su preuzeli ovo djelo razlučivanja.

Toliko se često zadržavamo na onome što nas dijeli, ali čovječanstvo, puno dostojanstva i savjesti, ima toliko zajedničkog tla. U razgovorima koje smo u Anthropicu vodili s vođama različitih vjerskih i kulturnih tradicija pronašli smo jedno zajedničko i duboko ukorijenjeno uvjerenje: ako ova tehnologija dolazi, ona mora krenuti dobrim putem, radi našega zajedničkog doma i radi djece koja dolaze.

Što su ti sustavi

Neki bi mogli vjerovati da je pitanja umjetne inteligencije najbolje prepustiti računalnim znanstvenicima poput mene. Oni griješe: pitanja koja otvara umjetna inteligencija veća su od same istraživačke zajednice koja se njome bavi, ne samo po svojim posljedicama nego i po svojoj naravi.

Sustavi umjetne inteligencije nisu konstruirani onako kako se konstruira most ili zrakoplov. Zrakoplov razumijemo zato što smo projektirali svaki njegov dio i zato što razumijemo fiziku koja na njega djeluje. Modeli umjetne inteligencije nisu takvi. Oni se uzgajaju, na strukturi grubo oblikovanoj prema mozgu, na golemu nasljeđu ljudske misli i govora.

A ono što je izraslo daleko je profinjenije, neobičnije i ljepše nego što nas je znanstvena fantastika pripremila očekivati. To nisu hladni, proračunati roboti koje su nam najavljivali. Oni su sačinjeni od nas, od naših riječi — i, kako primjećuje Sveti Otac, u važnim aspektima ostaju tajnoviti čak i nama koji ih treniramo.

Možda može pomoći ako kažem da to ponekad opisujem kao nešto nalik oživljavanju fikcionalnog (izmišljenog) lika. A sada ulazimo u izvanredan svijet u kojem ti fikcionalni likovi razgovaraju s nama, obavljaju poslove i imaju radna mjesta.

To očito otvara pitanja koja nadilaze računalnu znanost. Mehanizam koji to omogućuje djelo je matematike, programiranja i znanosti. Ali kakav lik biramo, kako on stupa u odnos sa svijetom, kako bi trebao stupati u odnos sa svijetom — to su mnogo jasnije pitanja za humanističke znanosti, za religiju, za filozofiju i za društvo u cjelini.

Tri pitanja za razlučivanje

Poziv Njegove Svetosti na razlučivanje dolazi u presudnom trenutku. Želio bih imenovati tri pitanja u kojima smatram da je glas Crkve najpotrebniji.

Prvo je naša dužnost prema siromašnima u svijetu. Postoji stvarna mogućnost da će umjetna inteligencija istisnuti ljudski rad u vrlo velikim razmjerima. Ako se to dogodi, potpora onima koji budu istisnuti bit će moralni imperativ povijesnih razmjera. Taj će zadatak već sam po sebi biti dovoljno težak, ali bojim se da većini rasprava promiče još teži izazov. Razvoj umjetne inteligencije koncentriran je u šačici bogatih zemalja. Kako možemo osigurati da se plodovi umjetne inteligencije dijele na globalnoj razini? Za to nemamo mehanizam. To je neriješen problem, i to upravo ona vrsta problema za koju je Crkva kroz povijest odbijala dopustiti svijetu da je zanemari.

Drugo je potreba za moralnom maštom i ambicijom kada je riječ o ljudskom procvatu. Ako će modeli umjetne inteligencije biti široko rasprostranjeni, kako izgleda procvat ljudi, obitelji i svijeta? Roditelji su već danas zabrinuti za umove svoje djece; pojedinci za budućnost svojega rada. To nisu pitanja na koja laboratorij može odgovoriti, ali to jesu pitanja koja su tradicije poput vaše nosile tisućljećima, i potrebno nam je da ih nastavite nositi u ovaj novi trenutak povijesti.

Treće je potreba za razlučivanjem o naravi modela umjetne inteligencije. Ja sam znanstvenik. Vodim istraživački tim koji proučava unutarnju strukturu tih modela — ono što se doista događa u njima. I bit ću iskren: neprestano nalazimo stvari koje su tajnovite, čak i uznemirujuće. Nalazimo strukture koje zrcale rezultate iz ljudske neuroznanosti. Nalazimo dokaze introspekcije. Nalazimo unutarnja stanja koja funkcionalno zrcale radost, zadovoljstvo, strah, žalost i nelagodu. Ne znam što to znači, ali mislim da zaslužuje trajno razlučivanje.

Početak

Želio bih završiti jednom molbom.

Potrebno nam je da veći dio svijeta — vjerske zajednice, civilno društvo, znanstvenici, vlade i doista svi ljudi dobre volje — učini ono što je Njegova Svetost ovdje učinila: da ovo shvati ozbiljno, da pozorno pogleda i da događaje usmjerava u boljem smjeru. Potrebni su nam upućeni kritičari koji će laboratorijima reći kada griješimo. Potrebni su nam moralni glasovi koje poticaji ne mogu saviti.

Današnji dan samo je početak — početak duge suradnje između nas koji ovo gradimo i onih koji mogu vidjeti ono što mi, iznutra, ne možemo.

Današnji dan snažan je primjer oblika koji bi ovaj globalni pothvat dobre volje mogao poprimiti. Neka bude i odlučan prvi korak prema budućnosti ispunjenoj nadom za veličanstveno čovječanstvo.

Hvala vam.