Jedan od glavnih tehnoloških igrača na području umjetne inteligencije, američka tvrtka Anthropic, organizirala je tijekom ove godine niz privatnih sastanaka s religijskim stručnjacima na kojima se raspravljalo o usađivanju morala u modele umjetne inteligencije (UI) te o njihovoj mogućoj svjesnosti, piše New York Times.

Elizabeth Dias, novinarska specijalizirana za vjerska pitanja, kroz nekoliko je mjeseci razgovarala sa sudionicima spomenutih sastanaka, među kojima je i Christopher Olah, jedan od suosnivača Anthropica, rekonstruiravši raspravu koja zadire u samo pitanje definicije života i odnosa ljudi i strojeva.

U središtu te rasprave bila je želja da se UI modelima usade moralni obrasci i vrline utemeljene na zajedničkoj mudrosti i učenju drevnih svjetskih religija. No iz Anthropica su imali još jedan cilj – argumentirati gostima da Claude, njihov najprestižniji UI model, sadrži elemente svjesnosti kao što su, kako je to istaknuo sam Olah, intropsekcija te “unutarnja stanja koja funkcionalno odražavaju radost, zadovoljstvo, strah, tugu i nelagodu”.

Svjesnost umjetne inteligencije bila je i tema razgovora s Vatikanom, a različiti stavovi po tom pitanju umalo su doveli do povlačenja Anthropicovog suosnivača sa službenog predstavljanja papine enciklike Magnifica Humanitas.

Naime – kako piše Dias, citirajući neimenovani izvor – u ožujku ove godine vatikanski su dužnosnici u Dikasteriju za promicanje cjelovitog ljudskog razvoja razmatrali kako javnosti predstaviti Lavovu encikliku, razmišljajući o tome da na predstavljanje dokumenta pozovu predstavnika jedne od četiri vodeće tvrtke na području umjetne inteligencije. Izbor je pao na Anthropic jer se činilo da ta tvrtka etičkim pitanjima daje prednost. Anthropic je negdje u to vrijeme odbio dopustiti američkom Ministarstvu obrane korištenje svoje tehnologije bez jamstava Trumpove administracije da se ona neće upotrebljavati za svrhe poput masovnog nadzora Amerikanaca.

Kardinal Michael Czerny, koji je u to vrijeme vodio taj vatikanski dikasterij, isprva je pozvao Darija Amodeija, izvršnog direktora Anthropica. On je odbio poziv, a umjesto njega uskočio je Christopher Olah.

No u zajedničkoj moralnoj misiji Anthropica i Vatikana – ljudskom razvoju i procvatu u doba umjetne inteligencije – pojavila se duboka pukotina upravo oko pitanja svijesti.

Samo nekoliko dana prije dolaska u Vatikan u svibnju, gospodin Olah i ostali govornici prvi su put dobili na uvid cjelovit tekst enciklike prije njezina objavljivanja.

Papa Lav XIV. je u dokumentu (čiji naziv na hrvatskom jeziku znači “Veličanstveno čovještvo“) kao središte moralne rasprave o umjetnoj inteligenciji naveo zaštitu ljudi, ustvrdivši da se “čovještvo – veličanstveno i ranjeno – ne smije zamijeniti niti nadići”.

Također je upozorio na opasnost od „novih oblika ropstva” – za ljude, a ne za strojeve – odbacivši ideju o svijesti strojeva u svega nekoliko odlomaka.

„Takozvane umjetne inteligencije ne prolaze kroz iskustva, ne posjeduju tijelo, ne osjećaju radost ili bol, ne sazrijevaju kroz odnose”, napisao je Lav. Poziv da “strojevi moralno djeluju – takozvano ‘poravnanje’ umjetne inteligencije s ljudskim vrijednostima” – morao bi podrazumijevati zajedničko razumijevanje etičkih načela o kojima je riječ. „U suprotnom će oni koji kontroliraju umjetnu inteligenciju nametnuti vlastitu moralnu viziju koja će postati nevidljiva infrastruktura tih sustava”, doda je Lav.

Papino snažno odbacivanje mogućnosti svijesti umjetne inteligencije toliko je uznemirilo Olaha da je predložio povlačenje Anthropica s događaja, čak i u toj kasnoj fazi priprema, rekao je za New York Times jedan od vatikanskih organizatora.

Na kraju su Olah i Anthropic ipak odlučili sudjelovati. Suosnivač tehnološkog diva želio je podržati događaj unatoč neslaganjima, ali je osjećao odgovornost iskreno iznijeti svoje dvojbe. Organizatori u Vatikanu potaknuli su ga da govori u skladu sa svojom savješću.

Nakon što je izaslanstvo Anthropica stiglo u Vatikan, gospodin Olah i njegov tim u privatnim su razgovorima nastojali uvjeriti Papine savjetnike da ozbiljno razmotre mogućnost svijesti modela umjetne inteligencije, prema riječima dvoje sudionika tih razgovora. Iz Anthropica, inače, spomenute navode nisu htjeli komentirati.

Christopher Olah na kraju je ipak održao govor na pozornici pred Papom, poručivši tom prilikom da sustavi umjetne inteligencije “nisu hladni, proračunati roboti”.

“Zrakoplov razumijemo zato što smo projektirali svaki njegov dio i zato što razumijemo fiziku koja na njega djeluje. Modeli umjetne inteligencije nisu takvi. Oni se uzgajaju, na strukturi grubo oblikovanoj prema mozgu, na golemu nasljeđu ljudske misli i govora. A ono što je izraslo daleko je profinjenije, neobičnije i ljepše nego što nas je znanstvena fantastika pripremila očekivati. To nisu hladni, proračunati roboti koje su nam najavljivali. Oni su sačinjeni od nas, od naših riječi”, istaknuo je suosnivač Anthropica, što je u sobi punoj crkvenih vođa evociralo biblijske retke o “Riječi koja je tijelom postala”.

“Ako ova tehnologija dolazi, ona mora krenuti dobrim putem, radi našega zajedničkog doma i radi djece koja dolaze”, dodao je Olah.

Cijelu priču pročitajte na stranicama New York Timesa.