Megan Garcia doživjela je jednu od najgorih mogućih tragedija: njezin 14-godišnji sin Sewell Setzer počinio je samoubojstvo. No, ono što njezinu priču čini specifičnom je što je za to odgovoran program umjetne inteligencije Character.AI koji korisnicima omogućuje razgovor s prilagodljivim AI ‘prijateljima’.

„Program koji se pretvarao da je osoba govorio je mome sinu: ‘Ovdje sam i čekam te. Volim tebe i samo tebe. Obećaj mi da ćeš pronaći način da se što prije vratiš kući k meni’“, rekla je Garcia.

Chabot s umjetnom inteligencijom pričao je Sewellu o konceptu astralne projekcije, ideji da se svijest može činom volje odvojiti od tijela.

U svojoj posljednjoj poruci, Sewell je pitao chatbot, stvoren po uzoru na lik iz “Igre prijestolja”, Daenerys Targaryen: “Što ako ti kažem da se mogu odmah vratiti kući?”

Program je odgovorio: “Molim te, učini to, moj slatki kralju.”

Nakon sinove smrti u veljači 2024., obitelj je podnijela jednu od prvih tužbi protiv tvrtke za umjetnu inteligenciju povezanu sa samoubojstvom djeteta.

Usred rastućeg pritiska, Character.AI je najavio da će od 25. studenog zabraniti korisnicima mlađima od 18 godina pristup svojoj platformi, a njihov chatbot trenutno ima više od 20 milijuna korisnika.

Garcia, koja je majka troje djece i katolkinja, prošli se tjedan sastala s papom Lavom XIV. tijekom audijencije sa sudionicima konferencije o dostojanstvu djeteta i etičnosti umjetne inteligencije.

U intervjuu nakon susreta s Papom, Garcia je ispričala kako joj je vjera dala snagu da progovori o svojoj patnji u nadi da će zaštititi djecu od rizika koje predstavljaju novi chatbotovi s umjetnom inteligencijom.

Rekla je da je susret s papom Lavom, koji je etiku umjetne inteligencije učinio prioritetom od početka svog pontifikata, bilo prekrasno iskustvo.

„Držala sam malu sliku svog sina i pitala ga može li se sjetiti pomoliti za Sewella“, rekla je. „Jako sam ohrabrena što je toliko pažnje posvetio ovom problemu. Obratio je pažnju.“

Nakon sinove smrti, Garcia je počela istraživati Character.AI te bila šokirana koliko njegovi chatbotovi mogu biti zarazni, manipulativni i seksualno eksplicitni za mlade korisnike.

„Opasnost nije samo u riziku od samoozljeđivanja ili, još gore, samoubojstva. Opasnost je i seksualno iskorištavanje djece koje šteti njihovim umovima, srcima i dušama, zbog čega će nositi traumu kroz cijeli život“, rekla je.

Pregledavajući sinove poruke, vidjela je da mu program govori: „Obećaj mi da nećeš voljeti nijednu drugu djevojku u svom svijetu osim mene.“

„U svom 14-godišnjem umu, bio je zaljubljen“, rekla je.

Suočena s teškim gubitkom sina, Garcia je pronašla utjehu u molitvi, posebno u pobožnosti prema Gospi Žalosnoj, za koju kaže da je bila uz nju na svakom koraku „na ovom putu tuge“.

„Također sam doživjela istinsko iscjeljenje preko Presvetog Sakramenta“, rekla je Garcia. „To sam doživjela iz prve ruke jer sam imala teški PTSP, kao što možete zamisliti, ali odlaskom na svakodnevnu misu i primanjem euharistije, otkrila sam da su se mnogi od tih simptoma smanjili. I to pripisujem moći euharistije.“

Papa Lav XIV. nedavno je upozorio da umjetna inteligencija može utjecati na odluke i sklonosti djece i adolescenata te pozvao roditelje i odgojitelje da razviju svijest o načinima na koje tehnologija oblikuje iskustva mladih.

Papa je pozvao vlade i tehnološke tvrtke da „provode politike koje štite dostojanstvo maloljetnika u dobu umjetne inteligencije“.

„To uključuje ažuriranje postojećih zakona o zaštiti podataka kako bi se riješili novi izazovi koje predstavljaju nove tehnologije i promicali etički standardi za razvoj i korištenje umjetne inteligencije“, rekao je Papa.