867 Pregledni znanstveni članek/Article (1.02) Bogoslovni vestnik/Theological Quarterly 84 (2024) 4, 867—883 Besedilo prejeto/Received:09/2024; sprejeto/Accepted:11/2024 UDK/UDC: 272:004.89 DOI: 10.34291/BV2024/04/Globokar © 2024 Globokar, CC BY 4.0 Roman Globokar Pogled Katoliške Cerkve na razvoj in uporabo umetne inteligence The Catholic Church’s View on the Development and Use of Artificial Intelligence Povzetek: Krščanska etika s svojimi antropološkimi in teološkimi predpostavkami vstopa v širšo razpravo o etičnih dilemah umetne inteligence. Članek predstavi vsebino treh uradnih dokumentov Katoliške Cerkve o umetni inteligenci, in sicer „Rimskega poziva za etiko umetne inteligence“ iz leta 2020 in dveh poslanic papeža Frančiška iz leta 2024. Vsebino dokumentov osvetli skozi tri kriterije, ki opredeljujejo specifičen pomen krščanske vere za etiko: integracijo, spodbudo in kritično presojo. Ugotavlja, da so besedila namenjena vsem ljudem, ne samo katoličanom, in da integrirajo najsodobnejša spoznanja in etične razprave gle- de razvoja in uporabe umetne inteligence. Na podlagi biblične antropologije spodbuja razvoj, ki bo zagotavljal spoštovanje dostojanstva vsake človeške ose- be, enakopravnost vseh ljudi v družbi, večjo globalno pravičnost in medsebojno povezanost človeštva ter spoštovanje naravnega okolja. Kot posebno merilo etičnosti dokumenti navajajo pozornost do ubogih in ranljivejših članov družbe. Vera v Boga Stvarnika preprečuje absolutizacijo pridobitev človeškega uma in omogoča kritično presojo umetne inteligence. Članek, v sozvočju z dokumenti Katoliške Cerkve, spodbuja k oblikovanju etičnih smernic za razvoj in uporabo umetne inteligence. Vendar je avtor članka prepričan, da zgolj pravila ne bodo dovolj, zato poudarja prizadevanje za oblikovanje temeljnih etičnih drž, pred- vsem na področju vzgoje in izobraževanja. Na podlagi vsebine družbenega nau- ka Cerkve predstavi osem kreposti za etično usmerjanje nadaljnjega razvoja umetne inteligence. Ključne besede: umetna inteligenca, papež Frančišek, dostojanstvo človeške osebe, vesoljno bratstvo, trajnostni razvoj, kritično presojanje, kreposti Abstract: Christian ethics, with its anthropological and theological presuppositi- ons, enters into the wider debate on the ethical dilemmas of artificial intelli- gence. This article presents the content of three official documents of the Catholic Church on artificial intelligence, namely the 2020 “Roman Call for an Ethics of Artificial Intelligence” and the two 2024 Messages of Pope Francis. It illuminates the content of the documents through three criteria that define the 868 Bogoslovni vestnik 84 (2024) • 4 specific relevance of the Christian faith for ethics: integration, stimulation, and critical judgement. The article notes that the texts are addressed to all people, not just the Catholics and that they integrate the most up-to-date insights and ethical debates on the development and use of artificial intelligence. Based on biblical anthropology, they stimulate development that will ensure respect for the dignity of every human person, the equality of all people in society, greater global justice and interconnectedness of humanity, and respect for the natural environment. As a specific criterion of ethicality, the documents cite attention to the poor and the more vulnerable members of society. Faith in a creator God prevents the absolutization of the acquisitions of the human mind and em- powers a critical assessment of artificial intelligence. The article, in harmony with the documents of the Catholic Church, encourages the development of ethical guidelines for the development and use of artificial intelligence. Howe- ver, the author of the article is convinced that rules alone will not be enough, and therefore also stresses the need to strive for the development of funda- mental ethical attitudes, especially in the field of education and training. Based on the content of the Church's social teaching, he presents eight virtues to ethically guide the further development of AI. Keywords: artificial intelligence, Pope Francis, dignity of the human person, uni- versal brotherhood, sustainable development, critical judgement, virtues 1. Prispevek krščanske etike k splošni razpravi o umetni inteligenci Skokovit razvoj umetne inteligence (UI) odpira številna temeljna antropološka, me- tafizična in teološka vprašanja, zlasti vprašanje, kdo je človek, kakšna je posebnost človeka in kakšno prihodnost za človeka si pravzaprav želimo. 1 Krščanska etika s svojimi antropološkimi in teološkimi predpostavkami vstopa v splošno razpravo o etični uporabi UI. Kakšno vlogo ima krščanska etika v sodob- nem pluralnem svetu? V zadnjih 50 letih je na področju teološke etike potekala precej vroča razprava o tem, kaj je posebnost krščanske etike – tako imenovani proprium. Med moralnimi teologi se je vnela razprava ali je krščanska etika zgolj etika za določeno versko skupnost ali naj bi imela njena vsebina splošno veljavo. (Zuccaro 2013, 129–160; Globokar 2010) V veliki meri delimo pogled zagovornikov moralne avtonomije v kontekstu vere. Njihova glavna teza je, da so moralne norme univerzalne in da je vsebina moral- nega nauka enaka za kristjane in nekristjane. Pot do moralne resnice vodi preko razuma in tudi kristjan mora veljavnost svojih moralnih stališč dokazovati z razu- mom in se ne more opirati na zunanjo avtoriteto. Zaradi tega je krščanska etika v 1 Prispevek je rezultat raziskovanja znotraj projekta J6-4626 „Teologija, digitalna kultura in izzivi na človeka osrediščene umetne inteligence“ ter raziskovalnega programa P6-0269 „Religija, etika, edukacija in iz- zivi sodobne družbe“, ki delujeta na Teološki fakulteti Univerze v Ljubljani in ju sofinancira Javna agen- cija za znanstvenoraziskovalno in inovacijsko dejavnost Republike Slovenije (ARIS). 869 869 Roman Globokar - Pogled Katoliške Cerkve ... dialogu z vsemi drugimi sogovorniki v družbi in skupaj z njimi išče odgovore na številne izzive. Kritično moramo sicer ugotoviti, da so bili začetniki avtonomne morale v kontekstu vere (Auer, Fuchs, Schüller) premalo pozorni na večplastno pogojenost razumskega razmišljanja. Vsako razmišljanje je namreč vedno nujno pogojeno z določenimi antropološkimi, kulturnimi, verskimi in metafizičnimi pred- postavkami (Demmer 2014, 17–33). Prav zato na področju etičnih vprašanj tudi prihaja do nesoglasij med različnimi akterji znotraj pluralne družbe. Alfons Auer, eden vodilnih predstavnikov avtonomne morale v kontekstu vere, je posebnost krščanske etike videl v »novem obzorju smisla« (Auer 1984, 177), ki ga daje Jezus Kristus. Kristjan razume avtonomno moralno zahtevo kot klic Boga, kot del stvarjenjskega načrta, kot poslanstvo, ki mu ga daje Kristus. Kristjan ne dojema moralne avtonomije na absoluten način, ampak jo razume kot ‚odnosno avtonomijo‘. Čeprav je odkrivanje moralnih resnic stvar avtonomnega (razumnega) procesa, pa se ta proces dogaja znotraj odnosa z Bogom. Na Boga pa se ne gleda kot na zunanjo avtoriteto, ampak kot na svoje najgloblje jedro. Bog torej nagovar- ja človeka od znotraj, zato ne gre za heteronomijo, ampak za ‚teonomno avtono- mijo‘ (Demmer 1999, 120–122). Vera daje kristjanu novo spodbudo, da prevzame svojo osebno odgovornost. »Krščanski proprium na področju moralnosti torej ni v novih normah ravnanja, ki bi bile dostopne samo vernemu, ampak v integraciji naravnomoralnega (avtonomnega) delovanja v njegovo religiozno povezanost z Bogom.« (Auer 1984, 178) Konkretno Auer identificira tri nenadomestljive vloge, ki jih ima vera v odnosu do avtonomnega razuma na moralnem področju: integracija, spodbuda in kritika (189–197). Cerkev in teologija morata biti naprej odprta za integracijo vsega do- brega, kar se razvija v aktualnem družbenem okolju. Vera spodbuja k odprtemu dialogu z etičnimi razmišljanji izven cerkvenih skupnosti in integraciji etičnih misli, ki spodbujajo človekovo dostojanstvo in pravično ureditev odnosov v družbi. Na- dalje vera navdušuje in spodbuja človeka za moralno delovanje. Auer navaja, kako so določene verske resnice (npr. dostojanstvo in enakost ljudi pred Bogom) spod- budile spremembe v etičnem razmišljanju in delovanju (npr. glede suženjstva, temeljnih človekovih pravic, spoštovanja žensk). Prepričan je, da lahko krščanska vera tudi v prihodnje stimulira razvoj občega etosa k večji polnosti. Končno pa ima vera vlogo kritičnega presojanja. Kristjanu daje pogum, da se zoperstavi slepemu sledenju moralnim trendom v družbi (Vodičar 2023, 1045). Posamezne moralne norme in prepričanja presoja v luči krščanske antropologije in se je sposoben kri- tično odzvati na kršitve človekovega dostojanstva in nepravičnih razmer v družbi. »Cerkev in teologija ne kritizirata posvetne moralnosti kot take, ampak samo nje- na naivno utopična in tudi brezupno pesimistična izkrivljenja.« (Auer 1984, 194) Trojna vloga vere in teologije na področju moralnega razmišljanja – integracija, spodbuda in kritika – se nam zdi aktualna tudi pri razmišljanju o razvoju in upora- bi UI. Načelno gre za odprtost in dialoško držo do vseh akterjev v družbi pri raz- mišljanju, kako uporabiti vse prednosti, ki jih prinaša UI. Krščanska antropologija nas spodbuja h kreativni uporabi vseh sredstev, ki so človeku na voljo, saj jih naj- prej razume kot del stvarjenjskega procesa, ki še vedno traja (creatio continua). 870 Bogoslovni vestnik 84 (2024) • 4 Hkrati pa se zavedamo, da imajo vse zemeljske stvaritve svoje pasti in lahko pred- stavljajo nevarnost za uresničeno človeško življenje, zato nas vera opogumlja, da kritično ovrednotimo najnovejše tehnološke pridobitve in preverimo, v kakšni meri predstavljajo blagor za človeka kot posameznika, za človeško družbo in za celotno naravno okolje. Zavedamo se, da vera nikakor ne nadomešča razuma in da tudi cerkveno uči- teljstvo, ki znotraj Katoliške Cerkve oblikuje uradna stališča glede določenih mo- ralnih vprašanj, nima dokončnih odgovorov na sodobne izzive v družbi. Kljub vse- mu pa želimo v skladu s tradicijo krščanske etike razširiti obzorja razmišljanja in razpravo usmeriti onkraj pragmatičnih in normativnih vprašanj glede uporabe UI v družbi. Prepričani smo, da je razprava na meta-etični ravni izredno pomembna in nujna, preden pride do oblikovanja etičnih smernic in zakonskih ureditev o upo- rabi UI. Vprašati se moramo, kaj pomeni izpolnjeno človeško življenje in kako ga lahko spodbujajo z novimi tehnologijami ter kakšno družbo si želimo v prihodno- sti. Malteški teolog Emmanuel Agius poudarja: »Tehnologije ne smemo presojati po tem, ali lahko nekaj naredimo hitreje, ceneje ali lažje, temveč po njenem vpli- vu na ljudi kot posameznike in skupnosti ter na okolje. Pri teh prizadevanjih je vloga razuma in verskih skupnosti, da osvetlijo cilje znanosti in tehnologije ter kritično ocenijo sredstva, uporabljena za njihovo doseganje.« (2020, 117) Naloga krščanske etike je, da postavlja prava vprašanja, spodbuja etični razvoj novih teh- nologij in opozarja na morebitne stranpoti. Gre za zgoraj omenjeno trojno herme- nevtično vlogo, ki jo ima krščanska teologija na področju širšega družbenega raz- mišljanja o etičnosti uporabe UI. »Ta hermenevtični pristop širi obzorje tehnološke racionalnosti in tako vodi onkraj instrumentalnih in redukcionističnih modelov v etiko odgovornosti.« (118) Krščanska etika si prizadeva za kritično razločevanje, ki preverja upravičenost namenov in motivov določenih novih tehnologij, razkriva njihove temeljne vrednote in cilje ter skuša predvideti daljnosežne posledice za ljudi in širšo družbo. Pri uporabi UI se odpirajo številne etične dileme. Naj navedemo samo nekate- re. Sistemi UI se lahko učijo iz pristranskih podatkov, kar vodi v napačne zaključke in možnost diskriminacije zaradi rase, spola, ekonomskega položaja, starosti. To ima lahko nevarne posledice za številna področja, od izobraževanja, zdravstva in zavarovanja do zaposlovanja, sodstva in zagotavljanja javnega reda (Strahovnik 2023). Prihaja do vedno več interakcij med človekom in sistemi UI, pri čemer ve- likokrat človek niti ne ve, da komunicira z UI, npr. pri klepetalnih robotih (Centa Strahovnik 2023). Nadalje se postavljajo vprašanja, do kakšne mere naj se upora- blja UI v medicini (Miklavčič 2021). Po eni strani je takojšnja analiza množice po- datkov lahko v veliko pomoč pri postavljanju diagnoze, po drugi strani pa UI ne more celostno dojeti enkratnosti situacije posameznega pacienta. Vemo, da so možne zlorabe osebnih informacij, ki jih zbirajo sistemi velikih podatkov za komer- cialne, medijske, politične in vojaške namene. S tem je povezan tudi prevelik nad- zor nad zasebnim življenjem in sledenje vedenjskim vzorcem prebivalcev. Ena največjih dilem je prav gotovo vprašanje transparentnosti pri sprejemanju odlo- čitev in odgovornost za povzročeno škodo pri napačnih odločitvah. Niti največji 871 871 Roman Globokar - Pogled Katoliške Cerkve ... strokovnjaki niti razvijalci UI ne morejo popolnoma razumeti njenega delovanja. (Miklavčič 2023) Velik problem so tudi avtorske pravice, saj sistemi UI uporabljajo številna besedila brez privoljenja avtorjev. Pojavljajo se mnoge pobude za obliko- vanje etičnih smernic za razvoj in uporabo UI in znanstvene razprave in priročniki na to temo (Spiekermann 2019; Boddington 2023; Grimm, Trost in Zöllner 2024). Tudi Katoliška Cerkev se je dejavno vključila v razpravo o etični uporabi UI. Pa- peška akademija za življenje je leta 2020 organizirala 26. generalno skupščino članov, ki je potekala pod naslovom „‚Dobri‘ algoritem? Umetna inteligenca: eti- ka, pravo, zdravje“ (Paglia in Pegoraro 2021). Srečanje se je zaključilo z „Rimskim pozivom za etiko UI“, ki ga je Papeška akademija za življenje posredovala v javnost skupaj z deležniki s področja razvoja UI. Letos pa je papež Frančišek izdal dva do- kumenta z osrednjo temo uporabe UI. Vse tri dokumente bomo podrobneje obrav - navali v naslednjem poglavju. Naj samo omenimo, da je papež Frančišek tudi na srečanju G7 v Apuliji 14. junija 2024 govoril o UI, ki jo je označil kot privlačno in strašljivo orodje. »Umetna inteligenca bi lahko na primer omogočila demokrati- zacijo dostopa do znanja, eksponentni napredek znanstvenih raziskav, možnost prenosa težkih del na stroje; hkrati pa bi lahko prinesla večjo nepravičnost med razvitimi državami in državami v razvoju, med prevladujočimi in zatiranimi druž- benimi razredi ter tako ogrozila možnost ‚kulture srečanja‘, ker bi dala prednost ‚kulturi odmetavanja‘.« (Frančišek 2024b) Predno se lotimo analize treh glavnih besedil o UI, napisanih s strani avtoritet Katoliške Cerkve, povejmo še, da naš primarni interes ni oblikovanje moralnih norm, še manj konkretnih smernic za uporabo UI. Gotovo je to pomembna nalo- ga, vendar gre naš pogled širše. V svojem razmišljanju gremo onkraj normativne etike in dajemo večji poudarek etiki kreposti, saj smo prepričani, da še tako dobra regulativa ne bo prinesla ustreznih rezultatov brez krepostnih moralnih subjektov. 2. Izjave Katoliške Cerkve o uporabi UI 2.1 „Rimski poziv za etiko UI“ (2020) Februarja 2020 je Papeška akademija za življenje ponudila v podpis „Rimski poziv za etiko UI“, ki je naletel na pozitiven odmev med proizvajalci, civilno družbo in političnimi akterji. Prvi podpisniki tega poziva so bili Papeška akademija za življe- nje, Microsoft, IBM, FAO in italijansko ministrstvo za inovacije. Namen poziva ni bil predstaviti etičnih norm za nadaljnji razvoj UI, ampak spodbuditi čut odgovor- nosti med vsemi deležniki, da bi zagotovili prihodnost, »v kateri bodo digitalne inovacije in tehnološki napredek služili človeški genialnosti in ustvarjalnosti, ne pa njunemu postopnemu nadomeščanju« (Benanti 2021, 129). V uvodu je poudarjeno, da ima UI ogromen potencial, vendar jo je treba upo- rabljati v korist ljudi in okolja kot celote. »Novo tehnologijo je treba raziskovati in proizvajati v skladu z merili, ki zagotavljajo, da resnično služi celotni ‚človeški dru- žini‘ (preambula „Splošne deklaracije človekovih pravic“), pri čemer je treba spo- 872 Bogoslovni vestnik 84 (2024) • 4 štovati prirojeno dostojanstvo vsakega od njenih članov in vsa naravna okolja, ter upoštevati potrebe tistih, ki so najbolj ranljivi.« (Pontifical Academy for Life 2020) Cilj nadaljnjega razvoja ni le zagotoviti, da nihče ne bo izključen, temveč tudi raz- širiti tista področja svobode, ki bi jih algoritemsko pogojevanje lahko ogrozilo. UI ne bi smeli razvijati le z osredotočenostjo na tehnologijo, »temveč v dobro člove- štva in okolja, našega skupnega in deljenega doma ter njegovih človeških prebi- valcev, ki so neločljivo povezani« (2020). Že v uvodu v ta dokument najdemo sin- tezo temeljnih poudarkov stališča Katoliške Cerkve do uporabe UI: varovanje člo- veškega dostojanstva, skrb za naravno okolje, razvijanje vključujoče družbe in po- zornost do najbolj ubogih in ranljivih. Besedilo je razdeljeno v tri dele: etika, izobraževanje in pravice. Etična refleksi- ja se opira na 1. člen „Splošne deklaracije človekovih pravic“, ki pravi, da se vsi ljudje rodimo svobodni in enaki v dostojanstvu in pravicah. Poziv spodbuja, da je treba ta temeljni pogoj svobode in dostojanstva varovati in zagotavljati tudi pri izdelavi in uporabi sistemov UI. Opozarja predvsem na nevarnost diskriminacije, ki je lahko posledica razvoja sistemov UI. »Sistemi umetne inteligence morajo biti zasnovani, oblikovani in izvedeni tako, da služijo in varujejo ljudi in okolje, v kate- rem živijo.« (2020) Za zagotavljanje etičnosti mora nadaljnji tehnološki razvoj iz- polniti naslednje tri kriterije: 1. vključevati mora vsakega človeka, pri čemer ne sme biti nihče diskriminiran; 2. v središču mora biti dobro človeštva in dobro vsa- kega človeškega bitja; 3. zavedati se mora svoje vpetosti v ekosistem in svoje od- govornosti, da skrbi za naš skupni dom in ga varuje s trajnostnim pristopom. Poziv tudi opozarja, da morajo uporabniki tehnologij UI vedno vedeti, kdaj so v interak- ciji s strojem in da se tehnologija ne sme predstavljati kot človek. Še posebej je treba zaščititi najbolj ranljive osebe, kot so otroci in starejši ljudje. V nadaljevanju dokument navaja, da sistemi UI omogočajo velik napredek v izobraževanju, saj lahko s prilagojenimi pristopi podpirajo in spodbujajo individu- alni napredek posameznega učenca. Prav tako se potencialno povečuje dostopnost izobraževanja in s tem zmanjšanje diskriminacija med ljudmi. Večja je tudi možnost za vseživljenjsko izobraževanje za širšo populacijo. Nove tehnologije so v veliko pomoč invalidom tako pri učenju kot pri bolj neodvisnem življenju, kar je gotovo pozitivno. Poziv se zavzema za prenovo učnih načrtov na vseh ravneh izobraževa- nja, da bi vsem omogočili iti v korak z najnovejšimi tehnološkimi pridobitvami. »V izobraževalnem sektorju so potrebne reforme za vzpostavitev visokih in objektiv- nih standardov, ki lahko izboljšajo rezultate posameznikov. Ti standardi ne bi sme- li biti omejeni na razvoj digitalnih spretnosti, temveč bi se morali osredotočiti na zagotavljanje, da lahko vsak posameznik v celoti izrazi svoje sposobnosti in dela v dobro skupnosti, tudi če od tega nima osebnih koristi.« (2020) V zadnjem delu „Rimski poziv za etiko UI“ izpostavi nekaj elementov za pravno ureditev področja uporabe UI. Če želimo namreč zagotoviti nadaljnji razvoj UI, ki bo v službi dostojanstva vsake osebe, človeštva in celotnega naravnega okolja, potem so po mnenju podpisnikov potrebni tudi predpisi in načela, ki bodo zašči- tili pravice posameznikov in naravnega okolja. Dokument zagovarja, da moramo v središče javne razprave postaviti »varstvo človekovih pravic v digitalni dobi« 873 873 Roman Globokar - Pogled Katoliške Cerkve ... (2020). Na novo bo treba razmisliti o razsežnostih človekove odgovornosti in novih oblikah pojasnilne dolžnosti. Da bi zagotovili večjo transparentnost, sledljivost in odgovornost, dokument poziva, da bi bila ‚algor-etika‘ vključena že od vsega za- četka v razvoj vsakega algoritma. »Oblikovanje in načrtovanje sistemov umetne inteligence, ki jim lahko zaupamo, vključuje iskanje soglasja med političnimi od- ločevalci, agencijami ZN in drugimi medvladnimi organizacijami, raziskovalci, aka- demskim svetom in predstavniki nevladnih organizacij glede etičnih načel, ki jih je treba vgraditi v te tehnologije.« (2020) V Pozivu so navedena temeljna načela algor-etike, ki naj bi usmerjala etični razvoj UI. Ta načela so: preglednost, vključe- vanje, odgovornost, nepristranskost, zanesljivost, varnost in zasebnost. Če skušamo ovrednotiti „Rimski poziv za etiko UI“ v skladu s trojno vlogo vere in teologije na moralnem področju – integracija, spodbuda in kritika –, potem lahko brez dvoma ugotovimo, da je v dokumentu široka odprtost za integracijo etičnega razmišljanja izven Katoliške Cerkve. Poziv ima željo, da bi bil čim bolj obče sprejemljiv, zato v besedilu ne najdemo sledov teološkega utemeljevanja, ampak etično osnovo postavlja „Splošna deklaracija človekovih pravic“. Poudarjajo se univerzalne vrednote dostojanstva človeške osebe, pravičnosti, vključujoče druž- be in trajnostnega okoljskega razvoja. Poziv spodbuja razvijalce, odločevalce in uporabnike UI, da naj jih pri usmerjanju nadaljnjega razvoja vodi želja po varova- nju človekovega dostojanstva, izgradnji pravičnejše družbe in ohranitvi naravnega okolja. Podpisniki posebej ne poudarjajo, da lahko verska prepričanja in religijske skupnosti pripomorejo k motivaciji za celostni etični razvoj. Iz samega besedila ni razviden motiv, zakaj bi si morali različni deležniki na področju razvoja UI sploh prizadevati za etični razvoj. Enostavno se predpostavlja, da so dostojanstvo člove- ške osebe, svoboda, ustvarjalnost, pravičnost, vključujoča družba in trajnostni razvoj tako pomembne vrednote, da se jim ne želimo odpovedati. Vera v Boga Stvarnika vsekakor daje močno spodbudo k zavzemanju za spoštovanje teh temelj- nih vrednot. Poziv pa daje velik poudarek kritičnemu presojanju, ki vključuje do- ločeno vizijo izpolnjenega človeškega življenja, na podlagi katere razločujemo, kaj je dobro in prav glede uporabe UI. Tudi glede tega vera in teologija nista nikjer eksplicitno omenjeni, vendar je prav vera v Boga tista, ki onemogoča, da bi abso- lutizirali katerikoli človeški dosežek. Vera nam pomaga, da nas napredek ne zave- de in ne opijani. Pri sedanjem skokovitem razvoju na področju UI je to še toliko bolj pomembno. Rimski moralni teolog Paolo Benanti je zapisal: »Bolj kot kadar- koli doslej potrebujejo inovacije danes široko antropološko razumevanje, če se želijo preoblikovati v pristen izvor človeškega razvoja.« (2021, 134) Krščanska an- tropologija je seveda povezana s temeljnim prepričanjem, da je človek bitje, ki je ustvarjeno po Božji podobi, zato nosi v sebi svojo presežno vrednost in svetost. Standfordsko poročilo o vplivnih prispevkih na področju etike UI je „Rimski po- ziv“ uvrstilo med pet najodmevnejših novic s tega področja v letu 2020 (Standford University 2021, 12; 128; 131). Delovanje ustanove RenAIssance, ki deluje pod okriljem Papeške akademije za življenje in nadaljuje poslanstvo „Rimskega poziva“, je v zadnjih letih močno razširilo mrežo partnerjev, ki sodelujejo pri nadaljnjih projektih za oblikovanje etike UI (Pecoraro in Curzel 2023). Velik dosežek je podpis 874 Bogoslovni vestnik 84 (2024) • 4 „Rimskega poziva“ s strani predstavnikov enajstih najbolj razširjenih svetovnih verstev v Hirošimi 10. julija 2024 (RenAIssance Foundation 2024). 2.2 „Umetna inteligenca in mir“ (2024) V nadaljevanju bomo predstavili dva dokumenta, pod katera se je podpisal papež Frančišek. Prvi je tradicionalna, že 57. papeška poslanica za svetovni dan miru, ki ga obhajamo 1. januarja. Poslanica za leto 2024 nosi naslov „Umetna inteligenca in mir“. Na začetku Frančišek pozdravlja napredek v znanosti in tehniki, ki vodi k izboljšanju človeštva in preoblikovanju sveta. Znanost in tehnika sta po papeže- vih besedah izraz dostojanstva, ki ga je Stvarnik položil v človeka. »Tudi napredek znanosti in tehnike, kolikor prispeva k boljši urejenosti človeške družbe ter k rasti svobode in bratskega občestva, torej vodi k izboljšanju človeka in preobrazbi sve- ta.« (Frančišek 2023, 6) Vendar pa sodobni znanstveno-tehnični razvoj prinaša tudi številna tveganja za preživetje in nevarnosti za skupni dom. »Izjemen napredek novih informacijskih tehnologij, zlasti na digitalnem področju, predstavlja torej navdušujoče priložnosti in resna tveganja s pomembnimi posledicami za dosego pravičnosti in za harmonijo med ljudstvi.« (6) Papež želi s poslanico odgovoriti na nekaj temeljnih vprašanj glede prihodnosti UI, predvsem glede njenega vpliva na življenje posameznikov in družbe. Zaveda se, da je digitalna tehnologija sprožila globoke družbene spremembe. »Nova digitalna orodja spreminjajo podobo komunikacij, javne uprave, izobraževanja, potrošnje, medosebnih odnosov in neštetih drugih vidikov vsakdanjega življenja.« (7) Vse to odpira številna etična vprašanja in dileme, na katere morajo biti pozorni razvijalci in uporabniki UI. Frančišek pojasnjuje, da bi bilo bolj pravilno govoriti o UI v mno- žini, saj gre za različne sisteme, ki želijo posnemati spoznavne sposobnosti ljudi. »Umetno inteligenco moramo torej razumeti kot galaksijo različnih resničnosti in ne moremo vnaprej predvidevati, da bo njen razvoj sam po sebi blagodejno pri- speval k prihodnosti človeštva in miru med narodi. Takšen pozitiven izid bo mogoč samo, če bomo dokazali, da smo sposobni delovati odgovorno in spoštovati temelj- ne človeške vrednote, kot so ›vključenost, preglednost, varnost, pravičnost, diskre- tnost in zanesljivost‹.« (8–9). Vidimo, da papež navaja podobna načela kot „Rimski poziv“ iz leta 2020. Frančišek se zavzema za konkretne in zavezujoče etične smer- nice, ki bi jih morali spoštovati načrtovalci algoritmov in digitalnih tehnologij. Če želimo, da bo digitalni razvoj prispeval k miru in pravičnosti, potem mora spošto- vati dostojanstvo vsake človeške osebe in vesoljno bratstvo vseh ljudi. »Tehnolo- škega razvoja, ki ne vodi k izboljšanju kakovosti življenja vsega človeštva, ampak nasprotno povečuje neenakosti in konflikte, nikoli ne moremo imeti za pravi na- predek.« (10) Večkrat v poslanici sta poudarjeni globalna pravičnost in socialna enakost, ki morata biti merili pri razvoju UI. Pri zagotavljanju enakosti pa Frančišek izpostavi posebno pozornost do ubogih in obrobnih. Trdi namreč, da stopnjo naše človečnosti razodeva način, »kako umetno inteligenco uporabimo za vključevanje najmanjših, to je najslabotnejših in najbolj potrebnih bratov in sester« (17). V svetu preobilja in prenasičenosti Frančišek izpostavlja vrednost antične kre- posti zmernosti, ki nasprotuje kapitalističnemu načelu učinkovitosti, na katerem 875 875 Roman Globokar - Pogled Katoliške Cerkve ... temelji sodobni tehnološki razvoj. Človek, ki ne priznava mej, je v nevarnosti, »da bo zaradi obsedenosti z željo imeti nadzor nad vsem, izgubil nadzor nad samim seboj; da bo v iskanju absolutne svobode padel v spiralo neke tehnološke dikta- ture« (13). Človek kot ustvarjeno bitje mora priznati in sprejeti svoje meje, če želi živeti polnost življenja. Učinkovitost ne sme biti merilo za vrednost človeškega življenja. Ko poslanica na verodostojen in prepričljiv način opozarja na številne negativne posledice uvajanja UI na različnih področjih človeškega življenja in delovanja, iz- postavi osnovno antropološko zmoto, na kateri temelji vseobsegajoča uporaba UI. Človek ni zgolj skupek podatkov! »Algoritmom ne smemo dovoliti, da bi določali, kako razumemo človekove pravice, da bi zanemarjali bistvene vrednote sočutja, usmiljenja in odpuščanja ali da bi odpravili možnost, da se posameznik lahko spre- meni in pusti za seboj svojo preteklost.« (15) V nadaljevanju papež še enkrat iz- postavi, da ima samo človek moralno odgovornost in je zato tudi odgovoren za načrtovanje in uporabo UI: »Izključno človeška sposobnost moralnega presojanja in etičnega odločanja je več kot zapleten skupek algoritmov in te sposobnosti ne moremo omejiti na programiranje nekega stroja, ki ne glede na to, kako ‚pameten‘ je, še vedno ostaja zgolj stroj.« (16) Frančišek posebej opozori na nevarnost novih »smrtonosnih avtonomnih oborožitvenih sistemov«, ki vključujejo UI in omogo- čajo vojaške posege brez neposrednega sodelovanja človeka, čemur smo vsako- dnevno priča pri vojaških spopadih v Ukrajini, Rusiji, Izraelu, Palestini, Libanonu in drugje. Na koncu poslanice papež pozove k interdisciplinarnemu dialogu, ki naj vodi v oblikovanje »algor-etike« (17) za zagotavljanje etičnega razvoja algoritmov. Za uveljavitev etičnih standardov pri razvoju algoritmov pa sta za papeža ključni dve področji: vzgoja in mednarodno pravo. Na področju vzgoje za uporabo UI ima po- sebno vlogo »spodbujanje kritičnega mišljenja« (18). Ključna veščina je sposobnost razločevanja pri uporabi podatkov in vsebin, ki jih lahko najdemo na spletu ali jih proizvedejo sistemi UI. Na področju prava pa je treba oblikovati zavezujočo ure- ditev za razvoj in uporabo UI na globalni ravni. »Cilj predpisov pa seveda ne bi smel biti samo preprečevanje slabih praks, ampak tudi spodbujanje dobrih, novih in ustvarjalnih pristopov ter omogočanje osebnih in kolektivnih pobud.« (19) Etič- ne smernice so potrebne, vendar še ne zagotavljajo etičnega razvoja UI. Papež spodbuja k skupnemu poglobljenemu razmisleku o smislu človeškega bivanja, va- rovanju temeljnih človekovih pravic ter prizadevanju za pravičnost in mir. Kot po- seben dragocen in pomemben pa navaja glas »ubogih, obrobnih in drugih, ki v globalnih procesih odločanja pogosto ostajajo neslišani« (19). Če pogledamo na to poslanico skozi prizmo treh dejavnikov krščanske vere in teologije za etiko, potem ponovno zelo močno izstopa zavezanost k integraciji naj- novejših spoznanj o razvoju UI in njenih pozitivnih in negativnih vplivih. Celotno besedilo je napisano na način, da bi bilo razumljivo in dostopno tudi nekristjanu. Ob koncu papež pozove k skupnemu delovanju: »Naj verni kristjani, verniki različ- nih verstev ter možje in žene dobre volje usklajeno sodelujejo, da bodo izkoristili priložnosti in se spoprijeli z izzivi, ki jih prinaša digitalna revolucija, ter prihodnjim 876 Bogoslovni vestnik 84 (2024) • 4 rodovom izročili bolj solidaren, pravičen in miroljuben svet.« (20) Sklicevanj na te- ološke temelje je v poslanici sicer nekaj več kot v besedilu „Rimskega poziva“, ven- dar še vedno prevladuje argumentacija na ravni univerzalne etike. Cilj razvijanja UI je spodbujanje celostnega razvoja človeka, pri čemer sta poudarjena tudi človeško bratstvo in spoštovanje naravnega okolja. Teološki poudarki, ki jih je sicer malo, spodbujajo odgovornost posameznikov in družbe za daljnosežne posledice dana- šnjih odločitev na področju UI. Ustvarjeni smo po Božji podobi, smo svobodni in razumni ter poklicani, da s svojo ustvarjalnostjo sodelujemo z Bogom pri dovršitvi sveta. (5–6) Poslanica poudarja presežno razsežnost resničnosti, ki je ni mogoče zaobjeti v človeške ideje, tudi s pomočjo najnovejših algoritmov ne. Pri tem se skli- cuje na enega od štirih stebrov družbene misli papeža Frančiška, ki jih je navedel v apostolski spodbudi „Veselje evangelija“, in sicer da »resničnost presega idejo« (12). Močan vidik papeževe novoletne poslanice pa je oblikovanje kritične distance do nekritične uporabe UI, in sicer na temeljni antropološki predpostavki, da je človek več kot samo skupek podatkov. Na podlagi biblične antropologije Frančišek pou- darja, da je človek od Boga ustvarjeno bitje, svobodno, razumno, ustvarjalno, a vendar tudi omejeno, krhko, ranljivo in grešno. Vera v Boga Stvarnika nas osvoba- ja pred vsako obliko »tehnološke diktature« (13), kot nevarnost vseobsegajoče moči novih digitalnih tehnologij imenuje papež Frančišek. 2.3 „Umetna inteligenca in modrost srca“ (2024) Kmalu po objavi novoletne poslanice je papež Frančišek ob koncu januarja 2024 ponovno spregovoril o etičnih izzivih UI, tokrat v poslanici ob 58. dnevu družbe- nih občil s pomenljivim naslovom „Umetna inteligenca in modrost srca“. Sporočilo sicer ne prinaša bistvenih vsebinskih novosti glede na prejšnja dva dokumenta, predstavlja pa izviren interpretacijski ključ za etični razvoj UI, in sicer modrost srca. Frančišek poseže po avtorju, pri katerem je želel napisati svoje doktorsko delo. Vemo, da doktorskega študija v Nemčiji ni zaključil, vendar se je na nemškega te- ologa in misleca Romana Guardinija skliceval že v več dokumentih (npr. kar osem- krat v okrožnici „Laudato si'“). Guardini je bil predstavnik nove teološke misli, ki je na začetku 20. stoletja spodbujala krščansko misel k odprtemu odnosu do sve- ta, hkrati pa opozarjala na nevarnosti tehnološke civilizacije. Njegovo delo Konec moderne dobe (Das Ende der Neuzeit) ni izgubilo na aktualnosti, čeprav je bilo napisano kmalu po koncu druge svetovne vojne. (Guardini 1965) Frančišek pona- vlja Guardinijeve besede, da moramo biti odprti za napredek, a tudi občutljivi za vse, kar ogroža našo človečnost. »Oblikovati se mora nov tip človeka, obdarjen z globljo duhovnostjo, z novo svobodo in novo notranjostjo.« (Frančišek 2024a) Papež opozarja na nevarnost, da bi bili bogati s tehnologijo, a hkrati revni s člo- večnostjo. In nadaljuje: »Samo če se oskrbimo z duhovnim pogledom, samo če si povrnemo modrost srca, lahko beremo novosti našega časa in ponovno odkrijemo pot do popolnoma človeške komunikacije.« (2024a) Ko razlaga, kaj ima v mislih z modrostjo srca, se opira na biblični pogled. V svetopisemskem svetu je srce kraj svobode in odločanja, pa tudi kraj modrosti in razumevanja. Predstavlja enotnost človeka, vključno z njegovimi željami, hrepenenji in sanjami. Srce predstavlja sre- 877 877 Roman Globokar - Pogled Katoliške Cerkve ... dišče človeške osebe. Je tudi notranji prostor za srečanje z Bogom. »Modrost srca je zato tista krepost, ki nam omogoča zasnovati skupaj celoto in dele, odločitve in njihove posledice, višine in krhkosti, preteklost in prihodnost, jaz in mi.« (2024a) Modrost srca nam pomaga odkriti pravi pomen stvari in daje okus življenju. Bistvena razlika med človekom in UI je, da je samo človek sposoben modrosti. Stroj je sicer zmogljivejši pri pomnjenju in povezovanju podatkov, vendar ni spo- soben podatkom dati pomena. Kot bistveno posebnost človeka papež navaja nje- govo zavest nezadostnosti in ranljivosti, ki ga odpira v odnose in spodbuja k ustvar - jalnosti. Ljudje smo v svojem hrepenenju po preseganju vedno v nevarnosti, da podležemo prvotni skušnjavi, »da bi postali kakor Bog brez Boga (prim. 1 Mz 3), kar pomeni, da bi želeli s svojimi močmi osvojiti to, kar bi morali namesto tega sprejeti kot Božji dar in živeti v odnosu z drugimi« (Frančišek 2024a). Usmerjenost srca določa, kako bo človek uporabljal stvari okrog sebe, tudi sisteme UI. »Kot vsaka druga stvar, ki je prišla iz človekovega uma in njegovih rok, tudi algoritmi niso nevtralni. Zato je potrebno delovati preventivno in predlagati modele etič- nega urejanja, da bi obrzdali škodljive in diskriminatorne ter družbeno krivične plati sistemov umetne inteligence, in se zoperstaviti njihovi uporabi pri zmanjšanju pluralnosti, v polarizaciji javnega mnenja ali v graditvi ene same misli.« (2024a) Tudi na tem mestu papež poziva k mednarodni ureditvi področja razvoja in upo- rabe UI, vendar ugotavlja, da zgolj ustrezna zakonodaja ne bo dovolj. Potrebujemo rast v človečnosti: »Poklicani smo, da rastemo skupaj v človečnosti in kot človeštvo.« (2024a) Ta temeljni cilj mora usmerjati tudi razvoj UI, ki je stalno podvržen ambiva- lentnim možnostim. »Velike možnosti za dobro spremlja nevarnost, da bi se vse spremenilo v abstraktni račun, ki ljudi skrči na podatke, misel na obrazec, izkustvo na primer, dobro na dobiček, predvsem pa da bi na koncu zanikali enkratnost vsake osebe in njene zgodovine, ko bi konkretnost resničnosti razkrojili v vrsto statističnih podatkov.« (2024a) To, pred čemer svari Frančišek, je v veliki meri podobno ideolo- giji ‚dataizma‘ (Harari 2022), ki resničnost dojema kot seštevek podatkov ter vse upe na boljšo prihodnost polaga v UI, ki naj bi preko uspešnega procesiranja velike koli- čine podatkov razrešila vse probleme. Resnični svet pa je seveda mnogo več kot zgolj seštevek podatkov. »Predstavitev resničnosti v velikih podatkih, čeprav je funkcio- nalna za upravljanje strojev, namreč vključuje bistveno izgubo resničnosti stvari, ki ovira medosebno komuniciranje in predstavlja tveganje, da škoduje naši človečno- sti.« Za človeško komunikacijo je bistven neposredni medosebni odnos, ki vključuje telesno razsežnost ali kot pravi papež: »Poleg vzajemne delitve zahteva obraz, pogled in sočutje.« (Frančišek 2024a) Slednjih pa ne more dati noben sistem UI. Frančišek zaključi, da je prihodnost odprta. »Človeku pripada odločitev, ali bo postal hrana za algoritme, ali pa bo svoje srce hranil s svobodo, brez katere ne more rasti v modrosti. Ta modrost dozoreva s tem, da čas spreminja v zaklad in sprejema ranljivost.« (Frančišek 2024a) Papež ponovno uporabi pojem ranljivost, da bi označil človeško ustvarjenost, nezadostnost in naravnanost na odnose. Svo- jo poslanico sklene z besedami: »Da ne bi izgubili svoje človeškosti, iščimo Mo- drost, ki je pred vsem (prim. Sir 1,4), ki skozi čista srca pripravlja Božje prijatelje in preroke (prim. Mdr 7,27).« (Frančišek 2024a) 878 Bogoslovni vestnik 84 (2024) • 4 Od vseh treh obravnavanih besedil je poslanica „Umetna inteligenca in modrost srca“ najbolj teološko obarvana. Ne ukvarja se toliko z univerzalnimi etičnimi na- čeli, čeprav se pri obravnavanju problematike o uporabi UI v komunikaciji sklicuje na širše etično razmišljanje in integrira najpomembnejša spoznanja s tega podro- čja v svojo refleksijo. Prevzame Guardinijevo držo kritične odprtosti do razvoja sodobne tehnike in v ospredje postavlja duhovno razsežnost človeka oz. modrost srca. Eksplicitno predstavlja versko spodbudo, da kristjan išče modrost od zgoraj, da bi na pravi način usmerjal sodobni digitalni razvoj. Tudi ta dokument poudarja, da nobena tehnologija, tudi UI, ni nevtralna, zato je potrebno razločevanje. Za kritično presojanje ponovno daje kriterije spoštovanja dostojanstva človeške ose- be, skupnega dobrega in varovanje stvarstva. Posebej opozori tudi na nevarnost zoženja celotne resničnosti na podatke, pri čemer pa naj bi nas prav vera v Boga osvobajala vsakega redukcionističnega pogleda. 3. Etika kreposti v navezavi na družbeni nauk Cerkve Ena od vlog teologa znotraj etičnih razprav v pluralni družbi je, da postavlja temeljna vprašanja, ki zadevajo cilj in smisel etičnih odločitev. Vsi trije obravnavani dokumenti vsebujejo spraševanje o posebnosti človeka in vplivu novih tehnologij na njegovo svobodo in dostojanstvo, o prihodnosti človeštva in planeta, o ohranjanju človeč- nosti in spodbujanju enakosti med ljudmi. Za etično usmeritev razvoja UI ne bodo zadostovala samo pravila delovanja in etične smernice, ampak je nujno apelirati tudi na spodbujanje temeljnih etičnih drž oz. kreposti tako pri razvijalcih sistemov UI kot pri njihovih uporabnikih. Etika kreposti si za temeljno nalogo zastavlja iskanje odgovora na vprašanje, kako omogočiti ljudem, da postanejo dobri ljudje in izpolnijo svoje človeško življenje. Stres pravi, da je krepost »moralna ‚kondicija‘: usposoblje- nost in krepkost za izvrševanje tistega, kar je moralno dobro in prav« (2018, 442). Kreposti so torej temeljene življenjske drže, ki ljudem omogočajo, da so dobri ljudje in da izpolnijo svoj življenjski cilj. Vzgoja za kreposti mora najti svoje mesto v proce - su izobraževanja in tudi nadaljnjem vseživljenjskem oblikovanju ljudi (Kraner 2023). Razvoj UI nas spodbuja k ponovnemu premisleku, kako razvijati in ohranjati pristno človečnost znotraj novih možnosti in priložnosti. UI namreč korenito spreminja način človeškega življenja, človeško razmišljanje in delovanje, naše medosebne odnose in tudi zmožnosti poseganja v naravno okolje. Postavlja še temeljno vpra- šanje, v kakšni meri bo uporaba UI spodbujala dobrobit posamezne človeške ose- be, človeštva in celotnega naravnega okolja. Katere temeljne moralne drže naj bi imeli snovalci in odločevalci pri razvoju UI, da bo razvoj zagotavljal in spodbujal dostojanstvo vsake človeške osebe, večjo pravičnost in enakost znotraj človeške družbe ter vzdržnost in trajnost celotnega naravnega okolja? Ob tem pa seveda ne gre zanemarjati tudi vloge uporabnikov UI, ki s svojimi navadami, pričakovanji, zahtevami in odločitvami pomembno usmerjajo ta razvoj. Verske skupnosti imajo na tem področju pomembno vlogo, saj preko verskega nauka oblikujejo tudi moralni značaj svojih vernikov (Vodičar 2023a, 11). Krščanski 879 879 Roman Globokar - Pogled Katoliške Cerkve ... pogled na človeka temelji na verski resnici, da je človek ustvarjen po Božji podobi, da je svobodno in razumno bitje, ustvarjen iz ljubezni in za ljubezen, ustvarjen kot moški in ženska, postavljen kot skrbnik skupnega doma, da je ranljivo bitje, ki se uresničuje znotraj odnosov, da je tudi grešno bitje, ki pa ga Bog odrešuje in mu s svojimi odrešilnimi dejanji odpira pot v novo življenje. (Platovnjak in Svetelj 2023, 982−983; Platovnjak 2024, 201−202) Ta verski pogled je podlaga določenim te- meljnim etičnim predpostavkam, kot so spoštovanje dostojanstva vsakega člove- škega življenja, enakost med spoloma, družbena pravičnost, skrb za naravno oko- lje, pripravljenost za spravo in odpuščanje. Zdi se, da danes zaradi hitrega razvoja digitalnih tehnologij, ki imajo vedno močnejši vpliv na spreminjanje samorazume- vanja človeka in njegovih odnosov, še bolj potrebujemo poglobljeno spraševanje, kdo je pravzaprav človek, kaj je tisto najbolj dragoceno in specifično človeško, česar ne smemo uničiti, in kako naj uporabljamo pridobitve sodobne tehnologije, da bodo spoštovale dostojanstvo vsake človeške osebe, skupno dobro človeštva in notranjo vrednost celotnega stvarstva. Teološka refleksija mora dati svoj prispevek pri odločanju o prihodnjem razvo- ju UI, da bo zagotovila ohranitev pristnega človeškega bivanja tudi v prihodnosti. Benanti označuje sedanjo generacijo mladih kot generacijo omega, ki jo označuje kot zadnjo generacijo človeštva, kot smo ga poznali do sedaj. »‚Zmožnost‘ te ge- neracije bi lahko bila v tem, da bi se spremenila v nekaj zelo drugačnega od tiste- ga, kar trenutno razumemo kot človeško.« (2021, 135) Benanti pravi, da bo priho- dnji človek neke vrste potepuh oz. iskalec; če bo znal sprejeti duhovni klic, bo spet postal viator, sicer se bo obsodil na tavanje in brezciljnost (136). Po njegovem prepričanju bo morala generacija omega odgovoriti na tri temeljna vprašanja o človeški naravi, ki jih ne bo mogla preložiti naprej, in sicer glede odnosa človeštva do okolja, odnosa človeštva do tehnologije in odnosa človeštva do samega sebe. Mogoče je Benantijeva napoved pretirana in deluje provokativno. Vsaka genera- cija človeštva je namreč morala na ta temeljna vprašanja odgovoriti zase. Je pa res, da postajajo procesi razmišljanja in odločanja s pomočjo UI čedalje hitrejši, zato je potrebna globlja in daljnosežnejša odgovornost. Iz vseh treh predstavljenih dokumentov odseva načelno odobravanje nadalj- njega razvoja in uporabe UI, saj lahko v marsičem olajša človeško življenje in pri- speva k bolj pravični in enakopravni družbi. Po drugi strani pa je lahko tudi vir številnih zlorab človekovega dostojanstva in njen nadaljnji razvoj lahko prispeva k še večjim razlikam v družbi in degradaciji naravnega okolja. Ob zaključku tega prispevka želimo izpostaviti osem temeljnih drž oz. kreposti, ki izhajajo iz družbenega nauka Katoliške Cerkve in lahko služijo za usmerjanje nadaljnjega razvoja UI. Družbeni nauk Cerkve poznamo predvsem po načelih, v skladu s katerimi presojamo etičnost določenih družbenih pojavov. Po našem pre- pričanju je treba od načel narediti še en korak globlje, in sicer k oblikovanju te- meljnih drž oz. kreposti. Načela ostajajo na racionalni ravni in omogočajo etično presojanje, medtem ko gre spodbujanje kreposti že v konkretno oblikovanje ce- lostne osebnosti, ki poleg racionalne presoje vključuje tudi čustveno, volitivno in dejavnostno plat. V tem oziru etika kreposti bolj celostno spodbuja posameznika 880 Bogoslovni vestnik 84 (2024) • 4 in skupnost k delovanju in označuje tiste temeljne drže, ki so nujno potrebne za končni skupni cilj: oblikovanje boljše prihodnosti za vsakega človeka, za človeško družbo in za celotno naravno okolje. Na zelo shematski način bomo povzeli te- meljne drže, ki zagotavljajo, da bo razvoj in uporaba UI sledila temu cilju. Spoštovanje človekovega dostojanstva. Izhodišče družbenega nauka Cerkve je, da mora biti spoštovanje človekovega dostojanstva vedno v središču vsakega družbenega razvoja. Nikoli se ne sme podrediti posameznim ko- ristim določene družbene institucije. Kot je pokazala naša razprava, tudi vsi omenjeni cerkveni dokumenti o UI vedno na prvo mesto postavljajo spoštovanje dostojanstva vsakega človeka in njegovega celostnega razvo- ja. Z razvojem digitalnih orodij in umetne inteligence se po eni strani po- večujejo možnosti za večje spoštovanje vsakega posameznika, saj se omo- goča bolj individualiziran pristop na različnih področjih (izobraževanje, zdravstvo), po drugi strani pa so možne tudi večje zlorabe prav zaradi nadzora nad posameznikom, vdora v zasebnost in izkoriščanja informacij. Pomembno je tudi, da ostaja jasna ločnica med človekom in digitalnimi orodji UI, da smo uporabniki vedno informirani, kdaj komuniciramo s konkretno osebo, kdaj pa s strojem, ki uporablja UI. Zagotavljanje skupnega dobrega. Družbeni nauk Cerkve kot protiutež preti- ranemu poudarjanju pravic posameznika poudarja socialno vpetost vsa- ke osebe in nujnost njenega udejstvovanja za skupno dobro. V današnji dobi individualizma je spodbujanje zavzemanja za skupne dobrine še bolj pomembna. Pri tem ne mislimo samo na skupne materialne dobrine, kot so infrastruktura, skupne javne površine ipd., ampak tudi na številne de- javnosti skupnega življenje, kot so npr. šolstvo, zdravstvo, socialna oskrba … Drugi vatikanski koncil pravi, da je skupno dobro »vsota vseh tistih po- gojev za družbeno življenje, ki so potrebni, da morejo posamezniki, dru- žine in združenja čim bolje in čim lažje doseči lastno popolnost« (GS 74). Na področju skupnega življenja ima pomembno vlogo oblast, ki mora na različnih ravneh zagotavljati enake možnosti vsem, da dostopajo do sku- pnega dobrega in da tudi v skladu s svojimi pristojnostmi prispevajo k skupnemu dobremu. Poleg spoštovanja človekovega dostojanstva vsi cer- kveni dokumenti o UI na drugem mestu poudarijo, da mora UI prispeva- ti k večji vključenosti vseh ljudi v družbi in k zagotavljanju boljših možno- sti za vse, zato tudi večkrat izpostavijo, da je treba posebno pozornost posvetiti ubogim in obrobnim. Prav evangeljska drža posebne skrbi za uboge in obrobne se nam zdi merodajna pri zagotavljanju skupnega do- brega. Razvoj sodobnih tehnologij ne sme povečevati razlik v družbi, am- pak mora biti naravnan k temu, da se vsem omogoča dostojno življenje. Pravičnost. Krepost pravičnosti lahko razumemo kot bolj natančno opredelitev kreposti zagotavljanja skupnega dobrega. Gre za oblikovanje drže, ki se zavezama, da bi bile vsem zagotovljene enake možnosti, ne glede na spol, starost, prepričanje, vero, narodnost ali gmotni položaj. Hkrati pa se v kontekstu UI zaveda tudi pomena avtorstva posameznih besedil in spo- 881 881 Roman Globokar - Pogled Katoliške Cerkve ... štovanja avtorskih pravic. Drža pravičnosti po eni strani preprečuje pri- svajanje intelektualne lastnine drugih, po drugi strani pa raziskovalce spodbuja k bolj odprtemu deljenju svojih znanstvenih dognanj, saj bi se s tem omogočil bolj enakomeren razvoj tudi tistim posameznikom in sku- pinam, ki nimajo enakih možnosti. Vsi trije zgoraj omenjeni dokumenti poudarjajo pravičnost, še prav posebej pravičnost na globalni ravni, ki bo vodila k zmanjševanju razlik med razvitimi in nerazvitimi državami in med bogatimi in revnimi v družbi. Solidarnost. Eden od stebrov družbenega nauka Cerkve je tudi solidarnost. Danes je zavest o medsebojni povezanosti in soodvisnosti še mnogo večja kot v preteklosti, zato je solidarnost toliko bolj pomembna. Papež Fran- čišek spodbuja: »V teh časih, ko se zdi, da vse razpada in se razkraja, je dobro spodbujati k solidarnosti, ki se rojeva iz odgovornosti do neboglje- nih, iščočih skupno usodo. Solidarnost se dejansko krepi v služenju, ki ima lahko najrazličnejše oblike skrbi za druge.« (2020, 115) Od najnežnejše dobe človeškega razvoja je treba spodbujati krepost solidarnosti, ki spod- buja razvoj empatije do pomanjkanja in trpljenja drugih ljudi in krepi po- sameznika za pripravljenost za pomoč. V cerkvenih stališčih o UI je bilo večkrat poudarjeno, da morajo biti bremena porazdeljena tako, da bodo tisti, ki so v podrejenem položaju, lahko tudi s pomočjo sodobnih digital- nih sredstev hitreje napredovali. Drža solidarnosti nas vseskozi spodbuja, da prevzamemo svoj del odgovornosti za celotno skupnost in da smo po- zorni na tiste, ki potrebujejo našo pomoč. Subsidiarnost. Drža subsidiarnosti, ki je tudi lastna družbenemu nauku Cerkve, poudarja pomen avtonomnega odločanja posameznika in manjših sku- pnosti nasproti višjim in mogočnejšim institucijam. Kot smo videli, je ve- lika nevarnost nadaljnjega razvoja digitalnih orodij prav popoln nadzor nad življenjem ljudi in centralizacija odločanja na globalni ravni. Lahko pride do še večje uniformiranosti vseh temeljnih procesov na svetovni ravni, pri čemer bi bili močno ogroženi avtonomija posameznika in boga- stvo različnih človeških kultur. Pomembno je, da nadaljnji razvoj UI ne zmanjšuje svobode posameznika in manjših skupnosti, ampak podpira osebno pobudo ter se odpove skušnjavi po popolni centralizaciji in nad- zoru. Preglednost. Preglednost je krepost, ki je bolj specifično povezana z razvojem in uporabo UI. Sorodna je kreposti poštenosti, ki označuje posamezniko- vo iskrenost pri izražanju svojih namenov in ciljev delovanja. Iz naše ana- lize stališč Katoliške Cerkve glede UI lahko izluščimo, da je preglednost oz. transparentnost eden od osnovnih pogojev za etičnost razvoja. Drža preglednosti nas spodbuja k temu, da zagotavljamo razložljivost delovanja sistemov UI in preverjamo njeno morebitno pristranskost pri oblikovanju zaključkov. Prav tako morajo biti pregledni tudi nameni in cilji snovalcev razvoja digitalnih orodij. 882 Bogoslovni vestnik 84 (2024) • 4 Previdnost. Drža previdnosti ima nalogo, da zavaruje raziskovalce in uporab- nike pred negotovimi in tveganimi koraki. Vemo, da tudi največji strokov- njaki ne morejo popolnoma zanesljivo razložiti delovanja UI, zato bi mo- rali v dvomljivih situacijah slediti drži previdnosti. Kadar nismo gotovi, da gre za zanesljivo in etično uporabo določenih orodij, se je bolje odpove- dati uporabi, kot pa tvegati negativen rezultat. Drža previdnosti zahteva, da je dokazovanje varnosti uporabe na strani proizvajalca, ki mora na prepričljiv način zagotoviti, da uporaba ne bo imela negativnih posledic za posameznike in družbo. Odgovornost za daljnosežne posledice. Drža odgovornosti za daljnosežne po- sledice se je najprej poudarjala na področju varovanja naravnega okolja. Kratkoročne koristi uporabnikov ne smejo pretehtati nad možnimi dolgo- ročnimi negativnimi posledicami za usodo celotnega planeta. Varovanje okolja je z okrožnico „Laudato si'“ leta 2015 postalo tudi del družbenega nauka Cerkve, ki vidi neposredno povezavo med skrbjo za družbena vpra- šanja in skrbjo za naravno okolje. Zanimivo je, da je v treh cerkvenih do- kumentih o UI vedno kot tretji steber za etično presojo – poleg spoštova- nja človekovega dostojanstva in zagotavljanja družbene pravičnosti – ve- dno omenjena tudi skrb za naravno okolje. Množična uporaba UI bo zah- tevala še večjo proizvodnjo energije, kar bo imelo negativne posledice za naravno okolje. Za doseganje svojih ciljev ljudje prevečkrat pozabljamo na vzdržljivost našega planeta, kar ima na koncu negativne posledice za možnost kakovostnega človeškega življenja v prihodnosti. Nujno je okre- piti držo odgovornosti in skrbi za naravno okolje in za daljnosežne posle- dice naših sedanjih odločitev na vseh področjih delovanja, kar vključuje tudi področje razvoja in uporabe UI. Razprava je pokazala, da se Katoliška Cerkev dejavno vključuje v širše družbeno razmišljanje o vlogi in pomenu UI. Katoliška Cerkev načeloma pozdravlja napredek sodobne tehnike in vidi v novih tehnoloških dosežkih nadaljevanje stvarjenjskega procesa. Bog je ustvaril človeka kot razumno bitje in mu zaupal skrb za nadaljnji razvoj stvarstva. Človek si je s pomočjo razuma in ustvarjalnosti v marsičem olajšal življenje in razvil različne možnosti, da živi bolj polno in srečno življenje. Tudi ves razvoj digitalne tehnologije in umetne inteligence je treba naprej presojati v tej pozitivni luči. Prinaša namreč ogromno prednosti za življenje človeka kot posame- znika in za človeško družbo. Tako kot druge pridobitve človeškega razuma pa tudi sistemi umetne inteligence prinašajo s seboj številne pasti in možnosti zlorab. Na podlagi treh uradnih dokumentov iz zadnjih let in bogatega izročila družbenega nauka Cerkve smo oblikovali predlog etike kreposti, ki je lahko v pomoč krščanskim skupnostim pri vzgoji za etično uporabo UI. 883 883 Roman Globokar - Pogled Katoliške Cerkve ... Reference Agius, Emmanuel. 2020. Challenges and Opportu- nities of Robotics to Catholic Theological Re- flection. V: Vincenzo Paglia in Renzo Pegoraro, ur. Robo-Ethics: Humans, Machines and Health, 115–139. Rim: Pontifical Academy for Life. Auer, Alfons. 1984. Autonome Moral und christli- cher Glaube. Düsseldorf: Patmos. Benanti, Paolo. 2021. Tecnologia per l'uomo: cura e innovazione. Milano: San Paolo. Boddington, Paula. 2023. AI Ethics: a Textbook. Singapore: Springer. Centa Strahovnik, Mateja. 2023. Identiteta in pogovorni sistemi umetne inteligence. Bogo- slovni vestnik 83, št. 4:853–864. Https://doi. org/10.34291/BV2023/04/Centa Demmer, Klaus. 1999. Fundamentale Theologie des Ethischen. Freiburg: Herder. – – –. 2014. Selbstaufklärung theologischer Ethik: Themen – Thesen – Perspektiven. Paderborn: Ferdinand Schöningh. Frančišek. 2020. Fratelli tutti. O bratstvu in druž- benem prijateljstvu. Okrožnica. Ljubljana: Družina. – – –. 2023. Umetna inteligenca in mir. Poslanica svetega očeta Frančiška za 57. svetovni dan miru. Ljubljana: Družina. – – –. 2024a. Umetna inteligenca in modrost srca: za popolnoma človeško komunikacijo. Vatican News. 24. 6. Https://www.vaticannews.va/sl/ papez/news/2024-01/papezeva-poslanica- -umetna-inteligenca-in-modrost-srca.html (pridobljeno 10. 6. 2024). – – –. 2024b. Discorso del santo padre Francesco, Borgo Egnazia. Vatican. 14. 6. Https://www. vatican.va/content/francesco/it/spee- ches/2024/june/documents/20240614-g7-in- telligenza-artificiale.html (pridobljeno 30. 6. 2024). Globokar, Roman. 2010. Pokoncilsko iskanje specifičnosti krščanske etike. Bogoslovni ve- stnik 70, št. 3:365–377. Grimm, Petra, Kai Erik Trost in Oliver Zöllner, ur. 2024. Digitale Ethik. Baden-Baden: Nomos. Guardini, Romano. 1965. Das Ende der Neuzeit. 9. izd. Würzburg: Werkbund-Verlag. Harari, Yuval Noah. 2022. Homo Deus: kratka zgodovina prihodnosti. Ljubljana: Mladinska knjiga. Kraner, David. 2023. Sodobni učitelj, komunikacija in resonanca v odnosih. Bogoslovni vestnik 83, št. 1:227–239. Https://doi.org/10.34291/ BV2023/01/Kraner Miklavčič, Jonas. 2021. Zaupanje in uspešnost umetne inteligence v medicini. Bogoslovni vestnik 81, št. 4:935–946. Https://doi. org/10.34291/bv2021/04/miklavcic – – –. 2023. Ideal transparentnosti v digitalni dobi. Bogoslovni vestnik 83, št. 4:825–838. Https:// doi.org/10.34291/BV2023/04/Miklavcic Pegoraro, Renzo, in Elisabetta Curzel. 2023. Rome Call for AI Ethics: the birth of a movement. Medicina Y Ética 34, št. 2:315–49. Https://doi. org/10.36105/mye.2023v34n2.01 Platovnjak, Ivan. 2024. Human Vulnerability, Spiritual Abuse, and Its Prevention. Obnovljeni život 79, št. 2:199−212. Https://doi. org/10.31337/oz.79.2.6 Platovnjak, Ivan, in Tone Svetelj. 2023. Technolo- gy as the Elixir of Immortality – Resurgent Philosophical and Spiritual Enigma of Human Imprisonment. Bogoslovni vestnik 83, št. 4:973−984. Https://doi.org/10.34291/ BV2023/04/Platovnjak Pontifical Academy for Life. 2020. Roma Call for AI Ethics, 28. 2. Https://www.vatican.va/roman_ curia/pontifical_academies/acdlife/docu- ments/rc_pont-acd_life_doc_20202228_ro- me-call-for-ai-ethics_en.pdf (pridobljeno 10. 6. 2024). RenAIssance Foundation. 2024. AI Ethics for Peace – Hiroshima. Rome Call. 10. 7. Https:// www.romecall.org/ai-ethics-for-peace-hiroshi- ma-july-10th-2024/ (pridobljeno 20. 8. 2024). Spiekermann, Sarah. 2019. Digitale Ethik: ein Wertesystem für das 21. Jahrhundert. Mün- chen: Droemer. Standford University. 2021. Artificial Intelligence Index Report 2021. Https://aiindex.stanford. edu/wp-content/uploads/2021/11/2021-AI-In- dex-Report_Master.pdf (pridobljeno 15. 6. 2024). Strahovnik, Vojko. 2023. Etični in teološki izzivi velikih jezikovnih modelov. Bogoslovni vestnik 83, št. 4:839–852. Https://doi.org/10.34291/ BV2023/04/Strahovnik Vodičar, Janez. 2023. Avtoriteta na področju vzgoje in verovanja v digitalni dobi. Bogoslovni vestnik 83, št. 4:1035–1047. Https://doi. org/10.34291/BV2023/04/Vodicar – – –. 2023a. ‚Being with‘ or Salesian Assistance in the Digital Age. Seminare 44, št. 2:1–14. Https://doi.org/10.21852/sem.1809 Zuccaro, Cataldo. 2013. Teologia morale fonda- mentale. Brescia: Queriniana.