Papeževa poslanica za 57. svetovni dan miru: Umetna inteligenca in mir

POSLANICA SVETEGA OČETA FRANČIŠKA

ZA 57. SVETOVNI DAN MIRU

1. JANUAR 2024

Umetna inteligenca in mir

Na začetku novega leta, časa milosti, ki ga Gospod podarja vsakemu izmed nas, bi rad nagovoril Božje ljudstvo, narode, voditelje držav in vlad, predstavnike različnih verstev in civilne družbe, vse moške in ženske našega časa ter jim izrazil svoje želje po miru.

1. Napredek znanosti in tehnologije kot pot k miru
Sveto pismo potrjuje, da je Bog ljudem dal svojega Duha, da bi imeli »modrost, razumnost in vednost za vsakršno delo« (2 Mz 35,31). Razumnost je izraz dostojanstva, ki nam ga je podaril Stvarnik, ki nas je ustvaril po svoji podobi in podobnosti (prim. 1 Mz 1,26) in nam omogočil, da na njegovo ljubezen odgovorimo s svobodo in spoznanjem. Znanost in tehnologija na poseben način razodevata to temeljno odnosnostno kakovost človeške razumnosti: sta izreden sad njene ustvarjalne moči.

Drugi vatikanski koncil je v pastoralni konstituciji Veselje in upanje to resnico poudaril in izjavil, da je »človek s svojim delom in duhovno močjo skušal bogateje razviti svoje življenje«.[1] Ko si ljudje »s pomočjo znanosti in tehnike« prizadevajo, da zemlja »postaja dostojno bivališče za celotno človeško družino«,[2] delujejo po Božjem načrtu in sodelujejo z njegovo voljo, da bi dovršili stvarstvo in širili mir med narodi. Tudi napredek znanosti in tehnike, kolikor prispeva k boljši urejenosti človeške družbe ter rasti svobode in bratskega občestva, torej vodi k izboljšanju človeka in preobrazbi sveta.

Upravičeno se veselimo in smo hvaležni za izredne dosežke znanosti in tehnologije, ki so pripomogli k odpravi mnogoterega zla, ki muči človeško življenje in povzroča veliko trpljenja. Istočasno tehnološko-znanstveni napredek, ki omogoča doslej še neviden nadzor nad resničnostjo, v človekove roke polaga široko paleto možnosti, med katerimi nekatere lahko predstavljajo tveganje za preživetje in nevarnost za skupni dom.[3]

Velik napredek novih informacijskih tehnologij, zlasti v digitalni sferi, zato predstavlja navdušujoče priložnosti in resna tveganja s pomembnimi posledicami za prizadevanje za pravičnost in harmonijo med ljudstvi. Zato si moramo nujno postaviti vprašanji: Kakšne bodo srednjeročne in dolgoročne posledice novih digitalnih tehnologij? Kakšen vpliv bodo imele na življenje posameznikov in družbe, na mednarodno stabilnost in mir?

2. Prihodnost umetne inteligence med obljubami in tveganji
Napredek informacijske tehnologije in razvoj digitalnih tehnologij v zadnjih desetletjih sta že začela povzročati globoke spremembe v dinamiki globalne družbe. Nova digitalna orodja spreminjajo podobo komunikacij, javne uprave, izobraževanja, potrošnje, medosebnih odnosov in neštetih drugih vidikov vsakdanjega življenja.

Poleg tega lahko tehnologije, ki uporabljajo številne algoritme, iz digitalnih sledi, puščenih na internetu, pridobijo podatke, ki omogočajo nadzor mentalnih in odnosnostnih navad ljudi v komercialne ali politične namene, pogosto brez njihove vednosti, kar omejuje njihovo zavestno uveljavljanje svobodne odločitve. V spletnem prostoru, za katerega je značilna preobremenjenost z informacijami, se dejansko lahko oblikuje tok podatkov glede na izbiro, ki je uporabnik ne zazna vedno.

Ne smemo pozabiti, da znanstvene raziskave in tehnološke inovacije niso vedno »nevtralne«, ločene od stvarnosti,[4] ampak so podvržene kulturnim vplivom. Gre za povsem človeške dejavnosti, zato usmeritve, ki ji sprejmejo, odražajo odločitve, ki jih pogojujejo osebne, družbene in kulturne vrednote vsakega obdobja. Enako lahko rečemo za rezultate, ki jih dosegajo: kot rezultat specifično človeških pristopov do sveta, ki jih obdaja, imajo vedno etično razsežnost, ki je tesno povezana z odločitvami tistih, ki načrtujejo eksperimentiranje in usmerjajo proizvodnjo k določenih ciljem.

To velja tudi za oblike umetne inteligence. Do danes v svetu znanosti in tehnologije nimamo enoznačne definicije. Sam pojem, ki je že vstopil v splošni jezik, zajema različne znanosti, teorije in tehnike, ki so usmerjene k temu, da bi stroji pri svojem delovanju reproducirali ali posnemali spoznavne sposobnosti ljudi. Govor v množini o »oblikah inteligence« lahko pomaga, da poudarimo predvsem nepremostljivo razliko med temi sistemi, pa naj bodo še tako presenetljivi in močni, in človekom: navsezadnje so »fragmentarni«, ker lahko samo posnemajo ali reproducirajo nekatere funkcije človeške inteligence. Govorjenje v množini poleg tega poudarja tudi, da je treba te naprave, ki se med seboj zelo razlikujejo, vedno obravnavati kot »družbeno-tehnične sisteme«. Njihov vpliv poleg temeljne tehnologije ni odvisen samo od načrtovanja, ampak tudi od interesov tistega, ki jih ima v lasti in jih razvija, pa tudi od situacij, v katerih se uporabljajo.

Umetno inteligenco moramo torej razumeti kot galaksijo različnih resničnosti in ne moremo vnaprej domnevati, da bo njen razvoj sam po sebi blagodejno prispeval k prihodnosti človeštva in miru med ljudstvi. Takšen pozitiven izid bo mogoč samo, če bomo dokazali, da smo sposobni delovati odgovorno in spoštovati temeljne človeške vrednote, kot so »vključenost, preglednost, varnost, enakost, diskretnost in zanesljivost«.[5]

Poleg tega ni dovolj domnevati, da bodo tisti, ki načrtujejo algoritme in digitalne tehnologije, delovali etično in odgovorno. Treba je okrepiti ali ustanoviti organizme, pristojne za preučevanje etičnih vprašanj, ki se bodo pojavljala, in za zaščito pravic tistih, ki uporabljajo oblike umetne inteligence ali so pod njenim vplivom.

Izjemen razmah tehnologije mora zato spremljati ustrezno izobraževanje glede odgovornosti za njen razvoj. Svoboda in mirno sožitje sta ogrožena, kadar ljudje popustijo skušnjavi sebičnosti, osebnega interesa, želji po dobičku in žeji po oblasti. Zato smo dolžni razširiti pogled in tehnično-znanstveno raziskovanje usmeriti v prizadevanja za mir in skupno dobro, v služenje celostnega razvoja človeka in skupnosti.[6]

Notranje dostojanstvo vsakega človeka in bratstvo, ki nas povezuje kot člane ene same človeške družine, morata biti v temelju razvoja novih tehnologij in služiti kot nesporni merili za njihovo ocenjevanje pred njihovo uporabo, da bo digitalni napredek lahko potekal v spoštovanju pravičnosti in prispeval k miru. Tehnološkega razvoja, ki ne vodi k izboljšanju kakovosti življenja vsega človeštva, ampak nasprotno povečuje neenakosti in konflikte, nikoli ne moremo imeti za pravi napredek.[7]

Umetna inteligenca bo postajala vedno bolj pomembna. Izzivi, ki jih predstavlja, so tehnični, pa tudi antropološki, izobraževalni, družbeni in politični. Obljublja na primer prihranek napora, učinkovitejšo proizvodnjo, lažji transport in bolj dinamične trge, pa tudi revolucijo v procesih zbiranja, organiziranja in preverjanja podatkov. Zavedati se moramo hitrih sprememb, ki se dogajajo, in jih upravljati tako, da bomo zavarovali temeljne človekove pravice ob spoštovanju ustanov in zakonov, ki spodbujajo celovit človekov razvoj. Umetna inteligenca mora služiti najboljšim človekovim možnostim in našim najvišjim željam, ne pa tekmovati z njimi.

3. Tehnologija prihodnosti: stroji, ki se učijo sami
V svojih številnih oblikah umetna inteligenca, ki temelji na tehnikah samodejnega učenja (machine learning) in je šele v pionirski fazi, že uvaja opazne spremembe v tkivo družb, saj globoko vpliva na kulture, družbeno vedenje in graditev miru.

Razvoj, kot sta strojno učenje in globoko učenje (deep learning), odpira vprašanja, ki presegajo področji tehnologije in inženiringa ter segajo na področje razumevanja, ki je tesno povezano s pomenom človeškega življenja, z osnovnimi procesi znanja in sposobnostjo uma, da doseže resnico.

Sposobnost nekaterih naprav, da na primer proizvedejo skladenjsko in pomensko skladna besedila, ni zagotovilo za zanesljivost. Pravijo, da lahko »halucinirajo«, se pravi, da ustvarjajo trditve, ki se na prvi pogled zdijo sprejemljive, a so v resnici neutemeljene ali izražajo predsodke. To predstavlja resen problem, kadar se umetna inteligenca uporablja v dezinformacijskih kampanjah, ki širijo lažne vesti in vodijo k vedno večjemu nezaupanju do medijev. Zaupnost, posedovanje podatkov in intelektualna lastnina so naslednja področja, za katera navedene tehnologije predstavljajo resna tveganja. Tem se pridružujejo negativne posledice, povezane z njihovo neprimerno uporabo, kot so diskriminacija, vmešavanje v volilne procese, zakoreninjenje družbe, ki spremlja in nadzoruje ljudi, digitalna izključenost, poslabšanje individualizma, ki se vse bolj ločuje od skupnosti. Vsi ti dejavniki predstavljajo tveganje za podžiganje konfliktov in ovirajo mir.

4. Čut za mejo v tehnokratski paradigmi
Naš svet je preobsežen, raznolik in zapleten, da bi ga lahko v celoti poznali in klasificirali. Človeški um ne bo mogel nikoli izčrpati njegovega bogastva, tudi s pomočjo najbolj naprednih algoritmov ne. Ti namreč ne nudijo zajamčenih napovedi prihodnosti, ampak samo statistične približke. Vsega ni mogoče napovedati, vsega ni mogoče izračunati; na koncu »resničnost presega idejo«[8] in ne glede na to, kako čudežna je lahko naša sposobnost računanja, bo vedno obstajal neki nedosegljiv ostanek, ki se izogne vsakemu poskusu merjenja.

Poleg tega velika količina podatkov, ki jih analizira umetna inteligenca, sama po sebi ni zagotovilo nepristranskosti. Ko algoritmi prenašajo vrednost informacij, so vedno v nevarnosti, da jih popačijo s ponavljanjem krivic in predsodkov okolij, iz katerih izvirajo. Hitrejši in zapletenejši ko postajajo, težje je razumeti, zakaj so prišli do nekega določenega rezultata.

»Inteligentni« stroji lahko vse učinkoviteje opravljajo naloge, ki so jim dodeljene, cilj in pomen njihovega delovanja pa bodo še vedno določali ali omogočali ljudje s svojim vesoljem vrednot. Obstaja tveganje, da merila, na katerih temeljijo nekatere izbire, postanejo manj jasna, da se odgovornost za odločanje skrije in da se proizvajalci izognejo obveznosti delovanja v dobro skupnosti. V določenem smislu je temu naklonjen tehnokratski sistem, ki gospodarstvo združuje s tehnologijo in daje prednost kriteriju učinkovitosti, pri čemer teži k ignoriranju vsega, kar ni povezano z njegovimi neposrednimi interesi.[9]

To nas mora spodbuditi k razmišljanju o vidiku, ki je v sedanji tehnokratski in učinkovitostni miselnosti zelo pogosto prezrt, a je odločilen za osebni in družbeni razvoj: »čut za mejo«. Človek, ki je po definiciji umrljiv, a misli, da bo v moči tehnike prekoračil vsako mejo, je namreč v nevarnosti, da bo v obsedenosti od hotenja, da bi imel nadzor nad vsem, izgubil nadzor nad samim seboj; da bo v iskanju absolutne svobode padel v spiralo tehnološke diktature. Prepoznavanje in sprejemanje lastne meje ustvarjenega bitja je za človeka nujen pogoj za doseganje ali sprejemanje daru polnosti. Nasprotno pa bi v ideološkem okviru tehnokratske paradigme, ki jo spodbuja prometejska domneva o samozadostnosti, neenakosti lahko čezmerno narasle, znanje in bogastvo pa bi se kopičila v rokah peščice, z velikim tveganjem za demokratične družbe in za mirno sobivanje.[10]

5. Aktualne teme za etiko
V prihodnosti bi lahko zanesljivost posojilojemalca, primernost posameznika za določeno delo, možnost, da obsojenec ponovi kaznivo dejanje, pravico do političnega azila ali do socialne pomoči lahko določali sistemi umetne inteligence. Pomanjkanje različnih stopenj posredovanja, ki jih ti sistemi uvajajo, je še posebej izpostavljeno različnim oblikam predsodkov in diskriminacije: sistemske napake se zlahka pomnožijo in ne povzročajo samo krivice v posameznih primerih, ampak po učinku domin tudi resnične oblike družbene neenakosti.

Poleg tega se včasih zdi, da so oblike umetne inteligence sposobne vplivati na odločitve posameznikov po vnaprej določenih možnostih, ki so povezane s spodbudami in svarili, ali po sistemih za uravnavanje osebnih odločitev, ki temeljijo na organiziranju informacij. Te oblike manipulacije ali družbenega nadzora zahtevajo skrbno pozornost in nadzor ter vključujejo jasno zakonsko odgovornost proizvajalcev, uporabnikov in državnih oblasti.

Zanašanje na samodejne procese, ki razvrščajo posameznike, na primer z vsesplošno uporabo nadzora ali s sprejetjem sistemov družbenih bonitetnih ocen, bi lahko imelo globoke učinke tudi na civilno strukturo in bi vzpostavilo neprimerne razvrstitve med državljani. Ti umetni procesi razvrščanja bi lahko vodili tudi do konfliktov moči, ki ne bi zadevali samo virtualnih naslovnikov, ampak ljudi iz mesa in kosti. Temeljno spoštovanje človekovega dostojanstva zahteva zavrnitev identifikacije enkratnosti osebe zgolj s skupkom podatkov. Algoritmom ne smemo dovoliti, da bi določali, kako razumemo človekove pravice, da bi zanemarjali bistvene vrednote sočutja, usmiljenja in odpuščanja ali da bi odpravili možnost, da se posameznik lahko spremeni in odmakne od svoje preteklosti.

V tem okviru ne moremo izpustiti presoje vpliva novih tehnologij na področje dela: naloge, ki so bile nekoč izključna pravica človeške delovne sile, hitro posrkajo industrijske aplikacije umetne inteligence. Tudi v tem primeru je temeljna nevarnost nesorazmerne prednosti za peščico na račun osiromašenja mnogih. V času, ko te oblike tehnologije prodirajo vse globlje v delovna mesta, bi morali spoštovanje dostojanstva delavcev in pomembnost zaposlitve za ekonomsko blaginjo ljudi, družin in družbe, varnost zaposlitve in pravičnost plač predstavljati visoko prednostno nalogo mednarodne skupnosti.

6. Bomo meče prekovali v lemeže?
Ko v teh dneh gledamo svet, ki nas obdaja, ne moremo ubežati resnim etičnim vprašanjem, ki so povezana z oboroževalno dejavnostjo. Možnost vodenja vojaških operacij po sistemih za daljinsko vodenje je privedla do manjšega dojemanja opustošenja, ki ga povzročajo, in odgovornosti za njihovo uporabo, kar prispeva k hladnejšemu in še bolj odmaknjenemu pristopu do neizmerne tragedije vojne. Raziskave prihajajočih tehnologij na področju »smrtonosnih avtonomnih oborožitvenih sistemov«, vključno z uporabo umetne inteligence v vojskovanju, so resen razlog za etično zaskrbljenost. Avtomatski oborožitveni sistemi ne bodo mogli biti nikoli moralno odgovorni subjekti: izključno človeška sposobnost moralnega presojanja in etičnega odločanja je več kot zapleten skupek algoritmov in te sposobnosti ne moremo omejiti na programiranje nekega stroja, ki ne glede na to, kako »inteligenten« je, še vedno ostaja zgolj stroj. Zato je treba nujno zagotoviti primeren, pomemben in dosleden človeški nadzor oborožitvenih sistemov.

Prav tako ne smemo podcenjevati možnosti, da skrajno izpopolnjeno orožje konča v napačnih rokah in omogoči na primer teroristične napade ali poseganje, ki je namenjeno destabilizaciji zakonitih vladnih ustanov. Svet res nima nobene potrebe, da bi nove tehnologije prispevale k nepravičnemu razvoju trga in trgovine z orožjem ter spodbujale norost vojne. S takšnim ravnanjem ni v nevarnosti le človekova inteligenca, ampak tudi njegovo srce, ki tako postaja vse bolj »umetno«. Najbolj naprednih tehničnih aplikacij ne bi smeli uporabljati za omogočanje nasilnega reševanja konfliktov, ampak za tlakovanje poti miru.

Če pogledamo s pozitivnega vidika, bi umetno inteligenco lahko uporabljali za spodbujanje celostnega človekovega razvoja, kar bi uvedlo pomembne izboljšave v kmetijstvu, izobraževanju in kulturi, izboljšalo življenjsko raven celotnih narodov in ljudstev, omogočilo rast človeškega bratstva in družbenega prijateljstva. Način, kako umetno inteligenco uporabimo za vključevanje najmanjših, to je najslabotnejših in najbolj potrebnih bratov in sester, je pokazatelj naše človečnosti.

Človeški pogled in želja po boljši prihodnosti našega sveta vodita do potrebe po interdisciplinarnem dialogu, usmerjenem v etični razvoj algoritmov – algor-etica –, v katerem bodo vrednote usmerjale poti novih tehnologij.[11] Etična vprašanja bomo morali upoštevati tako na začetku raziskave kot tudi v fazi preizkušanja, načrtovanja, proizvodnje, razdeljevanja in trženja. To je etični pristop k načrtovanju, v katerem imajo bistveno vlogo izobraževalne ustanove in odgovorni v procesu odločanja.

7. Izzivi za izobraževanje
Razvoj tehnologije, ki spoštuje človekovo dostojanstvo in mu služi, ima jasne posledice za izobraževalne ustanove in svet kulture. Digitalne tehnologije so s pomnožitvijo možnosti komuniciranja omogočile nove načine srečevanja. Vendarle pa ostaja potreba po nenehnem razmisleku o načinu odnosov, h katerim nas usmerjajo. Mladi rastejo v kulturnih okoljih, ki so prežeta s tehnologijo, zato moramo nujno preučiti pomisleke o metodah poučevanja in izobraževanja.

Izobraževanje za uporabo oblik umetne inteligence bi moralo biti usmerjeno predvsem v spodbujanje kritične misli. Nujno je, da uporabniki vseh starosti, predvsem pa mladi, razvijejo sposobnost razločevanja pri uporabi podatkov in vsebin, ki so zbrani na spletu ali jih proizvajajo sistemi umetne inteligence. Šole, univerze in znanstvena društva so poklicani, da študentom in strokovnjakom pomagajo usvojiti družbene in etične vidike razvoja ter uporabe tehnologije.

Usposabljanje za uporabo novih komunikacijskih orodij bi moralo upoštevati ne le dezinformacije, lažne novice, ampak tudi zaskrbljujočo razširitev »atavističnih strahov« […], ki so se prikrili »in se ob novih tehnologijah okrepili«.[12] Žal se moramo ponovno boriti »s skušnjavo po oblikovanju kulture zidov, zidanja zidov, s katerimi bi preprečevali srečanje z drugimi omikami, z drugim ljudstvom«[13] ter razvijanje mirnega in bratskega sobivanja.

8. Izzivi za razvoj mednarodnega prava
Globalni doseg umetne inteligence jasno kaže, da imajo poleg odgovornosti suverenih držav za njeno urejanje znotraj sebe tudi mednarodne organizacije odločilno vlogo pri doseganju večstranskih dogovorov ter usklajevanju njihove uporabe in izvajanja.[14] V zvezi s tem spodbujam Skupnost narodov, naj sodeluje pri sprejemanju zavezujoče mednarodne pogodbe, ki bi urejala razvoj in uporabo umetne inteligence v njenih številnih oblikah. Cilj predpisov pa seveda ne bi smel biti samo preprečevanje slabih praks, ampak tudi spodbujanje dobrih praks, novih in ustvarjalnih pristopov ter omogočanje osebnih in kolektivnih pobud.[15]

V iskanju normativnih modelov, ki razvijalcem digitalnih tehnologij lahko nudijo etične smernice, je nujno določiti človeške vrednote, ki morajo biti v temelju prizadevanja družbe za oblikovanje, sprejetje in uporabo potrebnih zakonodajnih okvirov. Delo za urejanje etičnih smernic za proizvodnjo oblik umetne inteligence ne more zanemariti upoštevanja globljih vprašanj, ki zadevajo pomen človeškega bivanja, varovanje temeljnih človekovih pravic, prizadevanje za pravičnost in mir. Ta proces etičnega in pravnega razločevanja se lahko izkaže kot dragocena priložnost za skupen razmislek o vlogi, ki bi jo tehnologija morala imeti v življenju posameznika in skupnosti, in o tem, kako njena uporaba lahko prispeva k ustvarjanju bolj pravičnega in človeškega sveta. Zato bi marali v razpravah o urejanju umetne inteligence upoštevati glas vseh prizadetih strani, vključno z ubogimi, obrobnimi in drugimi, ki v globalnih procesih odločanja pogosto ostajajo neslišani.
* * * * *
Upam, da nas bo to razmišljanje spodbudilo k skrbi, da bo napredek v razvoju oblik umetne inteligence služil človeškemu bratstvu in miru. Ne gre samo za odgovornost nekaterih, ampak za odgovornost celotne človeške družine. Mir je namreč sad odnosov, ki priznavajo in sprejmejo drugega v njegovem neodtujljivem dostojanstvu, ter sodelovanja in zavzetosti pri iskanju celostnega razvoja vseh ljudi in vseh ljudstev.

Na začetku novega leta molim, da hiter razvoj oblik umetne inteligence ne bi povečal prevelikih neenakosti in krivic, ki so že prisotne v svetu, ampak bi prispeval h končanju vojn in spopadov ter olajšanju številnih oblik trpljenja, ki mučijo človeško družino. Naj verni kristjani, verniki različnih verstev ter moški in ženske dobre volje usklajeno sodelujejo, da bodo izkoristili priložnosti in se spoprijeli z izzivi, ki jih prinaša digitalna revolucija, ter prihodnjim rodovom izročili bolj solidaren, pravičen in miroljuben svet.

Vatikan, 8. decembra 2023
FRANČIŠEK

[1] Št. 33.[2] Prav tam, 57.[3] Prim. okrožnica Hvaljen, moj Gospod (24. maja 2015), 104.[4] Prim. prav tam, 114.[5] Avdienca za udeležence srečanja “Minerva Dialogues” (27. marca 2023).[6] Prim. Sporočilo izvršnemu predsedniku „World Economic Forum” v Davos-Klosters (12. januarja 2018).[7] Prim. okrožnica Hvaljen, moj Gospod, 194; nagovor udeležencem na seminarju „Skupno dobro v digitalni dobi” (27. septembra 2019).[8] Apostolska spodbuda Veselje evangelija (24. novembra 2013), 233.[9] Prim. okrožnica Hvaljen, moj Gospod, 54.[10] Prim. Nagovor udeležencem plenarne seje Papeške akademije za življenje (28. februarja 2020).[11] Prim. prav tam.
[12] Okrožnica Vsi smo bratje (3. oktobra 2020), 27.[13] Prim. prav tam.
[14] Prim. prav tam., 170–175.[15] Prim. okrožnica Hvaljen, moj Gospod, 177.