Pave Frans oppfordrer til etisk og ansvarlig bruk av kunstig intelligens

Disse bildene ble generert av AI-verktøyet midt på reisen

Samtidig som man berømmer fordelene med teknologi og kunstig intelligens, sier pave Frans AI reiser alvorlige spørsmål og må være det etisk og ansvarlig brukes til å fremme menneskeverd og felles beste.

Pave Frans har applaudert fordelene med teknologi og kunstig intelligens, når den brukes til felles beste, men har advart mot å bruke AI uetisk eller uansvarlig.

Han gjorde det da han henvendte seg til 'Minerva dialoger,' en årlig samling på høyt nivå av forskere og eksperter, organisert av Vatikanets Dicastery for Education and Culture, mandag i Vatikanet.

Forsamlingen samler eksperter fra teknologiens verden – vitenskapsmenn, ingeniører, bedriftsledere, advokater og filosofer – og representanter for kirken – kuriale embetsmenn, teologer og etikere – med mål om å studere og fremme større bevissthet om det sosiale og kulturell påvirkning av digitale teknologier, spesielt kunstig intelligens.

Paven sa at han setter stor pris på denne pågående dialogen, spesielt ettersom den involverer diskusjonen om ansvarlig bruk av teknologi, en diskusjon, han kalte, «åpen for religiøse verdier».

Teknologi er, og har vært, sa han, "uhyre fordelaktig" for vår menneskelige familie, spesielt innen medisin, ingeniørfag og kommunikasjon.

Ved å erkjenne de praktiske fordelene med vitenskap og teknologi, bemerket han, "ser vi dem også som bevis på menneskers kreativitet og edelen av deres kall til å delta ansvarlig i Guds skapende handling."

"Fra dette perspektivet," sa han, "er jeg overbevist om at utviklingen av kunstig intelligens og maskinlæring har potensial til å bidra på en positiv måte til menneskehetens fremtid."

"Samtidig," advarte pave Frans, "er jeg sikker på at dette potensialet vil bli realisert bare hvis det er en konstant og konsekvent forpliktelse fra de som utvikler disse teknologiene til å handle etisk og ansvarlig."

"Det er betryggende å vite at mange mennesker i disse feltene jobber for å sikre at teknologi forblir menneskesentrert, etisk forankret og rettet mot det gode."

Han uttrykte takknemlighet for konsensus som har oppstått om behovet for "utviklingsprosesser" for å "respektere slike verdier som inkludering, åpenhet, sikkerhet, rettferdighet, personvern og pålitelighet." Han ønsket også velkommen innsats fra internasjonale organisasjoner for å regulere disse teknologiene, slik at "de fremmer genuin fremgang, bidrar, det vil si til en bedre verden og en integrert høyere livskvalitet."

"Jeg vil derfor oppfordre deg til å gjøre den iboende verdigheten til hver mann og kvinne til nøkkelkriteriet i evalueringen av nye teknologier; disse vil vise seg etisk forsvarlige i den grad de bidrar til å respektere denne verdigheten og øke dens uttrykk på alle nivåer av menneskelivet.»

"Det er en kilde til bekymring for meg at bevis hittil tyder på at digitale teknologier har økt ulikheten i vår verden," beklaget han.

Visse spørsmål, insisterte paven, må reises.

"Er våre nasjonale og internasjonale institusjoner i stand til å holde teknologiselskaper ansvarlige for den sosiale og kulturelle påvirkningen av produktene deres? Er det en risiko for at økt ulikhet kan undergrave vår følelse av menneskelig og sosial solidaritet? Kan vi miste følelsen av å ha en felles skjebne?»

Vårt sanne mål, sa han, må være at veksten av vitenskapelig og teknologisk innovasjon skal ledsages av større likhet og sosial inkludering.

"Konseptet med iboende menneskeverd krever at vi anerkjenner og respekterer det faktum at en persons grunnleggende verdi ikke kan måles med data alene," sa paven. "I sosiale og økonomiske beslutninger," fortsatte han, "bør vi være forsiktige med å delegere vurderinger til algoritmer som behandler data, ofte samlet inn i det skjulte, om en persons sammensetning og tidligere oppførsel. "

Han advarte om at slike data kan bli "forurenset" av samfunnsmessige fordommer og forforståelser. "En persons tidligere oppførsel," bemerket han, "bør ikke brukes til å nekte ham eller henne muligheten til å endre, vokse og bidra til samfunnet. "

"Vi kan ikke tillate algoritmer å begrense eller betinge respekt for menneskeverd, eller å utelukke medfølelse, barmhjertighet, tilgivelse og fremfor alt håpet om at mennesker er i stand til å forandre seg."

Pave Frans avsluttet med å komme med sine bønnsomme lykkeønskninger og takke de tilstedeværende for deres innsats for å lytte til og reflektere over hverandres bidrag.