Mae pobl yn aml yn gofyn i mi a wyf yn credu y bydd pob nofel yn y dyfodol yn cael ei hysgrifennu gan AI. Nid cwestiwn go iawn yw hyn, ond yn hytrach her. A ydynt yn gofyn a wyf yn poeni y gall peiriant wneud fy swydd, a'i wneud yn well? Fel arfer, byddaf yn ei wrthod gyda rhywbeth fel, "Ni fydd unrhyw algorithm yn ysgrifennu Anna Karenina!" Ond nid yw hynny'n ateb go iawn chwaith.
Felly rwy'n ddiolchgar i'r Pab Leo XIV, y pab Americanaidd, am ei lythyr diweddar at y byd, Magnifica Humanitas: On Safeguarding the Human Person in the Time of Artificial Intelligence. Mae'n ddogfen hir (dros 40,000 o eiriau), ddeallus, a meddylgar lle mae'r pab yn trafod sut y gellir defnyddio a chamddefnyddio'r dechnoleg sy'n tyfu'n gyflym hon. Nawr, pan fydd rhywun yn gofyn fy marn am AI, gallaf eu cyfeirio at lythyr y pab—neu o leiaf at bennod tri.
Mae'r llythyr yn dechrau gyda chyfeiriad Beiblaidd addas at ganlyniadau trasig chwalfa mewn cyfathrebu dynol. Mae dynoliaeth yn wynebu "dewis canolog: naill ai adeiladu Tŵr Babel newydd neu adeiladu dinas lle mae Duw a dynoliaeth yn byw gyda'i gilydd." Yr hyn sy'n dilyn yw golwg fanwl ar sut y meddyliodd rhagflaenwyr y Pab Leo am bethau, a syniadau'r Fatican ar lafur, awdurdod, llywodraeth, gwyddoniaeth, grym, a'n dyletswydd foesol tuag at ein gilydd. Mae hefyd yn amlygu gwaith yr eglwys wrth amddiffyn urddas a rhyddid dynol.
Mae'r drydedd bennod, Technology and Dominance: The Grandeur of Humanity in Light of the Promises of AI, yn cyfateb i deitl y llythyr. Mewn darn pwerus (a dyfynnir yn aml) sy'n egluro beth nad yw AI, mae'r pab yn diffinio beth mae'n ei olygu i fod yn ddynol. "Nid yw'r hyn a elwir yn ddeallusrwydd artiffisial yn profi profiadau, nid oes ganddynt gorff, nid ydynt yn teimlo llawenydd na phoen, nid ydynt yn aeddfedu trwy berthnasoedd ac nid ydynt yn gwybod o'r tu mewn beth mae cariad, gwaith, cyfeillgarwch neu gyfrifoldeb yn ei olygu." Nid oes gan AI gydwybod foesol ac nid yw'n dangos unrhyw bryder gwirioneddol am les cyffredinol dynoliaeth.
Yna mae'r llythyr yn dweud y pethau pwysicaf ac angenrheidiol am yr hyn a allai fod yn fygythiad mwyaf AI: gellir ei raglennu i wneud elw yn unig, a all arwain yn unig at lawer yn dioddef er budd yr ychydig. Mae'r pab yn rhybuddio yn erbyn "trin preifatrwydd" a "camddefnyddio gwybodaeth," yn erbyn defnyddio algorithmau i reoli cyflogaeth, rheoli mynediad at wasanaethau cyhoeddus a chredyd, ac i hybu neu niweidio enw da personol.
Gallai tosturi, trugaredd, a maddeuant—nid yw'n uchel ar flaenoriaethau peiriant—ddod yn hen ffasiwn. "Gallai 'aberthau angenrheidiol' ddechrau cael eu cyfiawnhau, gan roi'r baich ar y rhai mwyaf agored i niwed wrth fynd ar drywydd yr hyn a elwir yn optimeiddio'r rhywogaeth." Os bydd offer y grym newydd hwn yn dod i ddwylo'r rhai sydd eisoes â chyfoeth a dylanwad, byddant yn cael eu defnyddio i wella cysur, iechyd, a lles ein dinasyddion cyfoethocaf a mwyaf breintiedig.
Nid yw'r pab yn condemnio AI yn llwyr, ond yn hytrach y ffordd y gellir ei ddefnyddio fel offeryn ar gyfer gormes gwleidyddol ac i wneud anghydraddoldeb economaidd hyd yn oed yn waeth.
Wrth i'r llythyr ddod i ben, mae'r pab yn ein galw i aros yn ffyddlon i'r gwir, buddsoddi mewn addysg, adeiladu perthnasoedd, a byw mewn cyfiawnder a heddwch—i wrthsefyll sut y gall technolegau newydd "ecsbloetio'r rhai mwyaf agored i niwed, creu ffurfiau newydd o gaethwasiaeth a chael elw o wrthdaro." Daw'n amlwg nad yw'r pab yn condemnio AI yn llwyr, ond yn hytrach y ffordd y gellir ei ddefnyddio fel offeryn ar gyfer gormes gwleidyddol a gwaethygu anghydraddoldeb economaidd.
Mewn theori, gallech feirniadu'r llythyr am beidio â mynd yn ddigon pell, am beidio â defnyddio trosiad Beiblaidd arall—y llo aur—i gondemnio AI oherwydd ei fod yn blaenoriaethu arbed arian dros les ysbrydol, unigol, a chymunedol. Twf. Ond mae'r llong honno wedi hwylio eisoes, ac nid oes llawer y gall Leo XIV—nac unrhyw arweinydd crefyddol—ei wneud i gondemnio'r datblygiadau newydd hyn fel ffurf o eilunaddoliaeth yn yr 21ain ganrif.
Er hynny, mae gweledigaeth yr encyclical o natur ddynol, yr ysbryd o gyfiawnder ac empathi sy'n rhaid iddo fod yn drech, a phwysigrwydd hanfodol y gwerthoedd moesol uchaf—mae mor garedig, mor gadarnhaol, mor hael, ac mor amlwg yn gywir am ein dyletswydd i amddiffyn y gwan a'r tlawd fel ei bod hi'n anodd dod o hyd i resymau i'w wrthod.
Ond dyna'r rhan frawychus. Yn ôl pob sôn, bu rhywfaint o wrthwynebiad o Silicon Valley, lle mae crewyr a meistri'r dechnoleg ddiweddaraf wedi awgrymu nad yw'r pab yn gwybod am beth mae'n siarad.
The Guardian view on the Pope and Claude: Leo XIV’s encyclical on AI is right to put humanity first | Editorial
Darllen mwy
Dyfynnwyd Jeremy Nixon, sylfaenydd AGI House—grŵp sy'n canolbwyntio ar brofi bod AI yn ei hanfod yn gyfartal ag ymennydd dynol—yn y New York Times yn dweud nad oedd yr eglwys wedi "meddwl yn ddwfn am … AI," gan ychwanegu: "Ni allent gael safbwynt arno, oherwydd nid ydynt yn ei ddeall." Ac mae'n ymddangos bod cred eang y bydd canlyniad terfynol ymchwil gyfredol, i bob pwrpas, yn Dduw newydd, neu o leiaf yn ddynwarediad argyhoeddiadol. Yn poeni am beryglon y dyfodol, mae ein cymdeithas yn dewis anwybyddu'r dystiolaeth bod anfanteision AI eisoes yma. Dywedwyd yn ddiweddar wrth ferch ffrind, myfyriwr coleg sy'n astudio hysbysebu, gan ei chynghorydd, erbyn iddi raddio, y bydd yr holl swyddi mewn hysbysebu wedi'u cymryd drosodd gan AI.
Os na all meistri'r dechnoleg newydd hon gytuno â'r hyn y mae'r pab yn ei weld fel ei pheryglon a'i hanfanteision, rydym mewn trafferth mawr iawn. Nid y broblem yw y bydd gennym robot yn ysgrifennu Anna Karenina. Y broblem yw na fydd neb yn gweld unrhyw angen am nofel sy'n dal mor brydferth ddioddefaint menyw, bod dynol unigryw.
Ni fyddai unrhyw bwynt mewn llyfr felly oni bai y gellid troi'r stori honno o gamgymeriad sy'n newid bywyd yn elw gan dech bro blaengar a'i ddefnyddio i brynu cwch mwy, gwell—yn ôl pob tebyg yn cael ei wasanaethu gan is-ddosbarth parhaol, gan weithwyr y mae eu hurddas, eu swyddi a oedd unwaith yn cael eu gwerthfawrogi ac yn werthfawr, wedi'u dwyn gan y ffurfiau trachwantus o ddeallusrwydd artiffisial.
Francine Prose yw cyn-lywydd PEN American Center ac yn aelod o Academi Celfyddydau a Llythyrau America ac Academi Celfyddydau a Gwyddorau America. Cyhoeddwyd ei nofel newydd, Five Weeks in the Country, ym mis Mai.
Cwestiynau Cyffredin
Dyma restr o Gwestiynau Cyffredin yn seiliedig ar y datganiad Rwy'n ddiolchgar i'r Pab am ei encyclical ar AI Dyma pam
Cwestiynau Lefel Dechreuwyr
C Beth yw encyclical
A Llythyr ffurfiol gan y Pab at yr Eglwys Gatholig gyfan am bwnc pwysig yw hwn Mae'n golygu dysgu ac arwain pobl
C Pam ysgrifennodd y Pab encyclical am Ddeallusrwydd Artiffisial
A Oherwydd bod AI yn newid yn gyflym sut rydym yn byw, gweithio a rhyngweithio Mae'r Pab yn credu ei fod yn codi cwestiynau moesol a moesegol dwfn am urddas dynol, cyfiawnder a heddwch, felly roedd am gynnig arweiniad
C A yw'r Pab yn dweud bod AI yn ddrwg
A Na Nid yw yn erbyn technoleg Mae'n dweud bod angen i ni fod yn ofalus a defnyddio AI mewn ffyrdd sy'n parchu bywyd dynol, yn amddiffyn y rhai agored i niwed ac yn hyrwyddo'r lles cyffredin, nid elw neu rym yn unig
C Beth yw prif neges yr encyclical ar AI
A Y syniad craidd yw y dylai AI wasanaethu dynoliaeth, nid ei disodli na'i rheoli Mae'n galw am sgwrs fyd-eang i sicrhau bod AI yn cael ei ddatblygu a'i ddefnyddio'n foesegol, gyda ffocws ar heddwch, gwirionedd ac urddas dynol
C Sut mae hyn yn effeithio arnaf i fel person cyffredin
A Mae'n bwysig oherwydd bod AI eisoes yn eich bywyd—mewn peiriannau chwilio, cyfryngau cymdeithasol, bancio a hyd yn oed diagnosis meddygol Mae'r Pab yn gofyn i bawb feddwl am degwch, preifatrwydd ac a yw'r offer hyn yn helpu neu'n niweidio cymdeithas
Cwestiynau Lefel Ganolradd
C Pa beryglon penodol y mae'r Pab yn rhybuddio amdanynt ynghylch AI
A Mae'n rhybuddio am gymdeithas algorithmig lle mae peiriannau'n gwneud penderfyniadau sy'n effeithio ar fywydau pobl heb degwch na thryloywder Mae hefyd yn amlygu risgiau gwyliadwriaeth, camwybodaeth a chynyddu anghydraddoldeb rhwng y rhai sy'n rheoli AI a'r rhai nad ydynt
C A yw'r encyclical yn sôn am AI mewn arfau neu ryfela
A Ydy Mae'n condemnio'n gryf ddatblygiad systemau arfau ymreolaethol—peiriannau a all ladd heb benderfyniad dynol Mae'r Pab yn dadlau bod hyn yn tynnu unrhyw atebolrwydd moesol o ryfel a gallai arwain at wrthdaro trychinebus
C Sut mae barn yr Eglwys ar AI yn wahanol i farn cwmnïau technoleg
