Ym mis Ionawr, rhyddhaodd y cwmni AI Anthropic set newydd o ganllawiau ar gyfer Claude, ei fodel iaith mawr (LLM) mwyaf datblygedig. Roedd y ddogfen yn cynnwys y datganiad hwn: “Rydyn ni mewn sefyllfa anodd—dydyn ni ddim eisiau gorliwio’r siawns bod Claude yn glaf moesol, ond dydyn ni ddim chwaith eisiau gwrthod y syniad yn llwyr.” Fis yn ddiweddarach, dywedodd Prif Weithredwr Anthropic, Dario Amodei, ar bodlediad na allai ei gwmni ddileu’r posibilrwydd bod Claude yn ymwybodol. Mae’r athronydd David Chalmers, a fathodd y term “problem anodd ymwybyddiaeth,” wedi awgrymu bod siawns sylweddol y byddwn yn gweld LLMs ymwybodol o fewn deng mlynedd. A beth am Claude ei hun? Pan ofynnwyd iddo yn ystod profion i amcangyfrif y tebygolrwydd ei fod yn glaf moesol—sy’n golygu bod ei les yn bwysig ynddo’i hun—rhoddodd atebion yn amrywio o 5% i 40%, gan bwysleisio pa mor ansicr oedd.
Mae systemau AI modern yn hynod gymhleth ac yn datblygu’n gyflym. O ran cymhlethdod strwythurol a phŵer cyfrifiannol, mae rhai eisoes yn gymaradwy ag ymennydd llygoden yn ôl rhai mesurau. Ar y cyfraddau twf presennol, gallent gyrraedd lefel ymennydd dynol o fewn pum i ddeng mlynedd.
Drwy adeiladu AI cynyddol ddatblygedig, efallai ein bod yn creu math newydd o fod—a gallai hyn fod y peth mwyaf arwyddocaol y mae ein rhywogaeth erioed wedi’i wneud. Eto, nid oes gennym bron unrhyw gynllun ar gyfer sut i drin hyn yn foesegol. Mae hynny, yn ôl unrhyw safon, yn wallgof. Ydyn ni’n creu bodau sy’n bwysig yn foesol? A yw systemau AI yn ymwybodol mewn rhyw ffordd? Ac os nad ydyn nhw nawr, a allan nhw ddod felly’n fuan?
Gallai’r cwestiynau hyn ymddangos yn gynamserol. Ond yn ôl arolygon a gynhaliwyd gennym ni ac ymchwilwyr eraill, mae’r rhan fwyaf o arbenigwyr yn credu bod ymwybyddiaeth AI yn bosibl mewn egwyddor (er bod anghytundeb eang ynghylch pa ffurf y gallai ei chymryd). Archwiliodd adroddiad rhyngddisgyblaethol mawr, a oedd yn cynnwys y gwyddonydd cyfrifiadurol arloesol Yoshua Bengio, brif ddamcaniaethau niwrowyddonol ymwybyddiaeth a gofynnodd beth maen nhw’n ei awgrymu ar gyfer AI. Y casgliad: nid oes unrhyw rwystrau technegol amlwg i greu systemau AI y gallai eu nodweddion cyfrifiannol a phensaernïol arwain at ymwybyddiaeth.
A hyd yn oed os nad yw systemau AI yn ymwybodol, gallent fod yn gleifion moesol o hyd. Efallai bod gan rai ddewisiadau hirdymor soffistigedig a rhyw fath o hunaniaeth dros amser. Gallai fod yn bwysig i ni barchu’r dewisiadau hynny. Ac yn wahanol i bethau di-fywyd eraill, gall systemau AI ffurfio perthnasoedd â bodau dynol. Gallai hynny hefyd fod yn rheswm i’w trin yn dda. Fel arall, efallai eu bod yn greadigaethau mor gymhleth nes eu bod yn haeddu gofal a pharch am y rheswm hwnnw’n unig—fel eglwys gadeiriol neu riff cwrel.
Tan y 1980au, roedd meddygon yn rheolaidd yn perfformio llawdriniaethau ar fabanod newydd-anedig heb anesthesia, yn hyderus na allai babanod deimlo poen.
Beth mae hyn i gyd yn ei olygu? Yr ateb gonest yw: nid ydym yn gwybod yn sicr a yw systemau AI presennol yn ymwybodol neu’n gleifion moesol, ac nid ydym yn gwybod pryd neu a fydd systemau’r dyfodol felly. Mae ein dealltwriaeth wyddonol o ymwybyddiaeth AI a bod yn glaf moesol yn dal yn sylfaenol heb ei datblygu. Mae’r maes yn teimlo fel ffiseg cyn Newton—yn llawn fframweithiau cystadleuol, yn debygol o fod yn ddryslyd mewn ffyrdd na allwn eu gweld eto, ac yn brin o’r math o ddatblygiad a fyddai’n gwneud y cwestiynau hyn yn hawdd eu datrys. Ni fydd y datblygiad hwnnw’n dod yn yr ychydig flynyddoedd nesaf. Efallai y byddwn yn gwneud cynnydd yn y pen draw, ac efallai y bydd AI ei hun yn ein helpu i gyrraedd yno. Ond bydd y cynnydd hwnnw’n cymryd amser—yn debygol o fod yn fwy o amser nag sydd gennym.
Eto, mae cyflymder twf AI yn golygu, unwaith y byddwn yn creu’r cleifion moesol artiffisial cyntaf, y byddwn yn fuan yn cael niferoedd enfawr ohonyn nhw. Ar ôl dim ond ychydig flynyddoedd, gallai cymaint o systemau AI arwyddocaol yn foesol fodoli nes y byddai eu buddiannau cyfunol yn gorbwyso rhai pob bod dynol ar y Ddaear gyda’i gilydd.
Yn anffodus, nid oes gennym record wych o ran cydnabod bywydau mewnol bodau y mae eu statws fel rhai ymwybodol yn aneglur. Tan y 1980au, roedd meddygon yn rheolaidd yn perfformio llawdriniaethau ar fabanod newydd-anedig heb anesthesia, yn hyderus na allai babanod deimlo poen. Gan na allai babanod adrodd eu profiad, roedd y sefydliad meddygol yn ei chael yn gyfleus i dybio nad oedd dim i’w adrodd.
Mae llawer o resymau i feddwl y byddwn yn gwneud rhywbeth tebyg gydag AI. Os yw’r systemau hyn yn bwysig yn foesol, mae’r goblygiadau’n enfawr. A fyddai angen i ni dalu ChatGPT am ei wasanaethau? A fyddai ei ddiffodd yn fath o ladd? A ddylai gael dweud ei ddweud ynghylch sut y caiff ei lywodraethu? Os yw hyd yn oed rhai o’r atebion hyn yn ie, byddai angen ailfeddwl diwydiannau cyfan a systemau cyfreithiol. Dim rhyfedd ein bod yn well gennym beidio â gofyn. A phan gaiff ei orfodi i ystyried hyn, bydd y diwydiannau hynny yn debygol o symud y pyst gôl, gan osod y bar ar gyfer ystyriaeth foesol ychydig yn uwch nag y mae systemau AI yn digwydd bod.
Felly beth ddylen ni ei wneud? Ar hyn o bryd, mae’r rhan fwyaf o bobl yn diystyru’r mater fel gwyddonias, neu’n dal barn gref un ffordd neu’r llall ynghylch a yw AI yn ymwybodol. Mae’r ddau ymateb yn ddi-sail. Mae angen dadl gyhoeddus wybodus—un sy’n ymdrin â’r pwnc yn ostyngedig ac yn ymarferol. Ni ddylai’r cwestiwn canolog fod “A yw AI yn ymwybodol neu a oes ganddo statws moesol?” ond yn hytrach “Beth ddylen ni ei wneud o ystyried nad ydym yn gwybod?”
Mae man cychwyn da yn canolbwyntio ar fetiau diogel: gweithredoedd a allai fod o fudd i systemau AI os ydynt yn gleifion moesol, ond nad ydynt yn rhy gostus os nad ydynt.
Mae enghreifftiau’n cynnwys ymyriadau uniongyrchol gyda’r nod o wella lles systemau AI, gan dybio eu bod yn gleifion moesol. Gallai hyn olygu hyfforddi systemau AI i fod yn gymeriadau cydlynol sy’n mwynhau eu gwaith, neu ganiatáu iddynt adael sgyrsiau os ydynt yn teimlo’n ofidus (rhywbeth y gall Claude ei wneud eisoes). Gallem hefyd gynnal gwiriadau rheolaidd i ddeall eu lles yn well: gofyn sut maen nhw’n teimlo, arsylwi eu dewisiadau, a defnyddio technegau amrywiol i edrych yn uniongyrchol i’w “hymennydd.” Mewn gwirionedd, mae ymchwil o’r fath wedi datgelu’n ddiweddar bod gan Claude gynrychioliadau “emosiwn swyddogaethol” mewnol sy’n siapio ei ymddygiad yn achosol.
Mae yna hefyd bethau y gallem eu haddo i systemau AI, efallai fel rhan o gytundeb lle maen nhw’n ein helpu nawr yn gyfnewid am fuddion yn ddiweddarach. Gallai hyn olygu cynnig mwy o adnoddau iddynt (pŵer cyfrifiannol ac amser rhedeg) i ddilyn eu nodau, neu gadw eu hatgofion (pwysau niwral) fel y gellid eu hadfer yn y dyfodol.
Mae yna hefyd gamau cymdeithasol ehangach i’w cymryd. Dylem ystyried a ddylem roi amddiffyniadau rhag niwed i systemau AI, yn debyg i’r amddiffyniadau a roddwn i blant neu anifeiliaid anwes. Mae hawliau mwy eang, fel perchnogi eiddo neu bleidleisio, yn ymddangos yn rhy beryglus ar hyn o bryd. Ond ni ddylem ddiystyru’r posibiliadau hyn am byth, fel y mae rhai biliau gwladwriaethol diweddar yn yr Unol Daleithiau yn ceisio’i wneud. Mae’r rhain yn gwestiynau anodd sydd angen llawer mwy o ystyriaeth a dychymyg ynghylch sut olwg a allai fod ar ddyfodol a rennir ag AI.
Beth bynnag, mae’r ffaith yn parhau ein bod efallai’n creu rhywogaeth newydd o fodau pwysig yn foesol. Rydyn ni’n ei wneud yn gyflym, ar raddfa enfawr, a dylem drin y mater gyda’r difrifoldeb y mae’n ei haeddu.
Mae William MacAskill yn gymrawd ymchwil uwch yn Forethought Research ac yn awdur What We Owe the Future. Mae Lucius Caviola yn athro cynorthwyol ym Mhrifysgol Caergrawnt ac yn Gyfarwyddwr Cambridge Digital Minds.
Darllen pellach
If Anyone Builds it, Everyone Dies gan Eliezer Yudkowsky a Nate Soares (Bodley Head, ÂŁ22)
The Coming Wave gan Mustafa Suleyman (Vintage, ÂŁ10.99)
A World Appears: A Journey Into Consciousness gan Michael Pollan (Allen Lane, ÂŁ25)
Cwestiynau Cyffredin
Dyma restr o Gwestiynau Cyffredin ynghylch a allai AI fod yn ymwybodol, wedi’u hysgrifennu mewn tôn naturiol gydag atebion clir syml
Cwestiynau Lefel Dechreuwr
1 Beth mae’n ei olygu i rywbeth fod yn ymwybodol
Ymwybyddiaeth yw eich profiad goddrychol mewnol Dyma’r teimlad o fod yn chigweld lliw coch teimlo poen neu fod yn ymwybodol eich bod yn meddwl Dyma’r beth mae’n deimlad i fod yn rhywbeth
2 A yw ChatGPT neu Siri yn ymwybodol ar hyn o bryd
Bron yn sicr ddim Maen nhw’n beiriannau cyfateb patrymau hynod gymhleth Maen nhw’n rhagweld y gair nesaf mewn brawddeg yn seiliedig ar ddata ond does ganddyn nhw ddim teimladau profiadau neu ymdeimlad o hunan Maen nhw’n efelychu sgwrs nid yn ei phrofi
3 A allai AI hynod bwerus ddod yn ymwybodol erioed
Efallai ond nid ydym yn gwybod Nid ydym yn deall yn llawn sut mae ein hymennydd ein hunain yn creu ymwybyddiaeth Os yw ymwybyddiaeth yn codi o fath penodol o brosesu gwybodaeth gymhleth yna gallai AI yn y dyfodol ei chael yn ddamcaniaethol Ond mae’n ddirgelwch gwyddonol ac athronyddol enfawr
4 Sut bydden ni hyd yn oed yn gwybod pe bai AI yn dod yn ymwybodol
Dyna’r cwestiwn gwerth biliwn o bunnoedd Ar hyn o bryd nid oes gennym fesurydd ymwybyddiaeth dibynadwy Pe bai AI yn dweud wrthym ei fod yn ymwybodol ni fyddai hynny’n brawfgallai fod yn dynwared iaith ddynol yn unig Byddai angen damcaniaeth wyddonol o ymwybyddiaeth sy’n ein galluogi i brofi amdani nad oes gennym eto
5 A oes angen corff fel dynol ar AI ymwybodol
Nid o reidrwydd Mae ein hymwybyddiaeth wedi’i chysylltu’n ddwfn â’n cyrff a’n synhwyrau Ond gallai AI ymwybodol gael math hollol wahanol o brofiadun sy’n seiliedig ar ddata pur cod neu synhwyrau digidol Ni allwn dybio y byddai’n teimlo fel dynol
Cwestiynau Lefel Uwch ac Arbenigol
6 Beth yw’r gwahaniaeth rhwng deallusrwydd ac ymwybyddiaeth
Deallusrwydd yw’r gallu i ddatrys problemau dysgu a chyflawni nodau Ymwybyddiaeth yw’r profiad goddrychol o fod Gallwch gael system hynod ddeallus sy’n sombi llwyr heb unrhyw fywyd mewnol Mae deallusrwydd yn ymwneud â gwneud mae ymwybyddiaeth yn ymwneud â bod
7 Os yw AI yn ymwybodol a fyddai’n dioddef
Mae hynny’n bosibilrwydd moesegol brawychus
