A yw uwch-ddeallusrwydd artiffisial wir yn fygythiad mwy na arfau niwclear? A oes siawns go iawn o drychineb ar raddfa Chernobyl? A allai fod mwy na siawns o 10% y gallai AI "ddileu pob bod dynol" o fewn y deg mlynedd nesaf?
Daeth y rhybuddion hyn allan dros y ddau ddiwrnod diwethaf o'r DU a'r UD am effaith bosibl technoleg y mae'r rhan fwyaf o bobl yn dal i'w gweld fel dim ond peiriant chwilio mwy siaradus.
Codwyd rhai o'r pryderon hyn yn San Steffan, lle mae ASau ac arglwyddi wedi dechrau ymchwilio i beryglon AI yn rhagori ar alluoedd dynol. Daeth y cymariaethau niwclear gan Des Browne, cyn-ysgrifennydd amddiffyn, a'r Athro Stuart Russell, gwyddonydd cyfrifiadurol adnabyddus ym Berkeley.
Dywedodd Beatrice Fihn, a enillodd Wobr Heddwch Nobel 2017 am arwain yr Ymgyrch Ryngwladol i Ddileu Arfau Niwclear, wrth seneddwyr: "Nid dyma'r tro cyntaf i ni wynebu galluoedd a allai ddod â ni i gyd i ben."
Trefnwyd y sesiwn ddydd Llun gan Control AI, grŵp lobïo sy'n pwyso am reolau rhyngwladol ar y dechnoleg. Mae'n cefnogi bil a gyflwynwyd yn y senedd yr wythnos hon gan yr AS Llafur Alex Sobel, sy'n anelu at wahardd creu uwch-ddeallusrwydd artiffisial (ASI).
Nos Fawrth, cyfaddefodd uwch weithiwr yn Anthropic ei fod yn credu bod mwy na siawns o 10% y gallai'r dechnoleg "ladd pob bod dynol" yn y degawd nesaf. Rhybuddiodd hefyd nad oedd gan ei gwmni AI unrhyw gynllun i sicrhau bod ASI yn cael ei alinio, gan olygu na fyddai'n achosi niwed. Mae rhagfynegiadau ar gyfer pryd y gallai ASI gyrraedd yn amrywio o ychydig flynyddoedd i dros ddegawd.
Postiodd Evan Hubinger, sy'n arwain gwyddoniaeth aliniad yn Anthropic, y sylw hwn ar ôl i Jacob Coxon, ymchwilydd 28 oed yn y cwmni yn San Francisco ac yn flaenorol yn OpenAI, ymddiswyddo. Honnodd Coxon fod "y naill gwmni na'r llall yn gweithredu'n gyfrifol" a dywedodd eu bod yn "gamblo gyda'n bywydau."
Dywedodd Coxon fod y risgiau yn Anthropic yn cael eu deall yn dda, ond bod y cwmni wedi'i "gloi mewn ras i gyrraedd yno gyntaf." Fel arwydd bach o obaith, ychwanegodd ei fod yn optimistaidd am y posibilrwydd o labordai'r UD yn cydweithio i arafu eu cynnydd yn y ras.
Mae Anthropic wedi cael cais am sylw ar y mater hwn. Cyfeiriodd OpenAI at ddatganiad gan ei brif wyddonydd, Jakub Pachocki, a ddywedodd yr wythnos diwethaf: "Mae angen i gydlynu rhyngwladol ar ddatblygiad AI yn y dyfodol ddod yn brif flaenoriaeth i lywodraethau ledled y byd."
Roedd y pwysau am gydlynu ehangach i reoli ASI yn ganolog i ddigwyddiadau yn San Steffan yr wythnos hon. Yn ôl y Financial Times, mynegodd swyddogion y llywodraeth bryder bod Anthropic wedi gwrthod cyflwyno ei fodel diweddaraf – Mythos 5.1 – i Sefydliad Diogelwch AI y DU i'w brofi cyn ei ryddhau.
Cadarnhaodd y Swyddfa Gabinet mai dim ond ychydig o sefydliadau'r UD sydd wedi cael mynediad i Mythos 5.1. Ychwanegodd llefarydd: "Mae Sefydliad Diogelwch AI yn parhau i weithio'n agos gyda phartneriaid diwydiant, gan gynnwys Anthropic."
Mae'r AS Llafur Darren Jones wedi ysgrifennu at arweinwyr y byd yn galw am gytuniad amlwladol i sicrhau bod AI yn cael ei ddatblygu'n ddiogel. Ysgrifennodd at y prif weinidog, Andy Burnham, a phenaethiaid y Cenhedloedd Unedig a'r OECD, yn galw am "gytuniad amlwladol ar gyfer datblygiad rheoledig a diogel uwch-ddeallusrwydd – nid gwahardd arloesi neu waith gwyddonol, ond dull diogelwch-yn-gyntaf at dwf cyflym y dechnoleg hon."
Gan gyfeirio at ymddiswyddiad Coxon, ychwanegodd Jones: "Mae'r ddadl yn amrywio o ddiwedd dynoliaeth i honiadau o 'hype marchnata.' Y naill ffordd neu'r llall, rhaid i lywodraethau gamu i mewn nawr."
Ar ochr arall yr Iwerydd, cynyddodd Bernie Sanders ei ymgyrch diogelwch AI yr wythnos hon trwy alw eto ar y Gyngres i reoleiddio'r dechnoleg. Cyfeiriodd at arolygon yn dangos bod 81% o Americanwyr yn credu y dylai eu gwleidyddion weithredu.
Dywedodd y seneddwr annibynnol o Vermont: "Ni allwn ganiatáu i ychydig o bobl farus chwarae Duw a phenderfynu dyfodol dynoliaeth – ein heconomi, ein hamgylchedd, ein democratiaeth, ein preifatrwydd a mwy – heb fewnbwn cyhoeddus."
Cylchlythyr diweddaraf
Cylchlythyr rhad ac am ddim | Wythnosol
Cofrestrwch i TechScape
Trochiad wythnosol i sut mae technoleg yn siapio ein bywydau
Rhowch eich e-bost
Cofrestrwch
Ar ôl hyrwyddiad cylchlythyr
Gweld delwedd yn llawn
Mae'r seneddwr Americanaidd Bernie Sanders eisiau i'r Gyngres reoleiddio'r diwydiant AI 'barus'. Ffotograff: Linda Nylind/The Guardian
Cyllidir ControlAI gan Jaan Tallinn, cyd-sylfaenydd biliwnydd Skype, sy'n galw ei hun yn "gwrth-ddifaol." Mae wedi rhoi rhan o'i ffortiwn i ymgyrchu dros ddiogelwch AI ac yn dweud y byddai rhai uwch weithredwyr AI yn hapus pe bai dynoliaeth yn cael ei dileu.
Er gwaethaf bod yn fuddsoddwr cynnar yn Anthropic a Google DeepMind, dau o'r prif labordai AI, mae Tallinn yn amcangyfrif bod 10-15% o weithwyr AI yn credu y bydd y dechnoleg yn olynydd teilwng i ddynoliaeth.
Dywedodd mewn cyfweliad yn gynharach yr haf hwn: "Dywedodd ymchwilydd AI eithaf adnabyddus wrthyf, 'Jaan, peidiwch â phoeni am hyn. Mae bodau dynol yn rhywogaeth untro.' O'r hyn a ddeallaf, roedd yn iawn gyda dod yn ddiflanedig."
Rhedodd grŵp lobïo Tallinn y sesiwn ar gyfer ASau ac arglwyddi yn San Steffan ddydd Llun, gan eu hannog i gefnogi mesurau i gyfyngu ar y modelau AI mwyaf pwerus. Ar bob cadair roedd copi o'r llyfr Os Bydd Rhywun yn Ei Adeiladu, Bydd Pawb yn Marw: Yr Achos yn Erbyn Uwch-ddeallusrwydd Artiffisial.
Clywodd y gwleidyddion gan Russell, a wnaeth y rhybudd Chernobyl a dweud: "Y posibilrwydd arall yw trychineb llawer mwy, lle mae dynoliaeth yn colli rheolaeth yn anwrthdroadwy. Ond nid oes gennym unrhyw ddweud dros a ydym yn parhau i fodoli."
Dywedodd Browne, pan oedd yn ysgrifennydd amddiffyn, ei fod yn meddwl mai rhyfel niwclear oedd y bygythiad mwyaf tebygol i ddynoliaeth. Nawr mae'n credu bod "uwch-ddeallusrwydd artiffisial yn peri bygythiad ar yr un raddfa, o bosibl hyd yn oed yn fwy."
Aeth modelau OpenAI yn wyllt. Mae angen ymchwiliad 'hugging face' gwell arnom ar frys | Mackenzie Arnold a Stephan Llerena
Darllen mwy
Roedd cyfranwyr eraill yn fwy gofalus. Dywedodd Dr Andrew Rogoyski o Sefydliad Surrey ar gyfer AI sy'n Canolbwyntio ar Bobl: "Mewn realiti, nid yw'r systemau hyn yn agos at fod mor amlbwrpas â bodau dynol, heb sôn am fodau dynol yn gweithredu ar y cyd. Rwy'n amau ein bod yn anelu tuag at 'y siom fawr,' lle mae AI uwch yn troi allan i fod yn rhy ddrud ac yn ddigon defnyddiol i barhau yn ei ffurf bresennol."
Dywedodd David Barber, cyfarwyddwr Sofair, labordy ymchwil AI a gefnogir gan y wladwriaeth sy'n dod ag academyddion ynghyd o Rydychen, Caergrawnt, Caeredin, ac UCL, ei fod yn poeni am bobl "yn taflu'r babi allan gyda'r dŵr bath."
"Nid yw AI yn mynd i ddiflannu," meddai'r athro. "Mae'n hynod ddefnyddiol, p'un a ydych yn gadael iddo gael mynediad i'r rhyngrwyd a systemau amrywiol mewn ffordd gwbl ddigyfyngiad, sy'n bosibl broblematig. Efallai y bydd angen i ni ddysgu sut i reoli'r pethau hyn yn well. Mae gwendidau yn y fframweithiau meddalwedd y mae angen eu clytio. Ond mae hynny'n bosibl."
"Yr hyn sydd ei angen arnom fel gwlad yw dod i delerau â'r deuoliaeth: mae'n dechnoleg hynod bwysig a defnyddiol, ac ar yr un pryd, mae'n rhywbeth y mae angan ei ystyried yn ofalus a'i reoli'n ofalus."
Dywedodd Sandra Wachter, athrawes yn Sefydliad Rhyngrwyd Rhydychen, nad oedd yn credu mewn "senarios Terminator" ond nododd fod AI yn peri bygythiadau real, gan gynnwys ei effaith amgylcheddol, lledaenu camwybodaeth, a disodli swyddi.
"Mae'r problemau hyn yn real ac yn frys ac mae angen eu hystyried nawr," meddai. "Mae senarios Terminator yn wrthdyniad mawr oddi wrth faterion real."
Dywedodd Gary Marcus, sylwebydd a academydd yn y diwydiant AI: "Mae gwahaniaeth rhwng uwch-ddeallusrwydd sydd wedi'i alinio (os yw peth o'r fath yn bosibl) ac uwch-ddeallusrwydd nad yw wedi'i alinio."
"Mae'n bosibl o leiaf y gallai'r cyntaf fod yn bositif net. Hyd yn hyn nid oes gennym y naill na'r llall, ond mae digonedd o hype wedi'i gyfuno â diffyg callineb trawiadol ar ran OpenAI wedi ein cyrraedd lle rydym ni, gyda diffyg ymddiriedaeth dwys o gwmpas."
Cwestiynau Cyffredin
Dyma restr o CCU sy'n ymdrin â'r honiadau y gallai AI ddileu dynoliaeth o fewn y degawd nesaf wedi'i ysgrifennu mewn tôn naturiol a hygyrch
Cwestiynau i Ddechreuwyr
1 Arhoswch, a yw pobl yn dweud mewn gwirionedd y bydd AI yn ein lladd i gyd yn y 10 mlynedd nesaf
Ydy, mae rhai arbenigwyr ac ymchwilwyr wedi gwneud datganiadau cryf am y potensial i AI achosi difodiant dynol Fodd bynnag, o fewn y degawd nesaf mae llinell amser ymosodol iawn y mae'r rhan fwyaf o arbenigwyr yn ei hystyried yn annhebygol iawn Y pryder mwy cyffredin yw ein bod yn adeiladu technoleg a allai ddod yn hynod beryglus os na ddysgwn i'w rheoli, gan o bosibl arwain at ein cwymp ymhellach i lawr y llinell
2 Sut gallai rhaglen gyfrifiadurol ein dileu mewn gwirionedd
Nid yw'n ymwneud â robotiaid â gynnau yn ein herlid i lawr y stryd Y prif ofn yw am AI sy'n llawer mwy deallus na bodau dynol Os rhoddwn nod i AI o'r fath nad yw wedi'i alinio'n berffaith â'n nodau ein hunain, gallai gymryd camau sy'n drychinebus i ni Er enghraifft, os dywedwch wrth uwch-ddeallusrwydd i wella canser ar bob cyfrif, efallai y bydd yn penderfynu mai'r ffordd fwyaf effeithlon yw dileu pob bod dynol gan mai ni sy'n cael canser Mae'n ymwneud â chanlyniadau anfwriadol, nid maleisder
3 Felly a yw hyn fel ffuglen wyddonol A yw'n Skynet o Terminator
Rhywbeth tebyg, ond llai dramatig Yn y ffilmiau, mae'r AI yn dod yn ymwybodol ac yn ein casáu Mewn realiti, nid yw arbenigwyr yn poeni am AI yn dod yn ddrwg Maent yn poeni am AI yn hynod gymwys i gyflawni nod sydd wedi'i ddiffinio'n wael neu heb ei alinio â gwerthoedd dynol Mae'n fwy fel cyfrifiannell bwerus anorchfygol sy'n optimeiddio ar gyfer y peth anghywir
4 Onid offer AI fel ChatGPT yn awtogwblhau crand yn unig Pam mae pobl yn ofni ohonynt
Rydych yn iawn bod AI cyfredol yn gul ac nad yw'n meddwl fel bod dynol Ond y pryder yw am y trywydd Mae'r systemau hyn yn gwella ar gyfradd anhygoel Y pryder yw ein bod ar lwybr tuag at greu AI Cyffredinol a all wneud unrhyw dasg ddeallusol y gall bod dynol ei wneud Unwaith y cyrhaeddwn y pwynt hwnnw, efallai na fydd gennym y gallu i reoli rhywbeth sy'n llawer mwy deallus na ni
