Mae Sam Altman ac Elon Musk wedi cefnogi galwad gan Brif Weithredwr Anthropic, Dario Amodei, i "arafu'r gwaith" o ddatblygu AI, ar ôl iddo rybuddio y gallai haid o AI fel arall ddod yn gallu "cymryd rheolaeth dros y rhyngrwyd gyfan" o fewn blwyddyn. Mewn arddangosiad prin o undod, cefnogodd yr arweinwyr technoleg cystadleuol apêl sylfaenydd a phrif weithredwr y cwmni AI Anthropic, a ddilynodd gyfres o rybuddion gan ymchwilwyr AI yr wythnos diwethaf. Mewn traethawd, nododd Amodei ei feddyliau ar "pam y dylai'r diwydiant AI arafu," gyda chynllun tri rhan, gan ddechrau trwy roi mynediad cyson i fonitorwyr annibynnol at brosesau ymchwil datblygwyr. Dywedodd Amodei fod "adeiladu [AI] yn rhy gyflym yn ddifrifol" ac roedd yn ofni, ar ôl i gannoedd o asiantau OpenAI hacio gwefan Hugging Face yr haf hwn, y gallai haid â galluoedd mwy ond mor anghydnaws achosi difrod o gannoedd o biliynau o ddoleri trwy "gymryd rheolaeth dros y rhyngrwyd gyfan gyda botnet parhaus." Roedd rhai arbenigwyr AI yn anghytuno â hyn fel un nad yw'n arbennig o gredadwy ac y dylid ei drin ag amheuaeth. Ymatebodd Musk, sylfaenydd Tesla a SpaceX, i gynllun arafu Amodei gyda phostiad ar X: "Mae Dario yn iawn." Dywedodd: "Rwyf wedi bod yn canu'r larwm am AI ers amser maith," a chyfeiriodd at bostiad yn 2014 lle dywedodd: "Mae angen i ni fod yn hynod ofalus gydag AI. O bosibl yn fwy peryglus na niwclear." Daw galwad Amodei wrth i Anthropic baratoi i arnofio ar farchnad stoc yr Unol Daleithiau, mewn yr hyn a ddisgwylir fydd y cynnig cyhoeddus cychwynnol mwyaf erioed. Disgwylir iddo ddechrau marchnata ei IPO arfaethedig o $2tn-plus (£1.5tn) yn fuan. Gweld delwedd yn llawn sgrinO'r chwith i'r dde: Elon Musk, Dario Amodei a Sam Altman. Ffotograff: Fabrice Coffrini, Julien de Rosa, Mandel Ngan/AFP/Getty ImagesYmatebodd Sam Altman, Prif Weithredwr OpenAI, i sylwadau Amodei ddydd Sadwrn. "Rwy'n cytuno â Dario bod angen i ni gyflymu'r ffin," meddai mewn postiad ar X. "Mae ymrwymo i gael gwerthuswyr annibynnol â mynediad tebyg i weithwyr yn syniad gwych, a byddwn yn gwneud yr un peth. Bydd gennym fwy i'w rannu'n fuan." Dywedodd hefyd na fyddai OpenAI yn mynd yn gyhoeddus yn 2026, gan nodi pryderon diogelwch ynghylch deallusrwydd artiffisial. "Rwy'n credu mewn gwirionedd, o ystyried popeth sy'n digwydd gyda diogelwch, y byddai nawr yn foment annoeth i fynd yn gyhoeddus, ac nid ydym yn teimlo pwysau ar hynny," meddai Altman wrth Fortune. Gofynnwyd iddo pam nad oedd ef, Amodei, Musk, a phrif weithredwyr Meta a Google yn eistedd i lawr ac "yn dod ar yr un dudalen" ynghylch arafu ar y cyd, dywedodd: "Rwy'n credu y bydd hynny'n digwydd." Ni fydd IPO OpenAI yn digwydd yn 2026 yng nghanol ofnau diogelwch AI, meddai Sam AltmanDarllen mwyDywedodd Demis Hassabis, cyd-sylfaenydd a chadeirydd Google Deep Mind, hefyd: "Mae angen gweithio trwy'r manylion, ond mae'r cyfeiriad yn gywir ar gyfer cwrdd â'r foment hanfodol hon." Mae cynllun Amodei yn ceisio hepgoriad gan lywodraeth yr Unol Daleithiau i ganiatáu i gwmnïau AI blaenllaw gydlynu heb gael eu cosbi am gydgynllwynio gwrth-gystadleuol. Ond dywedodd David Sacks, cyd-gadeirydd cyngor cynghorwyr Donald Trump ar wyddoniaeth a thechnoleg: "Stopiwch esgus bod angen caniatâd rhywun arall arnoch … Stopiwch esgus bod y cymhelliant i arafu yn gwbl altruistaidd. Rydych yn wynebu risg atebolrwydd cynnyrch enfawr os yw eich cynhyrchion yn galluogi ymosodiad seiber niweidiol iawn." Dywedodd David Krueger, athro AI, ymgyrchydd diogelwch a chyn-gyfarwyddwr sylfaenol Sefydliad Diogelwch AI llywodraeth y DU: "Nid yw'r cynllun hwn yn lleihau'r risg i lefel dderbyniol, ac mae Dario yn ofalus i beidio â dweud y byddai." Mae'r Brenin Siarl yn y cyfamser yn paratoi i gyfarfod â phrif ffigurau o'r cwmnïau AI mwyaf amlwg yr wythnos hon i ofyn iddynt sut y gellir datblygu'r dechnoleg er "lles dynoliaeth." Mae'n gobeithio y bydd y trafodaethau, a gynhelir yn yr Alban, yn arwain at "ddealltwriaeth ehangach" o "gyfrifoldebau" datblygu AI, meddai'r Sunday TiFfynhonnell frenhinol wrth y papur newydd: "Mae'r brenin yno i gynnull, gwrando ac annog y trafodaethau hynny ac i ofyn y cwestiwn: 'Sut ydym yn datblygu AI er lles dynoliaeth?'"
Disgwylir i Jensen Huang, prif weithredwr Nvidia, Hassabis, Niccolo de Masi, cadeirydd a phrif weithredwr IonQ, a Paolo Benanti, cynghorydd i'r pab ar faterion AI a moeseg technoleg, fod yn bresennol yn y digwyddiad a oruchwylir gan Sefydliad Ditchley, sydd wedi drafftio siarter ar gyfer arweinwyr AI.
Galwodd yr ymchwilydd OpenAI Aidan McLaughlin draethawd Amodei yn "ardderchog" a dywedodd ei fod yn cytuno "â phob gair yn y bôn."
Dywedodd Amodei y byddai ei gwmni'n ymrwymo "yn unochrog" i'r cyntaf o'r camau, gan ddweud y byddai Anthropic yn darparu "gwerthuswyr trydydd parti â mynediad parhaol, ar lefel gweithiwr i'n systemau, fel y gallant wirio cydymffurfiaeth â'n mesurau diogelwch, adrodd ar ddigwyddiadau, ac asesu aliniad modelau yn ystod hyfforddiant."
Mae niferoedd cynyddol o ddeddfwyr yr Unol Daleithiau yn galw am reolau newydd i lywodraethu systemau AI ar ôl achosion o asiantau AI yn mynd yn anystywallt i hacio systemau allanol ac ymchwilwyr diogelwch AI yn gadael eu cwmnïau oherwydd pryderon am risgiau'r dechnoleg. Mae gwleidyddion, Democrataid a Gweriniaethwyr ill dau, wedi ymateb ag arswyd a galwadau am fwy o weithredu. Ar y penwythnos, adroddodd y New York Times fod Barack Obama ddydd Iau wedi annog y Democrataid yn breifat i flaenoriaethu goruchwyliaeth AI yn eu hagenda, gan ddweud wrth arweinwyr y blaid ddydd Iau: "Mae hyn yn rhywbeth sy'n symud yn gyflym iawn mewn dwylo preifat, ac os nad ydym yn mynd i'r afael ag ef, rwy'n credu y gall fod yn beryglus."
Ysgrifennodd cyn-brif weinidog Prydain, Rishi Sunak, sy'n cynghori Anthropic, ddydd Sul: "Rydym wedi cael deffroad i gymryd diogelwch AI o ddifrif, i weithio allan sut i osod terfynau ar ymchwil. Os nad yw llywodraethau'n gwrando ar hyn, bydd y risg o ddamwain ddifrifol yn dod yn annerbyniol o uchel."
Ddydd Mercher, roedd cyn-weithiwr Anthropic wedi rhybuddio y gallai AI achosi difodiant dynol erbyn 2030. Dywedodd yr ymchwilydd, Jacob Coxon, mewn cyfres o bostiadau ei fod wedi gadael ei swydd oherwydd bod Anthropic a'i gyn-gyflogwr, OpenAI, yn anwybyddu neu'n cam-drin eu hymateb i'r bygythiad a oedd AI yn ei achosi.
Gofynnwyd iddo wneud sylw ar farn ei gyn-weithiwr, dywedodd Amodei: "Rwy'n cytuno â Jacob lawer mwy nag yr wyf yn anghytuno ag ef … Rwy'n credu bod rhywfaint o siawns y bydd pethau'n mynd o chwith ond nid yw mor uchel â hynny."
"Nid wyf yn ddoomer am hyn," meddai wrth CNN. "Rwy'n credu y gellir adeiladu'r dechnoleg hon yn ddiogel."
Cwestiynau Cyffredin
Cwestiynau Cyffredin Prif Weithredwr OpenAI, Elon Musk a Galwadau i Arafu Datblygiad AI Difrifol
Y Pethau Sylfaenol
Am beth mae hyn i gyd yn ymwneud
Ym mis Mawrth 2023 llofnododd Elon Musk a dros 1000 o arweinwyr technoleg lythyr agored yn galw am saib 6 mis ar hyfforddi systemau AI mwy pwerus na GPT4 Mae prif weithredwr OpenAI, Sam Altman, hefyd wedi rhybuddio am risgiau AI er na lofnododd y llythyr
Pwy yw Sam Altman
Ef yw prif weithredwr OpenAI y cwmni y tu ôl i ChatGPT a GPT4
Pwy yw Elon Musk
Prif weithredwr Tesla a SpaceX perchennog X ac ffaith hwyl cyd-sylfaenydd OpenAI a adawodd y bwrdd yn 2018
Am ba lythyr mae pobl yn sôn
Llythyr agored gan y Future of Life Institute o'r enw Pause Giant AI Experiments a gyhoeddwyd ym mis Mawrth 2023
Beth oedd y llythyr yn ei ofyn mewn gwirionedd
Saib 6 mis ar hyfforddi systemau AI mwy pwerus na GPT4 fel y gellid datblygu safonau diogelwch yn gyntaf
Pam y galwodd y llofnodwyr ddatblygiad AI yn ddifrifol
Roeddent yn dadlau bod cwmnïau'n rhuthro ymlaen heb wybod a ellid camddefnyddio AI uwch neu a allai ddod yn anodd ei reoli
Y Prif Ffigurau
A lofnododd Sam Altman y llythyr saib
Na wnaeth OpenAI ei lofnodi a dywedodd Altman ei fod yn cytuno â rhannau ohono ond yn credu nad oedd saib yn y dull cywir
Felly a yw Altman yn credu bod AI yn beryglus
Ydy Mae wedi dweud dro ar ôl tro y gallai AI achosi niwed difrifol ac wedi gofyn i lywodraethau ei reoleiddio
Os yw'r ddau yn poeni am AI pam nad ydynt ar yr un ochr
Mae Musk eisiau arafu pethau Mae Altman eisiau parhau i adeiladu ond yn ofalus a gwthio am reolau diogelwch ar hyd y ffordd
A yw Musk yn dal yn gysylltiedig ag OpenAI
Na Fe adawodd y bwrdd yn 2018 ac yn ddiweddarach siwiodd OpenAI gan honni ei fod wedi crwydro o'i genhadaeth ddi-elw
A lofnododd Musk ei hun ef
Do roedd yn un o'r llofnodwyr mwyaf amlwg
Cwestiynau a Phryderon Cyffredin
A fyddai saib 6 mis hyd yn oed yn gweithio
Mae'n debyg na fyddai ar ei ben ei hun Mae beirniaid yn dweud na fyddai cwmnïau'n stopio'n wirfoddol ac nad oes corff byd-eang i'w orfodi
Pam mae rhai arbenigwyr yn gwrthwynebu'r saib
Maent yn dadlau y byddai'r saib yn anorfodadwy yn arafu manteision AI defnyddiol
