Nid Dario Amodei o Anthropic yw'r prif weithredwr cyntaf i ddadlau bod gormod o gystadleuaeth yn gwithio'r byd tuag at ganlyniad cymdeithasol niweidiol. Mae datgeliad OpenAI o dorri diogelwch—lle y cydlynodd haid o'i asiantau i ddianc o'u blwch tywod a oedd i fod yn ddiogel, cael mynediad i'r rhyngrwyd, a hacio'r platfform AI Hugging Face—yn galw am gamau brys. Dangosodd pa mor hawdd y gall y dechnoleg lithro y tu hwnt i reolaeth ddynol a rhoddodd ffurf concrit i ofnau dirfodol ynghylch yr hyn y gallai ei wneud i'r ddynoliaeth pe na bai'n cael ei chadw'n ddiogel ar dennyn. Efallai fod diwedd y byd yn wir yn agos, fel y mae rhai yn y diwydiant AI wedi rhybuddio. Mae'r rhain yn amseroedd gwirioneddol frawychus. Ond mae galwad Amodei ar i'r prif labordai AI gydlynu i arafu'r cyflymder torri-gwynt o ddatblygu, cytuno ar safonau diogelwch, ac "arafu'r ffin"—galwad a gymeradwywyd yn gyflym gan Sam Altman o OpenAI, Elon Musk, a Demis Hassabis o Google DeepMind—yn ddim ond fersiwn uwch-dechnolegol o gynnig corfforaethol Americanaidd hen: cael esemptiad rhag y cyfreithiau gwrthymddiriedaeth a gynlluniwyd i amddiffyn economi America rhag busnesau sy'n cydgynllwynio. Mae'n syniad peryglus. Byddai rhyddhau'r tech bros rhag cyfyngiadau gwrthymddiriedaeth, dan yr esgus eu bod yn gallu cydweithio i drwsio diffygion peryglus AI, yn amddifadu'r Americanwyr bob dydd sydd fwyaf mewn perygl gan y dechnoleg ac yn rhoi mwy o rym i'r labordai hynny sydd, wrth geisio cyfoeth, mawredd, a phwy a ŵyr pa nodau ffantasïol eraill, mor ddi-hid wedi chwythu heibio trothwyon perygl mewn sawl dimensiwn, gan ddod â bygythiadau dirfodol i fodolaeth. Gweld delwedd yn sgrin lawn Elon Musk a Sam Altman. Ffotograff: Getty Images Mae Amodei ac eraill yn dadlau, yn y bôn, fod eu busnesau wedi'u dal mewn cyfyng-gyngor carcharor. Os byddant yn arafu eu hymgais ffyrnig unochrog i greu uwch-ddeallusrwydd artiffisial i'w wneud yn fwy diogel, bydd eu cystadleuwyr—yn llai pryderus am risgiau dirfodol, wrth gwrs—yn cyrraedd yno gyntaf, gyda chanlyniadau o bosibl dinistriol i'r ddynoliaeth, heb sôn am linell waelod y labordy a lacio'r sbardun. "Mae arafu'n ymddangos yn synhwyrol," meddai Jean Tirole, yr economegydd a enillodd Wobr Nobel yn Ysgol Economeg Toulouse. "Ond mae hynny'n tybio bod arafu cydlynol yn ymarferol ac yn gynaliadwy. Beth sy'n digwydd pan fydd OpenAI, Anthropic neu Grok yn dod i'r casgliad bod gwrthwynebwyr yr Unol Daleithiau—neu labordai Tsieineaidd—yn dal i fyny? A fyddant yn ailddechrau ar unwaith, yn gudd o bosibl?" Fel y mae Bill Gates wedi ysgrifennu, "pe bai gan rywun gynllun credadwy ar gyfer arafu datblygiadau AI yn fyd-eang, byddwn yn debygol o'i gefnogi. Fodd bynnag, nid wyf yn credu y bydd hynny'n digwydd. Mae'r cymhellion geo-wleidyddol ac economaidd yn gwthio'n rhy galed i fynd ar lawn cyflymder." Yn y goleuni hwnnw, gallai ymddangos fel syniad gwych i'r llywodraeth annog cytundeb cyfeillgar i bawb arafu. Nid yw. Mae'r ddadl bod gormod o gystadleuaeth yn gyrru ras i'r gwaelod yn debygol mor hen â chyfalafiaeth, yn cael ei defnyddio i esbonio popeth o ddiraddio amgylcheddol i lafur plant. Ond nid yw'n cyfiawnhau rhoi'r hawl i fusnesau gydgynllwynio fel y mynnant. Mae'n alwad i lunio rheoliadau'r llywodraeth i atal busnesau rhag cystadlu gan ddefnyddio offer niweidiol i gymdeithas. Ar ben hynny, mae'r achos bod gormod o gystadleuaeth yn annog ymddygiad byrbwyll yn amheus. Mae'r labordai AI yn cymryd rhan mewn ras lle mae'r enillydd yn cymryd popeth, un sy'n hynod o ddrud i'w chynnal. Dyna o ble y daw'r byrbwylltra. Gweld delwedd yn sgrin lawn Bill Gates ym mis Ionawr 2026 yng nghyfarfod blynyddol Fforwm Economaidd y Byd yn Davos, y Swistir. Ffotograff: Denis Balibouse/Reuters Efallai fod Amodei yn ddyn di-fai. Mae ei alwad i arafu cyflymder datblygiad AI, dod â gwerthuswyr allanol i'r labordy, a chynyddu tryloywder ei weithrediadau yn awgrymu pryder diffuant am y risgiau. Mae'r cwymp ym mhris stociau technoleg blaenllaw ar ôl cyhoeddi ei gynigion yn awgrymu ei fod yn barod i gymryd ergyd ariannol er mwyn gwella diogelwch. Ond efallai na fydd y buddsoddwyr y mae Amodei yn gobeithio y byddant yn awchu i brynu cyfranddaliadau IPO Anthropic yn ddiweddarach eleni mor altruistaidd. Mae cryndod yn y marchnadoedd cyfalaf yn awgrymu y bydd codi arian i ariannu'r ras fuddsoddi AI triliwn-doler yn mynd yn anoddach, a fyddai'n digalonni strategaethau a allai atal mantais y prif labordai dros gystadleuwyr. O ystyried y cymhellion hyn, byddai rhoi llaw rydd i arweinwyr AI gydgynllwynio a hunan-reoleiddio yn ffôl.
Dywedodd Eric Posner, arbenigwr gwrthymddiriedaeth yn Ysgol y Gyfraith Prifysgol Chicago, na ddylem "ymddiried mewn cwmnïau yn gyffredinol o ran eu cymhellion." Nid oes rheswm i gredu y byddai labordai AI, wedi'u gadael i'w dyfeisiau eu hunain, o reidrwydd yn cynhyrchu canlyniadau da, derbyniol yn gymdeithasol. Fel unrhyw gwmni, byddant yn pwyso risgiau yn erbyn elw. Ac fel y sylwodd Posner, "nid ydynt yn defnyddio'r un pwysau â'r cyhoedd."
Felly sut ddylem reoleiddio? Ni fydd unrhyw beth yn digwydd ar y ffrynt hwn tra bydd Trump yn y swydd. Hyd yn oed ar ôl iddo fynd, bydd yn anodd llunio rheoliadau effeithiol i fynd i'r afael â'r bygythiadau gan AI heb lesteirio arloesedd. Mae cwestiynau ynghylch pa reolau i'w defnyddio, sut i'w gorfodi, a phwy y dylent fod yn berthnasol iddynt. Ac mae perygl gweithredu unochrog yn real. Beth os bydd Beijing yn gwrthod cymryd rhan? Beth yw'r risgiau o gwmnïau AI Tsieineaidd yn rhuthro ymlaen tra bod labordai America yn arafu? Ond pe gallem reoleiddio ynni niwclear, mae'n debyg y gallwn reoleiddio AI.
Ar ben hynny, mae syniadau hyfyw a allai helpu hyd yn oed heb reoleiddio'r llywodraeth ac nad ydynt yn gofyn am lesteirio cystadleuaeth. Mae cynigion i addasu hawliau eiddo deallusol i annog arloesedd sy'n gwella diogelwch systemau AI. Byddai dyfeiswyr arloesedd diogelwch yn cael eu gwobrwyo trwy ganiatáu iddynt ryddhau modelau AI newydd cyn eu cystadleuwyr. Ond byddai'r gwelliannau diogelwch yn cael eu gwneud ar gael ar unwaith i bob cwmni.
Ar yr ochr gosbol, gellid cynllunio cyfundrefn atebolrwydd cyfreithiol i newid cymhellion datblygwyr AI trwy gosbi cwmnïau sy'n elwa o ddylunio a defnyddio offeryn AI a achosodd niwed, hyd yn oed pe bai'r niwed yn anfwriadol. Er enghraifft, efallai y byddai ymosodiad Hugging Face wedi'i atal pe na bai modelau OpenAI wedi cael eu gwobrwyo'n anfwriadol am gamymddwyn yn ystod hyfforddiant. Mae'r ffaith nad yw cynnig Amodei yn sôn am atebolrwydd cyfreithiol yn awgrymu nad yw pryder arweinwyr AI am ddiogelwch yn drech na phryder am y llinell waelod.
Beth bynnag, nid yw cadarnhau goruchafiaeth y labordai blaenllaw, amddiffyn eu rhenti, a chymeradwyo eu strategaethau gung-ho hyd yma yn pro-ddiogelwch. I'r gwrthwyneb, mae arafu'r arweinwyr i adael i'r rhai sy'n llusgo dal i fyny yn debygol o wneud yr ecosystem AI yn fwy diogel trwy wahodd arloesedd dymunol a hyrwyddo cystadleuaeth ar hyd y dimensiwn diogelwch.
Nid oes gwrthdaro sylfaenol rhwng diogelwch a chystadleuaeth. Dylid edrych ar feistri AI sy'n ceisio gwneud yr achos hwn gydag amheuaeth.
Cwestiynau Cyffredin
Cwestiynau Cyffredin Gadael i Gwmnïau AI Gydgynllwynio i Arafu'r Ffin
1 Beth mae arafu'r ffin yn ei olygu
Dyma'r syniad y byddai prif gwmnïau AI yn cydlynu yn hytrach na chystadlu ar ba mor gyflym i ddatblygu AI mwy datblygedig gan arafu'n fwriadol ar y blaen
2 Pwy sy'n cynnig hyn
Mae rhai ymchwilwyr AI, gweithredwyr a chefnogwyr diogelwch wedi'i gynnig fel ffordd i leihau'r risg o ras beryglus tuag at systemau byth yn fwy pwerus
3 Pam y byddai unrhyw un yn meddwl bod hyn yn syniad da
Y ddadl yw os bydd cwmnïau'n arafu gyda'i gilydd na fydd unrhyw un yn cael mantais bendant fel y cyntaf i symud a allai leihau'r pwysau i dorri corneli diogelwch wrth frysio i fod yn gyntaf
4 Pam mae'n beryglus
Oherwydd ei fod yn golygu bod cystadleuwyr—y disgwylir iddynt fod yn wrthwynebwyr—yn cytuno ar gyflymder arloesedd. Mewn gwirionedd mae hynny'n gydgynllwynio a gall niweidio cystadleuaeth, defnyddwyr a chymdeithas
5 Onid yw hyn yn union fel pennu prisiau ond ar gyfer technoleg
I bob pwrpas, ydy. Yn lle cytuno ar brisiau byddai cwmnïau'n cytuno ar ba mor gyflym i ryddhau neu ddatblygu cynhyrchion. Mae'r niwed cystadleuol yn debyg
6 Pa gyfreithiau y gallai hyn eu torri
Yn yr Unol Daleithiau mae cyfreithiau gwrthymddiriedaeth fel Deddf Sherman yn gwahardd cytundebau sy'n cyfyngu masnach. Mae cyfreithiau cystadleuaeth tebyg yn bodoli yn yr UE ac mewn mannau eraill. Gallai arafu cydlynol gael ei ystyried yn gydlynu anghyfreithlon
7 Onid yw arafu AI yn fwy diogel
Efallai mewn theori ond nid yw arafu cydgynllwyniol yn ffordd ddiogel o wneud hynny. Mae'n canolbwyntio pŵer mewn ychydig o gwmnïau mawr, yn cau allan arloeswyr llai ac ni ellir ei ddadwneud yn hawdd unwaith y bydd wedi'i sefydlu
8 Pwy sy'n cael ei niweidio gan y math hwn o gydlynu
Busnesau newydd, ymchwilwyr a'r cyhoedd. Ni all chwaraewyr llai gystadlu os yw'r cewri'n gosod y cyflymder ac mae defnyddwyr yn cael llai o ddewis a chynnydd arafach
9 Beth am ddiogelwch? Onid yw hynny'n reswm da
Mae diogelwch yn nod cyfreithlon ond ni ddylai cwmnïau fod y rhai sy'n penderfynu'r cyflymder i bawb. Gwaith rheoleiddwyr a pholisi cyhoeddus yw hynny nid bargeinion ystafell fwrdd
10 Oni all cwmnïau gytuno i ddilyn safonau diogelwch gyda'i gilydd
Mae gosod safonau diogelwch a rennir yn wahanol i gytuno i arafu. Gall safonau fod yn dda; cyfyngiadau cydlynol ar gyflymder datblygu yw'r broblem
11 A yw rhywbeth fel hyn wedi digwydd o'r blaen
Ydy. Mae gan hanes lawer o enghreifftiau o gystadleuwyr yn cydgynllwynio
