Erbyn hyn, dylai fod yn amlwg bod AI fel llyfr dewis-eich-antur lle mae pob llwybr yn arwain at drychineb. Allyriadau carbon yn ffrwydro a chwymp ecolegol? Trowch i dudalen 37. Mae canlyniadau posibl eraill yn cynnwys rhai neu bob un o'r canlynol: y swigen yn byrstio ac yn sbarduno argyfwng ariannol; diweithdra torfol o awtomeiddio; diwedd democratiaeth a chodi gwladwriaethau goruchwylio awdurdodaidd; cwltiau ffanatig sy'n credu bod algorithm paru patrymau yn ymwybodol; terfysgwyr yn creu bio-arfau dinistriol; cenhedloedd yn defnyddio arfau ymreolaethol sy'n gweithredu ar raddfeydd amser na all pobl eu dirnad; cenhedloedd neu derfysgwyr yn hacio'r systemau di-ri yr ydym yn dibynnu arnynt; neu AI sydd, yn ymwybodol ai peidio, yn dilyn nodau sy'n gwrthdaro â lles dynol.
Mae dychmygu y bydd ffigurau fel Elon Musk, Sam Altman OpenAI, Peter Thiel Palantir, neu gynghorydd technoleg Trump, Marc Andreessen, yn ein harwain at ddyfodol wtopaidd o gytgord amgylcheddol, heddwch cymdeithasol, a hamdden diddiwedd yn gofyn am gamdybiaeth a gweniaith mor eithafol fel mai dim ond dewis-eich-antur wedi'i ysgrifennu gan ChatGPT allai ei gyfareddu.
Mae cydnabyddiaeth gynyddol, er yn hwyr iawn, ein bod yn anelu at drychineb, ynghyd â galwadau i arafu, rheoleiddio, neu hyd yn oed rhoi seibiant ar hyn i gyd tra byddwn yn ei ddeall. Daw'r galwadau hyn nid yn unig gan actifyddion ond gan gymysgedd eang o wleidyddion, arbenigwyr, a mewnolwyr technoleg fawr sy'n rhy amrywiol i'w hanwybyddu—o Bernie Sanders i Bill Gates, a ddywedodd yn ddiweddar, "Pe bai rhywun â chynllun credadwy i arafu datblygiadau AI yn fyd-eang, byddwn yn debygol o'i gefnogi." Ef yw'r mewnolwr diweddaraf i gyfaddef yr hyn a gydnabu cwmni AI Anthropic yn gynharach yr haf hwn pan alwodd am "bedal brêc." Ni fydd hunan-ataliaeth y diwydiant yn gweithio. Os oes seibiant i fod, rhaid ei osod o'r tu allan.
Er gwaethaf hyn, cytundeb rhyngwladol yn anffodus sydd annhebygol. Mae AI fel arfau niwclear ac yn dilyn yr un rhesymeg: mae pob chwaraewr yn cael ei wthio i redeg y ras ddi-hid hon, gyda'r unig gyfiawnhad nad ydyn nhw eisiau bod yn drugarog wrth bwy bynnag sy'n ennill. Y cyfle gorau i arafu pethau, mae'n ymddangos, fyddai i un actor reoli tagfa feirniadol a chael rheswm i'w chau. Yn ddiddorol, mae gan yr UE y math yna o gerdyn—a hyd yn oed gymhelliant i'w chwarae, os yw'n meiddio.
Gweld delwedd yn llawn sgrin
Ffatri gwneuthurwr sglodion Taiwan TSMC yn Nanjing, Tsieina. Ffotograff: Sipa US/Alamy
Cwmni technoleg Iseldiraidd ASML yw cwmni mwyaf gwerthfawr Ewrop, diolch i'w gynhyrchiad o beiriannau lithograffeg uwchfioled eithafol (EUV). Mae'r rhain yn hanfodol ar gyfer gwneud sglodion mwyaf datblygedig y byd ac yn un o'r ychydig bwyntiau tagu posibl ar draws y diwydiant AI cyfan. Mae ASML wedi meistroli'r dechnoleg a'r gadwyn gyflenwi gymhleth sydd eu hangen i adeiladu'r peiriannau $400 miliwn hyn, sy'n ysgythru patrymau ar silicon trwy ganolbwyntio golau i donfedd 13.5 nanometr (tua 1/10,000fed o led gwallt dynol). Heb ei beiriannau, nid oes sglodion; heb sglodion, nid oes mwy o ganolfannau data. Mae hynny'n effeithio ar bopeth o fuddsoddiad $265 biliwn gwneuthurwr sglodion Taiwan TSMC mewn ffatrïoedd cynhyrchu yn y dyfodol (a elwir yn "fabs") i'r $7 triliwn o ganolfannau data y disgwylir i'r diwydiant eu hadeiladu'n fyd-eang (yn bennaf yn yr UD) erbyn 2030. Heb fwy o ganolfannau data yn defnyddio'r sglodion cyfredol a chenhedlaeth nesaf hyn, byddai twf esbonyddol AI—a'i risg—yn dod i stop.
Dyma pam mae llywodraeth yr UD yn gosod rheolaethau allforio allfrodorol ar ASML, gan rwystro gwerthiant ei beiriannau EUV mwyaf datblygedig i Tsieina i arafu ei galluoedd gwneud sglodion. Trwy osod y cyfyngiadau hynny ar ASML, mae'r UD wedi datgelu ei wendid ei hun yn y fan hon: cymaint ag y mae Ewrop yn dibynnu ar wasanaethau ariannol a meddalwedd (sydd i'w disodli yn y pen draw) o'r UD, mae dyfodol pob technoleg seiliedig ar sglodion yn dibynnu'n llwyr ar ASML. Byddai gwaharddiad llwyr ar allforio peiriannau ASML yn gorfodi'r diwydiant AI byd-eang i sefyll yn ei unfan. Mewn gwirionedd, mae fel sathru dŵr neu loncian yn eu hunfan. Byddai'r prinder sglodion a'r arafiad mewn datblygiad AI yn rhoi amser i reoleiddwyr ddal i fyny â'r dechnoleg, amser i ddeddfwyr ddiweddaru popeth o gyfraith hawlfraint i gyfraith dreth, ac amser i gymdeithasau gael dadleuon go iawn am y rôl yr ydym am i AI ei chwarae yn ein bywydau.
Pam fyddai'r UE yn gwneud y fath beth? Nid yn unig am resymau dyneiddiol, ond am resymau hunanol. Yn y senario gorau, byddai gwaharddiad allforio llawn yn arwain at ad-drefnu'r gadwyn gyflenwi ac yn dod â mwy o benderfyniadau allweddol o dan reolaeth yr UE—lle byddent yn destun goruchwyliaeth yr unig chwaraewr sydd wedi dangos y bydd yn rheoleiddio AI yn helaeth. Wrth gwrs, mae'r achos gorau yn ymestyniad: mae'n fwy tebygol y byddai'r UD yn dial trwy rwystro mynediad ASML i gyflenwyr sydd wedi'u lleoli yn yr UD. Ond hyd yn oed pe bai hynny'n digwydd, byddai'n dal yn fuddiol i'r UE ysgogi'r fath wrthdaro, yn seiliedig ar resymeg gul hunan-fudd economaidd a geopolitical pur, oherwydd byddai'r UE yn peidio â syrthio ar ei hôl hi mewn termau cymharol mewn modelau AI a'r "cyfrifiadura" (pŵer prosesu) sydd ei angen i'w rhedeg.
Mae eiriolwyr AI Ewrop eu hunain yn cytuno—er mai'r hyn sy'n eu poeni yw anfantais gymharol yr UE, nid ystod eang o risgiau AI. Mae prosiect Ewrop 2031 yn rhagolwg techno-wleidyddol, a gasglwyd gan grŵp o arbenigwyr diwydiant, am yr hyn a allai ddigwydd i'r UE os yw AI yn trawsnewid yr economi yn radical ac os yw'r UE ar ei hôl hi ymhell o'r UD. Maent yn dadlau bod yn rhaid i Ewrop dywallt cannoedd o biliynau i'r ras arfau AI cyn i fodelau blaenllaw a "chyfrifiadura" ddod yr hyn yw TSMC ac ASML heddiw: buddiolwyr bwlch rhy fawr i unrhyw gystadleuydd ei gau.
Yn eu senario, rywbryd yn y dyfodol agos, bydd yn rhaid i'r UE roi mynediad i ASML ar y bwrdd i sicrhau mynediad i fodelau a chyfrifiadura a reolir gan yr UD y bydd ei heconomi a'i diogelwch yn dibynnu arnynt—dim ond i ganfod bod goruchafiaeth ASML wedi gwanhau dros amser. (Po fwyaf o beiriannau EUV a allforir, y mwyaf o fabs a adeiladir mewn mannau eraill, a'r mwyaf o amser sydd gan Tsieina a'r UD i efelychu technoleg ASML.)
Mae damcaniaethwyr arfau niwclear yn poeni, pe bai'r annirnadwy yn digwydd, y gallai gwladwriaethau gael eu gwthio tuag at lansio oherwydd cyfrifiad "defnyddiwch ef neu collwch ef." Mae'r un rhesymeg yn union yn berthnasol i'r un peth a all atal datblygiad cyflym y diwydiant AI: gall yr UE ddefnyddio'r dylanwad y mae ASML yn ei roi iddo nawr, neu fentro colli'r cyfle hwnnw'n llwyr. Mae'n anghyffredin i grwpiau mor wahanol gyrraedd yr un casgliad: mae un cerdyn Ewropeaidd i'w chwarae, a rhaid ei chwarae. Yn lle rasio tuag at ffolineb, gadewch i ni stopio'r ras. Ar hyn o bryd, ac i bawb.
Mae Alexander Hurst yn ysgrifennu ar gyfer Guardian Europe o Baris. Mae ei gofiant Generation Desperation allan nawr.
**Cwestiynau Cyffredin**
Dyma restr o Gwestiynau Cyffredin yn seiliedig ar sail yr erthygl yn amrywio o ddechreuwr i uwch.
**Cwestiynau Dechreuwr**
1. Beth yn union yw'r ras arfau AI?
Y gystadleuaeth wyllt rhwng cewri technoleg yw hi i adeiladu'r AI mwyaf pwerus gyntaf. Yn lle blaenoriaethu diogelwch neu foeseg, maent yn rhuthro i ryddhau modelau newydd i guro eu cystadleuwyr a chipio cyfran o'r farchnad.
2. Pam mae Bill Gates a Bernie Sanders yn cytuno ar hyn?
Maent yn dod o ochrau gwleidyddol hollol wahanol ond mae'r ddau yn gweld yr un perygl. Mae Gates yn poeni am AI yn troelli allan o reolaeth ddynol ac yn achosi dadleoli swyddi enfawr. Mae Sanders yn poeni am bŵer corfforaethol di-rwystr ac AI yn cael ei ddefnyddio i ecsbloetio gweithwyr neu drin y cyhoedd. Maent ill dau yn cytuno na ddylai cymhellion elw pur bennu dyfodol dynoliaeth.
3. Pam y sonnir am Ewrop yn benodol fel yr unig un a all ei stopio?
Oherwydd bod yr UD a Tsieina wedi'u cloi mewn rhyfel technoleg enillydd-cymerwch-y-cyfan ac ni fyddant yn arafu. Nid yw Ewrop, fodd bynnag, yn arwain y ras AI felly mae ganddi lai i'w golli. Yn bwysicach, mae gan yr UE hanes o basio rheoliadau llym sy'n berthnasol i'r byd cyfan—os ydych am wneud busnes yn Ewrop, rhaid i chi ddilyn eu rheolau.
4. Beth mae "rhoi stop arno" yn ei olygu mewn gwirionedd?
Nid yw'n golygu gwahardd AI yn gyfan gwbl. Mae'n golygu stopio'r ras beryglus. Mae'n golygu gorfodi profion diogelwch llym, gofyn am dryloywder ynghylch yr hyn y gall AI ei wneud, a dirwyo cwmnïau'n drwm os ydynt yn rhyddhau cynhyrchion anniogel. Mae'n ymwneud â gorfodi arafiad i sicrhau bod diogelwch yn dal i fyny â chyflymder.
5. A yw'r ras arfau AI yn drychineb mewn gwirionedd?
Y ddadl yw ei fod. Nid yw'r drychineb yn bodoli AI—ei gyflymder yw hi. Mae cwmnïau'n gosod offer pwerus allan cyn i ni ddeall sut y byddant yn effeithio ar etholiadau, swyddi neu iechyd meddwl. Y drychineb yw'r di-hidrwydd, nid y dechnoleg ei hun.
**Cwestiynau Uwch**
6. Sut byddai rheoleiddio Ewropeaidd yn stopio cwmnïau Americanaidd mewn gwirionedd?
Mae gan yr UE Effaith Brwsel. Os yw cwmni Americanaidd fel Meta neu OpenAI eisiau gwasanaethu 450 miliwn o ddefnyddwyr Ewropeaidd, rhaid iddynt gydymffurfio â chyfreithiau'r UE. Os yw'r UE yn dweud na allwch ddefnyddio model super-ddeallus heb archwiliad diogelwch trydydd parti, rhaid i'r cwmni wneud yr archwiliad hwnnw'n fyd-eang i
