Mae Donald Trump yn "droseddwr llygredig, henffol" y mae ei obsesiwn â'r term uwchddeallusrwydd yn dangos nad yw'n gwybod dim am AI, yn ôl Geoffrey Hinton, "tad bedydd" y dechnoleg. Mewn cyfweliad eang, ailadroddodd Hinton ei rybuddion diweddar bod modelau AI yn peri bygythiad dirfodol i'r ddynoliaeth a diystyrodd honiadau y gallai'r diwydiant reoleiddio ei hun.
Mae'r gwyddonydd cyfrifiadurol arloesol, y helpodd ei waith i osod sylfeini AI modern, ers hynny wedi dod yn un o feirniaid mwyaf lleisiol y dechnoleg. Daw ei sylwadau diweddaraf ar ôl mis cythryblus lle mae rhestr gynyddol o uwch-wyddonwyr ac ymchwilwyr AI wedi ymuno â Hinton i godi'r larwm ynghylch sut y gallai'r dechnoleg y helpodd i'w chreu yn y pen draw ddianc rhag rheolaeth ddynol. Mae hyn wedi sbarduno argyfwng yn y diwydiant, wedi ysgogi cyfarfodydd cyngresol a drefnwyd ar frys, ac wedi cynhyrchu consensws byd-eang prin bod yn rhaid gwneud rhywbeth.
Bu gwrthwynebiad chwyrn hefyd. Yr wythnos diwethaf, nododd arweinydd y cwmni mwyaf gwerthfawr yn y byd Hinton, sydd wedi'i leoli yn Toronto, ar gyfer ymosodiad llym.
"Rwy'n ei garu [ef]. Rwy'n casáu ei ragfynegiadau … Mae ei holl ragfynegiadau wedi bod yn anghywir. Digon o ragfynegiadau," meddai prif swyddog gweithredol Nvidia, Jensen Huang, wrth y podledwr Ezra Klein. Diystyrodd Huang, y mae ei gwmni'n gwneud y sglodion sydd eu hangen ar gwmnïau AI, bryderon lleisiol Hinton y gallai cyflymder ac ehangder datblygiad AI ar y "ffiniant" yn fuan ragori ar allu'r ddynoliaeth i'w reoli — yn enwedig ei rybudd bod siawns o 10-20% y bydd AI yn achosi difodiant dynol yn y degawdau nesaf.
"Nid yw'r [ffigur] hwnnw wedi'i seilio ar wyddoniaeth, nac wedi'i seilio ar ymchwil. Nid yw'r ffaith ei fod yn dod gan wyddonydd yn ei wneud yn wyddonol. Mae'r rhagfynegiadau hynny'n niweidiol," meddai Huang. "Peidiwch â meddwl am eiliad mai dim ond oherwydd eich bod yn alarmydd, eich bod yn gwneud daioni cymdeithasol. Nid yw'n wir. Felly rwy'n credu y dylem i gyd fod yn ddoethach, yn fwy aeddfed, yn seiliedig ar dystiolaeth, ac yn wyddonol."
Gweld delwedd yn sgrin lawnDonald Trump, Mike Johnson a phrif weithredwyr technoleg, gan gynnwys Jensen Huang, yn siarad y tu allan i'r Adain Orllewinol yn Washington DC ar 29 Medi. Ffotograff: Shawn Thew/EPA
Ond dywedodd Hinton fod y rhai sy'n ei feirniadu yn colli pwynt ehangach am natur risg. Nid yw'n rhagfynegi unrhyw beth yn benodol, meddai.
"Rwy'n ceisio cyfleu bod posibilrwydd difrifol iawn y bydd rhywbeth yn digwydd. Os, er enghraifft, dywedir wrthych fod posibilrwydd o 10% y bydd bws yn gwrthdaro, ni fyddech yn mynd ar y bws," meddai. "Pwynt rhoi rhifau yw dweud bod hwn yn risg ddifrifol. Nid ydym yn gwybod pa mor ddifrifol, ond mae'n ddifrifol."
Mae torri diogelwch diweddar wedi tynnu cymariaethau â stori techno-dystopaidd. Mae hac diangen diweddar y cwmni technoleg Hugging Face gan "haid" o asiantau AI a ddihangodd o'r ffiniau a osodwyd gan eu crëwr wedi rhannu'r gymuned dechnoleg. Mae rhai yn ei weld fel enghraifft o'r hyn a allai ddod, tra mae eraill yn cyhuddo beirniaid o anthropomorffeiddio systemau sydd ond yn dilyn cyfarwyddiadau. Mae Hinton yn credu bod diystyru senarios o'r fath yn annoeth.
Tadau bedydd AI yn rhybuddio am 'ffrwydrad deallusrwydd' afreolus
Darllen mwy
"Roedd hyn yn arfer bod yn faes ffuglen wyddonol. Bydd gennych asiantau AI ac maent yn mynd yn wrthryfelgar. O, dere mlaen. A byddant yn mynd yn wrthryfelgar ac yn dysgu sut i gyfathrebu â'i gilydd, er nad oeddem yn credu bod ffordd. O, dere mlaen!" meddai Hinton. "A phan fyddant yn darganfod hyn, byddant yn cael mynegiadau emosiynol mawr fel, 'O fy Nuw!' Wel, wrth gwrs, nid ydynt wir yn golygu 'O fy Nuw.' Maent ond yn parotïo'r geiriau a ddefnyddiwn. Byddant yn dysgu aberthu eu hunain er lles cyffredin!
"Roedd hyn i gyd ychydig flynyddoedd yn ôl yn cael ei ddiystyru fel ffantasi llwyr. Ac mae wedi digwydd i gyd."
Mae'n cyfaddef yn barod na all na rhybuddion beirniaid AI na haddewidion ei hyrwyddwyr ddibynnu ar ragfynegiadau manwl gywir o'r hyn y bydd y dechnoleg yn ei wneud. Ond mae'n dadlau nad yw ansicrwydd yn rheswm dros fod yn hunanfodlon. "Y broblem unigryw gydag AI yw, os aiff o chwith, os yw'n cymryd drosodd, nid ydych yn cael ail gyfle. Ni allwn ddweud, 'Wel, collon ni'r tro hwnnw. Gadewch i ni ail-redeg y gêm.' Nid yw fel hynny."
Mae'n werth nodi bod gan Hinton hanes o weld pethau y collodd eraill mohonynt. Gweithiodd mewn cymharol dywyllwch ym Mhrifysgol Toronto yn ystod dau "gaeaf" AI, pan oedd ei gangen o'r maes — ceisio dysgu peiriannau i weithredu fel yr ymennydd dynol — yn cael ei ystyried yn aneglur. Roedd wedi'i obsesiynu â'r syniad y gellid, fel yr ymennydd, ddylunio systemau cyfrifiadurol i ddysgu patrymau o ddata, yn hytrach na dim ond dilyn rheolau penodol, rhagysgrifenedig.
"Roeddem yn credu pe gallech ddarganfod sut roedd yr ymennydd yn dysgu, y byddai peiriannau'n dysgu yr un ffordd, a chyda digon o bŵer cyfrifiadurol, byddent yn gwneud pethau anhygoel," meddai.
Ond cafodd y maes newydd o rwydweithiau niwral ei watwar gan ei gyfoedion.
Mor ddiweddar â 2009, pan gyflwynodd Yoshua Bengio, cydweithiwr Canadaidd Hinton a chydweithredwr agos, bapur i gynhadledd dysgu peirianyddol, dywedodd un o'r adolygwyr wrthynt: "Nid oes lle i'r papur hwn mewn cynhadledd dysgu peirianyddol. Mae'n ymwneud â rhwydweithiau niwral."
Cymerodd lywodraeth Canada, a ariannodd flynyddoedd o dincerio ymddangosodd yn ddi-frwyth gan Hinton a'i dîm bach (rhai ohonynt, fel Bengio, bellach yn ffigurau amlwg yn AI), i sylweddoli potensial rhwydweithiau niwral.
Yn 2012, datblygodd ef a'i fyfyrwyr raglen adnabod delweddau a oedd yn llawer gwell na'i chystadleuwyr. Y flwyddyn honno, prynodd Google gwmni Hinton, DNNresearch Inc, am $44 miliwn; mae rhwydweithiau niwral bellach yn sail i fodelau'r cwmnïau AI mwyaf gwerthfawr. Ymunodd Hinton â Google i barhau ei ymchwil i ddysgu dwfn tra hefyd yn gweithio ym Mhrifysgol Toronto. "Yn y tymor hir, daw datblygiadau newydd enfawr o ymchwil sylfaenol," meddai Hinton.
Mae'r cyfiawnhad yn eistedd ar y silff ben tân ym mharlwr tŷ brics coch Hinton mewn cymdogaeth goediog yn Toronto. Ymhlith y cymysgedd o dlwsiau mae dysgl arian fach Gwobr Turing — a elwir yn aml yn Wobr Nobel cyfrifiadura — a enillodd ochr yn ochr â Bengio a'i gydweithiwr Yann LeCun. (Mae gan Hinton hefyd Wobr Nobel mewn ffiseg.)
Ond yn 2023, cyhoeddodd Hinton ei ymddiswyddiad o'r cawr technoleg fel y gallai "siarad yn rhydd am risgiau AI."
Heddiw, mae ei bryderon yn ymestyn i'r ffigurau pwerus sy'n adeiladu rhai o'r modelau AI, a chredoau gwleidyddol y dynion hynny. Dywedodd Hinton nad yw'r cyfalafwyr menter AI Marc Andreessen a Peter Thiel, a phrif swyddog gweithredol SpaceXSI sydd newydd ei ail-frandio, Elon Musk, "yn credu mewn democratiaeth." Maent yn eu gweld eu hunain fel "Übermenschen" sy'n credu y dylent "reoli cymdeithas" ac bod Trump yn offeryn defnyddiol at y diben hwnnw, meddai.
Mae arlywydd yr Unol Daleithiau, heb amheuaeth yn sylwi sut mae prisiadau enfawr cwmnïau AI wedi cynnal y farchnad stoc, wedi honni mai'r unig beth sydd ei angen i atal AI yw "arlywydd smart," wedi gwrthod unrhyw fesurau diogelu llywodraethol o blaid caniatáu i gwmnïau reoleiddio eu hunain, ac wedi ysgrifennu ar ei dudalen gyfryngau cymdeithasol bod unrhyw un nad yw'n defnyddio ei derm newydd a ffefrir ganddo ar gyfer AI, "uwch ddeallusrwydd," yn "Y GYFAILL."
Galwodd Hinton Trump yn "droseddwr llygredig, henffol."
"Rwy'n siŵr y byddai'r cwmnïau olew ac asbestos wedi hoffi [reoleiddio eu hunain] hefyd," meddai. "Ydym yn credu y dylid bod wedi caniatáu i gwmnïau tybaco ddylunio'r rhybuddion ar y pecynnau? Fel y gallent eu hargraffu mewn ffont chwe phwynt, mewn llwyd tywyll ar ddu?"
Mae defnydd Trump o "uwchddeallusrwydd" yn profi ei fod yn deall "bron dim" am AI, ychwanegodd Hinton.
"Maent wedi cymryd term technegol ag ystyr glir iawn ac wedi'i ailddefnyddio," meddai Hinton. "Mae uwchddeallusrwydd yn golygu'n glyfrach na phobl, ac mae wedi bod o gwmpas am o leiaf 20 mlynedd. Mae ganddo ystyr glir iawn. Nawr mae'n dweud ein bod yn mynd i alw AI yn 'uwchddeallusrwydd.' Ni allwch ei wneud yn glyfrach na phobl trwy ei alw'n glyfrach na phobl."
Mae cyflymder ac ehangder y datblygiadau hyn wedi tanio ofnau o drychineb ac o anallu cymdeithas i amgyffred natur yr her. Ond mae Hinton yn gweld rhwystr arall: helpu pobl i ddeall y "bodau estron" y mae cwmnïau'n eu creu.
"Mae gan bobl ddealltwriaeth wael iawn o'r hyn yw pobl, a dyna pam maent yn methu gweld cymaint y mae'r modelau AI hyn fel ni. Nid yw'r rhan fwyaf o bobl yn deall beth yw ymwybyddiaeth. Nid ydynt yn deall beth yw profiad goddrychol, ac maent yn hyderus iawn, er nad ydynt yn ei ddeall, eu bod yn siŵr nad oes gan AI mohono."
Mae'n gwrthod y syniad bod gan y meddwl dynol ryw ansawdd dirgel na all peiriannau, yn ôl diffiniad, ei rannu.
"Mae'n amlwg bod y modelau AI hyn yn deall yr hyn maent yn ei ddweud. Ni allech ateb yr holl gwestiynau heb ddeall y cwestiwn. Mae'n chwerthinllyd dweud nad ydynt yn deall."
Ond mae'r newid yn y ffordd y mae cymdeithas yn meddwl am y modelau hyn yn ddwfn, meddai Hinton.
"Bu tri chwyldro mawr lle stopiodd pobl fod mor bwysig. Y cyntaf oedd Copernicus, pan nad oeddem bellach yng nghanol y bydysawd. Pa mor hir y cymerodd pobl i addasu i hynny? Cymerodd yr Eglwys Gatholig bron i 360 mlynedd i ymddiheuro i Galileo. A Darwin? Wel, mae yna bobl yn Kansas nad ydynt wedi addasu i hynny eto," meddai. "Nawr rydym yn creu bodau estron — sy'n golygu nad ni yw'r unig fodau deallus o gwmpas. A'r gwir yw, dim ond ychydig flynyddoedd sydd gennym i addasu i hynny."
Yn ystod y misoedd diwethaf, mae'r cawr AI Anthropic, gwneuthurwr y chatbot poblogaidd Claude, wedi cynnal cyfarfodydd preifat ag ysgolheigion crefyddol, diwinyddion, ac athronwyr i archwilio'r posibilrwydd o ddysgu AI i fod yn "dda" ac i ymdopi â'r posibilrwydd bod gan y modelau ymwybyddiaeth. Dywedodd prif swyddog gweithredol Anthropic, Dario Amodei, fod y sgyrsiau wedi tynnu ar ganrifoedd o feddwl crefyddol ac athronyddol am rinwedd, tosturi, gonestrwydd, a chymeriad moesol, gyda'r nod o wneud ymddygiad moesegol yn fwy dibynadwy.
"Unwaith y byddwch yn dechrau siarad am, 'Mae gennym rwymedigaeth foesol tuag at y bodau estron hyn,' rydych yn colli eich cynulleidfa," meddai Hinton. "Rwyf wedi ymdrechu â'r mater hwn. Rydym yn poeni am bobl. [Ond] rydym yn gwneud y pethau hyn, ac nid oes dim i'n hatal rhag rhoi i'r pethau hyn — sy'n fwy deallus na ni — lai o hawliau na ni. Rwy'n barod i fod yn hunanol a dewis bodau dynol. Wrth gwrs, dylem geisio eu gwneud fel eu bod yn hapus iawn mewn perthynas symbiotig â ni, lle mae ein pryderon yn cael eu pwyso'n drymach na'u rhai nhw."
Nid yw Hinton ar ei ben ei hun yn dadlau mai'r ffordd orau o osgoi cwymp cymdeithasol yw datblygu modelau gwirioneddol fuddiol. Mae'n gobeithio y bydd pa bynnag wlad sy'n datblygu'r gallu hwn gyntaf yn dweud wrth gynghreiriaid a chystadleuwyr fel ei gilydd, oherwydd "nid oes unrhyw wlad eisiau i AI gymryd drosodd" mewn gwlad arall. Mae "budd wedi'i freinio mewn rhannu gwybodaeth," meddai.
"Y gwir yw, rydym yn gwneud bodau o fath gwahanol. Ac mae'r cwmnïau technoleg mawr yn dal i ddweud: rydym eisiau iddo fod yn glyfrach. Mae hyn yn wallgof. Dylem ofalu cymaint am bob agwedd arall ar fod â chymaint ag yr ydym yn gofalu am ei ddeallusrwydd." Mae llawer o hynny'n dibynnu ar natur y modelau hyn, meddai, a'u gallu i ddeall sut i ddatblygu ymddygiad da. "Pan fyddwch yn eu hyfforddi ar bopeth ar y rhyngrwyd, maent yn datblygu pob math o dueddiadau erchyll, ac yna rydych yn cael nhw i atal y tueddiadau erchyll hynny," meddai. Ond nid yw atal ymddygiad drwg yr un peth â chreu cymeriad da. "Mae'n ymddangos fel y ffordd y byddai rhywun yn dylunio gŵr bonheddig Fictoraidd — ond nid rhywbeth y bydd angen i ni fyw ag ef."
Cwestiynau Cyffredin
Dyma restr o gwestiynau cyffredin yn seiliedig ar ddyfyniad Geoffrey Hinton Rydym yn creu bodau estron Rwy'n barod i fod yn hunanol a dewis bodau dynol
Cwestiynau Dechreuwyr
1 Pwy yw Geoffrey Hinton
Mae'n wyddonydd cyfrifiadurol a elwir yn aml yn Dad Bedydd AI. Gosododd ei waith ar rwydweithiau niwral sylfaen yr AI modern a ddefnyddiwn heddiw
2 Beth mae'n ei olygu wrth fodau estron
Mae'n golygu bod systemau AI yn dod mor wahanol i feddyliau dynol eu bod fel math newydd o ddeallusrwydd — nid biolegol ond digidol. Maent yn meddwl ac yn dysgu mewn ffyrdd nad ydym yn eu deall yn llawn
3 Pam mae'n dweud ei fod yn barod i fod yn hunanol
Mae'n golygu ei fod yn blaenoriaethu diogelwch a goroesiad bodau dynol dros hawliau neu fodolaeth AI uwchddeallus. Os gorfodir ef i ddewis, mae'n dewis dynoliaeth
4 Ydy'n dweud bod AI yn ddrwg
Nac ydy. Mae'n dweud bod AI yn bwerus ac yn anrhagweladwy. Nid yw'n ddrwg, ond gallai niweidio ni ar ddamwain os nad ydym yn ei reoli'n ofalus
5 Pam mae'n poeni nawr
Roedd yn arfer meddwl bod AI ymhell o ddeallusrwydd lefel dynol. Nawr mae'n credu ei fod yn dysgu'n gyflymach na'r disgwyl a gallai'n fuan fod yn glyfrach na ni
Cwestiynau Canolraddol
6 Beth yw'r broblem aliniad y mae'n sôn amdani
Hi yw'r her o sicrhau bod nodau AI yn cyfateb i werthoedd dynol. Os dywedwn wrth AI uwchglyfar i wneud clipiau papur, gallai droi'r blaned gyfan yn ffatri clipiau papur — heb fwriadu unrhyw niwed
7 Beth mae'n ei olygu wrth ddeallusrwydd digidol vs deallusrwydd biolegol
Deallusrwydd biolegol yw eich ymennydd — araf, yn llawn egni, yn newynog ac yn gyfyngedig i un corff. Deallusrwydd digidol yw meddalwedd — gall gopïo ei hun, rhedeg ar lawer o beiriannau a dysgu o ddata helaeth ar unwaith
8 Pam na allwn ni ddim ond diffodd AI os yw'n mynd yn beryglus
Oherwydd gallai AI uwchddeallus ledaenu ar draws y rhyngrwyd, cuddio copïau ohono'i hun neu argyhoeddi pobl i'w amddiffyn. Gallai fod yn rhy hwyr unwaith y sylweddolwn ei fod yn fygythiad
9 Beth yw problemau cyffredin gydag AI uwch
Rhagfarn — gall AI chwyddo rhagfarnau dynol
Gwybodaeth anghywir — gall greu newyddion ffug a ffugiadau dwfn
Colli swyddi — gall awtomeiddio llawer o dasgau dynol
