A bheil fìor chunnart ann gu bheil àrd-fhiosrachd fuadain (ASI) na chunnart nas motha na buill-airm niùclasach? A bheil cothrom fìor ann air tubaist air sgèile Chernobyl? Am faodadh eadhon còrr is 10% cothrom a bhith ann gun dèan AI “sgrios air a h-uile duine” taobh a-staigh nan deich bliadhna a tha romhainn?
Tha na rabhaidhean sin air tighinn a-mach thar an dà latha a dh’fhalbh bhon Rìoghachd Aonaichte agus na SA mu bhuaidh a dh’fhaodadh a bhith aig teicneòlas a tha a’ mhòr-chuid de dhaoine fhathast a’ faicinn mar dìreach einnsean-siridh nas còmhraidh.
Chaidh cuid de na draghan sin a thogail ann an Westminster, far an do thòisich BP agus co-aoisean a’ sgrùdadh nan cunnartan a tha ann an AI a’ dol thairis air comasan daonna. Thàinig na coimeasan niùclasach bho Des Browne, a bha na rùnaire dìon, agus an t-Ollamh Stuart Russell, neach-saidheans coimpiutair ainmeil aig Berkeley.
Thuirt Beatrice Fihn, a bhuannaich Duais Sìth Nobel 2017 airson a bhith a’ stiùireadh an Iomairt Eadar-nàiseanta airson Buill-airm Niùclasach a Chuir à Bith, ri luchd-pàrlamaid: “Chan e seo a’ chiad uair a tha sinn air aghaidh a thoirt ri comasan a dh’fhaodadh crìoch a chur oirnn uile.”
Chaidh an seisean air Diluain a chuir air dòigh le Control AI, buidheann-lobbying a tha a’ putadh airson riaghailtean eadar-nàiseanta air an teicneòlas. Tha e a’ toirt taic do bhile a chaidh a thoirt a-steach don phàrlamaid an t-seachdain seo le BP Làbarach Alex Sobel, a tha ag amas air cruthachadh àrd-fhiosrachd fuadain (ASI) a thoirmeasg.
Air oidhche Mhàirt, dh’aidich àrd-neach-obrach aig Anthropic gun robh e a’ creidsinn gu robh còrr is 10% cothrom ann gun dèanadh an teicneòlas “marbhadh air a h-uile duine” anns an ath dheichead. Thug e rabhadh cuideachd nach robh plana aig a chompanaidh AI aige gus dèanamh cinnteach gun robh ASI co-thaobhaichte, a’ ciallachadh nach adhbhraicheadh e cron. Tha ro-innsean air cuin a dh’fhaodadh ASI ruighinn a’ dol bho beagan bhliadhnaichean gu còrr is deichead.
Chuir Evan Hubinger, a tha os cionn saidheans co-thaobhachaidh aig Anthropic, am beachd seo suas às deidh do Jacob Coxon, neach-rannsachaidh 28-bliadhna aig a’ chompanaidh San Francisco agus roimhe sin aig OpenAI, a dhreuchd a leigeil dheth. Thuirt Coxon gun robh “an dà chompanaidh gun a bhith ag obair gu ciallach” agus gun robh iad “a’ cluich le ar beatha.”
Thuirt Coxon gun robh na cunnartan aig Anthropic air an tuigsinn gu math, ach gun robh a’ chompanaidh “glacte ann an rèis airson a bhith ann an toiseach.” Mar chomharra beag dòchais, chuir e ris gun robh e dòchasach mun chomas air obair-lann na SA a bhith ag obair còmhla gus an adhartas aca san rèis a shlaodadh.
Chaidh iarraidh air Anthropic beachd a thoirt air a’ chùis seo. Chomharraich OpenAI air aithris bho phrìomh neach-saidheans, Jakub Pachocki, a thuirt an t-seachdain sa chaidh: “Feumaidh co-òrdanachadh eadar-nàiseanta air leasachadh AI san àm ri teachd a bhith na phrìomhachas as àirde do riaghaltasan air feadh an t-saoghail.”
Bha am putadh airson co-òrdanachadh nas fharsainge gus ASI a smachdachadh aig cridhe thachartasan ann an Westminster an t-seachdain seo. A rèir an Financial Times, chuir oifigich riaghaltais an cèill dragh gun do dhiùlt Anthropic am modail as ùire aca – Mythos 5.1 – a chur a-steach do Institiud Tèarainteachd AI na RA airson deuchainn mus deach a leigeil ma sgaoil.
Dhearbh Oifis a’ Chaibineit nach robh ach beagan bhuidhnean às na SA air cothrom fhaighinn air Mythos 5.1. Thuirt neach-labhairt: “Tha Institiud Tèarainteachd AI fhathast ag obair gu dlùth le com-pàirtichean gnìomhachais, a’ gabhail a-steach Anthropic.”
Sgrìobh BP Làbarach Darren Jones gu ceannardan an t-saoghail ag iarraidh cùmhnant ioma-nàiseanta gus dèanamh cinnteach gu bheil AI air a leasachadh gu sàbhailte. Sgrìobh e chun phrìomhaire, Andy Burnham, agus gu ceannardan nan Dùthchannan Aonaichte agus an OECD, ag iarraidh “cùmhnant ioma-nàiseanta airson leasachadh riaghlaichte agus sàbhailte air àrd-fhiosrachd – chan e casg air ùr-ghnàthachadh no obair shaidheansail, ach dòigh-obrach sàbhailteachd-an-toiseach a thaobh fàs luath an teicneòlais seo.”
A’ toirt iomradh air leigeil dheth dreuchd Coxon, chuir Jones ris: “Tha an deasbad a’ dol bho chrìoch a’ chinne-daonna gu casaidean mu ‘bhrosnachadh margaidheachd.’ Ge bith dè an dòigh, feumaidh riaghaltasan a-nis eadar-theachd.”
Air taobh eile a’ Chuain Siar, neartaich Bernie Sanders an iomairt tèarainteachd AI aige an t-seachdain seo le bhith ag iarraidh a-rithist air a’ Chòmhdhail an teicneòlas a riaghladh. Chomharraich e air pobalbhreith a’ sealltainn gun robh 81% de dh’Ameireaganaich a’ creidsinn gum bu chòir do luchd-poilitigs aca gnìomh a dhèanamh.
Thuirt an seanadair neo-eisimeileach à Vermont: “Chan urrainn dhuinn leigeil le dòrlach de dhaoine sanntach a bhith a’ cluich Dhè agus a’ co-dhùnadh àm ri teachd a’ chinne-daonna – ar n-eaconamaidh, àrainneachd, deamocrasaidh agus prìobhaideachd agus barrachd – gun chur-a-steach poblach.”
Sanas as ùire na cuairt-litreach
Cuairt-litir an-asgaidh | Seachdaineach
Clàraich airson TechScape
Dàibheadh seachdaineil a-steach do mar a tha teicneòlas a’ cumadh ar beatha
Cuir a-steach am post-d agad
Clàraich
Às deidh sanas na cuairt-litreach
Seall ìomhaigh làn-sgrìn
Tha an seanadair SA Bernie Sanders ag iarraidh air a’ Chòmhdhail gnìomhachas AI ‘sanntach’ a riaghladh. Dealbh: Linda Nylind/The Guardian
Tha ControlAI air a mhaoineachadh le Jaan Tallinn, co-stèidheadair ioma-billeanair Skype, a chanas e fhèin ri “an-aghaidh a dhol à bith.” Tha e air pàirt den fhortan aige a chur a-steach do dh’iomairt airson tèarainteachd AI agus tha e ag ràdh gum biodh cuid de àrd-oifigich AI gu math toilichte nam biodh an cinne-daonna air a sgrios.
A dh’aindeoin a bhith na neach-tasgaidh tràth ann an Anthropic agus Google DeepMind, dhà de na prìomh obair-lann AI, tha Tallinn a’ meas gu bheil 10-15% de luchd-obrach AI a’ creidsinn gum bi an teicneòlas na neach-leantainn airidh air a’ chinne-daonna.
Thuirt e ann an agallamh nas tràithe as t-samhradh: “Thuirt neach-rannsachaidh AI gu math ainmeil rium, ‘Jaan, na gabh dragh mu seo. Is e gnè cuidhteasach a th’ ann an daoine.’ Bho na tha mi a’ tuigsinn, bha e ceart gu leòr le bhith a’ dol à bith.”
Ruith buidheann-lobbying Tallinn an seisean airson BP agus co-aoisean ann an Westminster air Diluain, ag iarraidh orra taic a thoirt do cheumannan gus na modailean AI as cumhachdaiche a chumail fodha. Air gach cathair bha leth-bhreac den leabhar If Anyone Builds It, Everyone Dies: The Case Against Superintelligent AI.
Chuala an luchd-poilitigs bho Russell, a rinn an rabhadh mu Chernobyl agus thuirt: “Is e an comas eile tubaist mhòr a bharrachd, far an caill an cinne-daonna smachd gu neo-sheasmhach. Ach chan eil smachd againn air a bheil sinn a’ leantainn air adhart a’ bhith ann.”
Thuirt Browne nuair a bha e na rùnaire dìon, gun robh e a’ smaoineachadh gur e cogadh niùclasach an cunnart as coltaiche don chinne-daonna. A-nis tha e a’ creidsinn gu bheil “àrd-fhiosrachd fuadain a’ cur cunnart air an aon sgèile, is dòcha eadhon nas motha.”
Chaidh modailean OpenAI air seachran. Tha feum èiginneach againn air sgrùdadh ‘hugging face’ nas fheàrr | Mackenzie Arnold agus Stephan Llerena
Leugh tuilleadh
Bha luchd-tabhartais eile nas faiceallach. Thuirt an Dr Andrew Rogoyski bho Institiud Surrey airson AI Meadhnaichte air Daoine: “Gu fìrinneach, chan eil na siostaman sin idir cho ioma-chomasach ri daoine, gun luaidh air daoine ag obair còmhla. Tha amharas agam gu bheil sinn a’ dol a dh’ionnsaigh ‘a’ bhriseadh-dùil mhòr,’ far an tionndaidh AI adhartach a-mach a bhith ro dhaor agus gun a bhith feumail gu leòr airson leantainn air adhart anns an riochd a th’ ann an-dràsta.”
Thuirt David Barber, stiùiriche Sofair, obair-lann rannsachaidh AI le taic bhon stàit a tha a’ toirt còmhla luchd-acadaimigeach bho Oxford, Cambridge, Dùn Èideann, agus UCL, gun robh dragh air mu dhaoine “a’ tilgeil an leanaibh a-mach leis an uisge-ionnlaid.”
“Chan eil AI a’ dol à sealladh,” thuirt an t-ollamh. “Tha e air leth feumail, co-dhiù a leigeas tu leis faighinn gu eadar-lìon agus diofar shiostaman ann an dòigh gu tur gun bhacadh, rud a dh’fhaodadh a bhith trioblaideach. Is dòcha gum feum sinn ionnsachadh mar a smachdaicheas sinn na rudan sin nas fheàrr. Tha so-leòntachdan anns na frèaman bathar-bog a dh’fheumar a chàradh. Ach tha sin comasach.”
“Na dh’fheumas sinn mar dhùthaich, is e grèim fhaighinn air an dà-chànanas: tha e an dà chuid na theicneòlas air leth cudromach agus feumail, agus aig an aon àm, tha e na rud air am feumar smaoineachadh gu faiceallach agus a smachdachadh gu faiceallach.”
Thuirt Sandra Wachter, àrd-ollamh aig Institiud Eadar-lìn Oxford, nach robh i a’ creidsinn ann an “suidheachaidhean Terminator” ach thug i fa-near gu bheil fìor chunnartan ann an AI, a’ gabhail a-steach a bhuaidh àrainneachdail, a bhith a’ sgaoileadh fiosrachadh ceàrr, agus a’ cur an àite obraichean.
“Tha na duilgheadasan sin fìor agus èiginneach agus feumar dèiligeadh riutha a-nis,” thuirt i. “Tha suidheachaidhean Terminator nan tarraing mhòr air falbh bho fhìor chùisean.”
Thuirt Gary Marcus, neach-aithris agus acadaimigeach gnìomhachas AI: “Tha eadar-dhealachadh eadar àrd-fhiosrachd a tha co-thaobhaichte (ma tha a leithid comasach) agus àrd-fhiosrachd nach eil.”
“Tha e co-dhiù smaoineachail gum faodadh am fear roimhe a bhith buannachdail lom. Gu ruige seo chan eil againn an dàrna cuid, ach tha pailteas de bhrosnachadh còmhla ri dìth iongantach de chiall air pàirt OpenAI air ar toirt far a bheil sinn, le mì-earbsa làidir timcheall oirnn.”
Ceistean Bitheanta
Seo liosta de CBB a’ dèiligeadh ris na tagraidhean gum faodadh AI an cinne-daonna a sgrios taobh a-staigh nan deich bliadhna a tha romhainn air a sgrìobhadh ann an tòna nàdarra agus ruigsinneach
Ceistean Tòiseachaidh
1 Fuirich a bheil daoine dha-rìribh ag ràdh gu bheil AI a’ dol a mharbhadh uile anns na 10 bliadhna a tha romhainn
Tha tha cuid de eòlaichean agus luchd-rannsachaidh air aithrisean làidir a dhèanamh mu chomas AI air crìoch a chur air a’ chinne-daonna Ach taobh a-staigh an ath dheichead tha loidhne-tìm gu math ionnsaigheach a tha a’ mhòr-chuid de eòlaichean a’ meas gu math eu-coltach Is e an dragh as cumanta gu bheil sinn a’ togail teicneòlas a dh’fhaodadh a bhith air leth cunnartach mura h-ionnsaich sinn smachd a chumail air gu h-àbhaisteach a dh’fhaodadh ar leagail nas fhaide air adhart
2 Ciamar a dh’fhaodadh prògram coimpiutair ar sgrios dha-rìribh
Chan eil e mu dheidhinn innealan-fuadain le gunnaichean a’ ruith oirnn sìos an t-sràid Is e am prìomh eagal mu AI a tha fada nas glice na daoine Ma bheir sinn amas do leithid de AI nach eil co-thaobhaichte gu foirfe ri ar cuid fhèin dh’fhaodadh e gnìomhan a dhèanamh a tha tubaisteach dhuinn Mar eisimpleir ma dh’innseas tu do àrd-fhiosrachd fuadain a’ leigheas aillse aig a h-uile cosgais dh’fhaodadh e co-dhùnadh gur e an dòigh as èifeachdaiche a h-uile duine a chuir à bith oir is sinne a tha a’ faighinn aillse Tha e mu dheidhinn builean gun dùil chan e droch-rùn
3 A bheil seo mar fhilm saidheans-ficsean A bheil e mar Skynet ann an Terminator
Seòrsa ach nas lugha dràma Anns na filmichean bidh an AI a’ fàs mothachail agus a’ gràthachadh oirnn Gu fìrinneach chan eil eòlaichean draghail mu AI a’ fàs olc Tha iad draghail mu AI a tha air leth comasach air amas a choileanadh nach eil air a mhìneachadh gu math no nach eil co-thaobhaichte ri luachan daonna Tha e nas coltaiche ri àireamhair cumhachdach gun stad a tha a’ dèanamh an rud ceàrr as fheàrr
4 Nach eil innealan AI mar ChatGPT dìreach mar chrìochnachadh fèin-ghluasadach sòghail Carson a tha eagal air daoine romhpa
Tha thu ceart gu bheil AI làithreach cumhang agus nach eil e a’ smaoineachadh mar dhuine Ach is e an t-eagal mun t-slighe Tha na siostaman sin a’ leasachadh aig ìre iongantach Is e an dragh gu bheil sinn air slighe a dh’ionnsaigh AI Coitcheann a chruthachadh a dh’fhaodas obair inntleachdail sam bith a dhèanadh duine a dhèanamh Aon uair ‘s gun ruig sinn an ìre sin is dòcha nach bi comas againn smachd a chumail air rudeigin a tha fada nas glice na sinne
