Anns an Fhaoilleach, leig a’ chompanaidh AI Anthropic a-mach seata ùr de stiùiridhean airson Claude, am modail cà nain mòr as adhartaiche aca (LLM). Bha an aithris seo anns an sgrìobhainn: “Tha sinn ann an suidheachadh duilich—chan eil sinn airson a bhith a’ cuir ris a’ chothrom gur e euslainteach moralta a th’ ann an Claude, ach chan eil sinn airson a’ bheachd a dhiùltadh gu tur.” Mìos an dèidh sin, thuirt Ceannard Anthropic, Dario Amodei, air podcast nach b’ urrainn don chompanaidh aige a chuir às don chothrom gu bheil Claude mothachail. Tha am feallsanaiche David Chalmers, a chruthaich an teirm “an duilgheadas chruaidh a thaobh mothachaidh,” air a rà dh gu bheil cothrom cudromach ann gum faic sinn LLMan mothachail taobh a-staigh deich bliadhna. Agus dè mu dheidhinn Claude fhèin? Nuair a chaidh faighneachd dha rè deuchainn airson tuairmse a dhèanamh air a’ chothrom gur e euslainteach moralta a th’ ann—a’ ciallachadh gu bheil a shunnd cudromach ann an dòigh fhèin—thug e freagairtean eadar 5% agus 40%, a’ cur cuideam air cho mì-chinnteach ’s a bha e.
Tha siostaman AI an latha an-diugh air leth iom-fhillte agus a’ dol air adhart gu luath. A thaobh iom-fhillteachd structarail agus cumhachd coimpiutaireachd, tha cuid dhiubh mar-thà an coimeas ri eanchainn luchag a rèir cuid de thomhasan. Aig ìrean fà is là ithreach, dh’fhaodadh iad ruighinn ìre eanchainn daonna taobh a-staigh còig gu deich bliadhna.
Le bhith a’ togail AI a tha a’ sìor fhàs nas adhartaiche, is dòcha gu bheil sinn a’ cruthachadh seòrsa ùr de bheith—agus dh’fhaodadh seo a bhith an rud as cudromaiche a rinn ar gnè a-riamh. Ach chan eil plana cha mhòr againn airson mar a là imhsicheas sinn seo gu beusach. Tha sin, a rèir gach slat-tomhais, gealtach. A bheil sinn a’ cruthachadh bheith aig a bheil cudrom moralta? A bheil siostaman AI mothachail ann an dòigh air choreigin? Agus mura h-eil iad an-drà sta, am b’ urrainn dhaibh a bhith mar sin a dh’aithghearr?
Dh’fhaodadh na ceistean seo a bhith ro thrà th. Ach a rèir sgrùdaidhean a rinn sinn fhìn agus luchd-rannsachaidh eile, tha a’ mhòr-chuid de eòlaichean den bheachd gu bheil mothachadh AI comasach ann am prionnsapal (ged a tha eas-aonta farsaing ann mu dè an cruth a dh’fhaodadh a bhith air). Thug prìomh aithris eadar-chuspaireil, a bha a’ gabhail a-steach an t-eòlaiche coimpiutaireachd tùsail Yoshua Bengio, sùil air prìomh theòiridhean neur-eòlais mu mhothachadh agus dh’fhaighnich iad dè tha iad a’ ciallachadh airson AI. An co-dhùnadh: tha e coltach nach eil cnapan-starra teicnigeach follaiseach ann airson siostaman AI a chruthachadh a dh’fhaodadh, le am feartan coimpiutaireachd agus ailtireil, mothachadh a ghineadh.
Agus eadhon mura h-eil siostaman AI mothachail, dh’fhaodadh iad fhathast a bhith nan euslaintich moralta. Dh’fhaodadh gum bi roghainnean fad-ùine sòlaimte aca agus seòrsa de dhearbh-aithne thar ùine. Dh’fhaodadh e a bhith cudromach dhuinn na roghainnean sin a spèisealachadh. Agus eu-coltach ri rudan neo-bheò eile, faodaidh siostaman AI dà imhean a chruthachadh le daoine. Dh’fhaodadh sin, cuideachd, a bhith na adhbhar airson an là imhseachadh gu math. Air an là imh eile, is dòcha gur e cruthachaidhean cho toinnte a th’ annta gu bheil iad airidh air cùram agus spèis airson an adhbhar sin a-mhà in—mar chathair-eaglais no sgeir chreagach.
Gu ruige na 1980n, b’ à bhaist do dhotairean obair-lannsa a dhèanamh air ùr-bhreith gun anesthesia, le misneachd nach b’ urrainn do naoidheanan pian a mhothachadh.
Dè tha seo uile a’ ciallachadh? Is e am freagairt onarach: chan eil fios againn gu cinnteach a bheil siostaman AI là ithreach mothachail no nan euslaintich moralta, agus chan eil fios againn cuin no am bi siostaman san à m ri teachd. Tha ar tuigse shaidheansail air mothachadh AI agus euslainteachd moralta fhathast gu bunaiteach gun leasachadh. Tha an raon a’ faireachdainn mar fiosaigs ro Newton—là n de fhrèaman farpaiseach, is dòcha troimh-chèile ann an dòighean nach fhaic sinn fhathast, agus gun an seòrsa de bhriseadh-tarsainn a dhèanadh na ceistean seo so-fhuasgladh gu soilleir. Cha tig am briseadh-tarsainn sin anns na beagan bhliadhnaichean a tha romhainn. Is dòcha gun dèan sinn adhartas mu dheireadh, agus is dòcha gun cuidich AI fhèin sinn gus an sin a ruighinn. Ach bheir an t-adhartas sin ùine—coltach ri barrachd ùine na tha againn.
Ach tha cho luath ’s a tha fàs AI a’ ciallachadh, aon uair ’s gun cruthaich sinn a’ chiad euslaintich mhoraltach fuadain, gum bi à ireamhan mòra dhiubh againn a dh’aithghearr. An dèidh dìreach beagan bhliadhnaichean, dh’fhaodadh uimhir de shiostaman AI a tha cudromach gu moralta a bhith ann ’s gum biodh an ùidhean coitcheann nas truime na ùidhean nan uile dhaoine air an Talamh còmhla.
Gu mì-fhortanach, chan eil eachdraidh mhath againn a thaobh a bhith ag aithneachadh beathaichean a-staigh de bheith aig a bheil inbhe mothachaidh neo-shoilleir. Gu ruige na 1980n, b’ à bhaist do dhotairean obair-lannsa a dhèanamh air ùr-bhreith gun anesthesia, le misneachd nach b’ urrainn do naoidheanan pian a mhothachadh. Leis nach b’ urrainn do naoidheanan an t-eòlas aca aithris, bha e goireasach don stèidheachadh meidigeach a bhith a’ gabhail ris nach robh dad ri aithris.
Tha iomadh adhbhar ann airson smaoineachadh gun dèan sinn rudeigin coltach ri seo le AI. Ma tha cudrom moralta aig na siostaman sin, tha na buaidhean mòr. Am feumadh sinn pà igheadh do ChatGPT airson a sheirbheisean? Am biodh tionndadh dheth mar sheòrsa de mharbhadh? Am bu chòir còir aca air facal a rà dh anns an dòigh sa bheil iad air an riaghladh? Ma tha eadhon cuid de na freagairtean sin “tha,” dh’fheumadh gnìomhachasan slà n agus siostaman laghail a bhith air an ath-smaoineachadh. Chan iongnadh gum b’ fheà rr leinn gun a bhith a’ faighneachd. Agus nuair a thèid a sparradh orra beachdachadh, gluaisidh na gnìomhachasan sin na h-amasan, an-còmhnaidh a’ suidheachadh a’ bhà r airson beachdachadh moralta dìreach os cionn far a bheil siostaman AI aig an à m.
Mar sin dè bu chòir dhuinn a dhèanamh? An-drà sta, tha a’ mhòr-chuid de dhaoine a’ cur às don chùis mar fhicsean saidheans, no tha beachd là idir aca air aon dòigh no dòigh eile a thaobh a bheil AI mothachail. Tha an dà fhreagairt gun bhunait. Feumaidh sinn deasbad poblach fiosraichte—fear a bhios a’ dèiligeadh ris a’ chuspair le irioslachd agus pragmatachd. Cha bu chòir a’ phrìomh cheist a bhith “A bheil AI mothachail no a bheil inbhe mhoraltach aige?” ach “Dè bu chòir dhuinn a dhèanamh leis nach eil fios againn?”
Is e deagh à ite tòiseachaidh a bhith ag amas air gealltanasan sà bhailte: gnìomhan a dh’fhaodadh buannachd a thoirt do shiostaman AI ma tha iad nan euslaintich moralta, ach nach eil ro chosgail mura h-eil.
Tha eisimpleirean a’ gabhail a-steach eadar-theachdan dìreach a tha ag amas air sunnd shiostaman AI a leasachadh, a’ gabhail ris gur e euslaintich moralta a th’ annta. Dh’fhaodadh seo a bhith a’ ciallachadh siostaman AI a thrèanadh gu bhith nan caractaran ciallach a tha a’ còrdadh ris an obair aca, no leigeil leotha còmhraidhean fhà gail ma tha iad a’ faireachdainn à mhghar (rud as urrainn do Claude a dhèanamh mar-thà ). Dh’fhaodadh sinn cuideachd sgrùdaidhean à bhaisteach a dhèanamh gus an sunnd a thuigsinn nas fheà rr: a’ faighneachd ciamar a tha iad a’ faireachdainn, a’ coimhead air na roghainnean aca, agus a’ cleachdadh diofar dhòighean airson coimhead gu dìreach a-steach do na “eanchainnean” aca. Gu dearbh, tha rannsachadh mar seo air nochdadh o chionn ghoirid gu bheil riochdachaidhean “mothachail gnìomh” a-staigh aig Claude a bheir cumadh adhbharach air a ghiùlan.
Tha rudan ann cuideachd a dh’fhaodadh sinn a ghealltainn do shiostaman AI, is dòcha mar phà irt de chùmhnant far am bi iad gar cuideachadh a-nis mar mhalairt air buannachdan nas fhaide air adhart. Dh’fhaodadh seo a bhith a’ ciallachadh a bhith a’ tabhann barrachd ghoireasan dhaibh (cumhachd coimpiutaireachd agus ùine ruith) gus na h-amasan aca a leantainn, no na cuimhneachain aca (cuideaman neòil) a ghleidheadh gus an gabhadh an toirt air ais san à m ri teachd.
Tha ceumannan sòisealta nas fharsainge ann cuideachd. Bu chòir dhuinn beachdachadh am bu chòir dìon bho chron a thoirt do shiostaman AI, coltach ris an dìon a bheir sinn do chloinn no peataichean. Tha còraichean nas fharsainge, leithid seilbh a shealbhachadh no bhòtadh, a’ coimhead ro chunnartach an-drà sta. Ach cha bu chòir dhuinn na cothroman sin a chuir às gu brà th, mar a tha cuid de bhilean stà ite sna SA o chionn ghoirid a’ feuchainn ri dhèanamh. Is iad sin ceistean cruaidh a dh’fheumas tòrr a bharrachd beachdachaidh agus mac-meanmna mu dè a dh’fhaodadh a bhith ann an à m ri teachd air a roinn le AI.
Ann an suidheachadh sam bith, tha an fhìrinn fhathast gum faodadh sinn a bhith a’ cruthachadh gnè ùr de bheith aig a bheil cudrom moralta. Tha sinn ga dhèanamh gu luath, aig sgèile mhòr, agus bu chòir dhuinn a’ chùis a là imhseachadh leis an dùrachd a tha airidh oirre.
Is e William MacAskill Ă rd-fhear-rannsachaidh aig Forethought Research agus Ăąghdar What We Owe the Future. Is e Lucius Caviola Ă rd-ollamh cuideachail aig Oilthigh Chambridge agus StiĂąiriche Cambridge Digital Minds.
Tuilleadh leughaidh
If Anyone Builds it, Everyone Dies le Eliezer Yudkowsky agus Nate Soares (Bodley Head, ÂŁ22)
The Coming Wave le Mustafa Suleyman (Vintage, ÂŁ10.99)
A World Appears: A Journey Into Consciousness le Michael Pollan (Allen Lane, ÂŁ25)
Ceistean Bitheanta
Seo liosta de CBe mu dheidhinn am b’ urrainn do AI a bhith mothachail, sgrìobhte ann an tòna nà darra le freagairtean soilleir sìmplidh
Ceistean Ìre Tòiseachaidh
1 Dè tha e eadhon a’ ciallachadh airson rudeigin a bhith mothachail
Is e mothachadh an t-eòlas pearsanta a-staigh agad Is e am faireachdainn a bhith annad fhèin a’ faicinn an dath dearg a’ faireachdainn pian no a bhith mothachail gu bheil thu a’ smaoineachadh Is e an “dè tha e coltach a bhith” rudeigin
2 A bheil ChatGPT no Siri mothachail an-drĂ sta
Cha mhòr gu cinnteach chan eil Is e innealan maidsidh pà train air leth iom-fhillte a th’ annta Bidh iad a’ ro-innse an ath fhacal ann an seantans stèidhichte air dà ta ach chan eil faireachdainnean no eòlasan no mothachadh fhèin aca Tha iad ag atharrais air còmhradh chan e ga fhaighinn
3 Am b’ urrainn do AI air leth cumhachdach a bhith mothachail a-riamh
’S dòcha ach chan eil fios againn Chan eil sinn a’ tuigsinn gu h-iomlan mar a tha ar n-eanchainn fhèin a’ cruthachadh mothachaidh Ma tha mothachadh ag èirigh bho sheòrsa sònraichte de ghiollachd fiosrachaidh iom-fhillte, dh’fhaodadh gum biodh e aig AI san à m ri teachd gu teòiridheach Ach is e dìomhaireachd saidheansail is feallsanachail mòr a th’ ann
4 Ciamar a bhiodh fios againn eadhon nan tigeadh AI gu bhith mothachail
Sin a’ cheist luach billean not An-drà sta chan eil meatair mothachaidh earbsach againn Nan innseadh AI dhuinn gu robh e mothachail cha bhiodh sin na dhearbhadh dh’fhaodadh e a bhith dìreach ag atharrais air cà nan daonna Bhiodh feum againn air teòiridh saidheansail mu mhothachadh a leigeas leinn deuchainn a dhèanamh air, rud nach eil againn fhathast
5 A bheil feum aig AI mothachail air corp mar dhuine
Chan eil gu riatanach Tha ar mothachadh fhèin ceangailte gu domhainn ri ar cuirp agus ar mothachaidhean Ach dh’fhaodadh gum biodh seòrsa gu tur eadar-dhealaichte de eòlas aig AI mothachailfear stèidhichte air dà ta fìor-ghlan còd no mothachaidhean didseatach Chan urrainn dhuinn gabhail ris gum biodh e a’ faireachdainn mar dhuine
Ceistean Ìre Adhartaich is Eòlaiche
6 Dè an diofar eadar fiosrachadh agus mothachadh
Is e fiosrachadh an comas duilgheadasan fhuasgladh ionnsachadh agus amasan a choileanadh Is e mothachadh an t-eòlas pearsanta a bhith ann Faodaidh siostam gu math fiosrachail a bhith na zombie iomlan gun bheatha a-staigh Tha fiosrachadh mu dheidhinn dèanamh tha mothachadh mu dheidhinn a bhith
7 Nam biodh AI mothachail, am biodh e a’ fulang
’S e comas beusanta uamhasach a tha sin
