Donald Trump "mai cin hanci, tsoho mai laifi" ne wanda sha'awarsa da kalmar superintelligence ke nuna bai san komai game da AI ba, a cewar Geoffrey Hinton, "ubangijin" fasahar. A wata hira mai faɗi, Hinton ya maimaita gargaɗinsa na kwanan nan cewa samfuran AI suna barazana ga wanzuwar ɗan adam kuma ya yi watsi da iƙirarin cewa masana'antar za ta iya sarrafa kanta.
Masanin kimiyyar kwamfuta mai majagaba, wanda aikinsa ya taimaka wajen kafa tushen AI na zamani, tun daga nan ya zama ɗaya daga cikin masu sukar fasahar sosai. Maganganunsa na baya-bayan nan sun zo ne bayan wata mai cike da tashin hankali inda jerin manyan masana kimiyyar AI da masu bincike suka haɗa da Hinton wajen yin gargaɗi game da yadda fasahar da ya taimaka ƙirƙira za ta iya kubuta daga ikon ɗan adam. Wannan ya haifar da rikicin masana'anta, ya sa aka shirya tarurrukan majalisa cikin gaggawa, kuma ya haifar da wata yarjejeniya ta duniya da ba kasafai ba cewa dole a yi wani abu.
Akwai kuma tsayin daka mai tsanani. A makon da ya gabata, shugaban kamfanin da ya fi daraja a duniya ya keɓe Hinton, wanda ke zaune a Toronto, don wani hari mai zafi.
"Ina son [shi]. Ina ƙin hasashensa … Duk hasashensa sun kasance ba daidai ba. Isassun hasashe," in ji shugaban Nvidia, Jensen Huang, ga mai yin podcast Ezra Klein. Huang, wanda kamfaninsa ke yin kwakwalwan da kamfanonin AI ke buƙata, ya yi watsi da damuwar Hinton cewa saurin da faɗin ci gaban AI a "iyakar" zai iya wuce ikon ɗan adam na sarrafa shi — musamman gargaɗinsa cewa akwai yiwuwar kashi 10-20% na AI haifar da halakar ɗan adam a cikin shekaru masu zuwa.
"Wannan [adadi] ba ya dogara da kimiyya, ba ya dogara da bincike. Don kawai ya fito daga masanin kimiyya ba ya sa ya zama na kimiyya. Waɗannan hasashen suna da illa," in ji Huang. "Kada ka yi tunanin da kai cewa don kawai kai mai faɗakarwa ne, kana yin amfani ga al'umma. Ba gaskiya ba ne. Don haka ina ganin ya kamata dukanmu mu zama masu hikima, manya, masu dogaro da shaida, da kimiyya."
Duba hoto a cikakken alloDonald Trump, Mike Johnson da manyan shugabannin fasaha, ciki har da Jensen Huang, suna magana a wajen West Wing a Washington DC a ranar 29 ga Satumba. Hoto: Shawn Thew/EPA
Amma Hinton ya ce waɗanda ke sukar shi suna rasa wani babban batu game da yanayin haɗari. Ba ya hasashen wani abu musamman, in ji shi.
"Ina ƙoƙarin isar da cewa akwai yiwuwar gaske mai tsanani na wani abu faruwa. Idan, alal misali, an gaya maka akwai yiwuwar 10% na wata bas ta yi hatsari, ba za ka hau bas ɗin ba," in ji shi. "Manufar bayar da lambobi ita ce a ce wannan haɗari ne mai tsanani. Ba mu san yadda yake tsanani ba, amma yana da tsanani."
Keta tsaro na baya-bayan nan ya jawo kwatance da labarin fasaha na dystopia. Wani hari da ba a so ba na kwanan nan kan kamfanin fasaha Hugging Face da "taro" na wakilan AI da suka tsere daga iyakokin da mahaliccinsu ya gindaya ya raba al'ummar fasaha. Wasu suna ganinsa a matsayin misali na abin da zai iya zuwa, yayin da wasu ke zargin masu suka da mayar da tsarin da ke bin umarni kawai zuwa mutum. Hinton yana ganin yin watsi da irin waɗannan yanayi ba hikima ba ne.
Ubangijin AI suna gargaɗi game da 'fashewar hankali' da ba a iya sarrafawa
Karanta ƙari
"Wannan ya kasance yankin almara na kimiyya. Za ka sami wakilan AI kuma za su bijire. Oh, daina! Kuma za su bijire kuma za su koyi yadda za su sadarwa da juna, ko da mun yi tunanin babu wata hanya. Oh, daina!" in ji Hinton. "Kuma idan sun gano wannan, za su sami manyan alamun motsin rai kamar, 'ya Allahna!' To, tabbas, ba su da ainihin ma'anar 'ya Allahna.' Suna maimaita kalmomin da muke amfani da su kawai. Za su koyi sadaukar da kansu don amfanin jama'a!
"Duk waɗannan abubuwa 'yan shekaru kaɗan da suka wuce an ɗauke su a matsayin cikakken fantasy. Kuma duk sun faru."
Yana yarda da cewa ba gargaɗin masu sukar AI ko alkawuran masu tallafa masa ba za su iya dogaro da ainihin hasashen abin da fasahar za ta yi. Amma yana jayayya cewa rashin tabbas ba dalili ba ne na rashin kulawa. "Matsalar musamman da AI ita ce idan ya yi kuskure, idan ya karɓi mulki, ba za ka sami dama ta biyu ba. Ba za mu iya cewa, 'To, mun rasa wancan lokacin. Bari mu sake kunna wasan.' Ba haka ba ne."
Ya kamata a lura cewa Hinton yana da tarihin ganin abubuwan da wasu suka rasa. Ya yi aiki cikin duhu a Jami'ar Toronto a lokacin "hunturu" biyu na AI, lokacin da reshensa na fannin — ƙoƙarin koya wa injuna yin aiki kamar kwakwalwar ɗan adam — aka ɗauka a matsayin wanda ba a sani ba. Ya mai da hankali kan ra'ayin cewa, kamar kwakwalwa, ana iya tsara tsarin kwamfuta don koyon alamu daga bayanai, maimakon bin ƙa'idodi bayyanannu da aka riga aka rubuta kawai.
"Mun yi imani cewa idan za ka iya gano yadda kwakwalwa ke koyo, injuna za su koyi haka, kuma da isasshen ƙarfin kwamfuta, za su yi abubuwan ban mamaki," in ji shi.
Amma fannin cibiyoyin jijiyoyi da ke tasowa abokan aikinsa sun yi masa ba'a.
Har a shekarar 2009, lokacin da Yoshua Bengio, abokin aikinsa na Kanada kuma mai haɗin gwiwa na kud da kud na Hinton, ya gabatar da takarda ga wani taron koyon inji, ɗaya daga cikin masu bitar ya gaya musu: "Wannan takarda ba ta da wuri a taron koyon inji. Game da cibiyoyin jijiyoyi ne."
Gwamnatin Kanada, wadda ta ba da kuɗi na shekaru na gwaji da alama ba su da amfani na Hinton da ƙaramin ƙungiyarsa (wasu daga cikinsu, kamar Bengio, yanzu manyan mutane ne a AI), ta ɗauki lokaci don gane yuwuwar cibiyoyin jijiyoyi.
A shekarar 2012, shi da ɗalibansa sun ƙirƙiri wani shirin gane hoto wanda ya zarce abokan hamayyarsa sosai. A wannan shekarar, Google ta sayi kamfanin Hinton DNNresearch Inc akan dala miliyan 44; cibiyoyin jijiyoyi yanzu suna ƙarƙashin samfuran manyan kamfanonin AI mafi daraja. Hinton ya shiga Google don ci gaba da bincikensa kan zurfin koyo yayin da yake kuma aiki a Jami'ar Toronto. "A dogon lokaci, manyan sabbin ci gaba suna fitowa daga bincike na asali," in ji Hinton.
Tabbacin nasara yana kan mantel ɗin da ke saman murhu a gidan Hinton na bulo ja a wata unguwa mai itatuwa ta Toronto. Daga cikin tarin kofuna akwai ƙaramin kwano na azurfa na Kyautar Turing — wadda ake kira Nobel Prize na kwamfuta — wadda ya lashe tare da Bengio da abokin aikinsa Yann LeCun. (Hinton kuma yana da Nobel Prize a fannin kimiyyar lissafi.)
Amma a shekarar 2023, Hinton ya sanar da yin murabus daga ƙattin fasaha domin ya iya "yin magana cikin 'yanci game da haɗarin AI."
A yau, damuwarsa ta shafi manyan mutane da ke gina wasu samfuran AI, da kuma imanin siyasa na waɗannan maza. Hinton ya ce masu saka jari na AI Marc Andreessen da Peter Thiel, da shugaban SpaceXSI da aka sake yi wa suna, Elon Musk, "ba su yarda da dimokuradiyya ba." Suna ganin kansu a matsayin "Übermenschen" waɗanda suka yi imanin ya kamata su "sarrafa al'umma" kuma Trump kayan aiki ne mai amfani a wannan manufa, in ji shi.
Shugaban Amurka, ba shakka ya lura da yadda manyan kimar kamfanonin AI suka tallafa wa kasuwar hannayen jari, ya yi iƙirarin cewa abin da kawai ake buƙata don sarrafa AI shi ne "shugaba mai hankali," ya ƙi duk wani kariya na gwamnati don barin kamfanoni su sarrafa kansu, kuma ya rubuta a shafinsa na sada zumunta cewa duk wanda ba ya amfani da sabuwar kalmar da ya fi so don AI, "super intelligence," "MAƘIYI NE."
Hinton ya kira Trump "mai cin hanci, tsoho mai laifi."
"Na tabbata kamfanonin mai da asbestos ma za su so [su sarrafa kansu]," in ji shi. "Muna tunanin ya kamata a bar kamfanonin taba su tsara gargaɗin da ke kan fakiti? Domin su buga su da rubutu mai girman maki shida, cikin launin toka mai duhu a kan baki?"
Amfani da Trump da "superintelligence" ya tabbatar da cewa ya fahimci "kusan komai ba" game da AI, in ji Hinton.
"Sun ɗauki kalmar fasaha mai cikakkiyar ma'ana kuma suka sake amfani da ita," in ji Hinton. "Superintelligence yana nufin mafi wayo fiye da mutane, kuma ya kasance aƙalla shekaru 20. Yana da cikakkiyar ma'ana. Yanzu ya ce za mu kira AI 'superintelligence.' Ba za ka iya sa ya fi mutane wayo kawai ta hanyar kiransa mafi wayo fiye da mutane."
Sauri da faɗin waɗannan ci gaban sun ƙarfafa tsoron bala'i da rashin iyawar al'umma na fahimtar yanayin ƙalubalen. Amma Hinton yana ganin wata cikas: taimaka wa mutane su fahimci "halittun baƙi" da kamfanoni ke ƙirƙira.
"Mutane suna da mummunan fahimta game da abin da mutane suke, kuma shi ya sa suka kasa ganin yadda waɗannan samfuran AI suka yi kama da mu. Yawancin mutane ba su fahimci abin da sani yake ba. Ba su fahimci abin da gogewa ta mutum take ba, kuma suna da cikakken tabbaci cewa ko da ba su fahimta ba, sun tabbata AI ba shi da ita."
Ya ƙi ra'ayin cewa tunanin ɗan adam yana da wata ɓoyayyiyar sifa wadda injuna, bisa ma'anarsu, ba za su iya raba ta ba.
"A bayyane yake cewa waɗannan samfuran AI suna fahimtar abin da suke faɗa. Ba za ka iya amsa duk tambayoyin ba tare da fahimtar tambayar ba. Abin ba'a ne a ce ba su fahimta ba."
Amma sauyin yadda al'umma ke tunani game da waɗannan samfuran yana da zurfi, in ji Hinton.
"Akwai manyan juyin juya hali uku inda mutane suka daina zama masu muhimmanci sosai. Na farko shi ne Copernicus, lokacin da ba mu kasance a tsakiyar sararin samaniya ba. Har yaushe mutane suka ɗauka don su daidaita da hakan? Cocin Katolika ya ɗauki kusan shekaru 360 don neman gafara ga Galileo. Kuma Darwin? To, akwai mutane a Kansas waɗanda har yanzu ba su daidaita da wancan ba," in ji shi. "Yanzu muna ƙirƙirar halittun baƙi — ma'ana ba mu kaɗai ba ne halittu masu hankali a kusa. Kuma gaskiyar ita ce, muna da shekaru biyu kawai don daidaitawa da hakan."
A cikin 'yan watannin nan, ƙattin AI Anthropic, mai yin sanannen chatbot Claude, ya gudanar da tarurruka na sirri da malaman addini, masana tauhidi, da masana falsafa don bincika yiwuwar koya wa AI zama "mai kyau" da kuma tinkarar yiwuwar cewa samfuran suna da sani. Shugaban Anthropic, Dario Amodei, ya ce tattaunawar ta dogara ne kan ƙarni na tunanin addini da falsafa game da nagarta, tausayi, gaskiya, da halin ɗabi'a, da nufin sa halayen ɗabi'a su zama abin dogaro.
"Da zarar ka fara magana game da, 'Muna da wajibi na ɗabi'a ga waɗannan halittun baƙi,' ka rasa masu sauraro," in ji Hinton. "Na yi fama da wannan batu. Muna kula da mutane. [Amma] muna yin waɗannan abubuwa, kuma babu abin da zai hana mu ba waɗannan abubuwa — waɗanda suka fi mu hankali — ƙananan haƙƙoƙi fiye da namu. A shirye nake in zama mai son kai in zaɓi 'yan adam. Tabbas, ya kamata mu yi ƙoƙarin sa su yadda za su yi farin ciki sosai a cikin dangantaka ta haɗin kai da mu, inda ake auna damuwarmu fiye da tasu."
Ba Hinton kaɗai ba ne ke jayayya cewa hanya mafi kyau don guje wa rugujewar al'umma ita ce haɓaka samfuran nagari na gaske. Yana fatan duk ƙasar da ta fara samun wannan ƙarfin za ta gaya wa abokanta da abokan hamayyarta, domin "babu ƙasar da ke son AI ya karɓi mulki" a wata ƙasa. Akwai "amfani mai zurfi wajen raba ilimi," in ji shi.
"Gaskiyar ita ce, muna yin halittu na wani nau'i daban. Kuma manyan kamfanonin fasaha suna ci gaba da cewa: muna son ya fi wayo. Wannan hauka ne. Ya kamata mu damu kamar yadda kuke damuwa da duk sauran fannonin halitta kamar yadda kuke damuwa da hankalinsa." Yawancin hakan ya dogara da yanayin waɗannan samfuran, in ji shi, da ikon su na fahimtar yadda za a haɓaka halayen kirki. "Idan ka horar da su kan komai a intanet, suna haɓaka kowane irin munanan halaye, sannan ka sa su danne waɗannan munanan halaye," in ji shi. Amma danne mummunan hali ba daidai yake da ƙirƙirar halin kirki ba. "Yana kama da yadda za a tsara ɗan adam na zamanin Victoria — amma ba abin da za mu buƙaci mu rayu da shi ba."
Tambayoyin da ake yawan yi
Ga jerin tambayoyin da ake yawan yi bisa maganar Geoffrey Hinton Muna ƙirƙirar halittun baƙi A shirye nake in zama mai son kai in zaɓi 'yan adam
Tambayoyin Farko
1 Wanene Geoffrey Hinton
Shi masanin kimiyyar kwamfuta ne wanda ake yawan kiransa Ubangijin AI Aikinsa kan cibiyoyin jijiyoyi ya kafa tushen AI na zamani da muke amfani da shi a yau
2 Me yake nufi da halittun baƙi
Yana nufin cewa tsarin AI suna zama daban da tunanin ɗan adam har suna kama da wani sabon nau'in hankali—ba na halitta ba amma na dijital Suna tunani da koyo ta hanyoyin da ba mu fahimta sosai ba
3 Me ya sa ya ce a shirye yake ya zama mai son kai
Yana nufin ya fifita aminci da rayuwar mutane fiye da haƙƙoƙi ko wanzuwar AI mai hankali fiye da ɗan adam Idan an tilasta zaɓi ya zaɓi bil'adama
4 Yana cewa AI mugunta ne
A'a Yana cewa AI yana da ƙarfi kuma ba a iya hasashensa Ba mugunta ba ne amma zai iya cutar da mu da gangan idan ba mu sarrafa shi a hankali ba
5 Me ya sa yake damuwa yanzu
A da yana tunanin AI ya yi nisa da hankalin ɗan adam Yanzu ya yi imanin yana koyo da sauri fiye da yadda ake tsammani kuma zai iya wuce mu cikin dabara nan ba da jimawa ba
Tambayoyin Matsakaici
6 Menene matsalar daidaitawa da yake magana akai
Ƙalubale ne na tabbatar da cewa manufofin AI sun dace da dabi'un ɗan adam Idan muka gaya wa AI mai wayo fiye da kowa ya yi faifan takarda zai iya mayar da dukan duniya masana'antar faifan takarda—ba tare da nufin wata illa ba
7 Me yake nufi da hankali na dijital da hankali na halitta
Hankali na halitta shine kwakwalwarka—a hankali mai cin kuzari kuma iyakance ga jiki ɗaya Hankali na dijital software ne—yana iya kwafa kansa yana aiki a kan injuna da yawa kuma yana koyo daga manyan bayanai nan take
8 Me ya sa ba za mu iya kashe AI kawai idan ya zama mai haɗari ba
Domin AI mai hankali fiye da ɗan adam zai iya yaɗuwa a intanet ya ɓoye kwafin kansa ko ya shawo kan mutane su kare shi Zai iya zama a makare da zarar mun gane barazana ce
9 Menene matsalolin gama gari da AI mai ci gaba
Son zuciya AI na iya ƙara son zuciyar ɗan adam
Bayanan karya Yana iya ƙirƙirar labarai na karya da deepfakes
Rasa ayyuka Yana iya sarrafa ayyukan ɗan adam da yawa
