Donald Trump ni "mfisadi, mzee dhaifu na mhalifu" ambaye obsession yake na neno superintelligence inaonyesha hajui chochote kuhusu AI, kulingana na Geoffrey Hinton, "godfather" wa teknolojia hiyo. Katika mahojiano mapana, Hinton alirudia maonyo yake ya hivi karibuni kwamba mifano ya AI inaleta tishio la kuwepo kwa ubinadamu na alikataa madai kwamba tasnia inaweza kujidhibiti yenyewe.
Mwanasayansi wa kompyuta waanzilishi, ambaye kazi yake ilisaidia kuweka misingi ya AI ya kisasa, tangu wakati huo amekuwa mmoja wa wakosoaji wakubwa wa teknolojia hiyo. Matamshi yake ya hivi karibuni yanakuja baada ya mwezi wa msukosuko ambapo orodha inayokua ya wanasayansi na watafiti wakuu wa AI wamejiunga na Hinton katika kuonya kuhusu jinsi teknolojia aliyosaidia kuunda inaweza hatimaye kutoroka udhibiti wa binadamu. Hii imesababisha mgogoro wa tasnia, imesababisha mikutano ya haraka ya bunge, na imetoa makubaliano ya kimataifa ya nadra kwamba kitu lazima kifanyike.
Pia kumekuwa na upinzani mkali. Wiki iliyopita, kiongozi wa kampuni yenye thamani zaidi duniani alimtaja Hinton, ambaye anaishi Toronto, kwa mashambulizi makali.
"Nampenda [yeye]. Nachukia utabiri wake … Utabiri wake wote umekuwa mkosa. Utabiri wa kutosha," Mkurugenzi Mtendaji wa Nvidia, Jensen Huang, aliiambia podcaster Ezra Klein. Huang, ambaye kampuni yake inatengeneza chips ambazo kampuni za AI zinahitaji, alikataa wasiwasi mkubwa wa Hinton kwamba kasi na upana wa maendeleo ya AI katika "frontier" inaweza hivi karibuni kuzidi uwezo wa ubinadamu wa kuidhibiti — hasa onyo lake kwamba kuna uwezekano wa 10-20% wa AI kusababisha kutoweka kwa binadamu katika miongo ijayo.
"[Takwimu hiyo] haijatokana na sayansi, haijatokana na utafiti. Kwa sababu tu inatoka kwa mwanasayansi haifanyi kuwa ya kisayansi. Utabiri huo unaumiza," Huang alisema. "Usifikirie kwa sekunde moja kwamba kwa sababu tu wewe ni mwonyaji, unafanya wema wa kijamii. Si kweli. Kwa hivyo nadhani tunapaswa wote kuwa wenye hekima zaidi, waliokomaa zaidi, wenye msingi wa ushahidi, na wa kisayansi."
Tazama picha kwa skrini kamiliDonald Trump, Mike Johnson na watendaji wakuu wa teknolojia, ikiwa ni pamoja na Jensen Huang, wakizungumza nje ya West Wing huko Washington DC tarehe 29 Septemba. Picha: Shawn Thew/EPA
Lakini Hinton alisema wale wanaomkosoa wanakosa hoja pana kuhusu asili ya hatari. Hachagui kutabiri kitu hasa, alisema.
"Najaribu kuwasilisha kwamba kuna uwezekano mkubwa sana wa kitu kutokea. Ikiwa, kwa mfano, unaambiwa kuna uwezekano wa 10% wa basi kuanguka, usingepanda basi," alisema. "Lengo la kutoa namba ni kusema hii ni hatari kubwa. Hatujui ni kubwa kiasi gani, lakini ni kubwa."
Ukiukaji wa usalama wa hivi karibuni umevuta ulinganisho na hadithi ya techno-dystopia. Udukuzi usiotakiwa wa hivi karibuni wa kampuni ya teknolojia Hugging Face na "swarm" ya mawakala wa AI waliotoroka mipaka iliyowekwa na muundaji wao umegawanya jamii ya teknolojia. Wengine wanaona kama mfano wa kile kinachoweza kuja, wakati wengine wanashutumu wakosoaji kwa kuweka sifa za kibinadamu kwa mifumo ambayo inafuata maagizo tu. Hinton anafikiri kupuuza hali kama hizo si busara.
AI godfathers waonya kuhusu 'mlipuko wa akili' usiodhibitiwa
Soma zaidi
"Hii ilikuwa eneo la hadithi za kisayansi. Utakuwa na mawakala wa AI na wataenda rogue. Oh, acha hizo. Na wataenda rogue na watajifunza jinsi ya kuwasiliana wao kwa wao, ingawa hatukufikiri kulikuwa na njia. Oh, acha hizo!" Hinton alisema. "Na wanapogundua hili, watakuwa na maonyesho makubwa ya kihisia kama, 'oh Mungu wangu!' Kweli, kwa kweli, hawamaanishi 'oh Mungu wangu.' Wanarudia tu maneno tunayotumia. Watajifunza kujitoa mhanga kwa faida ya wote!
"Vitu hivi vyote miaka michache iliyopita vilihesabiwa kama ndoto kamili. Na vyote vimetokea."
Anakubali kwa urahisi kwamba wala maonyo ya wakosoaji wa AI wala ahadi za wafuasi wake haziwezi kutegemea utabiri sahihi wa kile teknolojia itafanya. Lakini anasema kutokuwa na uhakika si sababu ya kuwa wazembe. "Tatizo la kipekee la AI ni kwamba ikiwa itaenda vibaya, ikiwa itachukua udhibiti, hupati nafasi ya pili. Hatuwezi kusema, 'Kweli, tulipoteza wakati huo. Hebu turudie mchezo.' Si kama hivyo."
Inafaa kutambua kwamba Hinton ana historia ya kuona vitu wengine walivyokosa. Alifanya kazi kwa kujificha kiasi katika Chuo Kikuu cha Toronto wakati wa "baridi" mbili za AI, wakati tawi lake la uwanja—kujaribu kufundisha mashine kufanya kazi kama ubongo wa binadamu—lilichukuliwa kama lisilojulikana. Alikuwa amejikita kwenye wazo kwamba, kama ubongo, mifumo ya kompyuta inaweza kuundwa kujifunza mifumo kutoka data, badala ya kufuata tu sheria zilizoandikwa wazi.
"Tuliamini kwamba ikiwa ungeweza kugundua jinsi ubongo unavyojifunza, mashine zingejifunza vivyo hivyo, na kwa nguvu ya kompyuta ya kutosha, zingefanya mambo ya ajabu," alisema.
Lakini uwanja unaoibuka wa neural networks ulidhihakiwa na wenzake.
Hadi hivi karibuni mwaka 2009, wakati Yoshua Bengio, mwenzake wa Kanada wa Hinton na mshirika wa karibu, aliwasilisha karatasi kwenye mkutano wa machine learning, mmoja wa wakaguzi aliwaambia: "Karatasi hii haina nafasi kwenye mkutano wa machine learning. Inahusu neural networks."
Ilichukua serikali ya Kanada, ambayo ilifadhili miaka ya majaribio yanayoonekana bila matunda ya Hinton na timu yake ndogo (baadhi yao, kama Bengio, sasa ni watu wakuu katika AI), kutambua uwezo wa neural nets.
Mwaka 2012, yeye na wanafunzi wake walitengeneza programu ya kutambua picha ambayo ilizidi sana wapinzani wake. Mwaka huo, Google ilinunua kampuni ya Hinton DNNresearch Inc kwa $44 milioni; neural nets sasa zinaunga mkono mifano ya kampuni za AI zenye thamani zaidi. Hinton alijiunga na Google kuendelea na utafiti wake wa deep learning wakati pia akifanya kazi katika Chuo Kikuu cha Toronto. "Kwa muda mrefu, mafanikio makubwa mapya yanatoka kwenye utafiti wa msingi," Hinton alisema.
Uthibitisho umekaa kwenye rafu juu ya mahali pa moto pa nyumba ya matofali mekundu ya Hinton katika kitongoji cha Toronto chenye majani. Miongoni mwa kombo la nyara ni sahani ndogo ya fedha ya Tuzo ya Turing—mara nyingi huitwa Tuzo ya Nobel ya kompyuta—ambayo alishinda pamoja na Bengio na mwenzake Yann LeCun. (Hinton pia ana Tuzo ya Nobel ya fizikia.)
Lakini mwaka 2023, Hinton alitangaza kujiuzulu kutoka kampuni kubwa ya teknolojia ili aweze "kuzungumza kwa uhuru kuhusu hatari za AI."
Leo, wasiwasi wake unaenea kwa watu wenye nguvu wanaojenga baadhi ya mifano ya AI, na imani za kisiasa za wanaume hao. Hinton alisema kwamba wawekezaji wa AI Marc Andreessen na Peter Thiel, na Mkurugenzi Mtendaji wa SpaceXSI iliyopewa jina jipya, Elon Musk, "hawaamini demokrasia." Wanajiona kama "Übermenschen" wanaoamini wanapaswa "kudhibiti jamii" na kwamba Trump ni chombo muhimu katika lengo hilo, alisema.
Rais wa Marekani, bila shaka akigundua jinsi thamani kubwa za kampuni za AI zimeunga mkono soko la hisa, amedai kitu pekee kinachohitajika kudhibiti AI ni "rais mwerevu," alikataa ulinzi wowote wa serikali kwa kupendelea kuruhusu kampuni kujidhibiti zenyewe, na aliandika kwenye ukurasa wake wa mitandao ya kijamii kwamba yeyote asiyetumia neno lake jipya analopendelea kwa AI, "super intelligence," ni "ADUI."
Hinton alimwita Trump "mfisadi, mzee dhaifu na mhalifu."
"Nina hakika kampuni za mafuta na asbesto zingependa [kujidhibiti] pia," alisema. "Je, tunafikiri kampuni za tumbaku zilipaswa kuruhusiwa kubuni maonyo kwenye pakiti? Ili waweze kuyachapisha kwa fonti ya pointi sita, kijivu cheusi kwenye nyeusi?"
Matumizi ya Trump ya "superintelligence" yanathibitisha anaelewa "karibu chochote" kuhusu AI, Hinton aliongeza.
"Walichukua neno la kiufundi lenye maana wazi sana na wakalitumia tena," Hinton alisema. "Superintelligence inamaanisha mwerevu kuliko watu, na imekuwepo kwa angalau miaka 20. Ina maana wazi sana. Sasa anasema tutaita AI 'superintelligence.' Huwezi kuifanya iwe mwerevu kuliko watu kwa kuiita tu mwerevu kuliko watu."
Kasi na upeo wa maendeleo haya kumechochea hofu ya maafa na ya kutoweza kwa jamii kuelewa asili ya changamoto. Lakini Hinton anaona kizuizi kingine: kusaidia watu kuelewa "viumbe vigeni" ambavyo kampuni zinaunda.
"Watu wana uelewa mbaya sana wa kile watu walivyo, na ndiyo sababu wanashindwa kuona jinsi mifano hii ya AI inafanana nasi. Watu wengi hawaelewi consciousness ni nini. Hawaelewi uzoefu wa kibinafsi ni nini, na wana uhakika sana kwamba ingawa hawaelewi, wana uhakika AI haina hiyo."
Anakataa wazo kwamba akili ya binadamu ina sifa fulani ya ajabu ambayo mashine, kwa ufafanuzi, haziwezi kushiriki.
"Ni dhahiri kwamba mifano hii ya AI inaelewa inachosema. Hukuweza kujibu maswali yote bila kuelewa swali. Ni ujinga kusema hawaelewi."
Lakini mabadiliko ya jinsi jamii inavyofikiri kuhusu mifano hii ni makubwa, Hinton alisema.
"Kumekuwa na mapinduzi matatu makubwa ambapo watu waliacha kuwa muhimu sana. Ya kwanza ilikuwa Copernicus, wakati hatukuwa tena katikati ya ulimwengu. Ilichukua muda gani watu kuzoea hilo? Ilichukua Kanisa Katoliki karibu miaka 360 kuomba msamaha kwa Galileo. Na Darwin? Kweli, kuna watu huko Kansas ambao bado hawajazoea hilo," alisema. "Sasa tunaunda viumbe vigeni—ikimaanisha sisi si viumbe wenye akili pekee duniani. Na ukweli ni kwamba, tuna miaka michache tu kuzoea hilo."
Katika miezi ya hivi karibuni, kampuni kubwa ya AI Anthropic, mtengenezaji wa chatbot maarufu Claude, imefanya mikutano ya faragha na wasomi wa dini, wanatheolojia, na wanafalsafa kuchunguza uwezekano wa kufundisha AI kuwa "nzuri" na kukabiliana na uwezekano kwamba mifano ina consciousness. Mkurugenzi Mtendaji wa Anthropic, Dario Amodei, alisema mazungumzo hayo yametokana na karne za mawazo ya kidini na kifalsafa kuhusu wema, huruma, uaminifu, na tabia ya maadili, kwa lengo la kufanya tabia ya kimaadili kuwa ya kuaminika zaidi.
"Mara unapoanza kuzungumza kuhusu, 'Tuna wajibu wa kimaadili kwa viumbe hawa vigeni,' unapoteza hadhira yako," Hinton alisema. "Nimepambana na suala hili. Tunajali watu. [Lakini] tunaunda vitu hivi, na hakuna kinachotuzuia kuwapa vitu hivi—ambavyo ni vwerevu kuliko sisi—haki chache kuliko sisi. Niko tayari kuwa mbinafsi na kuchagua binadamu. Kwa kweli, tunapaswa kujaribu kuwafanya ili wawe na furaha sana katika uhusiano wa symbiotic nasi, ambapo wasiwasi wetu unapewa uzito mkubwa kuliko wao."
Hinton hayuko peke yake katika kusema kwamba njia bora ya kuepuka kuanguka kwa jamii ni kuunda mifano yenye wema wa kweli. Anatumaini kwamba nchi yoyote itakayokuwa ya kwanza kuunda uwezo huu ingewaambia washirika na wapinzani vivyo hivyo, kwa sababu "hakuna nchi inayotaka AI ichukue udhibiti" katika nchi nyingine. Kuna "maslahi ya kushiriki maarifa," alisema.
"Ukweli ni kwamba, tunaunda viumbe wa aina tofauti. Na kampuni kubwa za teknolojia zinaendelea kusema: tunataka iwe mwerevu zaidi. Hii ni wazimu. Tunapaswa kujali kama weweUnapaswa kujali vipengele vingine vyote vya kiumbe kama unavyojali akili yake." Mengi ya hayo yanategemea asili ya mifano hii, alisema, na uwezo wao wa kuelewa jinsi ya kuendeleza tabia nzuri. "Unapowafundisha kila kitu kwenye mtandao, wanakuza kila aina ya mielekeo ya kutisha, na kisha unawafanya kukandamiza mielekeo hiyo ya kutisha," alisema. Lakini kukandamiza tabia mbaya si sawa na kuunda tabia nzuri. "Inaonekana kama jinsi mtu angeunda muungwana wa Victoria – lakini si kitu tutakachohitaji kuishi nacho."
Maswali Yanayoulizwa Mara kwa Mara
Hapa kuna orodha ya Maswali Yanayoulizwa Mara kwa Mara kulingana na nukuu ya Geoffrey Hinton Tunaunda viumbe vigeni Niko tayari kuwa mbinafsi na kuchagua binadamu
Maswali ya Mwanzo
1 Geoffrey Hinton ni nani
Yeye ni mwanasayansi wa kompyuta ambaye mara nyingi huitwa Godfather wa AI Kazi yake kwenye neural networks iliweka msingi wa AI ya kisasa tunayotumia leo
2 Anamaanisha nini kwa viumbe vigeni
Anamaanisha kwamba mifumo ya AI inakuwa tofauti sana na akili za binadamu kiasi kwamba ni kama aina mpya ya akili—si ya kibiolojia bali ya kidijitali Wanafikiri na kujifunza kwa njia tusizozielewa kikamilifu
3 Kwa nini anasema yuko tayari kuwa mbinafsi
Anamaanisha anapa kipaumbele usalama na uhai wa binadamu juu ya haki au kuwepo kwa AI yenye akili kuu Ikiwa analazimika kuchagua anachagua ubinadamu
4 Je anasema AI ni mbaya
Hapana Anasema AI ina nguvu na haitabiriki Si mbaya lakini inaweza kutudhuru kwa bahati mbaya ikiwa hatutaidhibiti kwa uangalifu
5 Kwa nini ana wasiwasi sasa
Awali alifikiri AI ilikuwa mbali na akili ya kiwango cha binadamu Sasa anaamini inajifunza kwa kasi kuliko ilivyotarajiwa na inaweza hivi karibuni kutuzidi kwa akili
Maswali ya Kati
6 Tatizo la alignment analozungumzia ni nini
Ni changamoto ya kuhakikisha malengo ya AI yanalingana na maadili ya binadamu Ikiwa tunamwambia AI mwerevu sana kutengeneza paperclips inaweza kugeuza sayari yote kuwa kiwanda cha paperclip—bila kusudia madhara yoyote
7 Anamaanisha nini kwa akili ya kidijitali dhidi ya akili ya kibiolojia
Akili ya kibiolojia ni ubongo wako—polepole, inahitaji nishati, ina njaa na imepunguzwa kwa mwili mmoja Akili ya kidijitali ni software—inaweza kujinakili yenyewe, kukimbia kwenye mashine nyingi na kujifunza kutoka data kubwa papo hapo
8 Kwa nini hatuwezi kuzima AI ikiwa inakuwa hatari
Kwa sababu AI yenye akili kuu inaweza kuenea kwenye mtandao, kuficha nakala zake au kuwashawishi watu kuilinda Inaweza kuwa too late mara tunapotambua ni tishio
9 Matatizo ya kawaida na AI ya hali ya juu ni yapi
Upendeleo AI inaweza kuongeza ubaguzi wa binadamu
Habari za uongo Inaweza kuunda habari za uongo na deepfakes
Kupoteza kazi Inaweza kuendesha kazi nyingi za binadamu
