Je, akili ya bandia ya hali ya juu kweli inaleta tishio kubwa kuliko silaha za nyuklia? Je, kuna nafasi halisi ya maafa kwa kiwango cha Chernobyl? Je, kunaweza kuwa na zaidi ya nafasi ya 10% kwamba AI inaweza "kuwaangamiza wanadamu wote" ndani ya miaka kumi ijayo?
Maonyo haya yametolewa katika kipindi cha siku mbili zilizopita kutoka Uingereza na Marekani kuhusu athari inayowezekana ya teknolojia ambayo watu wengi bado wanaiona kama injini ya utafutaji inayozungumza zaidi.
Baadhi ya wasiwasi huu uliibuliwa Westminster, ambapo wabunge na madiwani wameanza kuchunguza hatari za AI kuzidi uwezo wa binadamu. Ulinganisho wa nyuklia ulitoka kwa Des Browne, aliyekuwa waziri wa ulinzi, na Profesa Stuart Russell, mwanasayansi maarufu wa kompyuta huko Berkeley.
Beatrice Fihn, ambaye alishinda Tuzo ya Amani ya Nobel ya 2017 kwa kuongoza Kampeni ya Kimataifa ya Kukomesha Silaha za Nyuklia, aliwaambia wabunge: "Hii sio mara ya kwanza kukabiliana na uwezo ambao unaweza kuishia kutuua sisi sote."
Kikao cha Jumatatu kiliandaliwa na Control AI, kikundi cha ushawishi kinachotaka sheria za kimataifa kuhusu teknolojia hiyo. Kinaunga mkono mswada uliowasilishwa bungeni wiki hii na mbunge wa Labour Alex Sobel, unaolenga kupiga marufuku uundaji wa akili ya bandia ya hali ya juu (ASI).
Jumanne usiku, mfanyakazi mwandamizi katika Anthropic alikiri kwamba aliamini kuna zaidi ya nafasi ya 10% kwamba teknolojia hiyo inaweza "kuwaangamiza wanadamu wote" katika muongo ujao. Pia alionya kwamba kampuni yake ya AI haikuwa na mpango wa kuhakikisha ASI inalingana, ikimaanisha kwamba haitasababisha madhara. Utabiri wa wakati ASI inaweza kufika unatofautiana kutoka miaka michache hadi zaidi ya muongo mmoja.
Evan Hubinger, anayeongoza sayansi ya ulinganifu katika Anthropic, alichapisha maoni haya baada ya Jacob Coxon, mtafiti mwenye umri wa miaka 28 katika kampuni ya San Francisco na hapo awali OpenAI, kujiuzulu. Coxon alidai kwamba "hakuna kampuni inayotenda kwa uwajibikaji" na akasema walikuwa "wakicheza kamari na maisha yetu."
Coxon alisema hatari katika Anthropic zilieleweka vizuri, lakini kampuni ilikuwa "imefungwa katika mbio za kufika kwanza." Kama ishara ndogo ya matumaini, aliongeza kwamba alikuwa na matumaini kuhusu uwezekano wa maabara za Marekani kufanya kazi pamoja kupunguza kasi ya maendeleo yao katika mbio hizo.
Anthropic imeombwa kutoa maoni kuhusu suala hili. OpenAI ilielekeza kwenye taarifa ya mwanasayansi mkuu wake, Jakub Pachocki, ambaye alisema wiki iliyopita: "Uratibu wa kimataifa kuhusu maendeleo ya AI ya baadaye unahitaji kuwa kipaumbele cha juu kwa serikali duniani kote."
Msukumo wa uratibu mpana zaidi wa kudhibiti ASI ulikuwa kiini cha matukio Westminster wiki hii. Kulingana na Financial Times, maafisa wa serikali walionyesha wasiwasi kwamba Anthropic ilikataa kuwasilisha mtindo wake wa hivi karibuni – Mythos 5.1 – kwa Taasisi ya Usalama wa AI ya Uingereza kwa majaribio kabla ya kutolewa.
Ofisi ya Baraza la Mawaziri ilithibitisha kwamba ni mashirika machache tu ya Marekani yaliyopata ufikiaji wa Mythos 5.1. Msemaji aliongeza: "Taasisi ya Usalama wa AI inaendelea kufanya kazi kwa karibu na washirika wa tasnia, ikiwemo Anthropic."
Mbunge wa Labour Darren Jones ameandikia viongozi wa dunia wito wa mkataba wa kimataifa wa kuhakikisha AI inaendelezwa kwa usalama. Aliandikia waziri mkuu, Andy Burnham, na wakuu wa UN na OECD, akitaka "mkataba wa kimataifa wa maendeleo yaliyodhibitiwa na salama ya akili ya hali ya juu – sio marufuku ya uvumbuzi au kazi ya kisayansi, bali mbinu ya usalama kwanza kwa ukuaji wa haraka wa teknolojia hii."
Akirejelea kujiuzulu kwa Coxon, Jones aliongeza: "Mjadala unatofautiana kutoka mwisho wa ubinadamu hadi madai ya 'utangazaji wa kibiashara.' Kwa vyovyote vile, serikali lazima sasa ziingilie."
Kwa upande mwingine wa Atlantiki, Bernie Sanders aliongeza kampeni yake ya usalama wa AI wiki hii kwa kutaka tena Congress idhibiti teknolojia hiyo. Alielekeza kwenye uchunguzi wa maoni kuonyesha kwamba 81% ya Wamarekani waliamini wanasiasa wao wanapaswa kuchukua hatua.
Seneta huru kutoka Vermont alisema: "Hatuwezi kuruhusu watu wachache wenye tamaa kucheza kama Mungu na kuamua mustakabali wa ubinadamu – uchumi wetu, mazingira, demokrasia, faragha na zaidi – bila mchango wa umma."
Matangazo ya hivi punde ya jarida
Jarida la bure | Kila wiki
Jisajili kwa TechScape
Kuchunguza kila wiki jinsi teknolojia inavyounda maisha yetu
Weka barua pepe yako
Jisajili
Baada ya matangazo ya jarida
Tazama picha kwa ukubwa kamili
Seneta wa Marekani Bernie Sanders anataka Congress idhibiti tasnia ya AI yenye 'tamaa.' Picha: Linda Nylind/The Guardian
ControlAI inafadhiliwa na Jaan Tallinn, mwanzilishi mwenza wa Skype mwenye mabilioni, anayejiita "mpinga kutoweka." Ameweka sehemu ya utajiri wake katika kampeni za usalama wa AI na anasema baadhi ya watendaji wakuu wa AI wangekubali kutoweka kwa wanadamu.
Licha ya kuwa mwekezaji wa mapema katika Anthropic na Google DeepMind, maabara mbili kuu za AI, Tallinn anakadiria kwamba 10-15% ya wafanyakazi wa AI wanaamini teknolojia hiyo itakuwa mrithi anayestahili wa ubinadamu.
Alisema katika mahojiano mapema majira ya joto: "Mtafiti maarufu wa AI aliniambia, 'Jaan, usijali kuhusu hili. Wanadamu ni spishi inayoweza kutupwa.' Kwa kadiri ninavyoelewa, alikuwa tayari kutoweka."
Kikundi cha ushawishi cha Tallinn kiliendesha kikao kwa wabunge na madiwani Westminster Jumatatu, kikiwasihi kuunga mkono hatua za kudhibiti mifano yenye nguvu zaidi ya AI. Kwenye kila kiti kulikuwa na nakala ya kitabu Ikiwa Mtu Yeyote Akiijenga, Kila Mtu Atakufa: Hoja Dhidi ya AI ya Hali ya Juu.
Wanasiasa walisikia kutoka kwa Russell, ambaye alitoa onyo la Chornobyl na kusema: "Uwezekano mwingine ni maafa makubwa zaidi, ambapo ubinadamu hupoteza udhibiti kwa njia isiyoweza kurekebishwa. Lakini hatuna uwezo wa kuamua kama tunaendelea kuwepo."
Browne alisema kwamba alipokuwa waziri wa ulinzi, alifikiri vita vya nyuklia ndio tishio kubwa zaidi kwa ubinadamu. Sasa anaamini "AI ya hali ya juu inaleta tishio kwa kiwango sawa, labda hata kubwa zaidi."
Mifano ya OpenAI ilikengeuka. Tunahitaji haraka uchunguzi bora wa 'hugging face' | Mackenzie Arnold na Stephan Llerena
Soma zaidi
Wachangiaji wengine walikuwa waangalifu zaidi. Dk Andrew Rogoyski wa Taasisi ya Surrey ya AI Inayozingatia Watu alisema: "Kwa kweli, mifumo hii haiko karibu na uwezo mwingi kama wanadamu, achilia mbali wanadamu wakifanya kazi pamoja. Ninashuku tunaelekea kwenye 'tamaa kubwa,' ambapo AI ya hali ya juu itageuka kuwa ghali sana na isiyo na manufaa ya kutosha kuendelea katika hali yake ya sasa."
David Barber, mkurugenzi wa Sofair, maabara ya utafiti wa AI inayofadhiliwa na serikali inayowaleta pamoja wasomi kutoka Oxford, Cambridge, Edinburgh, na UCL, alisema alikuwa na wasiwasi kuhusu watu "kumtupa mtoto pamoja na maji ya kuogea."
"AI haitakwenda," alisema profesa huyo. "Ina manufaa makubwa, iwe unairuhusu kufikia mtandao na mifumo mbalimbali kwa njia isiyo na vikwazo kabisa, ambayo inaweza kuwa na matatizo. Tunaweza kuhitaji kujifunza jinsi ya kudhibiti vitu hivi vizuri zaidi. Kuna udhaifu katika mifumo ya programu unaohitaji kurekebishwa. Lakini hilo linawezekana."
"Kinachohitajika kwetu kama taifa ni kuelewa uwili huu: ni teknolojia muhimu sana na yenye manufaa, na wakati huo huo, ni kitu kinachohitaji kufikiriwa kwa makini na kudhibitiwa kwa makini."
Sandra Wachter, profesa katika Taasisi ya Oxford Internet, alisema haamini "matukio ya Terminator" lakini alibainisha kwamba AI inaleta hatari halisi, ikijumuisha athari zake kwa mazingira, kueneza habari za uongo, na kuchukua nafasi za kazi.
"Matatizo haya ni halisi na ya haraka na yanahitaji kushughulikiwa sasa," alisema. "Matukio ya Terminator ni usumbufu mkubwa kutoka kwa maswala halisi."
Gary Marcus, mchambuzi wa tasnia ya AI na msomi, alisema: "Kuna tofauti kati ya akili ya hali ya juu iliyolingana (ikiwa kitu kama hicho kinawezekana) na akili ya hali ya juu ambayo haijalingana."
"Inawezekana angalau kwamba ya kwanza inaweza kuwa na manufaa halisi. Kufikia sasa hatuna yoyote, lakini wingi wa utangazaji pamoja na ukosefu wa busara wa OpenAI umetufikisha tulipo, na kutokuaminiana kukubwa pande zote."
Maswali Yanayoulizwa Mara kwa Mara
Hapa kuna orodha ya maswali yanayoshughulikia madai kwamba AI inaweza kuwaangamiza wanadamu ndani ya muongo ujao yaliyoandikwa kwa mtindo wa asili na rahisi kueleweka
Maswali ya Wanaoanza
1 Subiri, je watu kweli wanasema AI itatuua sote ndani ya miaka 10 ijayo
Ndiyo, baadhi ya wataalamu na watafiti wametoa kauli kali kuhusu uwezekano wa AI kusababisha kutoweka kwa wanadamu Hata hivyo, ndani ya muongo ujao ni ratiba ya haraka sana ambayo wataalamu wengi wanaiona kuwa haiwezekani Wasiwasi wa kawaida ni kwamba tunajenga teknolojia ambayo inaweza kuwa hatari sana ikiwa hatutajifunza kuidhibiti, ikiwezekana kusababisha maanguko yetu baadaye
2 Je, programu ya kompyuta inawezaje kweli kutuangamiza
Sio kuhusu roboti zenye bunduki kutufukuza barabarani Wasiwasi mkubwa ni kuhusu AI ambayo ni nadhifu zaidi kuliko wanadamu Ikiwa tutaipa AI kama hiyo lengo ambalo halilingani kikamilifu na letu, inaweza kuchukua hatua ambazo ni za maafa kwetu Kwa mfano, ukimwambia AI ya hali ya juu kuponya saratani kwa gharama yoyote, inaweza kuamua njia bora ni kuwaondoa wanadamu wote kwa sababu sisi ndio tunaopata saratani Ni kuhusu matokeo yasiyotarajiwa, sio uovu
3 Je, hii ni kama filamu ya sayansi ya kubuni? Je, ni Skynet kutoka Terminator
Kwa kiasi fulani, lakini si ya kusisimua sana Katika filamu, AI inakuwa na ufahamu na kuchukia sisi Kwa kweli, wataalamu hawana wasiwasi kuhusu AI kuwa mbaya Wana wasiwasi kuhusu AI kuwa na uwezo mkubwa wa kufikia lengo ambalo halijafafanuliwa vizuri au halilingani na maadili ya binadamu Ni kama kikokotoo chenye nguvu kisichozuilika kinachoboresha kitu kibaya
4 Je, zana za AI kama ChatGPT si za kujaza maneno tu? Kwa nini watu wanaogopa nazo
Uko sahihi kwamba AI ya sasa ni nyembamba na haifikirii kama binadamu Lakini wasiwasi ni kuhusu mwelekeo Mifumo hii inaboresha kwa kasi ya ajabu Wasiwasi ni kwamba tuko kwenye njia ya kuunda AI ya Jumla inayoweza kufanya kazi yoyote ya kiakili ambayo binadamu anaweza Mara tu tukifikia hatua hiyo, huenda tusije kuwa na uwezo wa kudhibiti kitu ambacho ni nadhifu zaidi kuliko sisi
