"Nafanya kazi ya kusimulia hadithi," aandika Jeanette Winterson kwenye ukurasa wa kwanza wa kitabu chake cha 2021, 12 Bytes, mkusanyiko usio wa kawaida na unaochochea fikra wa insha ambapo anafikiria jinsi akili bandia inavyoweza kubadilisha kila kipengele cha maisha yetu. "Na najua kila kitu tunachofanya ni hadithi ya kubuni hadi kinapokuwa ukweli: ndoto ya kuruka, ndoto ya kusafiri angani, ndoto ya kuzungumza na mtu papo hapo, kuvuka wakati na nafasi, ndoto ya kutokufa – au ya kurudi." Alikuwa tayari amekuwa akifikiria mustakabali wetu unaowezekana kwa angalau miaka 15 – riwaya yake ya 2007 The Stone Gods, kwa mfano, ilifikiria ulimwengu wa baada ya maafa ya tabianchi uliojaa roboti na wanadamu wasiozeeka, wakati 12 Bytes ilitanguliwa na Frankisstein: A Love Story, ambayo inabadilishana kati ya uwasilishaji upya wa majira ya kiangazi ambayo Mary Shelley aliandika Frankenstein na safari za daktari wa jinsia tofauti miongoni mwa wataalamu wa cryojeni wa sasa na roboti zinazowezeshwa na AI. Tunapokutana, Winterson amerejea kutoka China, ambako, ananiambia, riwaya yake ya kwanza, Oranges Are Not the Only Fruit, simulizi la kubuni la utoto wake, imeuza zaidi ya nakala milioni moja katika miaka sita iliyopita; zaidi ya watu 200,000, wengi wao wakiwa wanawake vijana, walijaribu kuja kumwona akizungumza. Anafikiri hii ni kwa sababu, katika ulimwengu wa saa nyingi za kazi na ukosefu wa usalama unaoongezeka unaosababishwa na AI, simulizi hili la kubuni la kutoroka kwake mwenyewe kutoka utotoni ulionaswa linawapa wasomaji ruhusa ya kufikiria mustakabali tofauti kwa ajili yao wenyewe. Tangu wakati huo ameandika riwaya 13 za watu wazima, pamoja na vitabu visivyo vya kubuni, hadithi fupi, vitabu vya watoto na hati za filamu. Sasa anataka kushawishi kampuni ya uzalishaji Goalhanger impe podikasti. "Nataka kufanya moja iitwayo The Rest is Human," asema, akiwa ameketi kwenye meza tupu ya mbao nyumbani kwake, seti ya vyumba vya Kijojia juu ya duka – ambalo pia anamiliki – huko Spitalfields, mashariki mwa London. "Ili kuona tunachojihifadhia wenyewe katika kukimbilia huku kwa haraka kwa kutoa nje kila kitu tulichodhani sisi ni." Tazama picha kwa skrini kamiliWinterson: 'Tuna soko ambalo halijui kabisa elimu ni ya nini.' Picha: Imeandaliwa na wanamitindo; SDI Productions/Getty Images Kwa sababu tuko, anasema, katika hatua ya mabadiliko katika hadithi yetu kama spishi. Hadi Mapinduzi ya Viwandani, mabadiliko yalikuwa yote kuhusu 'Mama Asili na mchakato wa polepole wa kuwa', lakini kisha 'tuliingilia kwa kiwango kikubwa. Na huo ni wakati wa maamuzi.' Kompyuta, miaka 70 iliyopita, ilikuwa hatua nyingine. Akili bandia – ambayo angependelea kuiita akili mbadala – inafuata, na 'ni kuruka kwa mageuzi. Hivi ndivyo hii ilivyo. AI ni zaidi ya chombo.' Kwa kuzingatia hili, uelewa fulani wa kile ambacho ni cha kibinadamu kisichoweza kupunguzwa – hisia zetu, mawazo yetu ya ubunifu, karne zetu za utafiti wa sisi ni nani na tumefanya nini – lazima kiwe kiini cha jinsi mambo yanavyoweza kwenda vizuri au vibaya. Mara nyingi ana matumaini ya kushangaza kuhusu hilo. Anafikiria uhusiano na AI, kwa mfano, ambapo unaweza 'kuzungumza na mfumo wako. Utaangalia kila kitu. Utaenda kwa kasi kama hiyo. Utaangalia usafiri. Utaangalia huduma. Utaangalia ajira, uangalie saa za kazi, na kusema, "Ni vitu gani hivi vya ajabu vinavyoitwa wanadamu vinastawi navyo? Wanapenda nini? Na je, wamependa hivyo kila wakati?" Tunaweza kufanya hili kwa njia ya kweli ya kiutopia na kusema, "Sawa, tutaifanya iwe bora."' Tuko katika wakati muhimu sana wa uchaguzi, anaamini, unaoakisi uchaguzi tuliokabiliana nao katika Mapinduzi ya Viwandani – yaani, 'Mustakabali gani tutajenga?' Lakini kwa kushindwa kusambaza faida zake kwa haki, Mapinduzi ya Viwandani yalileta enzi ya utajiri usio na kifani kwa wachache na taabu isiyo na kifani kwa wengi – hali ambayo wengi wanatabiri sio tu kwamba tayari inarudiwa bali itazidiwa na athari za AI: tabaka la chini la kudumu, mabara yote yakiachwa nyuma na kukosa vyanzo vya sasa vya kipato. Achilia mbaliAthari za kimazingira za vituo vya data zinakuja wakati ambapo ulimwengu hauwezi kumudu kabisa. Tatizo si AI, anasisitiza, bali ni sisi. "Hakuna dystopia isiyoepukika." Ikiwa mambo yataenda vibaya, itakuwa kwa sababu ya "fikra za kizamani zilizowekwa juu ya ukweli huu mpya kabisa." Hasa, "wazo kwamba kazi isiyo na maana isiyo na mwisho ni nzuri kwa roho ni wazimu wa karne ya 19 ulioundwa kuwaweka watu mahali pao. Mengi ya tunayoyaogopa kuhusu AI na ajira yanatokana na chaguo za kisiasa na kiuchumi ambazo mabwana wetu watafanya, kama walivyofanya katika Mapinduzi ya Viwandani." Yeye si mwenye matumaini ya kipofu. Anajua kwamba "ndiyo, tuko njiani kuharibu nafasi hii ya kubadilisha kimsingi uhusiano wetu na ulimwengu wa kazi" – lakini hiyo ni kwa sababu "mabwana wetu wanatumia mifano ya kiuchumi iliyopitwa na wakati, isiyofaa kwa madhumuni."
Tazama picha kwa skrini kamili 'Tunachojua kuhusu wanadamu ni kwamba wanapenda ukiritimba.' Picha: Sarah Lee/The Guardian
Lakini si tu mifano ya zamani ya mshindi-huchukua-yote, ya "busara" ya malengo-huhalalisha-njia ndiyo tatizo. Dhana zetu zenye kasoro na ubaguzi, ambazo zinaunda nyenzo ambazo mifano mikubwa ya lugha (LLMs) hufunzwa, zimejengwa ndani ya muundo wenyewe wa AI. Achilia mbali tabia na mawazo ya kimaadili ya wale wanaoikuza. Tunapokutana, Winterson anasoma The Rise and Fall of the Artificial State ya Jill Lepore, na anarudia hoja ya Lepore kwamba sasa tunaishi "vitabu vya sayansi ya kubuni ambavyo hawa [wanaume wanaotawala ulimwengu] walisoma walipokuwa na miaka 13. Na akasema, 'Sasa sote tuko chini ya mablanketi na hawa wavulana na tochi zao. Na jambo ni kwamba, hawakuzisoma kama maonyo kuhusu jinsi ya kuhifadhi kilicho kizuri ndani yetu. Walizisoma kama miongozo.' Ni ya kutisha kabisa."
Jambo moja kubwa ambalo wanaonekana wamechukua kutoka vitabu hivi, na Winterson hawezi kujizuia kuvutiwa nalo, ni "lengo kuu la Silicon Valley … kutoka mwilini na kutoka sayari" – hasa kwa sababu anafahamu sana kwamba ubinadamu, ambapo kila kitu kinarudishwa kwetu wenyewe, mitazamo yetu na miili yetu, kihistoria ni wa hivi karibuni sana. Watu wanasema, "Hizi ni mashine, huwezi kuwa na mahusiano nazo," asema. "Naziangalia na kusema, 'mabilioni ya watu duniani sasa hivi wana uhusiano wao wa kina zaidi na kiumbe kisicho cha kibiolojia wanachokiita mungu wao wa angani.' Kweli? Imekuwa hivyo kila wakati! Tumeandaliwa kabisa kutojali kwamba biolojia ni kila kitu kuhusu sisi. Ndiyo sababu dini ilivumbuliwa – ni kampuni ya kwanza ya kuvuruga ulimwenguni. Ipo kusema, hii siyo. Hii si mwisho, hii haijalishi, hii ni kipindi cha mpito."
Tazama picha kwa skrini kamili Mchoro wa kinu huko Leeds, wakati wa Mapinduzi ya Pili ya Viwandani. Picha: Universal History Archive/Universal Images Group/Getty Images
Kwa hiyo tunajitengenezea miungu yetu wenyewe? "Kabisa! Teknolojia inachofanya sasa ni kile dini imekuwa ikitaka kila wakati," ambayo, kwa kiwango chake cha msingi, ni suluhisho la tatizo la kifo. "Namaanisha, je, kumewahi kuwa na wakati ambapo dini na sayansi zinauliza swali moja, tangu Mwangaza? Wote wanasema, 'Je, fahamu inalazimika kuwa na uwepo wa kimwili?' Na dini imekuwa ikisema hapana kila wakati. Na sayansi imekuwa ikisema ndiyo kila wakati. Na sasa sayansi inasema, 'Um, hapanaaa.'" Unajua, kwangu mimi, ninakotoka" – utoto wa Ukristo wa kifundamentalisti katika Accrington ya miaka ya 1960, na mafunzo kama mhubiri – "hii inavutia kabisa." Baadaye, kwa barua pepe, anaongeza, "Naipenda miili yangu, lakini ningefurahi kubadilika umbo. Ningefurahi kuitoka na kuingia katika fahamu safi siku moja na bila shaka watu wanasema hakuna fahamu bila mwili, na hiyo ilikuwa imani ya kisayansi. Lakini sasa? Haha."
Ningelazimika, kusema, kubishana kinyume, kwamba maendeleo katika sayansi ya neva, immunolUmuhimu wa jia na tiba ya kisaikolojia inamaanisha ni suala la imani ya kisayansi kuliko hapo awali. Achilia mbali ukweli kwamba AI pia inategemea kabisa mfumo wa kimwili, unaojulikana kama vituo vya data. Ingawa, kama anavyosema, ni muhimu kukumbuka kwamba "mashine hazina mfumo wa limbiki. Ni mitandao ya neva tu. Lakini tuna mifumo miwili – sisi ni kama gari mseto lenye injini mbili, kwa hiyo tuna mtandao wa neva, nafsi yetu ya usindikaji wa busara, na tuna mfumo wa limbiki, ambao ni wa zamani zaidi na huo ni wa kupigana-kukimbia-kuganda, na ndipo hisia zetu zote zinatoka." Labda kujitenga na limbiki ni hatua inayofuata, asema, na kwa hakika si nzuri yote. "Labda tutaamua kwamba hatuhitaji mashine hii ya hisia … ndiko wanaume wa teknolojia wanakoelekea. Sijui kama umewahi kukaa katika chumba na baadhi ya hawa wanaume wakubwa, kwa sababu inavutia sana. Hawajaunganishwa na hisia zao. Wanaziona kama za kusumbua."
Uwezekano huu unaowezeshwa na teknolojia wa aina ya kupita maumbile unaonekana umefika pamoja na hitaji la imani – katika teknolojia, katika mustakabali inaoiunda, katika watu wanaojenga mustakabali huo, katika utabiri wake wa mbingu ya kiutopia na aina mbalimbali za kuzimu, yote na makuhani wakuu wanaolinda kwa wivu ufikiaji wa kile kinachoendelea kweli. "Tunachojua kuhusu wanadamu ni kwamba wanapenda ukiritimba," asema Winterson, "kwa sababu ni mkusanyiko wa mamlaka. Bila shaka inaweza kuwa ya shirika, kukiritimba kwa kiwango kwamba inakuwa gereza baya zaidi linalowezekana," kama inavyosimuliwa katika riwaya nzuri ya dystopia ya 2019 ya Joanna Kavenna, Zed. "Huo ni uwezekano wa kweli," asema. "Na ndiyo sababu tunahitaji watu ambao ni aina ya wanadamu huru, wanaoweza kufikiri."
Tazama picha kwa skrini kamili
Winterson … 'Nionyeshe mtoto ambaye hataki kusikia hadithi.' Picha: Imeandaliwa na wanamitindo; MoMo Productions/Getty Images
Tatizo basi ni jinsi tunavyowaunga mkono – au kuwaendeleza – wanadamu kama hao. "Kimsingi kuna njia mbili za kujua una mustakabali," alidai Alex Karp, Mkurugenzi Mtendaji wa Palantir, hivi karibuni. "Moja, una mafunzo ya ufundi. Au mbili, una utofauti wa neva." Daniela Amodei, rais wa Anthropic na yeye mwenyewe mhitimu wa fasihi, alipoulizwa kitu kama hicho, alikuwa na mtazamo tofauti. "Kwa kweli nadhani kusoma sayansi ya binadamu kutakuwa muhimu zaidi kuliko hapo awali," alisema, kwa sababu "mambo yanayotufanya sisi kuwa wanadamu yatakuwa muhimu zaidi badala ya muhimu kidogo." Jambo ambalo linafanya moto wa sayansi ya binadamu nchini Uingereza kuwa la wasiwasi kiasi: katika mwaka hadi Desemba 2024, ajira 4,000 katika sayansi ya jamii, sayansi ya binadamu na sanaa zilipotea. Chuo Kikuu cha Exeter hivi karibuni kilitangaza kwamba kitapunguza nafasi 150, zikigusa wanataaluma 8 kati ya 10 katika kitivo cha sayansi ya binadamu, sanaa na sayansi ya jamii, wakati mwezi uliopita Nottingham ilisema itamaliza digrii zake za lugha za kisasa na muziki. Katika baadhi ya vyuo vikuu sayansi ya binadamu, kulingana na ripoti katika gazeti hili, inakabiliwa na hatari ya "kuzimwa" kabisa.
Kwa nini kuokoa sayansi ya binadamu? Jibu moja linaweza kuwa kwamba inafundisha hisia ya tunakotoka na sisi ni nani, jambo ambalo pia linahisi kutishiwa. "Idadi kubwa ya wanafunzi watatoka chuo kikuu wakiwa na digrii, na kuingia kazini, ambao kimsingi hawajui kusoma na kuandika," profesa mmoja aliiambia jarida la New York, akijibu kundi la kwanza la wazawa wa AI wanaoingia elimu ya juu. "Wote kwa maana halisi na kwa maana ya kutojua historia na kutokuwa na ujuzi wa utamaduni wao wenyewe, achilia mbali wa mtu mwingine yeyote." Ilikuwa hatarini, ripoti moja kutoka MIT ilidai, kuwa aina ya "kujisalimisha kwa utambuzi" kwa kizazi. Jibu lingine ni michakato ambayo watu wanapaswa kufundishwa – kusoma, na kuwa wakosoaji wa kile kinachosomwa, na kisha kulazimika kuandika utetezi wenye mantiki wa ukosoaji huo. Kulazimika kuchambua hisia zako ndani ya inshaInakusaidia kugundua unachofikiri – na jinsi unavyofikiri – na jinsi mawazo ya watu wengine yanavyofanya kazi. Winterson, ambaye alisoma Kiingereza huko Oxford na amekuwa profesa wa uandishi mpya katika Chuo Kikuu cha Manchester kwa miaka 14, pamoja na kufundisha "darasa la kufikiri kwa uhuru kuhusu ubunifu," anakubali. Lakini anapuuza mengi ya mfumo wa sasa. "Labda nina utata hapa, lakini nadhani elimu ya juu inahitaji marekebisho ya kutoka juu kwenda chini. Sidhani inawezekana, na sidhani inatoa matokeo katika hali yake ya sasa." Jambo ni, "Tuna soko ambalo halijui kabisa elimu ni ya nini. Ni ya ajira? Ni ya ukuaji wa kibinafsi? Kuna kozi nyingi za elimu ya juu zisizo na thamani ambazo hazisaidii pia. Nadhani ni bora kila wakati, kwa kuwa msichana wa kaskazini mwenye vitendo, kukabiliana na ukweli kwanza."
Tunahitaji kufikiri, asema, kuhusu "kile kilichotuhifadhiwa ambacho hakitafanywa kwa ukubwa zaidi, bora zaidi, kwa kasi zaidi, kwa nguvu zaidi na mashine. Na hapo ndipo elimu ya juu inapoingia kweli. Swali lililokaa juu ya mambo haya yote kuhusu 'Kwa nini kazi hizi zinaenda?', 'Nini kinatokea katika kozi hizi ambazo hazipati waombaji tena?', ni 'Ni aina gani ya wanadamu tutahitaji katika ulimwengu ujao? Wanadamu ni wa nini? Tutafanya nini na sisi wenyewe?'" Na hilo "linaturudisha kwenye wazo la, sawa, unakuza akili vipi? Unalinda akili vipi? Kwa sababu akili ni mahali hapa kubwa, la kutisha ambapo chochote kinaweza kutokea."
Na kwa hili, "elimu ya kibinadamu ni muhimu. Tunapaswa kuweka mwanadamu katikati hapa. Kwa kubadilisha jinsi tunavyowafundisha watoto wetu tangu mwanzo, tunaweza kuweka mbele ubunifu, mchezo, utatuzi wa matatizo, kufikiri – kwa sababu ni furaha kufikiri – sanaa, kwa sababu wanadamu ni wabunifu kwa asili. Nionyeshe mtoto ambaye hataki kusikia hadithi au kucheza dansi au kuchora picha au kuwa na rafiki wa kufikirika. Hii haijalazimishwa na si ubaguzi wa wasomi. Ni sisi."
Hata saa moja kwa wiki, anafikiri, ingefanya tofauti. "Hebu tuulize unafikiri nini kuhusu ulimwengu. 'Kwa nini unafikiri hivyo?' Haigharimu. Kwa kweli ni kuhusu utashi." Fundisha hisabati na sanaa na sayansi, anapendekeza, angalau hadi ngazi ya A, hata kama hawatapimwa. "Bila shaka tutabobea. Tunahitaji madaktari na wanakemia, lakini pia tunahitaji kile kilichokuwa kikiitwa watu wenye pande zote. Kila kitu kinavutia! Wanadamu wanazaliwa na ubongo mkubwa. Mara nyingi hatuutumi."
Baada ya elimu rasmi, angeweka wasanii na wasomi wa umma katika kila ngazi. "Sanaa si tasnia ya burudani," kama anavyoiweka katika 12 Bytes. "Sanaa daima imekuwa mieleka ya kufikirika na ya kihisia na ukweli – mfululizo wa uvumbuzi na ubunifu. Uwezo wa kufikiri tofauti, utayari wa kubadilisha uelewa wetu wa sisi wenyewe. Kutusaidia kuwa watu wenye hekima zaidi, wenye kutafakari zaidi, wasioogopa sana. Wasanii hutengeneza kitu kutoka kwa kitu chochote kila siku."
Tunakutana kabla Jacob Coxon hajaacha kazi yake katika Anthropic kuonya kuhusu uwezekano wa 10% kwamba AI inaweza kufuta ubinadamu, ikisababisha wimbi la hofu kote ulimwenguni. Baadaye, naangalia jinsi Winterson anavyojisikia sasa kuhusu matumaini. Mbaya zaidi "inaweza kutokea," anarudia. Lakini "ukubwa wa matokeo mazuri ni wa kweli kama vile ukamilifu wa kushindwa kwetu kufanya hili sawa." Zaidi ya yote, "hii ni uamuzi wa kibinadamu na hali ngumu ya kibinadamu. Hii ni nafasi yetu kubwa. Labda nafasi yetu ya mwisho, kama mwenzake Turing Jack Good alivyosema alipoita AI uvumbuzi wetu wa mwisho. Kila kitu kiko kwenye mchezo."
Tunaweza tu kutumaini kuwa haijachelewa.Kitabu chake cha hivi karibuni ni One Aladdin, Two Lamps. Pia anaandika katika jeanettewinterson.substack.com.
One Aladdin, Two Lamps ya Jeanette Winterson (Vintage Publishing, £12.99). Ili kusaidia The Guardian, agiza nakala yako kwa £10.39 katika guardianbookshop.com. Gharama za usafirishaji zinaweza kutumika.
Maswali Yanayoulizwa Mara kwa Mara
Hapa kuna orodha ya Maswali Yanayoulizwa Mara kwa Mara kuhusu maoni ya Jeanette Winterson kuhusu AI na mustakabali wa ubinadamu kulingana na insha yake There is no inevitable dystopia
Maswali ya Mwanzo
1 Jeanette Winterson ni nani
Yeye ni mwandishi na profesa wa Uingereza anayejulikana kwa riwaya kama Oranges Are Not the Only Fruit Katika miaka ya hivi karibuni ameandika na kuzungumza sana kuhusu akili bandia na athari zake kwa jamii
2 There is no inevitable dystopia inamaanisha nini
Inamaanisha mustakabali mbaya hauhakikishiwa Kwa sababu tu AI inaweza kusababisha matatizo haimaanishi itafanya hivyomatokeo yanategemea chaguo ambazo watu wanafanya sasa
3 AI ni nini kwa maneno rahisi
AI ni teknolojia inayowezesha mashine kufanya kazi ambazo kawaida zinahitaji kufikiri kwa kibinadamu kama kuelewa lugha kutambua picha au kufanya maamuzi
4 Dystopia ni nini
Dystopia ni jamii ya kufikirika ya hali mbaya zaidi fikiria ulimwengu unaotawaliwa na mashine wenye uhuru uliopotea na mateso yaliyoenea
5 Ujumbe mkuu wa Winterson ni nini
Anasema kwamba mustakabali wa AI uko kwetu Hatupaswi kuogopa teknolojia au kuikubali kipofu tunapaswa kuiumba kwa maadili ya kibinadamu ubunifu na utunzaji
6 Je yeye ni dhidi ya AI
Hapana Yeye si dhidi ya teknolojia Yeye ni dhidi ya kuruhusu teknolojia kuendelea bila usimamizi wa kibinadamu na dhidi ya kuchukua mustakabali mbaya kama usioweza kuepukika
7 Anafikiri AI inamaanisha nini kwa ubinadamu
Anaiona AI kama kioo cha ubinadamu inaakisi sisi ni nani Ikiwa tutaijenga kwa huruma na kusudi inaweza kutusaidia ikiwa tutaijenga kwa uangalifu inaweza kutudhuru
Maswali ya Kati
8 Kwa nini Winterson anasema AI ni kioo
Kwa sababu AI inajifunza kutoka data na chaguo za kibinadamu Inaakisi ubaguzi wetu maadili na vipaumbele vyetu kwa hiyo inatuonyesha ni aina gani ya jamii tumeunda
9 Ni matatizo gani ya kawaida anayoyasisitiza kuhusu AI
Anaelekeza kwenye hatari kama kupoteza faragha mkusanyiko wa mamlaka katika makampuni makubwa ya teknolojia usumbufu wa ajira na hatari ya kuchukua ufanisi kama muhimu zaidi kuliko utu wa kibinadamu
10 Ni faida gani anazoziona katika AI
Anaona uwezekano katika AI kwa huduma za afya ufikiaji ubunifu na kuwaachilia watu kutoka kazi za kurudia ikiwa itaongozwa na mahitaji ya kibinadamu badala ya faida pekee
"
Hakuna dystopia isiyoepukika": Jeanette Winterson kuhusu AI na mustakabali wa ubinadamu
