'Minä olen ammatiltani tarinankertoja', kirjoittaa Jeanette Winterson vuoden 2021 kirjansa 12 Bytes ensimmäisellä sivulla, joka on epätavallinen ja ajatuksia herättävä esseekokoelma, jossa hän pohtii, miten tekoäly saattaa muuttaa kaikkia elämämme osa-alueita. 'Ja minä tiedän, että kaikki mitä teemme on fiktiota, kunnes siitä tulee totta: unelma lentämisestä, unelma avaruusmatkailusta, unelma puhumisesta jollekulle välittömästi, halki ajan ja avaruuden, unelma kuolemattomuudesta – tai paluusta.' Hän oli jo ainakin 15 vuoden ajan pohtinut mahdollisia tulevaisuuksiamme – hänen vuoden 2007 romaaninsa The Stone Gods esimerkiksi kuvitteli ilmastokatastrofin jälkeisen maailman, jota asuttavat robotit ja ihmiset, jotka eivät koskaan vanhene, kun taas 12 Bytesiä edelsi Frankisstein: A Love Story, joka vuorottelee Mary Shelleyn Frankensteinin kirjoittaman kesän uudelleenluomisen ja transsukupuolisen lääkärin matkojen välillä nykypäivän kryoniikka-asiantuntijoiden ja tekoälyllä varustettujen robottien parissa. Kun tapaamme, Winterson on juuri palannut Kiinasta, jossa, hän kertoo minulle, hänen esikoisromaaninsa Oranges Are Not the Only Fruit, fiktionalisoitu kertomus hänen lapsuudestaan, on myynyt yli miljoona kappaletta viimeisen kuuden vuoden aikana; yli 200 000 ihmistä, pääasiassa nuoria naisia, yritti tulla kuulemaan häntä. Hän uskoo tämän johtuvan siitä, että maailmassa, jossa on pitkiä työpäiviä ja tekoälyn aiheuttamaa kasvavaa turvattomuutta, tämä fiktionalisoitu kertomus hänen omasta pakenemisestaan loukkuun jääneestä lapsuudesta antaa lukijoille luvan kuvitella itselleen erilainen tulevaisuus. Hän on sittemmin kirjoittanut 13 romaania aikuisille sekä tietokirjallisuutta, novelleja, lastenkirjoja ja käsikirjoituksia. Nyt hän haluaa suostutella tuotantoyhtiö Goalhangerin antamaan hänelle podcastin. 'Haluan tehdä sellaisen nimeltä The Rest is Human', hän sanoo istuessaan paljaan puupöydän ääressä kodissaan, georgiaanisessa huonesarjassa kaupan yläpuolella – jonka hän myös omistaa – Spitalfieldsissä, Itä-Lontoossa. 'Nähdäkseni, mitä säilytämme itsellemme tässä päättömässä kiireessä ulkoistaa kaikki, mitä luulimme olevamme.' Näytä kuva kokoruudullaWinterson: 'Meillä on markkinat, jotka eivät oikeastaan tiedä, mitä varten koulutus on.' Kuva: Poseeranneet mallit; SDI Productions/Getty Images Koska olemme, hän väittää, käännekohdassa tarinassamme lajina. Teolliseen vallankumoukseen asti muutos oli kaikki 'Äiti Luonnosta ja hitaasta tulemisen prosessista', mutta sitten me 'puutuimme asiaan valtavassa mittakaavassa. Ja se on ratkaiseva hetki.' Tietojenkäsittely, 70 vuotta sitten, oli toinen askel. Tekoäly – jota hän mieluummin kutsuisi vaihtoehtoiseksi älykkyydeksi – on seuraava, ja 'evolutionaarinen harppaus. Sitä tämä on. Tekoäly on paljon muutakin kuin työkalu.' Tämän huomioon ottaen tietynlaisen ymmärryksen siitä, mikä on redusoimatonta ihmisyyttä – tunteemme, mielikuvituksemme, vuosisatojen tutkimuksemme siitä, keitä olemme ja mitä olemme tehneet – on oltava keskeistä sille, miten hyvin tai huonosti asiat saattavat mennä. Hän on usein silmiinpistävän optimistinen sen suhteen. Hän kuvittelee esimerkiksi suhteen tekoälyyn, jossa voit 'jutella järjestelmäsi kanssa. Se tulee katsomaan kaikkea. Se tulee etenemään sellaisella nopeudella. Se tulee tarkastelemaan liikennettä. Se tulee tarkastelemaan yleishyödyllisiä palveluita. Se tulee tarkastelemaan työllisyyttä, työaikoja ja sanomaan: "Mistä nämä oudot olennot nimeltä ihmiset kukoistavat? Mistä he pitävät? Ja ovatko he aina pitäneet siitä?" Voisimme tehdä tämän aidosti utopistisella tavalla ja sanoa: "No niin, me teemme siitä parempaa."' Olemme syvästi merkityksellisellä valinnan hetkellä, hän uskoo, joka peilaa valintaa, jonka kohtasimme teollisessa vallankumouksessa – nimittäin: 'Minkä tulevaisuuden rakennamme?' Mutta laiminlyömällä jakaa hyödyt oikeudenmukaisesti teollinen vallankumous käynnisti aikakauden, jolla oli ennennäkemätöntä vaurautta harvoille ja ennennäkemätöntä kurjuutta monille – tilanne, jonka monet ennustavat paitsi jo toistuvan, myös jäävän varjoon tekoälyn seurausten rinnalla: pysyvä alaluokka, kokonaiset maanosat, jotka jätetään jälkeen ja joilta riistetään nykyiset tulonlähteet. Puhumattakaan datakeskusten ympäristövaikutuksista tulevat aikana, jolloin maailmalla on siihen vähiten varaa. Ongelma ei ole tekoäly, hän korostaa, vaan me. "Ei ole mitään väistämätöntä dystopiaa." Jos asiat menevät pieleen, se johtuu "vanhanaikaisesta ajattelusta, joka on asetettu tämän upouuden todellisuuden päälle." Erityisesti: "Ajatus siitä, että merkityksetön loputon työ on hyväksi sielulle, on 1800-luvun hulluutta, joka on suunniteltu pitämään ihmiset paikoillaan. Suurin osa siitä, mitä pelkäämme tekoälyn ja työpaikkojen suhteen, palautuu poliittisiin ja taloudellisiin valintoihin, jotka isäntämme tekevät, aivan kuten he tekivät teollisessa vallankumouksessa." Hän ei ole sokean optimistinen. Hän tietää, että "kyllä, olemme matkalla sotkemaan tämän mahdollisuuden muuttaa perusteellisesti suhdettamme työelämään" – mutta se johtuu siitä, että "isäntämme käyttävät vanhentuneita, tarkoitukseensa sopimattomia talousmalleja."
Näytä kuva kokoruudulla 'Sen, mitä tiedämme ihmisistä, on, että he rakastavat monopoleja.' Kuva: Sarah Lee/The Guardian
Mutta ongelmana eivät ole vain vanhat voittaja-vie-kaiken, "rationaaliset" tarkoitus pyhittää keinot -talousmallit. Virheelliset oletuksemme ja ennakkoluulomme, jotka muodostavat materiaalin, jolla suuret kielimallit (LLM:t) koulutetaan, on rakennettu tekoälyn kudokseen. Puhumattakaan niiden luonteesta ja moraalisesta mielikuvituksesta, jotka sitä kehittävät. Kun tapaamme, Winterson lukee Jill Leporen The Rise and Fall of the Artificial State -teosta ja toistaa Leporen argumentin, että elämme nyt "niitä sci-fi-kirjoja, joita nämä [miehet, jotka] hallitsevat maailmaa lukivat ollessaan 13-vuotiaita. Ja hän sanoi: 'Me olemme nyt kaikki peiton alla näiden poikien ja heidän taskulamppujensa kanssa. Ja juttu on, että he eivät lukeneet niitä varoituksina siitä, miten säilyttää se, mikä meissä on hyvää. He lukivat ne käyttöohjeina.' Se on täysin kauhistuttavaa."
Yksi iso asia, jonka he näyttävät ottaneen näistä kirjoista, ja josta Winterson ei voi olla kiehtoutumatta, on "Silicon Valleyn perimmäinen tavoite … päästä eroon kehosta ja pois planeetalta" – ei vähiten siksi, että hän on niin tietoinen siitä, että humanismi, jossa kaikki palautetaan meihin itseemme, havaintoihimme ja kehoihimme, on historiallisesti niin tuoretta. Ihmiset sanovat: "Nämä ovat koneita, et voi olla suhteessa niihin", hän sanoo. "Minä katson heitä ja sanon: 'miljardit ihmiset tällä Maalla juuri nyt käyvät syvällisintä suhdettaan ei-biologiseen olentoon, jota he kutsuvat taivasjumalakseen.' Eikö niin? Näin on aina ollut! Me olemme ehdottomasti valmistautuneet olemaan huolehtimatta siitä, että biologia olisi kaikki meissä. Siksi uskonto keksittiin – se on maailman ensimmäinen häiritsevä startup. Se on siellä sanomassa, että tämä ei ole se. Tämä ei ole loppu, tällä ei ole väliä, tämä on siirtymä."
Näytä kuva kokoruudulla Kuvitus Leedsin tehtaasta toisen teollisen vallankumouksen aikana. Kuva: Universal History Archive/Universal Images Group/Getty Images
Joten me kirjaimellisesti teemme omia jumaliamme? "Täysin! Se, mitä teknologia tekee nyt, on sitä, mitä uskonto on aina halunnut", mikä on kaikkein perustasolla ratkaisu kuoleman ongelmaan. "Tarkoitan, onko koskaan ollut aikaa, jolloin uskonto ja tiede esittävät saman kysymyksen valistuksen jälkeen? Molemmat sanovat: 'Onko tietoisuus velvollinen materiaalisuuteen?' Ja uskonto on aina sanonut ei. Ja tiede on aina sanonut kyllä. Ja nyt tiede sanoo: 'Öö, eiii.'" Tiedäthän, minulle, sieltä mistä tulen" – lapsuus fundamentalistisessa kristinuskossa 1960-luvun Accringtonissa ja koulutus saarnaajaksi – "tämä on täysin kiehtovaa." Myöhemmin, sähköpostitse, hän lisää: "Rakastan kehoani, mutta olisin onnellinen voidessani muuttaa muotoa. Onnellinen voidessani luiskahtaa siitä ulos puhtaaseen tietoisuuteen jonain päivänä, ja tietenkin ihmiset sanovat, ettei ole tietoisuutta ilman kehoa, ja se oli tieteellinen uskomus. Mutta nyt? Haha."
Minun on sanottava, että väittäisin päinvastaista, että edistysaskeleet neurotieteessä, immunologiassa ja psykoterapiassa tarkoittavat, että se on enemmän tieteellinen uskomus kuin koskaan. Puhumattakaan siitä tosiasiasta, että tekoäly on myös täysin riippuvainen fyysisestä järjestelmästä, joka tunnetaan myös datakeskuksina. Vaikka, kuten hän huomauttaa, on tärkeää muistaa, että "koneilla ei ole limbistä järjestelmää. Ne ovat vain neuroverkkoja. Mutta meillä on kaksi järjestelmää – olemme kuin hybridiauto, jossa on kaksi voimansiirtoa, joten meillä on neuroverkko, rationaalinen käsittelyminämme, ja meillä on limbinen järjestelmä, joka on paljon vanhempi ja joka on taistele-pakene-jähmety, ja josta kaikki tunteemme tulevat." Ehkä irtautuminen limbisestä on seuraava vaihe, hän sanoo, eikä se todellakaan ole kaikin puolin hyvä. "Ehkä päätämme, että emme tarvitse tätä tunnekoneetta … sinne teknologiaveljet ovat menossa. En tiedä, oletko koskaan istunut huoneessa joidenkin näiden isompien tyyppien kanssa, koska se on hyvin mielenkiintoista. He eivät ole yhteydessä tunteisiinsa. He pitävät niitä tavallaan hankalina."
Tämä teknologian mahdollistama eräänlainen transsendenssi näyttää saapuneen yhdessä uskon vaatimuksen kanssa – teknologiaan, tulevaisuuteen, jota se rakentaa, ihmisiin, jotka rakentavat tuota tulevaisuutta, sen ennustuksiin sekä utopistisesta taivaasta että eri sävyisistä helveteistä, kaikki ylipappien toimesta, jotka mustasukkaisesti vartioivat pääsyä siihen, mitä todella tapahtuu. "Sen, mitä tiedämme ihmisistä, on, että he rakastavat monopoleja", sanoo Winterson, "koska se on vallan keskittämistä. Tietenkin se voidaan yhtiöittää, monopolisoida siinä määrin, että siitä tulee kuviteltavissa olevin pahin vankila", kuten kerrotaan Joanna Kavenna loistavassa vuoden 2019 dystopiaromaanissa Zed. "Se on todellinen mahdollisuus", hän sanoa. "Ja siksi tarvitsemme ihmisiä, jotka ovat eräänlaisia vapaasti liikkuvia ihmisiä, jotka osaavat ajatella."
Näytä kuva kokoruudulla
Winterson … 'Näytä minulle lapsi, joka ei halua kuulla tarinaa.' Kuva: Poseeranneet mallit; MoMo Productions/Getty Images
Ongelmana on sitten se, miten tuemme – tai kehitämme – tällaisia ihmisiä. "On oikeastaan kaksi tapaa tietää, että sinulla on tulevaisuus", väitti Alex Karp, Palantirin toimitusjohtaja, äskettäin. "Yksi, sinulla on ammatillista koulutusta. Tai kaksi, olet neuroepätyypillinen." Daniela Amodei, Anthropicin presidentti ja itse kirjallisuuden maisteri, kun häneltä kysyttiin suunnilleen samaa, oli eri mieltä. "Itse asiassa uskon, että humanististen tieteiden opiskelu tulee olemaan tärkeämpää kuin koskaan", hän sanoi, koska "asioista, jotka tekevät meistä ihmisiä, tulee paljon tärkeämpiä sen sijaan, että niistä tulisi paljon vähemmän tärkeitä." Mikä tekee humanististen tieteiden roviosta Isossa-Britanniassa hieman huolestuttavan: joulukuuhun 2024 päättyvänä vuonna menetettiin 4 000 työpaikkaa yhteiskuntatieteissä, humanistisissa tieteissä ja taiteissa. Exeterin yliopisto ilmoitti äskettäin leikkaavansa 150 tehtävää, mikä vaikuttaa kahdeksaan kymmenestä humanististen tieteiden, taiteiden ja yhteiskuntatieteiden tiedekunnan akateemisesta työntekijästä, kun taas viime kuussa Nottingham ilmoitti lopettavansa nykyaikaisten kielten ja musiikin tutkinnot. Joissakin yliopistoissa humanistiset tieteet ovat tämän lehden raportin mukaan vaarassa "sammua" kokonaan.
Miksi pelastaa humanistiset tieteet? Yksi vastaus voisi olla, että ne opettavat käsityksen siitä, mistä tulemme ja keitä olemme, mikä myös tuntuu uhatulta. "Valtavat määrät opiskelijoita tulee valmistumaan yliopistosta tutkintojen kanssa ja siirtymään työvoimaan, ja he ovat pohjimmiltaan lukutaidottomia", eräs professori kertoi New York -lehdelle vastauksena ensimmäiseen korkeakoulutukseen saapuvaan tekoälynatiivien erään. "Sekä kirjaimellisessa mielessä että siinä mielessä, että he ovat historiallisesti lukutaidottomia eikä heillä ole tietoa omasta kulttuuristaan, saati sitten kenenkään muun." Se uhkasi MIT:n raportin mukaan olla eräänlainen sukupolvien "kognitiivinen antautuminen". Toinen on prosessit, joilla ihmisiä pitäisi opettaa – lukeminen ja luetun kriittinen tarkastelu ja sitten kyettävä kirjoittamaan johdonmukaisia puolustuksia näille kritiikeille. Intuitioidesi kampeaminen esseeseen auttaa sinua löytämään, mitä ajattelet – ja miten ajattelet – ja miten muiden ihmisten ideat toimivat. Winterson, joka opiskeli englantia Oxfordissa ja on ollut uuden kirjoittamisen professori Manchesterin yliopistossa 14 vuotta sekä opettanut "vapaasti ajattelevaa luokkaa luovuudesta", on samaa mieltä. Mutta hän suhtautuu halveksivasti suureen osaan nykyisestä järjestelmästä. "Ehkä olen tässä kiistanalainen, mutta minä todella ajattelen, että korkeakoulutus tarvitsee ylhäältä alas -uudistuksen. En usko, että se on elinkelpoinen, enkä usko, että se toimittaa tehtäväänsä nykyisessä muodossaan." Juttu on, että "Meillä on markkinat, jotka eivät oikeastaan tiedä, mitä varten koulutus on. Onko se työpaikkoja varten? Onko se henkilökohtaista kasvua varten? On myös paljon arvottomia korkeakoulukursseja, jotka eivät auta. Minusta on aina parempi, käytännöllisenä pohjoisen tyttönä, kohdata tosiasiat aluksi."
Meidän on ajateltava, hän sanoo, "mitä meille on varattu, mitä koneet eivät tule tekemään isompana, parempana, nopeampana, vahvempana. Ja siinähän korkeakoulutus todella tulee mukaan. Kysymys, joka istuu kaikkien näiden asioiden päällä – 'Miksi nämä työpaikat katoavat?', 'Mitä näillä kursseilla tapahtuu, jotka eivät enää saa hakijoita?' – on 'Millaisia ihmisiä tarvitsemme tulevassa maailmassa? Mitä varten ihmiset ovat? Mitä me aiomme tehdä itsellemme?'" Ja se "vie meidät takaisin ajatukseen, että no niin, miten kehität mielen? Miten suojelet mieltä? Koska mieli on tämä valtava, hirviömäinen paikka, jossa mitä tahansa voi tapahtua."
Ja tätä varten "humanistinen koulutus on välttämätöntä. Meidän on keskitettävä ihminen tähän. Muuttamalla tapaa, jolla koulutamme lapsiamme alusta alkaen, voimme nostaa etualalle luovuuden, leikin, ongelmanratkaisun, ajattelun – koska ajatteleminen on hauskaa – taiteet, koska ihmiset ovat luonnostaan luovia. Näytä minulle lapsi, joka ei halua kuulla tarinaa tai tanssia tai maalata kuvaa tai leikkiä mielikuvitusystävän kanssa. Tätä ei ole pakotettu, eikä se ole elitismiä. Se olemme me."
Jopa tunti viikossa, hän ajattelee, tekisi eron. "Kysytään, mitä mieltä olet maailmasta. 'Miksi ajattelet niin?' Se ei ole kallista. Siinä on oikeastaan kyse tahdosta." Opeta matematiikkaa ja taiteita ja tiedettä, hän ehdottaa, ainakin A-tasolle asti, vaikka niitä ei tutkittaisikaan. "Tietenkin me erikoistumme. Tarvitsemme lääkäreitä ja kemistejä, mutta tarvitsemme myös sitä, mitä ennen kutsuttiin monipuolisesti sivistyneiksi ihmisiksi. Kaikki on kiinnostavaa! Ihmiset syntyvät suuren aivon kanssa. Suurimmaksi osaksi emme käytä sitä."
Kun muodollinen koulutus on ohi, hän sijoittaisi taiteilijoita ja julkisia intellektuelleja joka tasolle. "Taiteet eivät ole vapaa-ajan teollisuutta", kuten hän asian ilmaisee teoksessa 12 Bytes. "Taiteet ovat aina olleet mielikuvituksellista ja emotionaalista painia todellisuuden kanssa – sarja keksintöjä ja luomuksia. Kyky ajatella toisin, halukkuus muuttaa ymmärrystämme itsestämme. Auttaa meitä olemaan viisaampia, pohdiskelevampia, vähemmän pelokkaita ihmisiä. Taiteilijat tekevät jotain tyhjästä joka päivä."
Tapaamme ennen kuin Jacob Coxon erosi työstään Anthropicilla varoittaakseen 10 prosentin mahdollisuudesta, että tekoäly saattaa pyyhkiä ihmiskunnan, lähettäen paniikkiaallon ympäri maailmaa. Jälkeenpäin tarkistan, miten positiiviselta Winterson nyt tuntee. Pahin "voi tapahtua", hän toistaa. Mutta "hyvän lopputuloksen valtavuus on yhtä todellinen kuin täydellinen epäonnistumisemme saada tämä oikein." Ennen kaikkea "tämä on inhimillinen päätös ja inhimillinen pulma. Tämä on suuri tilaisuutemme. Ehkä viimeinen tilaisuutemme, aivan kuten Turingin kollega Jack Good sanoi kutsuttuaan tekoälyä viimeiseksi keksinnöksemme. Kaikki on pelissä."
Voimme vain toivoa, ettei ole liian myöhäistä.Hänen uusin kirjansa on One Aladdin, Two Lamps. Hän kirjoittaa myös osoitteessa jeanettewinterson.substack.com.
One Aladdin, Two Lamps, Jeanette Winterson (Vintage Publishing, 12,99 puntaa). Tukeaksesi Guardiania, tilaa kappaleesi hintaan 10,39 puntaa osoitteesta guardianbookshop.com. Toimituskulut voivat päteä.
Usein kysytyt kysymykset
Tässä on luettelo usein kysytyistä kysymyksistä Jeanette Wintersonin näkemyksistä tekoälystä ja ihmiskunnan tulevaisuudesta hänen esseesään There is no inevitable dystopia
Aloittelijakysymykset
1 Kuka on Jeanette Winterson
Hän on brittiläinen kirjailija ja professori, joka tunnetaan romaaneistaan kuten Oranges Are Not the Only Fruit. Viime vuosina hän on kirjoittanut ja puhunut laajasti tekoälystä ja sen vaikutuksesta yhteiskuntaan
2 Mitä There is no inevitable dystopia tarkoittaa
Se tarkoittaa, että huono tulevaisuus ei ole taattu. Se, että tekoäly voisi aiheuttaa ongelmia, ei tarkoita, että se aiheuttaisi – lopputulos riippuu valinnoista, joita ihmiset tekevät nyt
3 Mitä tekoäly on yksinkertaisesti sanottuna
Tekoäly on teknologiaa, jonka avulla koneet voivat tehdä tehtäviä, jotka normaalisti vaativat ihmisen ajattelua, kuten kielen ymmärtämistä, kuvien tunnistamista tai päätösten tekemistä
4 Mikä on dystopia
Dystopia on kuviteltu pahin mahdollinen yhteiskunta – ajattele maailmaa, jota hallitsevat koneet, jossa on menetetty vapaus ja laajalle levinnyt kärsimys
5 Mikä on Wintersonin pääviesti
Hän väittää, että tekoälyn tulevaisuus on meistä kiinni. Meidän ei pitäisi pelätä teknologiaa tai hyväksyä sitä sokeasti – meidän pitäisi muovata sitä inhimillisillä arvoilla, luovuudella ja huolenpidolla
6 Onko hän tekoälyä vastaan
Ei. Hän ei ole teknologiavastainen. Hän on sitä vastaan, että teknologian annetaan kehittyä ilman ihmisen valvontaa, ja sitä vastaan, että huonoa tulevaisuutta pidetään väistämättömänä
7 Mitä hän ajattelee tekoälyn merkitsevän ihmiskunnalle
Hän näkee tekoälyn ihmiskunnan peilinä – se heijastaa sitä, keitä olemme. Jos rakennamme sitä empatialla ja tarkoituksella, se voi auttaa meitä; jos rakennamme sitä huolimattomasti, se voi vahingoittaa meitä
Keskitasokysymykset
8 Miksi Winterson sanoo tekoälyn olevan peili
Koska tekoäly oppii ihmisten datasta ja valinnoista. Se heijastaa ennakkoluulojamme, arvojamme ja prioriteettejamme – joten se näyttää meille, millaisen yhteiskunnan olemme luoneet
9 Mitä yleisiä ongelmia hän korostaa tekoälyssä
Hän viittaa riskeihin, kuten yksityisyyden menettämiseen, vallan keskittymiseen suuriin teknologiayrityksiin, työpaikkojen häiriintymiseen ja vaaraan pitää tehokkuutta tärkeämpänä kuin ihmisarvoa
10 Mitä hyötyjä hän näkee tekoälyssä
Hän näkee tekoälyssä potentiaalia terveydenhuoltoon, saavutettavuuteen, luovuuteen ja ihmisten vapauttamiseen toistuvasta työstä – jos sitä ohjaavat ihmisten tarpeet eivätkä pelkkä voitto
Mitään väistämätöntä dystopiaa ei ole": Jeanette Winterson tekoälystä ja ihmiskunnan tulevaisuudesta
