Bill Gatesista Bernie Sandersiin useimmat ovat yhtä mieltä siitä, että tekoälyn kilpavarustelu on katastrofi. Vain Euroopalla on valta pysäyttää se.

Tähän mennessä pitäisi olla selvää, että tekoäly on kuin valitse-seikkailusi-kirja, jossa jokainen polku johtaa katastrofiin. Räjähtävät hiilidiöksidipäästöt ja ekologinen romahdus? Käänny sivulle 37. Muita mahdollisia lopputuloksia ovat jotkin tai kaikki seuraavista: kupla puhkeaa ja laukaisee finanssikriisin; massatyöttömyys automatisaatiosta; demokratian loppu ja autoritaaristen valvontavaltioiden nousu; fanaattiset kultit, jotka uskovat kaavoja tunnistavan algoritmin olevan tietoinen; terroristit luovat tuhoisia bioaseita; valtiot ottavat käyttöön autonomisia aseita, jotka toimivat aikaskaaloilla, joita ihmiset eivät kykene käsittämään; valtiot tai terroristit hakkeroivat lukemattomat järjestelmät, joihin luotamme; tai tekoäly, joka tietoinen tai ei, tavoittelee päämääriä, jotka ovat ristiriidassa ihmisten hyvinvoinnin kanssa. Kuvitella, että hahmot kuten Elon Musk, OpenAI:n Sam Altman, Palantirin Peter Thiel tai Trumpin teknologia-avustaja Marc Andreessen johtavat meidät utopistiseen tulevaisuuteen, jossa vallitsee ympäristön harmonia, sosiaalinen rauha ja loputon vapaa-aika, vaatii niin äärimmäistä harhaluuloisuutta ja imartelua, että vain ChatGPT:n kirjoittama valitse-seikkailusi-kirja voisi sen loihtia esiin. On olemassa kasvava, vaikkakin pitkään myöhässä ollut tunnustus siitä, että olemme matkalla kohti katastrofia, sekä vaatimuksia hidastaa, säädellä tai jopa pysäyttää kaikki tämä sillä välin kun yritämme selvittää asiaa. Nämä vaatimukset eivät tule vain aktivisteilta, vaan laajalta joukolta poliitikkoja, asiantuntijoita ja suurteknologiayritysten sisäpiiriläisiä, jotka ovat liian moninaisia sivuutettaviksi – Bernie Sandersista Bill Gatesiin, joka sanoi hiljattain: "Jos jollakulla olisi uskottava suunnitelma tekoälyn kehityksen hidastamiseksi maailmanlaajuisesti, tukisin sitä todennäköisesti." Hän on vain viimeisin sisäpiiriläinen, joka myöntää sen, minkä tekoälyyritys Anthropic tunnusti aiemmin tänä kesänä vaatiessaan "jarrupoljinta". Toimialan itsesäätely ei toimi. Jos tauko halutaan, se on määrättävä ulkopuolelta. Tästä huolimatta kansainvälinen sopimus on valitettavasti epätodennäköinen. Tekoäly on kuin ydinaseet ja noudattaa samaa logiikkaa: jokainen toimija pakotetaan juoksemaan tätä holtitonta kilpailua, ainoana perustelunaan se, etteivät he halua olla voittajan armoilla. Paras mahdollisuus hidastaa asioita näyttäisi olevan se, että yksi toimija hallitsisi kriittistä pullonkaulaa ja sillä olisi syy sulkea se. Mielenkiintoista kyllä, EU:lla on tällainen kortti hallussaan – ja sillä on jopa motiivi pelata se, jos se uskaltaa. Katso kuva kokoruutuna Taiwanilaisen piirivalmistajan TSMC:n tehdas Nanjingissa, Kiinassa. Valokuva: Sipa US/Alamy Alankomaalainen teknologiayritys ASML on Euroopan arvokkain yritys ääriultravioletti- (EUV) litografiakoneiden tuotantonsa ansiosta. Nämä ovat välttämättömiä maailman edistyneimmälle piirivalmistukselle ja yksi harvoista mahdollisista pullonkauloista koko tekoälyteollisuudelle. ASML on hallinnut teknologian ja monimutkaisen toimitusketjun, joita näiden 400 miljoonan dollarin koneiden rakentaminen vaatii. Koneet etsivät kuvioita piille kohdistamalla valoa 13,5 nanometrin aallonpituuteen (noin 1/10 000 ihmisen hiuksen leveydestä). Ilman sen koneita ei ole piirejä; ilman piirejä ei ole enää datakeskuksia. Tämä vaikuttaa kaikkeen taiwanilaisen piirivalmistajan TSMC:n 265 miljardin dollarin investoinnista tuleviin valmistuslaitoksiin (tunnetaan nimellä "fabs") siihen 7 biljoonan dollarin arvoiseen datakeskusmäärään, jonka alan odotetaan rakentavan maailmanlaajuisesti (enimmäkseen Yhdysvaltoihin) vuoteen 2030 mennessä. Ilman lisää datakeskuksia, jotka käyttävät näitä nykyisiä ja seuraavan sukupolven piirejä, tekoälyn eksponentiaalinen kasvu – ja riski – pysähtyisi. Tästä syystä Yhdysvaltain hallitus asettaa alueellisia vientivalvontatoimia ASML:lle, estäen sen edistyneimpien EUV-koneiden myynnin Kiinaan hidastaakseen sen piirivalmistuskykyä. Asettamalla nämä rajoitukset ASML:lle Yhdysvallat on paljastanut oman heikkoutensa tässä pullonkaulassa: yhtä paljon kuin Eurooppa riippuu (lopulta korvattavista) taloudellisista ja ohjelmistopalveluista Yhdysvalloista, kaikkien piipohjaisten teknologioiden tulevaisuus riippuu täysin ASML:stä. Suora vientikielto ASML:n koneille pakottaisi globaalin tekoälyteollisuuden käytännössä polkemaan vettä tai juoksemaan paikallaan. Syntyvä piiripula ja tekoälyn kehityksen hidastuminen antaisivat sääntelijöille aikaa päästä teknologian tasalle, lainsäätäjille aikaa päivittää kaikki tekijänoikeuslaista verolakiin ja yhteiskunnille aikaa käydä todellisia keskusteluja siitä, minkä roolin haluamme tekoälylle elämässämme. Miksi EU tekisi tällaista? Ei vain humanistisista syistä, vaan myös oman edun vuoksi. Parhaassa tapauksessa täysi vientikielto johtaisi toimitusketjun uudelleenjärjestelyyn ja toisi enemmän keskeisiä päätöksiä EU:n hallintaan – missä ne olisivat ainoan toimijan valvonnan alaisia, joka on osoittanut säätelevänsä tekoälyä laajasti. Tietenkin paras tapaus on venytetty: on todennäköisempää, että Yhdysvallat kostaisi estämällä ASML:n pääsyn yhdysvaltalaisiin toimittajiin. Mutta vaikka niin tapahtuisi, se olisi silti EU:n edun mukaista provosoida tällainen yhteenotto puhtaan taloudellisen ja geopoliittisen oman edun kapean logiikan perusteella, koska EU lakkaisi jäämästä suhteellisesti jälkeen tekoälymalleissa ja niiden ajamiseen tarvittavassa datakeskusten "laskentatehossa" (prosessointitehossa). Euroopan omat tekoälyn puolestapuhujat ovat samaa mieltä – vaikka heitä huolestuttaa EU:n suhteellinen haitta, ei tekoälyn laaja riskivalikoima. Europe 2031 -projekti on teknopoliittinen ennuste, jonka on koonnut joukko alan asiantuntijoita, siitä mitä EU:lle voisi tapahtua, jos tekoäly mullistaa talouden radikaalisti ja EU jää kauas Yhdysvalloista. He väittävät, että Euroopan on kaadettava satoja miljardeja tekoälykilpavarusteluun ennen kuin sekä huippumallit että "laskentateho" muuttuvat sellaiseksi kuin TSMC ja ASML ovat tänään: hyötyjiksi, joiden etumatka on liian suuri minkään kilpailijan umpeen kurottavaksi. Heidän skenaariossaan jossain vaiheessa lähitulevaisuudessa EU pakotetaan asettamaan pääsy ASML:ään neuvottelupöydälle varmistaakseen pääsyn Yhdysvaltojen hallitsemiin malleihin ja laskentatehoon, joista sen talous ja turvallisuus tulevat riippumaan – vain huomatakseen, että ASML:n valta-asema on heikentynyt ajan myötä. (Mitä enemmän EUV-koneita viedään, sitä enemmän valmistuslaitoksia rakennetaan muualle, ja sitä enemmän aikaa Kiinalla ja Yhdysvalloilla on kopioida ASML:n teknologiaa.) Ydinaseteoristit ovat huolissaan siitä, että jos käsittämätön tapahtuisi, valtiot saattaisivat ajautua laukaisemaan aseet "käytä tai menetä" -laskelman vuoksi. Täsmälleen sama logiikka pätee ainoaan asiaan, joka voi pysäyttää tekoälyteollisuuden huimapäisen kehityksen: EU voi käyttää vipuvoimaa, jonka ASML sille nyt antaa, tai riskoida menettävänsä sen mahdollisuuden kokonaan. On harvinaista, että näin erilaiset ryhmät päätyvät samaan johtopäätökseen: on yksi ainoa eurooppalainen kortti pelattavana, ja se on pelattava. Sen sijaan että kilpailisimme kohti typeryyttä, lopetetaan kilpailu. Juuri nyt, ja kaikkien puolesta. Alexander Hurst kirjoittaa Guardian Europelle Pariisista. Hänen muistelmateoksensa Generation Desperation on juuri ilmestynyt. Usein kysytyt kysymykset Tässä on luettelo usein kysytyistä kysymyksistä artikkelin lähtökohdan perusteella aloittelijasta edistyneeseen. Aloittelijan kysymykset 1. Mikä tarkalleen ottaen on tekoälykilpavarustelu? Se on kiihkeä kilpailu teknologiayritysten välillä siitä, kuka rakentaa tehokkaimman tekoälyn ensimmäisenä. Turvallisuuden tai etiikan priorisoinnin sijaan he kiirehtivät julkaisemaan uusia malleja voittaakseen kilpailijansa ja vallatakseen markkinaosuuksia. 2. Miksi Bill Gates ja Bernie Sanders ovat samaa mieltä tästä? He tulevat täysin erilaisilta poliittisilta puolilta, mutta molemmat näkevät saman vaaran. Gates on huolissaan tekoälyn karkaamisesta ihmisen hallinnasta ja massiivisesta työpaikkojen menetyksestä. Sanders on huolissaan hillitsemättömästä yritysvallasta ja tekoälyn käytöstä työntekijöiden hyväksikäyttöön tai yleisön manipuloimiseen. Molemmat ovat samaa mieltä siitä, että puhtaat voittomotiivit eivät saisi sanella ihmiskunnan tulevaisuutta. 3. Miksi nimenomaan Eurooppa mainitaan ainoana, joka voi pysäyttää sen? Koska Yhdysvallat ja Kiina ovat lukittuina voittaja-ottaa-kaiken -teknologiasotaan eivätkä hidasta vauhtia. Eurooppa ei kuitenkaan johda tekoälykilpailua, joten sillä on vähemmän menetettävää. Vielä tärkeämpää on, että EU:lla on historia tiukkojen säädösten säätämisessä, jotka koskevat koko maailmaa – jos haluat tehdä liiketoimintaa Euroopassa, sinun on noudatettava heidän sääntöjään. 4. Mitä "pysäyttää se" oikeastaan tarkoittaa? Se ei tarkoita tekoälyn kieltämistä kokonaan. Se tarkoittaa vaarallisen kilpailun pysäyttämistä. Se tarkoittaa tiukkojen turvallisuustestien pakottamista, läpinäkyvyyden vaatimista siitä, mihin tekoäly pystyy, ja raskaiden sakkojen määräämistä yrityksille, jotka julkaisevat turvattomia tuotteita. Kyse on hidastamisen pakottamisesta, jotta turvallisuus ehtii vauhdin tasalle. 5. Onko tekoälykilpavarustelu todella katastrofi? Väite on, että se on. Katastrofi ei ole se, että tekoäly on olemassa – vaan vauhti. Yritykset tuovat markkinoille tehokkaita työkaluja ennen kuin ymmärrämme, miten ne vaikuttavat vaaleihin, työpaikkoihin tai mielenterveyteen. Katastrofi on holtittomuus, ei itse teknologia. Edistyneen tason kysymykset 6. Miten eurooppalainen sääntely itse asiassa pysäyttäisi amerikkalaiset yritykset? EU:lla on "Brysselin vaikutus". Jos amerikkalainen yritys kuten Meta tai OpenAI haluaa palvella 450 miljoonaa eurooppalaista kuluttajaa, sen on noudatettava EU:n lakeja. Jos EU sanoo, että superälykästä mallia ei saa ottaa käyttöön ilman kolmannen osapuolen turvallisuusauditointia, yrityksen on tehtävä se auditointi maailmanlaajuisesti.