Sirut ovat melko pieniä – osa mahtuu kämmenelle. Mutta ne ovat välttämättömiä tekoälymallien rakentamiseen, ja maailman suurimmat teknologiayritykset tarvitsevat valtavia määriä niitä pysyäkseen kilpailun kärjessä.
Microsoft on yksi näistä yrityksistä. Ja paperilla sillä näyttää olevan ongelma. Guardianin tutkimus on löytänyt ilmeisen ristiriidan sen välillä, mitä Microsoft on sanonut tekoälykapasiteetistaan ja kuinka monta kehittynyttä tekoälysirua sillä todellisuudessa on käytössä.
Eikä tämä ole pieni ero. Microsoftin kerrotaan tavoittelevan 1,8 miljoonaa tekoälysirua asennettuna datakeskuksiinsa maailmanlaajuisesti vuoden 2024 loppuun mennessä. Lähes kaksi vuotta myöhemmin, keskellä 280 miljardin dollarin laajennusta, yrityksellä on 2,2 miljoonaa tekoälysirua asennettuna Guardianin näkemien sisäisten asiakirjojen mukaan. Se on vähemmän kuin puolet siitä määrästä, jota jotkut asiantuntijat olivat odottaneet.
Yksinkertaisesti sanottuna globaali tekoälykilpailu edellyttää valtavien datakeskusten rakentamista, jotka toimivat erittäin kalliilla siruilla. Ilmeinen ristiriita viittaa siihen, että Microsoftin uusimmat datakeskukset eivät välttämättä ole täysin toiminnassa – tai jos ovat, niissä ei ole tarvittavia siruja.
Tämä viittaa myös suurempaan ongelmaan: tekoälyteknologian todellista kehitystä on vaikea seurata. Tekoälyä käyttävät sirut valmistaa Nvidia, joka on yksi maailman kahdesta arvokkaimmasta yrityksestä. Sen toimitusketju on yksi teollisuuden tarkimmin varjelluista salaisuuksista.
Lähes poikkeuksetta Nvidia ei raportoi, kuinka monta näistä siruista se myy tai kenelle. Sen asiakkaat – maailman suurimmat teknologiayritykset – eivät myöskään paljasta, kuinka monta niillä on. Ilman tätä tietoa kenenkään on erittäin vaikea tietää, onko tekoäly todella nousussa vai ei.
Microsoft: Voimatyhjiö?
Viimeisen kahden vuoden aikana Microsoft sanoo rakentaneensa tekoälyinfrastruktuuria huimaa vauhtia. Sen toimitusjohtaja Satya Nadella sanoi viime vuonna, että se kaksinkertaistaa globaalin datakeskusjalanjälkensä vuoden 2027 puoliväliin mennessä. Vuodesta 2022 lähtien se on investoinut noin 280 miljardia dollaria maahan, rakennuksiin ja laskentainfrastruktuuriin tekoälyn rakentamiseksi. Tämä sisältää yli 41 miljardia dollaria pelkästään viimeisellä neljänneksellä.
Mutta on vaikea arvioida, kuinka monta datakeskusta Microsoft on rakentanut näillä rahoilla.
Yksi tapa arvioida yrityksen edistymistä on tarkastella sen julkisia ilmoituksia, erityisesti energiantarpeita koskien. Datakeskukset vaativat sähköä, joten tapa arvioida, kuinka monta on toiminnassa, on laskea yhteen energia, joka Microsoftilla on käytettävissä – sen tekoälykapasiteetti.
Microsoftin omat väitteet vuosikertomuksissa ja neljännesvuosittaisissa tulosraporteissa viittaavat siihen, että se on lisännyt 5 gigawattia (GW) datakeskuskapasiteettia viimeisen kahden vuoden aikana osana tekoälylaajennustaan. Se sanoo, että sillä on nyt satoja datakeskuksia viidellä mantereella.
Viisi gigawattia on valtava määrä energiaa – neljä kertaa suurempi kuin Euroopan suurin datakeskusalue. Mutta Microsoftin kokonaiskapasiteetin pitäisi olla tätäkin suurempi; se on rakentanut tekoälyinfrastruktuuria vuodesta 2022 lähtien. Kuinka paljon suurempi, on avoin kysymys.
Vuoden 2024 sisäisessä esityksessä Microsoftin kerrotaan väittäneen, että sillä on jo 5 GW datakeskuskapasiteettia asennettuna. Tämä viittaisi siihen, että sillä voisi nyt olla yhteensä 10 GW. Ei ole selvää, ovatko kaikki nämä tekoälydatakeskuksia – jotkut voivat olla muita pilvipalveluita varten. Mutta Microsoftin omat lausunnot osoittavat, että sen viimeaikaisten menojen ylivoimainen painopiste on ollut tekoälyinfrastruktuurin rakentamisessa.
Kymmenen gigawattia tekoälydatakeskuksia viittaisi siihen, että Microsoftilla pitäisi olla noin 6,4 miljoonaa grafiikkaprosessoria (GPU). Shaolei Ren, Kalifornian yliopiston Riverside-profiilin professori, sanoi, että Microsoftin kestävyysraportit – jotka sisältävät sähkönkulutuslukuja ja julkaistaan erillään sen taloudellisista raporteista – antavat erilaisen kuvan. Hän sanoi, että nämä raportit viittaavat siihen, että Microsoftin tekoälykapasiteetti vuonna 2024 oli todennäköisesti lähempänä 1,2 GW. Mutta jopa tämä pienempi luku tarkoittaisi, että Microsoft tarvitsisi noin 4 miljoonaa tekoälysirua – jos se lisäsi 5 GW tekoälydatakeskuksia viimeisen kahden vuoden aikana.
"Omien mittareidensa mukaan Microsoft voi olla oikeassa. Mutta ei ole selvää, mitä he tarkoittavat sanoessaan lisänneensä datakeskuskapasiteettia. He antavat riittämättömästi kontekstia", Ren sanoi. "Kestävyysraportit on kolmannen osapuolen auditoimia. Niillä on enemmän uskottavuutta kuin ilmoituksilla."
Nvidiaan erikoistunut analyytikko sanoi uskovansa, että Microsoftilla olisi enemmän siruja sen julkisten lausuntojen perusteella. "Ne ovat minusta alhaisia. Ne ovat vähemmän kuin odotin Microsoftilla olevan", hän sanoi.
Microsoft vakuutti, että Guardianin laskelmat perustuivat virheelliseen tietoon. Se ei tarjonnut mitään näkemystä siitä, mitkä Guardianin luvuista olivat virheellisiä tai miksi. Mikä on selvää, on että Microsoftin tekoälykapasiteetin laajennus näyttää etenevän paljon hitaammin kuin sen vuosikertomukset saattavat antaa ymmärtää.
Ren sanoi: "Saattaa olla uskottavaa varmistaa tai ilmoittaa 1 GW tehokapasiteettia yhden neljänneksen sisällä paperilla. Mutta tuoda kyseinen kapasiteetti verkkoon ja todella käyttää sitä laskentaan saman neljänneksen sisällä olisi paljon vaikeampaa."
Microsoftin sisäiset lähteet sanovat, että yrityksen tekoälysirujen kokonaismäärä on "tuskin liikkunut" viimeisen vuoden aikana.
Osa ilmeisestä ristiriidasta voi selittyä Microsoftin kumppanuudella OpenAI:n kanssa. Heidän kaupallisen kumppanuutensa tarkat ehdot eivät ole julkisia, mutta tämä yksikkö voi selittää osan Microsoftin datakeskuskäyttöönotoista, jotka eivät olisi Guardianin näkemissä asiakirjoissa.
Katso kuva kokonaisuudessaan
Microsoftin datakeskus Middenmeerissä, Alankomaissa. Valokuva: ANP/Shutterstock
"Sinulla voi olla joukko siruja … joita et voi kytkeä"
On toinenkin tekijä: osa Microsoftin suurista hankkeista näyttää olevan kaukana toimintavalmiudesta.
Otetaan Microsoftin suurin tekoälykehitys Yhdysvalloissa, pari datakeskusta Wisconsinissa ja Georgiassa nimeltä Fairwater. Huhtikuussa Nadella, Microsoftin toimitusjohtaja, sanoi Fairwater-projektin Wisconsinissa "menevän käyttöön".
Satelliittikuvat rakennuksesta Epoch AI:lta näyttävät kuitenkin osoittavan, että vain osa siitä on toiminnassa. Toukokuussa Microsoft myönsi wisconsinilaiselle sanomalehdelle, että Fairwater ei ollut vielä verkossa.
Tämä on hyvin yleistä, Ren sanoi. Aluksi se oli monen gigawatin, monen miljardin dollarin investointi. Kolme vuotta myöhemmin vain 300 MW on rakennettu.
Katso kuva kokonaisuudessaan
Satya Nadella sanoi viime vuonna, että Microsoft kaksinkertaistaa globaalin datakeskusjalanjälkensä vuoden 2027 puoliväliin mennessä. Valokuva: Jeff Chiu/AP
Sisäinen asiakirja osoittaa myös, että Microsoftilla on vähemmän Nvidian uusinta sirumallia, Blackwelliä, kuin voisi odottaa Nvidian julkisten ilmoitusten perusteella. Viime maaliskuussa Nvidian toimitusjohtaja Jensen Huang sanoi, että Blackwell-tilaukset Nvidian neljältä suurimmalta asiakkaalta – joiden uskotaan laajalti olevan Amazon, Oracle, Microsoft ja Google – olivat 3,6 miljoonaa.
Tälle luvulle ei annettu erittelyä, mutta Microsoft on historiallisesti ollut yksi Nvidian suurimmista asiakkaista. Jos tämä olisi edelleen tilanne, sen pitäisi asettaa Microsoftin kokonais-Blackwell-omistukset jonnekin lähelle miljoonaa sirua. Itse asiassa sillä on vähemmän kuin puolet tästä määrästä asennettuna.
Missä sirut ovat, jos eivät datakeskuksissa?
Nvidian taseet näyttävät osoittavan, että se on myynyt erittäin paljon siruja; se julkaisi 215,9 miljardin dollarin liikevaihdon helmikuussa. Onko Microsoft ostanut nämä mutta ei asentanut niitä? Kuinka monta, ja ovatko kaikki sen hallussa?
Nadella näytti viittaavan tähän kysymykseen podcastissa viime vuoden lopulla nimeltä All Things AI, jossa hän puhui Microsoftin datakeskuslaajennuksesta. Suurin ongelma, hän sanoi, oli sähkövoima ja datakeskusten rakentaminen riittävän lähelle paikkaa, jossa voimaa on saatavilla.
"Jos et voi tehdä sitä, sinulla voi itse asiassa olla joukko siruja varastossa, joita en voi kytkeä. Itse asiassa se on ongelmani tänään. Se ei ole sirujen toimitusongelma. Se on itse asiassa se, että minulla ei ole lämpimiä kuoria, joihin kytkeä."
Microsoftin tiedottaja sanoi: "Vuosikymmenten ajan Microsoft on rakentanut globaalin infrastruktuurin vastatakseen nopeasti kasvavaan asiakaskysyntään pilvi- ja tekoälypalveluille. Datakeskuksemme yhdistävät räätälöityä piitä, Inteliä ja Nvidian siruja useiden sukupolvien ajalta sekä verkko-, tallennus- ja järjestelmäinfrastruktuurin, jota tarvitaan toimintaan mittakaavassa. Microsoft ei raportoi tiettyjen sirujen määrästä tekoälyinfrastruktuurissaan. Arviot, jotka Guardian on jakanut kanssamme, ovat epätarkkoja ja vetävät vääriä johtopäätöksiä virheellisistä oletuksista."
Nvidia ei vastannut kommenttipyyntöön.
Kuinka laskea sirujen määrä yrityksen 'tekoälykapasiteetista'
Maailman suurimmat teknologiayritykset mittaavat tekoälykapasiteettiaan tehona: gigawatteina. Yksi gigawatti sähköistää 700 000–1 miljoonaa kotia. Meta sanoo, että sen kiistanalaisella Hyperion-datakeskuksella Louisianassa on 5 GW kapasiteettia. Brittiläinen yritys DataVita suunnittelee 1 GW datakeskusta Lanarkshiressa.
Muuntaaksesi nämä luvut siruiksi sinun on laskettava, kuinka monta sirua voi toimia tällä teholla. Guardian käytti seuraavaa menetelmää ja tarkisti laskelmat Abdeltawab Hendawin, Rhode Islandin yliopiston professorin, ja Renin kanssa.
Ensimmäinen tekoälyn vastainen mielenosoittaja, joka on vangittu, on viestin OpenAI:lle, Anthropicille ja Metalle: 'Palauttakaa inhimillisyytenne' – lue lisää.
Saadaksesi karkean käsityksen siitä, kuinka monta sirua datakeskuksessa on, voit jakaa datakeskuksen tehonkulutuksen tekoälysirun, kuten H100:n, tehonkulutuksella. Yksi H100 käyttää 700 W. Jos Microsoftilla on 10 GW kapasiteettia, tämän jakaminen 700 watilla viittaa siihen, että sillä pitäisi olla noin 12 miljoonaa sirua.
H100:t muodostavat suurimman osan sisäisessä asiakirjassa mainituista siruista. Se osoittaa myös, että Microsoftilla on A100-siruja, jotka käyttävät vähemmän tehoa, ja Blackwell-siruja, jotka käyttävät enemmän.
Mutta tämä karkea arvio ei ota huomioon useita tekijöitä. Ensinnäkin datakeskuksissa on jäähdytysjärjestelmiä ja muuta laitteistoa, jotka myös käyttävät sähköä. Ren arvioi, että tyypillisessä tekoälydatakeskuksessa 80 % sähköstä menee tietokonesiruille. Tämä on suunnilleen linjassa Kansainvälisen energiajärjestön lukujen kanssa, vaikka tarkka luku riippuu datakeskuksen tehokkuudesta. 80 % 10 GW:sta viittaisi siihen, että noin 8 GW on todellisuudessa käytössä.
Tämä on hieman alhaisempi kuin Microsoftin omat datakeskusten tehokkuusluvut, jotka näkyvät vuoden 2024 kestävyysraportissa. Raportti viittaa siihen, että 89 % sähköstä sen uusissa datakeskuksissa käyttää IT-järjestelmät, ja 11 % on yleiskustannuksia.
Toiseksi, kaikki datakeskuksen sirut eivät ole tekoälysiruja. Tekoälysirut asennetaan palvelintelineisiin yhdessä muiden tietokonesirujen, kuten muistisirujen, kanssa, jotka auttavat niitä suorittamaan laskelmia. Palvelin, jossa on kahdeksan H100 GPU:ta, käyttää enintään noin 10 kW tehoa.
Jakamalla 8 GW 10 kW:lla saadaan 800 000 palvelinta eli 6,4 miljoonaa sirua.
Tämä on konservatiivinen arvio, koska käytännössä yritykset kuten Microsoft ylimerkitsevät tehokapasiteettiaan jossain määrin – laittavat enemmän siruja datakeskukseen kuin niiden IT-kapasiteetti voi täysin tukea, Ren sanoi.
Usein kysytyt kysymykset
Tässä on luettelo usein kysytyistä kysymyksistä Microsoftin tekoälystrategiasta ja sirupulasta luonnollisessa, käyttäjäystävällisessä sävyssä
Aloittelijatason kysymykset
1 Hidastaako Microsoft todella tekoälysuunnitelmiaan sirujen takia
Vastaus Ei oikeastaan Microsoft liikkuu edelleen erittäin nopeasti, mutta sen on oltava älykkäämpi sen suhteen, mihin se sijoittaa tekoälyominaisuutensa. Ne priorisoivat suuria, korkean arvon asiakkaita ja omia ydintuotteitaan sen sijaan, että ottaisivat ominaisuuksia käyttöön kaikille kerralla. Ne myös suunnittelevat ohjelmistoaan käyttämään siruja tehokkaammin
2 Mitä sirupula tarkoittaa tavalliselle Microsoft-tuotteita käyttävälle henkilölle
Vastaus Sinulle se voi tarkoittaa, että uusi tekoälyominaisuus saapuu hieman odotettua myöhemmin tai se saatetaan ottaa käyttöön ensin pienemmälle käyttäjäryhmälle ennen julkaisua kaikille Se tarkoittaa harvoin, että ominaisuuksia perutaan – vain viivästetään tai porrastetaan
3 Miksi Microsoft tarvitsee niin paljon siruja tekoälyä varten
Vastaus Tekoälymallit ovat kuin massiivisia monimutkaisia laskimia. Ne tarvitsevat miljardien laskutoimitusten käsittelyä vastatakseen yhteen kysymykseen. Erikoistuneet sirut ovat ainoa tapa tehdä tämä tarpeeksi nopeasti, jotta tekoäly tuntuu välittömältä. Microsoft tarvitsee miljoonia näitä siruja käyttääkseen tekoälyä kaikille asiakkailleen samanaikaisesti
4 Onko tämä pula vain sirujen valmistamisesta vai onko se jotain muuta
Vastaus Se on vähän molempia. Tehtaat eivät pysty valmistamaan niitä tarpeeksi nopeasti, mutta kyse on myös siitä, mitä siruja ne voivat valmistaa. Tietyt korkean tason sirut, joita käytetään tekoälyyn, ovat vaikeimpia valmistaa, ja vain muutama yritys maailmassa pystyy tuottamaan niitä
Edistyneet tekniset kysymykset
5 Mitä tiettyjä siruja Microsoftin on vaikea saada
Vastaus Suurin pullonkaula on suuren kaistanleveyden muisti ja edistyneet GPU:t, erityisesti Nvidian H100- ja H200-sarjat. Nämä GPU:t ovat teollisuuden standardi tekoälymallien kouluttamiseen ja käyttämiseen, ja tarjonta ei ole pysynyt perässä valtavasta kysynnästä Microsoftilta, Googlelta ja Amazonilta kaikilta kerralla
6 Tekeekö Microsoft jotain korjatakseen tämän. Rakentaako se omia sirujaan
