Blir Microsofts AI-strategi bremset av en brikkemangel?

Blir Microsofts AI-strategi bremset av en brikkemangel?

Brikkene er ganske små – noen kan få plass i håndflaten din. Men de er avgjørende for å bygge kunstig intelligens-modeller, og verdens største teknologiselskaper trenger enorme mengder av dem for å holde seg i forkant.

Microsoft er et av disse selskapene. Og på papiret ser det ut til å ha et problem. En undersøkelse fra Guardian har funnet et tilsynelatende avvik mellom hva Microsoft har sagt om sin AI-kapasitet og antallet avanserte AI-brikker selskapet faktisk har i bruk.

Dette er heller ikke et lite gap. Microsoft skal angivelig ha hatt som mål å ha 1,8 millioner AI-brikker installert i sine datasentre over hele verden innen utgangen av 2024. Nesten to år senere, midt i en ekspansjon på 280 milliarder dollar, har selskapet 2,2 millioner AI-brikker installert, ifølge interne dokumenter som Guardian har sett. Det er mindre enn halvparten av antallet noen eksperter hadde forventet.

Enkelt sagt krever det globale AI-kappløpet bygging av massive datasentre som kjører på ekstremt dyre brikker. Det tilsynelatende avviket tyder på at Microsofts nyeste datasentre kanskje ikke er fullt operative – eller, hvis de er det, at de ikke har brikkene de trenger.

Dette peker også på et større problem: det er vanskelig å spore hvordan AI-teknologien faktisk utvikler seg. Brikkene som driver AI, er laget av Nvidia, et av de to mest verdifulle selskapene i verden. Forsyningskjeden deres er en av de mest nøye bevarte hemmelighetene i bransjen.

Med nesten ingen unntak rapporterer ikke Nvidia hvor mange av disse brikkene de selger eller til hvem. Kundene deres – verdens største teknologiselskaper – avslører heller ikke hvor mange de har. Uten denne informasjonen er det svært vanskelig for noen å vite om AI virkelig er i vekst eller ikke.

Microsoft: Et maktvakuum?

I løpet av de siste to årene har Microsoft sagt at de har bygget AI-infrastruktur i rekordfart. Konsernsjefen, Satya Nadella, sa i fjor at de ville doble sitt globale datasenterfotavtrykk innen midten av 2027. Siden 2022 har de investert omtrent 280 milliarder dollar i land, bygninger og data-infrastruktur for å bygge AI. Det inkluderer mer enn 41 milliarder dollar bare i siste kvartal.

Men det er vanskelig å anslå hvor mange datasentre Microsoft har bygget for disse pengene.

En måte å måle selskapets fremgang på er å se på deres offentlige kunngjøringer, spesielt når det gjelder strømbehov. Datasentre krever elektrisitet, så en måte å anslå hvor mange som er operative på, er å summere energien Microsoft har tilgjengelig – deres AI-kapasitet.

Microsofts egne påstander, i årsrapporter og kvartalsresultater, tyder på at de har lagt til 5 gigawatt (GW) med datasenterkapasitet i løpet av de siste to årene som en del av sin AI-utbygging. De sier at de nå har hundrevis av datasentre på fem kontinenter.

Fem gigawatt er en enorm mengde energi – fire ganger størrelsen på den største datasenterparken i Europa. Men Microsofts totale kapasitet burde være enda større enn dette; de har bygget AI-infrastruktur siden 2022. Hvor mye større er et åpent spørsmål.

I en intern presentasjon fra 2024 skal Microsoft angivelig ha hevdet å ha 5GW med datasenterkapasitet allerede installert. Det ville tyde på at de nå kan ha totalt 10GW. Det er uklart om alle disse er AI-datasentre – noen kan være for andre skytjenester. Men Microsofts egne uttalelser indikerer at det overveldende fokuset i deres nylige utgifter har vært på å bygge AI-infrastruktur.

Ti gigawatt med AI-datasentre ville tyde på at Microsoft burde ha omtrent 6,4 millioner grafikkprosessorer (GPU-er). Shaolei Ren, professor ved University of California, Riverside, sa at Microsofts bærekraftsrapporter – som inkluderer strømforbrukstall og publiseres separat fra regnskapet – tegner et annet bilde. Han sa at disse rapportene tyder på at Microsofts AI-kapasitet i 2024 sannsynligvis var nærmere 1,2GW. Men selv dette lavere tallet ville bety at Microsoft trengte omtrent 4 millioner AI-brikker – hvis de la til 5GW med AI-datasentre i løpet av de siste to årene.

"I følge deres egne målinger kan Microsoft ha rett. Men det er ikke klart hva de mener når de sier at de har lagt til datasenterkapasitet. De gir utilstrekkelig kontekst," sa Ren. "Bærekraftsrapportene er revidert av en tredjepart. De har mer troverdighet enn kunngjøringer."

En analytiker som spesialiserer seg på Nvidia, sa at de trodde Microsoft ville ha flere brikker, gitt deres offentlige uttalelser. "De er lave for meg. De er mindre enn jeg forventet at Microsoft skulle ha," sa de.

Microsoft insisterte på at Guardians beregninger var basert på feil informasjon. De ga ingen innsikt i hvilke av Guardians tall som var feil eller hvorfor. Det som er klart, er at Microsofts utbygging av AI-kapasitet ser ut til å gå langt saktere enn årsrapportene deres kan antyde.

Ren sa: "Det kan være plausibelt å sikre eller kunngjøre 1GW med strømkapasitet innen et enkelt kvartal på papiret. Men å bringe den kapasiteten online og faktisk bruke den til databehandling innen samme kvartal ville være langt vanskeligere."

Kilder innen Microsoft sier at selskapets totale antall AI-brikker "knapt har beveget seg" i løpet av det siste året.

Noe av det tilsynelatende avviket kan forklares med Microsofts samarbeid med OpenAI. De nøyaktige vilkårene for deres kommersielle partnerskap er ikke offentlige, men denne enheten kan stå for noen av Microsofts datasenterutplasseringer, som ikke ville være i dokumentene Guardian har sett.

Vis bilde i fullskjerm
Et Microsoft-datasenter i Middenmeer, Nederland. Foto: ANP/Shutterstock

"Du kan ha en haug med brikker … du ikke kan plugge inn"

Det er en annen faktor: noen av Microsofts store prosjekter ser ut til å være langt fra operative.

Ta Microsofts største AI-utbygging i USA, et par datasentre i Wisconsin og Georgia kalt Fairwater. I april sa Nadella, Microsofts konsernsjef, at Fairwater-prosjektet i Wisconsin "går live".

Satellittbilder av bygningen fra Epoch AI ser imidlertid ut til å indikere at bare deler av den er operativ. I mai innrømmet Microsoft overfor en avis i Wisconsin at Fairwater ennå ikke var online.

Dette er svært vanlig, sa Ren. Opprinnelig var det en multi-gigawatt, milliard-dollar investering. Tre år senere er bare 300MW bygget.

Vis bilde i fullskjerm
Satya Nadella sa i fjor at Microsoft ville doble sitt globale datasenterfotavtrykk innen midten av 2027. Foto: Jeff Chiu/AP

Det interne dokumentet indikerer også at Microsoft har færre av Nvidias nyeste brikkemodell, Blackwell, enn man kunne forvente gitt Nvidias offentlige kunngjøringer. I mars i fjor sa Nvidias konsernsjef, Jensen Huang, at ordrene på Blackwells fra Nvidias fire største kunder – som allment antas å være Amazon, Oracle, Microsoft og Google – utgjorde 3,6 millioner.

Det ble ikke gitt noen oppdeling av dette tallet, men Microsoft har historisk vært en av Nvidias største kunder. Hvis dette fortsatt var tilfellet, burde det plassere Microsofts totale Blackwell-beholdning på et sted nær 1 million brikker. Faktisk har de mindre enn halvparten av dette antallet installert.

Hvor er brikkene, hvis ikke i datasentrene?

Nvidias balanseregnskap ser ut til å indikere at de har solgt svært mange brikker; de rapporterte en omsetning på 215,9 milliarder dollar i februar. Har Microsoft kjøpt disse, men ikke installert dem? Hvor mange, og er alle i deres besittelse?

Nadella så ut til å antyde dette spørsmålet på en podcast sent i fjor kalt All Things AI, hvor han snakket om Microsofts datasenterutbygging. Det største problemet, sa han, var elektrisk kraft og å bygge datasentre nær nok der strømmen var lokalisert.

"Hvis du ikke kan gjøre det, kan du faktisk ha en haug med brikker som sitter på lager som jeg ikke kan plugge inn. Faktisk er det problemet mitt i dag. Det er ikke et brikkeforsyningsproblem. Det er faktisk at jeg ikke har varme skall å plugge inn i."

En talsperson for Microsoft sa: "Over flere tiår har Microsoft bygget en global infrastruktur for å møte raskt voksende kundebehov for sky- og AI-tjenester. Våre datasentre kombinerer tilpasset silisium, AMD, Intel og Nvidia-brikker på tvers av flere generasjoner, sammen med nettverks-, lagrings- og systeminfrastrukturen som trengs for å operere i stor skala. Microsoft rapporterer ikke om volumet av spesifikke brikker i sin AI-infrastruktur. Estimatene Guardian har delt med oss er unøyaktige, og trekker feil konklusjoner fra feilaktige forutsetninger."

Nvidia svarte ikke på en forespørsel om kommentar.

Slik beregner du antall brikker fra et selskaps 'AI-kapasitet'

Verdens største teknologiselskaper måler sin AI-kapasitet i form av kraft: gigawatt. Én gigawatt driver mellom 700 000 og 1 million hjem. Meta sier at deres omstridte Hyperion-datasenter i Louisiana vil ha 5GW kapasitet. Det britiske selskapet DataVita planlegger et 1GW-datasenter i Lanarkshire.

For å konvertere disse tallene til brikker, må du beregne hvor mange brikker som kan kjøre med den mengden kraft. Guardian brukte følgende metode, og sjekket disse beregningene med Abdeltawab Hendawi, professor ved University of Rhode Island, og Ren.

Den første anti-AI-protestanten som ble fengslet, har en melding til OpenAI, Anthropic og Meta: 'Gjenopprett deres menneskelighet' – les mer.

For å få en grov idé om hvor mange brikker som er i et datasenter, kan du dele datasenterets strømforbruk med strømforbruket til en AI-brikke, for eksempel en H100. En enkelt H100 bruker 700W. Hvis Microsoft har 10GW kapasitet, vil det å dele dette på 700 watt tyde på at de burde ha omtrent 12 millioner brikker.

H100-er utgjør de fleste av brikkene som nevnes i det interne dokumentet. Det indikerer også at Microsoft har A100-er, som bruker mindre strøm, og Blackwells, som bruker mer.

Men dette grove estimatet tar ikke høyde for flere faktorer. For det første har datasentre kjølesystemer og annet utstyr som også bruker elektrisitet. Ren anslår at i et typisk AI-datasenter går 80 % av elektrisiteten til databrikker. Dette er omtrent i tråd med tall fra Det internasjonale energibyrået, selv om det nøyaktige tallet avhenger av hvor effektivt datasenteret er. Åtti prosent av 10GW ville tyde på at omtrent 8GW faktisk er i bruk.

Dette er litt lavere enn Microsofts egne tall for datasentereffektivitet, som vises i en bærekraftsrapport fra 2024. Den rapporten tyder på at 89 % av elektrisiteten i deres nye datasentre driver IT-systemene, med 11 % overhead.

For det andre er ikke alle brikker i et datasenter AI-brikker. AI-brikker er montert på serverrack sammen med andre databrikker, som minnebrikker, som hjelper dem med å kjøre beregninger. En server med åtte H100-GPU-er bruker maksimalt omtrent 10kW strøm.

Å dele 8GW på 10kW gir 800 000 servere, eller 6,4 millioner brikker.

Dette er et konservativt estimat, fordi selskaper som Microsoft i praksis overtegner strømkapasiteten sin til en viss grad – de setter flere brikker i et datasenter enn IT-kapasiteten fullt ut kan støtte, sa Ren.

Ofte stilte spørsmål
Her er en liste over vanlige spørsmål om Microsofts AI-strategi og brikkemangelen, skrevet i en naturlig, brukervennlig tone.



Nybegynnerspørsmål



1 Bremser Microsoft faktisk AI-planene sine på grunn av brikker?

Svar: Egentlig ikke. Microsoft beveger seg fortsatt veldig raskt, men de må være smartere med hvor de plasserer AI-funksjonene sine. De prioriterer store, høyverdige kunder og sine egne kjerne produkter fremfor å rulle ut funksjoner til alle på en gang. De designer også programvaren sin til å bruke brikker mer effektivt.



2 Hva betyr brikkemangel for en vanlig person som bruker Microsoft-produkter?

Svar: For deg kan det bety at en ny AI-funksjon kommer litt senere enn forventet, eller at den rulles ut til en mindre gruppe brukere først før den slippes til alle. Det betyr sjelden at funksjoner kanselleres – bare forsinkes eller spres ut over tid.



3 Hvorfor trenger Microsoft så mange brikker for AI egentlig?

Svar: AI-modeller er som massive, komplekse kalkulatorer. De må behandle milliarder av beregninger for å svare på et enkelt spørsmål. Spesialiserte brikker er den eneste måten å gjøre dette raskt nok til at AI-en føles øyeblikkelig. Microsoft trenger millioner av disse brikkene for å drive AI for alle kundene sine samtidig.



4 Handler denne mangelen bare om å lage flere brikker, eller er det noe annet?

Svar: Det er litt av begge deler. Fabrikkene kan ikke lage dem raskt nok, men det handler også om hvilke brikker de kan lage. De spesifikke high-end-brikkene som brukes til AI, er de vanskeligste å lage, og det er bare noen få selskaper i verden som kan produsere dem.



Avanserte og tekniske spørsmål



5 Hvilke spesifikke brikker sliter Microsoft med å få tak i?

Svar: Den viktigste flaskehalsen er høybåndbredde-minne og avanserte GPU-er, spesielt NVIDIAs H100- og H200-serier. Disse GPU-ene er industristandarden for å trene og kjøre AI-modeller, og tilbudet har ikke holdt tritt med den massive etterspørselen fra Microsoft, Google og Amazon på en gang.



6 Gjør Microsoft noe for å fikse dette? Bygger de sine egne brikker?