Chippen är ganska små – en del får plats i handflatan. Men de är nödvändiga för att bygga artificiell intelligens-modeller, och världens största techföretag behöver enorma mängder av dem för att ligga i framkant.
Microsoft är ett av dessa företag. Och på papperet verkar det ha ett problem. En granskning från Guardian har funnit en uppenbar diskrepans mellan vad Microsoft har sagt om sin AI-kapacitet och antalet avancerade AI-chips som företaget faktiskt har i bruk.
Det är inte heller en liten skillnad. Microsoft uppges ha haft som mål att ha 1,8 miljoner AI-chips installerade i sina datacenter världen över i slutet av 2024. Nästan två år senare, mitt i en expansion på 280 miljarder dollar, har företaget 2,2 miljoner AI-chips installerade, enligt interna dokument som Guardian har tagit del av. Det är mindre än hälften av det antal som vissa experter hade förväntat sig.
Enkelt uttryckt kräver den globala AI-kapplöpningen att man bygger massiva datacenter som drivs av extremt dyra chips. Den uppenbara diskrepansen tyder på att Microsofts nyaste datacenter kanske inte är fullt operativa – eller, om de är det, att de inte har de chips de behöver.
Detta pekar också på en större fråga: det är svårt att spåra hur AI-tekniken faktiskt utvecklas. Chippen som driver AI tillverkas av Nvidia, ett av världens två mest värdefulla företag. Dess leveranskedja är en av de mest välbevakade hemligheterna i branschen.
Med nästan inga undantag rapporterar inte Nvidia hur många av dessa chips de säljer eller till vem. Dess kunder – världens största techföretag – avslöjar inte heller hur många de har. Utan denna information är det mycket svårt för någon att veta om AI verkligen boomar eller inte.
Microsoft: Ett maktvakuum?
Under de senaste två åren har Microsoft sagt att de har byggt AI-infrastruktur i rasande takt. Dess vd, Satya Nadella, sade förra året att företaget skulle fördubbla sitt globala datacenteravtryck till mitten av 2027. Sedan 2022 har företaget investerat ungefär 280 miljarder dollar i mark, byggnader och datorinfrastruktur för att bygga AI. Det inkluderar mer än 41 miljarder dollar bara under det senaste kvartalet.
Men det är svårt att uppskatta hur många datacenter Microsoft har byggt med dessa pengar.
Ett sätt att mäta företagets framsteg är att titta på dess offentliga tillkännagivanden, särskilt när det gäller energibehov. Datacenter kräver elektricitet, så ett sätt att uppskatta hur många som är operativa är att summera den energi Microsoft har tillgänglig – dess AI-kapacitet.
Microsofts egna påståenden, i årsredovisningar och kvartalsrapporter, tyder på att företaget har lagt till 5 gigawatt (GW) datacenterkapacitet under de senaste två åren som en del av sin AI-utbyggnad. Företaget säger att det nu har hundratals datacenter på fem kontinenter.
Fem gigawatt är en enorm mängd energi – fyra gånger så stor som den största datacenterparken i Europa. Men Microsofts totala kapacitet borde vara ännu större än så; företaget har byggt AI-infrastruktur sedan 2022. Hur mycket större är en öppen fråga.
I en intern presentation från 2024 uppges Microsoft ha hävdat att de redan hade 5 GW datacenterkapacitet installerade. Det skulle tyda på att de nu kan ha totalt 10 GW. Det är oklart om alla dessa är AI-datacenter – en del kan vara för andra molntjänster. Men Microsofts egna uttalanden indikerar att det överväldigande fokuset för dess senaste utgifter har varit på att bygga AI-infrastruktur.
Tio gigawatt AI-datacenter skulle tyda på att Microsoft borde ha ungefär 6,4 miljoner grafikprocessorer (GPU:er). Shaolei Ren, professor vid University of California, Riverside, sade att Microsofts hållbarhetsrapporter – som inkluderar elförbrukningssiffror och publiceras separat från dess finansiella rapporter – målar en annan bild. Han sade att dessa rapporter tyder på att Microsofts AI-kapacitet 2024 troligen var närmare 1,2 GW. Men även denna lägre siffra skulle innebära att Microsoft skulle behöva ungefär 4 miljoner AI-chips – om de lade till 5 GW AI-datacenter under de senaste två åren.
"Enligt deras egna mätvärden kan Microsoft ha rätt. Men det är inte tydligt vad de menar när de säger att de har lagt till datacenterkapacitet. De ger otillräcklig kontext", sade Ren. "Hållbarhetsrapporterna är granskade av en tredje part. De har mer trovärdighet än tillkännagivanden."
En analytiker som specialiserar sig på Nvidia sade att de trodde att Microsoft skulle ha fler chips, med tanke på dess offentliga uttalanden. "De är låga för mig. De är mindre än vad jag förväntade mig att Microsoft skulle ha", sade de.
Microsoft insisterade på att Guardians beräkningar baserades på felaktig information. Företaget gav ingen insikt i vilka av Guardians siffror som var felaktiga eller varför. Vad som är tydligt är att Microsofts utbyggnad av AI-kapacitet verkar gå mycket långsammare än vad dess årsredovisningar kan antyda.
Ren sade: "Det kan vara troligt att säkra eller tillkännage 1 GW kraftkapacitet inom ett enda kvartal på papperet. Men att få den kapaciteten online och faktiskt använda den för beräkningar inom samma kvartal skulle vara mycket svårare."
Källor inom Microsoft säger att företagets totala antal AI-chips "knappt har rört sig" under det senaste året.
En del av den uppenbara diskrepansen kan förklaras av Microsofts samarbete med OpenAI. De exakta villkoren för deras kommersiella partnerskap är inte offentliga, men denna enhet kan stå för en del av Microsofts datacenterutbyggnader, vilket inte skulle finnas i de dokument som Guardian har tagit del av.
Visa bild i fullskärm
Ett Microsoft-datacenter i Middenmeer, Nederländerna. Fotografi: ANP/Shutterstock
"Du kan ha en massa chips … som du inte kan koppla in"
Det finns en annan faktor: några av Microsofts stora projekt verkar vara långt ifrån operativa.
Ta Microsofts största AI-utveckling i USA, ett par datacenter i Wisconsin och Georgia som kallas Fairwater. I april sade Nadella, Microsofts vd, att Fairwater-projektet i Wisconsin "går live".
Satellitbilder av byggnaden från Epoch AI verkar dock indikera att endast en del av den är operativ. I maj erkände Microsoft för en tidning i Wisconsin att Fairwater ännu inte var online.
Detta är mycket vanligt, sade Ren. Inledningsvis var det en investering på flera gigawatt och flera miljarder dollar. Tre år senare har bara 300 MW byggts.
Visa bild i fullskärm
Satya Nadella sade förra året att Microsoft skulle fördubbla sitt globala datacenteravtryck till mitten av 2027. Fotografi: Jeff Chiu/AP
Det interna dokumentet indikerar också att Microsoft har färre av Nvidias nyaste chipmodell, Blackwell, än man skulle kunna förvänta sig med tanke på Nvidias offentliga tillkännagivanden. I mars sade Nvidias vd, Jensen Huang, att order på Blackwell från Nvidias fyra största kunder – allmänt ansett vara Amazon, Oracle, Microsoft och Google – uppgick till 3,6 miljoner.
Det gavs ingen uppdelning för denna siffra, men Microsoft har historiskt varit en av Nvidias största kunder. Om detta fortfarande var fallet borde Microsofts totala innehav av Blackwell ligga någonstans nära 1 miljon chips. I själva verket har företaget mindre än hälften av detta antal installerade.
Var är chippen, om inte i datacentren?
Nvidias balansräkningar verkar indikera att företaget har sålt ett mycket stort antal chips; det redovisade en intäkt på 215,9 miljarder dollar i februari. Har Microsoft köpt dessa men inte installerat dem? Hur många, och är alla i dess ägo?
Nadella verkade anspela på denna fråga i en podcast i slutet av förra året som heter All Things AI, där han talade om Microsofts datacenterutbyggnad. Det största problemet, sade han, var elektrisk kraft och att bygga datacenter tillräckligt nära där kraften fanns.
"Om du inte kan göra det, kan du faktiskt ha en massa chips liggande i lager som jag inte kan koppla in. Faktum är att det är mitt problem idag. Det är inte en chipförsörjningsfråga. Det är faktiskt att jag inte har varma skal att koppla in i."
En talesperson för Microsoft sade: "Under flera decennier har Microsoft byggt en global infrastruktur för att möta den snabbt växande kundefterfrågan på moln- och AI-tjänster. Våra datacenter kombinerar specialdesignade chips, AMD, Intel och Nvidia-chips över flera generationer, tillsammans med den nätverks-, lagrings- och systeminfrastruktur som krävs för att drivas i stor skala. Microsoft rapporterar inte om volymen av specifika chips i sin AI-infrastruktur. De uppskattningar som Guardian har delat med oss är felaktiga och drar fel slutsatser från felaktiga antaganden."
Nvidia svarade inte på en begäran om kommentar.
Hur man beräknar antalet chips från ett företags "AI-kapacitet"
Världens största techföretag mäter sin AI-kapacitet i termer av kraft: gigawatt. En gigawatt driver mellan 700 000 och 1 miljon hem. Meta säger att dess kontroversiella Hyperion-datacenter i Louisiana kommer att ha 5 GW kapacitet. Det brittiska företaget DataVita planerar ett 1 GW-datacenter i Lanarkshire.
För att omvandla dessa siffror till chips måste du beräkna hur många chips som kan drivas med den mängden kraft. Guardian använde följande metod och kontrollerade dessa beräkningar med Abdeltawab Hendawi, professor vid University of Rhode Island, och Ren.
Den första anti-AI-protesteraren som fängslats har ett budskap till OpenAI, Anthropic och Meta: "Återfå er mänsklighet" – läs mer.
För att få en grov uppfattning om hur många chips som finns i ett datacenter kan du dividera datacentrets strömförbrukning med strömförbrukningen för ett AI-chip, såsom en H100. En enda H100 använder 700 W. Om Microsoft har 10 GW kapacitet, skulle division av detta med 700 watt tyda på att de borde ha cirka 12 miljoner chips.
H100:or utgör merparten av de chips som nämns i det interna dokumentet. Det indikerar också att Microsoft har A100:or, som använder mindre ström, och Blackwell, som använder mer.
Men denna grova uppskattning tar inte hänsyn till flera faktorer. För det första har datacenter kylsystem och annan utrustning som också använder elektricitet. Ren uppskattar att i ett typiskt AI-datacenter går 80 % av elektriciteten till datorchips. Detta är ungefär i linje med siffror från Internationella energirådet, även om det exakta antalet beror på hur effektivt datacentret är. Åttio procent av 10 GW skulle tyda på att cirka 8 GW faktiskt är i bruk.
Detta är något lägre än Microsofts egna siffror för datacenter effektivitet, som visas i en hållbarhetsrapport från 2024. Den rapporten tyder på att 89 % av elektriciteten i dess nya datacenter driver IT-systemen, med 11 % overhead.
För det andra är inte alla chips i ett datacenter AI-chips. AI-chips monteras på serverrack tillsammans med andra datorchips, såsom minneschips, som hjälper dem att utföra beräkningar. En server med åtta H100 GPU:er använder maximalt cirka 10 kW ström.
Att dividera 8 GW med 10 kW ger 800 000 servrar, eller 6,4 miljoner chips.
Detta är en konservativ uppskattning, eftersom företag som Microsoft i praktiken övertecknar sin kraftkapacitet i viss utsträckning – de placerar fler chips i ett datacenter än vad deras IT-kapacitet fullt ut kan stödja, sade Ren.
Vanliga frågor
Här är en lista med vanliga frågor om Microsofts AI-strategi och chipbristen skriven i en naturlig och användarvänlig ton
Nybörjarnivåfrågor
1 Saktar Microsoft faktiskt ner sina AI-planer på grund av chips
Svar Inte riktigt Microsoft rör sig fortfarande mycket snabbt, men de måste vara smartare med var de placerar sina AI-funktioner De prioriterar stora högt värderade kunder och sina egna kärnprodukter framför att rulla ut funktioner till alla på en gång De designar också sin programvara för att använda chips mer effektivt
2 Vad innebär chipbristen för en vanlig person som använder Microsoft-produkter
Svar För dig kan det innebära att en ny AI-funktion anländer lite senare än förväntat, eller att den rullas ut till en mindre grupp användare först innan den släpps till alla Det innebär sällan att funktioner ställs in, bara att de försenas eller fasas in stegvis
3 Varför behöver Microsoft så många chips för AI egentligen
Svar AI-modeller är som massiva komplexa miniräknare De behöver bearbeta miljarder beräkningar för att svara på en enda fråga Specialiserade chips är det enda sättet att göra detta tillräckligt snabbt för att AI ska kännas omedelbar Microsoft behöver miljontals av dessa chips för att driva AI för alla sina kunder samtidigt
4 Handlar bristen bara om att tillverka fler chips, eller är det något annat
Svar Det är lite av båda Fabrikerna kan inte tillverka dem tillräckligt snabbt, men det handlar också om vilka chips de kan tillverka De specifika högkvalitativa chipsen som används för AI är de svåraste att tillverka, och det finns bara ett fåtal företag i världen som kan producera dem
Avancerade tekniska frågor
5 Vilka specifika chips har Microsoft svårt att få tag på
Svar Den främsta flaskhalsen är höghastighetsminne och avancerade GPU:er, specifikt NVIDIAs H100- och H200-serier Dessa GPU:er är industristandarden för att träna och köra AI-modeller, och utbudet har inte hållit jämna steg med den massiva efterfrågan från Microsoft, Google och Amazon samtidigt
6 Gör Microsoft något för att åtgärda detta Bygger de egna chips