I chip sono piuttosto piccoli: alcuni possono stare nel palmo di una mano. Ma sono essenziali per costruire modelli di intelligenza artificiale, e le più grandi aziende tecnologiche del mondo ne hanno bisogno in quantità enormi per restare al passo.
Microsoft è una di queste aziende. E sulla carta sembra avere un problema. Un'indagine del Guardian ha rilevato un'apparente discrepanza tra ciò che Microsoft ha dichiarato sulla propria capacità di IA e il numero di chip di IA avanzati che ha effettivamente in uso.
E non si tratta di un divario piccolo. Secondo quanto riportato, Microsoft mirava ad avere 1,8 milioni di chip di IA installati nei suoi data center in tutto il mondo entro la fine del 2024. Quasi due anni dopo, nel bel mezzo di un'espansione da 280 miliardi di dollari, l'azienda ha 2,2 milioni di chip di IA installati, secondo documenti interni visionati dal Guardian. È meno della metà del numero che alcuni esperti avevano previsto.
In termini semplici, la corsa globale all'IA richiede la costruzione di data center massicci che funzionano con chip estremamente costosi. L'apparente discrepanza suggerisce che i data center più recenti di Microsoft potrebbero non essere pienamente operativi—o, se lo sono, non hanno i chip di cui hanno bisogno.
Questo indica anche un problema più grande: è difficile monitorare come sta realmente progredendo la tecnologia dell'IA. I chip che alimentano l'IA sono prodotti da Nvidia, una delle due aziende più preziose al mondo. La sua catena di approvvigionamento è uno dei segreti meglio custoditi del settore.
Con quasi nessuna eccezione, Nvidia non riporta quanti di questi chip vende o a chi. Anche i suoi clienti—le più grandi aziende tecnologiche del mondo—non rivelano quanti ne possiedono. Senza queste informazioni, è molto difficile per chiunque sapere se l'IA stia davvero crescendo o no.
Microsoft: un vuoto di potere?
Negli ultimi due anni, Microsoft afferma di aver costruito infrastrutture di IA a velocità vertiginosa. Il suo amministratore delegato, Satya Nadella, ha dichiarato l'anno scorso che avrebbe raddoppiato la propria impronta globale di data center entro metà 2027. Dal 2022, ha investito circa 280 miliardi di dollari in terreni, edifici e infrastrutture informatiche per costruire l'IA. Questo include più di 41 miliardi di dollari solo nell'ultimo trimestre.
Ma è difficile stimare quanti data center Microsoft abbia costruito con questi soldi.
Un modo per valutare i progressi dell'azienda è guardare ai suoi annunci pubblici, soprattutto per quanto riguarda le esigenze energetiche. I data center richiedono elettricità, quindi un modo per stimare quanti sono operativi è sommare l'energia che Microsoft ha a disposizione—la sua capacità di IA.
Le stesse dichiarazioni di Microsoft, nei rapporti annuali e negli utili trimestrali, suggeriscono che ha aggiunto 5 gigawatt (GW) di capacità di data center negli ultimi due anni come parte della sua espansione per l'IA. Afferma di avere ora centinaia di data center in cinque continenti.
Cinque gigawatt sono un'enorme quantità di energia—quattro volte la dimensione del più grande parco di data center in Europa. Ma la capacità totale di Microsoft dovrebbe essere ancora più grande di così; costruisce infrastrutture di IA dal 2022. Quanto più grande sia è una questione aperta.
In una presentazione interna del 2024, Microsoft avrebbe dichiarato di avere già 5GW di capacità di data center installati. Questo suggerirebbe che ora potrebbe avere un totale di 10GW. Non è chiaro se tutti questi siano data center di IA—alcuni potrebbero essere per altri servizi cloud. Ma le stesse dichiarazioni di Microsoft indicano che l'attenzione predominante della sua spesa recente è stata sulla costruzione di infrastrutture di IA.
Dieci gigawatt di data center di IA suggerirebbero che Microsoft dovrebbe avere circa 6,4 milioni di unità di elaborazione grafica (GPU). Shaolei Ren, professore all'Università della California, Riverside, ha affermato che i rapporti sulla sostenibilità di Microsoft—che includono dati sul consumo di elettricità e sono pubblicati separatamente dai suoi bilanci—dipingono un quadro diverso. Ha detto che questi rapporti suggeriscono che la capacità di IA di Microsoft nel 2024 era probabilmente più vicina a 1,2GW. Ma anche questa cifra più bassa significherebbe che Microsoft avrebbe bisogno di circa 4 milioni di chip di IA—se avesse aggiunto 5GW di data center di IA negli ultimi due anni.
"Secondo i loro stessi parametri, Microsoft potrebbe avere ragione. Ma non è chiaro cosa intendano quando dicono di aver aggiunto capacità di data center. Stanno fornendo un contesto insufficiente," ha detto Ren. "I rapporti sulla sostenibilità sono verificati da terze parti. Hanno più credibilità degli annunci."
Un analista specializzato in Nvidia ha detto di pensare che Microsoft avrebbe più chip, date le sue dichiarazioni pubbliche. "Sono pochi per me. Sono meno di quanto mi aspettassi che Microsoft avesse," ha detto.
Microsoft ha insistito sul fatto che i calcoli del Guardian si basavano su informazioni errate. Non ha offerto alcuna indicazione su quali dei numeri del Guardian fossero errati o perché. Ciò che è chiaro è che l'espansione della capacità di IA di Microsoft sembra procedere molto più lentamente di quanto i suoi rapporti annuali possano suggerire.
Ren ha detto: "Potrebbe essere plausibile ottenere o annunciare 1GW di capacità energetica in un singolo trimestre sulla carta. Ma portare quella capacità online e usarla effettivamente per il calcolo nello stesso trimestre sarebbe molto più difficile."
Fonti interne a Microsoft affermano che il numero totale di chip di IA dell'azienda è "appena cambiato" nell'ultimo anno.
Parte dell'apparente discrepanza potrebbe essere spiegata dal legame di Microsoft con OpenAI. I termini esatti della loro partnership commerciale non sono pubblici, ma questa unità potrebbe rappresentare parte delle implementazioni dei data center di Microsoft, che non sarebbero nei documenti visionati dal Guardian.
Visualizza immagine a schermo intero
Un data center Microsoft a Middenmeer, nei Paesi Bassi. Fotografia: ANP/Shutterstock
'Potresti avere un mucchio di chip … che non puoi collegare'
C'è un altro fattore: alcuni dei grandi progetti di Microsoft sembrano essere lontani dall'essere operativi.
Prendiamo il più grande sviluppo di IA di Microsoft negli Stati Uniti, una coppia di data center in Wisconsin e Georgia chiamata Fairwater. Ad aprile, Nadella, amministratore delegato di Microsoft, ha detto che il progetto Fairwater in Wisconsin "sta andando online".
Le immagini satellitari dell'edificio di Epoch AI, tuttavia, sembrano indicare che solo una parte è operativa. A maggio, Microsoft ha ammesso a un giornale del Wisconsin che Fairwater non era ancora online.
Questo è molto comune, ha detto Ren. Inizialmente era un investimento multi-gigawatt e multimiliardario. Tre anni dopo, sono stati costruiti solo 300MW.
Visualizza immagine a schermo intero
Satya Nadella ha detto l'anno scorso che Microsoft avrebbe raddoppiato la propria impronta globale di data center entro metà 2027. Fotografia: Jeff Chiu/AP
Il documento interno indica anche che Microsoft ha meno del nuovo modello di chip di Nvidia, il Blackwell, di quanto ci si aspetterebbe date le dichiarazioni pubbliche di Nvidia. Lo scorso marzo, l'amministratore delegato di Nvidia, Jensen Huang, ha detto che gli ordini per i Blackwell dai primi quattro clienti di Nvidia—ampiamente considerati Amazon, Oracle, Microsoft e Google—ammontavano a 3,6 milioni.
Non è stata fornita una ripartizione per questa cifra, ma Microsoft è stata storicamente uno dei più grandi clienti di Nvidia. Se questo fosse ancora il caso, ciò dovrebbe portare le partecipazioni totali di Microsoft in Blackwell a circa 1 milione di chip. In realtà, ne ha installati meno della metà.
Dove sono i chip, se non nei data center?
I bilanci di Nvidia sembrano indicare che ha venduto un gran numero di chip; ha registrato un fatturato di 215,9 miliardi di dollari a febbraio. Microsoft li ha comprati ma non li ha installati? Quanti, e sono tutti in suo possesso?
Nadella sembra aver accennato a questa domanda in un podcast alla fine dell'anno scorso chiamato All Things AI, dove ha parlato dell'espansione dei data center di Microsoft. Il problema più grande, ha detto, era l'energia elettrica e la costruzione di data center abbastanza vicini a dove si trova l'energia.
"Se non puoi farlo, potresti effettivamente avere un mucchio di chip seduti in inventario che non posso collegare. In effetti, questo è il mio problema oggi. Non è un problema di fornitura di chip. È che non ho gusci caldi a cui collegarmi."
Un portavoce di Microsoft ha detto: "Nel corso di diversi decenni, Microsoft ha costruito un'infrastruttura globale per soddisfare la rapida crescita della domanda dei clienti per servizi cloud e di IA. I nostri data center combinano silicio personalizzato, chip AMD, Intel e Nvidia attraverso più generazioni, insieme all'infrastruttura di rete, storage e sistemi necessaria per operare su larga scala. Microsoft non riporta il volume di chip specifici nella sua infrastruttura di IA. Le stime che il Guardian ci ha condiviso sono inaccurate, traendo conclusioni sbagliate da presupposti errati."
Nvidia non ha risposto a una richiesta di commento.
Come calcolare il numero di chip dalla 'capacità di IA' di un'azienda
Le più grandi aziende tecnologiche del mondo misurano la loro capacità di IA in termini di potenza: gigawatt. Un gigawatt alimenta tra 700.000 e 1 milione di case. Meta afferma che il suo controverso data center Hyperion in Louisiana avrà una capacità di 5GW. L'azienda britannica DataVita sta pianificando un data center da 1GW nel Lanarkshire.
Per convertire queste cifre in chip, devi calcolare quanti chip possono funzionare con quella quantità di energia. Il Guardian ha usato il seguente metodo, verificando questi calcoli con Abdeltawab Hendawi, professore all'Università di Rhode Island, e Ren.
Il primo manifestante anti-IA a essere incarcerato ha un messaggio per OpenAI, Anthropic e Meta: 'Riconquistate la vostra umanità' – leggi di più.
Per avere un'idea approssimativa di quanti chip ci sono in un data center, potresti dividere il consumo energetico del data center per il consumo energetico di un chip di IA, come l'H100. Un singolo H100 usa 700W. Se Microsoft ha 10GW di capacità, dividere questo per 700 watt suggerisce che dovrebbe avere circa 12 milioni di chip.
Gli H100 costituiscono la maggior parte dei chip menzionati nel documento interno. Indica anche che Microsoft ha A100, che usano meno energia, e Blackwell, che ne usano di più.
Ma questa stima approssimativa non tiene conto di diversi fattori. Primo, i data center hanno sistemi di raffreddamento e altre apparecchiature che usano anche elettricità. Ren stima che in un tipico data center di IA, l'80% dell'elettricità va ai chip dei computer. Questo è più o meno in linea con le cifre dell'Agenzia Internazionale dell'Energia, anche se il numero esatto dipende da quanto è efficiente il data center. L'80% di 10GW suggerirebbe che circa 8GW sono effettivamente in uso.
Questo è leggermente inferiore alle stesse cifre di Microsoft per l'efficienza dei data center, che appaiono in un rapporto sulla sostenibilità del 2024. Quel rapporto suggerisce che l'89% dell'elettricità nei suoi nuovi data center alimenta i sistemi IT, con un overhead dell'11%.
Secondo, non tutti i chip in un data center sono chip di IA. I chip di IA sono montati su rack di server insieme ad altri chip per computer, come chip di memoria, che li aiutano a eseguire calcoli. Un server con otto GPU H100 usa un massimo di circa 10kW di potenza.
Dividendo 8GW per 10kW si ottengono 800.000 server, o 6,4 milioni di chip.
Questa è una stima conservativa, perché in pratica aziende come Microsoft sovrascrivono in una certa misura la loro capacità energetica—mettendo più chip in un data center di quanto la loro capacità IT possa pienamente supportare, ha detto Ren.
Domande Frequenti
Ecco un elenco di FAQ sulla strategia IA di Microsoft e la carenza di chip scritto in un tono naturale e facile da usare
Domande di Livello Base
1 Microsoft sta davvero rallentando i suoi piani per l'IA a causa dei chip
Risposta Non proprio Microsoft si sta ancora muovendo molto velocemente, ma devono essere più intelligenti su dove mettono le loro funzionalità di IA Stanno dando priorità a grandi clienti di alto valore e ai loro prodotti principali piuttosto che distribuire funzionalità a tutti in una volta Stanno anche progettando il loro software per usare i chip in modo più efficiente
2 Cosa significa la carenza di chip per una persona normale che usa i prodotti Microsoft
Risposta Per te potrebbe significare che una nuova funzionalità di IA arriva un po' più tardi del previsto, o potrebbe essere distribuita prima a un gruppo più piccolo di utenti prima di essere rilasciata a tutti Raramente significa che le funzionalità vengono cancellate, solo ritardate o scaglionate
3 Perché Microsoft ha bisogno di così tanti chip per l'IA comunque
Risposta I modelli di IA sono come calcolatori massicci e complessi Devono elaborare miliardi di calcoli per rispondere a una singola domanda I chip specializzati sono l'unico modo per farlo abbastanza velocemente da rendere l'IA istantanea Microsoft ha bisogno di milioni di questi chip per alimentare l'IA per tutti i suoi clienti allo stesso tempo
4 Questa carenza riguarda solo la produzione di più chip o è qualcos'altro
Risposta È un po' entrambe le cose Le fabbriche non possono produrli abbastanza velocemente, ma riguarda anche quali chip possono produrre I chip specifici di fascia alta usati per l'IA sono i più difficili da produrre e ci sono solo poche aziende al mondo che possono realizzarli
Domande Avanzate e Tecniche
5 Quali chip specifici Microsoft sta faticando a ottenere
Risposta Il collo di bottiglia principale è la memoria ad alta larghezza di banda e le GPU avanzate, in particolare le serie H100 e H200 di Nvidia Queste GPU sono lo standard del settore per addestrare ed eseguire modelli di IA e l'offerta non è riuscita a tenere il passo con l'enorme domanda di Microsoft Google e Amazon tutti insieme
6 Microsoft sta facendo qualcosa per risolvere questo problema Stanno costruendo i propri chip
