Cipurile sunt destul de mici—unele pot încăpea în palma mâinii. Dar sunt esențiale pentru construirea modelelor de inteligență artificială, iar cele mai mari companii tech din lume au nevoie de un număr uriaș dintre ele pentru a rămâne în frunte.
Microsoft este una dintre aceste companii. Și, pe hârtie, pare să aibă o problemă. O investigație a The Guardian a găsit o nepotrivire aparentă între ceea ce a spus Microsoft despre capacitatea sa de AI și numărul de cipuri avansate de AI pe care le are efectiv în uz.
Nu este nici o diferență mică. Microsoft ar fi vizat să aibă 1,8 milioane de cipuri de AI instalate în centrele sale de date din întreaga lume până la sfârșitul anului 2024. La aproape doi ani distanță, în mijlocul unei expansiuni de 280 de miliarde de dolari, compania are 2,2 milioane de cipuri de AI instalate, conform documentelor interne văzute de The Guardian. Asta înseamnă mai puțin de jumătate din numărul pe care unii experți îl așteptau.
În termeni simpli, cursa globală pentru AI necesită construirea unor centre de date masive care funcționează pe cipuri extrem de scumpe. Discrepanța aparentă sugerează că cele mai noi centre de date ale Microsoft s-ar putea să nu fie complet operaționale—sau, dacă sunt, nu au cipurile de care au nevoie.
Aceasta indică și o problemă mai mare: este greu să urmărești cum progresează de fapt tehnologia AI. Cipurile care alimentează AI sunt fabricate de Nvidia, una dintre cele mai valoroase două companii din lume. Lanțul său de aprovizionare este unul dintre cele mai bine păstrate secrete din industrie.
Cu aproape nicio excepție, Nvidia nu raportează câte dintre aceste cipuri vinde sau cui. Clienții săi—cele mai mari companii tech din lume—nu dezvăluie nici ele câte dețin. Fără aceste informații, este foarte dificil pentru oricine să știe dacă AI chiar este în plin avânt sau nu.
Microsoft: Un Vid de Putere?
În ultimii doi ani, Microsoft spune că a construit infrastructură de AI într-un ritm amețitor. CEO-ul său, Satya Nadella, a spus anul trecut că își va dubla amprenta globală a centrelor de date până la mijlocul anului 2027. Din 2022, a investit aproximativ 280 de miliarde de dolari în terenuri, clădiri și infrastructură de calcul pentru a construi AI. Asta include peste 41 de miliarde de dolari doar în ultimul trimestru.
Dar este greu de estimat câte centre de date a construit Microsoft cu acești bani.
O modalitate de a evalua progresul companiei este să te uiți la anunțurile sale publice, în special în ceea ce privește nevoile de energie. Centrele de date necesită electricitate, așa că o modalitate de a estima câte sunt operaționale este să aduni energia pe care Microsoft o are disponibilă—capacitatea sa de AI.
Propriile declarații ale Microsoft, în rapoartele anuale și în câștigurile trimestriale, sugerează că a adăugat 5 gigawați (GW) de capacitate de centre de date în ultimii doi ani ca parte a extinderii sale de AI. Spune că are acum sute de centre de date pe cinci continente.
Cinci gigawați este o cantitate uriașă de energie—de patru ori dimensiunea celui mai mare parc de centre de date din Europa. Dar capacitatea totală a Microsoft ar trebui să fie chiar mai mare decât aceasta; construiește infrastructură de AI din 2022. Cât de mare este o întrebare deschisă.
Într-o prezentare internă din 2024, Microsoft ar fi susținut că are deja 5GW de capacitate de centre de date instalată. Asta ar sugera că ar putea avea acum un total de 10GW. Nu este clar dacă toate acestea sunt centre de date de AI—unele ar putea fi pentru alte servicii cloud. Dar propriile declarații ale Microsoft indică faptul că accentul copleșitor al cheltuielilor sale recente a fost pe construirea infrastructurii de AI.
Zece gigawați de centre de date de AI ar sugera că Microsoft ar trebui să aibă aproximativ 6,4 milioane de unități de procesare grafică (GPU). Shaolei Ren, profesor la Universitatea din California, Riverside, a spus că rapoartele de sustenabilitate ale Microsoft—care includ cifre de utilizare a electricității și sunt publicate separat de situațiile financiare—prezintă o imagine diferită. El a spus că aceste rapoarte sugerează că capacitatea de AI a Microsoft în 2024 era probabil mai aproape de 1,2GW. Dar chiar și această cifră mai mică ar însemna că Microsoft ar avea nevoie de aproximativ 4 milioane de cipuri de AI—dacă a adăugat 5GW de centre de date de AI în ultimii doi ani.
„Conform propriilor lor metrici, Microsoft ar putea avea dreptate. Dar nu este clar ce înseamnă când spun că au adăugat capacitate de centre de date. Oferă context insuficient," a spus Ren. „Rapoartele de sustenabilitate sunt auditate de o terță parte. Au mai multă credibilitate decât anunțurile."
Un analist specializat în Nvidia a spus că crede că Microsoft ar avea mai multe cipuri, având în vedere declarațiile sale publice. „Sunt puține pentru mine. Sunt mai puține decât mă așteptam să aibă Microsoft," a spus el.
Microsoft a insistat că calculele The Guardian se bazează pe informații incorecte. Nu a oferit nicio perspectivă asupra căror numere din The Guardian sunt incorecte sau de ce. Ceea ce este clar este că extinderea capacității de AI a Microsoft pare să meargă mult mai lent decât ar sugera rapoartele sale anuale.
Ren a spus: „Ar putea fi plauzibil să obții sau să anunți 1GW de capacitate de energie într-un singur trimestru pe hârtie. Dar să aduci acea capacitate online și să o folosești efectiv pentru calcul în același trimestru ar fi mult mai dificil."
Surse din cadrul Microsoft spun că numărul total de cipuri de AI ale companiei „abia s-a mișcat" în ultimul an.
O parte din discrepanța aparentă ar putea fi explicată prin parteneriatul Microsoft cu OpenAI. Termenii exacti ai parteneriatului lor comercial nu sunt publici, dar această unitate ar putea explica o parte din implementările centrelor de date ale Microsoft, care nu ar fi în documentele văzute de The Guardian.
Vezi imaginea în ecran complet
Un centru de date Microsoft în Middenmeer, Țările de Jos. Fotografie: ANP/Shutterstock
„S-ar putea să ai o grămadă de cipuri … pe care nu le poți conecta"
Există un alt factor: unele dintre marile proiecte ale Microsoft par să fie departe de a fi operaționale.
Ia cea mai mare dezvoltare AI a Microsoft din SUA, o pereche de centre de date în Wisconsin și Georgia numite Fairwater. În aprilie, Nadella, directorul executiv al Microsoft, a spus că proiectul Fairwater din Wisconsin „devine operațional".
Imaginile satelitare ale clădirii de la Epoch AI, totuși, par să indice că doar o parte din ea este operațională. În mai, Microsoft a recunoscut unui ziar din Wisconsin că Fairwater nu era încă online.
Acest lucru este foarte comun, a spus Ren. Inițial a fost o investiție de multi-gigawați, multi-miliarde de dolari. Trei ani mai târziu, doar 300MW au fost construiți.
Vezi imaginea în ecran complet
Satya Nadella a spus anul trecut că Microsoft își va dubla amprenta globală a centrelor de date până la mijlocul anului 2027. Fotografie: Jeff Chiu/AP
Documentul intern indică, de asemenea, că Microsoft are mai puține dintre cele mai noi modele de cipuri ale Nvidia, Blackwell, decât s-ar aștepta cineva având în vedere anunțurile publice ale Nvidia. În martie trecut, directorul executiv al Nvidia, Jensen Huang, a spus că comenzile pentru Blackwell de la primii patru clienți ai Nvidia—considerați pe scară largă a fi Amazon, Oracle, Microsoft și Google—au totalizat 3,6 milioane.
Nu a fost oferită nicio defalcare pentru această cifră, dar Microsoft a fost istoric unul dintre cei mai mari clienți ai Nvidia. Dacă acesta era încă cazul, asta ar plasa totalul deținerilor de Blackwell ale Microsoft undeva aproape de 1 milion de cipuri. De fapt, are mai puțin de jumătate din această cantitate instalată.
Unde sunt cipurile, dacă nu în centrele de date?
Bilanțurile Nvidia par să indice că a vândut foarte multe cipuri; a raportat venituri de 215,9 miliarde de dolari în februarie. A cumpărat Microsoft acestea, dar nu le-a instalat? Câte, și toate sunt în posesia sa?
Nadella a părut să facă aluzie la această întrebare într-un podcast de la sfârșitul anului trecut numit All Things AI, unde a vorbit despre extinderea centrelor de date ale Microsoft. Cea mai mare problemă, a spus el, era energia electrică și construirea centrelor de date suficient de aproape de locul unde se află energia.
„Dacă nu poți face asta, s-ar putea să ai de fapt o grămadă de cipuri stând în inventar pe care nu le pot conecta. De fapt, asta este problema mea astăzi. Nu este o problemă de aprovizionare cu cipuri. Este de fapt că nu am carcase calde în care să mă conectez."
Un purtător de cuvânt al Microsoft a spus: „De-a lungul mai multor decenii, Microsoft a construit o infrastructură globală pentru a satisface cererea în creștere rapidă a clienților pentru servicii cloud și AI. Centrele noastre de date combină siliciu personalizat, AMD, Intel și cipuri Nvidia în mai multe generații, împreună cu infrastructura de rețea, stocare și sisteme necesară pentru a funcționa la scară. Microsoft nu raportează volumul de cipuri specifice în infrastructura sa de AI. Estimările pe care The Guardian ni le-a împărtășit sunt inexacte, trăgând concluzii greșite din presupuneri incorecte."
Nvidia nu a răspuns la o cerere de comentarii.
Cum să calculezi numărul de cipuri din „capacitatea de AI" a unei companii
Cele mai mari companii tech din lume își măsoară capacitatea de AI în termeni de putere: gigawați. Un gigawatt alimentează între 700.000 și 1 milion de locuințe. Meta spune că controversatul său centru de date Hyperion din Louisiana va avea o capacitate de 5GW. Compania britanică DataVita planifică un centru de date de 1GW în Lanarkshire.
Pentru a converti aceste cifre în cipuri, trebuie să calculezi câte cipuri pot funcționa cu acea cantitate de putere. The Guardian a folosit următoarea metodă, verificând aceste calcule cu Abdeltawab Hendawi, profesor la Universitatea din Rhode Island, și Ren.
Primul protestatar anti-AI încarcerat are un mesaj pentru OpenAI, Anthropic și Meta: „Redobândiți-vă umanitatea" – citește mai mult.
Pentru a avea o idee aproximativă despre câte cipuri sunt într-un centru de date, ai putea împărți utilizarea de energie a centrului de date la utilizarea de energie a unui cip de AI, cum ar fi H100. Un singur H100 folosește 700W. Dacă Microsoft are o capacitate de 10GW, împărțind aceasta la 700 de wați sugerează că ar trebui să aibă aproximativ 12 milioane de cipuri.
H100-urile alcătuiesc majoritatea cipurilor menționate în documentul intern. Indică, de asemenea, că Microsoft are A100-uri, care folosesc mai puțină energie, și Blackwell-uri, care folosesc mai mult.
Dar această estimare aproximativă nu ține cont de mai mulți factori. În primul rând, centrele de date au sisteme de răcire și alte echipamente care folosesc și ele electricitate. Ren estimează că într-un centru de date tipic de AI, 80% din electricitate merge la cipurile de calcul. Aceasta este aproximativ în linie cu cifrele Agenției Internaționale pentru Energie, deși numărul exact depinde de cât de eficient este centrul de date. Optzeci la sută din 10GW ar sugera că aproximativ 8GW este de fapt în uz.
Aceasta este ușor mai mică decât propriile cifre ale Microsoft pentru eficiența centrelor de date, care apar într-un raport de sustenabilitate din 2024. Acel raport sugerează că 89% din electricitatea din noile sale centre de date alimentează sistemele IT, cu un cost suplimentar de 11%.
În al doilea rând, nu toate cipurile dintr-un centru de date sunt cipuri de AI. Cipurile de AI sunt montate pe rafturi de servere împreună cu alte cipuri de computer, cum ar fi cipurile de memorie, care le ajută să ruleze calcule. Un server cu opt GPU-uri H100 folosește maximum aproximativ 10kW de putere.
Împărțind 8GW la 10kW dă 800.000 de servere, sau 6,4 milioane de cipuri.
Aceasta este o estimare conservatoare, deoarece în practică companii precum Microsoft își supraabonează capacitatea de energie într-o anumită măsură—punând mai multe cipuri într-un centru de date decât poate susține complet capacitatea lor IT, a spus Ren.
Întrebări Frecvente
Iată o listă de întrebări frecvente despre strategia AI a Microsoft și deficitul de cipuri scrisă într-un ton natural, prietenos cu utilizatorul
Întrebări pentru Începători
1 Își încetinește Microsoft planurile de AI din cauza cipurilor
Răspuns Nu chiar Microsoft încă se mișcă foarte repede, dar trebuie să fie mai inteligenți în legătură cu unde își pun funcțiile de AI Ei prioritizează clienții mari cu valoare ridicată și produsele lor de bază în loc să lanseze funcții pentru toată lumea deodată De asemenea, își proiectează software-ul pentru a folosi cipurile mai eficient
2 Ce înseamnă deficitul de cipuri pentru o persoană normală care folosește produse Microsoft
Răspuns Pentru tine ar putea însemna că o nouă funcție de AI ajunge puțin mai târziu decât era de așteptat sau ar putea fi lansată pentru un grup mai mic de utilizatori mai întâi înainte de a fi eliberată pentru toată lumea Rareori înseamnă că funcțiile sunt anulate doar întârziate sau eșalonate
3 De ce are Microsoft nevoie de atât de multe cipuri pentru AI oricum
Răspuns Modelele de AI sunt ca niște calculatoare masive și complexe Ele trebuie să proceseze miliarde de calcule pentru a răspunde la o singură întrebare Cipurile specializate sunt singura modalitate de a face asta suficient de repede pentru ca AI să pară instantaneu Microsoft are nevoie de milioane dintre aceste cipuri pentru a alimenta AI pentru toți clienții săi în același timp
4 Este acest deficit doar despre fabricarea mai multor cipuri sau este altceva
Răspuns Este un pic din ambele Fabricile nu le pot produce suficient de repede, dar este și despre ce cipuri pot face Cipurile specifice de înaltă performanță folosite pentru AI sunt cele mai greu de fabricat și există doar câteva companii în lume care le pot produce
Întrebări Avansate Tehnice
5 Ce cipuri specifice îi este greu Microsoft să obțină
Răspuns Principalul blocaj este memoria cu lățime de bandă mare și GPU-urile avansate, în special seriile H100 și H200 de la Nvidia Aceste GPU-uri sunt standardul industriei pentru antrenarea și rularea modelelor de AI, iar oferta nu a ținut pasul cu cererea masivă de la Microsoft Google și Amazon toate deodată
6 Face Microsoft ceva pentru a rezolva asta Își construiesc propriile cipuri
