A chipek meglehetősen kicsik – néhány elfér a tenyeredben. De elengedhetetlenek a mesterséges intelligencia modellek építéséhez, és a világ legnagyobb techvállalatainak hatalmas mennyiségre van szükségük belőlük ahhoz, hogy versenyben maradjanak.
A Microsoft az egyik ilyen vállalat. És papíron úgy tűnik, problémája van. Egy Guardian-nyomozás nyilvánvaló ellentmondást talált aközött, amit a Microsoft az AI-kapacitásáról állított, és aközött, ahány fejlett AI-chip valójában használatban van nála.
Ez pedig nem is kicsi eltérés. A Microsoft állítólag 1,8 millió AI-chipet kívánt telepíteni adatközpontjaiba világszerte 2024 végéig. Majdnem két évvel később, egy 280 milliárd dolláros bővítés közepén a vállalatnak 2,2 millió AI-chipje van telepítve – a Guardian által megtekintett belső dokumentumok szerint. Ez kevesebb, mint fele annak a számnak, amelyet egyes szakértők vártak.
Egyszerűen fogalmazva: a globális AI-verseny hatalmas adatközpontok építését követeli meg, amelyek rendkívül drága chipeken futnak. A látszólagos ellentmondás arra utal, hogy a Microsoft legújabb adatközpontjai lehet, hogy nem működnek teljesen – vagy ha igen, nincs meg bennük a szükséges chip.
Ez egy nagyobb problémára is rámutat: nehéz nyomon követni, hogyan halad valójában az AI-technológia. Az AI-t működtető chipeket az Nvidia gyártja, amely a világ két legértékesebb vállalatának egyike. Az ellátási lánca az iparág egyik legjobban őrzött titka.
Az Nvidia szinte kivétel nélkül nem jelenti be, hány ilyen chipet ad el, és kinek. Ügyfelei – a világ legnagyobb techvállalatai – szintén nem fedik fel, mennyivel rendelkeznek. Ezen információk nélkül nagyon nehéz bárkinek is tudnia, hogy az AI valóban virágzik-e vagy sem.
Microsoft: Hatalmi vákuum?
Az elmúlt két évben a Microsoft azt állítja, hogy félelmetes sebességgel építette ki az AI-infrastruktúráját. Vezérigazgatója, Satya Nadella tavaly azt mondta, hogy 2027 közepére megduplázza globális adatközpont-lábnyomát. 2022 óta körülbelül 280 milliárd dollárt fektetett földterületbe, épületekbe és számítási infrastruktúrába az AI felépítéséhez. Ez önmagában több mint 41 milliárd dollárt jelent az elmúlt negyedévben.
De nehéz megbecsülni, hány adatközpontot épített a Microsoft ebből a pénzből.
Az egyik módja a vállalat előrehaladásának felmérésére, ha a nyilvános bejelentéseit nézzük, különösen az energiaigényekkel kapcsolatban. Az adatközpontok áramot igényelnek, így az egyik módja annak becslésére, hány működik, ha összeadjuk a Microsoft rendelkezésére álló energiát – azaz az AI-kapacitását.
A Microsoft saját állításai – éves jelentésekben és negyedéves beszámolókban – arra utalnak, hogy az elmúlt két évben 5 gigawattnyi (GW) adatközpont-kapacitást adott hozzá az AI-kiépítés részeként. Azt állítja, hogy most már több száz adatközpontja van öt kontinensen.
Az öt gigawatt hatalmas energiamennyiség – négyszerese Európa legnagyobb adatközpont-parkjának. De a Microsoft teljes kapacitásának ennél is nagyobbnak kellene lennie; 2022 óta építi az AI-infrastruktúráját. Hogy mennyivel nagyobb, az nyitott kérdés.
Egy 2024-es belső prezentációban a Microsoft állítólag azt állította, hogy már 5GW adatközpont-kapacitással rendelkezik. Ez arra utalna, hogy mostanra összesen 10GW-ja lehet. Nem világos, hogy ezek mind AI-adatközpontok-e – néhány lehet más felhőszolgáltatásokra is. De a Microsoft saját nyilatkozatai azt jelzik, hogy a közelmúltbeli kiadásainak túlnyomó része az AI-infrastruktúra építésére összpontosult.
Tíz gigawattnyi AI-adatközpont arra utalna, hogy a Microsoftnak nagyjából 6,4 millió grafikus feldolgozóegységgel (GPU) kellene rendelkeznie. Shaolei Ren, a University of California, Riverside professzora azt mondta, hogy a Microsoft fenntarthatósági jelentései – amelyek villamosenergia-felhasználási adatokat tartalmaznak, és a pénzügyi jelentésektől külön jelennek meg – más képet festenek. Szerinte ezek a jelentések arra utalnak, hogy a Microsoft AI-kapacitása 2024-ben valószínűleg közelebb volt az 1,2GW-hoz. De még ez az alacsonyabb szám is azt jelentené, hogy a Microsoftnak nagyjából 4 millió AI-chipre lenne szüksége – ha az elmúlt két évben 5GW AI-adatközpontot adott hozzá.
„A saját mérőszámaik szerint a Microsoftnak igaza lehet. De nem világos, mit értenek az alatt, hogy adatközpont-kapacitást adtak hozzá. Nem adnak elegendő kontextust” – mondta Ren. „A fenntarthatósági jelentéseket harmadik fél ellenőrzi. Nagyobb hitelességük van, mint a bejelentéseknek.”
Egy, az Nvidiára szakosodott elemző azt mondta, szerinte a Microsoftnak több chipje lenne, tekintettel a nyilvános nyilatkozataira. „Számomra alacsony. Kevesebb, mint amennyit vártam volna, hogy a Microsoftnak lesz” – mondta.
A Microsoft ragaszkodott hozzá, hogy a Guardian számításai helytelen információkon alapulnak. Nem adott betekintést abba, hogy a Guardian mely számai helytelenek, vagy miért. Az világos, hogy a Microsoft AI-kapacitásának kiépítése úgy tűnik, sokkal lassabban halad, mint amit az éves jelentései sugallhatnak.
Ren azt mondta: „Lehet, hogy papíron hihető egyetlen negyedéven belül 1GW áramkapacitást biztosítani vagy bejelenteni. De hogy ezt a kapacitást ugyanabban a negyedévben üzembe helyezzék és ténylegesen számítástechnikára használják, az sokkal nehezebb lenne.”
A Microsofton belüli források szerint a vállalat AI-chipek teljes száma „alig mozdult” az elmúlt évben.
A látszólagos ellentmondás egy részét magyarázhatja a Microsoft együttműködése az OpenAI-val. Kereskedelmi partnerségük pontos feltételei nem nyilvánosak, de ez az egység magyarázhatja a Microsoft adatközpont-telepítéseinek egy részét, amelyek nem szerepelnének a Guardian által megtekintett dokumentumokban.
Teljes képernyős kép megtekintése
Egy Microsoft-adatközpont Middenmeerben, Hollandiában. Fotó: ANP/Shutterstock
„Lehet, hogy van egy csomó chiped… amit nem tudsz bedugni”
Van egy másik tényező is: a Microsoft néhány nagy projektje úgy tűnik, messze van a működéstől.
Vegyük a Microsoft legnagyobb amerikai AI-fejlesztését, a wisconsini és grúziai Fairwater nevű adatközpont-párt. Áprilisban Nadella, a Microsoft vezérigazgatója azt mondta, hogy a wisconsini Fairwater-projekt „élesben indul”.
Az Epoch AI műholdfelvételei az épületről azonban úgy tűnik, csak részben működik. Májusban a Microsoft elismerte egy wisconsini újságnak, hogy a Fairwater még nincs online.
Ez nagyon gyakori – mondta Ren. Kezdetben több gigawattos, több milliárd dolláros beruházás volt. Három évvel később csak 300MW épült meg.
Teljes képernyős kép megtekintése
Satya Nadella tavaly azt mondta, hogy a Microsoft 2027 közepére megduplázza globális adatközpont-lábnyomát. Fotó: Jeff Chiu/AP
A belső dokumentum azt is jelzi, hogy a Microsoftnak kevesebb van az Nvidia legújabb chipmodelljéből, a Blackwellből, mint amennyire az Nvidia nyilvános bejelentései alapján számítani lehetne. Tavaly márciusban Jensen Huang, az Nvidia vezérigazgatója azt mondta, hogy a Blackwell-rendelések az Nvidia négy legnagyobb ügyfelétől – amelyekről széles körben úgy gondolják, hogy az Amazon, az Oracle, a Microsoft és a Google – 3,6 milliót tettek ki.
Ehhez a számhoz nem adtak bontást, de a Microsoft történelmileg az Nvidia egyik legnagyobb ügyfele volt. Ha ez még mindig így van, akkor a Microsoft teljes Blackwell-állománya valahol 1 millió chip közelében kellene, hogy legyen. Valójában ennek kevesebb mint fele van telepítve.
Hol vannak a chipek, ha nem az adatközpontokban?
Az Nvidia mérlegei úgy tűnik, azt jelzik, hogy nagyon sok chipet adott el; 215,9 milliárd dolláros bevételt jelentett februárban. A Microsoft megvásárolta ezeket, de nem telepítette? Mennyit, és mind a birtokában van?
Nadella úgy tűnt, utal erre a kérdésre egy tavaly év végi, All Things AI című podcastban, ahol a Microsoft adatközpont-kiépítéséről beszélt. A legnagyobb probléma – mondta – az elektromos áram és az adatközpontok építése elég közel ahhoz, ahol az áram van.
„Ha ezt nem tudod megtenni, lehet, hogy van egy csomó chiped a készletben, amit nem tudok bedugni. Valójában ez a problémám ma. Nem chipellátási kérdés. Hanem az, hogy nincs meleg burkolatom, amibe bedughatnám.”
Egy Microsoft-szóvivő azt mondta: „Több évtizeden át a Microsoft globális infrastruktúrát épített, hogy kielégítse a felhő- és AI-szolgáltatások iránti gyorsan növekvő ügyféligényt. Adatközpontjaink egyedi gyártású szilíciumot, AMD-, Intel- és Nvidia-chipeket kombinálnak több generáción át, valamint a nagy léptékű működéshez szükséges hálózati, tárolási és rendszerinfrastruktúrát. A Microsoft nem jelent be konkrét chipek mennyiségét AI-infrastruktúrájában. A Guardian által megosztott becslések pontatlanok, helytelen feltételezésekből vonnak le rossz következtetéseket.”
Az Nvidia nem válaszolt a megjegyzéskérésre.
Hogyan számoljuk ki a chipek számát egy vállalat „AI-kapacitásából”
A világ legnagyobb techvállalatai az AI-kapacitásukat áramban mérik: gigawattban. Egy gigawatt 700 000 és 1 millió otthon között lát el árammal. A Meta azt mondja, hogy a louisianai, ellentmondásos Hyperion adatközpontja 5GW kapacitású lesz. A brit DataVita cég 1GW-os adatközpontot tervez Lanarkshire-ben.
Ahhoz, hogy ezeket a számokat chipekre váltsuk, ki kell számolni, hány chip működhet ekkora árammal. A Guardian a következő módszert használta, ellenőrizve a számításokat Abdeltawab Hendawival, a University of Rhode Island professzorával és Ren-nel.
Az első, börtönbe került AI-ellenes tiltakozó üzenetet küldött az OpenAI-nak, az Anthropicnek és a Metának: „Nyerjétek vissza az emberségeteket” – olvass tovább.
Ahhoz, hogy hozzávetőleges képet kapjunk arról, hány chip van egy adatközpontban, eloszthatjuk az adatközpont áramfelhasználását egy AI-chip, például egy H100 áramfelhasználásával. Egyetlen H100 700W-ot használ. Ha a Microsoftnak 10GW kapacitása van, ezt 700 wattal elosztva az jön ki, hogy körülbelül 12 millió chipnek kellene lennie.
A H100-asok teszik ki a belső dokumentumban említett chipek nagy részét. Az is jelzi, hogy a Microsoftnak vannak A100-asai, amelyek kevesebb áramot használnak, és Blackwelljei, amelyek többet.
De ez a hozzávetőleges becslés nem vesz figyelembe több tényezőt. Először is, az adatközpontoknak hűtőrendszereik és más berendezéseik vannak, amelyek szintén áramot használnak. Ren becslése szerint egy tipikus AI-adatközpontban az áram 80%-a a számítógépes chipekhez megy. Ez nagyjából összhangban van a Nemzetközi Energiaügynökség adataival, bár a pontos szám attól függ, mennyire hatékony az adatközpont. A 10GW 80%-a azt sugallná, hogy körülbelül 8GW van ténylegesen használatban.
Ez valamivel alacsonyabb, mint a Microsoft saját adatközpont-hatékonysági adatai, amelyek egy 2024-es fenntarthatósági jelentésben szerepelnek. Ez a jelentés azt sugallja, hogy új adatközpontjaiban az áram 89%-a az IT-rendszereket táplálja, 11%-os többletköltséggel.
Másodszor, nem minden chip egy adatközpontban AI-chip. Az AI-chipeket szerverállványokra szerelik más számítógépes chipekkel együtt, például memóriachipekkel, amelyek segítenek a számítások futtatásában. Egy nyolc H100 GPU-val rendelkező szerver maximum körülbelül 10kW áramot használ.
A 8GW-ot 10kW-tal elosztva 800 000 szervert kapunk, vagyis 6,4 millió chipet.
Ez konzervatív becslés, mert a gyakorlatban az olyan vállalatok, mint a Microsoft, bizonyos mértékig túljegyzik az áramkapacitásukat – több chipet tesznek egy adatközpontba, mint amennyit az IT-kapacitásuk teljesen ki tud szolgálni – mondta Ren.
Gyakran Ismételt Kérdések
Íme egy lista a Microsoft AI-stratégiájával és a chiphiánnyal kapcsolatos gyakori kérdésekről, természetes, felhasználóbarát hangnemben megírva
Kezdő szintű kérdések
1 A Microsoft valóban lassítja az AI-terveit a chipek miatt
Válasz Nem igazán A Microsoft még mindig nagyon gyorsan halad, de okosabban kell eldönteniük, hová teszik az AI-funkcióikat A nagy értékű ügyfeleket és saját alapvető termékeiket helyezik előtérbe ahelyett, hogy egyszerre mindenkinek bevezetnék a funkciókat Emellett úgy tervezik a szoftvereiket, hogy hatékonyabban használják a chipeket
2 Mit jelent a chiphiány egy hétköznapi ember számára, aki Microsoft-termékeket használ
Válasz Számodra azt jelentheti, hogy egy új AI-funkció kicsit később érkezik meg, vagy először egy kisebb felhasználói csoportnak vezetik be, mielőtt mindenkihez eljutna Ritkán jelenti azt, hogy funkciókat törölnek – csak késleltetik vagy szakaszosan vezetik be
3 Miért van szüksége a Microsoftnak ennyi chipre az AI-hoz
Válasz Az AI-modellek olyanok, mint hatalmas, összetett számológépek Milliárdnyi számítást kell feldolgozniuk egyetlen kérdés megválaszolásához Speciális chipek az egyetlen módja annak, hogy ezt elég gyorsan tegyék ahhoz, hogy az AI azonnalinak érződjön A Microsoftnak milliónyi ilyen chipre van szüksége ahhoz, hogy egyszerre minden ügyfelének AI-t biztosítson
4 Ez a hiány csak arról szól, hogy több chipet gyártsanak, vagy másról is
Válasz Mindkettőről szól A gyárak nem tudnak elég gyorsan gyártani, de arról is szól, mely chipeket tudnak gyártani A kifejezetten AI-hoz használt csúcskategóriás chipek a legnehezebben gyárthatók, és csak néhány cég van a világon, amely elő tudja állítani őket
Haladó, technikai kérdések
5 Mely konkrét chipekhez nehéz hozzájutnia a Microsoftnak
Válasz A fő szűk keresztmetszet a nagy sávszélességű memória és a fejlett GPU-k, konkrétan az Nvidia H100 és H200 sorozatai Ezek a GPU-k az iparági szabványok az AI-modellek betanításához és futtatásához, és a kínálat nem tartott lépést a Microsoft, a Google és az Amazon óriási, egyidejű keresletével
6 Tesz-e valamit a Microsoft ennek orvoslására Építenek saját chipeket
