Čipy jsou poměrně malé – některé se vejdou do dlaně. Ale jsou nezbytné pro budování modelů umělé inteligence a největší světové technologické společnosti jich potřebují obrovské množství, aby si udržely náskok.
Microsoft je jednou z těchto společností. A na papíře se zdá, že má problém. Vyšetřování deníku Guardian zjistilo zjevný nesoulad mezi tím, co Microsoft řekl o své kapacitě pro umělou inteligenci, a počtem pokročilých čipů pro umělou inteligenci, které skutečně používá.
A není to malá mezera. Microsoft údajně cílil na to, aby měl do konce roku 2024 ve svých datových centrech po celém světě nainstalováno 1,8 milionu čipů pro umělou inteligenci. Téměř o dva roky později, uprostřed expanze za 280 miliard dolarů, má společnost nainstalováno 2,2 milionu čipů pro umělou inteligenci, podle interních dokumentů, které viděl Guardian. To je méně než polovina počtu, který někteří odborníci očekávali.
Jednoduše řečeno, globální závod v oblasti umělé inteligence vyžaduje budování obrovských datových center, která běží na extrémně drahých čipech. Zdánlivý nesoulad naznačuje, že nejnovější datová centra Microsoftu nemusí být plně funkční – nebo pokud jsou, nemají čipy, které potřebují.
To také poukazuje na větší problém: je těžké sledovat, jak technologie umělé inteligence skutečně pokročila. Čipy, které pohánějí umělou inteligenci, vyrábí Nvidia, jedna ze dvou nejhodnotnějších společností na světě. Její dodavatelský řetězec je jedním z nejpřísněji střežených tajemství v oboru.
Téměř bez výjimek Nvidia neuvádí, kolik těchto čipů prodává nebo komu. Její klienti – největší světové technologické společnosti – také nezveřejňují, kolik jich mají. Bez těchto informací je pro kohokoli velmi obtížné vědět, zda umělá inteligence skutečně vzkvétá, nebo ne.
Microsoft: Vakuum moci?
Za poslední dva roky Microsoft tvrdí, že vybudoval infrastrukturu pro umělou inteligenci závratnou rychlostí. Jeho generální ředitel Satya Nadella loni řekl, že do poloviny roku 2027 zdvojnásobí svou globální stopu datových center. Od roku 2022 investoval zhruba 280 miliard dolarů do pozemků, budov a výpočetní infrastruktury pro budování umělé inteligence. To zahrnuje více než 41 miliard dolarů jen za poslední čtvrtletí.
Ale je těžké odhadnout, kolik datových center Microsoft s těmito penězi postavil.
Jedním ze způsobů, jak měřit pokrok společnosti, je podívat se na její veřejná oznámení, zejména pokud jde o potřeby energie. Datová centra vyžadují elektřinu, takže způsob, jak odhadnout, kolik jich je v provozu, je sečíst energii, kterou má Microsoft k dispozici – jeho kapacitu pro umělou inteligenci.
Vlastní tvrzení Microsoftu ve výročních zprávách a čtvrtletních výsledcích naznačují, že za poslední dva roky přidal 5 gigawattů (GW) kapacity datových center jako součást svého budování umělé inteligence. Tvrdí, že nyní má stovky datových center na pěti kontinentech.
Pět gigawattů je obrovské množství energie – čtyřnásobek velikosti největšího parku datových center v Evropě. Ale celková kapacita Microsoftu by měla být ještě větší; infrastrukturu pro umělou inteligenci buduje od roku 2022. O kolik větší, je otevřená otázka.
V interní prezentaci z roku 2024 Microsoft údajně tvrdil, že má již nainstalováno 5 GW kapacity datových center. To by naznačovalo, že by nyní mohl mít celkem 10 GW. Není jasné, zda jsou všechna tato datová centra pro umělou inteligenci – některá by mohla být pro jiné cloudové služby. Ale vlastní prohlášení Microsoftu naznačují, že drtivý důraz jeho nedávných výdajů byl na budování infrastruktury pro umělou inteligenci.
Deset gigawattů datových center pro umělou inteligenci by naznačovalo, že by Microsoft měl mít zhruba 6,4 milionu grafických procesorů (GPU). Shaolei Ren, profesor na Kalifornské univerzitě v Riverside, řekl, že zprávy Microsoftu o udržitelnosti – které zahrnují údaje o spotřebě elektřiny a jsou zveřejňovány odděleně od jeho finančních výsledků – ukazují jiný obraz. Řekl, že tyto zprávy naznačují, že kapacita Microsoftu pro umělou inteligenci v roce 2024 byla pravděpodobně blíže 1,2 GW. Ale i tento nižší údaj by znamenal, že by Microsoft potřeboval zhruba 4 miliony čipů pro umělou inteligenci – pokud za poslední dva roky přidal 5 GW datových center pro umělou inteligenci.
"Podle jejich vlastních metrik by Microsoft mohl mít pravdu. Ale není jasné, co myslí tím, když říkají, že přidali kapacitu datových center. Poskytují nedostatečný kontext," řekl Ren. "Zprávy o udržitelnosti jsou auditovány třetí stranou. Mají větší důvěryhodnost než oznámení."
Analytik specializující se na Nvidii řekl, že si myslí, že by Microsoft měl více čipů, vzhledem k jeho veřejným prohlášením. "Jsou pro mě nízké. Jsou méně, než jsem očekával, že Microsoft bude mít," řekl.
Microsoft trval na tom, že výpočty Guardianu jsou založeny na nesprávných informacích. Neposkytl žádný náhled na to, která z čísel Guardianu byla nesprávná nebo proč. Co je jasné, je, že budování kapacity pro umělou inteligenci Microsoftu se zdá být mnohem pomalejší, než by mohly naznačovat jeho výroční zprávy.
Ren řekl: "Může být věrohodné zajistit nebo oznámit 1 GW energetické kapacity během jediného čtvrtletí na papíře. Ale uvést tuto kapacitu do provozu a skutečně ji použít pro výpočty ve stejném čtvrtletí by bylo mnohem obtížnější."
Zdroje uvnitř Microsoftu říkají, že celkový počet čipů pro umělou inteligenci společnosti se za poslední rok "sotva pohnul".
Část zdánlivého nesouladu může být vysvětlena spoluprací Microsoftu s OpenAI. Přesné podmínky jejich komerčního partnerství nejsou veřejné, ale tato jednotka může představovat část nasazení datových center Microsoftu, která by nebyla v dokumentech, které Guardian viděl.
Zobrazit obrázek v plné velikosti
Datové centrum Microsoftu v Middenmeer v Nizozemsku. Fotografie: ANP/Shutterstock
"Možná máte spoustu čipů… které nemůžete zapojit"
Existuje další faktor: některé velké projekty Microsoftu se zdají být daleko od provozu.
Vezměte si největší vývoj umělé inteligence Microsoftu v USA, dvojici datových center ve Wisconsinu a Georgii s názvem Fairwater. V dubnu Nadella, generální ředitel Microsoftu, řekl, že projekt Fairwater ve Wisconsinu "se spouští".
Satelitní záběry budovy od Epoch AI však naznačují, že je v provozu pouze její část. V květnu Microsoft přiznal wisconsinským novinám, že Fairwater ještě není online.
To je velmi běžné, řekl Ren. Zpočátku to byla investice za několik gigawattů a miliardy dolarů. O tři roky později bylo postaveno pouze 300 MW.
Zobrazit obrázek v plné velikosti
Satya Nadella loni řekl, že Microsoft do poloviny roku 2027 zdvojnásobí svou globální stopu datových center. Fotografie: Jeff Chiu/AP
Interní dokument také naznačuje, že Microsoft má méně nejnovějšího modelu čipu od Nvidie, Blackwell, než by se dalo očekávat vzhledem k veřejným oznámením Nvidie. Loni v březnu generální ředitel Nvidie Jensen Huang řekl, že objednávky na Blackwell od čtyř největších zákazníků Nvidie – obecně považovaných za Amazon, Oracle, Microsoft a Google – činily 3,6 milionu.
Pro tento údaj nebyl poskytnut žádný rozpis, ale Microsoft byl historicky jedním z největších zákazníků Nvidie. Pokud by to stále platilo, mělo by to znamenat, že celkové držby Blackwellu Microsoftu jsou blízko 1 milionu čipů. Ve skutečnosti má nainstalováno méně než polovinu tohoto množství.
Kde jsou čipy, když ne v datových centrech?
Rozvahy Nvidie se zdají naznačovat, že prodala velké množství čipů; v únoru vykázala tržby 215,9 miliardy dolarů. Koupil je Microsoft, ale nenainstaloval je? Kolik a jsou všechny v jeho držení?
Nadella se zdál naznačovat tuto otázku v podcastu koncem loňského roku s názvem All Things AI, kde mluvil o budování datových center Microsoftu. Řekl, že největším problémem je elektrická energie a budování datových center dostatečně blízko k tomu, kde se energie nachází.
"Pokud to nemůžete udělat, můžete mít skutečně spoustu čipů sedících v zásobách, které nemůžu zapojit. Ve skutečnosti to je můj problém dnes. Není to problém s dodávkami čipů. Je to skutečně to, že nemám teplé skořápky, do kterých bych je zapojil."
Mluvčí Microsoftu řekl: "Během několika desetiletí Microsoft vybudoval globální infrastrukturu, aby uspokojil rychle rostoucí poptávku zákazníků po cloudových službách a službách umělé inteligence. Naše datová centra kombinují vlastní křemík, čipy AMD, Intel a Nvidia napříč několika generacemi, spolu s síťovou, úložnou a systémovou infrastrukturou potřebnou pro provoz ve velkém měřítku. Microsoft neuvádí objem konkrétních čipů ve své infrastruktuře pro umělou inteligenci. Odhady, které nám Guardian sdílel, jsou nepřesné a vyvozují špatné závěry z nesprávných předpokladů."
Nvidia neodpověděla na žádost o komentář.
Jak vypočítat počet čipů z "kapacity pro umělou inteligenci" společnosti
Největší světové technologické společnosti měří svou kapacitu pro umělou inteligenci z hlediska výkonu: gigawattů. Jeden gigawatt napájí 700 000 až 1 milion domácností. Meta říká, že její kontroverzní datové centrum Hyperion v Louisianě bude mít kapacitu 5 GW. Britská společnost DataVita plánuje datové centrum o výkonu 1 GW v Lanarkshire.
Chcete-li tyto údaje převést na čipy, musíte vypočítat, kolik čipů může běžet s tímto množstvím energie. Guardian použil následující metodu a ověřil tyto výpočty s Abdeltawabem Hendawim, profesorem na University of Rhode Island, a Renem.
První odpůrce umělé inteligence, který byl uvězněn, má vzkaz pro OpenAI, Anthropic a Meta: "Znovu získejte svou lidskost" – čtěte více.
Chcete-li získat hrubou představu o tom, kolik čipů je v datovém centru, můžete vydělit spotřebu energie datového centra spotřebou energie čipu pro umělou inteligenci, jako je H100. Jeden H100 spotřebuje 700 W. Pokud má Microsoft kapacitu 10 GW, vydělení 700 watty naznačuje, že by měl mít asi 12 milionů čipů.
H100 tvoří většinu čipů zmíněných v interním dokumentu. Také naznačuje, že Microsoft má A100, které spotřebovávají méně energie, a Blackwell, které spotřebovávají více.
Ale tento hrubý odhad nezohledňuje několik faktorů. Za prvé, datová centra mají chladicí systémy a další zařízení, která také spotřebovávají elektřinu. Ren odhaduje, že v typickém datovém centru pro umělou inteligenci jde 80 % elektřiny do počítačových čipů. To je zhruba v souladu s údaji Mezinárodní energetické agentury, i když přesné číslo závisí na tom, jak efektivní je datové centrum. Osmdesát procent z 10 GW by naznačovalo, že skutečně v provozu je asi 8 GW.
To je mírně nižší než vlastní údaje Microsoftu o efektivitě datových center, které se objevují ve zprávě o udržitelnosti z roku 2024. Tato zpráva naznačuje, že 89 % elektřiny v jeho nových datových centrech napájí IT systémy, s 11% režií.
Za druhé, ne všechny čipy v datovém centru jsou čipy pro umělou inteligenci. Čipy pro umělou inteligenci jsou namontovány na serverových stojanech spolu s dalšími počítačovými čipy, jako jsou paměťové čipy, které jim pomáhají provádět výpočty. Server s osmi GPU H100 spotřebuje maximálně asi 10 kW energie.
Vydělení 8 GW 10 kW dává 800 000 serverů, neboli 6,4 milionu čipů.
To je konzervativní odhad, protože v praxi společnosti jako Microsoft do určité míry překračují svou energetickou kapacitu – umisťují více čipů do datového centra, než jejich IT kapacita může plně podporovat, řekl Ren.
Často kladené otázky
Zde je seznam často kladených otázek o strategii Microsoftu v oblasti umělé inteligence a nedostatku čipů, napsaný přirozeným a uživatelsky přívětivým tónem
Otázky pro začátečníky
1 Zpomaluje Microsoft skutečně své plány v oblasti umělé inteligence kvůli čipům
Odpověď Vlastně ne, Microsoft se stále pohybuje velmi rychle, ale musí být chytřejší v tom, kam umisťuje své funkce umělé inteligence. Upřednostňuje velké vysoce hodnotné zákazníky a své vlastní klíčové produkty před zaváděním funkcí pro všechny najednou. Také navrhuje svůj software tak, aby čipy využíval efektivněji
2 Co znamená nedostatek čipů pro běžného člověka používajícího produkty Microsoftu
Odpověď Pro vás to může znamenat, že nová funkce umělé inteligence dorazí o něco později, než se očekávalo, nebo může být nejprve zavedena pro menší skupinu uživatelů, než bude uvolněna pro všechny. Málokdy to znamená, že funkce jsou zrušeny, jen zpožděny nebo rozděleny do fází
3 Proč Microsoft potřebuje tolik čipů pro umělou inteligenci
Odpověď Modely umělé inteligence jsou jako masivní složité kalkulačky. Potřebují zpracovat miliardy výpočtů, aby odpověděly na jedinou otázku. Specializované čipy jsou jediným způsobem, jak to udělat dostatečně rychle, aby umělá inteligence působila okamžitě. Microsoft potřebuje miliony těchto čipů, aby mohl pohánět umělou inteligenci pro všechny své zákazníky současně
4 Je tento nedostatek jen o výrobě více čipů, nebo je to něco jiného
Odpověď Je to trochu obojí. Továrny je nemohou vyrábět dostatečně rychle, ale také záleží na tom, které čipy mohou vyrábět. Konkrétní špičkové čipy používané pro umělou inteligenci jsou nejobtížnější na výrobu a na světě je jen několik společností, které je mohou produkovat
Pokročilé technické otázky
5 Které konkrétní čipy Microsoft obtížně získává
Odpověď Hlavním úzkým hrdlem je vysokorychlostní paměť a pokročilé GPU, konkrétně řady H100 a H200 od Nvidie. Tyto GPU jsou průmyslovým standardem pro trénování a provoz modelů umělé inteligence a nabídka nedržela krok s masivní poptávkou od Microsoftu, Googlu a Amazonu najednou
6 Dělá Microsoft něco pro nápravu této situace? Vyvíjí vlastní čipy
