Чиповете са доста малки – някои могат да се поберат в дланта на ръката ви. Но те са от съществено значение за изграждането на модели с изкуствен интелект, а най-големите технологични компании в света се нуждаят от огромен брой от тях, за да останат напред.
Microsoft е една от тези компании. И на хартия изглежда, че има проблем. Разследване на Guardian установи очевидно несъответствие между това, което Microsoft е заявила за своя капацитет за изкуствен интелект, и броя на усъвършенстваните AI чипове, които реално използва.
Това не е малка разлика. Според съобщенията Microsoft е целила да инсталира 1,8 милиона AI чипа в своите центрове за данни по света до края на 2024 г. Почти две години по-късно, по средата на разширяване за 280 милиарда долара, компанията има инсталирани 2,2 милиона AI чипа, според вътрешни документи, видени от Guardian. Това е по-малко от половината от броя, който някои експерти очакваха.
С прости думи, глобалната надпревара в областта на изкуствения интелект изисква изграждането на масивни центрове за данни, които работят с изключително скъпи чипове. Очевидното несъответствие предполага, че най-новите центрове за данни на Microsoft може да не са напълно оперативни – или, ако са, нямат необходимите чипове.
Това също така сочи към по-голям проблем: трудно е да се проследи как всъщност напредва технологията за изкуствен интелект. Чиповете, които захранват изкуствения интелект, се произвеждат от Nvidia, една от двете най-скъпи компании в света. Нейната верига за доставки е една от най-пазените тайни в индустрията.
Почти без изключение Nvidia не съобщава колко от тези чипове продава или на кого. Нейните клиенти – най-големите технологични компании в света – също не разкриват колко притежават. Без тази информация е много трудно за всеки да знае дали изкуственият интелект наистина процъфтява или не.
Microsoft: Вакуум на властта?
През последните две години Microsoft заяви, че е изградила инфраструктура за изкуствен интелект със светкавична скорост. Нейният главен изпълнителен директор Сатя Надела каза миналата година, че ще удвои глобалния си отпечатък от центрове за данни до средата на 2027 г. От 2022 г. насам компанията е инвестирала приблизително 280 милиарда долара в земя, сгради и изчислителна инфраструктура за изграждане на изкуствен интелект. Това включва повече от 41 милиарда долара само през последното тримесечие.
Но е трудно да се оцени колко центрове за данни е изградила Microsoft с тези пари.
Един от начините да се прецени напредъкът на компанията е да се разгледат нейните публични съобщения, особено по отношение на нуждите от електроенергия. Центровете за данни изискват електричество, така че начин да се оцени колко от тях са оперативни е да се сумира енергията, с която разполага Microsoft – нейният капацитет за изкуствен интелект.
Собствените твърдения на Microsoft, в годишни отчети и тримесечни финансови резултати, предполагат, че тя е добавила 5 гигавата (GW) капацитет на центрове за данни през последните две години като част от изграждането на своя изкуствен интелект. Тя заявява, че сега има стотици центрове за данни на пет континента.
Пет гигавата са огромно количество енергия – четири пъти повече от размера на най-големия парк от центрове за данни в Европа. Но общият капацитет на Microsoft трябва да е дори по-голям от това; тя изгражда инфраструктура за изкуствен интелект от 2022 г. Колко по-голям е, е открит въпрос.
Във вътрешна презентация от 2024 г. Microsoft според съобщенията е заявила, че вече има инсталиран капацитет от 5 GW центрове за данни. Това би предположило, че сега тя може да има общо 10 GW. Не е ясно дали всички те са центрове за данни за изкуствен интелект – някои може да са за други облачни услуги. Но собствените изявления на Microsoft показват, че основният фокус на нейните скорошни разходи е бил върху изграждането на инфраструктура за изкуствен интелект.
Десет гигавата центрове за данни за изкуствен интелект биха предположили, че Microsoft трябва да има приблизително 6,4 милиона графични процесора (GPU). Шаолей Рен, професор в Калифорнийския университет в Ривърсайд, заяви, че докладите за устойчивост на Microsoft – които включват данни за потреблението на електроенергия и се публикуват отделно от финансовите отчети – рисуват различна картина. Той каза, че тези доклади предполагат, че капацитетът на Microsoft за изкуствен интелект през 2024 г. вероятно е бил по-близо до 1,2 GW. Но дори и тази по-ниска цифра би означавала, че Microsoft ще се нуждае от приблизително 4 милиона AI чипа – ако е добавила 5 GW центрове за данни за изкуствен интелект през последните две години.
„Според техните собствени показатели Microsoft може да е права. Но не е ясно какво имат предвид, когато казват, че са добавили капацитет на центрове за данни. Те дават недостатъчен контекст“, каза Рен. „Докладите за устойчивост са одитирани от трета страна. Те имат повече достоверност от съобщенията.“
Анализатор, специализиран в Nvidia, заяви, че смята, че Microsoft би трябвало да има повече чипове, предвид нейните публични изявления. „Те са ниски за мен. Те са по-малко, отколкото очаквах Microsoft да има“, каза той.
Microsoft настоя, че изчисленията на Guardian се основават на невярна информация. Тя не предложи никаква представа кои от цифрите на Guardian са неверни или защо. Ясно е, че изграждането на капацитета за изкуствен интелект на Microsoft изглежда върви много по-бавно, отколкото нейните годишни отчети може да предполагат.
Рен каза: „Възможно е да е правдоподобно да се осигури или обяви 1 GW енергиен капацитет в рамките на едно тримесечие на хартия. Но пускането на този капацитет в експлоатация и реалното му използване за изчисления в рамките на същото тримесечие би било много по-трудно.“
Източници в Microsoft казват, че общият брой AI чипове на компанията „едва се е променил“ през последната година.
Част от очевидното несъответствие може да се обясни с партньорството на Microsoft с OpenAI. Точните условия на тяхното търговско партньорство не са публични, но това звено може да обясни част от разполаганията на центрове за данни на Microsoft, които няма да бъдат в документите, които Guardian е видял.
Вижте изображението в цял екран
Център за данни на Microsoft в Миденмер, Нидерландия. Снимка: ANP/Shutterstock
„Може да имате куп чипове … които не можете да включите“
Има и друг фактор: някои от големите проекти на Microsoft изглежда далеч не са оперативни.
Вземете най-голямата разработка за изкуствен интелект на Microsoft в САЩ – двойка центрове за данни в Уисконсин и Джорджия, наречени Fairwater. През април Надела, главният изпълнителен директор на Microsoft, каза, че проектът Fairwater в Уисконсин „влиза в експлоатация“.
Сателитни кадри на сградата от Epoch AI обаче изглежда показват, че само част от нея е оперативна. През май Microsoft призна пред вестник в Уисконсин, че Fairwater все още не е онлайн.
Това е много често срещано, каза Рен. Първоначално това беше мултигигаватова, мултимилиардна инвестиция. Три години по-късно са изградени само 300 MW.
Вижте изображението в цял екран
Сатя Надела каза миналата година, че Microsoft ще удвои глобалния си отпечатък от центрове за данни до средата на 2027 г. Снимка: Jeff Chiu/AP
Вътрешният документ също така показва, че Microsoft има по-малко от най-новия модел чипове на Nvidia, Blackwell, отколкото би могло да се очаква предвид публичните съобщения на Nvidia. През март миналата година главният изпълнителен директор на Nvidia, Дженсън Хуанг, каза, че поръчките за Blackwell от четирите най-големи клиенти на Nvidia – за които широко се смята, че са Amazon, Oracle, Microsoft и Google – възлизат на 3,6 милиона.
Не беше дадена разбивка за тази цифра, но Microsoft исторически е била един от най-големите клиенти на Nvidia. Ако това все още беше така, това би трябвало да постави общите притежания на Blackwell на Microsoft някъде около 1 милион чипа. Всъщност тя има инсталирани по-малко от половината от това количество.
Къде са чиповете, ако не в центровете за данни?
Балансите на Nvidia изглежда показват, че тя е продала много чипове; тя отчете приходи от 215,9 милиарда долара през февруари. Microsoft купила ли е тези чипове, но не ги е инсталирала? Колко, и всички ли са в нейно притежание?
Надела сякаш намекна за този въпрос в подкаст в края на миналата година, наречен All Things AI, където говори за изграждането на центрове за данни на Microsoft. Най-големият проблем, каза той, беше електрическата енергия и изграждането на центрове за данни достатъчно близо до мястото, където се намира енергията.
„Ако не можете да направите това, може всъщност да имате куп чипове, седящи в инвентара, които не мога да включа. Всъщност това е моят проблем днес. Не е проблем с доставката на чипове. Всъщност е, че нямам топли корпуси, в които да включвам.“
Говорител на Microsoft каза: „В продължение на няколко десетилетия Microsoft е изградила глобална инфраструктура, за да отговори на бързо растящото търсене на клиенти за облачни и AI услуги. Нашите центрове за данни комбинират персонализиран силиций, AMD, Intel и Nvidia чипове в множество поколения, заедно с мрежовата, съхранението и системната инфраструктура, необходими за работа в мащаб. Microsoft не докладва за обема на конкретни чипове в своята AI инфраструктура. Оценките, които Guardian сподели с нас, са неточни, правейки грешни заключения от неверни предположения.“
Nvidia не отговори на искането за коментар.
Как да изчислим броя на чиповете от „AI капацитета“ на компанията
Най-големите технологични компании в света измерват своя AI капацитет по отношение на мощност: гигавати. Един гигават захранва между 700 000 и 1 милион домове. Meta казва, че нейният противоречив център за данни Hyperion в Луизиана ще има капацитет от 5 GW. Британската компания DataVita планира център за данни от 1 GW в Ланаркшър.
За да преобразувате тези цифри в чипове, трябва да изчислите колко чипа могат да работят с това количество мощност. Guardian използва следния метод, проверявайки тези изчисления с Абделтауаб Хендауи, професор в Университета на Роуд Айлънд, и Рен.
Първият протестиращ срещу ИИ, който е вкаран в затвора, има послание към OpenAI, Anthropic и Meta: „Върнете си човечността“ – прочетете повече.
За да получите груба представа колко чипа има в център за данни, можете да разделите потреблението на енергия на центъра за данни на потреблението на енергия на AI чип, като H100. Един H100 използва 700 W. Ако Microsoft има капацитет от 10 GW, разделянето на това на 700 вата предполага, че тя трябва да има около 12 милиона чипа.
H100 съставляват повечето от чиповете, споменати във вътрешния документ. Той също така показва, че Microsoft има A100, които използват по-малко енергия, и Blackwell, които използват повече.
Но тази груба оценка не отчита няколко фактора. Първо, центровете за данни имат охладителни системи и друго оборудване, които също използват електричество. Рен изчислява, че в типичен център за данни за изкуствен интелект 80% от електричеството отива за компютърни чипове. Това е приблизително в съответствие с данните на Международната агенция по енергетика, въпреки че точният брой зависи от това колко ефективен е центърът за данни. Осемдесет процента от 10 GW биха предположили, че около 8 GW реално се използват.
Това е малко по-ниско от собствените данни на Microsoft за ефективността на центровете за данни, които се появяват в доклад за устойчивост от 2024 г. Този доклад предполага, че 89% от електричеството в нейните нови центрове за данни захранва ИТ системите, с 11% режийни разходи.
Второ, не всички чипове в център за данни са AI чипове. AI чиповете се монтират върху сървърни стойки заедно с други компютърни чипове, като чипове с памет, които им помагат да изпълняват изчисления. Сървър с осем H100 GPU използва максимум около 10 kW мощност.
Разделянето на 8 GW на 10 kW дава 800 000 сървъра, или 6,4 милиона чипа.
Това е консервативна оценка, защото на практика компании като Microsoft до известна степен надписват своя енергиен капацитет – поставяйки повече чипове в център за данни, отколкото техният ИТ капацитет може напълно да поддържа, каза Рен.
Често задавани въпроси
Ето списък с често задавани въпроси относно AI стратегията на Microsoft и недостига на чипове, написан в естествен, удобен за потребителя тон
Въпроси за начинаещи
1 Microsoft наистина ли забавя своите AI планове заради чипове
Отговор Всъщност не Microsoft все още се движи много бързо, но трябва да бъде по-умна относно това къде поставя своите AI функции Те дават приоритет на големи клиенти с висока стойност и своите основни продукти пред пускането на функции за всички наведнъж Те също така проектират своя софтуер, за да използват чиповете по-ефективно
2 Какво означава недостигът на чипове за обикновен човек, който използва продукти на Microsoft
Отговор За вас това може да означава, че нова AI функция пристига малко по-късно от очакваното или може да бъде пусната първо за по-малка група потребители, преди да бъде пусната за всички Рядко означава, че функциите са отменени, просто забавени или разпределени на етапи
3 Защо на Microsoft изобщо й трябват толкова много чипове за AI
Отговор AI моделите са като масивни сложни калкулатори Те трябва да обработят милиарди изчисления, за да отговорят на един въпрос Специализираните чипове са единственият начин да се направи това достатъчно бързо, за да се усеща AI като мигновен Microsoft се нуждае от милиони от тези чипове, за да захранва AI за всички свои клиенти едновременно
4 Този недостиг само за производството на повече чипове ли е или е нещо друго
Отговор И двете донякъде Фабриките не могат да ги произвеждат достатъчно бързо, но също така става въпрос за това кои чипове могат да произвеждат Конкретните висококачествени чипове, използвани за AI, са най-трудни за производство и има само няколко компании в света, които могат да ги произвеждат
Напреднали технически въпроси
5 Кои конкретни чипове на Microsoft й е трудно да получи
Отговор Основното тясно място е паметта с висок честотен обхват и усъвършенстваните GPU, по-специално сериите H100 и H200 на Nvidia Тези GPU са индустриалният стандарт за обучение и стартиране на AI модели и предлагането не е в крак с масивното търсене от Microsoft, Google и Amazon едновременно
6 Прави ли Microsoft нещо, за да поправи това Изгражда ли свои собствени чипове
