这些芯片相当小——有些可以放在手掌心里。但它们对于构建人工智能模型至关重要,而全球最大的科技公司需要大量这样的芯片才能保持领先。
微软就是这些公司之一。从纸面上看,它似乎存在问题。《卫报》的一项调查发现,微软关于其人工智能容量的说法与其实际投入使用的先进人工智能芯片数量之间存在明显的不匹配。
这也不是一个小差距。据报道,微软的目标是到2024年底在其全球数据中心安装180万颗人工智能芯片。根据《卫报》看到的内部文件,近两年后,在公司2800亿美元扩张计划进行到一半时,该公司已安装了220万颗人工智能芯片。这还不到一些专家预期数量的一半。
简而言之,全球人工智能竞赛需要建设大规模数据中心,而这些数据中心依赖于极其昂贵的芯片运行。这种明显的差异表明,微软最新的数据中心可能尚未完全投入运营——或者,即使已投入运营,它们也没有所需的芯片。
这也指向一个更大的问题:很难追踪人工智能技术实际进展如何。驱动人工智能的芯片由英伟达制造,该公司是全球市值最高的两家公司之一。其供应链是业内保密最严格的机密之一。
英伟达几乎从不报告它销售了多少这样的芯片或卖给谁。它的客户——全球最大的科技公司——也不透露它们拥有多少。没有这些信息,任何人都很难知道人工智能是否真的在蓬勃发展。
微软:权力真空?
过去两年,微软表示它以极快的速度建设了人工智能基础设施。其首席执行官萨蒂亚·纳德拉去年表示,到2027年年中,它将把全球数据中心规模扩大一倍。自2022年以来,它已投入约2800亿美元用于土地、建筑和计算基础设施以建设人工智能。这包括仅上个季度就超过410亿美元的投资。
但很难估算微软用这笔钱建了多少数据中心。
衡量该公司进展的一种方式是看其公开声明,尤其是关于电力需求的声明。数据中心需要电力,因此估算有多少数据中心在运营的一种方法是将微软可用的能源——即其人工智能容量——加总起来。
微软在年度报告和季度财报中的声明表明,作为其人工智能建设的一部分,它在过去两年中增加了5吉瓦(GW)的数据中心容量。它表示,目前在全球五大洲拥有数百个数据中心。
5吉瓦是巨大的能源量——是欧洲最大数据中心园区的四倍。但微软的总容量应该比这更大;它自2022年以来一直在建设人工智能基础设施。大多少是一个悬而未决的问题。
在2024年的一份内部演示文稿中,据报道微软声称已安装了5GW的数据中心容量。这将表明它现在可能总共有10GW。目前尚不清楚这些是否都是人工智能数据中心——有些可能用于其他云服务。但微软自己的声明表明,其近期支出的压倒性重点是建设人工智能基础设施。
10吉瓦的人工智能数据中心将意味着微软应该拥有大约640万个图形处理单元(GPU)。加州大学河滨分校教授任少磊表示,微软的可持续发展报告——其中包括用电量数据,与其财务报告分开发布——描绘了不同的图景。他说,这些报告表明微软2024年的人工智能容量可能接近1.2GW。但即使这个较低的数字也意味着微软需要大约400万颗人工智能芯片——如果它在过去两年中增加了5GW的人工智能数据中心的话。
“根据他们自己的指标,微软可能是正确的。但尚不清楚他们所说的增加数据中心容量是什么意思。他们提供的背景信息不足,”任说。“可持续发展报告由第三方审计。它们比公告更有可信度。”
一位专攻英伟达的分析师表示,鉴于微软的公开声明,他认为微软应该拥有更多芯片。“对我来说它们太低了。它们低于我对微软应有数量的预期,”他说。
微软坚称《卫报》的计算基于错误信息。它没有说明《卫报》的哪些数字是错误的或为什么错误。显而易见的是,微软人工智能容量的建设速度似乎远低于其年度报告可能暗示的速度。
任说:“在纸面上,在一个季度内获得或宣布1GW的电力容量可能是合理的。但在同一季度内将该容量投入使用并实际用于计算将困难得多。”
微软内部消息人士表示,该公司的人工智能芯片总数在过去一年中“几乎没有变化”。
部分明显的差异可能可以用微软与OpenAI的合作关系来解释。他们商业合作的确切条款并未公开,但这个部门可能占微软部分数据中心部署,这些部署不会出现在《卫报》看到的文件中。
查看全屏图片
微软在荷兰米登梅尔的一个数据中心。摄影:ANP/Shutterstock
“你可能有一堆芯片……却插不上电”
还有另一个因素:微软的一些大型项目似乎远未投入运营。
以微软在美国最大的人工智能开发项目为例,这是位于威斯康星州和佐治亚州的一对数据中心,名为Fairwater。4月,微软首席执行官纳德拉表示,威斯康星州的Fairwater项目“即将上线”。
然而,来自Epoch AI的卫星图像似乎表明只有部分建筑在运营。5月,微软向威斯康星州一家报纸承认Fairwater尚未上线。
这非常普遍,任说。最初这是一个多吉瓦、数十亿美元的投资。三年后,只建成了300MW。
查看全屏图片
纳德拉去年表示,微软将在2027年年中前将全球数据中心规模扩大一倍。摄影:Jeff Chiu/AP
内部文件还表明,鉴于英伟达的公开声明,微软拥有的英伟达最新型号芯片Blackwell数量少于预期。去年3月,英伟达首席执行官黄仁勋表示,英伟达前四大客户——普遍认为是亚马逊、甲骨文、微软和谷歌——对Blackwell的订单达到360万颗。
这个数字没有给出细分,但微软历来是英伟达最大的客户之一。如果情况仍然如此,那微软的Blackwell总持有量应该接近100万颗。事实上,它安装的还不到这个数字的一半。
如果不在数据中心,芯片在哪里?
英伟达的资产负债表似乎表明它已售出大量芯片;它在2月公布了2159亿美元的收入。微软是否购买了这些芯片但未安装?有多少,是否全部在其手中?
纳德拉似乎在去年年底一个名为“All Things AI”的播客节目中暗示了这个问题,他在节目中谈到了微软的数据中心建设。他说,最大的问题是电力,以及将数据中心建在离电力所在地足够近的地方。
“如果你做不到这一点,你可能实际上有一堆芯片躺在库存里,而我无法插电。事实上,这就是我今天的问题。这不是芯片供应问题。实际上是我没有可以插入的‘暖壳’。”
微软一位发言人表示:“几十年来,微软建立了全球基础设施,以满足客户对云和人工智能服务快速增长的需求。我们的数据中心结合了定制硅片、AMD、英特尔和英伟达多代芯片,以及大规模运营所需的网络、存储和系统基础设施。微软不报告其人工智能基础设施中特定芯片的数量。《卫报》与我们分享的估算不准确,从错误的假设中得出了错误的结论。”
英伟达未回应置评请求。
如何从公司的“人工智能容量”计算芯片数量
全球最大的科技公司以电力来衡量其人工智能容量:吉瓦。1吉瓦可为70万至100万户家庭供电。Meta表示,其在路易斯安那州备受争议的Hyperion数据中心将拥有5GW容量。英国公司DataVita计划在拉纳克郡建设一个1GW的数据中心。
要将这些数字转换为芯片数量,你需要计算多少芯片可以用这么多电力运行。《卫报》使用了以下方法,并与罗德岛大学教授Abdeltawab Hendawi和任少磊核对了这些计算。
第一位因反人工智能抗议而入狱的人向OpenAI、Anthropic和Meta传达了一条信息:“找回你们的人性”——阅读更多。
要粗略了解一个数据中心有多少芯片,你可以将数据中心的用电量除以人工智能芯片(如H100)的用电量。单个H100使用700W。如果微软有10GW容量,将其除以700瓦,表明它应该有大约1200万颗芯片。
H100构成了内部文件中提到的大部分芯片。文件还表明微软拥有使用较少电力的A100和使用较多电力的Blackwell。
但这个粗略估算没有考虑几个因素。首先,数据中心有冷却系统和其他也用电的设备。任估计,在典型的人工智能数据中心,80%的电力用于计算机芯片。这大致与国际能源署的数据一致,尽管确切数字取决于数据中心的效率。10GW的80%表明大约8GW实际在使用中。
这略低于微软自己在2024年可持续发展报告中出现的数据中心效率数据。该报告表明,其新数据中心89%的电力用于IT系统,11%为开销。
其次,并非数据中心中的所有芯片都是人工智能芯片。人工智能芯片与其他计算机芯片(如内存芯片)一起安装在服务器机架上,这些芯片帮助它们运行计算。一台配备8个H100 GPU的服务器最大使用约10kW电力。
将8GW除以10kW得到80万台服务器,即640万颗芯片。
这是一个保守的估算,因为实际上像微软这样的公司会在一定程度上超额认购其电力容量——在数据中心中放置比其IT容量完全支持的更多的芯片,任说。
常见问题解答
以下是一份关于微软人工智能战略和芯片短缺的常见问题列表,以自然、用户友好的语气撰写
入门级问题
1 微软是否真的因为芯片而放慢了人工智能计划?
答案 并非如此。微软仍然在快速推进,但他们必须在部署人工智能功能的位置上更加明智。他们优先考虑大型高价值客户和自身核心产品,而不是立即向所有人推出功能。他们还在设计软件以更高效地使用芯片。
2 芯片短缺对使用微软产品的普通人意味着什么?
答案 对你来说,这可能意味着新的人工智能功能会比预期稍晚推出,或者可能先向较小的用户群体推出,然后再向所有人发布。功能很少会被取消,只是延迟或分批推出。
3 为什么微软需要这么多芯片来支持人工智能?
答案 人工智能模型就像巨大的复杂计算器。它们需要处理数十亿次计算才能回答一个问题。专用芯片是唯一能足够快地完成这一任务、让人工智能感觉即时响应的方式。微软需要数百万颗这样的芯片来同时为所有客户提供人工智能服务。
4 这种短缺只是关于制造更多芯片,还是另有原因?
答案 两者兼有。工厂无法足够快地生产,但也涉及它们能生产哪些芯片。用于人工智能的特定高端芯片是最难制造的,全球只有少数几家公司能生产它们。
高级技术问题
5 微软具体在哪些芯片上供应紧张?
答案 主要瓶颈是高带宽内存和先进GPU,特别是英伟达的H100和H200系列。这些GPU是训练和运行人工智能模型的行业标准,供应未能跟上微软、谷歌和亚马逊同时产生的巨大需求。
6 微软是否在采取行动解决这个问题?他们是否在制造自己的芯片?