칩들은 꽤 작습니다—어떤 것들은 손바닥에 들어갈 정도입니다. 하지만 인공지능 모델을 구축하는 데 필수적이며, 세계 최대 기술 기업들은 앞서 나가기 위해 엄청난 수의 칩이 필요합니다.
마이크로소프트는 그런 기업 중 하나입니다. 그리고 서류상으로는 문제가 있는 것처럼 보입니다. 가디언의 조사에 따르면 마이크로소프트가 AI 역량에 대해 밝힌 내용과 실제로 사용 중인 고급 AI 칩 수 사이에 명백한 불일치가 있는 것으로 나타났습니다.
이는 작은 격차도 아닙니다. 마이크로소프트는 2024년 말까지 전 세계 데이터 센터에 180만 개의 AI 칩을 설치하는 것을 목표로 했다고 알려졌습니다. 거의 2년이 지난 지금, 2,800억 달러 규모의 확장이 진행 중인 가운데, 가디언이 입수한 내부 문서에 따르면 이 회사는 220만 개의 AI 칩을 설치했습니다. 이는 일부 전문가들이 예상했던 수치의 절반에도 미치지 못합니다.
간단히 말해, 글로벌 AI 경쟁은 매우 비싼 칩으로 작동하는 대규모 데이터 센터 구축을 요구합니다. 이러한 명백한 불일치는 마이크로소프트의 최신 데이터 센터가 완전히 가동되지 않았을 수 있거나, 가동 중이라도 필요한 칩을 갖추지 못했을 수 있음을 시사합니다.
이는 또한 더 큰 문제를 지적합니다: AI 기술이 실제로 어떻게 발전하고 있는지 추적하기 어렵다는 점입니다. AI를 구동하는 칩은 세계에서 가장 가치 있는 두 기업 중 하나인 엔비디아가 만듭니다. 그 공급망은 업계에서 가장 철저히 보호되는 비밀 중 하나입니다.
거의 예외 없이 엔비디아는 이러한 칩을 얼마나, 누구에게 판매하는지 보고하지 않습니다. 그 고객들—세계 최대 기술 기업들—도 보유 수량을 공개하지 않습니다. 이 정보가 없으면 AI가 실제로 호황인지 아닌지를 누구도 알기 매우 어렵습니다.
마이크로소프트: 권력의 공백?
지난 2년 동안 마이크로소프트는 엄청난 속도로 AI 인프라를 구축했다고 밝혔습니다. CEO 사티아 나델라는 작년에 2027년 중반까지 글로벌 데이터 센터 규모를 두 배로 늘리겠다고 말했습니다. 2022년 이후 이 회사는 AI 구축을 위해 토지, 건물, 컴퓨팅 인프라에 약 2,800억 달러를 투자했습니다. 여기에는 지난 분기에만 410억 달러 이상이 포함됩니다.
하지만 마이크로소프트가 이 돈으로 얼마나 많은 데이터 센터를 구축했는지 추정하기는 어렵습니다.
회사의 진행 상황을 측정하는 한 가지 방법은 공개 발표, 특히 전력 수요와 관련된 발표를 살펴보는 것입니다. 데이터 센터는 전기가 필요하므로, 가동 중인 시설 수를 추정하는 방법은 마이크로소프트가 확보한 에너지—즉 AI 역량—를 합산하는 것입니다.
마이크로소프트의 연례 보고서와 분기 실적 발표에서의 주장에 따르면, AI 구축의 일환으로 지난 2년 동안 5기가와트(GW)의 데이터 센터 용량을 추가했습니다. 현재 5개 대륙에 수백 개의 데이터 센터를 보유하고 있다고 밝혔습니다.
5기가와트는 엄청난 양의 에너지입니다—유럽 최대 데이터 센터 단지의 4배 규모입니다. 하지만 마이크로소프트의 총 용량은 이보다 더 커야 합니다; 2022년부터 AI 인프라를 구축해 왔기 때문입니다. 얼마나 더 큰지는 미해결 질문입니다.
2024년 내부 프레젠테이션에서 마이크로소프트는 이미 5GW의 데이터 센터 용량을 설치했다고 주장한 것으로 알려졌습니다. 이는 현재 총 10GW를 보유하고 있을 수 있음을 시사합니다. 이 모든 것이 AI 데이터 센터인지는 불분명합니다—일부는 다른 클라우드 서비스용일 수 있습니다. 하지만 마이크로소프트의 자체 발언은 최근 지출의 압도적 초점이 AI 인프라 구축에 맞춰져 있음을 나타냅니다.
10기가와트의 AI 데이터 센터는 마이크로소프트가 약 640만 개의 그래픽 처리 장치(GPU)를 보유해야 함을 시사합니다. 캘리포니아 대학교 리버사이드의 샤오레이 렌 교수는 마이크로소프트의 지속가능성 보고서—재무제표와 별도로 발간되며 전력 사용량 수치를 포함하는—가 다른 그림을 보여준다고 말했습니다. 그는 이 보고서들이 마이크로소프트의 2024년 AI 역량이 아마도 1.2GW에 더 가까웠을 것이라고 시사한다고 말했습니다. 하지만 이 더 낮은 수치조차도 마이크로소프트가 지난 2년 동안 5GW의 AI 데이터 센터를 추가했다면 약 400만 개의 AI 칩이 필요하다는 것을 의미할 것입니다.
"그들 자신의 지표에 따르면 마이크로소프트가 맞을 수 있습니다. 하지만 데이터 센터 용량을 추가했다고 말할 때 그들이 무엇을 의미하는지 명확하지 않습니다. 충분한 맥락을 제공하지 않고 있습니다,"라고 렌은 말했습니다. "지속가능성 보고서는 제3자에 의해 감사받습니다. 발표보다 신뢰성이 더 높습니다."
엔비디아 전문 애널리스트 한 명은 공개 발언을 고려할 때 마이크로소프트가 더 많은 칩을 보유하고 있을 것이라고 생각한다고 말했습니다. "그들은 제게 낮습니다. 제가 마이크로소프트가 보유할 것으로 예상했던 것보다 적습니다,"라고 그들은 말했습니다.
마이크로소프트는 가디언의 계산이 잘못된 정보에 기반했다고 주장했습니다. 가디언의 수치 중 어느 것이 왜 잘못되었는지에 대한 통찰력은 제공하지 않았습니다. 분명한 것은 마이크로소프트의 AI 역량 구축이 연례 보고서가 시사하는 것보다 훨씬 더 느리게 진행되고 있는 것으로 보인다는 점입니다.
렌은 말했습니다: "서류상으로 단일 분기 내에 1GW의 전력 용량을 확보하거나 발표하는 것은 그럴듯할 수 있습니다. 하지만 그 용량을 가동하고 같은 분기 내에 실제로 컴퓨팅에 사용하는 것은 훨씬 더 어려울 것입니다."
마이크로소프트 내부 소식통에 따르면 회사의 총 AI 칩 수는 지난 1년 동안 "거의 움직이지 않았다"고 합니다.
명백한 불일치 중 일부는 마이크로소프트와 오픈AI의 제휴로 설명될 수 있습니다. 그들의 상업적 파트너십의 정확한 조건은 공개되지 않았지만, 이 부서가 마이크로소프트의 데이터 센터 배치 중 일부를 차지할 수 있으며, 이는 가디언이 입수한 문서에는 포함되지 않을 것입니다.
이미지 전체 화면으로 보기
네덜란드 미덴메이르에 있는 마이크로소프트 데이터 센터. 사진: ANP/Shutterstock
'칩이 많이 있을 수 있습니다… 하지만 연결할 수 없습니다'
또 다른 요인이 있습니다: 마이크로소프트의 대규모 프로젝트 중 일부는 가동과는 거리가 먼 것으로 보입니다.
미국에서 마이크로소프트의 최대 AI 개발 프로젝트인 위스콘신과 조지아에 있는 페어워터라는 두 개의 데이터 센터를 예로 들어보겠습니다. 4월에 마이크로소프트 CEO 나델라는 위스콘신의 페어워터 프로젝트가 "가동을 시작한다"고 말했습니다.
하지만 Epoch AI의 건물 위성 영상은 일부만 가동 중인 것으로 보입니다. 5월에 마이크로소프트는 위스콘신 지역 신문에 페어워터가 아직 온라인 상태가 아니라고 인정했습니다.
이는 매우 흔한 일이라고 렌은 말했습니다. 처음에는 멀티기가와트, 수십억 달러 규모의 투자였습니다. 3년 후, 300MW만 구축되었습니다.
이미지 전체 화면으로 보기
사티아 나델라는 작년에 마이크로소프트가 2027년 중반까지 글로벌 데이터 센터 규모를 두 배로 늘리겠다고 말했습니다. 사진: Jeff Chiu/AP
내부 문서는 또한 마이크로소프트가 엔비디아의 최신 칩 모델인 블랙웰을 엔비디아의 공개 발표를 고려할 때 예상보다 적게 보유하고 있음을 나타냅니다. 지난 3월, 엔비디아 CEO 젠슨 황은 엔비디아의 상위 4대 고객—일반적으로 아마존, 오라클, 마이크로소프트, 구글로 여겨지는—의 블랙웰 주문이 360만 개에 달한다고 말했습니다.
이 수치에 대한 세부 내역은 제공되지 않았지만, 마이크로소프트는 역사적으로 엔비디아의 최대 고객 중 하나였습니다. 여전히 그렇다면 마이크로소프트의 총 블랙웰 보유량은 약 100만 개에 가까워야 합니다. 실제로는 이 수치의 절반도 설치되어 있지 않습니다.
데이터 센터에 없다면 칩은 어디에 있습니까?
엔비디아의 대차대조표는 매우 많은 칩을 판매했음을 나타내는 것으로 보입니다; 2월에 2,159억 달러의 매출을 기록했습니다. 마이크로소프트가 이를 구매했지만 설치하지 않았을까요? 얼마나 많이, 그리고 모두 소유하고 있을까요?
나델라는 작년 말 올 댓 AI라는 팟캐스트에서 이 질문을 암시하는 듯했습니다. 그는 마이크로소프트의 데이터 센터 구축에 대해 이야기했습니다. 가장 큰 문제는 전력과 전력이 있는 곳에 충분히 가까운 데이터 센터를 구축하는 것이라고 말했습니다.
"그렇게 할 수 없다면, 실제로 연결할 수 없는 재고에 앉아 있는 칩이 많이 있을 수 있습니다. 사실, 그것이 오늘날 제 문제입니다. 칩 공급 문제가 아닙니다. 실제로 연결할 수 있는 준비된 공간이 없다는 것입니다."
마이크로소프트 대변인은 말했습니다: "수십 년에 걸쳐 마이크로소프트는 클라우드 및 AI 서비스에 대한 빠르게 증가하는 고객 수요를 충족하기 위해 글로벌 인프라를 구축했습니다. 우리의 데이터 센터는 여러 세대에 걸친 맞춤형 실리콘, AMD, 인텔, 엔비디아 칩을 네트워킹, 스토리지, 대규모 운영에 필요한 시스템 인프라와 함께 결합합니다. 마이크로소프트는 AI 인프라의 특정 칩 수량을 보고하지 않습니다. 가디언이 공유한 추정치는 부정확하며, 잘못된 가정에서 잘못된 결론을 도출한 것입니다."
엔비디아는 논평 요청에 응답하지 않았습니다.
회사의 'AI 역량'에서 칩 수를 계산하는 방법
세계 최대 기술 기업들은 AI 역량을 전력으로 측정합니다: 기가와트 단위입니다. 1기가와트는 70만에서 100만 가구에 전력을 공급합니다. 메타는 논란이 되는 루이지애나주 하이페리온 데이터 센터가 5GW 용량을 가질 것이라고 밝혔습니다. 영국 기업 데이터비타는 래너크셔에 1GW 데이터 센터를 계획하고 있습니다.
이 수치를 칩 수로 변환하려면 해당 전력으로 몇 개의 칩을 작동할 수 있는지 계산해야 합니다. 가디언은 로드아일랜드 대학교의 압델타와브 헨다위 교수와 렌과 함께 이러한 계산을 검증하며 다음 방법을 사용했습니다.
최초로 투옥된 반AI 시위자가 오픈AI, 앤트로픽, 메타에 전하는 메시지: '인간성을 되찾으세요' – 더 읽기.
데이터 센터에 몇 개의 칩이 있는지 대략적으로 파악하려면 데이터 센터의 전력 사용량을 H100과 같은 AI 칩의 전력 사용량으로 나눌 수 있습니다. 단일 H100은 700W를 사용합니다. 마이크로소프트가 10GW의 용량을 보유하고 있다면, 이를 700와트로 나누면 약 1,200만 개의 칩이 있어야 한다고 시사합니다.
H100은 내부 문서에 언급된 칩의 대부분을 차지합니다. 또한 마이크로소프트가 전력을 덜 사용하는 A100과 더 많이 사용하는 블랙웰을 보유하고 있음을 나타냅니다.
하지만 이 대략적인 추정치는 여러 요인을 고려하지 않습니다. 첫째, 데이터 센터에는 전기도 사용하는 냉각 시스템과 기타 장비가 있습니다. 렌은 일반적인 AI 데이터 센터에서 전기의 80%가 컴퓨터 칩에 사용된다고 추정합니다. 이는 국제에너지기구의 수치와 대체로 일치하지만, 정확한 수치는 데이터 센터의 효율성에 따라 달라집니다. 10GW의 80%는 약 8GW가 실제로 사용 중임을 시사합니다.
이는 2024년 지속가능성 보고서에 나타난 마이크로소프트 자체의 데이터 센터 효율성 수치보다 약간 낮습니다. 그 보고서는 새 데이터 센터의 전기 중 89%가 IT 시스템에 전력을 공급하고 11%가 오버헤드라고 시사합니다.
둘째, 데이터 센터의 모든 칩이 AI 칩은 아닙니다. AI 칩은 계산 실행을 돕는 메모리 칩과 같은 다른 컴퓨터 칩과 함께 서버 랙에 장착됩니다. 8개의 H100 GPU가 있는 서버는 최대 약 10kW의 전력을 사용합니다.
8GW를 10kW로 나누면 80만 대의 서버, 즉 640만 개의 칩이 나옵니다.
이는 보수적인 추정치입니다. 실제로 마이크로소프트와 같은 기업들은 전력 용량을 어느 정도 초과 신청하기 때문입니다—데이터 센터에 IT 용량이 완전히 지원할 수 있는 것보다 더 많은 칩을 넣는 것입니다,라고 렌은 말했습니다.
자주 묻는 질문
다음은 마이크로소프트의 AI 전략과 칩 부족에 관한 FAQ 목록으로, 자연스럽고 사용자 친화적인 톤으로 작성되었습니다.
초급 수준 질문
1 마이크로소프트가 칩 때문에 AI 계획을 실제로 늦추고 있나요?
답변 아니요, 실제로는 그렇지 않습니다. 마이크로소프트는 여전히 매우 빠르게 움직이고 있지만 AI 기능을 어디에 배치할지 더 신중하게 결정해야 합니다. 대규모 고부가가치 고객과 자체 핵심 제품을 우선시하고 있으며, 모든 사람에게 동시에 기능을 출시하지는 않습니다. 또한 소프트웨어를 설계하여 칩을 더 효율적으로 사용하고 있습니다.
2 칩 부족이 일반인이 마이크로소프트 제품을 사용하는 데 어떤 의미가 있나요?
답변 사용자에게는 새로운 AI 기능이 예상보다 조금 늦게 도착하거나, 모든 사람에게 출시되기 전에 먼저 더 작은 사용자 그룹에게 제공될 수 있음을 의미할 수 있습니다. 기능이 취소되는 경우는 드물며, 지연되거나 단계적으로 출시될 뿐입니다.
3 마이크로소프트가 AI에 왜 그렇게 많은 칩이 필요한가요?
답변 AI 모델은 거대하고 복잡한 계산기와 같습니다. 단일 질문에 답하기 위해 수십억 번의 계산을 처리해야 합니다. 전용 칩만이 AI가 즉각적으로 느껴질 만큼 빠르게 이를 처리할 수 있는 유일한 방법입니다. 마이크로소프트는 모든 고객을 위해 동시에 AI를 구동하려면 수백만 개의 칩이 필요합니다.
4 이 부족은 단순히 칩을 더 많이 만드는 문제인가요, 아니면 다른 문제인가요?
답변 둘 다입니다. 공장이 충분히 빠르게 만들 수 없지만, 어떤 칩을 만들 수 있는지도 문제입니다. AI에 사용되는 특정 고급 칩은 만들기가 가장 어렵고, 이를 생산할 수 있는 회사는 전 세계에 몇 개뿐입니다.
고급 기술 질문
5 마이크로소프트가 확보에 어려움을 겪고 있는 특정 칩은 무엇인가요?
답변 주요 병목 현상은 고대역폭 메모리와 고급 GPU, 특히 엔비디아의 H100 및 H200 시리즈입니다. 이러한 GPU는 AI 모델을 훈련하고 실행하기 위한 업계 표준이며, 마이크로소프트, 구글, 아마존의 동시 대규모 수요에 공급이 따라가지 못하고 있습니다.
6 마이크로소프트가 이를 해결하기 위해 무엇을 하고 있나요? 자체 칩을 만들고 있나요?
마이크로소프트의 AI 전략이 칩 부족으로 인해 지연되고 있습니까?
