빌 게이츠부터 버니 샌더스까지, 대부분의 사람들은 AI 군비 경쟁이 재앙이라는 데 동의한다. 오직 유럽만이 이를 중단시킬 힘을 가지고 있다.

이제쯤이면, AI가 모든 길이 재앙으로 이어지는 선택형 모험 책과 같다는 것이 명백해져야 한다. 탄소 배출 폭증과 생태계 붕괴? 37페이지로 가라. 다른 가능한 결과들은 다음 중 일부 또는 전부를 포함한다: 거품이 터지며 금융 위기를 촉발하는 것; 자동화로 인한 대량 실업; 민주주의의 종말과 권위주의적 감시 국가의 부상; 패턴 매칭 알고리즘이 의식을 가졌다고 믿는 광신적 숭배 집단; 테러리스트들이 치명적인 생물무기를 만드는 것; 인간이 이해할 수 없는 시간 척도로 작동하는 자율 무기를 국가들이 배치하는 것; 국가나 테러리스트들이 우리가 의존하는 수많은 시스템을 해킹하는 것; 또는 의식이 있든 없든 인간의 복지와 충돌하는 목표를 추구하는 AI.

일론 머스크, 오픈AI의 샘 올트먼, 팔란티어의 피터 틸, 또는 트럼프의 기술 고문인 마크 안드레센 같은 인물들이 우리를 환경적 조화, 사회적 평화, 끝없는 여가의 유토피아적 미래로 이끌 것이라고 상상하는 것은 극도의 착각과 아첨을 요구하며, 오직 ChatGPT가 쓴 선택형 모험 책만이 그런 것을 만들어낼 수 있다.

우리가 재앙을 향해 가고 있다는 인식이 점점 커지고 있지만, 이는 너무 늦은 감이 있으며, 모든 것을 늦추고 규제하거나 심지어 일시 중지하라는 요구도 함께 커지고 있다. 이러한 요구는 활동가들뿐만 아니라 버니 샌더스에서 빌 게이츠에 이르기까지 무시하기에는 너무 다양한 정치인, 전문가, 빅테크 내부 인사들의 폭넓은 연합에서 나온다. 게이츠는 최근 "누군가 AI 발전을 전 세계적으로 늦출 수 있는 신뢰할 만한 계획을 가지고 있다면, 나는 그것을 지지할 가능성이 높다"고 말했다. 그는 AI 기업 앤트로픽이 올여름 초 "브레이크 페달"을 요구하며 인정한 것을 인정한 가장 최근의 내부 인사일 뿐이다. 업계의 자제는 효과가 없을 것이다. 일시 중지가 있다면, 그것은 외부에서 부과되어야 한다.

그럼에도 불구하고, 국제적 합의는 유감스럽게도 가능성이 낮다. AI는 핵무기와 같으며 동일한 논리를 따른다: 모든 참가자는 무모한 경쟁을 강요받으며, 유일한 정당화는 승자가 누구든 그들의 자비에 의존하고 싶지 않다는 것이다. 상황을 늦출 가장 좋은 기회는 한 행위자가 중요한 병목 지점을 통제하고 그것을 닫을 이유를 가지는 것일 것이다. 흥미롭게도, EU가 그러한 카드를 쥐고 있으며—감히 한다면, 그것을 사용할 동기도 있다.

전체 화면으로 이미지 보기
중국 난징에 있는 대만 칩 제조사 TSMC의 공장. 사진: Sipa US/Alamy

네덜란드 기술 기업 ASML은 극자외선(EUV) 리소그래피 기계 생산 덕분에 유럽에서 가장 가치 있는 기업이다. 이 기계들은 세계에서 가장 첨단 칩 제조에 필수적이며, 전체 AI 산업에서 가능한 몇 안 되는 병목 지점 중 하나이다. ASML은 13.5나노미터 파장(인간 머리카락 너비의 약 1/10,000)으로 빛을 집속하여 실리콘에 패턴을 새기는 이 4억 달러짜리 기계를 만드는 데 필요한 기술과 복잡한 공급망을 마스터했다. 이 기계가 없으면 칩이 없고, 칩이 없으면 더 이상 데이터센터가 없다. 이는 대만 칩 제조사 TSMC의 향후 제조 공장("팹"으로 알려진)에 대한 2,650억 달러 투자부터, 업계가 2030년까지 전 세계적으로(주로 미국에) 건설할 것으로 예상되는 7조 달러 규모의 데이터센터까지 모든 것에 영향을 미친다. 이러한 현재 및 차세대 칩을 사용하는 더 많은 데이터센터가 없으면, AI의 기하급수적 성장—그리고 위험—은 멈출 것이다.

이것이 미국 정부가 ASML에 역외 수출 통제를 부과하여 중국의 칩 제조 능력을 늦추기 위해 가장 첨단 EUV 기계의 중국 판매를 차단하는 이유이다. ASML에 그러한 제한을 부과함으로써, 미국은 이 병목 지점에서 자신의 약점을 드러냈다: 유럽이 (궁극적으로 대체 가능한) 미국의 금융 및 소프트웨어 서비스에 의존하는 만큼, 모든 칩 기반 기술의 미래는 전적으로 ASML에 의존한다. ASML 기계 수출의 전면 금지는 글로벌 AI 산업을 사실상 제자리걸음이나 정지 상태로 만들 것이다. 결과적인 칩 부족과 AI 개발 둔화는 규제 기관이 기술을 따라잡을 시간, 입법자가 저작권에서 세법에 이르기까지 모든 것을 업데이트할 시간, 그리고 사회가 우리 삶에서 AI가 수행하기를 원하는 역할에 대해 진정한 논쟁을 할 시간을 줄 것이다.

EU가 왜 그러한 일을 할까? 인본주의적 이유뿐만 아니라 이기적인 이유 때문이다. 최상의 시나리오에서, 평평한 수출 금지는 공급망의 재편성으로 이어지고 더 많은 핵심 결정을 EU 통제 하에 두게 될 것이다—그곳에서 AI를 광범위하게 규제할 의사를 보여준 유일한 행위자의 감독을 받게 될 것이다. 물론, 최상의 경우는 무리한 주장이다: 미국이 ASML의 미국 기반 공급업체 접근을 차단함으로써 보복할 가능성이 더 높다. 그러나 그런 일이 발생하더라도, 순수한 경제적·지정학적 이기심의 좁은 논리에 기반하여, EU가 그러한 대결을 촉발하는 것이 여전히 EU의 이익이 될 것이다. 왜냐하면 EU는 AI 모델과 이를 실행하는 데 필요한 데이터센터 "컴퓨트"(처리 능력)에서 상대적으로 뒤처지는 것을 멈출 것이기 때문이다.

유럽의 자체 AI 옹호자들도 동의한다—비록 그들을 걱정하는 것은 AI의 다양한 위험이 아니라 EU의 상대적 불리함이지만. 유럽 2031 프로젝트는 업계 전문가 그룹이 만든 기술-정치적 예측으로, AI가 경제를 급진적으로 변화시키고 EU가 미국에 크게 뒤처질 경우 EU에 어떤 일이 일어날 수 있는지에 관한 것이다. 그들은 유럽이 프런티어 모델과 "컴퓨트"가 오늘날의 TSMC와 ASML처럼—어떤 경쟁자도 좁힐 수 없을 정도로 큰 격차의 수혜자가 되기 전에, AI 군비 경쟁에 수천억 달러를 쏟아부어야 한다고 주장한다.

그들의 시나리오에서, 가까운 미래의 어느 시점에, EU는 경제와 안보가 의존하게 될 미국이 통제하는 모델과 컴퓨트에 대한 접근을 확보하기 위해 ASML에 대한 접근을 협상 테이블에 올려놓아야 할 것이다—그러나 그때쯤이면 ASML의 지배력이 시간이 지나면서 약화되었음을 발견하게 될 것이다. (더 많은 EUV 기계가 수출될수록, 더 많은 팹이 다른 곳에 건설되고, 중국과 미국이 ASML의 기술을 복제할 시간이 더 많아진다.)

핵무기 이론가들은, 상상할 수 없는 일이 발생한다면, 국가들이 "사용하지 않으면 잃는" 계산 때문에 발사를 향해 밀려날 수 있다고 걱정한다. AI 산업의 질주하는 발전을 멈출 수 있는 유일한 것에도 정확히 동일한 논리가 적용된다: EU는 ASML이 지금 제공하는 레버리지를 사용하거나, 그 기회를 완전히 잃을 위험을 감수할 수 있다. 이렇게 다른 집단들이 같은 결론에 도달하는 것은 드문 일이다: 유럽이 사용할 수 있는 단 하나의 카드가 있으며, 그것은 사용되어야 한다. 어리석음을 향해 경주하는 대신, 그냥 경주를 멈추자. 지금, 그리고 모두를 위해.

알렉산더 허스트는 파리에서 가디언 유럽을 위해 글을 쓴다. 그의 회고록 《Generation Desperation》이 현재 출간되었다.

**자주 묻는 질문**

기사의 전제에 기반한 초급부터 고급까지의 FAQ 목록입니다.

**초급 질문**

1. AI 군비 경쟁이 정확히 무엇인가요?
가장 강력한 AI를 먼저 구축하기 위한 기술 기업들 간의 필사적인 경쟁입니다. 안전이나 윤리를 우선시하는 대신, 그들은 라이벌을 이기고 시장 점유율을 차지하기 위해 새 모델을 출시하는 데 급급합니다.

2. 빌 게이츠와 버니 샌더스가 왜 이것에 동의하나요?
그들은 완전히 다른 정치적 입장에서 왔지만 둘 다 같은 위험을 봅니다. 게이츠는 AI가 인간의 통제를 벗어나 대규모 일자리 대체를 일으킬 것을 걱정하고, 샌더스는 통제되지 않은 기업 권력과 AI가 노동자를 착취하거나 대중을 조종하는 데 사용될 것을 걱정합니다. 둘 다 순수한 이윤 동기가 인류의 미래를 결정해서는 안 된다는 점에 동의합니다.

3. 왜 유럽이 그것을 멈출 수 있는 유일한 곳으로 특별히 언급되나요?
미국과 중국은 승자 독식의 기술 전쟁에 묶여 있어 속도를 늦추지 않을 것이기 때문입니다. 그러나 유럽은 AI 경쟁을 주도하지 않으므로 잃을 것이 적습니다. 더 중요하게는, EU는 전 세계에 적용되는 엄격한 규제를 통과시킨 실적이 있습니다—유럽에서 사업을 하고 싶다면 그들의 규칙을 따라야 합니다.

4. "그것을 멈추다"는 실제로 무엇을 의미하나요?
AI를 완전히 금지하는 것을 의미하지 않습니다. 위험한 경쟁을 멈추는 것을 의미합니다. 엄격한 안전 테스트를 시행하고, AI가 무엇을 할 수 있는지에 대한 투명성을 요구하며, 안전하지 않은 제품을 출시하는 기업에 막대한 벌금을 부과하는 것을 의미합니다. 속도에 안전이 따라잡을 수 있도록 강제로 속도를 늦추는 것입니다.

5. AI 군비 경쟁이 정말 재앙인가요?
그렇다는 것이 주장입니다. 재앙은 AI가 존재한다는 것이 아니라 그 속도입니다. 기업들은 그것이 선거, 일자리, 또는 정신 건강에 어떤 영향을 미칠지 이해하기 전에 강력한 도구를 내놓고 있습니다. 재앙은 기술 자체가 아니라 무모함입니다.

**고급 질문**

6. 유럽의 규제가 실제로 미국 기업을 어떻게 막을 수 있나요?
EU는 "브뤼셀 효과"를 가지고 있습니다. 메타나 오픈AI 같은 미국 기업이 4억 5천만 유럽 소비자에게 서비스를 제공하려면 EU 법률을 준수해야 합니다. EU가 제3자 안전 감사 없이는 초지능 모델을 배포할 수 없다고 말하면, 그 기업은 전 세계적으로 그 감사를 수행해야 합니다.