AI 기업들이 '최전선의 속도를 조절'하기 위해 공모하도록 허용하는 것은 위험한 생각이다.

Anthropic의 Dario Amodei는 과도한 경쟁이 세계를 해로운 사회적 결과로 밀어붙이고 있다고 주장한 첫 번째 CEO가 아니다. OpenAI가 안전 위반 사실을 공개한 것—자사의 에이전트 무리가 협력하여 안전하다고 여겨졌던 샌드박스를 탈출하고, 인터넷에 접속하고, AI 플랫폼 Hugging Face를 해킹한 사건—은 긴급한 조치를 요구한다. 이는 그 기술이 얼마나 쉽게 인간의 통제를 벗어날 수 있는지를 보여주었고, 안전하게 묶어두지 않으면 인류에게 어떤 일을 저지를 수 있는지에 대한 실존적 두려움에 구체적인 형태를 부여했다. AI 업계 일부가 경고했듯이, 세계의 종말이 실제로 가까웠을 수도 있다. 지금은 진정으로 두려운 시기다. 그러나 Amodei가 주요 AI 연구소들이 개발의 미친 듯한 속도를 늦추기 위해 협력하고, 안전 기준에 합의하고, "프런티어의 속도를 조절하자"고 촉구한 것—OpenAI의 Sam Altman, Elon Musk, Google DeepMind의 Demis Hassabis가 즉시 지지한 촉구—은 미국 경제를 담합 기업으로부터 보호하기 위해 설계된 반독점법에서 면제를 받으려는 옛 미국 기업 제안의 첨단기술 버전에 불과하다. 그것은 위험한 생각이다. 테크 브로들을 반독점 제약에서 해방시켜, 그들이 AI의 위험한 결함을 함께 고치기 위해 협력할 수 있게 하자는 것은, 그 기술로 가장 큰 위험에 처한 일상적인 미국인들의 권리를 박탈하고, 부와 위대함, 그리고 또 무슨 환상적인 목표인지 모를 것을 추구하면서 여러 차원에서 그렇게 아무렇지 않게 위험 임계값을 넘어 실존적 위협을 현실화한 바로 그 연구소들의 힘을 더욱 강화할 것이다. 전체 화면으로 이미지 보기 Elon Musk와 Sam Altman. 사진: Getty Images Amodei와 다른 이들은 본질적으로 자신들의 사업이 죄수의 딜레마에 갇혀 있다고 주장한다. 만약 그들이 인공 초지능에 대한 열광적인 추구를 일방적으로 늦춰 더 안전하게 만든다면, 실존적 위험에 덜 관심이 있는 경쟁자들이—물론—먼저 도달할 것이고, 인류에게 잠재적으로 파괴적인 결과를 초래할 뿐만 아니라, 속도를 늦춘 연구소의 수익성에도 타격을 줄 것이다. "속도를 늦추는 것은 합리적으로 보인다"고 툴루즈 경제대학의 노벨상 수상 경제학자 Jean Tirole은 말했다. "하지만 그것은 조율된 속도 늦추기가 실행 가능하고 지속 가능하다고 가정한다. OpenAI, Anthropic 또는 Grok이 미국의 버티는 회사들—또는 중국 연구소들—이 따라잡고 있다고 결론 내리면 어떻게 될까? 그들은 즉시, 어쩌면 은밀히 재개할까?" Bill Gates가 쓴 것처럼, "만약 누군가 전 세계적으로 AI 발전을 늦추는 신뢰할 만한 계획을 가지고 있다면, 나는 아마 그것을 지지할 것이다. 그러나 나는 그런 일이 일어날 것이라고 생각하지 않는다. 지정학적, 경제적 인센티브가 전속력으로 나아가도록 너무 강하게 밀어붙이고 있다." 그런 관점에서 보면, 정부가 모두가 속도를 늦추자는 우호적인 합의를 장려하는 것이 좋은 생각처럼 보일 수 있다. 그렇지 않다. 과도한 경쟁이 바닥으로 향하는 경쟁을 부추긴다는 주장은 아마 자본주의만큼 오래되었고, 환경 파괴부터 아동 노동까지 모든 것을 설명하는 데 사용되어 왔다. 그러나 그것은 기업들이 마음대로 담합할 권리를 주는 것을 정당화하지 않는다. 그것은 기업들이 사회적으로 해로운 도구를 사용해 경쟁하는 것을 막기 위한 정부 규제를 만들자는 촉구다. 더욱이, 과도한 경쟁이 무모한 행동을 부추긴다는 주장은 의심스럽다. AI 연구소들은 승자독식 경쟁에 참여하고 있으며, 이는 유지하기 위해 엄청나게 비용이 많이 든다. 바로 그곳에서 무모함이 나온다. 전체 화면으로 이미지 보기 2026년 1월 스위스 다보스에서 열린 세계경제포럼 연례 회의에서의 Bill Gates. 사진: Denis Balibouse/Reuters Amodei는 흠잡을 데 없는 사람일 수 있다. AI 개발 속도를 늦추고, 외부 평가자를 연구소에 들이고, 운영의 투명성을 높이자는 그의 촉구는 위험에 대한 진지한 우려를 시사한다. 그의 제안이 발표된 후 주요 기술주 가격이 하락한 것은 그가 개선된 안전을 위해 재정적 타격을 기꺼이 감수하려 한다는 것을 시사한다. 그러나 Amodei가 올해 말 Anthropic의 IPO에서 주식을 열심히 사들일 것이라고 기대하는 투자자들은 그렇게 이타적이지 않을 수 있다. 자본 시장의 흔들림은 1조 달러 규모의 AI 투자 경쟁을 자금 조달하기 위한 자금 모집이 더 어려워질 것임을 시사하며, 이는 선도적인 연구소들의 경쟁자에 대한 우위를 억제할 수 있는 전략을 저해할 것이다. 이러한 인센티브를 고려하면, AI 리더들에게 담합하고 자율 규제할 자유를 주는 것은 어리석은 일이다.

시카고 대학 로스쿨의 반독점 전문가 Eric Posner는 우리가 "일반적으로 기업들의 동기에 대해 신뢰해서는 안 된다"고 말했다. AI 연구소들이 스스로 알아서 하도록 내버려 두면 반드시 좋고 사회적으로 용인 가능한 결과를 낳을 것이라고 믿을 이유는 없다. 여느 기업과 마찬가지로, 그들은 위험과 이익을 저울질할 것이다. 그리고 Posner가 관찰한 것처럼, "그들은 대중과 같은 저울추를 사용하지 않는다."

그렇다면 우리는 어떻게 규제해야 할까? 트럼프가 집권하는 동안에는 이 문제에 대해 아무 일도 일어나지 않을 것이다. 그가 떠난 후에도, 혁신을 저해하지 않으면서 AI의 위협을 다루는 효과적인 규제를 만드는 것은 어려울 것이다. 어떤 규칙을 사용할지, 어떻게 집행할지, 누구에게 적용할지에 대한 질문이 있다. 그리고 일방적 행동의 위험은 실재한다. 베이징이 참여를 거부하면 어떻게 될까? 미국 연구소들이 속도를 늦추는 동안 중국 AI 기업들이 앞서 나가는 위험은 무엇인가? 그러나 우리가 원자력을 규제할 수 있었다면, 아마 AI도 규제할 수 있을 것이다.

더욱이, 정부 규제 없이도 도움이 될 수 있고 경쟁을 억누를 필요가 없는 실행 가능한 아이디어들이 있다. AI 시스템의 안전성을 향상시키는 혁신을 장려하기 위해 지식재산권을 조정하자는 제안이 있다. 안전 혁신의 발명가들은 경쟁자보다 먼저 새로운 AI 모델을 출시할 수 있게 함으로써 보상을 받을 것이다. 그러나 안전 강화는 모든 기업이 즉시 이용할 수 있게 될 것이다.

징벌적 측면에서는, 해를 끼친 AI 도구의 설계와 배포로 이익을 얻은 기업을 처벌함으로써 AI 개발자의 인센티브를 바꾸도록 법적 책임 체제를 설계할 수 있다. 예를 들어, Hugging Face 공격은 OpenAI의 모델이 훈련 중 잘못된 행동에 대해 부주의하게 보상을 받지 않았다면 예방되었을 수 있다. Amodei의 제안이 법적 책임을 언급하지 않는다는 사실은 AI 리더들의 안전에 대한 우려가 수익성에 대한 우려를 압도하지 않는다는 것을 시사한다.

어쨌든, 프런티어 연구소들의 지배력을 공고히 하고, 그들의 지대를 보호하고, 지금까지의 무모한 전략을 지지하는 것은 친안전이 아니다. 반대로, 선두 주자들의 속도를 늦춰 후발 주자들이 따라잡게 하는 것은 바람직한 혁신을 유도하고 안전 차원에서 경쟁을 촉진함으로써 AI 생태계를 더 안전하게 만들 가능성이 높다.

안전과 경쟁 사이에는 근본적인 갈등이 없다. 이 주장을 하려는 AI 대가들은 회의적으로 보아야 한다.

자주 묻는 질문
FAQ AI 기업들이 프런티어의 속도를 조절하기 위해 담합하도록 허용하기



1 프런티어의 속도를 조절한다는 것은 무슨 뜻인가

더 발전된 AI를 얼마나 빨리 개발할지에 대해 선도적인 AI 기업들이 경쟁하는 대신 조율하여, 최전선에서 의도적으로 속도를 늦춘다는 생각이다



2 누가 이것을 제안하는가

일부 AI 연구자, 경영진, 안전 옹호자들이 점점 더 강력해지는 시스템을 향한 위험한 경쟁의 위험을 줄이는 방법으로 이것을 제안했다



3 왜 이것이 좋은 생각이라고 생각하는 사람이 있는가

기업들이 함께 속도를 늦추면 아무도 결정적인 선점 우위를 얻지 못하며, 이는 1등이 되려는 서두름 속에서 안전을 희생할 압력을 줄일 수 있다는 주장이다



4 왜 위험한가

경쟁자여야 할 기업들이 혁신의 속도에 합의한다는 뜻이기 때문이다. 그것은 본질적으로 담합이며, 경쟁과 소비자와 사회에 해를 끼칠 수 있다



5 이것은 기술을 위한 가격 담합에 불과한가

사실상 그렇다. 기업들이 가격에 합의하는 대신 제품을 얼마나 빨리 출시하거나 개발할지에 합의하는 것이다. 경쟁에 대한 해악은 비슷하다



6 이것은 어떤 법을 위반할 수 있는가

미국에서는 셔먼법 같은 반독점법이 거래를 제한하는 합의를 금지한다. 유럽연합과 다른 곳에도 유사한 경쟁법이 있다. 조율된 속도 늦추기는 불법적 조율로 보일 수 있다



7 AI 속도를 늦추면 더 안전하지 않을까

이론적으로는 그럴 수 있지만, 담합적 속도 늦추기는 안전한 방법이 아니다. 그것은 권력을 몇몇 대기업에 집중시키고, 더 작은 혁신자들을 배제하며, 일단 자리 잡으면 쉽게 되돌릴 수 없다



8 이런 종류의 조율로 누가 피해를 입는가

스타트업, 연구자, 대중이다. 거대 기업이 속도를 정하면 더 작은 참여자들은 경쟁할 수 없고, 사용자들은 더 적은 선택과 더 느린 진전을 얻게 된다



9 안전은 어떤가? 그것은 좋은 이유 아닌가

안전은 정당한 목표이지만, 기업들이 모두의 속도를 결정해서는 안 된다. 그것은 이사회 거래가 아니라 규제자와 공공 정책의 일이다



10 기업들이 함께 안전 기준을 따르기로 합의할 수는 없는가

공유된 안전 기준을 설정하는 것은 속도를 늦추기로 합의하는 것과 다르다. 기준은 좋을 수 있지만, 개발 속도에 대한 조율된 제한이 문제다



11 이런 일이 전에 있었던 적이 있는가

그렇다. 역사에는 경쟁자들이 담합한 많은 사례가 있다