"로봇이 세상을 장악하는 것에 대해 걱정하지 않는다"고 AI 전문가 마이클 울드리지가 말한다. 그는 대형 기술 기업의 실제 위험과 때때로 따르는 이점에 대해 이야기한다.

마이클 울드리지는 누구나 한 번쯤 만나길 바라는 선생님 같다. 대화하기 쉽고, 어려운 개념을 간단한 용어로 풀어내는 데 능숙하며, 지나치게 지식인인 척하거나 억지로 쿨한 척하지 않으면서 자신의 일에 진정으로 열정적이다. 그는 "누군가의 눈에 이해의 빛이 번쩍이는 순간, 즉 전에는 이해하지 못했던 것을 깨달을 때를 보는 것을 정말 좋아합니다. 그건 엄청나게 보람찬 일이에요"라고 말한다.

그는 평범한 사람처럼 보이지만, 500편이 넘는 과학 논문과 10권의 저서를 보유한 옥스퍼드 교수라는 점에서 분명 평범한 사람은 아니다. 특히 그가 가장 좋아하는 작업은 고전 아동 시리즈를 업데이트한 레이디버드 전문가 시리즈에 인공지능 주제로 기고한 것이다. "이 책이 정말 자랑스럽습니다"라고 말하며 책장에서 한 권을 건네준다. 화창한 봄날, 우리는 옥스퍼드 대학교의 다소 평범해 보이는 컴퓨터 공학과에 있는 그의 연구실에 있다. 캠퍼스 분위기 탓일 수도 있지만, 우리의 대화는 거의 세미나처럼 느껴진다.

울드리지는 특히 인공지능 분야에서 능숙한 대중 연설가다. 그는 이 분야에서 30년 넘게 일해 왔지만, 여전히 건강한 회의주의를 가지고 접근한다. 2023년 왕립연구소에서 진행한 크리스마스 강연 에서 그는 로봇 개를 데려와 학령기 청중에게 야구 방망이로 그것을 때릴지 투표하게 했다. 또한 강화 학습을 설명하기 위해 80년대 고전 영화 <워게임즈>를 재현했는데, 이 영화에서 젊은 매튜 브로더릭은 미군 컴퓨터가 스스로 틱택토를 하게 해서(결국 이길 방법이 없다는 것을 깨닫게 될 때까지) 핵 재앙을 막는다. "매튜 브로더릭이 당시 런던에 있었어요. 그를 크리스마스 강연에 초대하려고 했지만 올 수 없었습니다. 그래서 그를 기리기 위해 우리 컴퓨터 이름을 '브로데릭'이라고 지었죠"라고 울드리지는 말한다.

<워게임즈>는 사실 울드리지의 최신 저서 <게임 이론의 인생 교훈: 복잡한 세상에서 전략적으로 생각하는 기술>의 주제와 매우 가깝다. 그는 15년 넘게 학생들에게 이 주제를 가르쳐 왔다고 말한다. 이제 우리 차례다. 울드리지의 책에는 수학이 없다. 대신 그는 게임 이론을 대서양 대구 어업부터 펩시 대 코카콜라, 신의 존재에 이르기까지 모든 것을 다루는 21가지 이해하기 쉬운 시나리오로 바꾼다.

"비교적 적은 수의 게임 이론 모델로 설명할 수 있는 세계적 사건이 얼마나 많은지 놀랍습니다"라고 울드리지는 말한다. 가장 간단한 것 중 하나는 '치킨 게임'인데, 그는 제임스 딘 영화 <이유 없는 반항>의 한 장면을 사용해 설명한다(그의 학생 중 아무도 이 영화를 들어본 적이 없다고 인정한다). 두 십대가 절벽을 향해 차를 몰고 간다. 먼저 뛰어내리는 사람이 '치킨'이 되어 진다. 둘이 동시에 뛰어내리면 무승부이고, 아무도 뛰어내리지 않으면 크게 진다(스포일러: 영화에서 그렇게 된다).

여기서의 이론적 교훈은 내시 균형에 관한 것이지만(자세한 내용은 다루지 않겠다), 실제로 우리는 이 게임이 현실에서 항상 펼쳐지는 것을 본다. 쿠바 미사일 위기가 전형적인 예였지만, 또 다른 예가 지금 진행 중이다: 미국-이란 갈등이다. "양측이 서로에게 점점 더 위협을 고조시키고 있습니다. 누군가는 어느 시점에서 물러서야 합니다. 문제는 둘 다 물러서지 않으면 돌이킬 수 없는 지점을 넘어 모두에게 최악의 시나리오가 펼쳐진다는 것입니다"라고 울드리지는 말한다.

여기서 빠져나올 방법이 있을까? "음, 게임이 바뀔 수 있는 한 가지 방법은 제3자가 개입하여 한쪽이 다르게 행동하도록 유인을 제공하는 것입니다." 또 다른 방법은 상대방과 소통함으로써 게임을 우회하는 것이다. 이것이 쿠바 미사일 위기 때 일어난 일이지만, 여기서는 가능성이 덜해 보인다. "하지만 말하자면, 이란은 훨씬 더 교묘하게 게임을 하고 있는 것 같습니다. 미국 측이 매우 예측 불가능하기 때문이죠. 예측 불가능한 것도 고전적인 게임 이론 전략이지만, 상대방이 어떻게 대응해야 할지 알기 매우 어렵게 만듭니다. 만약 당신이 정말 비합리적인 플레이어와 맞서고 있다면, 게임 이론이 말하는 한 가지는 최악의 시나리오에 대비해 위험을 분산시키라는 것입니다."

울드리지는 이것이 전쟁이나 게임에만 국한된 것이 아니라고 강조한다. 그의 책에서 그는 게임 이론을 "자기 이익을 추구하는 당사자들이 서로 상호작용하는 상황을 이해하는 것을 목표로 하는 수학적 이론"으로 정의한다. 그는 이것이 사회적, 정치적, 철학적 모든 종류의 상황에 적용될 수 있다고 주장한다.

전체 화면으로 이미지 보기
진정한 열정… 2023년의 울드리지. 사진: 폴 윌킨슨

예를 들어 '제로섬 게임'이라는 개념은 널리 오해받고 있음에도 불구하고 (부분적으로 <워게임즈> 덕분에) 일반적인 용어가 되었다. 울드리지는 제로섬 게임은 단순히 한쪽이 얻는 만큼 다른 쪽이 잃는 게임이 아니라, 상대방이 가능한 한 크게 지도록 만드는 것이 목표인 게임이라고 설명한다. 따라서 기술적으로 체스는 제로섬 게임이 아니다. 왜냐하면 당신은 단지 이기려고 할 뿐, 상대방을 파괴하거나 모욕하려는 것이 아니기 때문이다. 여기에는 사회적, 정치적 측면이 있다. "이 제로섬 사고방식은 매우 해롭습니다. 매우 남성적인 특성이죠. 그리고 증거에 따르면 인생에서 잘 풀리지 않을 뿐만 아니라 실제로 더 비참해집니다. 자신의 일에 대한 통제력이 덜하다고 느끼게 됩니다. 게임 이론의 핵심 교훈 중 하나는 실제로 우리가 하는 대부분의 상호작용이 제로섬이 아니라는 것입니다."

이러한 적대적 세계관은 포퓰리즘 정치를 추진한다 – '이민자들이 당신의 일자리를 빼앗으러 온다'는 식으로. 당신이 지는 것은 다른 사람들이 이기고 있기 때문이다. 울드리지가 가장 좋아하는 게임 중 하나는 우리에게 반대로 생각하도록 장려한다: 1971년 철학자 존 롤스가 만든 '무지의 베일'이다. 아이디어는 당신이 사회를 원하는 대로 설계할 수 있지만, 그 후에 당신은 그 사회 안에 무작위로 배치된다는 것이다. 울드리지는 그것을 "아름다운 사고 실험… 사회적으로 좋은 결과를 장려하지만, 사람들은 여전히 자신의 이익을 따릅니다"라고 부른다. 그는 빌 클린턴과 버락 오바마도 팬이었다고 덧붙인다.

게임 이론이 AI와 어떻게 맞는지는 즉시 명확하지 않지만, 요즘에는 특히 그가 주요 관심 분야인 다중 에이전트 시스템(서로 상호작용하고 당신을 대신해 행동하는 프로그램)에서 큰 부분을 차지한다고 울드리지는 설명한다. "그래서 내가 당신과 회의를 잡고 싶다면, 왜 내가 당신에게 전화를 걸어야 할까요? 왜 내 시리가 당신 시리와 직접 대화하지 않을까요?" 이런 종류의 상호작용은 우리의 온라인 생활에 내장되어 있다. 예를 들어, 이베이와 같은 온라인 경매에서 당신은 마지막 순간에 승리 입찰을 몰래 넣으려고 한다. "내 에이전트가 당신의 에이전트와 상호작용할 것이고, 내 선호도가 반드시 당신의 것과 일치하지 않는다면, 그러한 상호작용에 대해 어떻게 생각해야 하는지 설명하는 이론이 바로 게임 이론입니다."

전체 화면으로 이미지 보기
울드리지의 첫 번째 기계인 탠디 TRS-80 PC. 사진: 포톨로지1971/알라미

울드리지가 시작했을 때, AI는 거의 추상적인 개념이었다. 그는 아마추어 열정을 통해 컴퓨터 공학에 입문했다. 지역 사이다 회사의 중간 관리자 아들로 시골 헤리퍼드셔에서 자란 그는 1980년경 지역 전자 제품 가게에 가정용 컴퓨터가 판매되었을 때 큰 사건이었다. "터무니없게 들렸습니다. 왜냐하면 저는 컴퓨터가 수백만 파운드짜리 물건이라고 생각했거든요." 가게 주인은 친절하게도 그가 그것을 사용해 보도록 허락했다(탠디 TRS-80이었다). "나는 매주 다시 가서 스스로 프로그래밍을 배웠습니다. 말 그대로 가게 진열장에 앉아 컴퓨터를 하고 있었어요." 그는 학부에서 컴퓨터 공학을 공부한 후, 1989년에 AI 박사 과정을 시작했고, 그 다음에는 조인트 아카데믹 네트워크(초기 인터넷의 영국 부분)에서 인턴십을 했다. 그 이후로 기술은 엄청나게 발전했지만, 울드리지가 말하듯이 "현재 AI 혁명을 주도하는 핵심 기술은 80년대 중반까지 발명되었습니다." 그는 인공 신경망(현재 머신 러닝을 구동하는 메커니즘)의 선구자인 제프리 힌튼을 언급한다. "1980년대 AI 혁명을 가로막는 유일한 장애물은 컴퓨터가 충분히 강력하지 않았고 데이터가 충분하지 않았다는 점이었습니다."

다음 세대의 인플루언서들은 자신이 말하고, 하고, 보는 모든 것이 AI에 사용되는 데 동의할 것이다.

결국, 울드리지는 2020년 GPT-3의 획기적인 성공은 대체로 "오픈AI가 한 내기에 기반을 두고 있습니다. 즉, 같은 일을 10배 더 크게 하면 결과가 나올 것이라는 내기였죠. 당시 저를 포함한 많은 사람들이 그것에 대해 매우 회의적이었습니다. 저는 과학자입니다. 과학적 발전을 통해 진보가 이루어지길 바라지, 단지 더 많은 컴퓨터 성능을 투입함으로써 이루어지길 바라지 않습니다. 하지만 실제로 그것은 매우 성공적인 내기였습니다." 이것이 오픈AI의 CEO 샘 알트만과 그의 동료들이 사람들이 생각하는 기술 천재가 아니라는 것을 암시하는가? "저는 샘 알트만을 만난 적이 없습니다. 모르겠어요"라고 그는 외교적으로 말한다. "그는 분명히 놀라운 것을 만들어냈습니다."

천재이든 아니든, 이 AI 선구자들은 한계에 도달하고 있을지도 모른다. 몇 년 전, 알트만과 구글 딥마인드의 데미스 허사비스 같은 사람들은 수년 내에 AGI(인간 수준의 인공 일반 지능)를 달성할 것으로 예상했다. "저는 개인적으로 그들이 지나치게 낙관적이라고 생각합니다"라고 울드리지는 말한다. 당신은 ChatGPT와 라틴어로 양자 역학에 대해 이야기할 수 있지만, "동시에, 당신의 집에 들어와서, 한 번도 본 적 없는 집에서 부엌을 찾아 식탁을 치울 수 있는 AI는 없습니다" – 이것은 최저 임금을 받는 인간 노동자가 할 수 있는 일이다.

"한계는 투입할 수 있는 컴퓨터 성능과 데이터입니다. 그리고 데이터는 이제 진정한 제약 조건입니다." 그는 위키피디아 전체가 GPT-3 훈련 데이터의 3%에 불과했다고 말한다. "다음 번에는 어디서 10배 더 많은 데이터를 얻을 수 있을까요?" 이러한 이유로 데이터는 귀중한 자원이 되고 있으며, 일부 조직은 잠재적인 데이터 보고를 보유하고 있다. "NHS는 인간에 대한 엄청난 양의 데이터를 보유하고 있습니다. 그것은 상상할 수 있는 가장 귀중한 종류의 데이터입니다." 민간 기업은 그것에 대해 많은 돈을 지불할 것이라고 그는 말하지만, "그러나 그러한 거래를 승인한 사람은 누구든 후회하게 될 것이라고 생각합니다." 그는 디스토피아적인 미래 시나리오를 상상한다. "정기적으로 당신을 모니터링하는 웨어러블 기술에 연결되는 데 동의해야만 NHS에 접근할 수 있는 세상… 우리는 매우 빠르게 다음 세대의 온라인 인플루언서들이 기본적으로 자신의 모든 삶의 경험, 말하고, 하고, 보는 모든 것을 AI에 데이터를 제공하기 위해 수확하는 데 동의하는 세상으로 가고 있다고 생각합니다."

학문적 관점에서 울드리지는 실리콘 밸리가 자원과 대중 담론 모두에서 AI 분야를 지배하게 된 것에 대해 불만을 품고 있다. "우리는 실리콘 밸리에 의해 서사가 도난당하는 것을 보았습니다. 실리콘 밸리는 [이윤 중심, 일자리 대체, 그리고 거의 전적으로 대규모 언어 모델에 초점을 맞춘] AI 버전을 홍보하고 있으며, 저와 제 동료들은 그것을 홍보하거나 구축하는 데 전혀 관심이 없습니다. 더 나은 세상을 만들고 사람들의 삶을 개선하기 위해 AI를 구축하는 데 경력을 쏟아온 사람으로서 그것은 다소 우울합니다"라고 그는 말한다.

그는 계속해서 말한다: "큰 그림을 보면, AI는 대규모 언어 모델이 모든 관심을 독점하기 때문에 종종 눈에 띄지 않는 엄청난 혜택을 제공합니다." 그는 옥스퍼드의 한 팀이 간단한 초음파에서 심장 스캔을 분석하여 휴대폰을 통해 GP에게 보낼 수 있는 AI 기반 도구를 개발하고 있다고 언급한다. "이것은 NHS가 제공하기 어려워하는 값비싼 치료의 한 종류로, 갑자기 매우 저렴한 비용으로 이용 가능해집니다."

2025년, 울드리지는 대중에게 과학적 아이디어를 설명하는 능력을 인정받아 왕립학회의 권위 있는 패러데이 상을 수상했다. 그의 2월 강연 제목은 <이것은 우리가 약속받은 AI가 아니다>였다. 그 무렵, 그는 AI가 '힌덴부르크 순간'을 맞을 수 있다고 제안했다. 힌덴부르크 추락 사고는 비행선 산업을 하룻밤 사이에 파괴했다. "우리는 유사한 AI 관련 재앙을 볼 가능성이 충분히 있습니다. 컴퓨터 프로그램은 다양한 방식으로 실패하며, 우리는 AI가 점점 더 내장된 컴퓨팅 네트워크에 완전히 의존하고 있습니다." 그렇긴 하지만, 실존적 위험에 관해서는 "AI는 나를 밤에 잠 못 이루게 하는 것들 목록에서 높은 순위에 있지 않습니다"라고 그는 덧붙인다. "저는 로봇의 지배를 걱정하지 않습니다. 적어도 제 상위 5위 안에는 들지 않습니다." 그가 핵전쟁을 더 큰 위협으로 간주한다는 사실이 그다지 위안이 되지는 않지만 말이다.

전체 화면으로 이미지 보기
미래를 고려하며… 마이클 울드리지. 사진: 필리파 제임스/가디언

그가 할 수 있다면, AI 개발 속도를 늦추겠다고 말한다. "그래야 우리가 무슨 일이 일어나고 있는지 이해할 시간을 더 가질 수 있기 때문입니다." 그는 이것이 게임 이론의 핵심 개념인 고전적인 '죄수의 딜레마'라고 지적한다. 표준 시나리오에서 두 죄수는 함께 저지른 범죄에 대해 자백할지 아니면 침묵할지 각자 결정해야 한다. 한 명이 자백하고 다른 한 명이 침묵하면, 자백한 사람만 풀려난다. 둘 다 자백하면 각각 더 짧은 형을 산다. 둘 다 침묵하면 더욱 짧은 형을 산다. 따라서 둘 다 침묵하기로 합의하면 더 나은 결과를 얻겠지만, 어느 쪽도 상대방이 어떻게 할지 알지 못한다. 직관에 반하지만, 게임 이론은 가장 현명한 움직임은 자백하는 것이라고 말한다.

같은 논리로, AI 기업들은 앞서 나가기 위해 경쟁에 갇혀 있다. 그들의 경쟁은 더 많은 지출, 자원, 에너지 소모가 큰 데이터 센터로 이어지지만, 인류에게 순이익은 없다. 그러나 우리는 여기 있다. "우리는 AI를 쫓는 소수의 매우 부유한 기업들을 가지고 있으며, 동시에 그들은 무언가 끔찍하게 잘못될까 봐 두렵다고 말합니다. 그렇다면 왜 여전히 그것을 쫓고 있을까요? 그들이 물러서면 다른 누군가가 할 것이라고 생각하기 때문입니다."

그 자신도 실리콘 밸리의 유혹을 받은 적이 있는가? "그럴 수 있었던 시점이 몇 번 있었던 것 같습니다"라고 그는 말한다. "하지만 저는 올해 60세가 됩니다. 이제는 젊은이들의 게임입니다." 어떤 이들은 AI가 너무 많은 인간 활동을 대체할 것으로 예측되므로 더 이상 공부할 의미가 없다고 주장한다. 울드리지는 그렇게 보지 않는다. "저는 좋은 직업을 얻을 수 있을 것이라고 생각해서 컴퓨터 공학에 입문한 것이 아닙니다. 진정으로 관심이 있었기 때문에 입문했습니다." 그는 많은 부모들이 자녀가 대학에서 무엇을 공부해야 하는지 묻는다고 말하며, "그리고 답은 '자녀가 정말 열정을 가진 것을 공부하게 하세요'입니다. 그것이 단연코 가장 중요한 것이라고 생각합니다."

<게임 이론의 인생 교훈: 복잡한 세상에서 전략적으로 생각하는 기술> by 마이클 울드리지는 5월 21일에 출간됩니다(Headline, £25). 가디언을 지원하려면 guardianbookshop.com에서 사본을 구매하세요. 이 기사에서 제기된 문제에 대한 의견이 있으십니까? 게재를 고려하기 위해 이메일로 최대 300단어의 답변을 제출하려면 그렇게 해주십시오. 편지함에 편지를 게재하려면 여기를 클릭하십시오.



자주 묻는 질문
다음은 자연스러운 어조와 명확한 직접 답변으로 작성된 주제 기반 FAQ 목록입니다.



초급 수준 질문



1 잠깐만요, 모두가 AI가 세상을 지배할까 봐 두려워하지 않나요? 왜 이 전문가는 걱정하지 않나요?

답변 울드리지 교수는 로봇이 세상을 지배한다는 생각은 공상과학에 가깝다고 말합니다. 그는 자신의 목표나 의식을 가진 기계를 만드는 것과는 거리가 멀다고 믿습니다. 진짜 위험은 로봇의 반란이 아니라 인간이 기술을 어떻게 사용하느냐에 있습니다.



2 로봇 종말을 걱정할 필요가 없다면, 무엇을 걱정해야 하나요?

답변 가장 큰 위험은 빅테크 기업들이 AI를 통제하는 데서 옵니다. 그는 프라이버시 침해, 편향된 알고리즘이 불공정한 결정을 내리는 것, 그리고 잘못된 정보의 확산을 걱정합니다. 위험은 AI 자체가 아니라 그것을 운영하는 사람들에게 주어지는 힘입니다.



3 그럼 AI는 실제로 좋은 점이 있나요, 아니면 전부 나쁜가요?

답변 전부 나쁜 것은 아닙니다. 울드리지 교수는 실제 이점을 지적합니다. AI는 의료 스캔에서 질병을 찾아내고, 교통 흐름을 최적화하고, 과학 연구를 돕는 등 특정 반복 작업에 뛰어납니다. 핵심은 인간의 판단을 대체하는 도구가 아니라 도구로 사용하는 것입니다.



4 빅테크가 이것과 무슨 상관인가요? AI는 그냥 컴퓨터 프로그램 아닌가요?

답변 빅테크는 가장 강력한 AI를 훈련하는 데 필요한 막대한 컴퓨터 성능과 엄청난 양의 데이터를 소유하고 있습니다. 그들은 그것이 어떻게 구축되고 누가 사용할 수 있는지 결정합니다. 위험은 소수의 기업이 모든 사람에게 영향을 미치는 기술에 대해 너무 많은 통제권을 갖는다는 것입니다.



고급 수준 질문



5 기사에서 가끔 언급되는 이점이 있습니다. 울드리지가 강조하는 구체적인 실제 이점은 무엇인가요?

답변 그는 종종 과학과 의학의 돌파구를 지적합니다. 예를 들어, AI는 인간이 수년이 걸리는 작업인 수백만 개의 단백질 구조를 몇 시간 만에 분석할 수 있습니다. 이는 신약 개발과 질병에 대한 이해를 극적으로 가속화했습니다.



6 정렬 문제란 무엇이며, 울드리지는 그것이 실제 위협이라고 생각하나요?