성냥을 불붙이려면 얼마나 빠른 속도로 그어야 할까? 나는 발화의 화학적 과정을 묻는 게 아니다. 즉, 작은 나무 막대기와 그 둥근 머리가 불꽃을 만들어내는 연쇄 반응을 일으키기 위해 움직여야 하는 실제 속도, 초당 미터 단위를 묻는 것이다.
이 질문은 잠 못 이루는 밤에서 비롯되었다. 그리고 어둠 속에서 나는 다시 잠들기 위해 하지 말아야 할 유일한 행동을 저질렀다. 바로 휴대폰을 집어 든 것이다. 어느새 새벽 3시는 5시가 되어 있었다. 나는 마찰대(적린, 분쇄 유리)와 성냥 머리(염소산칼륨, 삼황화안티몬, 왁스)에 무엇이 들어 있는지, 그리고 안전성냥은 다른 곳에 그으면 불이 붙지 않는다는 것을 알게 되었다. 초당 3,500프레임으로 촬영된 성냥 긋기의 슬로우모션 영상도 찾았다. 하지만 속도에 관한 정보는 없었다.
여전히 답을 찾지 못해, 나는 담배 회사인 스웨디시 매치에 질문을 보냈고, 두 명의 교수에게 이메일을 보냈다. 한 명은 태즈메이니아의 화학자, 다른 한 명은 임페리얼 칼리지 런던의 열역학 교수였다. 오전 5시 30분, 나는 약간 좌절하며, 클로드가 몇 초 만에 내가 원하는 답을 주지 않았을까 궁금해하다가 마침내 다시 잠들었다.
거의 20년 동안 실리콘밸리는 우리에게 마찰 대신 매끄러움을 팔아왔고, 우리는 열렬한 구매자였다. 몇 달 전, 나는 링크드인 게시물에서 작은 충격을 받았다. 글쓴이는 아마존의 추천 알고리즘이 서점보다 훨씬 낫다고 말하며, 알고리즘이 자신을 알기 때문에 효율적이라고 설명했다. 이는 자신과 연결될 수도, 연결되지 않을 수도 있는 작가와 표지의 미로 속에서 헤매는 것이 시간 낭비라는 암시였다. 그것이 바로 마찰이었다.
그 게시물을 읽었을 때, 나는 생각했다. 머무르고 싶은 욕망 없이 루브르 박물관을 제공받는 것을 상상해 보라.
인생은 마찰이 만들어내는 가능성의 느려진 공간에서 일어난다. 반면에 AI는 끝없는 가속의 썰매와 같아서, 시간을 필요로 하는 성찰을 확실한 패배로 만든다. "모든 순간의 결정에 인간의 감독을 부과한다면 작동하지 않을 것입니다." 프랑스 국방부 AI 통합 책임자가 리베라시옹에 말했다. "우리는 이미 진 것입니다." 이처럼 AI를 생사의 경계에 두는 것은 밤에 뒤척이게 만드는 종류의 일이다.
나는 언젠가 내 아이들이 "로봇 권리"에 관해 나를 구시대적인 반동주의자로 볼 것이라고 농담하곤 했다. 그는 너무 인본주의자야, 그들이 속삭일지도 모른다. 그때쯤이면 그 단어는 노골적인 모욕이 아니라면 적어도 논쟁의 대상이 될 것이다. 나는 2010년대 후반의 평화로운 대규모 언어 모델 이전 시대에, 내 타이밍이 빗나갈 수 있다고는 상상조차 하지 못했다. 패턴 매칭 "신경망"의 작동 방식에서 초기 형태의 의식을 보는 사람들과, 그 안에서 몹시 복잡하고 다이달로스적인 속임수를 보는 사람들 사이의 충돌이 내가 30대를 떠나기도 전에 일어날 줄은 몰랐다. 그런데도, 우리는 여기에 와 있다.
실리콘밸리의 가장 큰 투자자 중 일부인 마크 안드레센 같은 사람들은 자기 성찰의 부족을 자랑하며, 그것을 시간 낭비로 여긴다. 이것이 AI의 정신이다. 검증되지 않은 삶에 연료를 공급하는 것. 그리고 나는 그 잔해 속에서 장엄한 영적 위기가 솟아오르는 것을 보지 않을 수 없다. 사회적 공허함, 브라질 작가 클라리시 리스펙토르가 "세상의 물속에 있는 몸의 힘"과 그것이 "내가 말할 수 없는 것을 진정으로 말하고 있는 그 다른 것을 포착한다"고 썼을 때 암시하는 것을 대체하는 건조함.
매끄러움에 대한 탐구는 이 형언할 수 없는 "다른 것"을 고갈시킨다. 내가 대략적으로 우리가 말하는 것과 우리가 아는 것 사이의 공간, 그리고 앎 그 자체라고 부를 수 있는 것을. AI는 이 공간을 붕괴시키고, 그 평평함 속에는 아무것도 없다. 패턴 매칭 알고리즘은 모방을 만들어내지 의미를 만들어내지 않는다. 그 출력의 블랙박스 안에는 경험을 통해 살아간다는 것의 복사본이 있지만, 진정으로 그것에 접근하는 것은 아무것도 없다. 그것들은 이미지를 만들지만 예술을 만들지 않고, 텍스트를 만들지만 문학을 만들지 않으며, 소리를 만들지만 교향곡을 만들지 않는다. 작곡가가 진정으로 느꼈던 것에 우리가 가장 가까이 다가갈 수 있는 방법이라는 느낌으로 피부를 간질이게 할 수 있는 것은 아무것도 없다. 패턴 매칭 알고리즘은 세상 속의 살아있는 몸이 아니다. 그것은 웃음, 침묵, 슬픔, 사랑을 알 수 없다. 그것은 죄를 짓거나, 용서하거나, 희생할 수 없다.
무엇이 우리를 언어적 드로스테 효과 속에서 존재를 끌어내려고 하게 만드는가? 겉보기에는 끝이 없지만, 궁극적으로는 자기 자신의 루프일 뿐인 것. 아마도 우리는 기술적 거울이 우리가 누구인지 보여줄 것이라는 생각에 끌리는지도 모른다. 충분한 데이터, 충분한 우리의 공유된 역사와 영혼을 먹이기만 하면. 하지만 우리는 신을 기계에 투영함으로써 신을 찾지 못할 것이다.
샘 올트먼이 AI 모델을 훈련하는 데 필요한 에너지를 인간이 "똑똑해지기" 위해 소비하는 20년 치 음식과 비교했을 때, 허깅페이스의 AI 및 기후 책임자인 사샤 루치오니는 그 사고방식을 자본주의의 "블랙 미러 단계"라고 불렀다. 나는 더 나아가 그것이 자본주의의 최종 단계라고 말하겠다. 순수한 자본의 세계, 노동이 없는 세계. 적어도 인간 노동은 없는. 생물학적 시간 속에 존재하고, 먹고, 자고, 사교하고, 자본주의가 가격을 매길 수 없는 모든 일, 지구상의 삶을 삶답게 만드는 모든 일을 하는 그런 노동 말이다. 상품의 계획된 노후화에서 사람의 계획된 노후화로의 이러한 전환에 우리가 정말 놀라야 할까?
알고 보니 실리콘밸리 밖의 대부분의 사람들은 이것을 실제로 원하지 않는다. 그들은 AI 사용의 급증에 대해 흥분하기보다 더 걱정하고 있다. 만약 나에게 희망의 실마리를 주는 것이 있다면, 그것은 반발이다. 나는 그것이 AI 사용을 서구 경제의 "핵심 성과 지표"로 취급하는 것에 대한 반발로 시작하여, 인본주의의 부활로 끝날 것이라고 생각한다.
이런 식으로, AI는 스스로를 잡아먹는다. 일부 측정에 따르면, AI 출력은 이제 인터넷의 절반 이상을 차지한다. 알고리즘은 우로보로스와 같아서, 자신의 출력에 대해 끝없이 재훈련한다. 매끄럽고, 원활하며, 명백히 텅 빈. 결국, 그 안에서 신성의 힌트나, 더 불안하게는 영혼을 보는 사람들조차 그것이 그저 아지랑이에 불과하다는 것을 깨닫게 될 것이다.
불면증이 있은 지 일주일 후, 내 세 가지 질문 모두에 답변이 왔다. 스웨디시 매치는 그저 모른다고 말했다. 태즈메이니아 대학의 화학 교수인 네이선 킬라는 물리학자와 이야기해야 하지만, 마찰력은 마찰 계수에 뉴턴 단위의 힘을 곱한 것과 같으며, 속도는 압력에 따라 달라질 수 있다고 답했다. 임페리얼 칼리지의 열역학 교수인 에리히 뮐러는 최소 점화 에너지(마찰대의 적린을 점화하는 데 0.2밀리줄)의 관점에서 질문을 다시 생각해 보라고 조언했고, 거기서부터 성냥의 질량을 이용해 긋기 속도를 추정할 수 있다고 말했다. 그리고 클로드는? 나는 확인하지 않았다. 그것은 결코 요점이 아니었다.
알렉산더 허스트는 파리에서 가디언 유럽을 위해 글을 쓴다. 그의 회고록 제너레이션 디스페레이션이 현재 출간되었다.
자주 묻는 질문
다음은 알렉산더 허스트의 인용문을 바탕으로 한 인간의 마찰과 AI의 마찰 없는 본질을 다루는 FAQ 목록입니다.
초급 수준 질문
1 이 맥락에서 마찰은 무엇을 의미하나요
인간으로 사는 데 따르는 일상적인 어려움, 지연, 짜증, 정서적 노력을 의미합니다. 교통 체증, 느린 인터넷 연결, 친구와의 오해, 또는 원하는 것을 기다려야 하는 것과 같은 것들입니다.
2 허스트는 왜 AI 지지자들이 이것을 절대 이해하지 못할 것이라고 말하나요
AI는 마찰을 제거하도록 설계되었기 때문입니다. 즉각적인 답변, 완벽한 문법, 논리적인 해결책을 제공합니다. 결코 피곤해하거나, 좌절하거나, 감정 때문에 실수하지 않습니다. 지지자들은 종종 마찰을 삶의 가치 있는 부분이 아니라 고쳐야 할 버그로만 봅니다.
3 마찰은 나쁜 것인가요
꼭 그렇지는 않습니다. 인용문은 그것이 정의하는 것이라고 주장합니다. 일부 마찰은 고통스럽지만, 많은 마찰이 우리에게 인내심, 회복탄력성, 창의성을 가르칩니다. 기술을 배우거나 실수를 고치기 위한 투쟁은 종종 우리가 성장하는 곳입니다.
4 좋은 마찰의 간단한 예를 들어줄 수 있나요
악기 연주를 배우는 것입니다. 좌절스럽고, 느리며, 잘못된 음표로 가득합니다. 하지만 그 투쟁이 마침내 곡을 완벽하게 연주했을 때의 보람을 그토록 느끼게 만드는 것입니다. AI는 즉시 곡을 연주할 수 있지만, 당신은 배움의 자부심을 경험하지 못할 것입니다.
고급 심층 질문
5 이 인용문은 몰입 상태 개념과 어떻게 관련되나요
몰입은 마찰이 낮은 깊은 집중 상태이지만, 마찰을 숙달함으로써 달성됩니다. 주자는 고통을 극복한 후에야 자신의 리듬을 찾습니다. 작가는 형편없는 초고와 씨름한 후에야 몰입을 찾습니다. AI는 가짜 몰입 상태를 제공합니다. 쉽기만 할 뿐, 얻어진 것이 아닙니다.
6 이 생각에 따르면 마찰 없는 세상의 위험은 무엇인가요
우리를 참을성 없고, 권위 의식이 강하며, 회복탄력성이 떨어지게 만들 수 있습니다. 모든 장애물이 제거되면, 현실 문제를 처리할 정신적 근육을 결코 기르지 못합니다. 또한 계획대로 되지 않을 때 일어나는 행복한 우연인 세렌디피티도 사라집니다.
7 그렇다면 우리는 모든 것에 AI 사용을 피해야 한다는 뜻인가요
아닙니다. 요점은
인간이라는 것은 마찰을 감당하는 것을 의미한다. 그것은 AI 지지자들이 결코 이해하지 못할 것이다. — 알렉산더 허스트
