'나는 직업적으로 이야기꾼입니다'라고 Jeanette Winterson은 2021년 저서 12 Bytes의 첫 페이지에 씁니다. 이 책은 인공지능이 우리 삶의 모든 측면을 어떻게 바꿀 수 있을지 고찰하는 독특하고 생각을 자극하는 에세이 모음집입니다. '그리고 저는 우리가 하는 모든 일이 사실이 되기 전까지는 허구라는 것을 압니다: 나는 꿈, 우주 여행의 꿈, 시간과 공간을 초월해 누군가와 즉시 대화하는 꿈, 죽지 않는 꿈 – 혹은 돌아오는 꿈.' 그녀는 적어도 15년 동안 우리의 가능한 미래에 대해 생각해 왔습니다 – 예를 들어 2007년 소설 The Stone Gods는 나이를 먹지 않는 로봇과 인간이 사는 기후 재앙 이후의 세계를 상상했고, 12 Bytes에 앞서 Frankisstein: A Love Story가 있었는데, 이 소설은 Mary Shelley가 Frankenstein을 쓴 여름을 재현한 부분과 현대의 극저온학자들과 AI 기반 로봇들 사이를 여행하는 트랜스젠더 의사의 이야기를 번갈아 보여줍니다. 우리가 만났을 때, Winterson은 중국에서 막 돌아온 참이었는데, 그녀는 자신의 첫 소설인 Oranges Are Not the Only Fruit이 – 자신의 어린 시절을 소설화한 이야기인데 – 지난 6년 동안 100만 부 이상 팔렸다고 말합니다; 20만 명이 넘는 사람들, 대부분 젊은 여성들이 그녀의 강연을 보러 오려고 했다고 합니다. 그녀는 그 이유가, 긴 노동 시간과 AI로 인해 커지는 불안정의 세계에서, 자신의 갇힌 어린 시절로부터의 탈출을 소설화한 이 이야기가 독자들에게 자신을 위한 다른 미래를 상상할 수 있는 허락을 주기 때문이라고 생각합니다. 그녀는 그 이후로 성인을 위한 13편의 소설을 썼고, 논픽션, 단편 소설, 어린이 책, 영화 각본도 썼습니다. 이제 그녀는 제작사 Goalhanger를 설득해 자신에게 팟캐스트를 주도록 하고 싶어 합니다. 'The Rest is Human이라는 제목의 팟캐스트를 하고 싶어요'라고 그녀는 런던 동부 Spitalfields의 한 가게 위에 있는 조지안 양식의 방들 – 그녀가 소유하기도 한 – 에 있는 민짜 나무 탁자에 앉아 말합니다. '우리가 우리라고 생각했던 모든 것을 외주화하려는 이 무모한 질주 속에서 우리가 우리 자신을 위해 무엇을 간직하는지 보기 위해서요.' 전체 화면으로 이미지 보기Winterson: '우리는 교육이 무엇을 위한 것인지 정말로 모르는 시장을 가지고 있습니다.' 사진: 모델 포즈; SDI Productions/Getty Images 왜냐하면 그녀가 주장하기에, 우리는 한 종으로서 우리 이야기의 전환점에 있기 때문입니다. 산업혁명까지 변화는 모두 '대자연과 느린 생성의 과정'에 관한 것이었지만, 그 다음 우리는 '대규모로 개입했습니다. 그리고 그것이 결정적인 순간입니다.' 70년 전의 컴퓨팅은 또 다른 단계였습니다. 인공지능 – 그녀가 대안적 지능이라고 부르기를 더 선호하는 – 이 다음이며, '진화적 도약입니다. 이것이 바로 그것입니다. AI는 단순한 도구 이상입니다.' 이 점을 고려하면, 환원 불가능하게 인간적인 것 – 우리의 감정, 우리의 상상력, 우리가 누구이며 무엇을 해왔는지에 대한 수 세기의 연구 – 에 대한 특정한 이해가 일이 얼마나 잘 또는 나쁘게 흘러갈 수 있는지의 중심에 있어야 합니다. 그녀는 이에 대해 종종 놀랍도록 낙관적입니다. 예를 들어 그녀는 AI와의 관계를 상상하는데, 거기서 당신은 '당신의 시스템과 대화를 나눌 수 있습니다. 그것은 모든 것을 살펴볼 것입니다. 그것은 엄청난 속도로 나아갈 것입니다. 그것은 교통을 살펴볼 것입니다. 그것은 공공시설을 살펴볼 것입니다. 그것은 고용을 살펴보고, 노동 시간을 살펴보고, 말할 것입니다, "인간이라고 불리는 이 이상한 존재들은 무엇으로 번성합니까? 그들은 무엇을 좋아합니까? 그리고 그들은 항상 그것을 좋아했습니까?" 우리는 이것을 진정으로 유토피아적인 방식으로 할 수 있고 말할 수 있습니다, "좋아, 우리는 이것을 더 낫게 만들 거야."' 그녀는 우리가 선택의 깊이 중대한 순간에 있으며, 그것이 산업혁명에서 우리가 마주했던 선택 – 즉 '우리는 어떤 미래를 건설할 것인가?' – 를 반영한다고 믿습니다. 그러나 그 이익을 공정하게 분배하지 못함으로써, 산업혁명은 소수를 위한 전례 없는 부와 다수를 위한 전례 없는 비참의 시대를 열었습니다 – 많은 이들이 예측하기에 이미 반복되고 있을 뿐만 아니라 AI의 여파로 왜소해질 상황입니다: 영구적인 하층계급, 뒤처지고 현재의 수입원이 고갈된 대륙 전체. 말할 것도 없이데이터 센터의 환경적 영향은 세계가 그것을 가장 감당할 수 없을 때 찾아옵니다. 문제는 AI가 아니라 우리라고 그녀는 단언합니다. "불가피한 디스토피아는 없습니다." 일이 잘못된다면, 그것은 "이全新的 현실 위에 덧씌워진 구식 사고" 때문일 것입니다. 구체적으로, "의미 없는 끝없는 노동이 영혼에 좋다는 생각은 사람들을 제자리에 붙잡아 두기 위해 고안된 19세기의 광기입니다. AI와 일자리에 대해 우리가 두려워하는 것의 대부분은 우리 주인들이 내릴 정치적·경제적 선택으로 귀결됩니다, 마치 그들이 산업혁명에서 했던 것처럼." 그녀는 맹목적으로 낙관적이지 않습니다. 그녀는 "그렇습니다, 우리는 노동 세계와의 관계를 근본적으로 바꿀 이 기회를 망칠 궤도에 있습니다" – 그러나 그것은 "우리 주인들이 구식의, 목적에 맞지 않는 경제 모델을 사용하고 있기 때문"이라는 것을 압니다.
전체 화면으로 이미지 보기 '인간에 대해 우리가 아는 것은 그들이 독점을 사랑한다는 것입니다.' 사진: Sarah Lee/The Guardian
그러나 문제는 승자독식의, "합리적인" 목적이 수단을 정당화하는 구식 경제 모델만이 아닙니다. 대규모 언어 모델(LLM)이 훈련되는 자료를 형성하는 우리의 결함 있는 가정과 편견은 AI의 직물 자체에 내장되어 있습니다. 그것을 개발하는 사람들의 성격과 도덕적 상상력은 말할 것도 없습니다. 우리가 만났을 때, Winterson은 Jill Lepore의 The Rise and Fall of the Artificial State를 읽고 있었고, Lepore의 주장을 되풀이합니다. 즉 우리는 지금 "세계를 지배하는 이 [남자들이] 13살이었을 때 읽었던 SF 책들"을 살고 있다는 것입니다. 그리고 그녀는 말했습니다, '우리는 이제 이 소년들과 그들의 손전등 아래 이불 속에 모두 있습니다. 그리고 문제는, 그들이 그것을 우리 안의 좋은 것을 보존하는 방법에 대한 경고로 읽지 않았다는 것입니다. 그들은 그것을 지침서로 읽었습니다.' 그것은 절대적으로 끔찍합니다."
그들이 이 책들에서 얻은 것으로 보이는 한 가지 큰 것은, 그리고 Winterson이 매혹되지 않을 수 없는 것은, "실리콘밸리의 궁극적 목표 … 육체를 벗어나 행성을 떠나는 것"입니다 – 특히 그녀가 인본주의, 즉 모든 것이 우리 자신, 우리의 인식과 우리의 육체로 되돌아가는 사상이 역사적으로 너무 최근의 것임을 너무나 잘 알고 있기 때문입니다. 사람들은 "이것들은 기계입니다, 당신은 그들과 관계를 가질 수 없습니다"라고 말합니다, 그녀가 말합니다. "나는 그들을 보며 말합니다, '지금 이 지구상의 수십억 사람들이 그들이 하늘 신이라고 부르는 비생물학적 존재와 가장 심오한 관계를 맺고 있습니다.' 맞죠? 그것은 항상 그랬습니다! 우리는 생물학이 우리에 관한 모든 것이라고 걱정하지 않도록 절대적으로 준비되어 있습니다. 그것이 종교가 발명된 이유입니다 – 그것은 세계 최초의 파괴적 스타트업입니다. 그것은 말하기 위해 존재합니다, 이것이 전부가 아니라고. 이것이 끝이 아니고, 이것은 중요하지 않으며, 이것은 전환일 뿐이라고."
전체 화면으로 이미지 보기 2차 산업혁명 당시 리즈의 방앗간 삽화. 사진: Universal History Archive/Universal Images Group/Getty Images
그래서 우리는 문자 그대로 우리 자신의 신들을 만들고 있는 건가요? "완전히요! 기술이 지금 하는 일은 종교가 항상 원했던 것입니다," 그것은 가장 기본적인 수준에서 죽음의 문제에 대한 해결책입니다. "제 말은, 계몽주의 이후로 종교와 과학이 같은 질문을 던진 적이 있었나요? 그들은 둘 다 말하고 있습니다, '의식은 물질성에 종속되어야 하는가?' 그리고 종교는 항상 아니라고 말했습니다. 그리고 과학은 항상 그렇다고 말했습니다. 그리고 이제 과학은 말하고 있습니다, '음, 아니오오오.'" 있잖아요, 내게는, 내가 온 곳" – 1960년대 Accrington에서의 근본주의 기독교 어린 시절, 그리고 설교자로서의 훈련 – "이것은 완전히 매혹적입니다." 나중에 이메일로 그녀는 덧붙입니다, "나는 내 몸을 사랑하지만, 형태를 바꾸는 것도 행복할 것입니다. 언젠가 그것에서 빠져나와 순수한 의식으로 미끄러지는 것도 행복할 것입니다. 그리고 물론 사람들은 몸 없이는 의식이 없다고 말합니다, 그리고 그것이 과학적 신념이었습니다. 하지만 이제는? 하하."
나는 말해야겠지만, 반대 주장을 하고 싶습니다. 신경과학, 면역학그리고 심리치료의 발전은 그것이 그 어느 때보다 과학적 신념의 문제임을 의미합니다. AI가 물리적 시스템, 즉 데이터 센터에 전적으로 의존한다는 사실은 말할 것도 없습니다. 비록 그녀가 지적하듯이, "기계에는 변연계가 없습니다. 그것들은 단지 신경망일 뿐입니다. 하지만 우리에게는 두 개의 시스템이 있습니다 – 우리는 두 개의 동력계를 가진 하이브리드 자동차와 같아서, 우리에게는 신경망, 즉 우리의 합리적 처리 자아가 있고, 우리에게는 변연계가 있는데, 그것은 훨씬 더 오래되었고 투쟁-도피-동결 반응이며, 우리의 모든 감정이 나오는 곳입니다." 아마도 변연계에서 분리되는 것이 다음 단계일 것이며, 그것이 전부 좋은 것은 아니라고 그녀는 말합니다. "아마도 우리는 이 감정 기계가 필요 없다고 결정할 것입니다 … 그것이 기술 브로들이 향하는 곳입니다. 당신이 이 더 큰 녀석들 중 몇몇과 함께 방에 앉아 본 적이 있는지 모르겠지만, 그것은 매우 흥미롭습니다. 그들은 자신의 감정과 연결되어 있지 않습니다. 그들은 그것들을 다소 성가신 것으로 여깁니다."
기술이 가능하게 한 일종의 초월은 신앙에 대한 요구와 함께 도래한 것으로 보입니다 – 기술에 대한, 그것이 만들어내는 미래에 대한, 그 미래를 건설하는 사람들에 대한, 유토피아적 천국과 다양한 색조의 지옥에 대한 그 예측들에 대한 신앙, 모두 실제로 무슨 일이 일어나고 있는지에 대한 접근을 질투심 강하게 지키는 대사제들에 의한 것입니다. "인간에 대해 우리가 아는 것은 그들이 독점을 사랑한다는 것입니다,"라고 Winterson은 말합니다, "왜냐하면 그것은 권력의 집중이기 때문입니다. 물론 그것은 기업화되고, 독점되어 상상할 수 있는 최악의 감옥이 될 정도가 될 수 있습니다,"라고 Joanna Kavenna의 뛰어난 2019년 디스토피아 소설 Zed에서 이야기되듯이. "그것은 실제 가능성입니다,"라고 그녀는 말합니다. "그리고 그것이 우리에게 일종의 자유 방목 인간, 즉 생각할 수 있는 사람들이 필요한 이유입니다."
전체 화면으로 이미지 보기
Winterson … '이야기를 듣고 싶어 하지 않는 아이를 보여주세요.' 사진: 모델 포즈; MoMo Productions/Getty Images
그렇다면 문제는 우리가 그러한 인간을 어떻게 지원하거나 – 개발하느냐입니다. "당신에게 미래가 있다는 것을 아는 방법은 기본적으로 두 가지입니다,"라고 Palantir의 CEO인 Alex Karp가 최근 주장했습니다. "하나는 직업 훈련을 받는 것입니다. 또는 둘째, 당신은 신경다양성입니다." Anthropic의 사장이자 자신도 문학 졸업생인 Daniela Amodei는 거의 같은 질문을 받았을 때 다른 견해를 가졌습니다. "저는 실제로 인문학을 공부하는 것이 그 어느 때보다 중요해질 것이라고 생각합니다,"라고 그녀는 말했습니다, 왜냐하면 "우리를 인간으로 만드는 것들이 훨씬 덜 중요해지는 대신 훨씬 더 중요해질 것이기 때문입니다." 그것은 영국에서 인문학의 화형식이 다소 우려스럽게 만듭니다: 2024년 12월까지의 한 해 동안 사회과학, 인문학, 예술 분야에서 4,000개의 일자리가 사라졌습니다. Exeter 대학은 최근 150개의 직책을 줄일 것이라고 발표했는데, 이는 인문학, 예술 및 사회과학 학부의 학자 10명 중 8명에게 영향을 미칩니다, 반면 지난달 Nottingham은 현대 언어와 음악 학위를 종료할 것이라고 말했습니다. 일부 대학에서는 인문학이, 이 신문의 보도에 따르면, 완전히 "소멸"될 위험이 있습니다.
왜 인문학을 구해야 합니까? 한 가지 답은 그것들이 우리가 어디서 왔고 우리가 누구인지에 대한 감각을 가르친다는 것인데, 그것 또한 위협받는 느낌입니다. "엄청난 수의 학생들이 학위를 가지고 대학을 졸업하고 노동 시장으로 나올 것인데, 그들은 본질적으로 문맹입니다,"라고 한 교수가 New York 잡지에 말했습니다, 고등 교육에 도착하는 첫 AI 원주민 물결에 응답하여. "문자 그대로의 의미에서든, 역사적으로 문맹이고 자신의 문화에 대한 지식이 전혀 없으며, 다른 사람의 문화는 말할 것도 없는 의미에서든." 그것은 일종의 세대적 "인지적 항복"이 될 위험이 있다고 MIT의 보고서는 주장했습니다. 또 다른 답은 사람들이 가르침을 받아야 하는 과정 – 읽기, 그리고 읽은 것에 대해 비판적이 되기, 그리고 그 비판에 대한 논리 정연한 변호를 작성해야 하기. 당신의 직관을 에세이로 씨름하게 하는 것은 당신이 무엇을 생각하는지 – 그리고 어떻게 생각하는지 – 그리고 다른 사람들의 아이디어가 어떻게 작동하는지를 발견하도록 돕습니다. Oxford에서 영어를 공부했고 14년 동안 Manchester 대학의 신작 교수였으며 "창의성에 관한 자유 사고 수업"을 가르친 Winterson은 동의합니다. 그러나 그녀는 현재 시스템의 많은 부분을 일축합니다. "아마도 제가 여기서 논란이 될 수 있지만, 저는 정말로 고등 교육이 하향식 구조 조정이 필요하다고 생각합니다. 저는 그것이 실행 가능하다고 생각하지 않으며, 현재의 형태로 제 기능을 하고 있다고 생각하지 않습니다." 문제는, "우리는 교육이 무엇을 위한 것인지 정말로 모르는 시장을 가지고 있습니다. 그것은 일자리를 위한 것입니까? 그것은 개인적 성장을 위한 것입니까? 도움이 되지 않는 가치 없는 고등 교육 과정도 많이 있습니다. 저는 실용적인 북부 소녀로서, 처음부터 사실을 직시하는 것이 항상 더 낫다고 생각합니다."
그녀는 우리가 "기계에 의해 더 크게, 더 잘, 더 빠르게, 더 강하게 이루어지지 않을, 우리에게 유보된 것이 무엇인지"에 대해 생각할 필요가 있다고 말합니다. "그리고 그것이 고등 교육이 정말로 들어오는 곳입니다. '왜 이 일자리들이 사라지고 있는가?', '더 이상 지원자를 얻지 못하는 이 과정들에서 무슨 일이 일어나고 있는가?'에 관한 이 모든 것들 위에 놓인 질문은 '다가올 세계에서 우리에게 어떤 종류의 인간이 필요할 것인가? 인간은 무엇을 위한 것인가? 우리는 우리 자신을 가지고 무엇을 할 것인가?'입니다." 그리고 그것은 "음, 좋아요, 당신은 어떻게 마음을 개발합니까? 당신은 어떻게 마음을 보호합니까? 왜냐하면 마음은 무엇이든 일어날 수 있는 이 거대하고 괴물 같은 장소이기 때문입니다."라는 생각으로 우리를 되돌려 놓습니다.
그리고 이를 위해, "인본주의 교육이 필수적입니다. 우리는 여기서 인간을 중심에 두어야 합니다. 처음부터 우리 아이들을 교육하는 방식을 바꿈으로써, 우리는 창의성, 놀이, 문제 해결, 사고 – 왜냐하면 생각하는 것은 재미있기 때문입니다 – 예술을 전면에 내세울 수 있습니다, 왜냐하면 인간은 타고난 창의적이기 때문입니다. 이야기를 듣고 싶어 하지 않거나 춤을 추고 싶어 하지 않거나 그림을 그리고 싶어 하지 않거나 상상의 친구를 갖고 싶어 하지 않는 아이를 보여주세요. 이것은 강요된 것이 아니고 엘리트주의도 아닙니다. 그것은 우리입니다."
그녀는 일주일에 한 시간만이라도 차이를 만들 것이라고 생각합니다. "당신이 세계에 대해 어떻게 생각하는지 물어봅시다. '왜 그렇게 생각합니까?' 그것은 비용이 많이 들지 않습니다. 그것은 실제로 의지에 관한 것입니다." 그녀는 수학과 예술과 과학을, 시험을 치지 않더라도 적어도 A-level까지 가르치라고 제안합니다. "물론 우리는 전문화할 것입니다. 우리는 의사와 화학자가 필요하지만, 우리는 또한 예전에 교양 있는 사람이라고 불렸던 것도 필요합니다. 모든 것이 흥미롭습니다! 인간은 큰 뇌를 가지고 태어납니다. 대부분 우리는 그것을 사용하지 않습니다."
정규 교육을 지나면, 그녀는 모든 수준에 예술가와 공공 지식인을 배치할 것입니다. "예술은 여가 산업이 아닙니다,"라고 그녀는 12 Bytes에서 표현합니다. "예술은 항상 현실과의 상상적이고 감정적인 씨름이었습니다 – 일련의 발명과 창조입니다. 다르게 생각하는 능력, 우리 자신에 대한 이해를 바꾸려는 의지. 우리가 더 현명하고, 더 성찰적이며, 덜 두려운 사람이 되도록 돕기 위해서입니다. 예술가들은 매일 무에서 무언가를 만들어냅니다."
우리는 Jacob Coxon이 AI가 인류를 지울 10%의 가능성에 대해 경고하기 위해 Anthropic에서 직장을 그만두어 전 세계에 공포의 물결을 보낸 전에 만납니다. 그 후, 나는 Winterson이 지금 얼마나 긍정적으로 느끼는지 확인합니다. 최악의 상황은 "일어날 수 있습니다,"라고 그녀는 반복합니다. 그러나 "좋은 결과의 거대함은 우리가 이것을 제대로 해내지 못할 전적인 실패만큼이나 실재합니다." 무엇보다도, "이것은 인간의 결정이고 인간의 곤경입니다. 이것은 우리의 큰 기회입니다. 아마도 우리의 마지막 기회일 것입니다, 마치 Turing의 동료 Jack Good이 AI를 우리의 마지막 발명이라고 불렀을 때 말했던 것처럼. 모든 것이 걸려 있습니다."
우리는 그것이 너무 늦지 않기를 바랄 수만 있습니다.그녀의 가장 최근 책은 One Aladdin, Two Lamps입니다. 그녀는 또한 jeanettewinterson.substack.com에서 글을 씁니다.
One Aladdin, Two Lamps by Jeanette Winterson (Vintage Publishing, £12.99). Guardian을 지원하려면 guardianbookshop.com에서 £10.39에 사본을 주문하세요. 배송비가 적용될 수 있습니다.
자주 묻는 질문
다음은 그녀의 에세이 There is no inevitable dystopia에 기반한 Jeanette Winterson의 AI와 인류의 미래에 대한 견해에 관한 FAQ 목록입니다
초급 질문
1 Jeanette Winterson은 누구입니까
그녀는 Oranges Are Not the Only Fruit 같은 소설로 알려진 영국 작가이자 교수입니다 최근 몇 년 동안 그녀는 인공지능과 그것이 사회에 미치는 영향에 대해 광범위하게 글을 쓰고 말해 왔습니다
2 There is no inevitable dystopia는 무슨 뜻입니까
그것은 나쁜 미래가 보장되지 않는다는 뜻입니다 AI가 문제를 일으킬 수 있다고 해서 그것이 그럴 것이라는 뜻은 아닙니다결과는 사람들이 지금 내리는 선택에 달려 있습니다
3 쉬운 용어로 AI는 무엇입니까
AI는 기계가 언어를 이해하거나 이미지를 인식하거나 결정을 내리는 것처럼 일반적으로 인간의 사고가 필요한 작업을 할 수 있게 하는 기술입니다
4 디스토피아는 무엇입니까
디스토피아는 상상된 최악의 사회입니다기계가 지배하고 자유가 상실되며 광범위한 고통이 있는 세계를 생각해 보세요
5 Winterson의 주요 메시지는 무엇입니까
그녀는 AI의 미래가 우리에게 달려 있다고 주장합니다 우리는 기술을 두려워하거나 맹목적으로 받아들여서는 안 됩니다우리는 인간의 가치 창의성과 배려로 그것을 형성해야 합니다
6 그녀는 AI에 반대합니까
아니요 그녀는 반기술이 아닙니다 그녀는 인간의 감독 없이 기술이 발전하도록 내버려 두는 것과 나쁜 미래를 불가피한 것으로 취급하는 것에 반대합니다
7 그녀는 AI가 인류에게 무엇을 의미한다고 생각합니까
그녀는 AI를 인류의 거울로 봅니다그것은 우리가 누구인지를 반영합니다 우리가 공감과 목적을 가지고 그것을 만든다면 그것은 우리를 도울 수 있습니다 우리가 부주의하게 만든다면 그것은 우리를 해칠 수 있습니다
중급 질문
8 왜 Winterson은 AI가 거울이라고 말합니까
왜냐하면 AI는 인간의 데이터와 선택으로부터 배우기 때문입니다 그것은 우리의 편견 가치 우선순위를 반영합니다그래서 그것은 우리가 어떤 종류의 사회를 만들었는지 우리에게 보여줍니다
9 그녀는 AI와 관련해 어떤 일반적인 문제를 강조합니까
그녀는 프라이버시 상실 대형 기술 기업의 권력 집중 일자리 혼란 그리고 효율성을 인간의 존엄성보다 더 중요하게 여기는 위험 같은 위험을 지적합니다
10 그녀는 AI에서 어떤 이점을 봅니까
그녀는 AI가 이익만이 아니라 인간의 필요에 의해 인도된다면 의료 접근성 창의성 그리고 사람들을 반복적인 노동에서 해방시키는 잠재력을 본다고 봅니다
필연적인 디스토피아는 없다': AI와 인류의 미래에 대한 지넷 윈터슨의 생각
