Is this an era where foolishness seems to be thriving?

미국 매사추세츠주 케임브리지에 위치한 MIT 미디어랩에 들어서면 미래에 한 걸음 더 다가선 듯한 느낌이 든다. 유리 케이스가 공간을 따라 늘어서 있으며, 그 안에는 미니어처 데스크톱 로봇부터 신체 부위로 만든 티세트를 상상하도록 요청받은 AI가 설계한 초현실적 조각품에 이르기까지 기이하고 놀라운 발명품들의 프로토타입이 전시되어 있다. 로비에서는 '오스카'라는 이름의 AI 어시스턴트가 방문객들이 쓰레기를 분류하도록 돕는데, 사용한 커피 컵을 어디에 버려야 하는지 알려준다.

5층에서는 나탈리야 코스미나 연구원이 착용형 뇌-컴퓨터 인터페이스를 개발해왔다. 그녀의 목표는 언젠가 ALS 같은 질환으로 말할 능력을 잃은 사람들이 오직 자신의 생각만으로 소통하는 것을 돕는 것이다.

코스미나의 연구 상당수는 뇌 활동 분석과 관련된다. 그녀는 또한 누군가 혼란스러워하거나 집중력을 잃을 때 이를 감지할 수 있는 착용형 장치(한 버전은 안경처럼 생겼다)도 설계 중이다. 약 2년 전, 그녀는 ChatGPT와 같은 대형 언어 모델을 사용한 후 자신의 사고 방식이 변했다고 느꼈다는 낯선 사람들로부터 예상치 못한 이메일을 받기 시작했다. 그들은 기억력이 예전만큼 날카롭지 않은 것 같다고, 그런 게 가능하기나 한 거냐고 물었다.

코스미나 자신도 사람들이 생성형 AI를 얼마나 빠르게 받아들이는지 목격했다. 동료들이 직장에서 ChatGPT를 사용하는 것을 보았고, 그녀의 팀에 합류하기를 희망하는 연구자들의 지원서가 달라지기 시작했다. 그들의 이메일은 더 길고 격식 있어졌다. 때로는 Zoom 면접 중, 지원자들이 답변 전에 멈칵하거나 다른 곳을 힐끔 보는 것을 알아차렸다. AI의 도움을 받는 걸까? 그 생각에 그녀는 충격을 받았다. 만약 그렇다면, 그들이 제시한 답변을 실제로 얼마나 이해하고 있는 걸까?

호기심에 코스미나는 몇몇 MIT 동료들과 함께 실험을 설계했다. 그들은 참가자들이 에세이를 쓰는 동안(도움 없이, 검색 엔진을 사용하거나, ChatGPT를 사용하는 등 다양한 조건으로) 뇌 활동을 EEG 스캔으로 모니터링했다. 결과는 사람들이 외부 도움을 더 많이 받을수록 뇌 연결성이 낮아진다는 것을 보여주었다. ChatGPT를 사용한 사람들은 사고, 주의, 창의성과 연결된 영역에서 현저히 적은 활동을 보였다.

요컨대, 사용자들은 몰입感을 느꼈을지 모르지만, 뇌 스캔은 다른 이야기를 하고 있었다: 뇌에서는 별 일이 일어나지 않고 있었다는 것이다.

에세이를 제출한 후, 참가자들(모두 MIT 또는 인근 학교 학생들)은 자신이 쓴 내용을 기억할 수 있는지 물었다. "ChatGPT 그룹에서는 거의 아무도 자신의 글을 인용할 수 없었습니다."라고 코스미나는 말한다. "이는 우려스러운 일입니다. 방금 썼는데, 아무것도 기억하지 못하는 거니까요."

35세의 코스미나는 스타일리시한 블루 셔츠 드레스에 크고 화려한 목걸이를 한 차림이다. 그녀는 대부분의 사람들이 생각하는 속도보다 빠르게 말한다. 그녀가 지적하듯, 에세이 쓰기는 정보를 종합하고, 다양한 관점을 저울질하며, 논리를 구축하는 등 우리가 매일 사용하는 기술을 요구한다. "대화는 어떻게 처리할 건가요?" 그녀는 묻는다. "'어... 폰 확인해도 될까요?'라고 말해야 할까요?"

이 연구는 소규모(54명 참가자)였으며 아직 동료 검토를 받지 않았다. 그럼에도 불구하고 코스미나는 6월에 다른 연구자들이 흥미로워할 수 있겠다고 생각하여 온라인에 게시했다. 그것이 국제적인 미디어 폭풍을 일으킬 줄은 전혀 몰랐다.

인터뷰 요청과 함께 그녀는 전 세계에서 4,000통 이상의 이메일을 받았다. 많은 이메일은 숙제에 ChatGPT에 의존하는 학생들이 제대로 학습하지 못하고 있다고 걱정하는 스트레스 받은 교사들이 보낸 것이었다. 그들은 AI가 용인 가능한 결과물은 만들어내지만 내용을 진정으로 이해하지 못하는 세대를 만들어내고 있지 않을까 두려워했다.

코스미나가 설명하는 핵심 문제는, 일단 기술이 삶을 더 쉽게 만들어주면, 우리는 진화적으로 그것을 사용하도록 연결되어 있다는 점이다. "우리의 뇌는..." 우리는 본능적으로 지름길을 좋아하지만, 우리 뇌는 사실 효과적으로 학습하기 위해 도전이 필요합니다. 뇌는 성장하기 위해 일정량의 '마찰'을 필요로 합니다.

흥미로운 점은 우리 마음이 이런 저항을 필요로 하는 반면, 우리는 본능적으로 그것을 피하려 한다는 것입니다. 반면 기술은 '마찰 없는' 경험을 약속하며, 우리가 어떤 장애물도 없이 하나의 앱이나 화면에서 다음으로 쉽게 미끄러지듯 이동하도록 보장합니다. 이러한 원활한 상호작용이 바로 우리가 정보와 작업을 기기에게 쉽게 넘겨주는 이유입니다. 이것이 우리가 끝없는 온라인 콘텐츠에 쉽게 빠져들고, 거기서 빠져나오기 어려워하는 이유를 설명합니다. 또한 생성형 AI가 많은 사람들의 일상 속에서 매우 빠르게 필수품이 된 이유이기도 합니다.

우리의 공유된 경험으로부터, 디지털 세계의 초효율성에 익숙해지면, 모든 '마찰'이 존재하는 현실 세계는 더 다루기 어려워진다는 것을 알고 있습니다. 그래서 당신은 전화 통화를 피하고, 셀프 계산대를 이용하며, 모든 것을 앱을 통해 주문할지도 모릅니다. 머릿속으로 계산할 수 있는 수학 문제를 풀기 위해 휴대폰을 집어들고, 기억해내기보다 사실을 찾아보고, 생각하지도 않고 Google 지도가 A 지점에서 B 지점으로 안내하도록 의지할지도 모릅니다. 집중을 유지하는 것이 너무 힘들게 느껴져 책 읽기를 그만두었거나, 자율 주행차를 소유하는 꿈을 꾸기도 할 것입니다. 이것이 작가이자 교육 전문가 데이지 크리스토둘루가 말하는 "stupidogenic society(어리석음을 조장하는 사회)"의 시작일까요? 이는 비만을 조장하는 환경과 유사하지만, 기계가 당신을 대신해 생각해주기 때문에 지적으로 게을러지기 쉬운 환경을 말합니다.

인간의 지능은 단순히 "어리석다"고 규정하기에는 너무 다양하지만, 우리의 디지털 편의设施가 대가를 치르게 하고 있다는 우려스러운 징후들이 있습니다. 선진 OECD 국가들에서 15세 청소년들의 읽기, 수학, 과학 능력을 평가하는 Pisa 점수는 2012년경 정점을 찍었습니다. 20세기 내내 전 세계적으로 IQ 점수가 상승했는데(아마도 더 나은 교육과 영양 덕분일 것임), 이제는 많은 선진국에서 하락하는 것으로 보입니다.

시험 및 IQ 점수 하락에 대한 논쟁은 격렬합니다. 부인하기 더 어려운 점은 각 기술 발전과 함께 우리가 디지털 기기에 더 의존하게 되고, 그것들 없이는 일하고, 기억하고, 생각하고, 심지어 기능하기가 점점 더 어려워진다는 것입니다. 한 전문가(코스미나)가 좌절감을 담아 지적했듯이, "사람들을 '사용자(user)'라고 부르는 건 소프트웨어 개발자와 마약 딜러뿐입니다." 이는 AI 기업들이 우리가 심리적, 인지적 결과를 완전히 이해하기도 전에 대중에게 제품을 밀어붙이려는 서두름을 강조합니다.

끊임없이 성장하는 마찰 없는 온라인 영역에서 당신은 주로 '사용자'입니다: 수동적이고 의존적인 존재죠. AI가 생성한 허위 정보와 딥페이크 시대에 접어들면서, 우리에게 필요한 회의주의와 독립적 사고를 어떻게 붙잡아 두겠습니까? 우리의 마음이 더 이상 완전히 우리 것임이 아니며, 기술 없이는 명확하게 생각할 수 없다는 것을 깨달을 때쯤이면, 우리 자신의 의지력 중 얼마나 남아서 저항할 수 있을까요?

지능형 기계가 우리의 두뇌에 무엇을 하고 있는지 우려를 표현하면, 가까운 미래에 구식이라고 비웃음을 받을지도 모릅니다. 소크라테스는 한때 글이 기억력을 약화시키고 진정한 지혜가 아닌 "지혜의 자만"을 조성할까 봐 걱정했습니다. 이 주장은 AI에 대한 많은 현대 비판과 맥을 같이합니다. 그러나 글쓰기와 이후 인쇄술, 대중 매체, 인터넷과 같은 기술들은 실제로 더 많은 사람들이 더 많은 정보에 접근할 수 있게 했습니다. 이는 더 많은 개인이 위대한 아이디어를 개발하고 공유할 수 있게 하여, 개인적으로 그리고 사회적으로 우리를 더 똑똑하고 혁신적으로 만들었습니다.

결국, 글쓰기는 단순히 정보에 접근하고 저장하는 방식을 바꾼 것이 아닙니다. 그것은 우리가 생각하는 방식을 변화시켰습니다. 공책과 펜을 가진 사람은 기억력만으로는 해낼 수 없는 더 복잡한 작업을 해낼 수 있습니다.

AI 사용은 종종 평범하고, 상상력이 부족하며, 사실관계가 의심스러운 결과물을 낳습니다. 한 가지 문제는 '앵커링 효과'입니다: 생성형 AI에게 질문을 하면, 그 답변이 당신의 사고를 특정 경로에 고정시켜 다른 아이디어에 대해 덜 개방적으로 만들 수 있습니다. 한 전문가가 설명하듯이, "촛불을 예로 들어보세요. AI는 그것을 더 밝게, 더 오래 가게, 더 싸게, 더 매력적으로 개선하는 데 도움을 줄 수 있지만, 전구를 발명하도록 이끌어주지는 않습니다." 그런 도약을 이루려면 인간의 비판적 사고가 필요하며, 이는 종종 지저분하고, 구조화되지 않으며, 예측 불가능할 수 있습니다. 회사들이 적절한 교육 없이 Copilot과 같은 챗봇 도구를 도입하면, 고효율 전구가 필요한 세상에서 평범한 촛불 제작자 팀을 만들어낼 위험이 있습니다.

또 다른 우려는 AI를 지름길로 사용하는 성인들은 적어도 컴퓨터가 숙제를 대신해주기 전에 존재했던 교육 시스템의 혜택을 이미 받았다는 점입니다. 최근 영국 설문 조사에 따르면 대학생의 92%가 AI를 사용하며, 약 20%는 과제 전체 또는 일부를 작성하는 데 AI를 사용한 적이 있다고 합니다. 이는 그들이 실제로 얼마나 많이 배우고 있는지에 대한 의문을 제기합니다. 학교와 대학들은 여전히 더 똑똑한 사회를 구축할 수 있는 창의적이고 독창적인 사상가를 양성하고 있을까요, 아니면 AI에 의지해 에세이를 쓰는 사고 없이 쉽게 속아 넘어가는 무리들을 생산하고 있을까요?

몇 년 전, 버지니아 주 한 고등학교의 심리학 교사인 맷 마일스는 학교에서의 기술에 관한 연수 프로그램에 참석했습니다. 강사들은 수업 중 휴대폰을 사용하다 적발된 후, 자신이 보츠와나의 물 전문가와 함께 연구 중이었다고 주장하는 학생의 영상을 보여주었습니다. "웃깁니다. 아이들도 그걸 보면 모두 웃어요." 마일스는 말합니다. 정책 입안자들의 견해와 교실 현실 사이의 격차에 우려를 느낀 그는 동료 조 클레멘트와 함께 2017년 "Screen Schooled"를 썼으며, 너무 많은 기술이 아이들의 지능을 저하시키고 있다고 주장했습니다. 그 이후로 그들은 교실에서 스마트폰을 금지했지만, 학생들은 여전히 노트북을 사용합니다. 한 학생이 통찰력 있게 지적했듯이, "제가 휴대폰을 하고 있는 걸 보시면, 제가 생산적일 확률은 0%입니다. 노트북이라면 50%죠."

연구자 페이스 보닝거에 따르면, 팬데믹 이전부터 많은 교사들이 교실에 더 많은 기술을 도입하는 것에 당연히 회의적이었습니다. 하지만 봉쇄 조치로 학교가 온라인으로 전환되면서 Google Workspace for Education, Kahoot!, Zearn과 같은 도구들이 일상이 되었습니다. 생성형 AI의 부상과 함께 맞춤형 학습과 교사 업무 부담 감소를 통해 교육을 혁신하겠다는 새로운 약속들이 등장했습니다. 그러나 이러한 혜택을 뒷받침하는 연구 거의 전부가 에드테크 산업의 자금으로 이루어지는 반면, 대부분의 독립적이고 대규모 연구들은 화면 사용 시간이 학업 성취를 저해한다고 보여줍니다. 예를 들어, OECD의 글로벌 연구는 학교에서 기술 사용 증가가 더 나쁜 학생 성적과 상관관계가 있음을 발견했습니다.

"이러한 도구들의 효과성에 대해 규모 있는 독립적 증거는 단순히 존재하지 않습니다."라고 런던 대학교 칼리지의 웨인 홈즈 교수는 말합니다. "본질적으로, 우리는 이 기술들로 아이들에 대한 실험을 하고 있는 겁니다. 대부분의 분별 있는 사람들은 바에 들어가서..." 누군가 당신에게 새로운 약을 건네며 건강에 좋다고 주장하는데, 아무 의문 없이 그 약을 복용하기 시작하는 상상을 해보십시오. 우리는 보통 우리의 약이 엄격한 검증을 거치고 전문가에 의해 처방되기를 요구합니다. 그런데도 아이들의 발달 중인 두뇌에 매우 유익하기로 되어 있는 교육 기술에 관해서는 우리는 갑자기 그 기준을 내려놓습니다.

마일스와 클레멘트는 학생들이 기기에 끊임없이 산만해질 뿐만 아니라, 답변이 항상 빠른 검색 하나만으로 가능해지면서 비판적 사고와 깊은 이해를 발전시키는 기회를 놓치고 있다고 걱정합니다. 클레멘트는 "미국의 1인당 GDP 순위가 어디쯤 될 것 같나요?"와 같은 질문을 던지고 학급 전체가 함께 알아내도록 이끌었던 때를 회상합니다. 지금은 그가 질문을 마치기도 전에 누군가 이미 온라인에서 찾아봅니다. 학생들은 정기적으로 ChatGPT를 사용하며, 과제가 디지털 형태로 제공되지 않으면 (AI나 검색 엔진에 복사-붙여넣기 대신 질문을 직접 타이핑해야 하므로) 불만을 토로합니다.

"Google을 통해 올바른 답을 찾는 것은 지식을 가진 것과 같지 않습니다." 클레멘트는 지적합니다. "그리고 지식은 중요합니다.因为它能让你对听起来不对劲或虚假的东西提出质疑。 그것이 없으면, 당신은 평지 설 블로그를 읽고 '말이 되네'라고 생각할지 모릅니다. 더 잘 알기 위한 배경 지식이 부족하기 때문입니다." 그는 인터넷이 이미 음모론과 허위 정보로 가득 차 있으며, AI가 설득력 있지만 거짓된 콘