저는 교황님께서 AI에 관한 회칙을 발표해 주신 것에 감사드립니다. 그 이유는 다음과 같습니다.

사람들은 종종 제게 미래의 모든 소설이 인공지능에 의해 쓰여질 것이라고 생각하는지 묻습니다. 이는 진짜 질문이라기보다는 도전에 가깝습니다. 그들은 제가 기계가 제 일을 더 잘 해낼까 봐 걱정하는지 묻는 걸까요? 저는 보통 "어떤 알고리즘도 안나 카레니나를 쓰지 못할 거야!" 같은 말로 얼버무리곤 합니다. 하지만 그것도 진정한 답은 아닙니다.

그래서 저는 최근 교황 레오 14세, 즉 미국인 교황이 세상에 보낸 서한, 위대한 인간성: 인공지능 시대에 인간 인격체 보호에 관하여에 감사드립니다. 이는 4만 단어가 넘는 길고 지적이며 사려 깊은 문서로, 교황은 이 빠르게 성장하는 기술이 어떻게 사용되고 오용될 수 있는지 다룹니다. 이제 누군가 제게 AI에 대한 의견을 묻는다면, 저는 그저 교황의 서한, 적어도 3장을 가리키면 됩니다.

이 서한은 인간 소통의 붕괴라는 비극적 결과에 대한 적절한 성경적 언급으로 시작합니다. 인류는 "중대한 선택, 즉 새로운 바벨탑을 쌓거나 신과 인간이 함께 거하는 도시를 건설하는 것"에 직면했습니다. 이어서 교황 레오의 전임자들이 사물에 대해 어떻게 생각했는지, 그리고 노동, 권위, 정부, 과학, 권력, 그리고 서로에 대한 도덕적 의무에 대한 바티칸의 생각을 자세히 살펴봅니다. 또한 인간의 존엄성과 자유를 수호하는 교회의 활동을 강조합니다.

3장, 기술과 지배: AI의 약속에 비춰 본 인간의 위대함은 서한의 제목에 걸맞습니다. AI가 무엇이 아닌지 설명하는 강력하고 자주 인용되는 구절에서 교황은 본질적으로 인간이 무엇인지 정의합니다. "소위 인공지능은 경험을 겪지 않으며, 몸을 소유하지 않으며, 기쁨이나 고통을 느끼지 않으며, 관계를 통해 성숙하지 않으며, 사랑, 일, 우정 또는 책임이 무엇을 의미하는지 내면에서 알지 못합니다." AI는 도덕적 양심이 없으며 인류의 더 큰 선에 대한 진정한 관심을 보이지 않습니다.

이 서한은 AI의 가장 큰 위협이 될 수 있는 것, 즉 오직 이윤 극대화를 위해 프로그래밍될 수 있으며, 이는 소수를 위한 이익을 위해 다수가 고통받는 결과로 이어질 수 있다는 점에 대해 가장 중요하고 필요한 이야기를 합니다. 교황은 "사생활 조작"과 "정보 오용", 알고리즘을 사용한 고용 관리, 공공 서비스 및 신용 접근 통제, 개인의 평판을 높이거나 훼손하는 것에 대해 경고합니다.

연민, 자비, 용서는 기계의 우선순위에서 높지 않으며, 이는 구식이 될 수 있습니다. "'필요한 희생'이 정당화되기 시작하여, 종의 최적화라는 추구 속에서 가장 취약한 자들에게 부담을 지울 수 있습니다." 이 새로운 권력의 도구가 이미 부와 영향력을 가진 자들의 손에 들어간다면, 그것들은 가장 부유하고 특권 있는 시민들의 편안함, 건강, 복지를 향상시키는 데 사용될 것입니다.

교황은 AI 자체를 무조건 비난하는 것이 아니라, 그것이 정치적 억압의 도구로 사용되고 경제적 불평등을 악화시키는 방식을 비난합니다.

서한이 마무리되면서, 교황은 우리에게 진실에 충실하고, 교육에 투자하며, 관계를 구축하고, 정의와 평화 속에 살 것을 촉구합니다. 즉, 새로운 기술이 "가장 취약한 자들을 착취하고, 새로운 형태의 노예제를 창출하며, 갈등에서 이익을 얻는" 것에 저항하라는 것입니다. 교황이 AI 자체를 무조건 비난하는 것이 아니라, 그것이 정치적 억압의 도구로 사용되고 경제적 불평등을 악화시키는 방식을 비난한다는 점이 분명해집니다.

이론적으로, 이 서한이 충분히 나아가지 않았다고 비판할 수도 있습니다. 즉, 또 다른 성경적 은유인 금송아지를 사용하여 AI가 영적, 개인적, 공동체적 복지보다 비용 절감을 우선시한다고 비난하지 않았다고 말입니다. 그러나 그 기회는 이미 지나갔고, 레오 14세나 어떤 종교 지도자가 이러한 새로운 발전을 21세기 형태의 우상 숭배라고 비난할 수 있는 여지는 많지 않습니다.

그럼에도 불구하고, 이 회칙이 제시하는 인간 본성에 대한 비전, 반드시 승리해야 하는 정의와 공감의 정신, 그리고 최고의 도덕적 가치의 본질적 중요성은 궁극적으로 너무나 친절하고, 긍정적이며, 관대하고, 약자와 가난한 자를 보호해야 할 우리의 의무에 대해 명백히 옳기 때문에 이를 무시할 이유를 찾기 어렵습니다.

하지만 그것이 무서운 부분입니다. 분명히 실리콘밸리에서 반발이 있었던 것으로 보이며, 그곳의 최신 기술 창시자와 지배자들은 교황이 자신이 말하는 바를 모른다고 주장했습니다.

가디언의 교황과 클로드에 대한 견해: 레오 14세의 AI 회칙은 인간을 최우선으로 두는 것이 옳다 | 사설
더 읽기

AGI 하우스(인공지능이 본질적으로 인간의 두뇌와 동등하다는 것을 증명하는 데 초점을 맞춘 단체)의 공동 창립자 제레미 닉슨은 뉴욕 타임스와의 인터뷰에서 교회가 "AI에 대해 깊이 생각하지 않았다"며 "그들은 그것을 이해하지 못하기 때문에 이에 대한 입장을 가질 수 없다"고 말했습니다. 그리고 현재 연구의 최종 결과가 사실상 새로운 신, 또는 적어도 설득력 있는 모조품이 될 것이라는 믿음이 널리 퍼져 있는 것으로 보입니다. 미래의 위험을 걱정하며, 우리 사회는 AI의 단점이 이미 현실화되었다는 증거를 무시하기로 선택하고 있습니다. 광고를 전공하는 대학생인 친구의 딸은 최근 지도 교수로부터 졸업할 때쯤이면 광고 분야의 모든 일자리가 AI에 의해 대체될 것이라는 말을 들었습니다.

만약 이 새로운 기술의 지배자들이 교황이 지적하는 위험과 단점에 동의할 수 없다면, 우리는 매우 심각한 곤경에 처한 것입니다. 문제는 로봇이 안나 카레니나를 쓰게 될 것이라는 점이 아닙니다. 문제는 한 여성, 즉 독특한 인간 존재의 고통을 그토록 아름답게 포착한 소설이 더 이상 필요하지 않다고 여겨질 것이라는 점입니다.

그런 책은, 인생을 바꾸는 실수에 대한 이야기가 진보적인 기술 전문가에 의해 이윤으로 전환되어 더 크고 더 좋은 요트를 사는 데 사용될 수 없다면, 아무 의미가 없을 것입니다. 아마도 그 요트는 영구적인 하층민, 즉 한때 가치 있고 소중했던 직업을 탐욕스러운 형태의 인공지능에 의해 도난당한 노동자들에 의해 서비스될 것입니다.

프랜신 프로즈는 PEN 아메리칸 센터의 전 회장이자 미국 예술 문학 아카데미 및 미국 예술 과학 아카데미 회원입니다. 그녀의 새 소설, 시골에서의 5주는 5월에 출판되었습니다.



자주 묻는 질문
다음은 "저는 AI에 관한 교황의 회칙에 감사합니다. 그 이유는 다음과 같습니다"라는 글을 바탕으로 한 FAQ 목록입니다.



초급 수준 질문



Q: 회칙이란 무엇인가요?

A: 교황이 중요한 주제에 대해 가톨릭 교회 전체에 보내는 공식 서한입니다. 가르치고 안내하기 위한 것입니다.



Q: 교황은 왜 인공지능에 관한 회칙을 썼나요?

A: AI가 우리의 삶, 일, 상호작용 방식을 빠르게 변화시키고 있기 때문입니다. 교황은 이것이 인간의 존엄성, 정의, 평화에 관한 깊은 도덕적, 윤리적 질문을 제기한다고 믿으며, 지침을 제공하고자 했습니다.



Q: 교황은 AI가 나쁘다고 말하는 건가요?

A: 아닙니다. 그는 기술 자체에 반대하는 것이 아닙니다. 그는 AI를 인간의 삶을 존중하고, 취약한 자를 보호하며, 단순한 이윤이나 권력이 아닌 공동선을 증진하는 방식으로 사용하기 위해 주의를 기울여야 한다고 말합니다.



Q: AI에 관한 회칙의 주요 메시지는 무엇인가요?

A: 핵심 아이디어는 AI가 인간을 대체하거나 통제하는 것이 아니라 인간을 위해 봉사해야 한다는 것입니다. 이는 평화, 진리, 인간 존엄성에 초점을 맞춰 AI가 윤리적으로 개발되고 사용되도록 보장하기 위한 글로벌 대화를 촉구합니다.



Q: 이것이 일반인인 저에게 어떤 영향을 미치나요?

A: AI가 이미 검색 엔진, 소셜 미디어, 은행, 심지어 의료 진단 등 여러분의 삶에 존재하기 때문에 중요합니다. 교황은 모든 사람이 공정성, 프라이버시, 그리고 이러한 도구가 사회를 돕고 있는지 해치고 있는지에 대해 생각해 볼 것을 요청합니다.



중급 수준 질문



Q: 교황은 AI와 관련하여 어떤 특정 위험을 경고하나요?

A: 그는 공정성이나 투명성 없이 기계가 사람들의 삶에 영향을 미치는 결정을 내리는 알고리즘 사회에 대해 경고합니다. 또한 감시, 잘못된 정보, 그리고 AI를 통제하는 자와 그렇지 않은 자 사이의 불평등 심화 위험을 강조합니다.



Q: 회칙은 무기나 전쟁에서의 AI에 대해 다루나요?

A: 네. 인간의 의사 결정 없이 살상할 수 있는 자율 무기 시스템의 개발을 강력히 비난합니다. 교황은 이것이 전쟁에서 도덕적 책임을 제거하고 재앙적인 갈등으로 이어질 수 있다고 주장합니다.



Q: AI에 대한 교회의 관점은 기술 기업의 관점과 어떻게 다른가요?