人们常问我,是否认为未来所有小说都将由人工智能(AI)创作。这与其说是真问题,不如说是一种挑战。他们是在问我是否担心机器能取代我的工作,甚至做得更好?我通常用类似“没有算法能写出《安娜·卡列尼娜》!”的话搪塞过去。但这也不是真正的回答。
因此,我感谢美国籍教皇利奥十四世近期向世界发布的通谕《卓越人性:在人工智能时代守护人的尊严》。这份长达四万余字的文件睿智而深刻,阐述了这项快速发展的技术如何被善用与滥用。如今当有人询问我对AI的看法时,我只需指引他们阅读教皇的通谕——至少是第三章。
通谕开篇引用圣经中人类沟通崩溃导致悲剧的典故。人类面临“关键抉择:要么建造新的巴别塔,要么建设上帝与人类共居之城”。随后详细梳理了利奥教皇前任们的思想脉络,以及梵蒂冈关于劳动、权威、政府、科学、权力和人类道德义务的理念,同时强调教会在捍卫人类尊严与自由方面的工作。
第三章《技术与支配:AI承诺下的人性光辉》名副其实。在解释AI本质的段落中(这段常被引用),教皇实质上定义了何以为人:“所谓人工智能不会经历体验,没有躯体,感受不到悲喜,不会通过人际关系成长,也无法从内在理解爱、劳动、友谊或责任的意义。”AI没有道德良知,对人类共同福祉缺乏真正关切。
通谕随后阐述了AI可能带来的最大威胁:它可能被单纯编程为追求利润最大化,这必然导致多数人为少数人利益受苦。教皇警告要防范“隐私操控”和“信息滥用”,反对用算法管理就业、控制公共服务和信贷获取、提升或损害个人声誉。
同情、怜悯与宽恕——这些机器优先级不高的事物——可能变得过时。“‘必要的牺牲’可能开始被合理化,将负担转嫁给最脆弱群体,以追求所谓的物种优化。”若这种新权力的工具落入既得利益者手中,它们将被用于改善最富有特权阶层的舒适度、健康与福祉。
教皇并非全盘否定AI,而是批判其可能沦为政治压迫工具、加剧经济不平等的使用方式。
通谕结尾呼吁我们坚守真理、投资教育、建立关系、以正义与和平生活——抵制新技术“剥削最脆弱群体、制造新型奴役、从冲突中牟利”的倾向。显然,教皇并非全盘否定AI,而是批判其可能沦为政治压迫工具、加剧经济不平等的使用方式。
理论上,可以批评这份通谕不够彻底——未用金牛犊的圣经隐喻谴责AI将省钱置于精神、个体和社群福祉之上。但时过境迁,利奥十四世或任何宗教领袖都难以将这些新进展斥为21世纪的偶像崇拜。
即便如此,这份通谕对人性的洞见、必须盛行的正义与共情精神、最高道德价值的根本重要性——它如此仁慈、积极、慷慨,明确指出了保护弱者和穷人的责任,令人难以找到反驳理由。
但可怕之处正在于此。显然硅谷已出现反弹,最新技术的创造者和掌控者暗示教皇并不了解情况。
《卫报》观点:教皇与克劳德——利奥十四世关于AI的通谕将人类置于首位是正确的 | 社论
阅读更多
AGI House(专注于证明AI本质上等同于人脑的组织)创始人杰里米·尼克松接受《纽约时报》采访时称,教会“对AI缺乏深入思考”,并补充道:“他们无法对此持有立场,因为他们不理解。”似乎普遍存在一种信念:当前研究的最终结果实际上将产生新上帝,或至少是令人信服的仿制品。担忧未来危险的社会,正选择忽视AI弊端已然存在的证据。一位朋友的女儿——广告专业大学生——最近被告知,到她毕业时,广告业所有岗位都将被AI取代。
如果这项新技术的掌控者无法认同教皇所见的危险与弊端,我们将深陷困境。问题不在于机器人会写《安娜·卡列尼娜》,而在于无人再需要这部如此优美捕捉女性——独特人类个体——苦难的小说。
除非那个改变人生的错误故事能被前瞻性科技大佬转化为利润,用于购买更大更好的游艇——大概由永久底层阶级维护,由那些尊严、曾受珍视且有价值的工作被贪婪的AI形式窃取的劳动者服务。
弗朗辛·普罗斯曾任美国笔会中心主席,是美国艺术与文学院及美国艺术与科学学院成员。其新作《乡间五周》已于五月出版。
**常见问题解答**
基于“我感谢教皇关于AI的通谕——原因如下”的声明整理
**初级问题**
问:什么是通谕?
答:这是教皇就重要议题向整个天主教会发布的正式信函,旨在教导和引导信徒。
问:教皇为何要就人工智能发布通谕?
答:因为AI正迅速改变我们的生活、工作和互动方式。教皇认为这引发了关于人类尊严、正义与和平的深层道德伦理问题,因此需要提供指导。
问:教皇是否认为AI是坏的?
答:不。他并非反对技术,而是主张我们需要谨慎行事,以尊重人类生命、保护弱势群体、促进共同福祉的方式使用AI,而非仅追求利润或权力。
问:AI通谕的核心信息是什么?
答:核心思想是AI应服务于人类,而非取代或控制人类。通谕呼吁全球对话,确保AI的开发和运用符合伦理,聚焦和平、真理与人类尊严。
问:这对我这样的普通人有什么影响?
答:因为AI已存在于你的生活中——搜索引擎、社交媒体、银行业务甚至医疗诊断。教皇呼吁每个人思考公平、隐私问题,以及这些工具是在帮助还是伤害社会。
**中级问题**
问:教皇警告了AI的哪些具体危险?
答:他警告“算法社会”中机器在缺乏公平和透明度的情况下做出影响人们生活的决策。他还强调监控、虚假信息以及AI控制者与未控制者之间日益加剧的不平等风险。
问:通谕是否涉及AI在武器或战争中的应用?
答:是的。通谕强烈谴责自主武器系统——无需人类决策即可杀人的机器——的研发。教皇认为这剥夺了战争的道德问责,可能导致灾难性冲突。
问:教会对AI的看法与科技公司有何不同?
答: