没有不可避免的反乌托邦”：珍妮特·温特森谈人工智能与人类的未来
“我是靠讲故事为生的，”珍妮特·温特森在她2021年出版的《12字节》第一页上写道。这是一本不同寻常且发人深省的散文集，她在书中思考了人工智能可能如何改变我们生活的方方面面。“我知道我们所做的一切在成为事实之前都只是虚构：飞翔的梦想、太空旅行的梦想、跨越时空与某人即时交谈的梦想、不死的梦想——或者归来的梦想。”她思考我们可能的未来至少已有15年——例如，她2007年的小说《石头神》想象了一个气候灾难后的世界，那里居住着永不衰老的机器人和人类；而《12字节》之前出版的《弗兰基斯坦：一个爱情故事》则在再现玛丽·雪莱创作《弗兰肯斯坦》的那个夏天与一位跨性别医生在当代低温学家和人工智能机器人之间的旅行之间交替叙述。我们见面时，温特森刚从中国回来，她告诉我，她的第一部小说《橘子不是唯一的水果》——一部以她童年为蓝本的虚构作品——在过去六年里在中国售出了超过一百万册；超过20万人，大多是年轻女性，试图前来听她演讲。她认为这是因为，在一个工作时间漫长、人工智能带来日益增长的不安全感的世界上，这部关于她自己逃离受困童年的虚构叙述给了读者想象不同未来的许可。此后她写了13部成人小说，以及非虚构作品、短篇小说、儿童书籍和剧本。现在她想说服制作公司Goalhanger给她一档播客节目。“我想做一档叫《其余皆为人》的节目，”她说，坐在她家中一张光秃秃的木桌旁。她的家是伦敦东部斯皮塔菲尔德一家店铺上方的一套乔治式房间——那家店铺也归她所有。“看看在这场把我们自以为的一切都外包出去的狂奔中，我们为自己保留了什么。”查看全屏图片温特森：“我们有一个并不真正知道教育是为了什么的市场。”摄影：模特摆拍；SDI Productions/Getty Images因为，她论证道，我们作为一个物种正处于故事中的一个转折点。在工业革命之前，变化全都是关于“大自然母亲和缓慢的成长过程”，但后来我们“大规模地进行了干预。那是一个决定性的时刻。”70年前的计算是又一步。人工智能——她更愿意称之为替代性智能——是下一步，而且是“一次进化飞跃。这就是它的本质。人工智能远不止是一个工具。”鉴于此，对不可化约的人性——我们的情感、我们的想象力、我们数百年来对自身是谁、做了什么的研究——的某种理解，必须成为事情好坏走向的核心。她对此往往出奇地乐观。例如，她想象一种与人工智能的关系，你可以“和你的系统聊天。它会审视一切。它会以如此快的速度运转。它会审视交通。它会审视公用事业。它会审视就业，审视工作时间，然后说，‘这些叫做人类的奇怪生物靠什么茁壮成长？他们喜欢什么？他们一直喜欢这些吗？’我们可以以一种真正乌托邦的方式来做这件事，说，‘好，我们要让它变得更好。’”她相信，我们正处于一个极其重要的选择时刻，这映照了我们在工业革命中面临的选择——即“我们要建设什么样的未来？”但工业革命未能公平分配其收益，开启了一个少数人拥有前所未有的财富、多数人遭受前所未有的苦难的时代——许多人预测这种情况不仅已经在重演，而且将被人工智能的后果所 dwarf：一个永久性的底层阶级、整个大陆被抛在后面、被剥夺当前的收入来源。更不用说数据中心的环境影响恰逢世界最无力承受之时。她坚持认为，问题不在于人工智能，而在于我们。“不存在不可避免的反乌托邦。”如果事情出了差错，那将是因为“旧式思维叠加在这个全新的现实之上”。具体来说，“认为无意义的无尽工作对灵魂有益是19世纪的疯狂想法，旨在让人们安分守己。我们对人工智能和就业的大部分恐惧，归根结底在于我们的主人将做出的政治和经济选择，就像他们在工业革命中所做的那样。”她并非盲目乐观。她知道“是的，我们正走在搞砸这个从根本上改变我们与工作世界关系的 chance 的路上”——但那是因为“我们的主人正在使用过时的、不适合目的的经济模型。” 查看全屏图片“我们对人类的了解是他们热爱垄断。”摄影：Sarah Lee/The Guardian 但问题不仅仅是旧的赢家通吃、“理性”的目的证明手段正当的经济模型。我们那些有缺陷的假设和偏见——它们构成了大型语言模型（LLM）训练的材料——被内置到人工智能的结构之中。更不用说开发它的人的性格和道德想象力了。我们见面时，温特森正在读吉尔·莱波雷的《人工国家的兴衰》，并重申了莱波雷的论点，即我们现在正生活在“这些统治世界的[男人们]13岁时读的科幻小说中。她说，‘我们现在都和这些男孩和他们的手电筒一起躲在被窝里。问题是，他们读这些书并不是作为如何保护我们身上美好事物的警告。他们把它们当作说明书来读。’这绝对令人恐惧。” 他们似乎从这些书中得到的一件大事，温特森不禁为之着迷，就是“硅谷的终极目标……是脱离身体、离开这个星球”——尤其是因为她如此清楚地意识到，人文主义——一切都被带回到我们自己、我们的感知和我们的身体——在历史上是如此晚近。人们说，“这些是机器，你不能和它们建立关系，”她说。“我看着他们说，‘此刻这个地球上有数十亿人正在与他们称之为天空之神的非生物实体建立他们最深刻的关系。’对吧？一直都是这样！我们绝对天生就不会担心生物学就是我们的一切。这就是宗教被发明出来的原因——它是世界上第一家颠覆性初创公司。它在那里说，不是这个。这不是终点，这无关紧要，这是一个过渡。” 查看全屏图片第二次工业革命期间利兹一家工厂的插图。摄影：Universal History Archive/Universal Images Group/Getty Images 所以我们真的在制造自己的神？“完全正确！科技现在所做的正是宗教一直想要的，”即，在最基本的层面上，解决死亡问题。“我的意思是，自启蒙运动以来，宗教和科学有没有在同一时间问同一个问题？它们都在说，‘意识是否必须依附于物质？’宗教一直说不。科学一直说是。而现在科学在说，‘嗯，不ooo。’”你知道，对我来说，我来自的地方”——1960年代阿克灵顿原教旨主义基督教的童年，以及作为传道者的训练——“这完全令人着迷。”后来，在电子邮件中，她补充道，“我爱我的身体，但我会乐于变形。乐于有一天脱离它进入纯粹的意识，当然人们说没有身体就没有意识，那是科学信仰。但现在呢？哈哈。” 我不得不说，我会持相反观点，神经科学、免疫学和心理治疗的进步意味着这比以往任何时候都更是一个科学信仰的问题。更不用说人工智能也完全依赖于一个物理系统，也就是数据中心。不过，正如她指出的，重要的是要记住“机器没有边缘系统。它们只是神经网络。但我们有两个系统——我们就像一辆有两个动力系统的混合动力汽车，所以我们有神经网络，我们理性的处理自我，我们有边缘系统，它古老得多，是战斗-逃跑-冻结反应所在之处，也是我们所有情感的来源。”也许脱离边缘系统是下一阶段，她说，这绝对不全是好事。“也许我们会决定我们不需要这个情感机器……那就是科技兄弟们正在走向的方向。我不知道你是否曾和一些更大的家伙坐在一个房间里，因为那非常有趣。他们与自己的情感没有连接。他们觉得情感有点烦人。” 这种技术赋能的某种超越的可能性似乎伴随着一种信仰要求——对技术的信仰，对它正在创造的未来的信仰，对建设那个未来的人的信仰，对它的乌托邦天堂和各种地狱程度的预测的信仰，所有这些都出自那些嫉妒地守护着实际正在发生之事的大祭司们。“我们对人类的了解是他们热爱垄断，”温特森说，“因为那是权力的集中。当然它可以被企业化、被垄断到如此程度，以至于成为最糟糕的监狱，”正如乔安娜·卡文纳2019年出色的反乌托邦小说《Zed》中所讲述的那样。“那是一个真实的可能性，”她说。“这就是为什么我们需要那种自由放养的人类，能够思考的人。” 查看全屏图片温特森……“给我看一个不想听故事的孩子。”摄影：模特摆拍；MoMo Productions/Getty Images 那么问题就是我们如何支持——或发展——这样的人。“基本上有两种方式知道自己有未来，”Palantir的首席执行官亚历克斯·卡普最近声称。“第一，你有一些职业培训。或者第二，你是神经多样性者。”Anthropic的总裁丹妮拉·阿莫代伊本人是文学专业毕业生，当被问到大致相同的问题时，她有不同的看法。“我实际上认为学习人文学科将比以往任何时候都更重要，”她说，因为“使我们成为人的东西将变得更加重要，而不是更不重要。”这使得英国人文学科的焚毁有些令人担忧：在截至2024年12月的一年中，社会科学、人文学科和艺术领域失去了4000个工作岗位。埃克塞特大学最近宣布将裁减150个职位，影响人文、艺术和社会科学学院十分之八的学者，而上个月诺丁汉表示将终止其现代语言和音乐学位。据本报报道，在一些大学，人文学科面临被“彻底消灭”的风险。 为什么要拯救人文学科？一个答案可能是它们教导一种关于我们从哪里来、我们是谁的意识，这种感觉也受到威胁。“大量学生将从大学毕业，带着学位进入劳动力市场，他们基本上是文盲，”一位教授对《纽约杂志》说，回应第一批人工智能原住民进入高等教育。“既是字面意义上的文盲，也是历史意义上的文盲，对自己文化一无所知，更不用说别人的文化了。”麻省理工学院的一份报告声称，这有可能成为一种代际性的“认知投降”。另一个原因是人们应该被教导的过程——阅读，对阅读内容持批判态度，然后不得不为这些批判写出有说服力的辩护。不得不把你的直觉揉进一篇文章中，这帮助你发现你在想什么——以及你如何思考——以及别人的想法如何运作。温特森在牛津学习英语，在曼彻斯特大学担任新写作教授14年，同时教授“一门关于创造力的自由思考课程”，她对此表示同意。但她对当前体系的许多方面不屑一顾。“也许我在这里有争议，但我确实认为高等教育需要自上而下的重组。我不认为它是可行的，我不认为它以目前的形式在发挥作用。”问题是，“我们有一个并不真正知道教育是为了什么的市场。是为了工作？是为了个人成长？还有很多毫无价值的高等教育课程也没有帮助。我认为，作为一个务实的北方女孩，一开始就面对事实总是更好的。” 我们需要思考，她说，“什么是保留给我们的，不会被机器做得更大、更好、更快、更强的东西。这就是高等教育真正介入的地方。坐在所有这些关于‘为什么这些工作消失了？’、‘这些不再有申请者的课程发生了什么？’的问题之上的问题是，‘在未来的世界里我们需要什么样的人？人类是为了什么？我们要拿我们怎么办？’”而这“把我们带回到这个想法，好吧，你如何发展一个心智？你如何保护一个心智？因为心智是这个巨大的、怪物般的地方，任何事情都可能发生。” 为此，“人文主义教育是必不可少的。我们必须在这里以人为中心。通过从一开始就改变我们教育孩子的方式，我们可以把创造力、玩耍、解决问题、思考——因为思考很有趣——艺术放在前面，因为人类天生具有创造力。给我看一个不想听故事、不想跳舞、不想画画或不想有假想朋友的孩子。这不是强加的，也不是精英主义。这就是我们。” 她认为，即使每周一小时，也会有所不同。“让我们问问你对世界的看法。‘你为什么这么想？’这并不昂贵。这实际上是关于意愿。”她建议教数学、艺术和科学，至少到A-level，即使它们不被考试。“我们当然会专业化。我们需要医生和化学家，但我们也需要过去所谓的全面发展的人。一切都有趣！人类生来就有一个大脑袋。大多数时候我们不用它。” 一旦过了正规教育，她会在每个层面嵌入艺术家和公共知识分子。“艺术不是休闲产业，”正如她在《12字节》中所说。“艺术一直是对现实的想象性和情感性搏斗——一系列发明和创造。一种以不同方式思考的能力，一种改变我们对自己理解的意愿。帮助我们成为更智慧、更反思、更少恐惧的人。艺术家每天都在无中生有。” 我们见面是在雅各布·考克森辞去Anthropic的工作、警告人工智能有10%的可能性抹去人类之前，那在全球引发了一波恐慌。之后，我询问温特森现在感觉有多积极。最坏的情况“可能发生”，她重复道。但“好结果的巨大性与我们未能做对这件事的彻底性一样真实。”最重要的是，“这是人类的决定，人类的困境。这是我们的大好机会。也许是我们的最后机会，就像图灵的同事杰克·古德所说的那样，他称人工智能为我们最后的发明。一切皆有可能。”…