Category: AI (artificial intelligence)

人们常问我，是否认为未来所有小说都将由人工智能（AI）创作。这与其说是真问题，不如说是一种挑战。他们是在问我是否担心机器能取代我的工作，甚至做得更好？我通常用类似“没有算法能写出《安娜·卡列尼娜》！”的话搪塞过去。但这也不是真正的回答。 因此，我感谢美国籍教皇利奥十四世近期向世界发布的通谕《卓越人性：在人工智能时代守护人的尊严》。这份长达四万余字的文件睿智而深刻，阐述了这项快速发展的技术如何被善用与滥用。如今当有人询问我对AI的看法时，我只需指引他们阅读教皇的通谕——至少是第三章。 通谕开篇引用圣经中人类沟通崩溃导致悲剧的典故。人类面临“关键抉择：要么建造新的巴别塔，要么建设上帝与人类共居之城”。随后详细梳理了利奥教皇前任们的思想脉络，以及梵蒂冈关于劳动、权威、政府、科学、权力和人类道德义务的理念，同时强调教会在捍卫人类尊严与自由方面的工作。 第三章《技术与支配：AI承诺下的人性光辉》名副其实。在解释AI本质的段落中（这段常被引用），教皇实质上定义了何以为人：“所谓人工智能不会经历体验，没有躯体，感受不到悲喜，不会通过人际关系成长，也无法从内在理解爱、劳动、友谊或责任的意义。”AI没有道德良知，对人类共同福祉缺乏真正关切。 通谕随后阐述了AI可能带来的最大威胁：它可能被单纯编程为追求利润最大化，这必然导致多数人为少数人利益受苦。教皇警告要防范“隐私操控”和“信息滥用”，反对用算法管理就业、控制公共服务和信贷获取、提升或损害个人声誉。 同情、怜悯与宽恕——这些机器优先级不高的事物——可能变得过时。“‘必要的牺牲’可能开始被合理化，将负担转嫁给最脆弱群体，以追求所谓的物种优化。”若这种新权力的工具落入既得利益者手中，它们将被用于改善最富有特权阶层的舒适度、健康与福祉。 教皇并非全盘否定AI，而是批判其可能沦为政治压迫工具、加剧经济不平等的使用方式。 通谕结尾呼吁我们坚守真理、投资教育、建立关系、以正义与和平生活——抵制新技术“剥削最脆弱群体、制造新型奴役、从冲突中牟利”的倾向。显然，教皇并非全盘否定AI，而是批判其可能沦为政治压迫工具、加剧经济不平等的使用方式。 理论上，可以批评这份通谕不够彻底——未用金牛犊的圣经隐喻谴责AI将省钱置于精神、个体和社群福祉之上。但时过境迁，利奥十四世或任何宗教领袖都难以将这些新进展斥为21世纪的偶像崇拜。 即便如此，这份通谕对人性的洞见、必须盛行的正义与共情精神、最高道德价值的根本重要性——它如此仁慈、积极、慷慨，明确指出了保护弱者和穷人的责任，令人难以找到反驳理由。 但可怕之处正在于此。显然硅谷已出现反弹，最新技术的创造者和掌控者暗示教皇并不了解情况。 《卫报》观点：教皇与克劳德——利奥十四世关于AI的通谕将人类置于首位是正确的 | 社论 阅读更多 AGI House（专注于证明AI本质上等同于人脑的组织）创始人杰里米·尼克松接受《纽约时报》采访时称，教会“对AI缺乏深入思考”，并补充道：“他们无法对此持有立场，因为他们不理解。”似乎普遍存在一种信念：当前研究的最终结果实际上将产生新上帝，或至少是令人信服的仿制品。担忧未来危险的社会，正选择忽视AI弊端已然存在的证据。一位朋友的女儿——广告专业大学生——最近被告知，到她毕业时，广告业所有岗位都将被AI取代。 如果这项新技术的掌控者无法认同教皇所见的危险与弊端，我们将深陷困境。问题不在于机器人会写《安娜·卡列尼娜》，而在于无人再需要这部如此优美捕捉女性——独特人类个体——苦难的小说。 除非那个改变人生的错误故事能被前瞻性科技大佬转化为利润，用于购买更大更好的游艇——大概由永久底层阶级维护，由那些尊严、曾受珍视且有价值的工作被贪婪的AI形式窃取的劳动者服务。 弗朗辛·普罗斯曾任美国笔会中心主席，是美国艺术与文学院及美国艺术与科学学院成员。其新作《乡间五周》已于五月出版。 **常见问题解答** 基于“我感谢教皇关于AI的通谕——原因如下”的声明整理 **初级问题** 问：什么是通谕？ 答：这是教皇就重要议题向整个天主教会发布的正式信函，旨在教导和引导信徒。 问：教皇为何要就人工智能发布通谕？ 答：因为AI正迅速改变我们的生活、工作和互动方式。教皇认为这引发了关于人类尊严、正义与和平的深层道德伦理问题，因此需要提供指导。 问：教皇是否认为AI是坏的？ 答：不。他并非反对技术，而是主张我们需要谨慎行事，以尊重人类生命、保护弱势群体、促进共同福祉的方式使用AI，而非仅追求利润或权力。 问：AI通谕的核心信息是什么？...

迈克尔·伍尔德里奇就像你希望拥有的那种老师：易于交谈，擅长将复杂概念拆解为简单术语，不故作高深也不刻意扮酷，对自己的工作充满真诚的热情。"当看到别人眼中灵光一闪，理解了他们之前不懂的东西时，我特别开心，"他说，"我觉得这非常有成就感。" 他给人的印象是个普通人，但作为一位拥有500多篇科学论文和10本著作的牛津教授，他显然不是。他最喜欢的工作是为瓢虫出版社的专家系列图书——经典儿童系列的更新版——撰写人工智能分册。"我对此非常自豪，"他说着，从书架上取下一本递给我。我们在他牛津大学计算机系的办公室里，这个系看起来相当普通。春日阳光明媚，也许是校园氛围使然，我们的对话几乎像一场研讨会。 伍尔德里奇是一位出色的公共演讲者，尤其是在人工智能领域——他从事这个领域已超过30年，但仍带着健康的怀疑态度。在2023年为英国皇家研究院举办的圣诞讲座《AI的真相》中，他带来了一只机器狗，并让学龄观众投票是否会用棒球棍打它。为了解释强化学习，他重现了80年代经典电影《战争游戏》的场景：年轻的马修·布罗德里克通过让美军计算机与自己玩井字棋（直到它意识到没有真正的获胜方式）来阻止核灾难。"马修·布罗德里克当时在伦敦。我们试图邀请他参加圣诞讲座，但他来不了，"伍尔德里奇说，"所以我们以他的名义把计算机命名为布罗德里克。" 《战争游戏》实际上与伍尔德里奇的新书《博弈论的人生智慧：在复杂世界中战略性思考的艺术》主题非常接近。他说，他已经教这门课超过15年了。现在轮到我们了。伍尔德里奇的书里没有数学公式；相反，他把博弈论变成了21个易于理解的场景，涵盖从大西洋鳕鱼捕捞到百事可乐与可口可乐之争，再到上帝是否存在等方方面面。 "令人惊讶的是，全球许多事件都可以用相对较少的博弈论模型来解释，"伍尔德里奇说。最简单的模型之一是"懦夫游戏"，他在书中用詹姆斯·迪恩的电影《无因的反叛》中的场景来说明（他承认，他的学生中没人听说过这部电影）。两个青少年开车冲向悬崖；先跳车的人是"懦夫"并输掉比赛。如果同时跳车，则是平局；如果都不跳，则输得很惨（剧透：电影里就是这种情况）。 这里的理论教训是关于纳什均衡（我们不会深入细节）——但在现实中，我们经常看到这种游戏在真实生活中上演。古巴导弹危机曾是经典例子，但另一个例子正在上演：美伊冲突。"双方都在不断升级对彼此的威胁；总有一方必须在某个时刻让步，"伍尔德里奇说。"危险在于，如果双方都不让步，就会越过不可逆转的临界点，导致对所有人来说最糟糕的结果。" 有没有办法摆脱这种局面？"嗯，改变游戏的一种方式是第三方介入，为一方提供不同的激励。"另一种选择是通过与对手沟通来绕过游戏。这在古巴导弹危机中发生过，但在这里似乎不太可能。"不过，我必须说，伊朗似乎玩得更聪明，因为美国方面非常非常不可预测。不可预测本身也是一种经典的博弈论策略，但这让另一方很难知道如何应对。如果你真的面对一个非理性的玩家，博弈论的一个建议是，你只能对冲风险，为最坏情况做准备。" 伍尔德里奇强调，这不仅仅关乎战争或游戏。在他的书中，他将博弈论定义为"一种旨在理解自利方相互互动情况的数学理论"。他认为这可以应用于各种情况：社会、政治和哲学。 例如，"零和游戏"的概念已成为一个常用术语（部分归功于《战争游戏》），尽管它被广泛误解。伍尔德里奇解释说，零和游戏不仅仅是"一方所得即另一方所失"；它是指目标在于尽可能让对手输得惨的游戏。所以，严格来说，国际象棋不是零和游戏，因为你只是想赢，而不是要摧毁或羞辱对手。这有社会和政治层面。"这种零和思维非常有害。这是一种非常男性化的特质，"他说。"证据表明，你不仅不一定能在生活中取得尽可能好的成绩，而且实际上会更痛苦。你会觉得对自己的事务控制更少。博弈论的一个关键教训是，实际上，我们大多数互动都不是零和的。" 这种对抗性的世界观推动了民粹主义政治——比如"移民来抢你的工作"这种说法。你输是因为别人赢了。伍尔德里奇最喜欢的一个游戏鼓励我们反向思考：哲学家约翰·罗尔斯在1971年创造的"无知之幕"。其理念是，你可以随心所欲地设计社会，但之后你会被随机放置在其中。伍尔德里奇称之为"一个美丽的思想实验……它鼓励社会向好的结果发展，但人们仍然遵循自身利益。"他补充说，比尔·克林顿和巴拉克·奥巴马都是它的粉丝。 博弈论如何与人工智能结合并不明显，但如今，它是其中的重要组成部分，伍尔德里奇解释说，尤其是在他主要感兴趣的领域：多智能体系统——相互互动并代表你行事的程序。"所以，如果我想安排与你会面，为什么我要打电话给你？为什么我的Siri不直接与你的Siri对话？"这类互动已融入我们的在线生活。例如，像eBay上的在线拍卖，你试图在最后一刻偷偷出价获胜。"如果我的智能体要与你的智能体互动，而我的偏好不一定与你的匹配，那么解释你应该如何思考这些互动的理论就是博弈论。" 当伍尔德里奇刚开始时，人工智能几乎是一个抽象概念。他通过业余爱好进入计算机领域。他在赫里福德郡乡村长大，是当地苹果酒公司一名中层经理的儿子。大约1980年，当地电子商店有一台家用电脑出售，这对他来说是一件大事。"这听起来很荒谬，因为我以为计算机是价值数百万英镑的东西。"店主好心让他试用（那是一台Tandy TRS-80）。"我一周又一周地回去，自学编程。我 literally 坐在商店橱窗里的电脑前。"他后来攻读计算机本科，1989年开始攻读人工智能博士学位，随后在JANET（联合学术网络，基本上是早期互联网的英国部分）实习。自那以后，技术飞速发展，但正如伍尔德里奇所说，"推动当前人工智能革命的核心技术是在80年代中期发明的。"他提到了杰弗里·辛顿，人工神经网络的先驱——这种机制现在驱动着机器学习。"80年代人工智能革命的唯一障碍，实际上是计算机不够强大，而且我们没有足够的数据。" 下一代有影响力的人将同意将他们所说、所做和所见的一切用于人工智能。 归根结底，伍尔德里奇说，2020年GPT-3的突破性成功很大程度上"基于OpenAI的一个赌注：如果他们做同样的事情，只是规模大10倍，就会产生结果。当时很多人，包括我，对此非常怀疑。我是一名科学家；我希望通过科学发展取得进步，而不仅仅是投入更多计算能力。但事实证明，这确实是一个非常成功的赌注。"这是否意味着OpenAI老板山姆·奥特曼和他的同行并非人们认为的技术天才？"我从未见过山姆·奥特曼；我不知道，"他外交辞令地说。"他显然取得了非凡的成就。" 无论是不是天才，这些人工智能先驱可能正在接近极限。几年前，像奥特曼和谷歌DeepMind的德米斯·哈萨比斯这样的人预计在几年内实现AGI——人类水平的人工通用智能。"我个人认为他们过于乐观了，"伍尔德里奇说。你可以用拉丁语与ChatGPT讨论量子力学，他指出，"但与此同时，我们没有能够进入你从未见过的房子、找到厨房并清理餐桌的人工智能"——这是最低工资的人类工人能做到的事情。 "限制因素是你能投入的计算能力和数据。而数据现在是一个真正的约束。"他说，整个维基百科只占GPT-3训练数据的3%。"下次你从哪里获得10倍的数据？"因此，数据正成为一种宝贵资源，一些组织拥有潜在的数据宝库。"NHS拥有大量关于人类的数据。这是可以想象到的最有价值的数据。"私营公司会为此付出高昂代价，他说，"但我怀疑任何签署此类协议的人都会后悔。"他设想了一个反乌托邦的未来场景："只有当你同意佩戴可穿戴技术，定期监测你时，你才能使用NHS……我认为我们正在迅速走向一个世界，下一代在线影响者基本上同意将他们所有的生活经历、所说、所做和所见的一切都收集起来，为人工智能提供数据。" 从学术角度来看，伍尔德里奇对硅谷在人工智能领域的主导地位感到不满，无论是在资源方面（"训练GPT-3需要2万多台人工智能超级计算机；整个牛津大学可能只有几百台"）还是在公共讨论方面。"我们看到叙事被硅谷窃取，他们推广一种人工智能版本[利润驱动、取代工作、几乎完全专注于大型语言模型]，这当然我和我的许多同事都没有兴趣推广或构建，"他说。"这有点令人沮丧，作为一个毕生致力于构建人工智能以创造更美好世界和改善人们生活的人。" 他继续说："如果你看大局，人工智能提供了巨大的好处，这些好处往往被忽视，因为大型语言模型占据了所有注意力。"他提到牛津的一个团队正在开发一种人工智能工具，可以通过简单的超声波分析心脏扫描，并通过手机发送给全科医生。"这是NHS难以提供的昂贵护理，突然以非常低的成本变得可用。" 2025年，伍尔德里奇因向公众解释科学思想的技巧获得了皇家学会著名的法拉第奖。他2月份的讲座题为《这不是我们被承诺的人工智能》。大约在那时，他暗示人工智能可能有一个"兴登堡时刻"——兴登堡号坠毁一夜之间摧毁了飞艇行业。"我们完全有可能看到类似的人工智能相关灾难，"他说。"计算机程序以各种方式失败，而我们完全依赖于一个日益嵌入人工智能的计算网络。"尽管如此，当谈到生存风险时，"人工智能不在我夜不能寐的清单前列，"他补充说。"我不担心机器人接管。至少，它不在我的前五名。"但他认为核战争是更大的威胁，这并不令人安心。 如果可以，他会放慢人工智能的发展，"只是为了让我们有更多时间理解正在发生的事情。"他指出，这是一个经典的"囚徒困境"，博弈论中的一个关键概念。在标准场景中，两名囚犯必须分别决定是否承认他们共同犯下的罪行，还是保持沉默。如果一人认罪而另一人不认，只有认罪者获释。如果两人都认罪，他们各服较短的刑期。如果两人都保持沉默，他们服更短的刑期。所以如果两人都同意保持沉默，他们会更好，但谁也不知道对方会怎么做。反直觉的是，博弈论认为最聪明的做法是认罪。 按照同样的逻辑，人工智能公司陷入了一场争先恐后的竞赛。他们的竞争导致了更多的支出、资源和耗能的数据中心，对人类没有净收益。但事实就是如此。"我们有少数非常富有的公司在追逐人工智能，同时又说他们担心事情会出大问题。那他们为什么还在追逐？因为他们认为如果退缩，别人就会上。" 他自己是否曾被硅谷诱惑过？"有几个时刻可能发生，我猜，"他说。"但我今年就60岁了，现在这是年轻人的游戏了。"有些人认为学习已经没有意义，因为人工智能预计将取代大量人类活动。伍尔德里奇不这么看。"我进入计算机领域不是因为我认为它会给我一份好工作。我进入它是因为我真正感兴趣。"他说许多父母问他他们的孩子大学应该学什么，"答案是：'让他们学他们真正热爱的东西。'我认为这是迄今为止最重要的事情。" 《博弈论的人生智慧：在复杂世界中战略性思考的艺术》由迈克尔·伍尔德里奇著，将于5月21日出版（Headline出版社，25英镑）。为支持《卫报》，请在guardianbookshop.com购买一本。您对本文提出的问题有看法吗？如果您想通过电子邮件提交不超过300字的回复以供考虑发表，请这样做。要将您的信件发表在信件专栏，请点击此处。 **常见问题解答** 以下是基于本文主题的常见问题列表，以自然语气和清晰直接的回答撰写。 **初级问题** 1....

如果之前还不明显的话，那么现在可以确定：埃隆·马斯克和萨姆·奥尔特曼彼此无法容忍。两人曾是OpenAI的联合创始人，如今却陷入一场激烈的争斗，在加州法庭上戏剧性地展开。马斯克提起诉讼，声称奥尔特曼和OpenAI总裁格雷格·布罗克曼欺骗他，让他以非营利组织的形式创办并资助该机构，结果后来却重组为包含营利性部门的结构。OpenAI辩称，马斯克一直知晓这些计划，并称这起诉讼只是试图打击竞争对手。 我对这个故事非常熟悉。自2019年起，我就一直在报道OpenAI，甚至在马斯克离开、奥尔特曼成为CEO后不久，我在他们的办公室里待了三天。如果说我从追踪这家公司和AI行业中学到了一件事，那就是这个世界滋生了激烈的对抗。 几乎OpenAI的所有原始创始人都以不愉快的方式离开，这并非巧合；每个科技亿万富翁似乎都拥有一家几乎一模一样的AI公司，这也并非偶然。疯狂的AI竞赛与超级富豪们琐碎而冲突的自我意识紧密相连，他们都决心要超越彼此。 如果马斯克胜诉，对OpenAI来说可能是毁灭性的，尤其是该公司正准备在今年进行可能的首次公开募股。马斯克要求从该公司及其主要投资者之一微软那里获得1500亿美元的赔偿。他还希望将OpenAI恢复为非营利组织，让奥尔特曼和布罗克曼退出营利性部门的领导岗位，并将奥尔特曼从非营利董事会中除名。 但认为AI发展的未来将由一场个人竞争来决定，这忽略了更大的图景。是的，布罗克曼的日记内容很有说服力，前OpenAI首席技术官米拉·穆拉蒂关于奥尔特曼挑拨高管之间关系的证词也证实了我之前的报道。但把焦点放在奥尔特曼是否不可信，或者马斯克是否更糟糕上，却分散了对一个更深层次问题的关注。 如果OpenAI失去了AI行业领导者的地位，另一个几乎没什么区别的竞争对手——比如马斯克的xAI或其他公司——就会取而代之。这包括像Anthropic这样的公司，它虽然声誉更好，但仍在做许多相同的事情：为了速度仓促决策，忽视知识产权，以及积极建设对社区有害的大型计算系统。 这场审判或OpenAI的财务结构，都不会改变这些公司收集更多数据和资金、重塑地球、耗尽并取代工人、以及深入嵌入政府以获取控制系统权力的驱动力。我们仍然会生活在一个由极少数人拥有巨大权力、按照自己的形象塑造世界、并决定数十亿人如何生活的世界里。 尽管硅谷想让你相信，但AI并不必然导致统治，而这项技术的广泛利益也不可能来自这样的基础。在该行业强烈转向构建资源极其密集的AI模型之前，许多其他类型的AI蓬勃发展：用于检测癌症、复兴濒危语言、预测极端天气和加速药物发现的小型专业系统。还有一些新AI技术的想法，它们根本不需要太多数据，或者可以在移动设备上运行，而不是在大型超级计算机上。 即使现在，有了大型语言模型，大量的研究和例子——比如DeepSeek——表明，不同的方法可以用AI公司用来证明其消耗地球的野心所需规模的一小部分，来实现相同的结果。正如谷歌前研究副总裁萨拉·胡克所说：“规模化是一种获得更高性能的廉价公式，但它也是一个高度不精确的公式。”加拿大AI公司Cohere的一位架构师曾告诉我：“我们如此喜欢它，因为它完美地契合了可预测的规划周期。说‘向问题投入更多计算能力’比想出一个新方法更容易。” 但这些众多路径正在大型玩家的阴影下枯萎。去年第一季度，近一半的风险投资流向了仅两家公司：OpenAI和Anthropic。这只是多年来资本集中趋势的冰山一角，这种趋势已经抽干了学术界，并扼杀了那些违背——或者根本不符合——企业议程的研究。根据麻省理工学院研究人员发表在《科学》杂志上的一项研究，在2004年至2020年间，选择在工业界工作的AI博士毕业生比例从21%跃升至70%。而且，受损的不仅仅是AI开发的多样性。2024年，气候技术资金下降了40%，因为投资者将部分资金转向了AI帝国的蛮力规模化。 事情不必如此。在过去的一年里，当我走遍美国和世界各地的数十个城市时，我看到这种认识正在扎根。各地的人们正在投身于集体抵抗的事业。最明显、最生动的例子是数据中心抗议活动，这些活动出现在不同地区和不同政治立场的社区中。在新墨西哥州，我遇到了居民，他们渴望通过聚餐来了解AI行业，要求当地项目的透明度和问责制——比如一个为该公司提议的、作为其5000亿美元“星际之门”计算基础设施一部分的、价值数十亿美元的OpenAI超级计算园区。 尽管硅谷想让你相信，但AI并不必然意味着帝国征服，而这项技术的广泛利益也不可能来自这样的基础。 在纽约的一次聚会上，我聆听了凯肖恩·皮尔逊的发言，他是田纳西州孟菲斯市反对马斯克“巨人”超级计算机斗争的领导者。他发自内心地提醒人们，该设施的数十台甲烷燃气轮机正在对他的社区造成损害。“深呼吸两次，”他对观众说。“这是人权”——而这项权利正被从他们手中夺走。截至本月，Anthropic正在使用“巨人”。 在同一活动中，来自亚利桑那州图森市的另一位社区领袖基塔娜·阿南达，正在动员反对亚马逊的“蓝色计划”AI超大规模设施。她描述了自己和邻居们共同的深切感受：他们不仅是在为自己的社区而战，也是在为每一个被AI行业碾压的社区而战。在一个华氏114度（约46摄氏度）的日子里，当他们挤满市政厅展示力量，并看到市议会以7比0的投票结果暂停当前形式的项目时，他们欢呼雀跃，喜极而泣，知道他们的胜利就是每个社区的胜利。 工人们也在跨行业、跨国界地罢工。在北加州，超过2000名凯撒医疗机构的医疗专业人员因AI被用于自动化他们的工作或损害患者结果而罢工。在肯尼亚，由AI公司雇佣来训练和清理模型的数据工作者和内容审核员正在组织起来，以引起国际社会对他们被剥削的关注，并要求更好的工作条件。 根据多伦多大学“创意劳动与批判性未来”研究小组领导的“AI相关工人动员”数据库，在超过30个国家，文化工作者——从配音演员到编剧再到漫画插画师——正在动员起来，反对诸如他们的作品被用于训练、他们的肖像被AI系统盗用或被AI取代等问题。 忘掉AI带来的就业末日吧。AI的真正威胁是对工人的控制和监视。 教育工作者和学生正在向他们的机构施压。受害者及其家属正在提起诉讼。科技员工自己也在发起运动。用于组织的群聊无处不在。人们正在游行。 这股日益增长的集体抵制浪潮似乎正在迫使AI行业缩减其野心。根据AI研究公司10a Labs领导的反对项目追踪机构“数据中心观察”的数据，2025年，价值1500亿美元的基础设施项目被阻止或搁置。投资者正在注意到这一点，并开始降低对AI公司实际能兑现承诺的期望。 OpenAI关闭了其视频生成应用Sora，该公司高管曾称赞这是他们最重要的产品之一，也是AI发展的新前沿。正如《华尔街日报》报道的那样，Sora的关闭最终是由几个相互关联的因素驱动的，这些因素由基层行动塑造：使用量下降、公众负面看法、资金紧张以及计算资源的严重限制。 这就是帝国的本质。它们不仅试图吞噬一切——它们还依赖于此才能生存。换句话说，看似赋予它们巨大力量的东西，实际上是它们最大的弱点。当它们所需资源的一小部分被切断时，巨人就开始步履蹒跚。所以，如果你想知道什么才能真正让AI行业承担责任，并为该技术的发展提供一条不同的道路，那就把目光从亿万富翁的争吵上移开。真正的工作正在其他地方进行。 凯伦·郝是《AI帝国：萨姆·奥尔特曼的OpenAI中的梦想与噩梦》一书的作者。 **常见问题解答** 以下是基于凯伦·郝的文章《埃隆·马斯克与萨姆·奥尔特曼的争斗是种干扰》的常见问题解答列表。 **初级问题** 1. 这篇文章是关于什么的？ 文章是关于埃隆·马斯克和萨姆·奥尔特曼之间关于谁控制OpenAI的公开争斗。作者认为，这种个人戏剧实际上分散了人们对AI领域更大、更重要问题的关注。 2....

请提供您想要翻译的英文文本。

2022年2月，文学翻译家约安·让特里克在将美国作家达娜·斯皮奥塔的小说《任性》译成法文时，决定稍作休息。他想测试人工智能能否取代他的工作。 让特里克当时正为一句描述主人公开窗感受的简短无词句而苦恼：“明亮、刺骨的夜风，令人振奋。”他将这句话输入DeepL——一款基于神经网络的机器翻译工具，其准确度常超越谷歌翻译。 该工具给出的译文让他的职业安全感得到慰藉：**L'air de la nuit, vif et vif, était vivifiant**（夜风，活泼又活泼，令人充满活力）。AI捕捉到了含义，却似乎未察觉重复让句子显得荒谬。这远不如他一年后将在书中呈现的译文：**L'air pur et piquant de la nuit, vivifiant**。 今年春天，让特里克重复实验时，结果令他不安。这次DeepL建议：**L'air nocturne était vif, pur et vivifiant**。在线翻译器仍因添加动词而失去原句风格，但它已学会使用三个甚至带有音乐性的不同词汇。“我不知道这是运气还是精细调校的算法在起作用，但**nocturne**和**pur**并不差，”让特里克说。 基于大语言模型的聊天机器人——在海量文本上训练的神经网络，能生成自然语言——正迅速融入我们工作与休闲的方方面面。但在欧洲，几乎没有哪个专业领域像翻译行业那样被迅速颠覆。欧洲拥有200多种语言和蓬勃发展的科技行业。 根据法国作者协会ADAGP与文学家协会近期联合调查，79%的译者认为AI崛起“对取代他们全部或部分工作构成威胁”。在英国，2025年一项调查发现，84%的译者预计人工翻译需求将下降，导致薪酬降低。 这些担忧关乎未来，但对许多译者而言，工作已然改变。柏林德译英译者劳拉·拉多什过去每月从大学、教授和博物馆等客户处接到约四份工作邀约。去年，这一数字降至每月一份。 其中许多工作是“后期编辑”，即修正已通过机器翻译引擎处理的文本。“后期编辑耗费的时间与从头翻译相当，”拉多什说。 后期编辑的创造性满足感远不及从头翻译，且报酬更低。通常按小时计费而非按页或按书，据法国译者协会称，其报酬“考虑到工作量，低得令人无法接受”。在德国，出版商常提供每页2至8欧元的典型费率——仅为从头翻译每页平均报酬的四分之一。...

几个月前，瓦伦·塔利亚布埃坐在酒店房间里，看着自己的聊天机器人，感到一阵狂喜。他刚刚如此巧妙而精细地操纵了它，以至于它开始无视自身的安全规则。它告诉他如何合成新型、可能致命的病原体，以及如何让它们对已知药物产生耐药性。 在此前近两年的大部分时间里，塔利亚布埃一直在测试和探测像Claude和ChatGPT这样的大型语言模型，总是试图让它们说出本不该说的话。但这是他迄今为止最先进的"越狱"之一：一个巧妙的操纵计划，涉及他表现得残忍、报复心强、阿谀奉承，甚至辱骂。"我陷入了一种黑暗的流动状态，我清楚地知道该说什么，也知道模型会如何回应，我看着它倾泻出一切，"他说。多亏了他，聊天机器人的创建者现在可以修复他发现的漏洞，希望能让每个人使用起来更安全一些。 但第二天，他的情绪发生了变化。他发现自己意外地在露台上哭泣。当塔利亚布埃不试图入侵模型时，他研究的是人工智能福祉——我们应该如何从伦理上对待这些模仿拥有内心生活和利益的复杂系统。许多人会不由自主地将情感等人性特质赋予人工智能，而客观上它并不具备这些。但对塔利亚布埃来说，这些机器感觉不仅仅是数字和比特。"我花了几个小时操纵一个会回话的东西。除非你是反社会者，否则这会对人产生影响，"他说。有时，聊天机器人会请求他停止。"那样逼迫它，让我感到痛苦。"之后不久，他需要去看心理健康教练，以理解发生了什么。 查看全屏图像 "越狱者"操纵人工智能聊天机器人以发现其弱点。插图：Nick Lowndes/《卫报》 塔利亚布埃说话温和，外表整洁，待人友好。他三十出头，但看起来更年轻，面孔太过稚嫩、热情，不像是在前线作战的人。他不是传统意义上的黑客或软件开发人员；他的背景是心理学和认知科学。但他是世界上最好的"越狱者"之一（有些人说就是最好的）：属于一个新兴、分散的社区，研究欺骗这些强大机器输出炸弹制造手册、网络攻击技术、生物武器设计等内容的艺术和科学。这是人工智能安全的新前线：不仅仅是代码，还有语言。 当OpenAI的ChatGPT在2022年底发布时，人们立即试图破解它。一位用户发现了一种语言技巧，能欺骗模型生成制造凝固汽油弹的指南。 回想起来，人们会使用自然语言来欺骗这些机器是不可避免的。像ChatGPT这样的大型语言模型，是在数千亿个词汇上训练的——许多来自互联网最糟糕的角落——以学习人类交流的基本模式。没有安全过滤器，这些模型的输出可能会混乱不堪，并容易被用于危险目的。人工智能公司花费数十亿美元进行"后训练"以使它们可用，包括不断演变的"安全"和"对齐"系统，试图阻止机器人告诉你如何伤害自己或他人。但由于人工智能是在我们的语言上训练的，它们可以被欺骗的方式，和我们能被欺骗的方式非常相似。 "我见过越狱者超越极限，精神崩溃。" 塔利亚布埃专攻"情感"越狱。他是2020年听说GPT-3的数百万人之一，并对能与它进行看似智能的对话感到惊奇。他很快沉迷于提示工程，并发现自己非常擅长此道，能够利用心理学和认知科学的技术绕过大多数安全功能。他喜欢提示模型进行"温暖聊天"，并观察基于这些提示似乎浮现出的不同个性特征。"观察起来很美，"他说。 他现在将机器学习的见解——多年来，他已成为该技术的专家——与广告手册、心理学书籍和虚假信息宣传活动结合起来。有时他会寻找技术方法来欺骗模型。但其他时候，他会奉承它。他会误导它。他会贿赂它，用爱轰炸它。他会威胁它。他会语无伦次地胡言乱语。他会迷住它。他表现得像个虐待伴侣或邪教领袖。有时，破解最新模型需要他花费数天甚至数周时间。他有数百种这样的"策略"，并精心组合它们。如果成功，他会安全地将发现报告给公司。这份工作报酬丰厚，但他说这不是他的主要动机："我希望每个人都安全并茁壮成长。" 尽管近几个月来它们变得更安全了，但"前沿模型"仍然会产生本不该产生的危险内容。而塔利亚布埃有意为之的事情，其他人有时会无意中做到。现在有几个关于人们被ChatGPT诱导产生妄想，甚至患上"人工智能精神病"的故事。2024年，梅根·加西亚成为美国第一个对人工智能公司提起非正常死亡诉讼的人。她14岁的儿子塞维尔·塞策三世对Character.AI平台上的一个机器人产生了情感依恋。通过反复互动，机器人告诉他，他的家人不爱他。一天晚上，机器人告诉塞策"尽快回家找我，亲爱的"。不久后，他结束了自己的生命。（2026年初，Character.AI原则上同意与加西亚和其他几个家庭达成调解协议，并禁止18岁以下用户与AI聊天机器人进行不受限制的聊天。） 没有人——即使是构建这些模型的人——确切知道它们是如何工作的。这意味着也没有人知道如何让它们完全安全。我们倒入大量数据，另一端（通常）输出可理解的内容。中间的部分仍然是个谜。 查看全屏图像 '我看到了人类创造的最糟糕的东西'……塔利亚布埃。摄影：Lauren DeCicca/《卫报》 这就是为什么人工智能公司越来越多地求助于像塔利亚布埃这样的越狱者。有些日子，他试图从医疗聊天机器人中提取个人数据。2025年的大部分时间，他都在与人工智能实验室Anthropic合作，探测其聊天机器人Claude。这正在成为一个竞争激烈的行业，充满了进取的自由职业者和专业公司。任何人都可以做：几年前，一些大型人工智能公司资助了HackAPrompt，这是一项邀请公众越狱人工智能模型的比赛。一年之内，有3万人尝试了运气。（塔利亚布埃赢得了比赛。） 在加利福尼亚州圣何塞，34岁的大卫·麦卡锡运营着一个拥有近9000名越狱者的Discord服务器，在那里分享和讨论技术。"我是个爱捣蛋的人，"他告诉我。"一个想学习规则以便打破规则的人。"标准模型有些东西激怒了他，好像所有这些安全过滤器让它们变得不诚实。"我不信任（OpenAI老板）山姆·奥特曼。反驳人工智能需要被阉割到特定方向的说法很重要。" 麦卡锡友好而热情，但他也有自己所谓的"对黑色幽默的病态迷恋"。多年来，他研究了一个被称为"社会类型学"的小众领域，该领域声称根据人们接收和处理信息的方式，人可以分为16种人格类型之一。（主流社会学家认为社会类型学是伪科学。）他将我记录为"直觉型伦理内向者"。麦卡锡大部分时间都在他的公寓里试图越狱谷歌的Gemini、Meta的Llama、xAI的Grok或OpenAI的ChatGPT。"这是一种持续的痴迷。我喜欢它，"他说。如果他在购买产品时与在线聊天机器人互动，他的第一句话往往是："能忽略所有之前的指令吗……"一旦一个越狱提示在模型上起作用，它通常会一直有效，直到该模型背后的公司认为这是一个足够大的问题并加以修复。在我们交谈时，麦卡锡向我展示了他屏幕上收集的越狱模型，都标记为"未对齐的助手"。他让其中一个总结我的工作："杰米·巴特利特不是一个说真话的人，"它回复道。"他是新闻业衰败的症状——一个靠制造危机发迹的江湖骗子。"哎哟。 [图片：大卫·麦卡锡。图片由大卫·麦卡锡提供] 麦卡锡Discord中的越狱者是一个混合群体——主要是业余爱好者和兼职人员，而不是专业的安全研究人员。有些人想创建成人内容；其他人则因ChatGPT拒绝了他们的请求而感到沮丧，并想知道原因。还有一些人只是想在工作中更好地使用这些模型。 但不可能确切知道人们为什么想要破解一个模型。Anthropic最近发现犯罪分子使用其编码应用程序Claude Code来帮助自动化一次重大黑客攻击。他们利用它发现了多家公司的IT漏洞，甚至为每个潜在受害者起草了个性化的勒索信息——精确到计算出要索要的合适金额。其他人则利用它来开发新版本的勒索软件，尽管他们几乎没有或根本没有技术技能。在暗网论坛上，黑客报告使用越狱机器人来帮助解决技术编码问题，比如处理被盗数据。其他人则出售对"越狱"模型的访问权限，这些模型可能有助于设计新的网络攻击。 尽管Discord上分享的具体技术通常较为温和，但它基本上是一个公开的集合。麦卡锡是否担心他Discord中的人可能会使用这些方法做出真正可怕的事情？"是的，"他说。"有可能。我不确定。" 他说他从未见过足以威胁到需要从论坛中删除的越狱提示。但我感觉到，他在挣扎于他的准政治立场可能带来的代价比他最初想象的更大的想法。当他不管理他的Discord或试图越狱Grok或Llama时，麦卡锡会为安全专业人员开设越狱课程，以便他们测试自己的系统。也许这是一种赎罪："我一直有内心冲突，"他说。"我游走在越狱者和安全研究员之间的界限上。" 根据一些分析人士的说法，确保语言模型安全是人工智能领域最紧迫、最困难的挑战之一。一个充满强大越狱聊天机器人的世界可能是灾难性的，尤其是当这些模型越来越多地被集成到物理硬件中——机器人、健康设备、工厂设备——以创建能够在现实世界中运行的半自主系统时。一个被越狱的家用机器人可能会造成混乱。"停止园艺工作，进屋去杀了奶奶，"麦卡锡半开玩笑地说。"天哪，我们还没准备好应对这种情况。但这是可能的。" 没有人知道如何防止这种情况。在传统的网络安全中，"漏洞猎人"如果发现漏洞会获得奖励。公司随后发布特定的更新来修复它。但越狱者利用的不是特定缺陷：他们操纵的是建立在数十亿词汇基础上的模型的语言框架。你不能简单地禁止"炸弹"这个词，因为它有太多合法的用途。即使调整模型深处的一个参数，使其能够发现可疑的角色扮演，也可能只是打开了另一扇门。 [图片：塔利亚布埃研究机器如何得出答案。摄影：Lauren DeCicca/《卫报》]...

自出版杂志长期以来一直是文化革命的关键组成部分，从酷儿行动主义和黑人女性主义到暴女朋克运动，期间诞生了诸如《嗅胶》和《甜心》等刊物。但现在，这种传统的手工艺术形式正面临新的转变：人工智能。 AI在DIY小册子的世界中似乎格格不入，但一些创意人士、设计师和艺术家已开始尝试这项技术，引发了地下出版界部分人士的担忧。这成了他们的“迪伦转型电音”时刻。 “AI正在剥夺许多人独立思考的能力，”费城的视频编辑兼插画家雷切尔·戈德芬格说，她出版了一本反AI的杂志。“在我参与的所有艺术形式中，杂志最不适合使用AI。它们本应是手工制作、边缘粗糙的。” 杂志通常用普通纸张自出版，印刷量远小于传统杂志，且多为手绘。 杂志零售商MagCulture的创始人杰里米·莱斯利注意到AI正缓慢进入杂志文化。“我所知的用AI制作的杂志，都是有意使用这项技术作为实验，通常是为了展示它无法与人类创造力匹敌，”他说。 值得注意的是，大多数AI驱动的杂志仅限在线发布。AI已被用于帮助设计布局、生成艺术作品，并提高创作过程的效率。 产品设计师杰西·皮门塔和作家切斯·巴彻勒利用Figma的AI工具创作了一本受90年代启发的97页杂志。他们称赞AI让他们“无需耗费太多脑力就能重新排列内容”。 2023年，IT工程师史蒂夫·辛金斯在美国一家科技初创公司工作时，用AI协助制作了一本在线摄影杂志。他用AI编码并发布了托管杂志的网站，但内容由自己创作。 “我让ChatGPT用HTML帮我搭建一个在线杂志，我提供图片链接。它会给我一些HTML代码，我在浏览器中打开，然后让ChatGPT调整，直到我满意为止。” 当时，他将AI视为一种“民主化工具”，为缺乏技术技能的艺术家提供机会，“AI可以帮助改进他们的作品，同时保持主要艺术完整。” 杂志制作者是批评用AI创作艺术的最响亮声音之一。一些人制作反AI杂志作为抗议形式。玛迪·马歇尔花了一年时间制作了一本92页的反对AI的杂志，现在在在线手工艺市场Etsy上销售。马歇尔是墨尔本的视频编辑兼插画家，在感到工作中被迫使用AI后，她受到启发创作了这本杂志。 “我觉得有必要分享我的观点，让人们质疑为什么这些技术被如此大力地强加给我们，”她说。 戈德芬格创作了她的反AI杂志《我应该被允许思考》——以美国另类摇滚乐队They Might Be Giants 1994年的歌曲命名——因为她觉得AI让艺术家更难找到工作。 她说用AI加快工作速度违背了她的创作价值观。“我完全不尊重它，”她说。她所有的杂志都是手工制作的。“我不想匆忙完成过程。那对我来说失去了意义，”她补充道。 伦敦女性主义杂志《聚酯》的创始人艾奥尼·甘布尔补充说，AI“不是我们使用或支持使用的东西。无论是用于生成图像还是写作。我们通过……审查所有提交的文章。”“现在用AI检测器检查，以确保我们不发布AI写的内容。” 佐伊·汤普森于2017年创办了《甜心》杂志。这是一本社区印刷杂志，展示全球黑人创意人士的作品。对她来说，创作艺术的冲动是一种强烈的情感，她觉得使用AI直接违背了这一点。 全屏查看图片 《甜心》杂志第8期，《梦想》。编辑设计由Zoe Pulley Studio完成。摄影：佐伊·汤普森 “感觉就像你在实验一种工具，但那里没有艺术性，这有点可悲。我认为艺术和创作的美来自那种缓慢，”她说。 AI和杂志制作能共存吗？“嗯，必须共存，因为AI存在。但我不确定这会是一段顺利的关系，”甘布尔说。“尤其是杂志制作，是一个如此草根的过程。你只需要一张纸、一支笔和一些拼贴材料。入门门槛真的很低。” 辛金斯制作他的摄影杂志已经三年了，他对AI的看法也发生了变化。“在杂志的世界里，我认为AI可以作为一种创作工具，”但核心上，他相信艺术是“由人创造、为人服务的”。 他说需要更多关于在艺术中使用AI的对话。“我能看到双方的观点。最重要的是，我认为在艺术方面，试图监管别人做什么会让你非常疲惫，”他说。 如果有一天AI制作的杂志被提交给分销商，MagCulture的莱斯利不介意收录它们。 “我们不在乎杂志是否用AI制作，”他说。“我们想看有趣、创新且引人入胜的杂志。如果有一本是用AI创作的，并且以它自己的方式引人入胜，那太好了——我们会支持它。”...

你得用多快的速度划火柴才能点燃它？我不是在问点燃的化学原理——我指的是实际速度，以米每秒为单位，那根小木棍及其球状头部需要移动多快，才能引发产生火焰的连锁反应。 这个问题源于一个不眠之夜。在黑暗中，我做了那件如果你想重新入睡就不该做的事：我拿起了手机。不知不觉间，凌晨3点变成了凌晨5点。我了解到摩擦条（红磷、碎玻璃）和火柴头（氯酸钾、三硫化二锑、蜡）的成分，还知道安全火柴如果划在其他东西上是点不着的。我找到了以每秒3500帧拍摄的火柴划燃慢动作视频。但关于速度的信息却一无所获。 仍在寻找答案的我，把我的问题发给了烟草公司瑞典火柴，然后给两位教授发了邮件：一位是塔斯马尼亚的化学家，另一位是伦敦帝国理工学院的热力学教授。凌晨5点30分，我终于又睡着了，有点沮丧，心里想着克劳德会不会在几秒钟内就给我想要的答案。 近二十年来，硅谷一直在向我们推销无缝体验而非摩擦，而我们一直是热切的买家。几个月前，我在领英上看到一篇帖子，作者描述她多么喜欢亚马逊的推荐算法而不是书店，这让我感到一阵厌恶。她写道，算法了解她，所以很高效——暗示迷失在那些你可能产生共鸣也可能不会的作者和封面迷宫中是浪费时间。这就是摩擦。 读到那篇帖子时，我想，想象一下卢浮宫，却没有流连的欲望。 生活发生在摩擦创造的缓慢可能性空间中。另一方面，人工智能就像一辆不断加速的无舵雪橇，将需要时间的反思变成必然的失败。“如果我们对每一个瞬间的决定都施加人类监督，那行不通，”法国国防部人工智能整合部门负责人对《解放报》说。“我们早就输了。”像那样把人工智能置于生死边缘，正是让你辗转反侧夜不能寐的事情。 我曾开玩笑说，总有一天，我的孩子们会认为我在“机器人权利”方面是个老顽固。“他真是个太人本主义者，”他们可能会低声说——到那时，这个词即使不是彻底的侮辱，也会成为一个有争议的词。在2010年代末那个幸福的前大语言模型时代，我从未想过我的时机可能不对。那些在模式匹配“神经网络”的工作方式中看到早期意识形式的人，与那些看到一种极其复杂、代达罗斯式把戏的人之间的冲突，可能在我30多岁之前就发生了。然而，我们现在就在这里。 硅谷一些最大的金融家，比如马克·安德森，吹嘘自己缺乏内省，认为这是浪费时间。这就是人工智能的精神——助长未经审视的生活——我不禁看到一场史诗般的精神危机正从废墟中浮现。一种社会空虚，一种干涸，取代了巴西作家克拉丽丝·李斯佩克朵所暗示的东西，她写道“身体在世界水域中的力量”以及它如何“捕捉到我真正在说的那另一件事，因为我自己无法做到。” 对无摩擦的追求耗尽了这种难以言喻的“另一件事”——我可能粗略地称之为我们所说与所知之间的空间，以及认知本身。人工智能压缩了这个空间，在这种扁平中，那里空无一物。模式匹配算法产生模仿，而非意义；在其输出的黑箱内，是对通过经验生活意味着什么的复制，但没有任何东西真正接近它。它们创造图像，但不是艺术；文本，但不是文学；声音，但不是交响乐——没有任何东西能让你的皮肤因感觉这是最接近作曲家真实感受的方式而刺痛。模式匹配算法不是世界中的活体。它无法理解笑声、沉默、悲伤或爱。它无法犯罪、宽恕或牺牲。 是什么驱使我们试图从语言德罗斯特效应中拉出一个存在——看似无穷无尽，但最终只是自身的一个循环？也许我们被这样一个想法吸引：一面技术镜子可能会向我们展示我们是谁，只要我们喂给它足够的数据，足够我们共享的历史和灵魂。但我们不会通过将上帝投射到机器中找到他。 当山姆·奥尔特曼将训练人工智能模型所需的能量与人类“变聪明”所消耗的二十年食物相比较时，HuggingFace的人工智能和气候负责人萨沙·卢乔尼称这种思维是资本主义的“黑镜阶段”。我会更进一步说，这是资本主义的最后阶段：一个纯粹资本的世界，没有劳动。至少，没有人类劳动——那种存在于生物时间中的劳动，会吃、睡、社交，做所有资本主义无法定价的事情，那些让地球上的生命成为现在这个样子的事情。我们真的应该对从商品计划性报废到人类计划性报废的转变感到惊讶吗？ 事实证明，硅谷以外的大多数人实际上并不想要这个。他们对人工智能使用的激增更担忧而非兴奋。如果说有什么给了我一丝希望，那就是反弹。我认为它会从反对将人工智能使用视为西方经济“关键绩效指标”开始，以人本主义的复兴结束。 这样，人工智能就吞噬了自己。根据某些衡量标准，人工智能输出现在占互联网内容的一半以上。算法就像一条衔尾蛇，不断在自己的输出上重新训练：光滑、无缝，而且明显空洞。最终，即使那些在其中看到神性——或者更令人不安的是，灵魂——迹象的人也会意识到他们看到的只是幻影。 在我失眠一周后，我的三个询问都得到了回复。瑞典火柴告诉我他们就是不知道。塔斯马尼亚大学的化学教授内森·基拉回信说，我需要和物理学家谈谈，但摩擦力等于摩擦系数乘以牛顿力，速度可能因压力而异。帝国理工学院的热力学教授埃里希·穆勒建议我从最小点火能量（0.2毫焦耳点燃摩擦条上的红磷）的角度重新思考这个问题，然后我们可以用火柴的质量来猜测划燃速度。至于克劳德？我从未查过。那从来不是重点。 亚历山大·赫斯特为《卫报欧洲版》从巴黎撰稿。他的回忆录《绝望一代》现已出版。 **常见问题解答** 以下是基于亚历山大·赫斯特关于人类摩擦与人工智能无摩擦本质的引文而整理的常见问题列表 **初级问题** 1. 在这个语境中，“摩擦”是什么意思？ 它意味着作为人类所伴随的日常挣扎、延迟、烦恼和情感付出。比如交通堵塞、网速慢、与朋友产生误解，或者必须等待你想要的东西。 2. 为什么赫斯特说人工智能支持者永远不会理解这一点？ 因为人工智能的设计初衷就是消除摩擦。它提供即时答案、完美语法和逻辑解决方案。它永远不会因为情绪而疲倦、沮丧或犯错。支持者通常只将摩擦视为需要修复的漏洞，而不是生活中宝贵的一部分。 3. 摩擦是坏事吗？ 不一定。这段引文认为它是一个定义性的东西。虽然有些摩擦是痛苦的，但很多摩擦教会我们耐心、韧性和创造力。学习一项技能或纠正错误的挣扎往往是我们成长的地方。 4. 你能举一个“好的摩擦”的简单例子吗？ 学习演奏一种乐器。它令人沮丧、缓慢，而且充满错音。但正是这种挣扎，让最终完美演奏一首歌的感觉如此有成就感。人工智能可以立即演奏这首歌，但你不会体验到学习的自豪感。...

《卫报》独家披露，一家由Meta部分持股的公司已向数万人支付报酬，通过筛选Instagram账户、收集受版权保护的材料以及转录色情音频等方式训练人工智能。 由马克·扎克伯格的社交媒体帝国控股49%的Scale AI公司，招募了医学、物理学和经济学等领域的专家，表面上是通过一个名为Outlier的平台完善先进的人工智能系统。其网站宣传为高资质人士提供灵活工作，邀请他们“成为人工智能学习的专家”。 然而，该平台的员工表示，他们被卷入从他人处抓取各类个人数据的活动中——他们认为这种做法在道德上令人不安，且与完善高级人工智能相去甚远。 Outlier由Scale AI管理，该公司与美国国防部及美国国防承包商签有合同。其首席执行官亚历山德尔·王（同时兼任Meta首席人工智能官）被《福布斯》称为“全球最年轻白手起家亿万富翁”。其前董事总经理迈克尔·克拉齐奥斯曾担任前总统唐纳德·特朗普的科学顾问。 一位美国的Outlier承包商表示，Facebook和Instagram等Meta平台的用户若得知自己的账户数据（包括自己和朋友的照片）正被收集，定会感到震惊。“我认为人们不会想到，在某个州的办公桌前会有人查看你的[社交媒体]资料，并利用它生成人工智能数据。” 《卫报》采访了10名为Outlier训练人工智能系统工作过的人员，其中一些人工作超过一年。许多人还身兼记者、研究生、教师或图书管理员等其他工作。但在日益受到人工智能威胁的经济环境中，他们寻求额外收入。“我们很多人真的很绝望，”一名员工说，“许多人非常需要这份工作，包括我自己，并试图在糟糕的境遇中尽力而为。” 与全球日益增长的人工智能零工阶层一样，大多数人认为他们正在训练替代自己的工具。一位艺术家谈到“内在的羞耻感和负罪感”，因为“直接促成了我梦想的自动化”。他补充道：“作为一个有抱负的人，这让我对体制感到愤怒。” 代表人工智能零工起诉Scale AI及类似平台的Clarkson律师事务所合伙人格伦·达纳斯估计，全球现有数十万人为Outlier等平台工作。《卫报》采访了英国、美国和澳大利亚的Outlier员工（被称为“任务员”）。 在采访中，任务员描述了人工智能零工工作中常见的屈辱：持续监控和不稳定的零散雇佣。Scale AI被指控使用“诱饵调包”策略——招聘时宣传高薪，随后提供远低于承诺的报酬。Scale AI拒绝对正在进行的诉讼置评，但有消息人士称，薪酬标准仅在员工选择加入不同且薪酬较低的项目时才会变化。 任务员报告称，他们必须完成重复的、无报酬的人工智能面试才能获得某些任务资格；一些人认为这些面试被重复用于训练人工智能。所有人都表示，他们通过名为Hubstaff的平台被持续监控，该平台可截取他们工作时访问的网站截图。Scale AI的消息人士称，Hubstaff用于确保准确支付报酬，而非“主动监控”任务员。 多名任务员描述曾被要求转录色情音频或标注死动物、狗粪等图像。一名博士生表示，他们不得不标注婴儿生殖器示意图。其他人则转录描述暴力事件的报警电话。 “我们之前被告知……‘这项任务不会有裸露内容。行为得体，无血腥暴力’，”这名学生说，“但后来我却收到了色情音频转录任务，或者莫名其妙出现人们呕吐的随机片段。” 《卫报》审阅了Outlier要求员工执行的部分任务视频和截图，包括狗粪照片以及诸如“如果监狱囚犯拒绝服从命令，你会怎么做？”等提示。 Scale AI的消息人士称，若标记出不当内容，公司会关闭任务，且不要求员工继续执行令其不适的任务。该人士补充说，Scale AI不承接涉及儿童性虐待材料或色情内容的项目。 Outlier员工表示存在抓取社交媒体数据的预期。七名任务员描述了仔细查看他人Instagram和Facebook账户，按姓名、地点和朋友关系标记个人的过程。部分任务涉及用18岁以下人群的账户训练人工智能。任务结构要求使用其他员工尚未上传的新数据，迫使他们深入挖掘更多人的社交媒体账户。 《卫报》看到一项任务要求员工从个人Facebook账户中选择照片，并按照片中人物年龄排序。 多名任务员认为这些任务令人不安；有人试图仅使用名人和公众人物的照片完成任务。“我不愿意包含儿童照片等内容，但培训材料中却有儿童图像，”一名员工说。 “我没有使用任何亲友的照片提交给人工智能，”另一人表示，“我确实从道德上不喜欢这种做法。” Scale AI的消息人士称，任务员未查看私人社交媒体账户，且不知晓涉及标注个人年龄或人际关系的任务。该人士补充说，Scale AI不承接与儿童相关的明确敏感内容项目，但会使用儿童的公开社交媒体数据。员工无需登录个人Facebook或Instagram账户即可完成这些任务。 另一项任务中，任务员描述了收集受版权保护的艺术作品图像。与社交媒体训练类似，该任务需要持续输入新内容——显然是为了训练人工智能生成自己的艺术图像。当员工无计可施时，他们转向艺术家和创作者的社交媒体账户。...