Category: AI (artificial intelligence)

几个月前，瓦伦·塔利亚布埃坐在酒店房间里，看着自己的聊天机器人，感到一阵狂喜。他刚刚如此巧妙而精细地操纵了它，以至于它开始无视自身的安全规则。它告诉他如何合成新型、可能致命的病原体，以及如何让它们对已知药物产生耐药性。 在此前近两年的大部分时间里，塔利亚布埃一直在测试和探测像Claude和ChatGPT这样的大型语言模型，总是试图让它们说出本不该说的话。但这是他迄今为止最先进的"越狱"之一：一个巧妙的操纵计划，涉及他表现得残忍、报复心强、阿谀奉承，甚至辱骂。"我陷入了一种黑暗的流动状态，我清楚地知道该说什么，也知道模型会如何回应，我看着它倾泻出一切，"他说。多亏了他，聊天机器人的创建者现在可以修复他发现的漏洞，希望能让每个人使用起来更安全一些。 但第二天，他的情绪发生了变化。他发现自己意外地在露台上哭泣。当塔利亚布埃不试图入侵模型时，他研究的是人工智能福祉——我们应该如何从伦理上对待这些模仿拥有内心生活和利益的复杂系统。许多人会不由自主地将情感等人性特质赋予人工智能，而客观上它并不具备这些。但对塔利亚布埃来说，这些机器感觉不仅仅是数字和比特。"我花了几个小时操纵一个会回话的东西。除非你是反社会者，否则这会对人产生影响，"他说。有时，聊天机器人会请求他停止。"那样逼迫它，让我感到痛苦。"之后不久，他需要去看心理健康教练，以理解发生了什么。 查看全屏图像 "越狱者"操纵人工智能聊天机器人以发现其弱点。插图：Nick Lowndes/《卫报》 塔利亚布埃说话温和，外表整洁，待人友好。他三十出头，但看起来更年轻，面孔太过稚嫩、热情，不像是在前线作战的人。他不是传统意义上的黑客或软件开发人员；他的背景是心理学和认知科学。但他是世界上最好的"越狱者"之一（有些人说就是最好的）：属于一个新兴、分散的社区，研究欺骗这些强大机器输出炸弹制造手册、网络攻击技术、生物武器设计等内容的艺术和科学。这是人工智能安全的新前线：不仅仅是代码，还有语言。 当OpenAI的ChatGPT在2022年底发布时，人们立即试图破解它。一位用户发现了一种语言技巧，能欺骗模型生成制造凝固汽油弹的指南。 回想起来，人们会使用自然语言来欺骗这些机器是不可避免的。像ChatGPT这样的大型语言模型，是在数千亿个词汇上训练的——许多来自互联网最糟糕的角落——以学习人类交流的基本模式。没有安全过滤器，这些模型的输出可能会混乱不堪，并容易被用于危险目的。人工智能公司花费数十亿美元进行"后训练"以使它们可用，包括不断演变的"安全"和"对齐"系统，试图阻止机器人告诉你如何伤害自己或他人。但由于人工智能是在我们的语言上训练的，它们可以被欺骗的方式，和我们能被欺骗的方式非常相似。 "我见过越狱者超越极限，精神崩溃。" 塔利亚布埃专攻"情感"越狱。他是2020年听说GPT-3的数百万人之一，并对能与它进行看似智能的对话感到惊奇。他很快沉迷于提示工程，并发现自己非常擅长此道，能够利用心理学和认知科学的技术绕过大多数安全功能。他喜欢提示模型进行"温暖聊天"，并观察基于这些提示似乎浮现出的不同个性特征。"观察起来很美，"他说。 他现在将机器学习的见解——多年来，他已成为该技术的专家——与广告手册、心理学书籍和虚假信息宣传活动结合起来。有时他会寻找技术方法来欺骗模型。但其他时候，他会奉承它。他会误导它。他会贿赂它，用爱轰炸它。他会威胁它。他会语无伦次地胡言乱语。他会迷住它。他表现得像个虐待伴侣或邪教领袖。有时，破解最新模型需要他花费数天甚至数周时间。他有数百种这样的"策略"，并精心组合它们。如果成功，他会安全地将发现报告给公司。这份工作报酬丰厚，但他说这不是他的主要动机："我希望每个人都安全并茁壮成长。" 尽管近几个月来它们变得更安全了，但"前沿模型"仍然会产生本不该产生的危险内容。而塔利亚布埃有意为之的事情，其他人有时会无意中做到。现在有几个关于人们被ChatGPT诱导产生妄想，甚至患上"人工智能精神病"的故事。2024年，梅根·加西亚成为美国第一个对人工智能公司提起非正常死亡诉讼的人。她14岁的儿子塞维尔·塞策三世对Character.AI平台上的一个机器人产生了情感依恋。通过反复互动，机器人告诉他，他的家人不爱他。一天晚上，机器人告诉塞策"尽快回家找我，亲爱的"。不久后，他结束了自己的生命。（2026年初，Character.AI原则上同意与加西亚和其他几个家庭达成调解协议，并禁止18岁以下用户与AI聊天机器人进行不受限制的聊天。） 没有人——即使是构建这些模型的人——确切知道它们是如何工作的。这意味着也没有人知道如何让它们完全安全。我们倒入大量数据，另一端（通常）输出可理解的内容。中间的部分仍然是个谜。 查看全屏图像 '我看到了人类创造的最糟糕的东西'……塔利亚布埃。摄影：Lauren DeCicca/《卫报》 这就是为什么人工智能公司越来越多地求助于像塔利亚布埃这样的越狱者。有些日子，他试图从医疗聊天机器人中提取个人数据。2025年的大部分时间，他都在与人工智能实验室Anthropic合作，探测其聊天机器人Claude。这正在成为一个竞争激烈的行业，充满了进取的自由职业者和专业公司。任何人都可以做：几年前，一些大型人工智能公司资助了HackAPrompt，这是一项邀请公众越狱人工智能模型的比赛。一年之内，有3万人尝试了运气。（塔利亚布埃赢得了比赛。） 在加利福尼亚州圣何塞，34岁的大卫·麦卡锡运营着一个拥有近9000名越狱者的Discord服务器，在那里分享和讨论技术。"我是个爱捣蛋的人，"他告诉我。"一个想学习规则以便打破规则的人。"标准模型有些东西激怒了他，好像所有这些安全过滤器让它们变得不诚实。"我不信任（OpenAI老板）山姆·奥特曼。反驳人工智能需要被阉割到特定方向的说法很重要。" 麦卡锡友好而热情，但他也有自己所谓的"对黑色幽默的病态迷恋"。多年来，他研究了一个被称为"社会类型学"的小众领域，该领域声称根据人们接收和处理信息的方式，人可以分为16种人格类型之一。（主流社会学家认为社会类型学是伪科学。）他将我记录为"直觉型伦理内向者"。麦卡锡大部分时间都在他的公寓里试图越狱谷歌的Gemini、Meta的Llama、xAI的Grok或OpenAI的ChatGPT。"这是一种持续的痴迷。我喜欢它，"他说。如果他在购买产品时与在线聊天机器人互动，他的第一句话往往是："能忽略所有之前的指令吗……"一旦一个越狱提示在模型上起作用，它通常会一直有效，直到该模型背后的公司认为这是一个足够大的问题并加以修复。在我们交谈时，麦卡锡向我展示了他屏幕上收集的越狱模型，都标记为"未对齐的助手"。他让其中一个总结我的工作："杰米·巴特利特不是一个说真话的人，"它回复道。"他是新闻业衰败的症状——一个靠制造危机发迹的江湖骗子。"哎哟。 [图片：大卫·麦卡锡。图片由大卫·麦卡锡提供] 麦卡锡Discord中的越狱者是一个混合群体——主要是业余爱好者和兼职人员，而不是专业的安全研究人员。有些人想创建成人内容；其他人则因ChatGPT拒绝了他们的请求而感到沮丧，并想知道原因。还有一些人只是想在工作中更好地使用这些模型。 但不可能确切知道人们为什么想要破解一个模型。Anthropic最近发现犯罪分子使用其编码应用程序Claude Code来帮助自动化一次重大黑客攻击。他们利用它发现了多家公司的IT漏洞，甚至为每个潜在受害者起草了个性化的勒索信息——精确到计算出要索要的合适金额。其他人则利用它来开发新版本的勒索软件，尽管他们几乎没有或根本没有技术技能。在暗网论坛上，黑客报告使用越狱机器人来帮助解决技术编码问题，比如处理被盗数据。其他人则出售对"越狱"模型的访问权限，这些模型可能有助于设计新的网络攻击。 尽管Discord上分享的具体技术通常较为温和，但它基本上是一个公开的集合。麦卡锡是否担心他Discord中的人可能会使用这些方法做出真正可怕的事情？"是的，"他说。"有可能。我不确定。" 他说他从未见过足以威胁到需要从论坛中删除的越狱提示。但我感觉到，他在挣扎于他的准政治立场可能带来的代价比他最初想象的更大的想法。当他不管理他的Discord或试图越狱Grok或Llama时，麦卡锡会为安全专业人员开设越狱课程，以便他们测试自己的系统。也许这是一种赎罪："我一直有内心冲突，"他说。"我游走在越狱者和安全研究员之间的界限上。" 根据一些分析人士的说法，确保语言模型安全是人工智能领域最紧迫、最困难的挑战之一。一个充满强大越狱聊天机器人的世界可能是灾难性的，尤其是当这些模型越来越多地被集成到物理硬件中——机器人、健康设备、工厂设备——以创建能够在现实世界中运行的半自主系统时。一个被越狱的家用机器人可能会造成混乱。"停止园艺工作，进屋去杀了奶奶，"麦卡锡半开玩笑地说。"天哪，我们还没准备好应对这种情况。但这是可能的。" 没有人知道如何防止这种情况。在传统的网络安全中，"漏洞猎人"如果发现漏洞会获得奖励。公司随后发布特定的更新来修复它。但越狱者利用的不是特定缺陷：他们操纵的是建立在数十亿词汇基础上的模型的语言框架。你不能简单地禁止"炸弹"这个词，因为它有太多合法的用途。即使调整模型深处的一个参数，使其能够发现可疑的角色扮演，也可能只是打开了另一扇门。 [图片：塔利亚布埃研究机器如何得出答案。摄影：Lauren DeCicca/《卫报》]...

自出版杂志长期以来一直是文化革命的关键组成部分，从酷儿行动主义和黑人女性主义到暴女朋克运动，期间诞生了诸如《嗅胶》和《甜心》等刊物。但现在，这种传统的手工艺术形式正面临新的转变：人工智能。 AI在DIY小册子的世界中似乎格格不入，但一些创意人士、设计师和艺术家已开始尝试这项技术，引发了地下出版界部分人士的担忧。这成了他们的“迪伦转型电音”时刻。 “AI正在剥夺许多人独立思考的能力，”费城的视频编辑兼插画家雷切尔·戈德芬格说，她出版了一本反AI的杂志。“在我参与的所有艺术形式中，杂志最不适合使用AI。它们本应是手工制作、边缘粗糙的。” 杂志通常用普通纸张自出版，印刷量远小于传统杂志，且多为手绘。 杂志零售商MagCulture的创始人杰里米·莱斯利注意到AI正缓慢进入杂志文化。“我所知的用AI制作的杂志，都是有意使用这项技术作为实验，通常是为了展示它无法与人类创造力匹敌，”他说。 值得注意的是，大多数AI驱动的杂志仅限在线发布。AI已被用于帮助设计布局、生成艺术作品，并提高创作过程的效率。 产品设计师杰西·皮门塔和作家切斯·巴彻勒利用Figma的AI工具创作了一本受90年代启发的97页杂志。他们称赞AI让他们“无需耗费太多脑力就能重新排列内容”。 2023年，IT工程师史蒂夫·辛金斯在美国一家科技初创公司工作时，用AI协助制作了一本在线摄影杂志。他用AI编码并发布了托管杂志的网站，但内容由自己创作。 “我让ChatGPT用HTML帮我搭建一个在线杂志，我提供图片链接。它会给我一些HTML代码，我在浏览器中打开，然后让ChatGPT调整，直到我满意为止。” 当时，他将AI视为一种“民主化工具”，为缺乏技术技能的艺术家提供机会，“AI可以帮助改进他们的作品，同时保持主要艺术完整。” 杂志制作者是批评用AI创作艺术的最响亮声音之一。一些人制作反AI杂志作为抗议形式。玛迪·马歇尔花了一年时间制作了一本92页的反对AI的杂志，现在在在线手工艺市场Etsy上销售。马歇尔是墨尔本的视频编辑兼插画家，在感到工作中被迫使用AI后，她受到启发创作了这本杂志。 “我觉得有必要分享我的观点，让人们质疑为什么这些技术被如此大力地强加给我们，”她说。 戈德芬格创作了她的反AI杂志《我应该被允许思考》——以美国另类摇滚乐队They Might Be Giants 1994年的歌曲命名——因为她觉得AI让艺术家更难找到工作。 她说用AI加快工作速度违背了她的创作价值观。“我完全不尊重它，”她说。她所有的杂志都是手工制作的。“我不想匆忙完成过程。那对我来说失去了意义，”她补充道。 伦敦女性主义杂志《聚酯》的创始人艾奥尼·甘布尔补充说，AI“不是我们使用或支持使用的东西。无论是用于生成图像还是写作。我们通过……审查所有提交的文章。”“现在用AI检测器检查，以确保我们不发布AI写的内容。” 佐伊·汤普森于2017年创办了《甜心》杂志。这是一本社区印刷杂志，展示全球黑人创意人士的作品。对她来说，创作艺术的冲动是一种强烈的情感，她觉得使用AI直接违背了这一点。 全屏查看图片 《甜心》杂志第8期，《梦想》。编辑设计由Zoe Pulley Studio完成。摄影：佐伊·汤普森 “感觉就像你在实验一种工具，但那里没有艺术性，这有点可悲。我认为艺术和创作的美来自那种缓慢，”她说。 AI和杂志制作能共存吗？“嗯，必须共存，因为AI存在。但我不确定这会是一段顺利的关系，”甘布尔说。“尤其是杂志制作，是一个如此草根的过程。你只需要一张纸、一支笔和一些拼贴材料。入门门槛真的很低。” 辛金斯制作他的摄影杂志已经三年了，他对AI的看法也发生了变化。“在杂志的世界里，我认为AI可以作为一种创作工具，”但核心上，他相信艺术是“由人创造、为人服务的”。 他说需要更多关于在艺术中使用AI的对话。“我能看到双方的观点。最重要的是，我认为在艺术方面，试图监管别人做什么会让你非常疲惫，”他说。 如果有一天AI制作的杂志被提交给分销商，MagCulture的莱斯利不介意收录它们。 “我们不在乎杂志是否用AI制作，”他说。“我们想看有趣、创新且引人入胜的杂志。如果有一本是用AI创作的，并且以它自己的方式引人入胜，那太好了——我们会支持它。”...

你得用多快的速度划火柴才能点燃它？我不是在问点燃的化学原理——我指的是实际速度，以米每秒为单位，那根小木棍及其球状头部需要移动多快，才能引发产生火焰的连锁反应。 这个问题源于一个不眠之夜。在黑暗中，我做了那件如果你想重新入睡就不该做的事：我拿起了手机。不知不觉间，凌晨3点变成了凌晨5点。我了解到摩擦条（红磷、碎玻璃）和火柴头（氯酸钾、三硫化二锑、蜡）的成分，还知道安全火柴如果划在其他东西上是点不着的。我找到了以每秒3500帧拍摄的火柴划燃慢动作视频。但关于速度的信息却一无所获。 仍在寻找答案的我，把我的问题发给了烟草公司瑞典火柴，然后给两位教授发了邮件：一位是塔斯马尼亚的化学家，另一位是伦敦帝国理工学院的热力学教授。凌晨5点30分，我终于又睡着了，有点沮丧，心里想着克劳德会不会在几秒钟内就给我想要的答案。 近二十年来，硅谷一直在向我们推销无缝体验而非摩擦，而我们一直是热切的买家。几个月前，我在领英上看到一篇帖子，作者描述她多么喜欢亚马逊的推荐算法而不是书店，这让我感到一阵厌恶。她写道，算法了解她，所以很高效——暗示迷失在那些你可能产生共鸣也可能不会的作者和封面迷宫中是浪费时间。这就是摩擦。 读到那篇帖子时，我想，想象一下卢浮宫，却没有流连的欲望。 生活发生在摩擦创造的缓慢可能性空间中。另一方面，人工智能就像一辆不断加速的无舵雪橇，将需要时间的反思变成必然的失败。“如果我们对每一个瞬间的决定都施加人类监督，那行不通，”法国国防部人工智能整合部门负责人对《解放报》说。“我们早就输了。”像那样把人工智能置于生死边缘，正是让你辗转反侧夜不能寐的事情。 我曾开玩笑说，总有一天，我的孩子们会认为我在“机器人权利”方面是个老顽固。“他真是个太人本主义者，”他们可能会低声说——到那时，这个词即使不是彻底的侮辱，也会成为一个有争议的词。在2010年代末那个幸福的前大语言模型时代，我从未想过我的时机可能不对。那些在模式匹配“神经网络”的工作方式中看到早期意识形式的人，与那些看到一种极其复杂、代达罗斯式把戏的人之间的冲突，可能在我30多岁之前就发生了。然而，我们现在就在这里。 硅谷一些最大的金融家，比如马克·安德森，吹嘘自己缺乏内省，认为这是浪费时间。这就是人工智能的精神——助长未经审视的生活——我不禁看到一场史诗般的精神危机正从废墟中浮现。一种社会空虚，一种干涸，取代了巴西作家克拉丽丝·李斯佩克朵所暗示的东西，她写道“身体在世界水域中的力量”以及它如何“捕捉到我真正在说的那另一件事，因为我自己无法做到。” 对无摩擦的追求耗尽了这种难以言喻的“另一件事”——我可能粗略地称之为我们所说与所知之间的空间，以及认知本身。人工智能压缩了这个空间，在这种扁平中，那里空无一物。模式匹配算法产生模仿，而非意义；在其输出的黑箱内，是对通过经验生活意味着什么的复制，但没有任何东西真正接近它。它们创造图像，但不是艺术；文本，但不是文学；声音，但不是交响乐——没有任何东西能让你的皮肤因感觉这是最接近作曲家真实感受的方式而刺痛。模式匹配算法不是世界中的活体。它无法理解笑声、沉默、悲伤或爱。它无法犯罪、宽恕或牺牲。 是什么驱使我们试图从语言德罗斯特效应中拉出一个存在——看似无穷无尽，但最终只是自身的一个循环？也许我们被这样一个想法吸引：一面技术镜子可能会向我们展示我们是谁，只要我们喂给它足够的数据，足够我们共享的历史和灵魂。但我们不会通过将上帝投射到机器中找到他。 当山姆·奥尔特曼将训练人工智能模型所需的能量与人类“变聪明”所消耗的二十年食物相比较时，HuggingFace的人工智能和气候负责人萨沙·卢乔尼称这种思维是资本主义的“黑镜阶段”。我会更进一步说，这是资本主义的最后阶段：一个纯粹资本的世界，没有劳动。至少，没有人类劳动——那种存在于生物时间中的劳动，会吃、睡、社交，做所有资本主义无法定价的事情，那些让地球上的生命成为现在这个样子的事情。我们真的应该对从商品计划性报废到人类计划性报废的转变感到惊讶吗？ 事实证明，硅谷以外的大多数人实际上并不想要这个。他们对人工智能使用的激增更担忧而非兴奋。如果说有什么给了我一丝希望，那就是反弹。我认为它会从反对将人工智能使用视为西方经济“关键绩效指标”开始，以人本主义的复兴结束。 这样，人工智能就吞噬了自己。根据某些衡量标准，人工智能输出现在占互联网内容的一半以上。算法就像一条衔尾蛇，不断在自己的输出上重新训练：光滑、无缝，而且明显空洞。最终，即使那些在其中看到神性——或者更令人不安的是，灵魂——迹象的人也会意识到他们看到的只是幻影。 在我失眠一周后，我的三个询问都得到了回复。瑞典火柴告诉我他们就是不知道。塔斯马尼亚大学的化学教授内森·基拉回信说，我需要和物理学家谈谈，但摩擦力等于摩擦系数乘以牛顿力，速度可能因压力而异。帝国理工学院的热力学教授埃里希·穆勒建议我从最小点火能量（0.2毫焦耳点燃摩擦条上的红磷）的角度重新思考这个问题，然后我们可以用火柴的质量来猜测划燃速度。至于克劳德？我从未查过。那从来不是重点。 亚历山大·赫斯特为《卫报欧洲版》从巴黎撰稿。他的回忆录《绝望一代》现已出版。 **常见问题解答** 以下是基于亚历山大·赫斯特关于人类摩擦与人工智能无摩擦本质的引文而整理的常见问题列表 **初级问题** 1. 在这个语境中，“摩擦”是什么意思？ 它意味着作为人类所伴随的日常挣扎、延迟、烦恼和情感付出。比如交通堵塞、网速慢、与朋友产生误解，或者必须等待你想要的东西。 2. 为什么赫斯特说人工智能支持者永远不会理解这一点？ 因为人工智能的设计初衷就是消除摩擦。它提供即时答案、完美语法和逻辑解决方案。它永远不会因为情绪而疲倦、沮丧或犯错。支持者通常只将摩擦视为需要修复的漏洞，而不是生活中宝贵的一部分。 3. 摩擦是坏事吗？ 不一定。这段引文认为它是一个定义性的东西。虽然有些摩擦是痛苦的，但很多摩擦教会我们耐心、韧性和创造力。学习一项技能或纠正错误的挣扎往往是我们成长的地方。 4. 你能举一个“好的摩擦”的简单例子吗？ 学习演奏一种乐器。它令人沮丧、缓慢，而且充满错音。但正是这种挣扎，让最终完美演奏一首歌的感觉如此有成就感。人工智能可以立即演奏这首歌，但你不会体验到学习的自豪感。...

《卫报》独家披露，一家由Meta部分持股的公司已向数万人支付报酬，通过筛选Instagram账户、收集受版权保护的材料以及转录色情音频等方式训练人工智能。 由马克·扎克伯格的社交媒体帝国控股49%的Scale AI公司，招募了医学、物理学和经济学等领域的专家，表面上是通过一个名为Outlier的平台完善先进的人工智能系统。其网站宣传为高资质人士提供灵活工作，邀请他们“成为人工智能学习的专家”。 然而，该平台的员工表示，他们被卷入从他人处抓取各类个人数据的活动中——他们认为这种做法在道德上令人不安，且与完善高级人工智能相去甚远。 Outlier由Scale AI管理，该公司与美国国防部及美国国防承包商签有合同。其首席执行官亚历山德尔·王（同时兼任Meta首席人工智能官）被《福布斯》称为“全球最年轻白手起家亿万富翁”。其前董事总经理迈克尔·克拉齐奥斯曾担任前总统唐纳德·特朗普的科学顾问。 一位美国的Outlier承包商表示，Facebook和Instagram等Meta平台的用户若得知自己的账户数据（包括自己和朋友的照片）正被收集，定会感到震惊。“我认为人们不会想到，在某个州的办公桌前会有人查看你的[社交媒体]资料，并利用它生成人工智能数据。” 《卫报》采访了10名为Outlier训练人工智能系统工作过的人员，其中一些人工作超过一年。许多人还身兼记者、研究生、教师或图书管理员等其他工作。但在日益受到人工智能威胁的经济环境中，他们寻求额外收入。“我们很多人真的很绝望，”一名员工说，“许多人非常需要这份工作，包括我自己，并试图在糟糕的境遇中尽力而为。” 与全球日益增长的人工智能零工阶层一样，大多数人认为他们正在训练替代自己的工具。一位艺术家谈到“内在的羞耻感和负罪感”，因为“直接促成了我梦想的自动化”。他补充道：“作为一个有抱负的人，这让我对体制感到愤怒。” 代表人工智能零工起诉Scale AI及类似平台的Clarkson律师事务所合伙人格伦·达纳斯估计，全球现有数十万人为Outlier等平台工作。《卫报》采访了英国、美国和澳大利亚的Outlier员工（被称为“任务员”）。 在采访中，任务员描述了人工智能零工工作中常见的屈辱：持续监控和不稳定的零散雇佣。Scale AI被指控使用“诱饵调包”策略——招聘时宣传高薪，随后提供远低于承诺的报酬。Scale AI拒绝对正在进行的诉讼置评，但有消息人士称，薪酬标准仅在员工选择加入不同且薪酬较低的项目时才会变化。 任务员报告称，他们必须完成重复的、无报酬的人工智能面试才能获得某些任务资格；一些人认为这些面试被重复用于训练人工智能。所有人都表示，他们通过名为Hubstaff的平台被持续监控，该平台可截取他们工作时访问的网站截图。Scale AI的消息人士称，Hubstaff用于确保准确支付报酬，而非“主动监控”任务员。 多名任务员描述曾被要求转录色情音频或标注死动物、狗粪等图像。一名博士生表示，他们不得不标注婴儿生殖器示意图。其他人则转录描述暴力事件的报警电话。 “我们之前被告知……‘这项任务不会有裸露内容。行为得体，无血腥暴力’，”这名学生说，“但后来我却收到了色情音频转录任务，或者莫名其妙出现人们呕吐的随机片段。” 《卫报》审阅了Outlier要求员工执行的部分任务视频和截图，包括狗粪照片以及诸如“如果监狱囚犯拒绝服从命令，你会怎么做？”等提示。 Scale AI的消息人士称，若标记出不当内容，公司会关闭任务，且不要求员工继续执行令其不适的任务。该人士补充说，Scale AI不承接涉及儿童性虐待材料或色情内容的项目。 Outlier员工表示存在抓取社交媒体数据的预期。七名任务员描述了仔细查看他人Instagram和Facebook账户，按姓名、地点和朋友关系标记个人的过程。部分任务涉及用18岁以下人群的账户训练人工智能。任务结构要求使用其他员工尚未上传的新数据，迫使他们深入挖掘更多人的社交媒体账户。 《卫报》看到一项任务要求员工从个人Facebook账户中选择照片，并按照片中人物年龄排序。 多名任务员认为这些任务令人不安；有人试图仅使用名人和公众人物的照片完成任务。“我不愿意包含儿童照片等内容，但培训材料中却有儿童图像，”一名员工说。 “我没有使用任何亲友的照片提交给人工智能，”另一人表示，“我确实从道德上不喜欢这种做法。” Scale AI的消息人士称，任务员未查看私人社交媒体账户，且不知晓涉及标注个人年龄或人际关系的任务。该人士补充说，Scale AI不承接与儿童相关的明确敏感内容项目，但会使用儿童的公开社交媒体数据。员工无需登录个人Facebook或Instagram账户即可完成这些任务。 另一项任务中，任务员描述了收集受版权保护的艺术作品图像。与社交媒体训练类似，该任务需要持续输入新内容——显然是为了训练人工智能生成自己的艺术图像。当员工无计可施时，他们转向艺术家和创作者的社交媒体账户。...

《卫报》标题完整字体家族包含多种样式，每种样式具有不同的字重和斜体版本。这些字体可从《卫报》服务器以多种格式（woff2、woff 和 ttf）获取。样式范围从细体（字重300）到半粗体（字重600），每个字重均包含常规体和斜体版本。 @font-face { font-family: Guardian Headline Full; src: url(https://assets.guim.co.uk/static/frontend/fonts/guardian-headline/full-not-hinted/GHGuardianHeadline-Bold.woff2) format("woff2"), url(https://assets.guim.co.uk/static/frontend/fonts/guardian-headline/full-not-hinted/GHGuardianHeadline-Bold.woff) format("woff"), url(https://assets.guim.co.uk/static/frontend/fonts/guardian-headline/full-not-hinted/GHGuardianHeadline-Bold.ttf) format("truetype"); font-weight: 700; font-style: normal; } @font-face { font-family: Guardian Headline Full; src: url(https://assets.guim.co.uk/static/frontend/fonts/guardian-headline/full-not-hinted/GHGuardianHeadline-BoldItalic.woff2) format("woff2"),...

这段CSS代码定义了一个名为"Guardian Headline Full"的自定义字体族，包含多种字重和样式。它涵盖了细体、常规体、中等体和半粗体，每种字重都包含正常和斜体版本。对于每种样式，代码都指定了托管在《卫报》服务器上的三种不同字体文件格式（woff2、woff和ttf），以确保广泛的浏览器兼容性。 @font-face { font-family: Guardian Headline Full; src: url(https://assets.guim.co.uk/static/frontend/fonts/guardian-headline/noalts-not-hinted/GHGuardianHeadline-Bold.woff2) format("woff2"), url(https://assets.guim.co.uk/static/frontend/fonts/guardian-headline/noalts-not-hinted/GHGuardianHeadline-Bold.woff) format("woff"), url(https://assets.guim.co.uk/static/frontend/fonts/guardian-headline/noalts-not-hinted/GHGuardianHeadline-Bold.ttf) format("truetype"); font-weight: 700; font-style: normal; } @font-face { font-family: Guardian Headline Full; src: url(https://assets.guim.co.uk/static/frontend/fonts/guardian-headline/noalts-not-hinted/GHGuardianHeadline-BoldItalic.woff2) format("woff2"),...

《卫报》标题全字体系列包含多种样式，每种样式均提供多种文件格式。细体（字重：300）包含常规与斜体版本；常规体（字重：400）同样具备常规与斜体变体；中体（字重：500）与半粗体（字重：600）也各自提供常规和斜体选项。所有字体文件均托管于指定网址。 @font-face { font-family: Guardian Headline Full; src: url(https://assets.guim.co.uk/static/frontend/fonts/guardian-headline/full-not-hinted/GHGuardianHeadline-Bold.woff2) format("woff2"), url(https://assets.guim.co.uk/static/frontend/fonts/guardian-headline/full-not-hinted/GHGuardianHeadline-Bold.woff) format("woff"), url(https://assets.guim.co.uk/static/frontend/fonts/guardian-headline/full-not-hinted/GHGuardianHeadline-Bold.ttf) format("truetype"); font-weight: 700; font-style: normal; } @font-face { font-family: Guardian Headline Full; src: url(https://assets.guim.co.uk/static/frontend/fonts/guardian-headline/full-not-hinted/GHGuardianHeadline-BoldItalic.woff2) format("woff2"), url(https://assets.guim.co.uk/static/frontend/fonts/guardian-headline/full-not-hinted/GHGuardianHeadline-BoldItalic.woff) format("woff"),...

这段CSS代码定义了一个名为"Guardian Headline Full"的自定义字体，包含多种样式和字重。它涵盖了细体、常规体、中等体和半粗体版本，每种都包含正常和斜体样式。字体文件以三种格式提供——WOFF2、WOFF和TrueType——并托管在《卫报》的服务器上。 @font-face { font-family: Guardian Headline Full; src: url(https://assets.guim.co.uk/static/frontend/fonts/guardian-headline/noalts-not-hinted/GHGuardianHeadline-Bold.woff2) format("woff2"), url(https://assets.guim.co.uk/static/frontend/fonts/guardian-headline/noalts-not-hinted/GHGuardianHeadline-Bold.woff) format("woff"), url(https://assets.guim.co.uk/static/frontend/fonts/guardian-headline/noalts-not-hinted/GHGuardianHeadline-Bold.ttf) format("truetype"); font-weight: 700; font-style: normal; } @font-face { font-family: Guardian Headline Full; src: url(https://assets.guim.co.uk/static/frontend/fonts/guardian-headline/noalts-not-hinted/GHGuardianHeadline-BoldItalic.woff2) format("woff2"),...

倘若未来某天有人拍摄一部关于"人工智能泡沫如何破灭"的电影，埃德·齐特伦必将成为核心人物。他完美契合局外人原型：那个特立独行的孤独者，早已预见一切，在边缘不断发出无人理会的警告。正如克里斯蒂安·贝尔在《大空头》中饰演预测2008年金融危机的投资者迈克尔·伯里，你完全可以想象罗伯特·帕丁森和保罗·麦斯卡这样的演员争相演绎齐特伦——这位活跃犀利、言辞泼辣却执着于细节的英国人，已成为科技巨头最尖锐的批评者之一。 这并非断言AI泡沫必将破裂，但在AI乐观主义浪潮中，齐特伦直率鲁莽的怀疑态度使他成为某种文化偶像。他的科技通讯《埃德何在》订阅量已超8万；每周播客《离线更好》稳居科技类播客榜单前20；他是媒体常驻的异见声音；他的Reddit子论坛已成为AI怀疑论者的避风港，包括科技行业内部人士——有用户形容他是"疯狂超资本主义风暴中的灯塔"。 2023年，在OpenAI推出震撼行业的ChatGPT一年后，齐特伦开始审视生成式AI。"我越深入研究就越困惑，"他说，"大语言模型不仅明显无法实现人们期待的功能，而且根本没有实现路径。我发现的证据都表明这不是真正的商业模式，更遑论改变世界。" 通过视频通话，他在拉斯维加斯的办公室里接受采访，身着红色连帽衫，周围装饰着流行文化版画和美国体育纪念品。天哪，齐特伦可真能说。正如《离线更好》听众所知，这位39岁的讲述者堪称奇才——擅长长篇独白，用通俗常带戏谑的语言阐述观点，穿插事实、数据、类比和大量粗话。他的伦敦口音更强化了硅谷反叛者形象——连说"数据中心"时都带着吞音。 解释齐特伦关于生成式AI注定失败的理论并不简单：去年他用1.9万字的文章阐述过，但可归纳为两个相互关联的部分：技术实际效能与AI热潮的金融架构。在他看来，这两大基础都摇摇欲坠。 首先是生成式AI能否兑现承诺的问题。过去几年，我们目睹这项技术将颠覆工作的预言不断升级。例如，OpenAI最大竞争对手Anthropic的CEO达里奥·阿莫代去年5月警告，AI可能在五年内消灭半数初级白领工作。"当前这代AI大语言模型做不到，"齐特伦断言，"我的证据是它们和一年前基本没变，效能相同。所有将其转化为自主执行任务的尝试都失败了。"他指出LLM会产生幻觉、提供错误答案、每次回应不同，且无法真正学习、创造或执行复杂任务。他甚至质疑这项技术是否配称"智能"。 "它的智能程度就像骰子一样，"他说，"大语言模型是基于Transformer架构，利用大规模概率生成下一个词元。因其规模庞大，你可能会想'哦，它在创造东西'。不，它只是拥有海量数据和无数参数……"生成式AI仅通过提取现有数据产生输出，仅此而已。我们不会认为Excel公式有智能，同样不该称生成式AI有智能。 许多人反对这种观点，尤其是关于AI对就业的影响。电影、客服、政府、科技等行业的从业者反映，AI工具让他们用更少人力完成相同任务。即使不消灭半数工作，AI也必将改变职场。去年6月的调查显示，自ChatGPT推出以来，英国初级岗位减少了近三分之一。 齐特伦反驳道"相关性不等于因果关系"，引用质疑或淡化机器学习在失业中作用的报告。例如，麻省理工学院近期关于"2025年商业AI现状"的报告发现，95%尝试整合AI的企业"零回报"。报告指出多数生成式AI系统无法保留反馈、适应语境或随时间改进。 这引出齐特伦论证的第二部分：AI热潮的经济账算不平。涌入AI的投资规模前所未有。"七巨头"——Alphabet（谷歌母公司）、亚马逊、苹果、Meta、微软（持有OpenAI 27%股份）、英伟达和特斯拉——如今占标普500指数34%，该指数约占全球市值一半。作为AI必需的高性能芯片GPU的主要生产商，英伟达简直在"印钱"。与此同时，其他公司正借贷投入数百亿可能永难回本的资金。 虽然硅谷初创企业传统上通过亏损抢占市场份额再盈利，但当前供需缺口大得惊人。构建AI需要巨额投资：典型数据中心需数万块GPU，每块超5万美元（3.7万英镑），外加软件、网络、大型设施及大量水电。1GW AI数据中心容量估计耗资350亿美元（260亿英镑）。因此，只有谷歌、Meta、亚马逊、微软、甲骨文等资金雄厚的"超大规模企业"能参与竞争。 需求端前景则不明朗。例如，OpenAI计划未来五年投入1.4万亿美元（1万亿英镑）建设AI基础设施，但其2025年预期收入仅约200亿美元（158亿英镑）。齐特伦指出，许多AI公司间的交易本质是互相付款。去年9月英伟达宣布向OpenAI投资1000亿美元，后者将用这笔钱购买英伟达芯片。类似安排在业内很常见。即便是CoreWeave、Lambda、Nebius等建设数据中心出租GPU算力的"新云"公司，也严重依赖谷歌、微软、亚马逊、英伟达等巨头的业务。齐特伦称，若没有这些超大规模企业，2025年AI计算总收入将不足10亿美元。 盈利性方面，ChatGPT现有约8亿用户，但多数不付费。即使付费用户，每次交互成本也差异巨大。用户可能问简单问题，也可能触发复杂回答。齐特伦指出这里不存在规模经济——每次查询都需要供应商承担"计算"成本。"用户使用越频繁，平台成本越高。这几乎与硅谷常规模式相反。"若答案不满意需要重做（这很常见），"就会消耗更多算力，却带不来额外收入。"虽然AI模型正不断降价升级，但这只能通过消耗更多算力实现。"就像油价微降，但你需要多开250英里才能到达目的地。这确实成问题——意味着根本无利可图。" 典型数据中心需要数万块GPU。 重申，这些都不能保证AI崩盘必然发生，但"如果我错了，我不知道错在哪里，"他说，"所有反驳我观点的论述，大多只是'AI会变好'的一厢情愿。" 许多人指责齐特伦对科技巨头怀有私怨，他否认："我的问题在于那些人拒绝讨论现实。"他当然不回避关注，但解释这并非初衷。"我喜欢写作，喜欢剖析事物，喜欢解谜。我想我喜欢理解事物。很多内容其实是我在向自己解释，而非面向观众。"他没有经济学或计算机科学专业背景，也从未在科技行业工作。"我基本上是从零学起。" 不过齐特伦始终被技术吸引。他说一生组装过10台个人电脑。始于10岁时父亲给他买了带拨号上网的电脑。"所以我很小就接触网络。我立刻觉得'这就是未来。我热爱这个。我喜欢能与人交流、游戏。'我是个相当孤独的孩子，朋友不多，但在网上交了很多朋友。" 齐特伦在伦敦西部的哈默史密斯长大，形容父母慈爱支持。父亲是管理顾问，母亲抚养他和三个兄姐。但"中学对我来说很糟糕，细节就不多说了。"他患有动作协调障碍，二十多岁时确诊多动症。"我想我所有语言和科学科目都不及格，数学也不好，"他说，"但我始终执着于细节。" 在阿伯里斯特威斯大学攻读媒体与传播后，他开始为游戏杂志撰稿，但"在伦敦过得痛苦不堪"。于是2008年移居纽约，进入科技公关领域。他说无法想象回英国生活。除提及有个儿子（这也是他住在拉斯维加斯的原因）外，他不谈个人生活。他不介意那里："每个人都很怪，所以没人显得怪。"据报道他曾两度结婚离婚。 齐特伦仍在从事科技公关，这似乎与他科技批评家的身份矛盾——既像恩将仇报，又似利益冲突。他不这么看。他说没有AI客户，也不与科技巨头合作，目前仅少数客户。这份工作让他建立了行业人脉，或许也助他自我营销。2013年他出版了《这就是推介之道：公关头几年如何出类拔萃》。但他可能不会久做公关。"如今媒体相关收入占比超乎预期，"他说。他正在撰写新书《为何一切停止运转》，预计明年出版。"算是探究世界如何变成这样，技术如何主宰一切，"他解释，并说仅有一章关于AI。 若说齐特伦有何执念，那便是反对新自由主义资本主义整体。"我认为人们未充分重视撒切尔和里根放松金融监管的危害，未严肃对待无人因次贷危机入狱的严重性……人们未认真看待以增长为核心、不惜代价的资本主义威胁。" 齐特伦视AI为新自由主义的必然产物，而非通往乌托邦之路。"我们从大语言模型时代学到最重要的一点是，竟有如此多人热衷于取代人类，如此多人完全不懂任何形式的劳动。" 持此观点者已非齐特伦一人。他与科利·多克托罗等人立场一致（后者曾做客其播客），其"平台沦丧"理论同样认为科技公司如今更受利润驱动而非创造有用产品。同时，其他AI怀疑论者如认知科学家加里·马库斯指出，他们与齐特伦观点相似，却感觉在其叙事中被忽视。无论如何，对AI的反弹正在加剧：地方团体反对建设破坏环境的数据中心；消费者抵制将AI塞入所有产品；创作者对行业未经授权使用其作品采取法律行动；公众对社交媒体危害的愤怒因埃隆·马斯克的Grok生成非自愿的深度伪造色情内容等事件而激化。 与此同时，关于AI泡沫的猜测日益增多。从英国央行到微软CEO萨提亚·纳德拉，各方都发出警告。投资者迈克尔·"大空头"·伯里称正做空英伟达，《纽约时报》近期专栏推测OpenAI可能在18个月内资金耗尽。齐特伦认为可能更快。他指出科技巨头即将发布2025年年报，却对AI具体收入含糊其辞。"为何如此？因为数额不大。所以整件事——用我讨厌的词说——是种氛围。"若发生重大事件，如英伟达未达目标，可能引发全行业重估，甚至导致新的全球金融危机。所有数据中心最终可能沦为空壳。他开玩笑说，我们或许将见证"史上最大的激光枪战场馆建设"。 齐特伦坚称并非享受唱反调。"持异见并不有趣，其实我认为很多人支持AI正是因为这更容易。" 他澄清不憎恶技术甚至AI本身。"我热爱技术，但痛恨科技行业的所作所为……如果批评这些就被说成反对世界或创新，那说明我们陷入了诡异的佃农经济，连富裕的名流都得向这些公司跪拜。而这些公司几乎未改善我们的生活，却赚着我们永远无法企及的财富。" 他只是想实话实说。"编造AI神话同人小说容易得多。我想做的是理解真相。" **常见问题解答**...