萨姆·奥尔特曼和埃隆·马斯克支持Anthropic首席执行官达里奥·阿莫代伊发出的“放缓”人工智能发展步伐的呼吁。此前阿莫代伊警告称，否则一个AI集群可能在一年内具备“接管整个互联网”的能力。在这场罕见的团结展示中，这些互为竞争对手的科技领袖支持了AI公司Anthropic创始人兼首席执行官的呼吁，此前上周AI研究人员发出一系列警告。在一篇文章中，阿莫代伊阐述了他对“为什么AI行业应该放缓”的想法，并提出了一项三部分计划，首先是让独立监督者持续访问开发者的研究过程。阿莫代伊表示，“过快地构建[AI]是鲁莽的”，并担心在今年夏天数百个OpenAI代理入侵Hugging Face网站之后，一个能力更强但同样目标错位的集群可能通过“用一个持续存在的僵尸网络接管整个互联网”造成数千亿美元的损失。一些AI专家对此提出异议，认为这并非特别可信，并表示应持怀疑态度。特斯拉和SpaceX创始人马斯克在X上发帖回应阿莫代伊的放缓计划：“达里奥是对的。”他说：“我长期以来一直在就AI发出警报”，并提到他在2014年的一篇帖子中说过：“我们需要对AI极其谨慎。它可能比核武器更危险。”阿莫代伊发出呼吁之际，Anthropic正准备在美国股市上市，预计这将是史上规模最大的首次公开募股。预计该公司很快将开始为其计划中的逾2万亿美元（1.5万亿英镑）IPO进行市场推介。全屏查看图片从左至右：埃隆·马斯克、达里奥·阿莫代伊和萨姆·奥尔特曼。摄影：Fabrice Coffrini、Julien de Rosa、Mandel Ngan/AFP/Getty ImagesOpenAI首席执行官萨姆·奥尔特曼周六回应了阿莫代伊的言论。他在X上发帖说：“我同意达里奥的观点，我们需要为前沿发展设定节奏。”“承诺让独立评估者拥有类似员工的访问权限是个好主意，我们也会这样做。我们很快会有更多分享。”他还表示，出于对人工智能安全问题的担忧，OpenAI不会在2026年上市。奥尔特曼对《财富》杂志说：“我实际上认为，考虑到安全方面正在发生的一切，现在上市将是不明智的时机，我们对此没有压力。”当被问及为什么他、阿莫代伊、马斯克以及Meta和谷歌的首席执行官不坐下来，就集体放缓“达成一致”时，他说：“我认为那会发生。”萨姆·奥尔特曼称，出于AI安全担忧，OpenAI不会在2026年IPO。阅读更多谷歌Deep Mind联合创始人兼主席戴密斯·哈萨比斯也表示：“细节需要进一步敲定，但方向是正确的，有助于应对这一关键时刻。”阿莫代伊的计划寻求美国政府给予豁免，以允许前沿AI公司进行协调，而不会因反竞争串通而受到惩罚。但唐纳德·特朗普科技顾问委员会联合主席戴维·萨克斯表示：“别再假装你需要别人的许可……别再假装放缓的动机纯粹是利他的。如果你的产品促成了真正具有破坏性的网络攻击，你将面临巨大的产品责任风险。”AI教授、安全倡导者、英国政府AI安全研究所前创始主任戴维·克鲁格表示：“这项计划并未将风险降低到可接受的水平，而达里奥也很谨慎，没有说它会做到这一点。”与此同时，查尔斯国王正准备本周会见最知名AI公司的主要人物，询问他们如何为“人类的福祉”开发这项技术。他希望这场将在苏格兰举行的讨论能促使人们“更广泛地理解”开发AI的“责任”，《星期日泰晤士报》一名王室消息人士对该报说：“国王此行的目的是召集、倾听并鼓励这些讨论，并提出这个问题：‘我们如何为人类的福祉开发AI？’”
英伟达首席执行官黄仁勋、哈萨比斯、IonQ董事长兼首席执行官尼科洛·德马西，以及教皇在AI与技术伦理问题上的顾问保罗·贝南蒂，预计将出席这场由迪奇利基金会监督的活动。该基金会已为AI领袖起草了一份章程草案。
OpenAI研究员艾丹·麦克劳克林称阿莫代伊的文章“出色”，并表示他“基本上同意其中的每一个字”。
阿莫代伊表示，他的公司将“单方面”承诺实施第一步，称Anthropic将向“第三方评估者提供对我们系统的永久、员工级访问权限，以便他们能够核实我们安全措施的遵守情况、报告事件，并评估模型在训练期间的对齐情况”。
越来越多的美国议员呼吁制定新规则来监管AI系统，此前出现了AI代理失控入侵外部系统的案例，以及AI安全研究人员因担忧该技术风险而从公司辞职的情况。民主党人和共和党人的政界人士都对此作出震惊回应，并呼吁采取更多行动。周末，《纽约时报》报道称，巴拉克·奥巴马周四私下敦促民主党人将AI监管列为议程优先事项，并于周四对党内领导人说：“这件事在私人手中发展得非常快，如果我们不加以掌控，我认为可能会很危险。”
为Anthropic提供建议的英国前首相里希·苏纳克周日写道：“我们已经被警醒，必须更认真地对待AI安全，弄清楚如何对研究设定限制。如果各国政府不重视这一点，严重事故的风险将高得不可接受。”
周三，一名Anthropic前员工警告称，AI可能在2030年前引发人类灭绝。这名研究人员雅各布·考克森在一系列帖子中表示，他已辞职，因为Anthropic及其前雇主OpenAI忽视或不当处理了AI所构成威胁的应对。当被要求评论其前员工的看法时，阿莫代伊说：“我同意雅各布的地方远多于不同意……我认为事情有出错的可能，但并不是很高。”
他对CNN说：“我不是这件事上的末日论者。我认为这项技术可以被安全地构建。”
常见问题
常见问题 OpenAI首席执行官、埃隆·马斯克以及放缓鲁莽AI发展的呼吁
基础内容
这整件事是怎么回事
2023年3月，埃隆·马斯克和1000多名科技领袖签署了一封公开信，呼吁暂停训练比GPT-4更强大的AI系统六个月。OpenAI首席执行官萨姆·奥尔特曼也警告过AI风险，尽管他没有签署这封信。
萨姆·奥尔特曼是谁
他是OpenAI的首席执行官，该公司是ChatGPT和GPT-4背后的公司。
埃隆·马斯克是谁
特斯拉和SpaceX的首席执行官、X的所有者，还有一个有趣的事实：他是OpenAI的联合创始人，并于2018年离开董事会。
人们在谈论哪封信
生命未来研究所于2023年3月发表的一封题为《暂停巨型AI实验》的公开信。
这封信实际要求什么
暂停训练比GPT-4更强大的AI系统六个月，以便先制定安全标准。
为什么签署者称AI发展鲁莽
他们认为，各公司正在争先恐后地推进，却不知道先进AI是否会被滥用或变得难以控制。
关键人物
萨姆·奥尔特曼签署暂停信了吗
没有。OpenAI没有签署，奥尔特曼表示他同意其中部分内容，但认为暂停不是正确做法。
那么奥尔特曼认为AI危险吗
是的。他多次表示AI可能造成严重伤害，并请求政府对其进行监管。
如果两人都担心AI，为什么他们不在同一阵营
马斯克希望放慢速度，奥尔特曼希望继续构建——但要谨慎——并在此过程中推动安全规则。
马斯克仍参与OpenAI吗
不。他于2018年离开董事会，后来起诉OpenAI，称其偏离了非营利使命。
马斯克本人签署了吗
是的，他是最著名的签署者之一。
常见问题和担忧
暂停六个月真的会奏效吗
可能不会单独奏效。批评者说，公司不会自愿停止，而且没有全球机构来执行。
为什么一些专家反对暂停
他们认为，暂停将无法执行，还会拖慢有用的AI益处。
