至此，应当已经显而易见：人工智能就像一本“选择你自己的冒险”之书，而每一条路径都通向灾难。碳排放爆炸和生态崩溃？翻到第37页。其他可能的结果包括以下部分或全部：泡沫破裂并引发金融危机；自动化导致大规模失业；民主终结和威权监控国家的崛起；狂热邪教相信模式匹配算法具有意识；恐怖分子制造毁灭性的生物武器；国家部署人类无法理解的时间尺度上运作的自主武器；国家或恐怖分子入侵我们依赖的无数系统；或者一个人工智能，无论是否有意识，追求与人类福祉相冲突的目标。
想象像埃隆·马斯克、OpenAI的山姆·奥特曼、Palantir的彼得·蒂尔，或特朗普的科技顾问马克·安德森这样的人会带领我们走向环境和谐、社会和平和无限闲暇的乌托邦未来，需要如此极端的妄想和奉承，以至于只有ChatGPT编写的“选择你自己的冒险”才能构想出来。
人们越来越认识到我们正走向灾难——尽管这种认识姗姗来迟——同时也有呼吁放慢脚步、加强监管，甚至在我们搞清楚这一切之前按下暂停键。这些呼吁不仅来自活动人士，也来自广泛的政治家、专家和大型科技公司内部人士，其多样性不容忽视——从伯尼·桑德斯到比尔·盖茨，后者最近表示：“如果有人有一个可信的计划来在全球范围内减缓人工智能的发展，我很可能会支持。”他刚刚成为最新一位承认这一点的内部人士，而人工智能公司Anthropic在今年夏初也呼吁设置一个“刹车踏板”。行业的自我约束不会奏效。如果要暂停，必须从外部施加。
尽管如此，达成国际协议的可能性令人遗憾地渺茫。人工智能就像核武器，遵循同样的逻辑：每个参与者都被迫进行这场鲁莽的竞赛，唯一的理由是它们不想受制于任何获胜者。减缓事态发展的最佳机会，似乎是由一个参与者控制一个关键的瓶颈，并有理由将其关闭。有趣的是，欧盟恰好持有这样一张牌——而且甚至有动机打出它，如果它敢的话。
查看全屏图片
台湾芯片制造商台积电位于中国南京的工厂。摄影：Sipa US/Alamy
荷兰科技公司ASML是欧洲最有价值的公司，这得益于其生产极紫外（EUV）光刻机。这些机器对于世界上最先进的芯片制造至关重要，并且是整个AI行业少数几个可能的瓶颈之一。ASML掌握了建造这些价值4亿美元机器所需的技术和复杂供应链，这些机器通过将光聚焦到13.5纳米波长（约人类头发宽度的万分之一）来在硅片上蚀刻图案。没有它的机器，就没有芯片；没有芯片，就没有更多的数据中心。这影响到从台湾芯片制造商台积电对未来制造工厂（称为“晶圆厂”）的2650亿美元投资，到该行业预计到2030年在全球（主要在美国）建造的价值7万亿美元的数据中心。如果没有更多使用这些当前和下一代芯片的数据中心，人工智能的指数级增长——以及风险——将戛然而止。
这就是为什么美国政府对外施加出口管制于ASML，阻止其最先进的EUV机器销售到中国，以减缓其芯片制造能力。通过对ASML施加这些限制，美国暴露了自身在这个瓶颈上的弱点：正如欧洲依赖美国（最终可替代的）金融和软件服务一样，所有基于芯片的技术的未来完全依赖于ASML。直接禁止ASML机器的出口将迫使全球AI行业实际上就像踩水或在原地慢跑。由此产生的芯片短缺和AI发展放缓将给监管机构时间赶上技术，给立法者时间更新从版权法到税法的一切，给社会时间就我们希望AI在我们生活中扮演的角色进行真正的辩论。
欧盟为什么要这样做？不仅仅出于人道主义原因，还出于自身利益。在最好的情况下，全面出口禁令将导致供应链重组，并将更多关键决策置于欧盟控制之下——在那里，它们将受到唯一表现出愿意广泛监管AI的参与者的监督。当然，最好的情况是一种奢望：更可能的是，美国会通过阻止ASML接触美国供应商来进行报复。但即使发生这种情况，基于纯粹经济和地缘政治自身利益的狭隘逻辑，欧盟挑起这样的摊牌仍然符合其利益，因为欧盟在AI模型和运行这些模型所需的数据中心“算力”（处理能力）方面的相对落后将停止加剧。
欧洲自己的AI倡导者也同意这一点——尽管他们担心的是欧盟的相对劣势，而不是AI的广泛风险。“欧洲2031”项目是一个技术政治预测，由一组行业专家编制，内容是关于如果AI彻底改变经济而欧盟远远落后于美国，欧盟可能会发生什么。他们认为，欧洲必须在前沿模型和“算力”成为像台积电和ASML今天这样的东西之前，向AI军备竞赛投入数千亿欧元：受益于任何竞争对手都无法弥合的鸿沟。
在他们的设想中，在不久的将来的某个时候，欧盟将被迫将ASML的准入权摆上桌面，以确保获得其经济和安全所依赖的美国控制的模型和算力——结果却发现ASML的主导地位随着时间的推移而削弱。（出口的EUV机器越多，其他地方建造的晶圆厂就越多，中国和美国就有越多的时间来复制ASML的技术。）
核武器理论家担心，如果不可想象的事情发生，国家可能会因为“要么使用，要么失去”的计算而被推向发射。完全相同的逻辑适用于唯一能够阻止AI行业飞速发展的事物：欧盟可以利用ASML现在赋予它的杠杆，或者冒着完全失去这个机会的风险。很少有如此不同的群体得出相同的结论：有一张欧洲牌可以打，而且必须打。与其奔向愚蠢，不如让我们停止这场竞赛。现在，为了所有人。
亚历山大·赫斯特从巴黎为《卫报欧洲》撰稿。他的回忆录《绝望一代》现已出版。
常见问题解答
以下是根据文章前提列出的常见问题解答列表，从初级到高级不等
初级问题
1 什么是AI军备竞赛？
这是科技巨头之间争先恐后构建最强大AI的疯狂竞争。他们不是优先考虑安全或伦理，而是急于发布新模型以击败竞争对手并抢占市场份额。
2 为什么比尔·盖茨和伯尼·桑德斯在这个问题上意见一致？
他们来自完全不同的政治阵营，但都看到了同样的危险。盖茨担心AI失控于人类控制并导致大规模失业。桑德斯担心不受约束的企业权力以及AI被用来剥削工人或操纵公众。他们都认为纯粹的利润动机不应决定人类的未来。
3 为什么特别提到欧洲是唯一能阻止它的地方？
因为美国和中国陷入了一场赢家通吃的科技战争，不会放慢脚步。然而，欧洲并不是AI竞赛的领导者，所以它失去的较少。更重要的是，欧盟有通过严格法规并适用于全世界的记录——如果你想在欧洲做生意，就必须遵守他们的规则。
4 “阻止它”到底是什么意思？
这并不意味着完全禁止AI。这意味着停止危险的竞赛。这意味着强制执行严格的安全测试，要求对AI能做什么保持透明，并对发布不安全产品的公司处以重罚。这是关于强制放慢速度，以确保安全赶上速度。
5 AI军备竞赛真的是灾难吗？
论点是这样的。灾难不在于AI存在——而在于速度。公司在理解这些强大工具将如何影响选举、就业或心理健康之前就将其推出。灾难在于鲁莽，而不是技术本身。
高级问题
6 欧洲监管如何真正阻止美国公司？
欧盟具有“布鲁塞尔效应”。如果像Meta或OpenAI这样的美国公司想服务4.5亿欧洲消费者，它们必须遵守欧盟法律。如果欧盟说未经第三方安全审计不能部署超级智能模型，该公司就必须在全球范围内进行该审计，
