专家警告称,人工智能可能在未来十年内消灭所有人类——但我们对这些说法应持多大程度的认真态度?
人工智能超级智能真的比核武器威胁更大吗?发生切尔诺贝利规模灾难的可能性真的存在吗?人工智能在未来十年内“消灭所有人类”的可能性是否真的超过10%? 过去两天,英国和美国都发出了这些警告,涉及一项大多数人仍视为更健谈的搜索引擎的技术。 其中一些担忧在威斯敏斯特被提出,议员和上议院成员已开始调查人工智能超越人类能力的危险。核武器比较来自前国防大臣德斯·布朗和伯克利知名计算机科学家斯图尔特·罗素教授。 因领导国际废除核武器运动而获得2017年诺贝尔和平奖的比阿特丽斯·菲恩告诉议员们:“这不是我们第一次面对可能最终杀死我们所有人的能力。” 周一的会议是由游说团体Control AI组织的,该团体推动制定关于该技术的国际规则。它支持工党议员亚历克斯·索贝尔本周在议会提出的法案,旨在禁止创造人工智能超级智能(ASI)。 周二晚上,Anthropic的一名高级员工承认,他相信该技术在未来十年内“杀死所有人类”的可能性超过10%。他还警告说,他的人工智能公司没有计划确保ASI保持一致,这意味着它不会造成伤害。对ASI可能到来的时间预测从几年到十多年不等。 领导Anthropic一致性科学的埃文·胡宾格在旧金山公司28岁研究员雅各布·考克森(此前在OpenAI工作)辞职后发布了这条评论。考克森声称“两家公司都没有负责任地行事”,并表示他们“拿我们的生命赌博”。 考克森说,Anthropic的风险已被充分理解,但公司“陷入了一场抢先到达的竞赛”。作为一线希望,他补充说,他对美国实验室合作减缓竞赛进展的可能性感到乐观。 Anthropic已被要求就此事发表评论。OpenAI引用了其首席科学家雅库布·帕霍茨基的声明,他上周表示:“未来人工智能发展的国际合作需要成为世界各国政府的首要任务。” 推动更广泛的合作来控制ASI是本周威斯敏斯特活动的核心。据《金融时报》报道,政府官员对Anthropic拒绝在发布前将其最新模型——Mythos 5.1——提交给英国人工智能安全研究所进行测试表示担忧。 内阁办公室确认,只有少数美国组织能够访问Mythos 5.1。一位发言人补充说:“人工智能安全研究所继续与包括Anthropic在内的行业合作伙伴密切合作。” 工党议员达伦·琼斯已致信世界领导人,呼吁签署多边条约以确保人工智能安全发展。他致信首相、安迪·伯纳姆以及联合国和经合组织的负责人,呼吁“签署一项关于受监管和安全发展超级智能的多边条约——不是禁止创新或科学工作,而是对这项技术的快速发展采取安全第一的方法。” 提到考克森的辞职,琼斯补充说:“辩论范围从人类终结到‘营销炒作’的说法。无论哪种方式,政府现在都必须介入。” 在大西洋彼岸,伯尼·桑德斯本周加强了他的人工智能安全运动,再次呼吁国会监管该技术。他引用的民调显示,81%的美国人认为他们的政治家应该采取行动。 这位佛蒙特州独立参议员说:“我们不能允许少数贪婪的人扮演上帝,在没有公众意见的情况下决定人类的未来——我们的经济、环境、民主、隐私等等。” 最新通讯推广 免费通讯 | 每周 订阅TechScape 每周深入探讨技术如何塑造我们的生活 输入您的电子邮件 订阅 通讯推广后 全屏查看图片 美国参议员伯尼·桑德斯希望国会监管“贪婪的”人工智能行业。摄影:琳达·尼林德/《卫报》 ControlAI由Skype联合创始人、亿万富翁贾恩·塔林资助,他自称“反灭绝主义者”。他将部分财富投入人工智能安全运动,并表示一些高级人工智能高管对人类被消灭毫不在意。...