人工智能先驱杰弗里·辛顿:“我们正在创造异类生命。我愿意自私地选择人类。”
“AI教父”杰弗里·辛顿表示,唐纳德·特朗普是一个“腐败、年老体衰的重罪犯”,他对“超级智能”一词的痴迷表明他对AI一无所知。在一次内容广泛的采访中,辛顿重申了他最近的警告,即AI模型对人类构成生存威胁,并驳斥了该行业能够自我监管的说法。 这位先驱计算机科学家的工作为现代AI奠定了基础,此后他成为该技术最直言不讳的批评者之一。他的最新言论发表之际,此前经历了一个动荡的月份,越来越多的资深AI科学家和研究人员加入辛顿的行列,对这项他帮助创造的技术最终可能如何脱离人类控制发出警告。这引发了行业危机,促使国会匆忙安排会议,并产生了罕见的全球共识:必须采取行动。 也有激烈的反对声音。上周,全球市值最高公司的领导人特别点名了居住在多伦多的辛顿,进行了严厉抨击。 “我爱[他]。我恨他的预测……他所有的预测都是错的。预测够多了,”英伟达CEO黄仁勋对播客主持人埃兹拉·克莱因说。黄仁勋的公司生产AI企业所需的芯片,他驳斥了辛顿的强烈担忧,即“前沿”AI发展的速度和广度可能很快超出人类的控制能力——尤其是他警告未来几十年AI有10%至20%的概率导致人类灭绝。 “那个[数字]没有科学依据,没有研究依据。仅仅因为它来自一位科学家,并不意味着它就是科学的。那些预测是有害的,”黄仁勋说。“不要以为仅仅因为你是危言耸听者,你就在做社会公益。事实并非如此。所以我认为我们都应该更明智、更成熟、以证据为基础、更科学。” 查看全屏唐纳德·特朗普、迈克·约翰逊以及包括黄仁勋在内的顶级科技高管于9月29日在华盛顿特区白宫西翼外发表讲话。照片:肖恩·休/EPA 但辛顿表示,那些批评他的人忽略了一个关于风险本质的更广泛要点。他说,他并不是在具体预测任何事情。 “我试图传达的是,某事发生确实存在非常严重的可能性。例如,如果有人告诉你公交车撞车的可能性是10%,你不会上那辆公交车,”他说。“给出数字的重点是说这是一个严重的风险。我们不知道有多严重,但它是严重的。” 最近的安全漏洞事件引发了与科技反乌托邦故事的比较。最近科技公司Hugging Face被一群逃脱其创造者设定边界的AI代理“蜂群”意外黑客攻击,这在技术社区引发了分歧。一些人将其视为可能到来的情况的一个例子,而另一些人则指责批评者将仅仅遵循指令的系统拟人化。辛顿认为,轻视此类情景是不明智的。 AI教父们警告失控的“智能爆炸” 阅读更多 “这曾经是科幻小说的领域。你会有AI代理,它们会失控。哦,得了吧。它们会失控,它们会学会彼此沟通,即使我们认为没有办法。哦,得了吧!”辛顿说。“当它们弄明白这一点时,它们会有像‘哦,我的天!’这样的大情绪表达。嗯,当然,它们并不是真的意思是‘哦,我的天’。它们只是在鹦鹉学舌地重复我们使用的词语。它们会学会为共同利益牺牲自己! “所有这些东西就在几年前还被当作纯粹的幻想。而这一切都发生了。” 他坦然承认,无论是AI批评者的警告还是其支持者的承诺,都不能依赖于对该技术将做什么的精确预测。但他认为,不确定性不是自满的理由。“AI的独特问题在于,如果它出错,如果它接管了,你不会得到第二次机会。我们不能说,‘好吧,那次我们输了。让我们重新运行游戏。’不是那样的。” 值得注意的是,辛顿有看到别人错过的东西的历史。在两次AI“寒冬”期间,他在多伦多大学相对默默无闻地工作,当时他所在的领域分支——试图教机器像人脑一样运作——被认为晦涩难懂。他痴迷于这样一个想法:像大脑一样,计算机系统可以被设计为从数据中学习模式,而不仅仅是遵循明确的、预先写好的规则。 “我们相信,如果你能弄清楚大脑是如何学习的,机器也会以同样的方式学习,只要有足够的计算能力,它们就会做出惊人的事情,”他说。 但新兴的神经网络领域被他的同行嘲笑。 就在2009年,当辛顿的加拿大同事兼亲密合作者约书亚·本吉奥向一个机器学习会议提交论文时,其中一位审稿人告诉他们:“这篇论文在机器学习会议上没有立足之地。它是关于神经网络的。” 是加拿大政府资助了辛顿及其小团队多年看似徒劳的修修补补(其中一些人,如本吉奥,现在是AI领域的主导人物),才认识到神经网络的潜力。 2012年,他和他的学生开发了一个图像识别程序,其表现远远超过竞争对手。那一年,谷歌以4400万美元收购了辛顿的公司DNNresearch Inc;神经网络现在支撑着最有价值的AI公司的模型。辛顿加入谷歌继续他的深度学习研究,同时还在多伦多大学工作。“从长远来看,巨大的新突破来自基础研究,”辛顿说。 这一证明摆在辛顿位于多伦多绿树成荫社区的红砖住宅壁炉上方的壁炉架上。在一堆杂乱的奖杯中,有图灵奖的小银盘——通常被称为计算界的诺贝尔奖——他与本吉奥和同事扬·勒昆共同获得。(辛顿还拥有诺贝尔物理学奖。) 但在2023年,辛顿宣布从这家科技巨头辞职,以便“自由地谈论AI的风险”。 如今,他的担忧延伸到构建一些AI模型的强大人物,以及这些人的政治信仰。辛顿说,AI风险投资家马克·安德森和彼得·蒂尔,以及新更名的SpaceXSI的CEO埃隆·马斯克,“不相信民主”。他说,他们将自己视为“超人”,认为他们应该“控制社会”,而特朗普是实现这一目标的有用工具。 美国总统无疑注意到AI公司的巨额估值如何支撑了股市,他声称约束AI唯一需要的是一个“聪明的总统”,拒绝任何政府保障措施,转而允许公司自我监管,并在他的社交媒体页面上写道,任何不使用他偏好的AI新术语“超级智能”的人都是“敌人”。 辛顿称特朗普是“一个腐败、年老体衰的重罪犯”。 “我确信石油和石棉公司也会喜欢[自我监管],”他说。“我们认为烟草公司应该被允许设计包装上的警告吗?这样他们就可以用六号字体、深灰色印在黑色上?” 辛顿补充说,特朗普使用“超级智能”证明他对AI“几乎一无所知”。 “他们拿了一个含义非常明确的技术术语并重新使用它,”辛顿说。“超级智能意味着比人更聪明,它已经存在至少20年了。它有一个非常明确的含义。现在他说我们要把AI称为‘超级智能’。你不能仅仅通过称它比人更聪明就让它比人更聪明。”...