人们什么时候才会认为人工智能的风险大于其前景？

2015年6月，Sam Altman曾在一次技术会议上表示：“我认为人工智能很可能会给世界带来毁灭。但与此同时，也会有优秀的公司借助严谨的机器学习技术诞生。”

他的评论让人想起了那种发表在 《纽约客》杂志上的某种后世界末日漫画，但时任创业加速器Y Combinator总裁的Altman似乎并不是在开玩笑。他紧接着就宣布，自己刚刚资助了一家专注于“人工智能安全研究”的新公司。这家公司就是OpenAI，现在以ChatGPT的创造者而闻名。

自那以后，针对人工智能的同时出现的欢呼声和末世预言愈发响亮。斯坦福商学院经济学教授Charles Jones一直饶有兴致地关注着像Altman这样的开发者和投资者如何应对这项快速发展的技术的核心困境。“他们承认人工智能具有双刃剑的一面：它可能比电力或互联网更重要，但它似乎也可能比核武器更危险。” 他说。

出于好奇，经济增长建模专家Jones对人工智能推动的生产力增长与生存风险之间的关系进行了一些粗略的计算，得出的结论让他感到惊讶。他以此为基础发表了一篇新论文，在文中提出了一些评估人工智能利弊的模型。虽然这些模型无法预测高级人工智能何时或是否会失控，但它们展示了经济增长、生存风险和风险承受能力等变量将如何塑造人工智能和人类的未来。

Jones强调，这里面仍有许多未知数。我们无法准确估计人工智能将带来新的繁荣时代或毁灭我们所有人的可能性。Jones指出，这两种结果也许都不太可能发生，但它们之间可能存在关联。“看起来，这个神奇的人工智能可以帮助我们创新并大幅提高增长率，也同样会带来真实存在的生存风险。” 他说，“也许这两件事是相辅相成的。”

机器的崛起

Jones的模型始于这样一个假设：人工智能可以带来前所未有的经济增长。正如人类提出的新想法推动了过去几个世纪的进步一样，人工智能产生的新想法可能会推动下一波创新。最大的不同在于，人工智能不需要多年的教育就能产生突破性的研究或创新。“它是一个计算机程序，这意味着你可以启动一百万个实例，” Jones说，“然后你就会有一百万个非常聪明的研究人员为你解答问题。”

一旦规模定律发挥作用，人工智能的能力呈指数级增长，我们可能会看到前所未有的经济扩张。Jones采用最乐观的预测之一计算出，如果人工智能推动10%的年增长率，全球收入将在40年内增长50多倍。相比之下，美国的实际人均GDP在过去40年里只翻了一番。

看起来，这个神奇的人工智能可以帮助我们创新并大幅提高增长率，也同样会带来真实存在的生存风险。
– Charles Jones

现在我们再来看看缺点：假设如此惊人的增长伴随着人工智能在某一年终结世界的1%的可能性。在什么时候我们会决定所有这些提高的生产力不值得承担随之而来的风险呢？为了估计这一点，Jones建立了一个简单的模型，使用在衡量消费者偏好时常用的对数效用曲线来表示对风险的厌恶。他通过计算发现，人们会接受人工智能在未来40年内终结人类的巨大可能性。

“这里令人惊讶的是，在简单模型中具有对数偏好的人愿意冒着三分之一的杀死所有人的风险，以获得50倍的消费增长。” Jones说。然而，即使是这些冒险者也有一个极限：当人工智能带来的生存风险加倍时，对数效用下的理想结果是根本不让人工智能运行。

在人们的风险承受能力较低的情况下，他们会接受较慢的增长以换取较低的风险。这就提出了一个问题：谁的利益将引导人工智能的发展。“如果设计这些人工智能的企业家对风险的承受能力要高于普通人，他们可能更愿意冒这些险。” Jones说。

然而，他的论文也表明，可能并不是像美国这样的富裕国家最愿意冒着让人工智能失控的风险。“当你贫穷时，多赚一千美元确实很有价值，而当你富有时，同样的事情就没那么有价值了。” 他解释道。因此，如果人工智能给较贫穷的国家的生活水平带来巨大提高，那么这些国家可能会更能容忍人工智能带来的风险。
健康、富有…而且明智？

Jones还建立了一个更复杂的模型，该模型考虑了人工智能帮助我们过上更健康、更长寿的生活的可能性。“除了发明更安全的核能、更快的计算机芯片和更好的太阳能电池板之外，人工智能还可能治愈癌症和心脏病。” 他说。这些突破将进一步使我们与这种双刃剑技术的关系复杂化。如果平均预期寿命翻倍，即使是最厌恶风险的人也会更愿意冒险使用人工智能。“令人惊讶的是，将死亡率降低一半会突然将你接受生存风险的意愿从4%提高到25%甚至更高。” Jones解释道。换句话说，如果奖品是活到200岁的机会，人们会更愿意进行赌博。

这些模型还表明，人工智能可以减轻出生率下降的影响，这是Jones最近撰写的另一个主题。“如果机器能够创造创意，那么人口增长放缓可能就不是什么大问题了。” 他说。

Jones的模型为人工智能最疯狂的愿景提供了洞见，例如奇点—技术增长无限的传说时刻。他发现，从实际角度来看，加速增长可能很难与奇点区分开来。“如果增长率达到每年10%，那就和奇点一样好。” 他说，“我们都会像比尔盖茨一样富有。”

总体而言，Jones警告称，他的所有研究结果都不是预测性的或规范性的，而是旨在帮助我们完善对人工智能这把双刃剑的思考。随着我们奔向一个人工智能无法关闭的未来，量化和限制灾难可能性的努力将变得更加重要。“任何降低这种风险的投资都是非常有价值的。” Jones说。