在超级AI的世界里，人类会怎么做？

在2008年上映的电影《机器人总动员》中，人类可谓生活在一个全自动化的、极为享受的世界里。形式迥异的AI机器人承担了所有的生产劳动。人们变得大腹便便，窝在扶手椅里看电视。苏格兰小说家伊恩·M·班克斯的《文明》系列小说则更进一步，设想出了一个这样的世界：AI变得足够强大，具有了超级智慧——能力远远超出目前所有的预想。这套小说深受亚马逊老板贝索斯和特斯拉老板马斯克的喜爱。在班克斯营造的世界里，物质短缺已经成为了历史，大部分生产都由AI“头脑”指挥。人类转而鼓捣艺术，探索浩瀚宇宙的文化，并且沉浸在单纯的享乐主义的快乐之中。

这样的构想似乎有点儿不着边际。但生成式AI——OpenAI当红的聊天机器人ChatGPT的底层技术——的快速发展，让许多人开始更认真地看待这些构想。5月22日，OpenAI的创始人发表了一篇博文称：“可以想象，在未来十年内，AI系统在大多数领域将具备超过人类的专业技术水平，并像当今最大的一家公司那样完成大量生产活动。”去年夏天，深受许多技术人员喜爱的在线预测平台Metaculus上的预测者认为，要到2040年代初才会产生这样的AI——它能通过两个小时的聊天，让人类把它误当作人；具备足够好的自动操作性能，来组装模型汽车；还能通过其他各种高难度认知测验。鉴于过去一年来AI取得的惊人突破，Metaculus上的预测者现在认为，这样的AI在2030年代初就能出现了。眼下也不缺研究资金。今年已经新出现了五家生成式AI独角兽（即估值达到或超过10亿美元的创业公司）。

通往“通用式AI”——各方面都超越人类最高水平的AI——的道路，可能要比预期的更长。随着超强AI出现的可能性越来越大，一个问题出现了：当它到来时，人类将如何？他们会成为《机器人总动员》里那样的“沙发土豆”吗？我们不妨以经济学原理为指导展开一次思想实验，试图给出一些答案。

AI可以让人类随心所欲

这样的思想实验不可避免会涉及一些相当大胆的假设。首先，我们假设AI将是仁善的、可控的，且仍可与人类相区分。我们还假设，人类文化不会因为技术进步而发生根本性的改变——就是说，人们不会变得开始热爱甚至崇拜AI。在这里，我们把AI视作工具：一个虚拟的、极其聪明又非常廉价的机器人。我们还假设，制约广泛应用AI的因素——比如，能量限制——将不再是问题。虽然这些假设没有一个能确保成立，但有助于让这样的实验进行下去。

2019年，菲利普·阿吉翁、本·琼斯、查德·琼斯三位经济学家通过建模来探索AI的影响。他们发现，如果AI可以被用来让所有的生产——包括研究过程本身——自动化，从而实现自我改进，就有可能实现爆炸性的经济增长。几乎无限量的AI可以就任何指定的难题展开合作，这为科学带来了无限可能。不过，他们的模拟成果带有一条重要的附加说明。如果AI只让大部分而不是全部的生产实现自动化，或者只让大部分而不是全部的研究过程实现自动化，就不会带来迅猛增长。三位经济学家指出：“制约经济增长的或许不是我们做得好的地方，而是那些至关重要却难以改善的部分。”

已故经济学家威廉·鲍莫尔提出的一个看法，为此提供了解释。在1965年发表的一篇论文中，鲍莫尔与同事威廉·鲍恩研究了演艺行业的报酬。他们指出，“小提琴手在普通音乐厅演奏舒伯特四重奏的每工时产出数是相对固定的”。尽管同一时期的技术进步提高了其他行业的生产率，演艺行业却没有受到影响。因为即使价格上涨，人们仍然愿意在艺术上花钱——需求“对价格变化缺乏弹性”——艺术占GDP的比重增大，从而拖累了整体经济增长。

鲍莫尔所举的例子，指向一个更广泛的原则。如果通过AI能够完全实现自动化的领域，完全替代不了AI不能完全自动化的领域，并且对不可自动化的行业的需求又难以撼动，那么，低生产率部门在GDP中的占比就会上升，从而拉低整体经济增长。阿吉翁等三位经济学家指出，事实上，上世纪很多时候就是这种情况。科技让农业与制造业的大量领域实现了自动化，压低了它们产出的相对价格。结果就是，人们把更多的收入花在了教育、医疗、娱乐等生产率没有得到同样提升的行业上。

在一个AI比最能干的人还要更能干的世界里，鲍莫尔的说法还能成立吗？如果AI一直不能拥有可行为的有形实体——原因也许是人形机器人技术的进步赶不上计算技术——那么答案无疑是肯定的。大部分经济领域显然都需要身体的参与，包括建筑业、制造业。有不计其数的工种同时需要聪明才智和行走于有形世界的能力，比如：医疗行业中的许多岗位。在AI开始主导认知型工作的场景下，这些工作的重要性只会增加。人类或许会在AI“老板”或“教授”的指导下，在有形世界里工作。

但如果超强AI也发展出了超级类人机器人，又会怎么样呢？物质需求几乎肯定会由机器人来满足。那么，你可能会预期人类将停止辛勤劳作，就像《机器人总动员》里的场景一样。事实上，另一位经济学家凯恩斯在他1939年撰写的文章《我们后代的经济前景》中就推测，一个世纪后人们每周的工作时间将少于15个小时。凯恩斯预言，科技带来的增长将解决“经济问题”，并让人们将注意力转向那些本身就令人愉悦的活动。诚然，凯恩斯的每周工作15个小时的愿景还没有实现——但如他所料，财富水平的提高——可能会增加休闲的吸引力——确实已经缩短了工作时长。富裕国家的每周平均工作时长，已经从上世纪后期的约60小时下降到今天的不到40小时。

然而，即使是在一个有超强类人AI的世界里，有些需求也许还是只有人类才能满足。同样值得注意的是，本身就让人愉悦的活动可能也包含工作。我们不妨看一下人类可能仍然发挥作用的三个领域：与娱乐难以区分的工作、娱乐本身、人类能保持某种优势的工作。

嬉戏与游戏

先说工作和娱乐之间的模糊边界。虽然过去一个世纪里工作时长减少了，但大部分发生在1980年代之前。如今，富人比穷人工作更久的情况日益多见。对于这种反常的走向，可以从凯恩斯的文章中找到线索。他将人类的欲望分为两种：“一种是绝对意义上的需求，即无论其他人的处境如何，都会感受到这种需求；另一种是相对的需求，即只有这些需求带来的满足感让我们感受到高人一等的优越感时，我们才会感受到它们。”

凯恩斯或许低估了这第二种需求的规模。愤世嫉俗的人可能会说，整个学术界都陷入了这第二类需求：其存在对世界没有明显的价值——然而，学者们还是投身于以才智论地位的激烈竞争中。经济学家会说，对许多人来说，工作已经成了一种“消费品”，它提供的效用远远超过其所带来的收入。

为什么人们可能不会完全停止工作？各种比赛为这个问题的答案，提供了另一个线索。有数以百万计的人从事娱乐和体育方面的工作，在一些人认为无关紧要的活动中争夺影响力。当AI在比赛中超越人类时，人们观看此类比赛的兴趣也许会下降。但是，从人类已经屈居AI之下的一些体育运动来看，情况并非如此。自1997年IBM的“深蓝”在国际象棋比赛中击败国际象棋大师加里·卡斯帕罗夫以来，人们对这种比赛的兴趣有增无减。其他被AI干掉的游戏，包括古老的中国棋盘游戏围棋和电竞游戏，也呈现了类似的模式。过去十年，全球电子游戏玩家人数几乎翻了一番，去年达到32亿人。如今，越来越多的玩家靠参赛或直播为生。

AI可能会增强这种兴趣。正如班克斯推测的那样，人类可能会专门从事“人生中真正（重要的）事情，比如，运动、游戏、恋爱、研究已经无人使用的语言、蛮族社会、一些无解的难题，以及徒手登山。”其他人想必也愿意看人做这些事情。

人们似乎不太可能把政治控制权交给机器人。相反，一旦AI超越人类，人们可能会更加密切地关注政治。人们可能会把一些政治任务交给机器人——例如，人类可以把各种人的偏好输入进一个AI模型，让它给出平衡这些偏好的建议。然而，正如包括17世纪的约翰·洛克和上世纪的约翰·罗尔斯在内的一些政治哲学家所认为的那样，公民参与到政治程序中，便会让大家认为结果具有合法性。一些更愤世嫉俗的看法，也会得出同样的预测。人就喜欢对他人施加影响，即使在一个所有人的基本需求，都由机器来满足的世界里也是一样。事实上，在从投票到花在政治上的时间等一系列指标上，最富有的1%的美国人参与政治的比例，是普通公众的两到三倍。

最后来看人类在提供商品或服务方面具有优势的领域，暂且称之为“人类溢价”。即使在有超先进AI的时代，这种溢价也会维持对人类劳动力的需求。人类可能具有溢价的地方，是公布私密信息。只要人们比机器更愿意与其他人分享自己的秘密，那些受到信任的人就会有用武之地——有选择性地向世人透露这些信息，使之可以为机器摄取。也许，调查记者仍然会保住饭碗。

这里所谓的“人类溢价”，也可能出现在其他地方。人们珍视历史、神话、意义。可在区块链上验证出处的非同质化代币的价值，通常比具有相同像素但来历不同的图像高出许多倍。在看护和治疗等领域，人们从花费自己宝贵的时间来陪护他们的人那里获得价值，这为互动增添了情感。人造钻石的分子结构与天然钻石相同，但交易价格却大打折扣，据估计只有天然钻石的30%左右。在未来，带有“人类制造”标签的物品可能会特别受追捧。

人的问题

如果这种溢价特别高，甚至有可能拖累经济增长。将经济部门划分为高人类溢价的部分与没有人类溢价的部门来看，如果人类不用机器产出的商品和服务来取代人类自己产出的商品和服务，那么，鲍莫尔效应只会变得更严重。测得的经济增长，甚至为零。事实上，如果极其强大的AI没能强有力地推动增长，那就意味着经济重心已经从物质消费转向了娱乐、政治，以及那些人们最看重的东西是人际互动的领域。

也许有一天，AI会产生全新的商品和服务，能够战胜人类取悦他人和与他人互动的欲望。这样一场竞赛会如何展开，将掲示一些深刻的东西：人类到底在多大程度上是一种“社会动物”？