我们究竟想要什么？

先聊聊游戏

在展开这个宏大标题下的话题之前，我想先谈谈电子游戏。

我认为，电子游戏值得我们投入更多关注，而不该被简单地视为一种堕落的亚文化娱乐。它们揭示了屏幕之外的现代世界中一些深刻的东西。

我喜欢玩游戏。小时候玩得很多，现在也偶尔玩。从很小的时候起，我就一直好奇：人们究竟怎样精心设计各种机制，让一款软件有趣到足以使人在上面花费数小时？

但最近，在尝试自己做一些工具和应用之后，这种好奇几乎变成了钦佩。原来，想让人花上哪怕几分钟使用某个东西，即便免费，也是一件十分困难的事。

《暗黑破坏神 II》：一款让玩家自发组织市场、发明准货币的游戏

我想先唤起一段来自千禧年代的遥远记忆，以及那个时代一件颇有影响力的文化作品：《暗黑破坏神 II》。

在这款黑暗奇幻题材的角色扮演冒险游戏中，玩家扮演一名战士，穿越中世纪村庄、带有古埃及风格的沙漠遗迹和原始丛林，击败神话中的恶魔，拯救世界。

至少，大多数人是这样认识和记住这款游戏的。

但如果你听说有人花了几百个小时，反复刷取属性复杂的独特装备，那么你听到的很可能就是这款游戏，或者它的某个直接继承者。

《暗黑破坏神 II》真正引人入胜的机制，并不是击败最终首领——事实上，每次玩家退出再重新进入游戏，它们都会复活——而是在一套精心设计的系统中刷取并拥有装备。

玩家击败敌人后，敌人会随机掉落品质和稀有度各异的物品。武器、盔甲、戒指和珠宝带有不同属性，例如伤害数值，或对角色某些能力的增强。它们的名称有时带有前缀与后缀，用来描述这些属性，或者唤起背景故事，甚至都市传说。

小时候，有人告诉我，如果把六枚符文按特定顺序嵌入一把有六个凹槽的武器——Vex、Hel、El、Eld、Zod、Eth，首字母连起来是“VHEEZE”，听起来像英语的“wheeze”——就能造出一件传说中极其强大的武器，叫作“死亡呼吸”（Breath of the Dying），简称 BOTD。

我以为那个人在胡说。但游戏还真就是这样设计的。

这些机制鼓励玩家去研究、寻找并拥有各种物品。随机掉落让游戏带上了几分赌博的意味，而有限的背包空间又迫使玩家认真审视装备，而不是捡起来就忘在一边。

正如《奥地利经济学评论》发表的一篇论文所观察到的，玩家收集装备的热情如此高涨，以至于为了绕过背包空间的限制，他们会专门创建新角色来存放更多物品；这些角色在网络社区里被称为“骡子”（mules）。

玩家还会用自己想交换的商品为多人游戏房间命名，通常就是“用 X 换 Y”。某些宝石和首饰也自然而然地演化成了准货币。

正如这一类型后来被称为 looter，也就是以刷宝为核心的游戏，所暗示的那样，它从根本上关乎占有的欲望。

这也就是为什么，其中会涌现出那么多有趣的经济现象。

魔力究竟在哪里？

抱歉，花了这么多篇幅讨论许多非玩家可能并不关心的细节。但正如你即将看到的，它们与这篇文章真正关心的问题紧密相关。

不过，在进入正题之前，我还得提起电子游戏史上的另外几个名字。

如果我们梳理那些定义了这一媒介、影响最深远的游戏——未必商业上最成功，却足以催生整个类型的作品——就会发现，它们有一个共同点。

这些游戏都赋予玩家某种形式的能动性。

《暗黑破坏神》让玩家有理由认真权衡获取与占有；《塞尔达传说》给玩家一个可以探索的世界，以及可以展开的冒险；《毁灭战士》和《黑暗之魂》则把玩家放进一个可以反复训练、掌握技巧、变得更强更熟练的环境，就像练习篮球或棒球一样。

我的假设是，电子游戏被称为“互动娱乐”，是有原因的。

它们之所以吸引人，是因为它们把现代生活中许多人所缺少的东西还给了我们：一种能动感，一种能够掌控周围环境、并获得即时反馈的自由。

数百万年的演化，塑造了我们与世界互动、评估所得反馈的倾向。

我们学习什么能吃、什么应该避开等基本生存技能，部分依靠与周围环境的直接互动，而不是完全依赖社会传授的知识。

但现代社会夺走了其中很大一部分，即使不是全部。

在学校里，我们学习多年，却很少产出切实可见的成果。我们通过无数看似毫无意义的考试，有时仅仅是为了向社会系统提供足够的信号，好让它分配教育资源。

工作以后，头衔、资历、KPI 和市场结果成为生活的重心，我们往往连重新想一想的机会都没有。更糟的是，许多人只是陷在日复一日的例行事务里。

成为机器里的一颗齿轮。

我们被限制在狭窄的专业分工中，因为只有这些分工才能在激烈的市场竞争下生存。若不参照学校、公司、国家这些庞大而抽象的机构所制定的规则和方向，我们便很难再感受到自己的决定与行动带来的直接影响。

事实上，这些规则和纪律本身，就是训练我们服从、习惯成为系统一部分的方式。

当然，制度也让一些人得以获得更多资源，为共同目标行动，从而扩大他们的能动性。但并不是每个人都有这样的机会，而且即便有，很多时候他们也不会这样感受。

现代社会让我们的许多能动性从属于建立在理性主义原则之上的制度。问题未必在于制度本身，而在于谁有权决定它们的目标，以及个人对于协调自身生活的系统究竟还保有多少控制权。

我们被要求相信数字、操作手册与算法；一旦违背它们，往往就会感到迷失或孤立，就像陀思妥耶夫斯基《地下室手记》里的那个人。

而游戏，把这一切还给了我们。

规则之内的能动性

我相信，许多人最终都会对游戏祛魅。

一个原因是，随着年龄增长，我们意识到屏幕背后并没有什么魔法，只有循环调用的函数，以及存储在内存中的世界状态。

但更重要的是，游戏提供的能动性受到一种很容易被忽略的限制。

想想 NES 上的《超级马力欧兄弟》。屏幕分辨率是 256 × 240，共 61,440 个像素，通常可见的区域是 256 × 224。游戏中能够到达的状态——能去的地方、能遇到的情境、能采取的行动——是有限的，至少在一个固定的实现版本中如此。

玩家确实拥有选择，但支配这个世界的机制是预先确定的，即便这些机制会产生出人意料的行为。

玩家可以发现并利用漏洞，但如果不修改游戏本身，就无法自由创造底层系统所不允许的可能性。

杰森·施赖尔在《血、汗与像素》（2017）中讲过一个关于《暗黑破坏神 III》的有趣故事。据说，玩家发现打碎罐子等场景物件，竟然是一种相当有效的刷取贵重物品的方法。于是，有些人花了数小时，几乎什么也不做，只顾砸罐子，而不是与敌人战斗。

游戏赋予人的能动性是真实的，但它大多发生在玩家几乎无权改变的规则和目标之内。

现实生活中的制度也是如此。

我们对黄金的偏好，在很大程度上是社会和制度建构的结果。从这个角度看，它与渴望《暗黑破坏神 II》中的某件物品，并没有本质区别。

我们甚至可以进一步说，游戏是制度本身高度风格化的浓缩，只不过披上了娱乐的外衣。

两者都会建立由激励、规则和奖励组成的系统，人们在其中追逐特定目标，有时还会在这个过程中创造出全新的制度。

而这正是社交媒体进入画面的地方。电子游戏中经过设计的激励，大多运作在一个有边界的虚拟世界里；社交媒体平台却把类似机制直接施加于我们借以理解现实世界的信息和关系之上。

当然，有些人确实能从 X 或 Instagram 获取有用的信息。但我认为，对于很大一部分受众而言，社交媒体本质上是一台塑造现实的机器。

生活变成了精致的度假照片和比基尼；观点和政治阵营变成了 X 上的评论与转发。

更糟的是，由算法引导的信息分配，不仅塑造我们知道什么，也塑造我们的感受，逐渐铸造出一种新的现实。

表演和追求地位的倾向，改变了我们如何看待和评估与他人的关系：朋友、伴侣，甚至家人。

转瞬即逝的情绪与感伤，可能主导一段关系的早期，而不是对另一个人的价值观和人格的真正欣赏。

民主本身的一部分基础，是人们希望自己的个人立场与利益得到代表，并且能够在公共领域中公开讨论、组织行动。

在一个依据不透明算法推断出的个人偏好来分配信息、又让粉丝数和互动指标极大影响可见度的社会里，这一基础正在受到侵蚀。

随着 ChatGPT 和其他语言模型出现，又多了一层中介。书籍等传统信息来源越来越多地被绕过：人们不只把搜索信息交给算法，也把信息的选择、综合与呈现一并交了出去。

你也许会说，这些事早就发生过。正如安·兰德在《源泉》等作品中描绘的那样，主人公是一名独立创造的建筑师，与那些信念受大众媒体和权威人物塑造的群众形成对照。

我认为，创造与参与之间的根本张力是相似的。

但有一个重要区别。

在较早的大众传媒时代，影响力更明显地集中在可以辨认的个人和机构手中。这也是为什么，小说中的建筑师会在某些方面把那位报业大亨视为自己的同类。

今天的问题不同：抽象的平台与算法，成了占据支配地位的既有力量。

塑造偏好、分配影响力的机制，不再必然由一个拥有一致愿景的人控制。它们涌现于优化、竞争和反馈构成的复杂系统。

而且，越来越没有谁能够完全掌控这一切。

AI 时代

终于，我们可以回到标题，谈谈 AI 了。

在主流讨论中，AI 智能体常被描绘成推动生产力和价值创造的下一根巨大杠杆。

但关于能动性的讨论，与 AI 尤其相关，因为事实证明，我们甚至没有一个统一、连贯的定义，能说明智能体或能动性究竟是什么。

它存在不同层次。

当我们把一组函数调用和控制循环抽象成一个概念，并把它叫作“智能体”时，我们到底在说什么？

仅仅是在说半自主地与世界互动的能力吗？

还是在说经济意义上的能动性：对不同选项拥有明确偏好，并能够依据某种一致的决策规则，决定追求哪一个？

抑或还有更进一步的层次：创造那些作为基础的价值、制度，以及值得追求的目标的能力？

这些层次不能混为一谈。

而能动性也并非孤立存在。

当我们试图把人的偏好和目标委托给 AI 智能体，并使其行为与这些偏好紧密对齐时，我们有没有想过：人的偏好和目标本身，就是被设计、被社会建构，并在与环境的互动中动态塑造出来的？

进一步说，如果 AI 智能体自身的行动，又改变了人的偏好和目标，会发生什么？

就像池塘中的回响，影响向外传播，又返回它的源头。

一个 AI 系统可能越来越善于满足我们的偏好，同时却也在塑造它试图满足的那些偏好。

如果这些偏好本身就是系统影响的产物，那么，说这个系统“与我们对齐”，究竟意味着什么？

但是，如果我们的偏好从来都受到所处环境与制度的塑造，那么，区分真实的偏好与被制造出来的偏好，还有意义吗？

也许，更重要的问题并不是偏好从哪里来，而是我们是否仍然拥有审视、修改，并最终决定自己愿意追求哪些偏好的能动性。

《暗黑破坏神 II》中的“骡子”和准货币，正是这种能动性的体现：它们来自玩家自身的创造，超出了开发者的直接控制。

尽管人们投入巨大精力衡量 AI 的能力，从编写代码到操作网站，也对如何让 AI 系统与人的意图对齐进行了大量研究，这个更深层的问题仍然没有解决。

在追问一个智能体能否实现某个目标时，我们已经变得越来越精细。

但对于哪些目标值得实现、谁有权定义这些目标，以及当追逐目标的过程改变了智能体原本应该服务的人时会发生什么，我们却远没有那么确定。

也许，这才是我们当前对 AI 对齐的理解中最根本的缺口。

在开始谈论 AI 会成为新的神之前，我们应该更认真地关注解决这些问题所需要的研究。

各位，面对现实吧。

---

参考文献

《在线环境中的内生货币形成：以〈暗黑破坏神 II〉为例》（Endogenous Currency Formation in an Online Environment: The Case of Diablo II），《奥地利经济学评论》（The Review of Austrian Economics）。