私たちは本当は何を望んでいるのか？

まずはゲームの話から

この大げさな題名の本題に入る前に、ビデオゲームについて話したい。

ビデオゲームは、堕落したサブカルチャーの娯楽として片づけるには惜しい、もっと注目に値するものだと思う。そこには、画面の外にある現代世界についての深い何かが表れている。

私はゲームが好きだ。子どものころはよく遊んだし、今も時々遊ぶ。幼いころから不思議だった。人々はどうやって仕組みをあれほど巧みに設計し、何時間も費やしたくなるほど面白いソフトウェアをつくれるのだろう。

ところが最近、自分でツールやアプリをつくってみて、その好奇心はほとんど感嘆に変わった。たとえ無料でも、人に何かを数分使ってもらうだけで、実は大変なことなのだ。

Diablo II：プレイヤーが自発的に市場を組織し、準通貨を生み出したゲーム

まず、2000年代の遠い記憶と、その時代に大きな影響を与えた文化的作品、Diablo IIを振り返りたい。

このダークファンタジーのロールプレイング・アドベンチャーでは、プレイヤーは戦士となり、中世の村々、古代エジプトを思わせる砂漠の遺跡、原始の密林を旅し、神話的な悪魔を倒して世界を救う。

少なくとも、多くの人はそういうゲームとして知り、記憶している。

だが、複雑な能力値を持つ希少な装備を求めて何百時間も周回する人の話を聞いたなら、それはおそらくこのゲームか、その直系の後継作の話だ。

Diablo IIの本当に魅力的な仕組みは、最後のボスを倒すことではない。実際、ボスはプレイヤーが終了してゲームを読み直すたびに復活する。魅力の核心は、緻密に設計されたシステムの中でアイテムを集め、所有することにある。

敵を倒すと、品質や希少性の異なるアイテムがランダムに落ちる。武器、防具、指輪、宝飾品には、ダメージやキャラクターの特定能力の強化など、さまざまな特性がある。名前には接頭辞や接尾辞が付くこともあり、それが特性を説明したり、背景の物語や都市伝説まで想起させたりする。

子どものころ、ある人が教えてくれた。六つのソケットがある武器に、Vex、Hel、El、Eld、Zod、Ethという六つのルーンをこの順番ではめ込めば、伝説的な強さを持つBreath of the Dying、略してBOTDという武器になるという。頭文字を並べると「VHEEZE」で、英語の「wheeze」に似た響きになる。

私は、その人がでたらめを言っているのだと思った。だが、本当にそういう仕組みのゲームだった。

こうした仕組みは、プレイヤーにさまざまなアイテムを調べ、探し、所有しようとする動機を与える。ランダムなドロップはゲームに賭け事のような味わいを添え、限られた所持品の枠は、何でも拾って忘れるのではなく、アイテムを吟味するよう促す。

The Review of Austrian Economicsに掲載された論文が観察したように、プレイヤーはアイテム収集に熱中するあまり、所持品の容量制限を回避するため、物を持たせるだけの新しいキャラクターをつくった。オンラインコミュニティでは「ミュール」、つまりラバと呼ばれるものだ。

また、交換したい品物を名前にしたマルチプレイの部屋もつくられた。たいていは「XをYと交換」といった名前である。特定の宝石や装飾品は、自然に準通貨へと進化していった。

後にこのジャンルがlooterと呼ばれるようになったことが示す通り、このゲームは根本的に、所有への欲望をめぐるものなのだ。

だからこそ、その中でこれほど興味深い経済現象が生まれた。

魔法はどこにあるのか

ゲームをしない人には関心のない細部に、ずいぶん時間を使ってしまった。だが、これから分かるように、それらはこの文章の中心的な問いと深く結びついている。

ただ、その前に、ビデオゲームの歴史からもう少し名前を挙げておきたい。

このメディアを形づくった最も影響力のあるゲームを見渡してみる。必ずしも商業的に最も成功した作品ではなく、一つのジャンルを生み出すほどの影響を持った作品だ。すると、共通する特徴が見えてくる。

どのゲームも、プレイヤーに何らかの形のエージェンシー、つまり自ら働きかける力を与えている。

Diabloは、何を手に入れ、何を所有するかを熟考する理由を与える。ゼルダの伝説は、探索する世界と冒険の機会を与える。DoomやDark Soulsは、プレイヤーを訓練の場に置き、技術を磨き、より強く、より巧みになれるようにする。バスケットボールや野球の練習に似ている。

私の仮説はこうだ。ビデオゲームが「インタラクティブ・エンターテインメント」と呼ばれるのには、理由がある。

ゲームは、現代生活で多くの人が失っているものを返してくれるから、人を引きつける。自分が働きかけているという感覚、周囲に対して自ら力を及ぼし、即座に反応を得る自由である。

何百万年もの進化が、世界に働きかけ、返ってきた反応を評価する私たちの傾向を形づくってきた。

何を食べられ、何を避けるべきかといった基本的な生存技能を、私たちは社会から伝えられる知識だけに頼るのではなく、周囲との直接的な関わりを通じても学んできた。

だが現代社会は、そのすべてではないにしても、多くを奪ってしまった。

学校では、何年も勉強しても、目に見える成果をあまり生み出さない。一見無意味な試験をいくつも通過する。時には、社会システムが教育資源を配分するための十分なシグナルを提供するだけのために。

働き始めれば、肩書、勤続年数、KPI、市場での成果が生活の中心になる。立ち止まって考え直す機会さえないことも多い。さらに悪いことに、多くの人はただ日々の決まりきった仕事に埋もれていく。

機械の歯車として。

私たちは、激しい市場競争の下でも生き残れる狭い専門分野に閉じ込められる。学校、企業、国家という巨大で抽象的な組織が定めた規則や方針を介さずには、自分の判断や行動の直接的な影響を感じられなくなる。

実際、それらの規則や規律自体が、私たちを従順にし、システムの一部であることに慣れさせる手段でもある。

もちろん制度は、より多くの資源にアクセスし、共通の目的に向かって行動することを可能にし、ある人々のエージェンシーを広げてもいる。だが、誰もがその機会を持つわけではなく、持っている人でさえ、そう実感できないことが多い。

現代社会は、私たちのエージェンシーの多くを、合理主義的な原理に基づく制度に従属させた。問題は制度そのものとは限らない。その目的を誰が決めるのか、そして自分の生活を調整するシステムに対し、個人がどれだけの主導権を保てるのかにある。

私たちは数字、手順書、アルゴリズムを信じるよう求められ、それに逆らうと、しばしば途方に暮れ、孤立する。ドストエフスキーの『地下室の手記』の男のように。

ゲームは、そのすべてを返してくれる。

ルールの中のエージェンシー

多くの人は、やがてゲームの魔法が解けるのを経験すると思う。

一つの理由は、大人になるにつれ、画面の背後に魔法などなく、繰り返される関数呼び出しと、メモリに保存された世界の状態があるだけだと分かることだ。

だが、もっと重要なのは、ゲームが与えるエージェンシーには、見落としやすい制約があることだ。

NESの『スーパーマリオブラザーズ』を考えてみよう。画面の解像度は256 × 240、合計61,440ピクセルで、通常見える範囲は256 × 224だ。到達できるゲームの状態、つまり行ける場所、遭遇できる状況、取れる行動の数は有限である。少なくとも、固定された実装の中ではそうだ。

プレイヤーに選択肢があるのは確かだが、その世界を支配する仕組みはあらかじめ決まっている。予想外の挙動が生まれる場合も同じである。

プレイヤーはバグを発見し、利用することはできる。だがゲーム自体を変更せずに、基盤となるシステムが許さない可能性を自由につくり出すことはできない。

ジェイソン・シュライアーの『Blood, Sweat, and Pixels』（2017年）には、Diablo IIIについての面白い話がある。壺などの環境オブジェクトを壊すことが、価値あるアイテムを集める意外に効率的な方法だと、プレイヤーが発見したという。その結果、敵と戦わず、何時間もほとんど壺を壊すだけの人たちが現れた。

ゲームは本物のエージェンシーを与える。しかし、その大部分は、プレイヤーがほとんど変えられないルールや目標の中にある。

現実の制度も同じだ。

私たちが金を好むのは、かなりの程度、社会や制度によってつくられたものだ。その点では、Diablo IIのアイテムを欲しがることと、本質的に異なるわけではない。

さらに言えば、ゲームとは制度そのものを高度に様式化し、凝縮して、娯楽の姿に包んだものなのかもしれない。

どちらも、インセンティブ、ルール、報酬からなるシステムをつくり、人々はその中で特定の目標を追う。そして、その過程でまったく新しい制度を生むこともある。

ここでソーシャルメディアが登場する。ビデオゲームの設計された誘因は、主として境界のある仮想世界の中で働く。ソーシャルメディアは、それと似た仕組みを、私たちが現実を理解するための情報や人間関係に直接適用する。

もちろん、XやInstagramから本当に役立つ情報を得る人もいる。だが、多くの利用者にとって、ソーシャルメディアは本質的に現実を形づくる装置なのだと思う。

生活は洗練されたリゾートの写真やビキニになる。意見や政治的な陣営は、Xのコメントやリポストになる。

さらに厄介なのは、アルゴリズムに導かれた情報の配分が、知識だけでなく感情まで形づくり、少しずつ新しい現実を生み出すことだ。

自分を演出し、地位を求める傾向は、友人、パートナー、さらには家族との関係をどう捉え、評価するかを変えていく。

関係の初期を支配するのは、相手の価値観や人柄への深い理解ではなく、束の間の気分や感傷かもしれない。

民主主義そのものも、人々が個人としての立場や利益を代表してもらうことを求め、公共圏で開かれた議論や組織化ができる、という原則に一部支えられている。

不透明なアルゴリズムが推測した個人の好みに沿って情報が配分され、フォロワー数や反応の指標が可視性を大きく左右する社会では、その土台が侵食されている。

ChatGPTなどの言語モデルの登場によって、さらにもう一層の仲介が加わった。書籍などの従来の情報源はますます迂回され、人々は情報の検索だけでなく、その選択、統合、提示までアルゴリズムに委ねるようになった。

こうしたことは昔からあった、と言う人もいるだろう。アイン・ランドの『水源』などが描くように、主人公は独立して創造する建築家であり、大衆メディアや権威者によって信念を形づくられる群衆と対比されている。

創造することと参加することの間にある根本的な緊張は、似ていると思う。

ただし、重要な違いがある。

かつてのマスメディアの時代には、影響力は、誰なのかが分かる個人や組織に、もっと明確に集中していた。だからこそ小説の建築家は、新聞王を、ある点では自分と同類の人間だと認める。

今日の問題は違う。抽象的なプラットフォームやアルゴリズムが、支配的な地位を占める存在になった。

好みを形づくり、影響力を配分する仕組みは、もはや一貫した構想を持つ一人の人間によって制御されているとは限らない。最適化、競争、フィードバックの複雑なシステムから生じてくる。

そしてますます、誰も全体を掌握できなくなっている。

AIの時代

ようやく題名に戻り、AIについて話せる。

主流の議論では、AIエージェントは、生産性と価値創造を押し上げる次の大きな力として描かれることが多い。

だが、エージェンシーの議論がAIにとりわけ重要なのは、そもそもエージェントやエージェンシーとは何なのかについて、統一された首尾一貫した定義さえ持っていないからだ。

そこには階層がある。

関数呼び出しと制御ループの集合を一つの概念に抽象化し、それを「エージェント」と呼ぶとき、私たちは何を指しているのだろう。

単に、半自律的に世界と相互作用する能力だろうか。

それとも経済的なエージェンシー、すなわち選択肢の間に明確な選好を持ち、整合的な意思決定規則に従って、どれを追求するか決められることだろうか。

あるいは、その基盤となる価値、制度、追求に値する目標そのものをつくり出すという、さらに上の段階があるのだろうか。

これらの段階は、互いに置き換えられるものではない。

そして、エージェンシーは孤立して存在するわけでもない。

人間の選好や目的をAIエージェントに委ね、その行動をそれらの選好に緊密に整合させようとするとき、人間の選好や目的自体が設計され、社会的に構成され、環境との相互作用を通じて動的に形づくられていることを、私たちは考えているだろうか。

さらに、AIエージェント自身の行動が、人間の選好や目的を変えてしまったら、何が起きるのだろう。

池に響くこだまのように、影響は外へ広がり、その源へと戻ってくる。

AIシステムは、私たちの好みを満たすことにますます長けていく一方で、満たそうとしているその好み自体を形づくっているかもしれない。

もしその好み自体がシステムの影響の産物なら、システムが私たちと整合しているとは、いったい何を意味するのだろう。

しかし、私たちの選好がつねに周囲の環境や制度に形づくられてきたのなら、本来の選好とつくられた選好を区別することに、そもそも意味はあるのだろうか。

より重要なのは、選好がどこから来たかではなく、それを吟味し、修正し、最終的にどれを追求したいのか決める主体性を、私たちが保っているかどうかなのかもしれない。

Diablo IIのミュールや準通貨は、まさにこの主体性が働いた例だ。それらは、開発者の直接的な制御を超え、プレイヤー自身の創意から生まれた。

コードを書くことからウェブサイトを操作することまで、AIの能力を測るために膨大な努力が払われ、人間の意図にAIを整合させる研究も数多く行われている。それでも、このより深い問いは未解決のままだ。

あるエージェントが目標を達成できるかを問う方法は、ますます精緻になっている。

だが、どの目標が達成に値するのか、誰がそれを定義するのか、そして目標を追う過程が、エージェントの奉仕対象である人々そのものを変えてしまうとき何が起きるのかについては、私たちははるかに確信を持てずにいる。

そこにこそ、現在のAIアライメント理解の根本的な欠落があるのかもしれない。

AIが新しい神になると語り始める前に、こうした問いに答えるための研究に、もっと真剣に目を向けるべきだ。

みなさん、現実に向き合おう。

---

参考文献

「オンライン環境における内生的な通貨形成：Diablo IIの事例」（Endogenous Currency Formation in an Online Environment: The Case of Diablo II）、The Review of Austrian Economics。