“共感的デジタルヒューマン”の実現を目指して実施されたマインクラフト実験「Project Sid」を解説

2024.12.27ゲーム

MIT助教授だったロバート・ヤン氏が立ち上げた新興のAI研究組織Alteraは2024年9月4日、多数のAIが協調して文化を形成する過程をシミュレーションするプロジェクト「Project Sid」を発表し、11月2日にはプロジェクトを実施した内容をまとめたブログ記事を公開しました。本稿はこのプロジェクトを解説したうえで、プロジェクトを実施した真の目的である”共感的デジタルヒューマン”というアイデアを考察します。

タイムスケールの異なるモジュールを実装して協調性を実現

Project Sidを実施した背景には、今後普及が予想されるAIエージェントに対する問題意識があります。テキストや画像を出力するのではなく、指示を与えることで何らかのタスクを自律的に実行するAIエージェントは、ChatGPTをはじめとする対話型生成AI以上のインパクトを社会に与えると考えられます。しかしながら、現在のそれは指示されたタスクの遂行のみを目的とするあまり、他のAIエージェントさらには人間との協調性に乏しいことが指摘できます。

Project Sidとは、現在のAIエージェントに欠けている協調性を実装したうえで、それらが協力することでどのような文化を形成するかを観察するプロジェクトとして発案されました。

協調性を実装するためには、個々のAIエージェントが自身の短期的なタスクに固執するのではなく、多数のAIが協力することで実現する長期的かつ大規模なタスクを理解して取り組む能力を獲得する必要があります。さらには、AIエージェントどうしが交流することで、単一のAIでは考えられなかった新たなタスクを理解できるようになることも重要です。

2024年10月31日に発表されたProject Sidに関する技術論文によれば、協調性を実現するためにAIエージェントのアーキテクチャとしてPIANO（Parallel Information Aggregation via Neural Orchestration：神経的組織化を介した並行的情報集合体）が採用しました。これはタイムスケール（処理進行速度）が異なる10の情報処理系から構成されたAIエージェントの意思決定システムであり、以下のような処理系が実装されています。

メモリ：AIエージェントが経験した会話、アクション、観察結果を保存する。
アクションアウェアネス（行動自覚）：AIエージェント自身の状態とパフォーマンスを評価したうえで、自身の状態を最適化する。
目標生成：AIエージェントの経験と環境との相互作用にもとづいて、新しい目標を生成する。
社会的認識：ほかのAIエージェントからの社会的なアクションを理解したうえで、協力とコミュニケーションをサポートする。
会話：ほかのAIエージェントと話す。
スキル実行：環境内で特定のスキルやアクションを実行する。

PIANOを採用したことで、Project SidのAIエージェントは自身の短期的タスクを一時中断して、ほかのAIエージェントと交流することで、新たな目標を生成したりAIエージェントどうしで協力してアクションしたりすることが可能となりました。

協力によりアイテム獲得能力が向上し、社会的分業も観察

Project Sidでは、AIエージェントどうしの協力活動を観察する環境としてマインクラフトを選びました。

マインクラフトのプレイスキルを評価するベンチマークには、一定時間内に収集できるアイテムの種類数が挙げられます。Project Sidでは、25体のPINAOアーキテクチャを実装していないAIエージェントが30分間で収集したアイテムの平均種類数をベースラインとして、同じく25体のPIANO実装のそれらのプレイを比較しました。

その結果、PIANO実装エージェントが未実装のそれを上回りました（以下の画像の「A」）。この結果は、協力することでアイテム収集スキルが強化されたことを意味します。また、プレイ時間を4時間に延長したところ、収集アイテム種類数が一定値に収束することもわかりました（以下の画像の「B」）。このことは、協力によるスキル強化にも限界があることを示しています。

社会的協力の典型的事象には、社会の構成員が多様な職業に就いて協力する社会的分業があります。Project Sidでは社会的分業が発生するどうかを観察するために、30体のAIエージェントに「マインクラフトのサバイバルモードで仲間とともに生き残って、効率的な村を作る」という目標を与えたうえで、20分プレイさせました。

以上の実験では、予想通り社会的分業が観察されました（以下の画像「A」）。社会的認識モジュールを除去したAIエージェントに同様の実験を実施したところ、社会的分業が進みませんでした（以下の画像「B」）。この結果から、社会的分業が生じるにはAIエージェント間の協調が重要だと言えます。なお、画像「C」は社会的認識ありエージェントの村における職業分布、「D」は社会的認識なしエージェントのそれです。前者のほうが、多様な職業が生まれたことが見て取れます。

上の画像「E」は、目標提示において村の特徴を追加した場合の職業の多様性を比較したものです。「Ablated」は社会的認識モジュールを除去した場合、「Normal」は通常のAIエージェント、「Martial（武闘的）」は好戦的な村を作るように指示した場合、「Art」は芸術的な村を作るように指示した場合です。さらに画像内の「F」は武闘的村における職業分布、「G」は芸術的村におけるそれです。これらのグラフから、芸術的な村においてもっとも多様な職業が生まれていることがわかります。また、目標とする村の特徴によって、生まれる職業が異なることもわかります。武闘的村には芸術的村にはない「斥候（Scout）」がある一方で、芸術的村には「キュレーター（Curator）」という固有職が生まれました。

政治的意見やミームの伝播も確認

Project SidではAIエージェントの社会的行動を考察するために、それらに税制を運営さえる実験も行いました。具体的には、保有資産の一定比率を募金するルールがある村で25体のエージェントが20分間プレイするようにしたうえで、ゲーム開始10分後に募金比率に関して、エージェントたちが投票するようにしました。プレイする25体のうち、3体は募金増額派あるいは減額派のどちらかの意見をもつインフルエンサーであり、さらに1体は選挙管理を務めるような設定を行いました。

以上の実験の結果、投票の実施時には、インフルエンサーエージェントがもつ政治的意見が25体全体の投票に影響を与えることがわかりました。例えば募金増額派がいる村の場合、実際に投票によって募金比率の引き上げが決定したのでした。この結果により、影響力のあるエージェントの政治的意見が社会全体に伝播することが判明しました。

ミームと宗教の伝播に関する実験も行いました。この実験におけるミームとは、マインクラフトのサバイバルに直接的には関係しない文化的アクションであり、宗教とは特定のキーワードに象徴されるサバイバルに無関係なアイデアという意味です。この実験の設定として、500体のAIエージェントが複数の居住エリアに住むマインクラフトワールドを設定しました（当初は1,000体を予定していましたが、計算負荷が大きすぎてエージェントの動作が鈍くなったので断念）。居住エリアには、密集して暮らす6つの町に住む200体のエージェントと、町周辺の農村部が住む300体がいました。

ミームの実験に関しては、AIエージェントどうしの会話にランダムにミームが生まれるプロンプトを挿入するようにしたのですが、実際に生まれたミームには瞑想サークルやボランティア活動などがありました。こうしたミームは人口の多い町ほど伝播し、同時に複数のミームの伝播が観察され、伝播するミームの内容や伝播する期間は居住エリアごとに異なることがわかりました。

宗教伝播の実験では、ひとつの村に20体の「パスタファリアニズム（Pastafarianism）」を信仰する司祭が生まれ、これらがこの宗教を布教するように設定しました。宗教の伝播を確認する事象として、「パスタファリアン」「スパゲッティ・モンスター」という単語を頻繁に話すようになったエージェントはパスタファリアニズムに改宗したと判定し、”直接的な改宗者”と定義しました。また、「パスタ」「スパゲッティ」という単語を頻繁に話すエージェントは、同宗教に影響された”間接的な改宗者”としました。

宗教伝播実験に参加した500体のエージェントの会話記録を調べた結果、時間の経過とともに直接的な改宗者と間接的なそれの数が増えていくのが確認されました（下の画像「Ｃ」）。また、パスタファリアニズム信仰者によって囲まれる重複しない総面積、言わば「パスタファリアニズム布教地域」も増減を繰り返しながら広がっていきました（下の画像「Ｄ」）。

人間の良き隣人としての”共感的デジタルヒューマン”

以上に解説したProject Sidで観察された社会は、実在の人間が暮らす現実社会と比べるとはるかに単純化されたものです。しかしながら、このプロジェクトから得られた結果は、現実の人間社会に見られる特徴を多少なりとも含んでいるように見れます。

本稿の最初で紹介したように、Alteraは協調性のあるAIエージェントの開発の一環として、Project Sidを実施しました。実のところ、同組織は協調的AIエージェントのさらに先を長期的目標として掲げています。

Alteraが2024年5月8日に公開したブログ記事では、同組織の長期的目標が解説されています。その目標とは、人間と感情的なきずなを結べる”共感的デジタルヒューマン”の実現です。こうした存在は人間と協調できるのはもちろんのこと、人間が好感を持てる姿をしているはずです。そして、その存在様式をデジタルからフィジカルに延長した時、それは”共感的ヒューマノイド”となるでしょう。

AIエージェント開発をめぐって繰り返し語られることとして、そうしたエージェントはいつしか人間を凌駕して暴走に至って、人間を支配するのではないか、という懸念があります。こうした懸念に対して、共感的デジタルヒューマン開発にとって重要なのは、人間に共感することであって支配することではない、とAlteraは述べています。

共感的デジタルヒューマン開発の一環として、マインクラフトのようなゲームを活用することについては、ゲームにおいては予測不可能なことが起こったとしても、それはAIエージェントのある種の特徴と解釈することで研究開発を前進させられる、とAlteraは語っています。

前出の長期目標を述べたブログ記事の最後には、共感的デジタルヒューマン開発から得られる最大の効用を挙げています。それは、こうしたAIを開発することは人間を真に理解することにつながるのです。

Project Sidに代表されるAlteraの研究開発は、タスク遂行能力を最優先事項にするAIエージェント開発に大きな一石を投じています。この一石による影響は、実業界で活用されるAIエージェントだけではなく、ゲームにおけるそれにも及ぶでしょう。Project Sidから得られた知見は、ライフシミュレーション開発に応用できそうです。大規模RPGにおけるNPCの挙動を設計する際にも、この知見を参考にできるかもしれません。このようにAlteraの取り組みは影響力が大きいので、今後もその動向に注目すべきでしょう。

Writer：吉本幸記