DeepMind開発汎用ゲーム学習環境「XLand」はAGI実現につながるか？

AlphaZeroなどの強力なゲームプレイAIを開発したことで有名なGoogle傘下のAI研究機関DeepMindは7月27日、ゲームプレイAI研究に関するブログ記事を発表しました。以下では、この記事が示す「汎用ゲームプレイAI」開発の現状とその反響を紹介します。

より汎用的な学習環境を求めて

DeepMindは、これまでレトロゲームを攻略する「Agent57」やルールを知らなくてもゲームを攻略できる「MuZero」といった革新的なゲームプレイAIを発表してきました。これらのゲームプレイAIに共通する仕様として、攻略するゲームごとに学習しなければならないという制限事項があります。この制限事項により、ブロック崩しゲームを攻略するために学習した成果は、横スクロールアクションゲームの攻略に流用できないのです。

今までのゲームプレイAI研究の成果をふまえて、DeepMindはゲームプレイの学習に関して汎用性を実現すべきという目標を設定しました。「汎用的な学習」とは、特定の学習によってあらゆるゲームを攻略できた時の学習方法と内容を意味します。こうした汎用的な学習は、自然言語処理においては半ば実現しています。OpenAIが開発した大規模言語AIのGPT-3は、膨大な英文を事前学習した結果、追加の学習なしで多くの言語タスクを遂行できるようになりました。この事前学習は、汎用的な学習に近いものと見なせます。

DeepMindはゲームプレイAIにおける汎用的な学習を実現するために、XLandと命名した3Dゲームプレイ環境を開発しました。この環境の特徴は、以下のようにまとめられます（以下の動画も参照）。

1. 広大な3Dゲームプレイ空間内には、かくれんぼや特定のオブジェクトを自陣に運ぶキャプチャー・ザ・フラッグなどの多種多様なゲームがプレイできるフィールドがある
2. 各ゲームフィールドの地形は、ローグライクゲームのようにランダムに変化する
3. 地形が変化するので、特定のゲームプレイ環境に最適化するような強化学習では報酬を最大化できない

以上のようなXLandで多種多様なゲームを学習すれば、さまざまな3Dゲームでハイスコアを記録できる汎用的なゲームプレイAIが実現できると考えられます。

道具の使用を確認

DeepMindはXLandを使って5世代にわたってゲームプレイAIを訓練しました。第５世代では、4,000のゲームフィールドで70万回プレイしました。こうした学習過程において、ゲームプレイAIは事前にプログラミングされていないにも関わらず、道具を使用しました。具体的には、高台にあるオブジェクトに触ると報酬が得られるゲームにおいて、高台に登るためにゲームフィールドに点在するオブジェクトを使ってスロープを作ったのです。こうしたプレイから、XLandで学習したゲームプレイAIには未知の状況に適応する能力があることがわかります。

XLandで学習したゲームプレイAIは、最終的には多種多様なゲームのプレイにおいてゲームスコアを向上させました。さらには、未知の複雑な地形におけるゲームプレイであっても30分程度の集中的訓練だけでハイスコアを記録しました。こうした短期間の訓練は、GPT-3におけるファインチューニングに相当すると考えられます。GPT-3に特定の言語タスクに関する小規模な訓練を追加すると、その言語タスクの遂行能力が向上することが知られています。

XLandで学習済みのゲームプレイAIの内部設定を分析すると、興味深いことがわかりました。分析した結果、ゲームプレイAIには人間で言う身体感覚や時間感覚に相当するものがあったのです。XLandによる学習を通して、ゲームプレイAIはあらゆるゲームプレイにおいて共通して存在する「自分の身体」と「時間の経過」を抽出したと言えるでしょう。この結果は、AIが人間の意識活動に相当するものを獲得するプロセスを解明する手がかりになるかも知れません。

AGI実現への確かな一歩か、それとも…

テック系メディアTechTalksは8月2日、XLandを紹介する記事を公開しました。その記事ではXLandを発表する以前の2021年5月、DeepMindは「報酬で充分（Reward is Enough）」と題された論文を発表していたことに言及しています。この論文では、言語活動や社会的知能などのような人間の多種多様な知的活動のほとんどは、報酬を最大化する活動と解釈できると主張したうえで、汎用人工知能（Artificial General Intelligence、AGI）は報酬を最大化するAI学習技法である強化学習で実現できる、という大胆な仮説が論じられています。この主張が仮説であるのは、現時点ではAGIが実現していないので客観的に立証できないからです。

AIスタートアップPathmindのCEOであるChris Nicholson氏は、XLandをめぐる研究成果は以上の「強化学習によるAGI実現仮説」を立証するための確かな一歩であると考えています。というのも、XLandの研究によって示されたゲームプレイに関する汎用的な学習の可能性は、学習過程自体を新たな学習に応用できる人間の汎用的な学習能力に通じるものがあるからです。

XLandの成果に関しては、批判的な意見もあります。南カリフォルニア大学のコンピュータサイエンス学科所属のSathyanaraya Raghavachary准教授は、XLandで学習したゲームプレイAIが身体感覚や時間感覚に相当するものを獲得したという成果を疑問視しています。人間がもつ身体感覚や時間感覚は未解明なことが多い脳の統合機能が関係しており、人間の脳のような構造を持たないゲームプレイAIがそのような感覚を獲得したとは断定できない、と同教授はコメントしてます。

Raghavachary准教授は、もしXLandを学習済みのゲームプレイAIが身体感覚や時間感覚を獲得していれば、もっと少ない学習量であらゆるゲームでハイスコアを記録していただろう、とも述べています。そして、XLandの成果は従来の個別のゲームプレイに最適化されたゲームプレイAIと「大して変わらないもの（more of the same）」と評しています。

XLandの成果から汎用ゲームプレイAIが実現したと主張するのは、確かに時期尚早です。しかしながら、「強化学習によるAGI実現仮説」を標榜するDeepMindは、今後も汎用ゲームプレイAIに関する研究を発表することでしょう。そして、こうしたDeepMindの研究成果は、特定のゲームにおけるハイスコア達成のような視野の狭い観点ではなく、その成果は人間の汎用的学習能力の工学的実現にどの程度寄与しているのか、という広い視野から考察するべきでしょう。

Writer：吉本幸記