学習データなしでMinecraftのダイヤモンド採取に成功。世界モデルを採用したDreamerV3の意義

2023.2.27ゲーム

モリカトロンAIラボでは、2022年8月の記事でMinecraftのダイヤモンドのつるはしを作ったOpenAIのゲームプレイAIを紹介しました。このAIは、人間プレイヤーのプレイ動画から学習することで目標としたタスクを達成しました。そして2023年1月、DeepMindは学習データなしでダイヤモンドの採取に成功したゲームプレイAIを発表しました。本稿ではこのAIを紹介することで、現在AI研究で注目される「世界モデル」の意義を明らかにします。

参考記事：ダイヤモンドのつるはしを作ったOpenAIのMinecraftプレイAIが持つ射程とは？

ゲーム環境の変化を予測する世界モデル

現在成功しているAIアルゴリズムのひとつとして、強化学習があります。強化学習によってAIが世界トップレベルの囲碁棋士に勝利したり自然な会話ができたりしていますが、このアルゴリズムには学習環境から制約を受けるという課題があります。例えばブロック崩しを人間以上にプレイするAIを開発しても、そのAIは『Minecraft』をうまくプレイできません。対して人間は、ブロック崩しもMinecraftもプレイできて上達も可能です。

DeepMindが2023年1月10日に発表した論文「世界モデルを通じてさまざまなドメインをマスターする」は、学習環境に制約されない柔軟な学習が可能なAI「DreamerV3」について論じています。このAIはさまざまな環境を柔軟に学習できるように、以下のような3つの機能をふくむアーキテクチャによって構築されました。

世界モデル：任意のゲーム環境を認識して、環境の推移を予測するモデル。
クリティック（批評者）ネットワーク：世界の推移を観察して、報酬が最大化される状況を予測するモデル。
アクター（行動者）ネットワーク：最大報酬を実現するための行動を学習するモデル。

以上の機能で注目すべきなのは、世界モデルの役割です。従来の強化学習では報酬を最大化するようにAIが個々の環境に最適化されるのに対して、世界モデルを実装したDreamerV3はさまざまな環境を認識したうえで適応します。つまり、世界モデルによって環境が変わっても学習できるようになったのです。

前出の論文には、世界モデルの環境予測を可視化した図が掲載されています。以下の図の上部2段はFPSゲーム『Quake Ⅲ Arena』をベースにDeepMindが開発したゲーム環境「DMLab」、下部2段はMuJoCo物理エンジンで開発された3D環境「Control Suite」です。それぞれの段は実際のゲーム環境の推移「True」と世界モデルが予測した「Model」から構成され、任意の5フレームが与えられると45フレーム分の推移を予測していることを表しています。図からは、世界モデルの予測が間違っている箇所があることも分かります。

さまざまなゲームでハイスコアを実現

DeepMind研究チームは、DreamerV3の汎用学習性を検証するために性質の異なるさまざまなゲーム環境でプレイスコアを計測しました。計測に用いたゲーム環境には、前述のDMLabやControl Suiteのほかに2Dレトロゲームを多くふくむAtari 100kやAtari 200Mもありました。計測の結果、DreamerV3はプレイしたすべてのゲーム環境において既存のゲームプレイAIを凌駕するスコアを達成しました。また、モデルサイズを大きくするとパフォーマンスが向上することも分かりました。

さらに近年ゲームプレイAIのテスト環境として注目されるMinecraftもプレイしました。プレイの自由度が高い同ゲームは明確なプレイ目標を設定しづらいため、ダイヤモンドの採取を目標としました。この目標を達成するためには工作台や鉄のつるはしの作成が必要とされるので、目標達成要件を満たすと報酬が得られるようにしました。こうしたプレイ条件下で40回のワールド生成によるテストを実施した結果、24回ダイヤモンドの採取に成功しました。ワールドが生成される度に地形やスタート地点が変わるので、このテスト結果からDreamerV3は学習データなしで高度にMinecraftに適応していると言えます。

DeepMind研究チームは、DreamerV3の限界として40回のMinecraftプレイのすべてでダイヤモンドを採取できていない点を挙げています。熟練した人間プレイヤーであれば40回の全プレイにおいてダイヤモンドを採取できると予想されることから、同AIはまだ改善の余地があります。さらに今回のテストではゲーム環境ごとに同AIを訓練しました。学習の汎用性を拡張するには、Atari 100kをプレイしたAIにMinecraftもプレイさせるようなゲーム環境を横断したテストの実施が望ましいと考えられます。

Metaや東大松尾研究室も注目する「世界モデル」

DreamerV3の汎用的学習を可能とした世界モデルの研究開発は、DeepMindだけが取り組んでいるわけではありません。MetaのAI研究部門を率いるYann LeCun氏も世界モデルに注目しており、その関心は2022年2月23日付のMeta AIブログ記事で言及されています。その記事によると近年のAIの進化は目覚ましいものも、学習に膨大なデータが必要になるという課題を解決できていません。この課題を解決するには、AIが世界の変化を推論できる能力が不可欠と同氏は考えています。こうした世界の変化や在り様を推論できる能力の総体が、人間における「常識」に相当するものと見なされます。そして、常識があれば例えば雪上を運転した経験がなくても（雪上運転の学習なしでも）、雪道の自動車は滑りやすいと判断できるのです。

LeCun氏は、常識あるAIを実現するために世界の変化を推論する世界モデルをふくめた6つのモジュールから構成されるアーキテクチャを提案しています。このアーキテクチャにはセンサーによって世界を知覚する「知覚モジュール」もあり、同氏が想定する未来のAIとは人間と同じように物理世界に関する常識があるものとうかがえます。

世界モデルは、日本の第三次AI革命をけん引した松尾豊教授が率いる松尾研究室でも研究されています。2022年11月30日に公開された同研究室のニュース記事では、鈴木雅大特任助教が世界モデルについて語っています。同助教によると、世界モデルとは外界と相互作用して世界がどういうものかを「直感的」に理解する能力を司るものであり、従来の探索や推論を行うAIが「大人の知能」なのに対して、世界モデルは「子供の知能」を実現します。そして、既存のAIは「子供の知能」が欠けているために物理世界でうまく作動しなかったり非常識な推論を行ったりするのです。

以上のニュース記事には世界モデルに関する以下のようなスライド画像が掲載されており、松尾研究室で研究されている世界モデルもLeCun氏が提唱するような「世界の変化や在り様を予測したり推論したりする」技術と位置づけられていることが分かります。

DreamerV3における世界モデルはゲーム環境の変化を推論する非常に限定されたものですが、「世界を認識する能力を実装することでAIを進化させる」というアプローチを試みている点においてLeCun氏や松尾研究室の研究理念と通じるものがあります。こうした現状をふまえると、今後の世界モデル研究は物理世界を認識するAIだけではなく、ゲームプレイAIの研究によっても進展するのではないでしょうか。

Writer：吉本幸記