DeepMindが開発した囲碁プレイAIであるAlphaGoが2016年にトッププロ囲碁棋士に勝利したことで、同社の強化学習研究が一躍脚光を浴びることになりました。その後、同社はタンパク質の構造を予測するAlpahFoldを発表したことで、自然科学研究に役立つAI開発でも有名になりました。このようにAI開発の幅を広げながらも、同社は強化学習研究を連綿と続けています。本稿では、同社の最新強化学習研究を3つ紹介します。

大規模言語モデルからインスパイア

2022年5月12日、DeepMindはかつてない汎用性を実現した強化学習AIであるGatoを発表しました。同AIが実行するのはゲームプレイはもちろんのこと、英語によるチャット、画像に写っているものに対するキャプション付け、さらにはロボットアームの制御と多岐に及び、そうしたタスクの多数においてハイスコアを達成しました。

Gatoの開発は、大規模言語モデルにインスパイアされたものでした。そうしたモデルの代表には、OpenAIが開発したGPT-3があります。GPT-3は、インターネット上にある膨大な英語テキストデータを使って訓練した結果、文の生成だけではなく翻訳や論理推論も実行できるようになったことで、言語的タスクにおける汎用性を実現しました。こうした大規模言語モデルにならって、Gatoは多種多様なタスクに関する学習データをトークンと呼ばれる文字列のような一種のシーケンシャルなデータに変換したうえで学習した結果、かつてない汎用性を実現しました。

Gatoがトークンを学習する際には、トークンの一部をマスク（隠した）したうえで、そのマスクされたデータを予測するように訓練されました。こうしたマスクデータの予測という学習形式は、例えば言語モデルBERTでも使われています。

Gatoを発表した論文では、同モデルの実現で萌芽した汎用強化学習AIの社会への影響が考察されています。ロボットアームの制御が可能であることからわかるように、汎用強化学習AIはソフトウェア的な存在に留まっている既存の強化学習AIと比べて、物理世界への関与が大きくなります。こうした関与の増大は、AIに対して人間が間違った信頼を抱いたり、反対にAIが人間に物理的な危害を加えたりする可能性を生みます。それゆえ、汎用強化学習AIが進化すると、新たな次元でAI倫理が問われることになるのです。同論文では、専門知識のない人々を対象とした汎用強化学習AIに関する啓発活動が重要になるだろう、とも述べています。

参考論文：汎用的なエージェント

経済活動をルールなしに再現

2022年5月16日には、経済活動を複数の強化学習エージェントによって再現する研究が発表されました。物品の生産、交換、消費という初歩的な経済活動をAIエージェントによってシミュレートする研究は以前からありました。こうした研究におけるAIはルールベースエージェントとして開発され、実装されたルールには経済学における基本原則が採用されていました。DeepMindの研究が画期的なのは、経済学のルールを一切実装していない強化学習エージェントによって、経済学的に説明されるさまざまな現象を再現できたところにあります。

DeepMindの研究では、木々や水辺がある簡単なゲームステージのような環境が用意されたうえで、2種類の強化学習エージェントが多数生息する状況がシミュレートされました。これらのエージェントはリンゴとバナナを生産できますが、一方の種類のエージェントはリンゴの生産を得意とし、他方はバナナの生産を得意とします。そして、リンゴの生産が得意なエージェントはバナナを好んで消費し、他方はリンゴを好みます。こうした設定のもとで、エージェントたちが果物を生産、交換、消費する様子をシミュレートしたのでした。

以上のシミュレーションでは、エージェントどうしが1対1で行う物々交換のほかに、多数のエージェントが集まって交換する市場も設置されました。こうした市場における交換レートは、設置場所によって1対1のそれと異なる場合があることが観察されました。例えば、あえてエージェントの生息域から離れた場所に市場を設定した場合、1対1で取引した場合のリンゴとバナナの交換レートが1個対1個なのに対して、市場では1個対3個となりました。このように地理的環境によって複数のレートが成立するのは、生息域から外れた市場で交換する場合、市場に移動するまでは生産活動ができないというルールを採用していることから実質的に移動コストが生じてしまい、そのコストが交換レートに転嫁されたためと考えられます。ちなみに、市場を生息域内あるいはその近くに設置した場合、市場の交換レートは1対1で取引した場合のそれと同じになりました。この現象は、市場に行くまでの移動コストが生じないためと考えられます。

以上のシミュレーションで注目すべきは、エージェントには「移動コストを価格に転嫁する」のようなルールが実装されておらず、あくまで環境に適応した結果、経済学の原則が観察されたところです。つまり、一切の前提知識なしに経済学の原則が生成される様子を観察できるというわけです。今回の発表について、DeepMind研究チームは強化学習が経済学のような人文科学研究に貢献できる実例であるとまとめています。

参考論文：マルチエージェント強化学習における創発的物々交換行為

4%のビットレート削減を実現

モリカトロンAIラボは2021年1月、ゲームに関する知識なしでハイスコアを達成するゲームプレイAIのMuZeroを紹介した記事を公開しました。その記事では、ゲームプレイに特化した同AIを動画圧縮に応用する研究が進められているとも解説しました。この研究の成果が2022年2月11日、DeepMind公式ブログ記事で発表されました。

DeepMindのブログ記事によると、コロナ禍によってステイホームが余儀なくされたため、動画視聴のニーズが急増しました。その結果、インターネット通信における動画トラフィックが占める割合が大きくなり、今後もこの割合はますます増えていくと予想されています。こうした状況に対処するために解決すべきなのが、動画圧縮の最適化問題です。

インターネットで閲覧される動画は、オリジナル動画を圧縮したうえで送信して視聴者の視聴環境内でデコードする処理が実行されています。YouTubeをはじめとする動画ストリーミングサービスでは、VP9と呼ばれる動画圧縮アルゴリズムが採用されています。DeepMind研究チームは、VP9を上回る圧縮効率のアルゴリズムをMuZeroを応用して開発することにしました。

効率の良い動画圧縮アルゴリズムを開発するには、動画を一律に高密度に圧縮すればよいというわけではありません。というのも、高密度に圧縮すると画質が劣化してしまうからです。それゆえ、複雑な動画フレームは高密度に圧縮する一方で、シンプルなそれは低密度にするというような最適化が求められます。動画圧縮には動画サイズや画質のほかにも、通信環境や視聴者の再生デバイス性能などの要因も関係してきます。このように動画圧縮アルゴリズムは、多数のパラメータの組み合わせから最適解を導く組み合わせ最適化問題と捉えられます。そして、こうした問題を解くにはMuZeroのようなゲームプレイAIが適しているのです。

MuZeroを動画圧縮問題に応用するにあたっては、自己競争と呼ばれるアルゴリズムを採用しました。これは、実行した動画圧縮の効率が以前のそれを上回るように学習するというものです。自己競争を実装した結果、YouTubeで公開されている動画から作成したテストセットを使って測定したビットレート（単位時間あたりのデータ通信量）が4%削減できました。

参考論文：VP9動画圧縮におけるレート制御のために自己競争を用いたMuZero

以上に紹介したDeepMindの強化学習研究は、純粋に学術的なものであると同時に現実社会の問題を解決する実践的なものでもあるのです。こうしたDeepMindの研究活動をキャッチアップするには、同社の公式ブログあるいは研究成果をまとめたウェブページを閲覧するとよいでしょう。

Writer：吉本幸記