マイクロソフト・リサーチが開発したゲームAIリソースコレクション

マイクロソフトの研究開発部門マイクロソフト・リサーチは2021年2月、ゲームに対するAIの影響を話し合うイベント「Microsoft AI and Gaming Research Summit 2021」を開催しました。このイベントを記念して、同部門は今までのゲームAIに関する開発業績をまとめた記事を公開しました。本稿では、その記事に掲載されたゲームAI関連のリソースを紹介していきます。

麻雀でも人間のトッププロを凌駕していた

2017年6月に発表されたハイブリッド報酬アーキテクチャ（Hybrid Reward Architecture：以下「HRA」と略記）とは、強化学習における報酬関数を複数設定する技法です。強化学習では、（「ハイスコアを目指す」のような）何らかの目標を与えられたAIの行動を評価するために、その行動が目標の遂行にどのくらい役立つかを算出する処理が実行されます。その処理が報酬関数です。報酬関数を適切に設定すればAIは効率的に目標を達成できるのですが、学習環境や目標が複雑になると報酬関数の設計が難しくなり、その結果として効率的な学習が困難になります。

以上の難点を克服する技法として考案されたHRAを使うと、報酬関数を複数設定することによって学習効率が低下しないようになりました。この技法を使って、Atariレトロゲームのひとつである『Ms.Pac-Man』でハイスコアの達成を目標としてAIを学習したところ、2,000回プレイした時点で人間のハイスコアを超え、3,000回未満のプレイで最大スコアに到達しました。

参考記事：Hybrid Reward Architecture (HRA) Achieving super-human performance on Ms. Pac-Man

参考論文：Hybrid Reward Architecture for Reinforcement Learning

2019年3月には、麻雀で人間のトッププレイヤーに匹敵する実力を発揮するゲームプレイAI「Super Phoenix」が発表されました。麻雀は、チェスや将棋と異なりゲームに関する情報が完全にはプレイヤーに与えられない「不完全情報ゲーム」に分類されるために、人間並みにプレイするAIを開発するには難しいとされてきました。

Super Phoenixは世界的なオンライン麻雀プラットフォームである天鳳において、4か月間で5,000回以上プレイした結果、同プラットフォームでAIとしては初めて10段になりました。同AIにはグローバル報酬予測、オラクルガイド、ランタイムポリシー適応といった新規の強化学習技法が使われました（技法の詳細は以下の論文を参照）。

参考記事：More than a game: Mastering Mahjong with AI and machine learning

参考論文：Suphx: Mastering Mahjong with Deep Reinforcement Learning

マインクラフト、テキストアドベンチャー、対戦アクションゲームもAI開発環境に

「Project Malmo」とは、『マインクラフト』内で動作するAIを開発する環境です。この開発環境はJavaバージョンのマインクラフトのModとAIを制御するコードから構成されています。2018年には、同環境を使ってAIの性能を競うコンペが開催されました。そのコンペでは、AIはマインクラフトで作成されたゲームステージ内にあるさまざまなタスクをクリアすることが求められ、タスクには迷路を脱出するものや脱出ゲームが用意されました。なお、同環境はOpenAIが提供している強化学習環境であるGymに流用できます。

公式サイト：Project Malmo

参考記事：Project Malmo: Reinforcement learning in a complex world

参考論文：The Malmo Platform for Artificial Intelligence Experimentation

「TextWorld」は、ゲーム環境とプレイヤーの相互作用を言語で表現するテキストアドベンチャーゲームを生成するPythonベースの開発環境です。同環境はゲームジェネレーターとゲームエンジンから構成されおり、前者はゲームの舞台となる部屋やオブジェクト等を生成し、後者は生成されたゲームステージの有効性を保証します。

同環境で生成されたゲームをプレイするAIの性能を競うコンペ「FirstTextWorldProblems（FTWP）」が、2019年1月１日から6月30日まで開催され、世界中から16チームが参加しました。同コンペでは、キッチンにあるレシピ本から料理に必要な材料を調べ、家を探索して材料を見つけた後に料理して食事することが競われました。同コンペで優勝したのは、高性能言語AIのBERTを応用したAIで出場したポルトガルのコンサルティング会社Cognitivaのチームでした。

TextWorldのGitHubページ

参考記事：TextWorld: A learning environment for training reinforcement learning agents, inspired by text-based games

「Project Paidia」は、人間プレイヤーと協力するNPCの開発に特化した開発環境です。NPC開発の定型的手法にはNPCの行動を分岐木のようにして定義するビヘイビア・ツリーが知られていますが、同環境では強化学習によってNPCを制御します。強化学習によってNPCを制御するツールは、マイクロソフトが開発・提供するクラウドサービスAzure Machine Learningにもとづいて開発されています。ゲームステージに採用されているのはチーム対戦型アクションゲームの『bleeding Edge』です。同ゲームには暗殺者やヒーラーといった異なるスキルを持つキャラクターが登場するため、対戦で勝利するためには高度なチームプレイが必要となるので、協力プレイするNPCの学習環境にはうってつけと言えます。ちなみに、Project Paidiaの公式サイトには同環境で開発した簡単な脱出ゲームが体験できるようになっています。

Project Paidiaの公式サイト

参考記事：Project Paidia: a Microsoft Research & Ninja Theory Collaboration

エキサイティングなゲームシーンを抽出する画像認識AI

2017年のマイクロソフト社内のハッカソン大会では、「Project Lookout」というプロジェクト名で開発された画像認識AIが大賞に選ばれました。同AIは、ストリーミング動画で特定のイベントの発生を通知するというものでした。同社が運営していたゲーム実況動画プラットフォームMixer（現在は運営終了）のゼネラルマネージャーのChad Gibson氏は同AIに関心をもち、ゲーム実況動画からもっともエキサイティングなシーンを抽出するように作り直すことを開発チームに依頼しました。こうして誕生したのが、画像認識AI「Watch For」です。

Watch Forは主に『フォートナイト』のような人気のバトルロイヤルゲームのアイコンやスコア等を認識できるように開発された後、その認識能力を生かしてエキサイティングなゲームシーンを学習した結果、エキサイティングなシーンを抽出できるようになりました。

Watch Forは、マイクロソフトが開発・提供する検索エンジン「Bing」の開発チームの目にもとまりました。同エンジンはゲーム実況動画の検索結果を視聴者数にもとづいて表示していたのですが、こうした表示方法では既存の人気実況プレイヤーがますます注目される一方で、新規の実況者が素晴らしいプレイをしても見つけられないという問題が生じていました。この問題に対してBing開発チームはWatch Forを導入することで、人気だけではなくプレイの品質も考慮に入れた検索結果を表示できるようにして解決したのでした。

参考記事：Watch For

以上のようにマイクロソフト・リサーチは、さまざまな側面からゲームにおけるAIの活用を研究して、その成果を発表しています。同研究部門からは、今後も興味深いゲーム関連AIが発表されることでしょう。

Writer：吉本幸記