【CEDEC2022】桃鉄とパワサカに見るゲームプレイAIを活用したゲーム開発最新事例

2022.9.28ゲーム

2022年8月23日から25日にかけて、ゲーム・エンターテイメント分野における最新コンピュータ技術に関するカンファレンスCEDEC2022がオンライン開催されました。8月24日には、株式会社コナミデジタルエンタテインメントの岩倉宏介氏らが「強化学習AIを活用してゲームデザインを！：「桃太郎電鉄～昭和平成令和も定番！～」「実況パワフルサッカー」」と題したセッションを行いました。本稿では同セッションを要約することで、ゲームプレイAIを活用したゲーム開発の最新事例を紹介します。

シンプルな設定から始めた桃鉄プレイAI開発

コナミの技術開発部主査を務める岩倉氏は、強化学習AIの概要を解説した後、すごろくをモチーフとしたボードゲーム『桃太郎電鉄～昭和平成令和も定番！～』（以下、「桃鉄」と表記）をプレイするAI（以下、「桃鉄プレイAI」と表記）を活用した同ゲームの開発に関する発表を始めました。今回発表する事例は、同ゲームのリリース後、今後のゲーム開発に生かす知見を得るために行われたものでした。こうした背景があるため、同AIの訓練は、製品版の同ゲームのシステムを大幅に単純化した設定から行いました。具体的には、マップは北海道のみ、駅の種類も物件駅などの4種類に絞り、カードも急行系だけ、さらに同ゲーム最大の特徴である貧乏神が出現しないという設定にしました。

桃鉄プレイAIが学習する要素には、サイコロを振った後の「移動ルート選択」とターン開始時に使用する「カード選択」のみとしました。強化学習フレームワークにはStable Baselines3を使い、アルゴリズムにはPPO、その他の設定はデフォルトとしました。

桃鉄プレイAIが選択できるアクションには、以下の表に示されている「目的地優先（カード使用あり）」のような個々のアクション選択の指針となるメタアクションを定め、細かい行動はルールベースで実行できるようにしました。

またゲームプレイは3人対戦とし、ゲーム期間は10年としました。桃鉄プレイAIのほかはルールベースで動作するコンピュータプレイヤーを用意して、それらは「目的地優先」「持ち金優先」「物件購入優先」のいずれかの戦略でプレイします。勝利条件はゲーム終了時に総資産額が多いプレイヤーを1位とし、2位のプレイヤーの総資産との差額が大きいほど多くの報酬を得られるようにしました。

以上のような設定で桃鉄プレイAIを訓練した結果、「目的地優先（カードあり）」の戦略を採用した場合にもっとも高い勝率となりました。こうした結果になった理由として、マップが北海道のみと狭いため、目的地を優先したほうが勝利しやすいからと考えられます。

ゲームの複雑化に伴うプレイ戦略の変遷

シンプルな設定で桃鉄プレイAIが訓練できることが実証できたので、設定を次第に複雑にして訓練することにしました。まずマップ範囲を北海道から全国に拡大したところ、「持ち金獲得優先（カード使用あり）」戦略を学習したAIの勝率が高くなりました。こうした勝利戦略の変化は、マップが広くなったことで目的地に到着するまでに時間がかかってしまうので、目的地に向かうよりは最寄りのプラス駅で資産を増やす戦略のほうが（総資産額が1位になるという）勝利に直結するために生じたと考えられます。

今度は目的地連続到着ボーナスを追加すると、一転して「目的地優先」戦略の勝率が高くなりました。というのも、この新たな設定を利用するために目的地に到着することを最優先すれば、最寄り駅で資産を稼ぐより勝利に直結するからです。

さらに駅種を大幅に増やす変更を加えました。駅種増加に伴い、メタアクションを一新しました。具体的には移動先の駅種が9種類、物件駅停車時の物件購入アクションとして3種類を用意して、これらの組み合わせで合計27種類のアクションを再設定しました。さらに使えるカードも、製品版桃鉄と同じ106種類まで増やしました。ただし、カードの最大所持数は8枚なのでカード選択時に有効なアクションは「カードを使わない」を加えた9アクションであるため、無効アクションに対してマスク処理を行うことで計算負荷を軽減しました。

以上のような多様な要素をゲーム設定に追加したところ、再び「持ち金獲得優先」戦略の桃鉄プレイAIが勝利するようになりました。具体的には「とっかえっこカード」を使って他プレイヤーの資産を獲得後、獲得した資金で物件を購入して資産を増やすというループを繰り返すようになったのです。この戦略は「総資産額を増やす」という勝利条件を満たすものも、すごろくをモチーフとした桃鉄のゲーム趣旨から外れたプレイとも言えます。

最後に貧乏神を追加して桃鉄プレイAIを訓練しました。桃鉄における貧乏神とはあるプレイヤーが目的地に到着した時に目的地から最も遠いプレイヤーに憑くキャラクターで、憑かれるとさまざまなデメリットが発生します。貧乏神を追加した結果、桃鉄プレイAIは目的地を優先する戦略に回帰しました。こうした戦略の変化は、総資産を増やすためにあえて目的地に向かわない戦略よりも、貧乏神が憑くことから生じるデメリットを避けるために目的地に向かうほうが勝利につながるから生じたと見なせます。

以上にまとめたように、桃鉄プレイAIは設定がより複雑になる度にプレイ戦略を変えていきました。こうした桃鉄プレイAIの事例を一般化すると、任意のゲームシステムの変更がプレイ戦略に及ぼす影響を観察できると言えます。それゆえゲームプレイAIを使えば、ゲームプランナーはゲームシステムの変更がゲームプレイに及ぼす影響をテスターやプレイヤーにプレイしてもらわなくても把握できるようになるのです。

パワサカにおけるサクセスプレイAIを活用したバランス調整

続いてコナミの第三制作部でプログラマーを務める池畑望氏が、『実況パワフルサッカー』（以下、「パワサカ」と表記）開発におけるゲームプレイAI活用について発表しました。同ゲームは、プレイヤーが育成したサッカー選手を対戦させるモバイルゲームです。選手は「サクセス」と呼ばれるミニゲームをプレイすることで育成できるのですが、サクセスにはさまざまなシナリオが用意されており、シナリオごとに異なったミニゲームをプレイすることになります。

サクセスの内容は随時更新されるので、更新の度に更新内容が選手育成に与える影響を評価しなければなりません。こうしたサクセスの評価にはランダム要素が多いために何度も同じプレイを繰り返す必要があり、熟練テストプレイヤーであっても先入観によって誤った評価をくだす可能性もあります。それゆえ、パワサカ開発チームはサクセス更新内容の評価業務に、熟練テストプレイヤーに加えてサクセスをプレイするAI（以下、「サクセスプレイAI」と表記）を導入してより完全な評価を目指したのでした。

サクセスプレイAIの開発については、前出の岩倉氏が発表しました。同AIのアルゴリズムにはPPO（Proximal Policy Optimization）とDQN（Deep Q-Network）を採用し、加えてルールベースのAIも用意しました。アルゴリズムに2種類の強化学習技法を採用したのは、サクセスには多種多様なミニゲームが用意されているため、単一の技法ですべてのゲームが得意なAIを開発できないからでした。さらに、どちらか一方の技法によるAIのスコアが著しく低かった場合、低スコアのほうのAIは改善の余地があると判断できるというメリットもありました。

サクセスプレイAIの訓練にあたっては育成選手の能力が高いほど大きな報酬を得られるようにしたら、得意なシナリオでは熟練テストプレイヤーと同等かそれ以上のスコアを達成できるようになりました。もっとも同AIをうまく開発できたとしても、そうしたAIをどのようにゲーム開発業務に活用するかを明確にしないと、関係者の支持が得られません。それゆえ、株式会社三菱ケミカルホールディングスが公開しているAIビジネス活用のためのフレームワーク「Machine Learning Project Canvas」を使って、サクセスプレイAIの使用目的を明確化しました。その結果、企画段階におけるパラメータ調整、運営におけるバランスチェック、マネージメントにおけるバグチェックに同AIを活用することになりました。

補完関係にある人間テスターとサクセスプレイAI

サクセスプレイAIの具体的な運用については、前出の池畑氏が発表しました。前述の通り同AIは、サクセスの更新内容に関するQA（評価）業務において人間の熟練テストプレイヤーを補完するかたちで導入されました。人間の熟練テストプレイヤーは豊富な知識と経験にもとづいた高度なプレイスキルがある反面、プレイ回数に限界があったり、先入見を排除できなかったりします。こうした人間の弱点を同AIで補うのです。休息が不要なAIであればプレイ時間を大幅に増やせ、また人間のような先入見にとらわれることがありません。

以上のようなQA業務における人間とAIの補完関係は、それぞれが作成するレポートの違いに表れています。人間テスターが作成したレポートは、特定のプレイに関する言語化された知見、AIによるプレイの解釈といった知識に裏打ちされた情報がふくまれています。対してAIが作成したそれにはゲームスコアの最高値・平均値・中央値、スコアの分布などの統計情報が含まれています。

サクセス評価における人間とAIの協働は、両者のテスト結果が異なる場合にこそ真価を発揮します。協働的QAの結果とその対処には、以下のような3通りがあります。

（ケース１：人間テスターとサクセスプレイAIのスコアがほぼ同等の場合）テストプレイ結果に大きな問題はない。テストプレイのスコアを参考にして、バランス調整を行う。
（ケース2：人間テスターのスコアがサクセスプレイAIのそれより低い場合）人間テスターが見逃している攻略法がある可能性が高い。見逃している攻略法をAIのプレイを参考にして発見して再度プレイしてみる。そうすると、おそらく人間のスコアが伸びる。
（ケース3：ケース2と逆の場合）AIが見逃している攻略法を、人間テスターのプレイから見つける。

池畑氏は、以上のような協働的QAから得た教訓として以下のような4項目を挙げて発表をまとめました。

妥協するべき点は妥協する：サクセスプレイAIには、ゲームプレイにおける得手不得手がある。不得意なゲームに関しては、同AIの訓練を必要以上に継続しないで「このゲームの評価にはAIを使わない」と決断することが重要。
AIの役割を明確にする：サクセスプレイAIは万能ではない。それゆえ、その役割を明確にすることで人間との協働がうまく行くようになる。
強化学習AIの限界を知る：一般に強化学習AIには、学習するテーマに関して向き不向きがある。不得意なテーマを学習するとコストがかさむので、得意なそれで運用するように心がける。サクセスのゲームは、おおむね強化学習との相性が良かった。
ゲーム開発チームとの協力体制の確立：ゲームプレイAIを活用したQA業務を成功させるには、ゲーム開発チームの協力が不可欠。ゆえに、ゲームプレイAI開発チームは早期にゲーム開発チームとの連携を確立すべき。

以上のようなセッションの最後に岩倉氏は、国立情報学研究所との共同研究に言及しました。コナミは同研究所の石川冬樹准教授と共同して、強化学習アルゴリズムの違いによって生じる強化学習AIの性能差を解明する研究を行いました。この研究をまとめた論文『Explaining the Behaviour of Game Agents Using Differential Comparison』は、2022年10月10日にオンライン開催されるASE4Games2022で発表されます。同論文に興味がある場合は、この発表を視聴するとよいでしょう。

今回発表された桃鉄とパワサカをプレイするAIは、単純に人間の手間を省くようなものではなく、人間が気づきにくいことを明確にしたり、人間が苦手とすることを補完したりするものでした。こうしたゲームプレイAIをゲーム開発に活用するには、人間とAIの密接な協働が不可欠となります。それゆえ、これからゲーム開発においてゲームプレイAIを活用する場合には、単なるツールではなくチームメンバーの一員として迎え入れる態度が重要となるのではないでしょうか。

Writer：吉本幸記