モリカトロン株式会社運営「エンターテインメント×AI」の最新情報をお届けするサイトです。

TAG LIST
ディープラーニング機械学習CGCGへの扉安藤幸央GANニューラルネットワーク月刊エンタメAIニュース強化学習三宅陽一郎モリカトロンAIラボインタビュー敵対的生成ネットワーク音楽OpenAIQAスクウェア・エニックスシナリオNVIDIAデバッグCEDEC2019河合律子プロシージャルDeepMind人工知能学会FacebookキャラクターAIルールベースビヘイビア・ツリーGoogleCEDEC2020ゲームAI映画SIGGRAPH遺伝的アルゴリズム不完全情報ゲームメタAIナビゲーションAI畳み込みニューラルネットワーク深層学習マイクロソフトAIと倫理グーグルGDC 2021GDC 2019マルチエージェントVR森川幸人ボードゲーム自然言語処理ロボットStyleGAN自動生成GPT-3CNNVFXモリカトロンゲームプレイAIファッションHTN階層型タスクネットワークJSAI2020Microsoftイベントレポート水野勇太アニメーションガイスターNPCCLIPアートtoio吉本幸記JSAI2021スポーツディープフェイク汎用人工知能TensorFlowGDC SummerテストプレイeSportsBLUE PROTOCOL小説DALL-EStyleGAN2AlphaZeroカメラ環世界中島秀之懐ゲーから辿るゲームAI技術史研究DARPAドローンAI美空ひばり手塚治虫メタデータ通しプレイOpenAI Five本間翔太CM倫理ピクサーAdobe作曲中嶋謙互Amadeus CodeMicrosoft Azureキャリアeスポーツ音声認識PyTorchDQN眞鍋和子バンダイナムコスタジオシーマンUnity齊藤陽介マインクラフトお知らせAIアートサルでもわかる人工知能VAEUbisoftUbisoft La ForgeワークショップGenvid Technologies知識表現ウォッチドッグス レギオンIGDAどうぶつしょうぎジェイ・コウガミ音楽ストリーミングマシンラーニングクラウドコンピューティショナル・フォトグラフィーGPT-2完全情報ゲーム坂本洋典釜屋憲彦ウェイポイントパス検索藤澤仁生物学画像認識NFT長谷洋平鴫原盛之masumi toyota宮路洋一SIGGRAPH ASIAソニーCycleGANフェイクニュースシムピープルGPUALife人工生命オルタナティヴ・マシンサウンドスケープASBSマンガぱいどんTEZUKA2020ナビゲーションメッシュ松井俊浩スパーシャルAIElectronic ArtsマーケティングApex LegendsNinjaゲームTENTUPLAYMARVEL Future Fightタイムラプスバスキアブロックチェーン階層型強化学習WANN竹内将馬淵浩希岡島学映像セリア・ホデントUX認知科学ゲームデザインLUMINOUS ENGINELuminous Productionsパターン・ランゲージちょまどビッグデータアストロノーカ模倣学習ナラティブFPSマルコフ決定過程スタンフォード大学パラメータ設計テニスバランス調整レコメンドシステム対話型エージェント協調フィルタリング人狼知能Amazon軍事AlphaDogfight TrialsエージェントシミュレーションStarCraft IIFuture of Life InstituteIntelロボティクスLAIKARotomationドラゴンクエストライバルズ不確定ゲームDota 2モンテカルロ木探索ソーシャルゲームEmbeddingGTC2020NVIDIA MAXINE淡路滋ビデオ会議グリムノーツゴティエ・ボエダGautier Boeda階層的クラスタリングaiboJuliusSIETPRGバーチャル・ヒューマン・エージェントtoio SDK for Unityクーガー田中章愛石井敦銭起揚茂谷保伯MinecraftGDMC成沢理恵MITメディアラボ著作権マジック・リープMagic Leap OneMagendaノンファンジブルトークンDDSPサッカー里井大輝KaggleバスケットボールAssassin’s Creed OriginsSea of ThievesGEMS COMPANYmonoAI technologyアバター初音ミクOculus転移学習テストBaldur's Gate 3Candy Crush SagaSIGGRAPH ASIA 2020デバッギングBigGANMaterialGANリップシンキングRNNReBeL自動運転車VolvoRival Prakユービーアイソフト北尾まどかHALO将棋メタルギアソリッドVFSMナップサック問題汎用言語モデルSpotifyMITReplica StudioamuseChitrakar巡回セールスマン問題ジョルダン曲線5GMuZeroクラウドゲーミングRival Peak和田洋一リアリティ番組Stadiaジョンソン裕子MILEs対話エンジンインタラクティブ・ストリーミング斎藤由多加インタラクティブ・メディアリトル・コンピュータ・ピープルシーマン人工知能研究所Ludoゴブレット・ゴブラーズTransformerSIGGRAPH 2019ArtEmis絵画ARGROVERFAIRAIりんなチート検出オンラインカジノアップルRealFlowiPhoneシミュレーションDeep FluidsMeInGameAIGraphブレイン・コンピュータ・インタフェースBCILearning from Video予期知能ユクスキュルカント哲学ドラゴンクエストエージェントアーキテクチャPAIROCTOPATH TRAVELER西木康智OCTOPATH TRAVELER 大陸の覇者アルスエレクトロニカ2019StyleCLIPDeNAStyleRig逆転オセロニア奥村エルネスト純いただきストリート齋藤精一大森田不可止高橋智隆ロボユニザナック泉幸典仁井谷正充ロボコレ2019ぎゅわんぶらあ自己中心派Azure Machine Learning意思決定モデル脱出ゲームHybrid Reward ArchitectureウロチョロスSuper Phoenix理化学研究所Project Malmo教育TextWorldProject PaidiaProject LookoutWatch ForBingLEFT ALIVE長谷川誠ジミ・ヘンドリックスBaby Xカート・コバーンロバート・ダウニー・Jr.エイミー・ワインハウスMagentaYouTubeダフト・パンクSFGlenn MarshallThe Age of A.I.Story2HallucinationレコメンデーションJukeboxGTC2021テンセントSIFTDCGANMOBADANNCE人事ハーバード大学研修デューク大学mynet.aiローグライクゲームNetHack人工音声NeurIPS 2021はこだて未来大学プレイ動画ヒップホップサイレント映画NBA環境音現代アートエージェント粒子群最適化法進化差分法群知能下川大樹ウィル・ライト高津芳希シムシティ大石真史BEiTレベルデザインDETRSporeAIボイスアクターデノイズ南カリフォルニア大学画像処理NVIDIA CanvasSentropyCPUDiscordZorkCALMプログラミングソースコード生成GMAIシチズンデベロッパーTRPGGitHubウィザードリィMCN-AI連携モデルAI DungeonMCS-AI動的連携モデル西川善司並木幸介サムライスピリッツ森寅嘉ゼビウスSIGGRAPH 2021ストリートファイター半導体Topaz Video Enhance AI栗原聡DLSS山野辺一記NetEase大里飛鳥DynamixyzモーションキャプチャーU-Net13フェイズ構造アドベンチャーゲームADVXLandAGI手塚眞DEATH STRANDING不気味の谷Eric JohnsonOculus Questコジマプロダクション生体情報デシマエンジンインディーゲーム写真高橋ミレイ照明Maxim PeterJoshua Romoffハイパースケープ山崎陽斗深層強化学習立木創太CEDEC2021バンダイナムコ研究所ミライ小町GameGANパックマンソサエティ5.0SIGGRAPH 2020DIB-R3D広告

【GDC 2021】自分の判断で威力偵察や稜線射撃ができるゲームAI

2021.8.18ゲーム

【GDC 2021】自分の判断で威力偵察や稜線射撃ができるゲームAI

戦場における作戦行動には、作戦エリアに関する地形情報にくわえて、敵部隊の規模と種類、位置と時間、配備された装備など、リアルタイムに変化していく動的な情報を収集、逐次更新するための隠密偵察、威力偵察、またはその両方が欠かせません。敵に察知されないよう情報収集に徹する隠密偵察に対して、威力偵察とはあえて敵と交戦することで対象の位置や装備を把握する行動を指します。

こうした動的環境における長期的な意思決定は、ゲームAI開発における大きな課題のひとつです。7月19日から7月24日までオンラインで開催された「Game Developers Conference 2021」(GDC 2021)にて、スクウェア・エニックスのAIエンジニア、並木幸介氏と森寅嘉氏による「階層型タスクネットワークを使った動的環境におけるプランニングへの新たなアプローチ」というセッションを取材しました。

このセッションでは、武装した巨大ロボットを操縦して戦場を駆け巡るアクションゲームを使って、AIプレイヤーが威力偵察における索敵、交戦、撤退を自らの判断で実行するための新たなプランニング手法が提案されました。偵察中に発見した撃破可能なターゲットを排除しつつ、強敵の出現によって危険な状況に転じた場合は煙幕を張って撤退を開始。その際に切り札となる強力な兵器を使って強敵を破壊するか、あるいは敵に追撃を断念させることを行います。なお、攻撃の際には敵からの被弾を最小限に抑えるために稜線射撃に徹すること。これらをすべてAIの判断で実行させることが最終目的です。

階層型タスクネットワークの長所と短所

近年のゲームAI開発は、有限状態機械(FSM、Finite State Machine)やビヘイビアツリー(Behavior Tree)、GOAP(Goal Oriented Action Planning)、階層型タスクネットワーク(HTN:Hierarchical Task Network)といった異なる種類の意思決定モデルによって支えられています。それぞれに長所と短所があり、目的に応じて使い分けたり、複数のモデルを組み合わせたりして、ゲームデザインに最適なゲームAIが構築されていきます。

今回のセッションで扱うHTNとは、読んで字のごとし。複数のタスクによるネットワークを階層型に構築することで、行動計画を立てるタスクベースのアルゴリズムを意味します。長期的な行動計画の実装に適しており、特に配送最適化問題のような静的環境におけるプランニングに優れています。

すべてのタスクは、行動の最小単位であるプリミティブタスクと、それらを組み合わせたコンパウンドタスクの2種類に分別されます。この時、前者は階層的に下位、後者は上位という関係にあります。たとえば、「歩行」や「射撃」がプリミティブタスクだとすれば、長期的な行動目標である「威力偵察」は多くのプリミティブタスクを複合させた階層的に最上位のコンパウンドタスクであると考えられます。

こうしたコンパウンドタスクを複数のタスクへ分解し、下層タスクから順に実行できるようプランニングするのが、HTNの役割です。プランニングの際に最小単位まで分解されたタスクは、1本の鎖のように並べられた後、ひとつずつ順番に実行されます。このタスクチェーンは、すべてのタスクが実行されるまで変更できません。そのため、途中で環境に変化が生じた場合、HTNは既存の計画をすべて破棄して新しいプランを作ろうとします。

その性質上、プレイヤーの挙動によって環境が常に変化するビデオゲームでは、リプランニングの頻度が増えるほど、AIは長期的な思考能力を失ってしまいます。結果として、短期的な意思決定しかできない即応的なAIが出来上がってしまうというわけです。そこで、ビデオゲームのような動的な環境で長期的な行動を実現するために、スクウェア・エニックスはHTNを改良した「ART-HTN」という新たなプランニング手法を提案しています。

メモリ容量が増えた現代だからできること

「ART-HTN」(Advanced Realtime Hierarchical Task Network)には、「マルチシナリオ・プラン」「シミュレーション・プランナー」「プラン・エグゼキュータ」という3つの特徴があります。簡単に説明すると、マルチシナリオ・プランが複数のシナリオを想定することでリアルタイムに起こる状況の変化に対応し、シミュレーション・プランナーが簡易的なシミュレーションの生成でプラン精度を向上させることでリプランニングの回数を減らし、プラン・エグゼキュータというプラン生成とは別の実行権限を設けることで柔軟なプランの制御を可能にするという仕組みです。

マルチシナリオ・プランは、環境の変化によって本来は破棄されていたタスクチェーンを、サブプランとして再利用するために機能させます。タスクとシチュエーションという2種類のデータで構成されており、シチュエーションにはキャラクターの位置情報や残りHP、敵AIの内部ステートIDといった簡略化されたゲームワールドの情報がふくまれています。それぞれのシチュエーションが前後のシチュエーションを参照することで、「Situation-Task ネットワーク」(ST-Network)というグラフ構造を形成します。これにより、プランの探索中に発見した中間状態をタスクチェーンの分岐点として含められるというわけです。

「ART-HTN」では、プリコンディション(事前条件)とシミュレート関数を持つプリミティブタスクのほかに、前述したコンパウンドタスクと同様に複数のタスクから構成されるコンポジットタスクを扱います。セッションでは、コンポジットタスクの例として「FSMタスク」と「ステップタスク」が紹介されました。FSMタスクは、後述するシミュレーション・プランナーが敵の行動を予測するために用いられ、ステップタスクは、タスク実行の際に少数のループや限定された数の分岐を持たせるために使われるということです。

長期的な思考能力を持つゲームAIを目指して

シミュレーション・プランナーは、前述したST-Networkの生成やシチュエーションの終端ノードを展開する役割を担っています。この際、敵の行動モデルをシミュレートすることで、それぞれのシチュエーションにおける分岐も生成しています。終端ノードを展開する際には、意思決定システムが各キャラクターに対してプリコンディションを満たしたタスクをアサインします。くわえて、コンポジットタスクが許可した場合は、現在のコンポジットタスクを展開することも可能ということでした。

例えば、あるシチュエーションにおけるFSMタスクが「ステートa」「ステートb」「ステートc」へ遷移する場合、このFSMタスクはそれぞれのコピーインスタンスへと展開します。この時、FSMタスクにふくまれるすべてのデータがコピーされます。その後、ステートの遷移が実行されて、異なる3つのタスク・インスタンスが生成されるという流れです。

このプロセスは、すべてのエージェントの意思決定システムによって実行されるので、結果としてST-Networkは膨大なノード数を持つことになります。このサイズを縮小するために、展開処理に確率閾値を設定できるようにデザインしたということです。乱数がこの閾値を越えた場合に限って、タスクが展開されるという仕組みです。

キャラクターの行動はタスクによって定義されていますが、タスクそのものはゲーム環境で実行できるフォーマットではありません。そこでプラン・エグゼキュータの出番です。プラン・エグゼキュータは、ST-Networksのシチュエーションノードからもっとも評価値の高いタスクを選択した後、そのタスクを分解してゲーム内で実行可能なオペレータへと変換してくれます。それらを順番に実行することでゲームキャラクターが動き出します。

セッションの最後には、地形の等高線データに基づいた丘陵検出アルゴリズムを活用した稜線射撃デモと、冒頭で記述した長期的な行動計画をすべて実行させた威力偵察デモが披露されました。今回の技術検証によって、ART-HTNが動的環境に適応できることが確認できたということでした。将来、人間のように長期的な思考能力を有したゲームAIが実現できれば、ゲーム体験の価値そのものが大きく変化することでしょう。

Writer:Ritsuko Kawai / 河合律子

RELATED ARTICLE関連記事

【CEDEC2020】『ドラゴンクエストライバルズ』のゲーム状態と行動を反映した対戦AI構築の試み

2020.9.30ゲーム

【CEDEC2020】『ドラゴンクエストライバルズ』のゲーム状態と行動を反映した...

ゲームAIのこれまでとこれから:三宅陽一郎氏×森川幸人氏 対談(前編)

2019.4.26ゲーム

ゲームAIのこれまでとこれから:三宅陽一郎氏×森川幸人氏 対談(前編)

AIにも泣けるストーリーは書ける?:藤澤仁氏×森川幸人氏対談(前編)

2019.10.08ゲーム

AIにも泣けるストーリーは書ける?:藤澤仁氏×森川幸人氏対談(前編)

RANKING注目の記事はこちら