モリカトロン株式会社運営「エンターテインメント×AI」の最新情報をお届けするサイトです。

TAG LIST
CGCGへの扉安藤幸央機械学習ディープラーニング月刊エンタメAIニュース河合律子GANOpenAI吉本幸記音楽NVIDIA生成系AI強化学習ニューラルネットワーク三宅陽一郎GoogleStable DiffusionグーグルQAシナリオDeepMind人工知能学会GPT-3森川幸人自然言語処理ChatGPTFacebook大内孝子マイクロソフト大規模言語モデル映画キャラクターAI敵対的生成ネットワークルールベースAIと倫理アートゲームプレイAIスクウェア・エニックスモリカトロンAIラボインタビュー倫理SIGGRAPH著作権モリカトロンデバッグ画像生成NFTDALL-E2StyleGANプロシージャルLLM遺伝的アルゴリズムNPC自動生成テストプレイメタAI画像生成AIテキスト画像生成ロボット深層学習ファッションCEDEC2019ディープフェイクVFXAdobeMidjourneyデジタルツインボードゲームDALL-ECLIPビヘイビア・ツリーマンガCEDEC2021CEDEC2020ゲームAIメタバース不完全情報ゲームVRナビゲーションAI畳み込みニューラルネットワークGDC 2021JSAI2022作曲NVIDIA OmniverseGDC 2019マルチエージェントCEDEC2022MinecraftAIアート小説アニメーションStability AIメタ懐ゲーから辿るゲームAI技術史toioジェネレーティブAI音楽生成AIスポーツ栗原聡手塚治虫CNNバーチャルヒューマンBERTMicrosoftUnityMetaOmniverse3DCGJSAI2023鴫原盛之HTN階層型タスクネットワークソニーGPT-4汎用人工知能JSAI2020GTC2023NeRFTensorFlowインタビューイベントレポート対話型エージェントAmazonロボティクスDQN水野勇太アバターUbisoftGenvid TechnologiesガイスターStyleGAN2デジタルヒューマンGTC2022教育JSAI2021はこだて未来大学研究エージェントシムピープルMCS-AI動的連携モデルプロンプトモーションキャプチャーTEZUKA2020CEDEC2023マルチモーダルElectronic Arts3DマーケティングメタデータGDC SummerブロックチェーンCMMicrosoft Azureアストロノーカキャリア模倣学習eスポーツスタンフォード大学アーケードゲームテニスサイバーエージェントトレーディングカード音声認識メディアアート類家利直eSportsBLUE PROTOCOLシーマンaibo合成音声チャットボットブラック・ジャックAWS徳井直生斎藤由多加AlphaZeroTransformerARGPT-2rinnaAIりんなカメラELSI環世界中島秀之PaLM哲学ベリサーブPlayable!GPT-3.5理化学研究所Gen-1SIGGRAPH ASIASFNetflixデータマイニング東京大学Bard現代アートDARPAドローンシムシティImagenZorkバイアスASBSぱいどんアドベンチャーゲームAI美空ひばりテキスト生成手塚眞バンダイナムコ研究所スパーシャルAINEDOFSM-DNNLEFT 4 DEADイーロン・マスク通しプレイOpenAI FiveStable Diffusion XL本間翔太馬淵浩希Cygames森山和道Audio2Faceピクサープラチナエッグイーサリアムボエダ・ゴティエビッグデータ中嶋謙互Amadeus Codeデータ分析MILEナラティブNVIDIA RivaOmniverse ReplicatorWCCFレコメンドシステムNVIDIA DRIVE SimWORLD CLUB Champion FootballNVIDIA Isaac Simセガ柏田知大軍事田邊雅彦トレカMax CooperGPTFireflyPyTorchChatGPT4眞鍋和子バンダイナムコスタジオ大澤博隆SFプロトタイピング齊藤陽介マインクラフトお知らせMagic Leap OneTencentモリカトロン開発者インタビュー宮本茂則バスケットボールサルでもわかる人工知能text-to-3DVAEDreamFusionTEZUKA2023リップシンキングRNNUbisoft La Forge自動運転車ワークショップ知識表現ウォッチドッグス レギオンVTuberIGDA立教大学秋期GTC2022市場分析どうぶつしょうぎEpic GamesRobloxジェイ・コウガミ音楽ストリーミングMITAIロボ「迷キュー」に挑戦野々下裕子Adobe MAXマシンラーニング村井源5GMuZeroRival Peakpixivオムロン サイニックエックスクラウド電気通信大学対話エンジン稲葉通将3Dスキャン橋本敦史リトル・コンピュータ・ピープルCodexシーマン人工知能研究所コンピューティショナル・フォトグラフィーPreferred Networksゴブレット・ゴブラーズ絵画Microsoft DesignerイラストシミュレーションSoul Machines柿沼太一完全情報ゲーム坂本洋典釜屋憲彦ウェイポイントLLaMAパス検索対談藤澤仁生物学GTC 2022画像認識ハリウッドSiemensストライキStyleCLIPDeNA長谷洋平クラウドコンピューティングmasumi toyotaIBM宮路洋一OpenSeaGDC 2022SNSTextWorldEarth-2BingMagentaYouTube音声生成AIELYZA PencilScenarioSIGGRAPH2023テキスト画像生成AI松尾豊AIピカソGTC2021AI素材.comCycleGANテンセントAIQVE ONENetHackキャラクターモーションControlNetNBAフェイクニュースユニバーサルミュージックRPG法律SIGGRAPH 2022世界モデルレベルデザインゲームエンジンDreamerV3AIボイスアクター南カリフォルニア大学NVIDIA CanvasGPUALife人工生命オルタナティヴ・マシンサウンドスケープLaMDATRPGマジック:ザ・ギャザリングAI DungeonRed Ramマーダーミステリーゲーム背景不気味の谷ナビゲーションメッシュインディーゲーム高橋ミレイ深層強化学習松原仁松井俊浩武田英明ELYZAフルコトELYZA DIGEST建築音声合成広告西成活裕ハイブリッドアーキテクチャApex LegendsELIZA群衆マネジメントライブポートレイトNinjaコンピュータRPGライブビジネスWonder StudioAdobe Max 2023アップルタウン物語新型コロナ土木MindAgentKELDIC周済涛BIMBing Chatメロディ言語清田陽司インフラBing Image CreatorゲームTENTUPLAYサイバネティックスDALL-E 3MARVEL Future FightAstro人工知能史Amazon BedrockAssistant with BardタイムラプスEgo4DAI哲学マップThe Arcadeバスキア星新一X.AISearch Generative Experience日経イノベーション・ラボStyleGAN-XLX Corp.Dynalang敵対的強化学習StyleGAN3TwitterVLE-CE階層型強化学習GOSU Data LabGANimatorXホールディングス論文WANNGOSU Voice AssistantVoLux-GANMagiAI Act竹内将SenpAI.GGProjected GANEUMobalyticsSelf-Distilled StyleGANSDXLArs ElectronicaニューラルレンダリングRTFKTAI規制岡島学AWS SagemakerPLATONIKE欧州委員会映像セリア・ホデント形態素解析frame.ioClone X欧州議会UXAWS LambdaFoodly村上隆欧州理事会誤字検出MusicLM認知科学中川友紀子Digital MarkAudioLMゲームデザインSentencePieceアールティSnapchatMusicCapsLUMINOUS ENGINEクリエイターコミュニティAudioCraftLuminous ProductionsBlenderBot 3バーチャルペット効果音パターン・ランゲージ竹村也哉Meta AINVIDIA NeMo ServiceMubertちょまどマーク・ザッカーバーグヴァネッサ・ローザMubert RenderGOAPWACULVanessa A RosaGen-2Adobe MAX 2021陶芸Runway AI Film Festival自動翻訳Play.htPreViz音声AINVIDIA ACEAIライティングLiDARCharacter-LLMOmniverse AvatarAIのべりすとPolycam復旦大学FPSQuillBotdeforumChat-Haruhi-Suzumiyaマルコフ決定過程NVIDIA MegatronCopysmith動画生成AI涼宮ハルヒNVIDIA MerlinJasperハーベストEmu VideoNVIDIA MetropolisForGamesNianticパラメータ設計ゲームマーケットペリドットバランス調整岡野翔太Dream Track協調フィルタリング郡山喜彦Music AI Tools人狼知能テキサス大学ジェフリー・ヒントンLyriaGoogle I/O 2023Yahoo!知恵袋AlphaDogfight TrialsAI Messenger VoicebotGoogle I/OインタラクティブプロンプトAIエージェントシミュレーションOpenAI Codex武蔵野美術大学慶應義塾大学StarCraft IIHyperStyleBingAI石渡正人Future of Life InstituteRendering with Style手塚プロダクションIntelDisney林海象LAIKADisneyリサーチヴィトゲンシュタインPhotoshop古川善規RotomationGauGAN論理哲学論考Lightroom大規模再構成モデルGauGAN2京都芸術大学CanvaLRMドラゴンクエストライバルズ画像言語表現モデルObjaverse不確定ゲームSIGGRAPH ASIA 2021PromptBaseBOOTHMVImgNetDota 2モンテカルロ木探索ディズニーリサーチpixivFANBOXOne-2-3-45Mitsuba2バンダイナムコネクサス虎の穴3DガウシアンスプラッティングソーシャルゲームEmbeddingワイツマン科学研究所ユーザーレビューFantiaワンショット3D生成技術GTC2020CG衣装mimicとらのあな高橋力斗NVIDIA MAXINEVRファッションBaidu集英社淡路滋ビデオ会議ArtflowERNIE-ViLG少年ジャンプ+グリムノーツEponym古文書ComicCopilotゴティエ・ボエダ音声クローニング凸版印刷コミコパGautier Boeda階層的クラスタリングGopherAI-OCRゲームマスター画像判定Inowrld AIJuliusSIE鑑定ラベル付けMODTPRGOxia PalusGhostwriterバーチャル・ヒューマン・エージェントtoio SDK for UnityArt RecognitionSkyrimクーガー田中章愛実況パワフルサッカースカイリム石井敦銭起揚NHC 2021桃太郎電鉄RPGツクールMZ茂谷保伯池田利夫桃鉄ChatGPT_APIMZGDMC新刊案内パワサカダンジョンズ&ドラゴンズマーベル・シネマティック・ユニバースコナミデジタルエンタテインメントOracle RPG成沢理恵MITメディアラボMCU岩倉宏介深津貴之アベンジャーズPPOxVASynthマジック・リープDigital DomainMachine Learning Project CanvasLaser-NVMagendaMasquerade2.0国立情報学研究所ノンファンジブルトークンDDSPフェイシャルキャプチャー石川冬樹MERFサッカースパコンAlibaba里井大輝KaggleスーパーコンピュータVQRF山田暉松岡 聡nvdiffrecAssassin’s Creed OriginsAI会話ジェネレーターTSUBAME 1.0NeRFMeshingSea of ThievesTSUBAME 2.0LERFGEMS COMPANYmonoAI technologyLSTMABCIマスタリングモリカトロンAIソリューション富岳TikTok初音ミクOculusコード生成AISociety 5.0リアム・ギャラガー転移学習テストAlphaCode夏の電脳甲子園グライムスBaldur's Gate 3Codeforces座談会BoomyCandy Crush Saga自己増強型AItext-to-imageジョン・レジェンドSIGGRAPH ASIA 2020COLMAPザ・ウィークエンドADOPNVIDIA GET3DドレイクデバッギングBigGANGANverse3DMaterialGANグランツーリスモSPORTAI絵師エッジワークスReBeLグランツーリスモ・ソフィーUGC日本音楽作家団体協議会GTソフィーPGCFCAVolvoFIAグランツーリスモチャンピオンシップVoiceboxNovelAIさくらインターネットRival PrakDGX A100NovelAI DiffusionぷよぷよユービーアイソフトWebcam VTuberモーションデータ星新一賞大阪公立大学北尾まどかHALOポーズ推定TCG将棋メタルギアソリッドVフォートナイトメッシュ生成KLabFSMメルセデス・ベンツQRコードMagic Leap囲碁ナップサック問題Live NationEpyllionデンソー汎用言語モデルWeb3.0マシュー・ボールデンソーウェーブAIOpsムーアの法則原昌宏Spotifyスマートコントラクト日本機械学会Replica Studioロボティクス・メカトロニクス講演会amuseChitrakarQosmoAdobe MAX 2022トヨタ自動車巡回セールスマン問題かんばん方式ジョルダン曲線メディアAdobe Research政治Galacticaプロット生成クラウドゲーミングがんばれ森川君2号和田洋一リアリティ番組映像解析FastGANStadiaジョンソン裕子セキュリティ4コママンガMILEsNightCafe東芝デジタルソリューションズインタラクティブ・ストリーミングLuis RuizSATLYS 映像解析AIインタラクティブ・メディアポケモンPFN 3D ScanElevenLabs東京工業大学HeyGenLudo博報堂After EffectsラップPFN 4D Scan絵本SIGGRAPH 2019ArtEmisZ世代DreamUp出版AIラッパーシステムDeviantArtAmmaar ReshiWaifu DiffusionStoriesGROVERプラスリンクス ~キミと繋がる想い~元素法典StoryBirdFAIRSTCNovel AIVersedチート検出Style Transfer ConversationOpen AIProlificDreamerオンラインカジノRCPUnity SentisアップルRealFlowRinna Character PlatformUnity MuseiPhoneCALACaleb WardDeep Fluids宮田龍MeInGameAmelia清河幸子AIGraphブレイン・コンピュータ・インタフェースバーチャルキャラクター西中美和BCIGateboxアフォーダンス安野貴博Learning from VideoANIMAKPaLM-SayCan斧田小夜予期知能逢妻ヒカリ宮本道人セコムGitHub CopilotLLaMA 2ユクスキュルバーチャル警備システムCode as Policiesカント損保ジャパンCaPHugging FaceCM3leon上原利之Stable DoodleドラゴンクエストエージェントアーキテクチャアッパーグラウンドコリジョンチェックT2I-AdapterPAIROCTOPATH TRAVELERxAI西木康智OCTOPATH TRAVELER 大陸の覇者山口情報芸術センター[YCAM]アルスエレクトロニカ2019品質保証YCAM日本マネジメント総合研究所StyleRigAutodeskアンラーニング・ランゲージVoyager逆転オセロニアBentley Systemsカイル・マクドナルドLily Hughes-Robinsonワールドシミュレーターローレン・リー・マッカーシーColossal Cave Adventure奥村エルネスト純いただきストリートH100鎖国[Walled Garden]​​プロジェクトAdventureGPT齋藤精一大森田不可止COBOLSIGGRAPH ASIA 2022リリー・ヒューズ=ロビンソン高橋智隆DGX H100VToonifyBabyAGIロボユニザナックDGX SuperPODControlVAEGPT-3.5 Turbo泉幸典仁井谷正充変分オートエンコーダーカーリングロボコレ2019Instant NeRFフォトグラメトリウィンブルドンartonomous回帰型ニューラルネットワークbitGANsDeepJoin戦術分析ぎゅわんぶらあ自己中心派Azure Machine LearningAzure OpenAI Serviceパフォーマンス測定意思決定モデル脱出ゲームDeepLIoTHybrid Reward Architectureコミュニティ管理DeepL WriteProFitXウロチョロスSuper PhoenixWatsonxProject MalmoオンラインゲームAthletica気候変動コーチングProject Paidiaシンギュラリティ北見工業大学Project Lookoutマックス・プランク気象研究所レイ・カーツワイル北見カーリングホールWatch Forビョルン・スティーブンスヴァーナー・ヴィンジ画像解析気象モデルRunway ResearchじりつくんLEFT ALIVE気象シミュレーションMake-A-VideoNTT Sportict長谷川誠ジミ・ヘンドリックス環境問題PhenakiAIカメラBaby Xカート・コバーンエコロジーDreamixSTADIUM TUBEロバート・ダウニー・Jr.エイミー・ワインハウスSDGsText-to-ImageモデルPixelllot S3ソフトバンクダフト・パンクメモリスタAIスマートコーチGlenn MarshallThe Age of A.I.Story2Hallucination音声変換LatitudeレコメンデーションJukeboxDreamboothVeap Japanヤン・ルカンEAPneoAIPerfusionSIFT福井千春DreamIconニューラル物理学DCGAN医療mign毛髪MOBADANNCEメンタルケアstudiffuse荒牧英治人事ハーバード大学Edgar HandyAndreessen Horowitz中ザワヒデキ研修デューク大学大屋雄裕QA Tech Night中川裕志mynet.aiローグライクゲーム松木晋祐Adreeseen Horowitz東京理科大学下田純也NVIDIA Avatar Cloud Engine人工音声NeurIPS 2021産業技術総合研究所桑野範久Replica StudiosリザバーコンピューティングSmart NPCsプレイ動画ヒップホップ対話型AIモデルRoblox StudioソニーマーケティングPromethean AIサイレント映画もじぱnote音源分離環境音暗号通貨note AIアシスタントMusiioFUZZLEKetchupEndelAlterationAI News粒子群最適化法Art Selfie進化差分法オープンワールドArt TransferSonar群知能下川大樹AIFAPet PortraitsSonar+Dウィル・ライト高津芳希P2EBlob OperaWeb3大石真史クリムトDolby AtmosBEiTStyleGAN-NADASonar Music FestivalDETRライゾマティクスSporeUnreal Engineクリティックネットワーク真鍋大度デノイズUnity for Industryアクターネットワーク花井裕也画像処理DMLabRitchie HawtinSentropyGLIDEControl SuiteErica SynthCPUDiscordAvatarCLIPAtari 100kUfuk Barış MutluSynthetic DataAtari 200MJapanese InstructBLIP AlphaCALMYann LeCun日本新聞協会プログラミングサム・アルトマン鈴木雅大AIいらすとやソースコード生成コンセプトアートAI PicassoGMAIシチズンデベロッパーSonanticColie WertzEmposyGitHubCohereリドリー・スコットAIタレントウィザードリィMCN-AI連携モデル絵コンテAIタレントエージェンシーUrzas.aiストーリーボードmodi.ai介護大阪大学BitSummit西川善司並木幸介KikiBlenderBitSummit Let’s Go!!サムライスピリッツ森寅嘉Zoetic AIゼビウスSIGGRAPH 2021ペットストリートファイター半導体Digital Dream LabsPaLM APIデジタルレプリカTopaz Video Enhance AICozmoMakerSuiteGOT7DLSSタカラトミーSkebsynthesia山野辺一記NetEaseLOVOTDreambooth-Stable-DiffusionHumanRF大里飛鳥DynamixyzMOFLINActors-HQRomiGoogle EarthSAG-AFTRAU-NetミクシィGEPPETTO AIWGA13フェイズ構造ユニロボットStable Diffusion web UIチャーリー・ブルッカーADVユニボPoint-EXLandGatoアパレル岡野原大輔AGIAI model自己教師あり学習DEATH STRANDINGAI ModelsIn-Context Learning(ICL)Eric Johnson汎用強化学習AIZMO.AILoRAデザインMOBBY’SファインチューニングOculus Questコジマプロダクションロンドン芸術大学モビーディックグランツーリスモ生体情報デシマエンジンGoogle Brainダイビング量子コンピュータSound Controlアウトドアqubit写真SYNTH SUPERAIスキャニングIBM Quantum System 2照明Maxim PeterKarl Sims自動採寸北野宏明Joshua RomoffArtnome3DLOOKダリオ・ヒルハイパースケープICONATESizerジェン・スン・フアン山崎陽斗ワコールHuggingFace立木創太スニーカーStable Audio浜中雅俊UNSTREET宗教ミライ小町Newelse仏教テスラ福井健策CheckGoodsコカ・コーラGameGAN二次流通食品パックマンTesla Bot中古市場Coca‑Cola Y3000 Zero SugarTesla AI DayWikipediaDupe KillerCopilot Copyright Commitmentソサエティ5.0Sphere偽ブランドテラバースSIGGRAPH 2020バズグラフXaver 1000配信京都大学ニュースタンテキ養蜂立福寛東芝Beewiseソニー・ピクチャーズ アニメーション音声解析DIB-R倉田宜典フィンテック感情分析投資Fosters+Partners周 済涛韻律射影MILIZEZaha Hadid Architectsステートマシン韻律転移三菱UFJ信託銀行ディープニューラルネットワーク

【CEDEC2022】桃鉄とパワサカに見るゲームプレイAIを活用したゲーム開発最新事例

2022.9.28ゲーム

【CEDEC2022】桃鉄とパワサカに見るゲームプレイAIを活用したゲーム開発最新事例

2022年8月23日から25日にかけて、ゲーム・エンターテイメント分野における最新コンピュータ技術に関するカンファレンスCEDEC2022がオンライン開催されました。8月24日には、株式会社コナミデジタルエンタテインメントの岩倉宏介氏らが「強化学習AIを活用してゲームデザインを!:「桃太郎電鉄~昭和 平成 令和も定番!~」「実況パワフルサッカー」」と題したセッションを行いました。本稿では同セッションを要約することで、ゲームプレイAIを活用したゲーム開発の最新事例を紹介します。

シンプルな設定から始めた桃鉄プレイAI開発

コナミの技術開発部主査を務める岩倉氏は、強化学習AIの概要を解説した後、すごろくをモチーフとしたボードゲーム『桃太郎電鉄~昭和 平成 令和も定番!~』(以下、「桃鉄」と表記)をプレイするAI(以下、「桃鉄プレイAI」と表記)を活用した同ゲームの開発に関する発表を始めました。今回発表する事例は、同ゲームのリリース後、今後のゲーム開発に生かす知見を得るために行われたものでした。こうした背景があるため、同AIの訓練は、製品版の同ゲームのシステムを大幅に単純化した設定から行いました。具体的には、マップは北海道のみ、駅の種類も物件駅などの4種類に絞り、カードも急行系だけ、さらに同ゲーム最大の特徴である貧乏神が出現しないという設定にしました。

桃鉄プレイAIが学習する要素には、サイコロを振った後の「移動ルート選択」とターン開始時に使用する「カード選択」のみとしました。強化学習フレームワークにはStable Baselines3を使い、アルゴリズムにはPPO、その他の設定はデフォルトとしました。

桃鉄プレイAIが選択できるアクションには、以下の表に示されている「目的地優先(カード使用あり)」のような個々のアクション選択の指針となるメタアクションを定め、細かい行動はルールベースで実行できるようにしました。

またゲームプレイは3人対戦とし、ゲーム期間は10年としました。桃鉄プレイAIのほかはルールベースで動作するコンピュータプレイヤーを用意して、それらは「目的地優先」「持ち金優先」「物件購入優先」のいずれかの戦略でプレイします。勝利条件はゲーム終了時に総資産額が多いプレイヤーを1位とし、2位のプレイヤーの総資産との差額が大きいほど多くの報酬を得られるようにしました。

以上のような設定で桃鉄プレイAIを訓練した結果、「目的地優先(カードあり)」の戦略を採用した場合にもっとも高い勝率となりました。こうした結果になった理由として、マップが北海道のみと狭いため、目的地を優先したほうが勝利しやすいからと考えられます。

ゲームの複雑化に伴うプレイ戦略の変遷

シンプルな設定で桃鉄プレイAIが訓練できることが実証できたので、設定を次第に複雑にして訓練することにしました。まずマップ範囲を北海道から全国に拡大したところ、「持ち金獲得優先(カード使用あり)」戦略を学習したAIの勝率が高くなりました。こうした勝利戦略の変化は、マップが広くなったことで目的地に到着するまでに時間がかかってしまうので、目的地に向かうよりは最寄りのプラス駅で資産を増やす戦略のほうが(総資産額が1位になるという)勝利に直結するために生じたと考えられます。

今度は目的地連続到着ボーナスを追加すると、一転して「目的地優先」戦略の勝率が高くなりました。というのも、この新たな設定を利用するために目的地に到着することを最優先すれば、最寄り駅で資産を稼ぐより勝利に直結するからです。

さらに駅種を大幅に増やす変更を加えました。駅種増加に伴い、メタアクションを一新しました。具体的には移動先の駅種が9種類、物件駅停車時の物件購入アクションとして3種類を用意して、これらの組み合わせで合計27種類のアクションを再設定しました。さらに使えるカードも、製品版桃鉄と同じ106種類まで増やしました。ただし、カードの最大所持数は8枚なのでカード選択時に有効なアクションは「カードを使わない」を加えた9アクションであるため、無効アクションに対してマスク処理を行うことで計算負荷を軽減しました。

以上のような多様な要素をゲーム設定に追加したところ、再び「持ち金獲得優先」戦略の桃鉄プレイAIが勝利するようになりました。具体的には「とっかえっこカード」を使って他プレイヤーの資産を獲得後、獲得した資金で物件を購入して資産を増やすというループを繰り返すようになったのです。この戦略は「総資産額を増やす」という勝利条件を満たすものも、すごろくをモチーフとした桃鉄のゲーム趣旨から外れたプレイとも言えます。

最後に貧乏神を追加して桃鉄プレイAIを訓練しました。桃鉄における貧乏神とはあるプレイヤーが目的地に到着した時に目的地から最も遠いプレイヤーに憑くキャラクターで、憑かれるとさまざまなデメリットが発生します。貧乏神を追加した結果、桃鉄プレイAIは目的地を優先する戦略に回帰しました。こうした戦略の変化は、総資産を増やすためにあえて目的地に向かわない戦略よりも、貧乏神が憑くことから生じるデメリットを避けるために目的地に向かうほうが勝利につながるから生じたと見なせます。

以上にまとめたように、桃鉄プレイAIは設定がより複雑になる度にプレイ戦略を変えていきました。こうした桃鉄プレイAIの事例を一般化すると、任意のゲームシステムの変更がプレイ戦略に及ぼす影響を観察できると言えます。それゆえゲームプレイAIを使えば、ゲームプランナーはゲームシステムの変更がゲームプレイに及ぼす影響をテスターやプレイヤーにプレイしてもらわなくても把握できるようになるのです。

パワサカにおけるサクセスプレイAIを活用したバランス調整

続いてコナミの第三制作部でプログラマーを務める池畑望氏が、『実況パワフルサッカー』(以下、「パワサカ」と表記)開発におけるゲームプレイAI活用について発表しました。同ゲームは、プレイヤーが育成したサッカー選手を対戦させるモバイルゲームです。選手は「サクセス」と呼ばれるミニゲームをプレイすることで育成できるのですが、サクセスにはさまざまなシナリオが用意されており、シナリオごとに異なったミニゲームをプレイすることになります。

サクセスの内容は随時更新されるので、更新の度に更新内容が選手育成に与える影響を評価しなければなりません。こうしたサクセスの評価にはランダム要素が多いために何度も同じプレイを繰り返す必要があり、熟練テストプレイヤーであっても先入観によって誤った評価をくだす可能性もあります。それゆえ、パワサカ開発チームはサクセス更新内容の評価業務に、熟練テストプレイヤーに加えてサクセスをプレイするAI(以下、「サクセスプレイAI」と表記)を導入してより完全な評価を目指したのでした。

サクセスプレイAIの開発については、前出の岩倉氏が発表しました。同AIのアルゴリズムにはPPO(Proximal Policy Optimization)とDQN(Deep Q-Network)を採用し、加えてルールベースのAIも用意しました。アルゴリズムに2種類の強化学習技法を採用したのは、サクセスには多種多様なミニゲームが用意されているため、単一の技法ですべてのゲームが得意なAIを開発できないからでした。さらに、どちらか一方の技法によるAIのスコアが著しく低かった場合、低スコアのほうのAIは改善の余地があると判断できるというメリットもありました。

サクセスプレイAIの訓練にあたっては育成選手の能力が高いほど大きな報酬を得られるようにしたら、得意なシナリオでは熟練テストプレイヤーと同等かそれ以上のスコアを達成できるようになりました。もっとも同AIをうまく開発できたとしても、そうしたAIをどのようにゲーム開発業務に活用するかを明確にしないと、関係者の支持が得られません。それゆえ、株式会社三菱ケミカルホールディングスが公開しているAIビジネス活用のためのフレームワーク「Machine Learning Project Canvas」を使って、サクセスプレイAIの使用目的を明確化しました。その結果、企画段階におけるパラメータ調整、運営におけるバランスチェック、マネージメントにおけるバグチェックに同AIを活用することになりました。

補完関係にある人間テスターとサクセスプレイAI

サクセスプレイAIの具体的な運用については、前出の池畑氏が発表しました。前述の通り同AIは、サクセスの更新内容に関するQA(評価)業務において人間の熟練テストプレイヤーを補完するかたちで導入されました。人間の熟練テストプレイヤーは豊富な知識と経験にもとづいた高度なプレイスキルがある反面、プレイ回数に限界があったり、先入見を排除できなかったりします。こうした人間の弱点を同AIで補うのです。休息が不要なAIであればプレイ時間を大幅に増やせ、また人間のような先入見にとらわれることがありません。

以上のようなQA業務における人間とAIの補完関係は、それぞれが作成するレポートの違いに表れています。人間テスターが作成したレポートは、特定のプレイに関する言語化された知見、AIによるプレイの解釈といった知識に裏打ちされた情報がふくまれています。対してAIが作成したそれにはゲームスコアの最高値・平均値・中央値、スコアの分布などの統計情報が含まれています。

サクセス評価における人間とAIの協働は、両者のテスト結果が異なる場合にこそ真価を発揮します。協働的QAの結果とその対処には、以下のような3通りがあります。

  1. (ケース1:人間テスターとサクセスプレイAIのスコアがほぼ同等の場合)テストプレイ結果に大きな問題はない。テストプレイのスコアを参考にして、バランス調整を行う。
  2. (ケース2:人間テスターのスコアがサクセスプレイAIのそれより低い場合)人間テスターが見逃している攻略法がある可能性が高い。見逃している攻略法をAIのプレイを参考にして発見して再度プレイしてみる。そうすると、おそらく人間のスコアが伸びる。
  3. (ケース3:ケース2と逆の場合)AIが見逃している攻略法を、人間テスターのプレイから見つける。

池畑氏は、以上のような協働的QAから得た教訓として以下のような4項目を挙げて発表をまとめました。

  1. 妥協するべき点は妥協する:サクセスプレイAIには、ゲームプレイにおける得手不得手がある。不得意なゲームに関しては、同AIの訓練を必要以上に継続しないで「このゲームの評価にはAIを使わない」と決断することが重要。
  2. AIの役割を明確にする:サクセスプレイAIは万能ではない。それゆえ、その役割を明確にすることで人間との協働がうまく行くようになる。
  3. 強化学習AIの限界を知る:一般に強化学習AIには、学習するテーマに関して向き不向きがある。不得意なテーマを学習するとコストがかさむので、得意なそれで運用するように心がける。サクセスのゲームは、おおむね強化学習との相性が良かった。
  4. ゲーム開発チームとの協力体制の確立:ゲームプレイAIを活用したQA業務を成功させるには、ゲーム開発チームの協力が不可欠。ゆえに、ゲームプレイAI開発チームは早期にゲーム開発チームとの連携を確立すべき。

以上のようなセッションの最後に岩倉氏は、国立情報学研究所との共同研究に言及しました。コナミは同研究所の石川冬樹准教授と共同して、強化学習アルゴリズムの違いによって生じる強化学習AIの性能差を解明する研究を行いました。この研究をまとめた論文『Explaining the Behaviour of Game Agents Using Differential Comparison』は、2022年10月10日にオンライン開催されるASE4Games2022で発表されます。同論文に興味がある場合は、この発表を視聴するとよいでしょう。

今回発表された桃鉄とパワサカをプレイするAIは、単純に人間の手間を省くようなものではなく、人間が気づきにくいことを明確にしたり、人間が苦手とすることを補完したりするものでした。こうしたゲームプレイAIをゲーム開発に活用するには、人間とAIの密接な協働が不可欠となります。それゆえ、これからゲーム開発においてゲームプレイAIを活用する場合には、単なるツールではなくチームメンバーの一員として迎え入れる態度が重要となるのではないでしょうか。

Writer:吉本幸記

RELATED ARTICLE関連記事

【GDC2021】『DEATH STRANDING』のNPCがプレイヤーを追跡する仕組み

2021.9.06ゲーム

【GDC2021】『DEATH STRANDING』のNPCがプレイヤーを追跡す...

サルでもわかる人工知能 Vol.2:遺伝的アルゴリズムその2「ナップサック問題」

2019.7.02ゲーム

サルでもわかる人工知能 Vol.2:遺伝的アルゴリズムその2「ナップサック問題」

大規模言語モデル駆動型ゲームプレイAIが登場

2023.7.24ゲーム

大規模言語モデル駆動型ゲームプレイAIが登場

RANKING注目の記事はこちら