モリカトロン株式会社運営「エンターテインメント×AI」の最新情報をお届けするサイトです。
- TAG LIST
- CGCGへの扉安藤幸央機械学習ディープラーニング月刊エンタメAIニュース河合律子GANOpenAI音楽NVIDIA吉本幸記ニューラルネットワーク強化学習Google生成系AI三宅陽一郎QA人工知能学会GPT-3Stable Diffusion自然言語処理グーグルDeepMindFacebook森川幸人シナリオ大内孝子マイクロソフトChatGPT敵対的生成ネットワークルールベースアート映画キャラクターAIスクウェア・エニックスモリカトロンAIラボインタビューAIと倫理SIGGRAPHゲームプレイAI大規模言語モデル倫理デバッグNFTDALL-E2StyleGANプロシージャル遺伝的アルゴリズムモリカトロン著作権画像生成自動生成テストプレイメタAI画像生成AINPCテキスト画像生成ロボット深層学習ファッションCEDEC2019ディープフェイクVFXMidjourneyデジタルツインボードゲームDALL-ECLIPビヘイビア・ツリーCEDEC2021LLMCEDEC2020ゲームAIメタバース不完全情報ゲームVRナビゲーションAI畳み込みニューラルネットワークGDC 2021マンガJSAI2022AdobeNVIDIA OmniverseGDC 2019マルチエージェントCEDEC2022AIアート小説Stability AI懐ゲーから辿るゲームAI技術史toioジェネレーティブAIスポーツCNNBERT作曲MicrosoftUnityMinecraftアニメーションOmniverseメタJSAI2023鴫原盛之HTN階層型タスクネットワークソニー栗原聡手塚治虫汎用人工知能JSAI2020GTC2023TensorFlowインタビューバーチャルヒューマンイベントレポート対話型エージェントAmazonロボティクスDQNMeta水野勇太アバター3DCGUbisoftGenvid TechnologiesガイスターStyleGAN2デジタルヒューマンGTC2022教育音楽生成AIJSAI2021研究シムピープルMCS-AI動的連携モデルモーションキャプチャーElectronic ArtsNeRFマーケティングメタデータGDC SummerブロックチェーンCMMicrosoft Azureアストロノーカキャリア模倣学習eスポーツスタンフォード大学アーケードゲームテニスサイバーエージェントトレーディングカード音声認識メディアアートeSportsBLUE PROTOCOLシーマンaibo合成音声チャットボットAWS徳井直生斎藤由多加AlphaZeroTransformerGPT-2rinnaAIりんなカメラ環世界中島秀之PaLM哲学ベリサーブPlayable!理化学研究所SIGGRAPH ASIASFNetflix東京大学はこだて未来大学現代アートエージェントDARPAドローンシムシティImagenZorkバイアスプロンプトGPT-4ASBSアドベンチャーゲームTEZUKA2020CEDEC2023AI美空ひばりテキスト生成マルチモーダルバンダイナムコ研究所スパーシャルAI3DLEFT 4 DEADイーロン・マスク通しプレイOpenAI FiveStable Diffusion XL本間翔太CygamesAudio2Faceピクサープラチナエッグイーサリアムボエダ・ゴティエビッグデータ中嶋謙互Amadeus Codeデータ分析MILEナラティブNVIDIA RivaOmniverse ReplicatorWCCFレコメンドシステムNVIDIA DRIVE SimWORLD CLUB Champion FootballNVIDIA Isaac Simセガ柏田知大軍事田邊雅彦トレカMax CooperGPT類家利直PyTorchChatGPT4眞鍋和子バンダイナムコスタジオ大澤博隆SFプロトタイピング齊藤陽介マインクラフトお知らせMagic Leap OneTencentバスケットボールサルでもわかる人工知能text-to-3DVAEDreamFusionブラック・ジャックリップシンキングUbisoft La Forge自動運転車ワークショップ知識表現ウォッチドッグス レギオンIGDA秋期GTC2022市場分析どうぶつしょうぎEpic GamesRobloxジェイ・コウガミ音楽ストリーミングMITAIロボ「迷キュー」に挑戦野々下裕子マシンラーニング5GMuZeroRival Peakpixivクラウド対話エンジン3Dスキャンリトル・コンピュータ・ピープルCodexシーマン人工知能研究所コンピューティショナル・フォトグラフィーPreferred Networksゴブレット・ゴブラーズ絵画ARMicrosoft DesignerイラストシミュレーションSoul Machines柿沼太一完全情報ゲームELSI坂本洋典釜屋憲彦ウェイポイントパス検索対談藤澤仁生物学GTC 2022画像認識GPT-3.5ハリウッドSiemensストライキStyleCLIPDeNA長谷洋平クラウドコンピューティングmasumi toyotaIBM宮路洋一OpenSeaGDC 2022SNSGen-1TextWorldEarth-2BingMagenta音声生成AIELYZA PencilScenarioSIGGRAPH2023テキスト画像生成AI松尾豊AIピカソGTC2021AI素材.comCycleGANテンセントAIQVE ONEデータマイニングNetHackBardキャラクターモーションControlNetNBAフェイクニュースRPG法律SIGGRAPH 2022世界モデルレベルデザインAIボイスアクターNVIDIA CanvasGPUALife人工生命オルタナティヴ・マシンサウンドスケープLaMDATRPGマジック:ザ・ギャザリングAI Dungeonぱいどん手塚眞不気味の谷ナビゲーションメッシュインディーゲーム高橋ミレイ深層強化学習松原仁松井俊浩武田英明ELYZAフルコトNEDOELYZA DIGEST建築音声合成広告西成活裕Apex LegendsELIZA群衆マネジメントライブポートレイトNinjaコンピュータRPGライブビジネスWonder Studioアップルタウン物語新型コロナ土木KELDIC周済涛BIMメロディ言語清田陽司インフラゲームTENTUPLAYサイバネティックスMARVEL Future FightAstro人工知能史Amazon BedrockタイムラプスEgo4DAI哲学マップバスキア星新一X.AI日経イノベーション・ラボStyleGAN-XLX Corp.敵対的強化学習StyleGAN3Twitter階層型強化学習GOSU Data LabGANimatorXホールディングスWANNGOSU Voice AssistantVoLux-GANMagi竹内将SenpAI.GGProjected GANMobalyticsSelf-Distilled StyleGANSDXL馬淵浩希ニューラルレンダリングRTFKT岡島学AWS SagemakerPLATONIKE映像セリア・ホデント形態素解析frame.ioClone XUXAWS LambdaFoodly村上隆誤字検出森山和道認知科学中川友紀子Digital MarkゲームデザインSentencePieceアールティSnapchatLUMINOUS ENGINEクリエイターコミュニティLuminous ProductionsBlenderBot 3バーチャルペットパターン・ランゲージ竹村也哉Meta AINVIDIA NeMo Serviceちょまどマーク・ザッカーバーグヴァネッサ・ローザGOAPWACULVanessa A RosaAdobe MAX 2021陶芸自動翻訳Play.ht音声AIAIライティングLiDAROmniverse AvatarAIのべりすとPolycamFPSQuillBotdeforumマルコフ決定過程NVIDIA MegatronCopysmith動画生成AINVIDIA MerlinJasperハーベストNVIDIA MetropolisForGamesパラメータ設計ゲームマーケットバランス調整岡野翔太協調フィルタリング郡山喜彦人狼知能テキサス大学ジェフリー・ヒントンGoogle I/O 2023AlphaDogfight TrialsAI Messenger VoicebotGoogle I/OエージェントシミュレーションOpenAI Codex武蔵野美術大学StarCraft IIHyperStyleBingAIFuture of Life InstituteRendering with StyleIntelDisneyFireflyLAIKADisneyリサーチヴィトゲンシュタインPhotoshopRotomationGauGAN論理哲学論考LightroomGauGAN2京都芸術大学Canvaドラゴンクエストライバルズ画像言語表現モデル不確定ゲームSIGGRAPH ASIA 2021PromptBaseBOOTHDota 2モンテカルロ木探索ディズニーリサーチpixivFANBOXMitsuba2バンダイナムコネクサス虎の穴ソーシャルゲームEmbeddingワイツマン科学研究所ユーザーレビューFantiaGTC2020CG衣装mimicとらのあなNVIDIA MAXINEVRファッションBaidu集英社淡路滋ビデオ会議ArtflowERNIE-ViLG少年ジャンプ+グリムノーツEponym古文書ComicCopilotゴティエ・ボエダ音声クローニング凸版印刷コミコパGautier Boeda階層的クラスタリングGopherAI-OCRゲームマスター画像判定Inowrld AIJuliusSIE鑑定ラベル付けMODTPRGOxia PalusGhostwriterバーチャル・ヒューマン・エージェントtoio SDK for UnityArt RecognitionSkyrimクーガー田中章愛実況パワフルサッカースカイリム石井敦銭起揚NHC 2021桃太郎電鉄RPGツクールMZ茂谷保伯池田利夫桃鉄ChatGPT_APIMZGDMC新刊案内パワサカダンジョンズ&ドラゴンズマーベル・シネマティック・ユニバースコナミデジタルエンタテインメントOracle RPG成沢理恵MITメディアラボMCU岩倉宏介深津貴之アベンジャーズPPOxVASynthマジック・リープDigital DomainMachine Learning Project CanvasLaser-NVMagendaMasquerade2.0国立情報学研究所ノンファンジブルトークンDDSPフェイシャルキャプチャー石川冬樹MERFサッカーモリカトロン開発者インタビュースパコンAlibaba里井大輝Kaggle宮本茂則スーパーコンピュータVQRF山田暉松岡 聡nvdiffrecAssassin’s Creed OriginsAI会話ジェネレーターTSUBAME 1.0NeRFMeshingSea of ThievesTSUBAME 2.0LERFGEMS COMPANYmonoAI technologyLSTMABCIマスタリングモリカトロンAIソリューション富岳TikTok初音ミクOculusコード生成AISociety 5.0リアム・ギャラガー転移学習テストAlphaCode夏の電脳甲子園グライムスBaldur's Gate 3Codeforces座談会BoomyCandy Crush Saga自己増強型AItext-to-imageジョン・レジェンドSIGGRAPH ASIA 2020COLMAPザ・ウィークエンドADOPNVIDIA GET3DドレイクデバッギングBigGANGANverse3DTEZUKA2023MaterialGANRNNグランツーリスモSPORTAI絵師エッジワークスReBeLグランツーリスモ・ソフィーUGC日本音楽作家団体協議会GTソフィーPGCFCAVolvoFIAグランツーリスモチャンピオンシップVoiceboxNovelAIさくらインターネットRival PrakDGX A100NovelAI DiffusionVTuberぷよぷよユービーアイソフトWebcam VTuberモーションデータ立教大学星新一賞大阪公立大学北尾まどかHALOポーズ推定TCG将棋メタルギアソリッドVフォートナイトメッシュ生成KLabFSMメルセデス・ベンツQRコードMagic Leap囲碁ナップサック問題Live NationEpyllionデンソー汎用言語モデルWeb3.0マシュー・ボールデンソーウェーブAIOpsムーアの法則原昌宏Spotifyスマートコントラクト日本機械学会Replica Studioロボティクス・メカトロニクス講演会amuseChitrakarQosmoAdobe MAX 2022トヨタ自動車巡回セールスマン問題Adobe MAXかんばん方式ジョルダン曲線メディアAdobe Research村井源政治Galacticaプロット生成クラウドゲーミングがんばれ森川君2号オムロン サイニックエックス和田洋一リアリティ番組映像解析FastGANStadiaジョンソン裕子セキュリティ4コママンガMILEsNightCafe東芝デジタルソリューションズ電気通信大学インタラクティブ・ストリーミングLuis RuizSATLYS 映像解析AI稲葉通将インタラクティブ・メディアポケモン橋本敦史PFN 3D ScanElevenLabs東京工業大学HeyGenLudo博報堂After EffectsラップPFN 4D Scan絵本SIGGRAPH 2019ArtEmisZ世代DreamUp出版AIラッパーシステムDeviantArtAmmaar ReshiWaifu DiffusionStoriesGROVERプラスリンクス ~キミと繋がる想い~元素法典StoryBirdFAIRSTCNovel AIVersedチート検出Style Transfer ConversationOpen AIProlificDreamerオンラインカジノRCPUnity SentisアップルRealFlowRinna Character PlatformUnity MuseiPhoneCALACaleb WardDeep Fluids宮田龍MeInGameAmelia清河幸子AIGraphブレイン・コンピュータ・インタフェースバーチャルキャラクター西中美和BCIGateboxアフォーダンス安野貴博Learning from VideoANIMAKPaLM-SayCan斧田小夜予期知能逢妻ヒカリ宮本道人セコムGitHub CopilotLLaMA 2ユクスキュルバーチャル警備システムCode as PoliciesLLaMAカント損保ジャパンCaPHugging FaceCM3leon上原利之Stable DoodleドラゴンクエストエージェントアーキテクチャアッパーグラウンドコリジョンチェックT2I-AdapterPAIROCTOPATH TRAVELERxAI西木康智OCTOPATH TRAVELER 大陸の覇者山口情報芸術センター[YCAM]アルスエレクトロニカ2019品質保証YCAM日本マネジメント総合研究所StyleRigAutodeskアンラーニング・ランゲージVoyager逆転オセロニアBentley Systemsカイル・マクドナルドLily Hughes-Robinsonワールドシミュレーターローレン・リー・マッカーシーColossal Cave Adventure奥村エルネスト純いただきストリートH100鎖国[Walled Garden]プロジェクトAdventureGPT齋藤精一大森田不可止COBOLSIGGRAPH ASIA 2022リリー・ヒューズ=ロビンソン高橋智隆DGX H100VToonifyBabyAGIロボユニザナックDGX SuperPODControlVAEGPT-3.5 Turbo泉幸典仁井谷正充変分オートエンコーダーカーリングロボコレ2019Instant NeRFフォトグラメトリウィンブルドンartonomous回帰型ニューラルネットワークbitGANsDeepJoin戦術分析ぎゅわんぶらあ自己中心派Azure Machine LearningAzure OpenAI Serviceパフォーマンス測定意思決定モデル脱出ゲームDeepLIoTHybrid Reward Architectureコミュニティ管理DeepL WriteProFitXウロチョロスSuper PhoenixWatsonxProject MalmoオンラインゲームAthletica気候変動コーチングProject Paidiaシンギュラリティ北見工業大学Project Lookoutマックス・プランク気象研究所レイ・カーツワイル北見カーリングホールWatch Forビョルン・スティーブンスヴァーナー・ヴィンジ画像解析気象モデルRunway ResearchじりつくんLEFT ALIVE気象シミュレーションMake-A-VideoNTT Sportict長谷川誠ジミ・ヘンドリックス環境問題PhenakiAIカメラBaby Xカート・コバーンエコロジーDreamixSTADIUM TUBEロバート・ダウニー・Jr.エイミー・ワインハウスSDGsText-to-ImageモデルPixelllot S3ソフトバンクYouTubeダフト・パンクメモリスタAIスマートコーチGlenn MarshallThe Age of A.I.Story2Hallucination音声変換LatitudeレコメンデーションJukeboxDreamboothVeap Japanヤン・ルカンEAPneoAIPerfusionSIFT福井千春DreamIconニューラル物理学DCGAN医療mign毛髪MOBADANNCEメンタルケアstudiffuse荒牧英治人事ハーバード大学Edgar HandyAndreessen Horowitz中ザワヒデキ研修デューク大学大屋雄裕QA Tech Night中川裕志mynet.aiローグライクゲーム松木晋祐Adreeseen Horowitz東京理科大学下田純也NVIDIA Avatar Cloud Engine人工音声NeurIPS 2021産業技術総合研究所桑野範久Replica StudiosリザバーコンピューティングSmart NPCsプレイ動画ヒップホップ対話型AIモデルRoblox Studio詩ソニーマーケティングPromethean AIサイレント映画もじぱnote音源分離環境音暗号通貨note AIアシスタントMusiioFUZZLEKetchupEndelAlterationAI Newsユニバーサルミュージック粒子群最適化法Art Selfie進化差分法オープンワールドArt TransferSonar群知能下川大樹AIFAPet PortraitsSonar+Dウィル・ライト高津芳希P2EBlob OperaWeb3大石真史クリムトDolby AtmosBEiTStyleGAN-NADASonar Music FestivalDETRゲームエンジンDreamerV3ライゾマティクスSporeUnreal Engineクリティックネットワーク真鍋大度デノイズ南カリフォルニア大学Unity for Industryアクターネットワーク花井裕也画像処理DMLabRitchie HawtinSentropyGLIDEControl SuiteErica SynthCPUDiscordAvatarCLIPAtari 100kUfuk Barış MutluSynthetic DataAtari 200MJapanese InstructBLIP AlphaCALMYann LeCun日本新聞協会プログラミングサム・アルトマン鈴木雅大AIいらすとやソースコード生成コンセプトアートAI PicassoGMAIシチズンデベロッパーSonanticColie WertzEmposyGitHubCohereリドリー・スコットAIタレントウィザードリィMCN-AI連携モデル絵コンテAIタレントエージェンシーUrzas.aiストーリーボードmodi.ai介護大阪大学BitSummit西川善司並木幸介KikiBlenderBitSummit Let’s Go!!サムライスピリッツ森寅嘉Zoetic AIRed RamゼビウスSIGGRAPH 2021ペットマーダーミステリーストリートファイター半導体Digital Dream LabsPaLM APIデジタルレプリカTopaz Video Enhance AICozmoMakerSuiteGOT7DLSSタカラトミーSkebsynthesia山野辺一記NetEaseLOVOTDreambooth-Stable-DiffusionHumanRF大里飛鳥DynamixyzMOFLINゲーム背景Actors-HQRomiGoogle EarthSAG-AFTRAU-NetミクシィGEPPETTO AIWGA13フェイズ構造ユニロボットStable Diffusion web UIチャーリー・ブルッカーADVユニボPoint-EXLandGatoアパレル岡野原大輔AGIAI model自己教師あり学習DEATH STRANDINGAI ModelsIn-Context Learning(ICL)Eric Johnson汎用強化学習AIZMO.AILoRAデザインMOBBY’SファインチューニングOculus Questコジマプロダクションロンドン芸術大学モビーディックグランツーリスモ生体情報デシマエンジンGoogle Brainダイビング量子コンピュータSound Controlアウトドアqubit写真SYNTH SUPERAIスキャニングIBM Quantum System 2照明Maxim PeterKarl Sims自動採寸北野宏明Joshua RomoffArtnome3DLOOKダリオ・ヒルハイパースケープICONATESizerジェン・スン・フアン山崎陽斗ワコールHuggingFace立木創太スニーカーStable Audio浜中雅俊UNSTREET宗教ミライ小町Newelse仏教テスラ福井健策CheckGoodsコカ・コーラGameGAN二次流通食品パックマンTesla Bot中古市場Coca‑Cola Y3000 Zero SugarTesla AI DayWikipediaDupe KillerCopilot Copyright Commitmentソサエティ5.0Sphere偽ブランドテラバースSIGGRAPH 2020バズグラフXaver 1000配信京都大学ニュースタンテキ養蜂立福寛東芝Beewiseソニー・ピクチャーズ アニメーション音声解析DIB-R倉田宜典フィンテック感情分析投資Fosters+Partners韻律射影MILIZEZaha Hadid Architects韻律転移三菱UFJ信託銀行
にわかレベルだったゲームプレイAIは、いかにして熟練プレイヤーになったか?
AIにゲームをプレイさせることは、AI研究の黎明期から現在にいたるまでその性能を評価するタスクとして取り組まれてきました。近年のゲームプレイAIに関する重要な業績のひとつとして、Google傘下のDeepMindが開発した「AlphaGo」が挙げられます。最近、DeepMindが新たなマイルストーンを打ち立てました。この記事では、長らくAIが人のスコアを超えられなかったゲームのテストセットを全攻略したゲームプレイAIについて解説します。
ゲームプレイAIのベンチマーク「Atari57」
AIの性能を評価するゲームには、その起源をアナログゲームに持つチェスや将棋があります。チェスや将棋がゲームプレイAIの研究テーマとして好まれるのは、明示的なルールがありながらゲーム展開に膨大な可能性があるうえに、勝敗という分かりやすい形で結果を評価できるからです。AIの進化に伴い、AIが挑戦するゲームもアナログゲームからビデオゲームに広がっていきます。
こうしたゲームプレイAIのベンチマークとして提案されたビデオゲームのテストセットが、2012年に発表された「Atari57」(正式名称は” the Arcade Learning environment“、アーケードゲームの学習環境という意味)です。このテストセットは、1977年にアメリカで発売された家庭用ゲーム機「Atari 2600」でプレイ可能だった57のゲームをAIがプレイできるように集めたものです。集められたゲームには、世界初のブロック崩しゲーム『ブレイクアウト』(1976年、アタリ)や卓球を模した『ポン』(1972年、アタリ)があります。
2012年の発表以来、Atari57に挑戦するゲームプレイAIは多数開発されましたが、57のゲームのうち『モンテズマの復讐』(1983年、Utopia Software)『ピットフォール』(1982年、アクティビジョン)『ソラリス』(1986年、アタリ)『スキー』(1980年、アクティビジョン)の4つで人間の平均スコアを超えられずにいました。サイドビュー型のアクションゲームである『モンテズマの復讐』と『ピットフォール』は、ゲームクリアのために試行できるアクションが膨大なため、また『ソラリス』と『スキー』は長いゲームステージをクリアする必要があるためにAIには難しかったのです。
以上のような4つのゲームが長らく壁として立ちはだかっていたなか、2020年3月、DeepMindはAtari57のすべてのゲームにおいて人間の平均スコアを超えたゲームプレイAIを開発したことを発表しました。そのAIは、Atari57にあやかり「Agent57」と命名されました。Agent57が開発されるまでの歩みは、まるで初心者ゲーマーが多数のスキルを習得して熟練ゲーマーに成長する過程に似たものでした。
DQNが熟練プレイヤーになるまで
Agent57は全く白紙の状態から開発されたわけではなく、DeepMindの長年にわたるゲームプレイAI研究における最新の成果として発表されたものでした。Agent57のもっとも古い祖先に当たるのが、2015年に発表されたDQN(正式名称”Deep Q-Network”の略称)です。DQNは、強化学習とディープラーニングを組み合わせたことによって『ブレイクアウト』で驚異的なスコアを叩き出しました。DQNの開発によって、DeepMindは世界にその名を轟かせたのでした。
DQNはAtari57の一部のゲームではハイスコアを記録したのですが、人間の平均スコアに及ばないゲームも多数ありました。DeepMindは、57のゲームすべてにおいて人間を超えるべく、DQNの改良を続けました。そうした改良は、以下のような3段階にまとめることができます。
プレイと学習の分離と記憶の導入
強化学習においてAIは与えられた環境との相互作用を通して、達成すべきタスクを遂行するために最適な選択肢を探索していきます。強化学習の仕組みをビデオゲームの攻略になぞらえて言えば、試行錯誤を繰り返すことを通してゲームクリアやハイスコアを目指す、となります。基本的な強化学習においては、ゲームをプレイするAIとゲームプレイを評価するAIは同一です。しかし、ゲームをプレイするAIと評価するAIを分けてしまえば、前者を量産することによって、試行錯誤する回数を増やすことが可能となります。DQNの改良としてはじめに取り組まれたのが、こうしたプレイと学習を分けた分散型強化学習の実装でした。
DQNをさらに改良するために着目されたのが、記憶力です。ゲームを上達したければ、過去のプレイを振り返って成功と失敗の両方を学ぶことが不可欠となります。DQNに記憶力を追加するために、RNN(Recurrent Neural Network)と呼ばれる時系列データを処理するのに適したAIアルゴリズムが実装されました。
以上のような分散型強化学習と記憶力で強化されたR2D2(Recurrent Replay Distributed DQN)は、従来の強化学習AIが記録したAtari57の平均スコアを大幅に更新したのでした。
未知から学ぶ
R2D2は、分散されたプレイの記憶から学習することで大きな進化を遂げました。R2D2のさらなる進化は、「無知から学ぶ」ことによって実現しました。ゲームプレイAIにおける無知とは、今まで試行したことのない「未経験のゲームプレイ」を意味します。こうした未経験のゲームプレイが、ハイスコア更新につながるプレイになるかも知れないのです。
DeepMindは、R2D2に対して未経験のゲームプレイを推奨するために、過去のゲームプレイと比較して新規的なプレイを選択した場合に追加的な報酬を与えるようにしました。こうして誕生したNGU(Never Give Up)は、4大難関ゲームのひとつ『ピットフォール』で好スコアを記録しました。
しかし、NGUにも弱点がありました。ゲームプレイ時間が長くなると、次第に未経験のゲームプレイが少なくなり、結局は同じようなゲームプレイに落ち着いてしまうのです。言わば、ゲームをやり込んだ結果、マンネリ化したプレイに陥ったのでした。
強化学習の根本問題に切り込む
NGUの弱点は、実のところ、強化学習における根本問題と関係しています。強化学習AIは試行錯誤を繰り返すなかで、既知の選択肢から得られる報酬と未知のそれから得られる報酬を絶えず比較して最適な選択を探索します。こうした探索において、既知の選択肢を選べば、確実に一定の報酬が得られます。その一方で、未知のそれを選べば、より多くの報酬が得られる可能性があります。もっとも、未知の選択肢は報酬が少なくなるという可能性もはらんでいます。強化学習AIは、既知と未知のあいだを揺れ動きながら最適な選択肢を探索するわけなのです。こうした状況は、「探索と搾取のジレンマ」と呼ばれています。NGUは、このジレンマに対して未知の選択肢にインセンティブを与えたわけですが、長期的には最適なゲームプレイを探索するのに失敗していた、と見なせます。
探索と搾取のジレンマに関しては、得られるコイン数が異なる複数のスロットマシンから最大の報酬を得る戦略を考察する「多腕バンディット問題」として数学的に定式化されて、最適なアルゴリズムを考案するのが慣わしとなっています。DeepMindは、この問題を解決する新アルゴリズムを発明したことによって、(未知を好む)NGUの探索方針に新たな動機付けを導入したのでした。こうしてNGUが進化したものが、Agent57なのです。
以上に解説したDQNからAgent57に進化する過程は、初心者ゲーマーが熟練ゲーマーになる過程に似ているかも知れません。その過程を要約すると、過去のプレイから学び(R2D2)、新しい攻略法に果敢に挑み(NGU)、ゲームプレイがマンネリ化しないようにモチベーションの維持も体得した(Agent57)、と表現できるでしょう。
ゲームプレイAIを量子コンピュータに応用?
ところで、なぜDeepMindは強化学習やゲームプレイAIの研究開発に熱心なのでしょうか。その理由は、同社がAIを活用したゲームを開発したいからではありません。強化学習やゲームプレイAIの研究は、汎用的な学習能力を備えた人間と同等の能力がある汎用人工知能(Artificial General Intelligence:AGI)の実現につながる、と同社は考えているのです。こうした同社の思想が証明された事例が、最近報告されました。
テック系メディアSyncedは今年1月、DeepMindが開発したゲームプレイAI「AlphaZero」が量子コンピュータの研究開発に応用されたことを長文記事配信ウェブサイトMediumで報じました。AlphaZeroとは、AlphaGoを祖先にもつチェス、将棋、そして囲碁で世界トップクラスの強さを誇るゲームプレイAIです。AlphaZeroがアナログゲームにおいて汎用的な強さを発揮するのは、一定のルールから構成された問題に対する最適解を算出することに優れているからです。
Syncedの記事によると、デンマークのオーフス大学は量子コンピュータにAlphaZeroを応用した結果をまとめた論文を発表しました。量子コンピュータを運用するにあたっては、量子の状態を最適化する必要があります。この量子最適化問題の解決にAlphaZeroを使ってみたところ、量子コンピュータのパフォーマンスが改善されました。
以上の論文の共著者であるJacob Sherson教授は、研究に用いたソースコードを公表した数時間後には、量子コンピュータを研究する多数の大手テック系企業や一流大学からコラボの申し出の連絡があった、と語っています。
ゲームプレイAIの研究開発は、ゲームエンジンAIの進化に寄与することは明らかです。しかしAlphaZeroの事例が示すように、ゲームというジャンルを超えて、実用的な領域に対しても応用される可能性が大いにあるのです。ゲームプレイにおいて汎用性を証明したAgent57も、ゲーム以外で活用されるかも知れません。
吉本幸記/Photo by Andre Hunter on Unsplash