モリカトロン株式会社運営「エンターテインメント×AI」の最新情報をお届けするサイトです。

TAG LIST
CG機械学習ディープラーニングCGへの扉安藤幸央GAN月刊エンタメAIニュース河合律子ニューラルネットワークOpenAI音楽三宅陽一郎NVIDIA強化学習Facebook人工知能学会QAスクウェア・エニックス森川幸人モリカトロンAIラボインタビュー敵対的生成ネットワークDeepMindキャラクターAIルールベースシナリオGoogle吉本幸記GPT-3映画自然言語処理NFTグーグル自動生成デバッグメタAICEDEC2019アートStyleGANプロシージャル大内孝子遺伝的アルゴリズム深層学習マイクロソフトビヘイビア・ツリーCEDEC2021CEDEC2020ゲームAISIGGRAPH不完全情報ゲームゲームプレイAIVRナビゲーションAI畳み込みニューラルネットワークDALL-ECLIPロボットAIと倫理ディープフェイクGDC 2021VFXメタバースGDC 2019マルチエージェントボードゲームNPCCNNデジタルツインモリカトロンUnityAIアート小説ファッションHTN階層型タスクネットワークDALL-E2JSAI2020JSAI2022TensorFlowBERTAdobeMicrosoftイベントレポートテストプレイ水野勇太アニメーションガイスターStyleGAN2懐ゲーから辿るゲームAI技術史toioソニーJSAI2021スポーツ研究シムピープル汎用人工知能GDC Summerバーチャルヒューマンブロックチェーン倫理アストロノーカNVIDIA Omniverseeスポーツ対話型エージェントAmazoneSportsBLUE PROTOCOLシーマンUbisoft画像生成テキスト画像生成AlphaZeroTransformerGPT-2カメラ環世界中島秀之鴫原盛之DARPAドローンシムシティMCS-AI動的連携モデルマンガTEZUKA2020AI美空ひばり手塚治虫スパーシャルAIElectronic ArtsメタデータLEFT 4 DEADインタビュー通しプレイOpenAI Five本間翔太CMピクサープラチナエッグイーサリアム作曲ボエダ・ゴティエビッグデータ中嶋謙互Amadeus CodeMicrosoft AzureキャリアナラティブOmniverse ReplicatorレコメンドシステムNVIDIA DRIVE SimNVIDIA Isaac Sim軍事サイバーエージェント音声認識ロボティクスPyTorchDQN眞鍋和子バンダイナムコスタジオaibo合成音声MetaMinecraft齊藤陽介マインクラフトお知らせ著作権チャットボットアバターサルでもわかる人工知能VAEOmniverseUbisoft La Forge自動運転車ワークショップGenvid Technologiesメタ知識表現ウォッチドッグス レギオンIGDAどうぶつしょうぎEpic Gamesジェイ・コウガミ音楽ストリーミングMIT徳井直生マシンラーニングクラウド対話エンジン斎藤由多加リトル・コンピュータ・ピープルコンピューティショナル・フォトグラフィーゴブレット・ゴブラーズ絵画AIりんなシミュレーション完全情報ゲーム坂本洋典釜屋憲彦ウェイポイントパス検索哲学対談藤澤仁生物学GTC 2022画像認識GTC2022StyleCLIPDeNA長谷洋平masumi toyota宮路洋一OpenSeaGDC 2022理化学研究所教育TextWorldSIGGRAPH ASIAMagentaGTC2021CycleGANNetHackはこだて未来大学フェイクニュースエージェントRPGAIボイスアクターNVIDIA CanvasImagenGPUALifeZork人工生命オルタナティヴ・マシンサウンドスケープASBS栗原聡モーションキャプチャーぱいどんナビゲーションメッシュ松井俊浩バンダイナムコ研究所ELYZAELYZA DIGEST3D音声合成マーケティング西成活裕Apex LegendsELIZA群衆マネジメントNinjaコンピュータRPGライブビジネスアップルタウン物語新型コロナKELDIC周済涛メロディ言語清田陽司ゲームTENTUPLAYサイバネティックスMARVEL Future FightAstro人工知能史タイムラプスEgo4DAI哲学マップバスキア星新一日経イノベーション・ラボ敵対的強化学習階層型強化学習GOSU Data LabWANNGOSU Voice Assistant竹内将SenpAI.GGMobalytics馬淵浩希Cygames岡島学AWS Sagemaker映像セリア・ホデント形態素解析UXAWS Lambda誤字検出認知科学ゲームデザインSentencePieceLUMINOUS ENGINELuminous Productionsパターン・ランゲージ竹村也哉ちょまどGOAPAdobe MAX 2021模倣学習Omniverse AvatarFPSNVIDIA Rivaマルコフ決定過程NVIDIA MegatronNVIDIA Merlinスタンフォード大学NVIDIA Metropolisパラメータ設計テニスバランス調整協調フィルタリング人狼知能テキサス大学AlphaDogfight TrialsAI Messenger VoicebotエージェントシミュレーションOpenAI CodexStarCraft IIHyperStyleFuture of Life InstituteRendering with StyleIntelDisneyLAIKADisneyリサーチRotomationGauGANGauGAN2ドラゴンクエストライバルズ画像言語表現モデル不確定ゲームSIGGRAPH ASIA 2021Dota 2モンテカルロ木探索ディズニーリサーチMitsuba2ソーシャルゲームEmbeddingワイツマン科学研究所GTC2020CG衣装NVIDIA MAXINEVRファッション淡路滋ビデオ会議ArtflowグリムノーツEponymゴティエ・ボエダ音声クローニングGautier Boeda階層的クラスタリングGopherJuliusSIE鑑定TPRGOxia Palusバーチャル・ヒューマン・エージェントtoio SDK for UnityArt Recognitionクーガー田中章愛石井敦銭起揚NHC 2021茂谷保伯池田利夫GDMC新刊案内マーベル・シネマティック・ユニバース成沢理恵MITメディアラボMCUアベンジャーズマジック・リープDigital DomainMagic Leap OneMagendaMasquerade2.0ノンファンジブルトークンDDSPフェイシャルキャプチャーサッカーモリカトロン開発者インタビュー里井大輝Kaggle宮本茂則バスケットボール山田暉Assassin’s Creed OriginsAI会話ジェネレーターSea of ThievesGEMS COMPANYmonoAI technologyLSTMモリカトロンAIソリューション初音ミクOculusコード生成AI転移学習テストAlphaCodeBaldur's Gate 3CodeforcesCandy Crush Saga自己増強型AISIGGRAPH ASIA 2020COLMAPADOPデバッギングBigGANGANverse3DMaterialGANリップシンキングRNNグランツーリスモSPORTReBeLグランツーリスモ・ソフィーGTソフィーVolvoFIAグランツーリスモチャンピオンシップRival PrakDGX A100VTuberユービーアイソフトWebcam VTuber星新一賞北尾まどかHALO市場分析将棋メタルギアソリッドVフォートナイトFSMRobloxナップサック問題Live Nation汎用言語モデルWeb3.0AIOpsSpotifyスマートコントラクトReplica StudioAWSamuseChitrakarQosmo巡回セールスマン問題ジョルダン曲線メディア5GMuZero政治クラウドゲーミングRival Peakがんばれ森川君2号和田洋一リアリティ番組Stadiaジョンソン裕子MILEsNightCafeインタラクティブ・ストリーミングLuis Ruizインタラクティブ・メディアポケモンCodexシーマン人工知能研究所東京工業大学Ludo博報堂ラップSIGGRAPH 2019ArtEmisZ世代AIラッパーシステムARrinnaGROVERプラスリンクス ~キミと繋がる想い~FAIRSTCチート検出Style Transfer ConversationオンラインカジノRCPアップルRealFlowRinna Character PlatformiPhoneデジタルヒューマンDeep FluidsSoul MachinesMeInGameAmeliaAIGraphブレイン・コンピュータ・インタフェースバーチャルキャラクターBCIGateboxLearning from VideoANIMAK予期知能逢妻ヒカリセコムユクスキュルバーチャル警備システムカント損保ジャパン上原利之ドラゴンクエストエージェントアーキテクチャアッパーグラウンドPAIROCTOPATH TRAVELER西木康智OCTOPATH TRAVELER 大陸の覇者Siemensアルスエレクトロニカ2019品質保証StyleRigAutodesk逆転オセロニアBentley Systemsワールドシミュレーター奥村エルネスト純いただきストリートH100齋藤精一大森田不可止COBOL高橋智隆DGX H100ロボユニザナックDGX SuperPOD泉幸典仁井谷正充クラウドコンピューティングロボコレ2019Instant NeRFartonomousbitGANsぎゅわんぶらあ自己中心派Azure Machine Learning意思決定モデル脱出ゲームHybrid Reward Architectureコミュニティ管理ウロチョロスSuper PhoenixSNSProject Malmoオンラインゲーム気候変動Project PaidiaEarth-2Project Lookoutマックス・プランク気象研究所Watch Forビョルン・スティーブンスBing気象モデルLEFT ALIVE気象シミュレーション長谷川誠ジミ・ヘンドリックス環境問題Baby Xカート・コバーンエコロジーロバート・ダウニー・Jr.エイミー・ワインハウスSDGsYouTubeダフト・パンクメモリスタSFGlenn MarshallELYZA PencilThe Age of A.I.Story2Hallucination音声変換レコメンデーションJukebox松尾豊Veap JapanEAPテンセントSIFT福井千春DCGAN医療MOBADANNCEメンタルケア人事ハーバード大学Edgar Handy研修デューク大学Netflixデータマイニングmynet.aiローグライクゲーム東京大学東京理科大学人工音声NeurIPS 2021産業技術総合研究所リザバーコンピューティングプレイ動画ヒップホップキャラクターモーションソニーマーケティングサイレント映画もじぱNBA環境音暗号通貨現代アートFUZZLEAlteration粒子群最適化法進化差分法オープンワールド群知能下川大樹AIFAウィル・ライト高津芳希P2E大石真史SIGGRAPH 2022BEiTStyleGAN-NADAレベルデザインDETRゲームエンジンSporeUnreal Engineデノイズ南カリフォルニア大学Unity for Industry画像処理SentropyGLIDECPUDiscordAvatarCLIPSynthetic DataCALMバイアスプログラミングサム・アルトマンソースコード生成LaMDAGMAIシチズンデベロッパーSonanticTRPGGitHubCohereウィザードリィMCN-AI連携モデルマジック:ザ・ギャザリングAI DungeonUrzas.ai介護西川善司並木幸介Kikiサムライスピリッツ森寅嘉Zoetic AIゼビウスSIGGRAPH 2021ペットストリートファイター半導体Digital Dream LabsTopaz Video Enhance AICozmoDLSSタカラトミー山野辺一記NetEaseLOVOT大里飛鳥DynamixyzMOFLINRomiU-Netミクシィ13フェイズ構造アドベンチャーゲームユニロボットADVユニボXLandGatoAGIテキスト生成手塚眞DEATH STRANDINGマルチモーダル不気味の谷Eric Johnson汎用強化学習AIデザインOculus Questコジマプロダクションロンドン芸術大学生体情報デシマエンジンGoogle BrainインディーゲームSound Control写真高橋ミレイSYNTH SUPER照明Maxim PeterKarl SimsJoshua RomoffArtnomeハイパースケープICONATE山崎陽斗深層強化学習立木創太松原仁浜中雅俊ミライ小町武田英明テスラ福井健策GameGANフルコトパックマンTesla BotNEDOTesla AI DayWikipediaソサエティ5.0SphereSIGGRAPH 2020バズグラフXaver 1000ニュースタンテキ養蜂東芝BeewiseDIB-R倉田宜典フィンテック投資韻律射影MILIZE広告韻律転移三菱UFJ信託銀行

経済シミュレーションや動画圧縮にも応用。DeepMindの最新強化学習研究まとめ

2022.6.30先端技術

経済シミュレーションや動画圧縮にも応用。DeepMindの最新強化学習研究まとめ

DeepMindが開発した囲碁プレイAIであるAlphaGoが2016年にトッププロ囲碁棋士に勝利したことで、同社の強化学習研究が一躍脚光を浴びることになりました。その後、同社はタンパク質の構造を予測するAlpahFoldを発表したことで、自然科学研究に役立つAI開発でも有名になりました。このようにAI開発の幅を広げながらも、同社は強化学習研究を連綿と続けています。本稿では、同社の最新強化学習研究を3つ紹介します。

大規模言語モデルからインスパイア

2022年5月12日、DeepMindはかつてない汎用性を実現した強化学習AIであるGatoを発表しました。同AIが実行するのはゲームプレイはもちろんのこと、英語によるチャット、画像に写っているものに対するキャプション付け、さらにはロボットアームの制御と多岐に及び、そうしたタスクの多数においてハイスコアを達成しました。

Gatoの開発は、大規模言語モデルにインスパイアされたものでした。そうしたモデルの代表には、OpenAIが開発したGPT-3があります。GPT-3は、インターネット上にある膨大な英語テキストデータを使って訓練した結果、文の生成だけではなく翻訳や論理推論も実行できるようになったことで、言語的タスクにおける汎用性を実現しました。こうした大規模言語モデルにならって、Gatoは多種多様なタスクに関する学習データをトークンと呼ばれる文字列のような一種のシーケンシャルなデータに変換したうえで学習した結果、かつてない汎用性を実現しました。

Gatoがトークンを学習する際には、トークンの一部をマスク(隠した)したうえで、そのマスクされたデータを予測するように訓練されました。こうしたマスクデータの予測という学習形式は、例えば言語モデルBERTでも使われています。

Gatoを発表した論文では、同モデルの実現で萌芽した汎用強化学習AIの社会への影響が考察されています。ロボットアームの制御が可能であることからわかるように、汎用強化学習AIはソフトウェア的な存在に留まっている既存の強化学習AIと比べて、物理世界への関与が大きくなります。こうした関与の増大は、AIに対して人間が間違った信頼を抱いたり、反対にAIが人間に物理的な危害を加えたりする可能性を生みます。それゆえ、汎用強化学習AIが進化すると、新たな次元でAI倫理が問われることになるのです。同論文では、専門知識のない人々を対象とした汎用強化学習AIに関する啓発活動が重要になるだろう、とも述べています。

参考論文:汎用的なエージェント

経済活動をルールなしに再現

2022年5月16日には、経済活動を複数の強化学習エージェントによって再現する研究が発表されました。物品の生産、交換、消費という初歩的な経済活動をAIエージェントによってシミュレートする研究は以前からありました。こうした研究におけるAIはルールベースエージェントとして開発され、実装されたルールには経済学における基本原則が採用されていました。DeepMindの研究が画期的なのは、経済学のルールを一切実装していない強化学習エージェントによって、経済学的に説明されるさまざまな現象を再現できたところにあります。

DeepMindの研究では、木々や水辺がある簡単なゲームステージのような環境が用意されたうえで、2種類の強化学習エージェントが多数生息する状況がシミュレートされました。これらのエージェントはリンゴとバナナを生産できますが、一方の種類のエージェントはリンゴの生産を得意とし、他方はバナナの生産を得意とします。そして、リンゴの生産が得意なエージェントはバナナを好んで消費し、他方はリンゴを好みます。こうした設定のもとで、エージェントたちが果物を生産、交換、消費する様子をシミュレートしたのでした。

以上のシミュレーションでは、エージェントどうしが1対1で行う物々交換のほかに、多数のエージェントが集まって交換する市場も設置されました。こうした市場における交換レートは、設置場所によって1対1のそれと異なる場合があることが観察されました。例えば、あえてエージェントの生息域から離れた場所に市場を設定した場合、1対1で取引した場合のリンゴとバナナの交換レートが1個対1個なのに対して、市場では1個対3個となりました。このように地理的環境によって複数のレートが成立するのは、生息域から外れた市場で交換する場合、市場に移動するまでは生産活動ができないというルールを採用していることから実質的に移動コストが生じてしまい、そのコストが交換レートに転嫁されたためと考えられます。ちなみに、市場を生息域内あるいはその近くに設置した場合、市場の交換レートは1対1で取引した場合のそれと同じになりました。この現象は、市場に行くまでの移動コストが生じないためと考えられます。

以上のシミュレーションで注目すべきは、エージェントには「移動コストを価格に転嫁する」のようなルールが実装されておらず、あくまで環境に適応した結果、経済学の原則が観察されたところです。つまり、一切の前提知識なしに経済学の原則が生成される様子を観察できるというわけです。今回の発表について、DeepMind研究チームは強化学習が経済学のような人文科学研究に貢献できる実例であるとまとめています。

参考論文:マルチエージェント強化学習における創発的物々交換行為

4%のビットレート削減を実現

モリカトロンAIラボは2021年1月、ゲームに関する知識なしでハイスコアを達成するゲームプレイAIのMuZeroを紹介した記事を公開しました。その記事では、ゲームプレイに特化した同AIを動画圧縮に応用する研究が進められているとも解説しました。この研究の成果が2022年2月11日、DeepMind公式ブログ記事で発表されました。

DeepMindのブログ記事によると、コロナ禍によってステイホームが余儀なくされたため、動画視聴のニーズが急増しました。その結果、インターネット通信における動画トラフィックが占める割合が大きくなり、今後もこの割合はますます増えていくと予想されています。こうした状況に対処するために解決すべきなのが、動画圧縮の最適化問題です。

インターネットで閲覧される動画は、オリジナル動画を圧縮したうえで送信して視聴者の視聴環境内でデコードする処理が実行されています。YouTubeをはじめとする動画ストリーミングサービスでは、VP9と呼ばれる動画圧縮アルゴリズムが採用されています。DeepMind研究チームは、VP9を上回る圧縮効率のアルゴリズムをMuZeroを応用して開発することにしました。

効率の良い動画圧縮アルゴリズムを開発するには、動画を一律に高密度に圧縮すればよいというわけではありません。というのも、高密度に圧縮すると画質が劣化してしまうからです。それゆえ、複雑な動画フレームは高密度に圧縮する一方で、シンプルなそれは低密度にするというような最適化が求められます。動画圧縮には動画サイズや画質のほかにも、通信環境や視聴者の再生デバイス性能などの要因も関係してきます。このように動画圧縮アルゴリズムは、多数のパラメータの組み合わせから最適解を導く組み合わせ最適化問題と捉えられます。そして、こうした問題を解くにはMuZeroのようなゲームプレイAIが適しているのです。

MuZeroを動画圧縮問題に応用するにあたっては、自己競争と呼ばれるアルゴリズムを採用しました。これは、実行した動画圧縮の効率が以前のそれを上回るように学習するというものです。自己競争を実装した結果、YouTubeで公開されている動画から作成したテストセットを使って測定したビットレート(単位時間あたりのデータ通信量)が4%削減できました。

参考論文:VP9動画圧縮におけるレート制御のために自己競争を用いたMuZero

以上に紹介したDeepMindの強化学習研究は、純粋に学術的なものであると同時に現実社会の問題を解決する実践的なものでもあるのです。こうしたDeepMindの研究活動をキャッチアップするには、同社の公式ブログあるいは研究成果をまとめたウェブページを閲覧するとよいでしょう。

Writer:吉本幸記

RELATED ARTICLE関連記事

【JSAI2021】AIとゲーム開発の接点としてのゲームデザイン、シナリオ生成、行動創発

2021.7.29先端技術

【JSAI2021】AIとゲーム開発の接点としてのゲームデザイン、シナリオ生成、...

【CEDEC2019】AIりんなのボイストレーニングが示す、情動的で人間的な機械学習とは?

2019.9.05先端技術

【CEDEC2019】AIりんなのボイストレーニングが示す、情動的で人間的な機械...

蜂蜜を使って脳に匹敵するコンピュータは作れるか?:月刊エンタメAIニュース vol.28

2022.4.26先端技術

蜂蜜を使って脳に匹敵するコンピュータは作れるか?:月刊エンタメAIニュース vo...

RANKING注目の記事はこちら