モリカトロン株式会社運営「エンターテインメント×AI」の最新情報をお届けするサイトです。

TAG LIST
CG機械学習ディープラーニングCGへの扉安藤幸央GAN月刊エンタメAIニュースニューラルネットワーク河合律子NVIDIA強化学習三宅陽一郎OpenAI音楽FacebookQAスクウェア・エニックスモリカトロンAIラボインタビュー敵対的生成ネットワーク森川幸人ルールベースDeepMindキャラクターAIシナリオNFTGPT-3デバッグCEDEC2019StyleGANプロシージャル自動生成人工知能学会映画遺伝的アルゴリズムメタAI自然言語処理深層学習マイクロソフトビヘイビア・ツリー吉本幸記GoogleCEDEC2021CEDEC2020ゲームAISIGGRAPH不完全情報ゲームVRナビゲーションAI畳み込みニューラルネットワークAIと倫理アートグーグルディープフェイクGDC 2021大内孝子VFXメタバースGDC 2019マルチエージェントゲームプレイAIボードゲームNPCDALL-ECLIPロボットCNNデジタルツインモリカトロンUnityファッションHTN階層型タスクネットワークJSAI2020TensorFlowMicrosoftイベントレポートテストプレイAIアート水野勇太小説アニメーションガイスターStyleGAN2懐ゲーから辿るゲームAI技術史toioJSAI2021スポーツ研究シムピープル汎用人工知能GDC Summerバーチャルヒューマンブロックチェーン倫理AdobeアストロノーカNVIDIA Omniverseeスポーツ対話型エージェントAmazoneSportsBLUE PROTOCOLシーマンUbisoftAlphaZeroTransformerGPT-2カメラ環世界中島秀之鴫原盛之ソニーDARPAドローンシムシティAI美空ひばり手塚治虫Electronic ArtsメタデータLEFT 4 DEAD通しプレイOpenAI Five本間翔太CMピクサーBERTプラチナエッグイーサリアム作曲ビッグデータ中嶋謙互Amadeus CodeMicrosoft AzureキャリアナラティブOmniverse ReplicatorレコメンドシステムNVIDIA DRIVE SimNVIDIA Isaac Simサイバーエージェント音声認識ロボティクスPyTorchDQN眞鍋和子バンダイナムコスタジオMinecraft齊藤陽介マインクラフトお知らせチャットボットアバターサルでもわかる人工知能VAEOmniverseUbisoft La Forge自動運転車ワークショップGenvid Technologiesメタ知識表現ウォッチドッグス レギオンIGDAどうぶつしょうぎEpic Gamesジェイ・コウガミ音楽ストリーミングマシンラーニング画像生成テキスト画像生成クラウド対話エンジン斎藤由多加リトル・コンピュータ・ピープルコンピューティショナル・フォトグラフィーゴブレット・ゴブラーズ絵画AIりんなシミュレーション完全情報ゲーム坂本洋典釜屋憲彦ウェイポイントパス検索藤澤仁生物学GTC 2022画像認識GTC2022StyleCLIPDeNA長谷洋平masumi toyota宮路洋一OpenSeaGDC 2022教育TextWorldSIGGRAPH ASIADALL-E2GTC2021CycleGANNetHackフェイクニュースエージェントAIボイスアクターNVIDIA CanvasGPUALifeZork人工生命オルタナティヴ・マシンサウンドスケープMCS-AI動的連携モデルASBSマンガモーションキャプチャーぱいどんTEZUKA2020ナビゲーションメッシュ松井俊浩バンダイナムコ研究所スパーシャルAIELYZAELYZA DIGEST3D音声合成マーケティングApex LegendsELIZANinjaコンピュータRPGアップルタウン物語KELDICメロディ言語ゲームTENTUPLAYMARVEL Future FightAstroタイムラプスEgo4Dインタビューバスキア日経イノベーション・ラボ敵対的強化学習階層型強化学習GOSU Data LabWANNGOSU Voice Assistant竹内将SenpAI.GGMobalytics馬淵浩希Cygames岡島学AWS Sagemaker映像セリア・ホデント形態素解析UXAWS Lambda誤字検出認知科学ゲームデザインSentencePieceLUMINOUS ENGINELuminous Productionsパターン・ランゲージ竹村也哉ちょまどボエダ・ゴティエGOAPAdobe MAX 2021模倣学習Omniverse AvatarFPSNVIDIA Rivaマルコフ決定過程NVIDIA MegatronNVIDIA Merlinスタンフォード大学NVIDIA Metropolisパラメータ設計テニスバランス調整協調フィルタリング人狼知能テキサス大学軍事AlphaDogfight TrialsAI Messenger VoicebotエージェントシミュレーションOpenAI CodexStarCraft IIHyperStyleFuture of Life InstituteRendering with StyleIntelDisneyLAIKADisneyリサーチRotomationGauGANGauGAN2ドラゴンクエストライバルズ画像言語表現モデル不確定ゲームSIGGRAPH ASIA 2021Dota 2モンテカルロ木探索ディズニーリサーチMitsuba2ソーシャルゲームEmbeddingワイツマン科学研究所GTC2020CG衣装NVIDIA MAXINEVRファッション淡路滋ビデオ会議ArtflowグリムノーツEponymゴティエ・ボエダ音声クローニングGautier Boeda階層的クラスタリングGopheraibo合成音声JuliusSIE鑑定TPRGOxia Palusバーチャル・ヒューマン・エージェントtoio SDK for UnityArt Recognitionクーガー田中章愛Meta石井敦銭起揚NHC 2021茂谷保伯池田利夫GDMC新刊案内マーベル・シネマティック・ユニバース成沢理恵MITメディアラボMCU著作権アベンジャーズマジック・リープDigital DomainMagic Leap OneMagendaMasquerade2.0ノンファンジブルトークンDDSPフェイシャルキャプチャーサッカーモリカトロン開発者インタビュー里井大輝Kaggle宮本茂則バスケットボール山田暉Assassin’s Creed OriginsAI会話ジェネレーターSea of ThievesGEMS COMPANYmonoAI technologyLSTMモリカトロンAIソリューション初音ミクOculusコード生成AI転移学習テストAlphaCodeBaldur's Gate 3CodeforcesCandy Crush Saga自己増強型AISIGGRAPH ASIA 2020COLMAPADOPデバッギングBigGANGANverse3DMaterialGANリップシンキングRNNグランツーリスモSPORTReBeLグランツーリスモ・ソフィーGTソフィーVolvoFIAグランツーリスモチャンピオンシップRival PrakDGX A100VTuberユービーアイソフトWebcam VTuber星新一賞北尾まどかHALO市場分析将棋メタルギアソリッドVフォートナイトFSMRobloxナップサック問題Live Nation汎用言語モデルWeb3.0AIOpsSpotifyMITスマートコントラクトReplica StudioAWSamuseChitrakarQosmo巡回セールスマン問題徳井直生ジョルダン曲線メディア5GMuZero政治クラウドゲーミングRival Peakがんばれ森川君2号和田洋一リアリティ番組Stadiaジョンソン裕子MILEsNightCafeインタラクティブ・ストリーミングLuis Ruizインタラクティブ・メディアポケモンCodexシーマン人工知能研究所東京工業大学Ludo博報堂ラップSIGGRAPH 2019ArtEmisZ世代AIラッパーシステムARrinnaGROVERプラスリンクス ~キミと繋がる想い~FAIRSTCチート検出Style Transfer ConversationオンラインカジノRCPアップルRealFlowRinna Character PlatformiPhoneデジタルヒューマンDeep FluidsSoul MachinesMeInGameAmeliaAIGraphブレイン・コンピュータ・インタフェースバーチャルキャラクターBCIGateboxLearning from VideoANIMAK予期知能逢妻ヒカリセコムユクスキュルバーチャル警備システムカント損保ジャパン哲学対談上原利之ドラゴンクエストエージェントアーキテクチャアッパーグラウンドPAIROCTOPATH TRAVELER西木康智OCTOPATH TRAVELER 大陸の覇者Siemensアルスエレクトロニカ2019品質保証StyleRigAutodesk逆転オセロニアBentley Systemsワールドシミュレーター奥村エルネスト純いただきストリートH100齋藤精一大森田不可止COBOL高橋智隆DGX H100ロボユニザナックDGX SuperPOD泉幸典仁井谷正充クラウドコンピューティングロボコレ2019Instant NeRFartonomousbitGANsぎゅわんぶらあ自己中心派Azure Machine Learning意思決定モデル脱出ゲームHybrid Reward Architectureコミュニティ管理ウロチョロスSuper PhoenixSNS理化学研究所Project Malmoオンラインゲーム気候変動Project PaidiaEarth-2Project Lookoutマックス・プランク気象研究所Watch Forビョルン・スティーブンスBing気象モデルLEFT ALIVE気象シミュレーション長谷川誠ジミ・ヘンドリックス環境問題Baby Xカート・コバーンエコロジーロバート・ダウニー・Jr.エイミー・ワインハウスSDGsMagentaYouTubeダフト・パンクメモリスタSFGlenn MarshallELYZA PencilThe Age of A.I.Story2Hallucination音声変換レコメンデーションJukebox松尾豊Veap JapanEAPテンセントSIFT福井千春DCGAN医療MOBADANNCEメンタルケア人事ハーバード大学Edgar Handy研修デューク大学Netflixデータマイニングmynet.aiローグライクゲーム東京大学東京理科大学人工音声NeurIPS 2021産業技術総合研究所はこだて未来大学リザバーコンピューティングプレイ動画ヒップホップキャラクターモーションソニーマーケティングサイレント映画もじぱNBA環境音暗号通貨現代アートFUZZLEAlteration粒子群最適化法RPG進化差分法オープンワールド群知能下川大樹AIFAウィル・ライト高津芳希P2E大石真史SIGGRAPH 2022BEiTStyleGAN-NADAレベルデザインDETRゲームエンジンSporeUnreal Engineデノイズ南カリフォルニア大学Unity for Industry画像処理SentropyCPUDiscordCALMプログラミングソースコード生成GMAIシチズンデベロッパーTRPGGitHubウィザードリィMCN-AI連携モデルAI Dungeon西川善司並木幸介サムライスピリッツ森寅嘉ゼビウスSIGGRAPH 2021ストリートファイター半導体Topaz Video Enhance AI栗原聡DLSS山野辺一記NetEase大里飛鳥DynamixyzU-Net13フェイズ構造アドベンチャーゲームADVXLandAGI手塚眞DEATH STRANDING不気味の谷Eric JohnsonOculus Questコジマプロダクション生体情報デシマエンジンインディーゲーム写真高橋ミレイ照明Maxim PeterJoshua Romoffハイパースケープ山崎陽斗深層強化学習立木創太ミライ小町テスラGameGANパックマンTesla BotTesla AI Dayソサエティ5.0SIGGRAPH 2020バズグラフニュースタンテキ東芝DIB-R倉田宜典韻律射影広告韻律転移

CGへの扉 Vol.35:マーベル・シネマティック・ユニバースを支える機械学習

2022.2.15アート

CGへの扉 Vol.35:マーベル・シネマティック・ユニバースを支える機械学習

※この記事では、直接映画ストーリーのネタバレはしませんが、映像制作手法やメイキングに関係する話題に触れられています。未見の方は了解の上でご覧ください。

MCUの登場人物表現には欠かせない現場で重宝される機械学習の手法:アベンジャーズシリーズ編

MCU(マーベル・シネマティック・ユニバース)とはアメリカン・コミックの「マーベル・コミック」を原作とする実写映画を同一の世界観を持ったクロスオーバー作品群のことを示します。

2008年公開の『アイアンマン』から始まったMCUの世界観は、多くのファンを生み出しました。マーベル映画の公開年と、物語の時系列が異なるため、なかなか全体の流れを把握するのが難しいかもしれません。MCUではある映画作品の脇役が別の作品では中心人物として描かれていたり、登場人物たちの歴史や背景、葛藤や悩みなども合わせて描かれていることから多くの共感を得ています。

これら一連のMCU作品に欠かせないのは、各作品に登場するクセのある俳優たちはもちろんのこと、CG/VFX(コンピュータグラフィックスと特殊効果)です。MCU作品の中でもとくにCG/VFXが使われているアベンジャーズシリーズでは、映画1本の制作費が約6億ドル、制作費のうち半分の約3億ドル以上を特殊効果に使われています。さらにアベンジャーズシリーズ1本の映画全体の98%前後は、CG/VFXによる効果が加えられた映像になっているそうで、一般的な映画制作以上にCG/VFXが重要な位置を占めています。

『アベンジャーズ/エンドゲーム』(2019年)では、Digital Domain社が開発した機械学習を活用したフェイシャルトラッキングツール、Masquerade 2.0のベースとなる技術が活用されています。旧バージョンのMasquerade 1.0に関しては、「CGへの扉 Vol.4:CG/VFX制作に欠かせなくなったマシーンラーニングの勘所」 で取り上げています。

Masquerade 2.0 Sizzle

Digital Domain Masquerede 公式ページ

Masquerade システムについての解説 TED talkより(日本語字幕付き)

俳優の表情データを取得するためのフェイシャルキャプチャーとして、顔に100個から150個の黒丸型の検出用マーカーを描き、それらを元に3DCGキャラクターを制作していました。映像の中で移動するマーカーを選び出して設定したり、ツールによる自動トラッキングを外れてしまった箇所を人力で補正したりといった作業が欠かせないため、従来であれば映像制作に使えるレベルの顔面データを用意できるまでに2週間程度の時間が必要でした。

これらの作業を機械学習をベースとした自動化の仕組みで、高解像度の顔面データを素早く用意できるようになったのが Masquerade のアプローチです。機械学習によって生み出された3DCGのキャラクタの表情や形状、動きといったデータと、キャラクタを演じる俳優の顔の動きを正解データとして比較することで機械学習の精度を高めていき細かなディテール表現も向上していったとのこと。

この技術は『アヴェンジャーズ:インフィニティ・ウォー』(2018年)に登場するキャラクター「サノス」の制作に使われ、シーンによって複数の顔データセットが用いられました。ここで開発された技術がその後 Masquerade 2.0 として、さまざまな映像制作に使われるようになっています。システムの開発には数人で約2年費やしたそうで、Masquerade 2.0 登場以前は専門アーティストが、のべ60万時間かかっていた作業が95%削減されたとのこと。

『ワンダヴィジョン』での機械学習の活用

『ワンダヴィジョン』(2021年)は、アベンジャーズシリーズに登場したスカーレット・ウィッチと呼ばれていたワンダ・マキシモフとヴィジョンを主役に描かれたドラマ作品です。往年のファミリーコメディー『奥さまは魔女』のようなソープオペラと呼ばれるタイプの連続メロドラマを模した展開で作られています。

ヴィジョンは人間ではなくアンドロイドであるため、特殊効果が欠かせません。マット・シャックマン監督の意向により映像制作にはヴィジョンを演じている俳優ポール・ベタニーの演技をできるだけ忠実に再現することが求められたそうです。そのため、俳優ポール・ベタニーが特殊メイクで演じる映像と、映像合成の際、顔の動きを追尾するためにマーカーと呼ばれる多数の小さな丸が描かれた映像を、撮影の中で適切に取り扱う必要がありました。

ここで活躍したのは機械学習による映像合成用マーカー除去ツールです。俳優は顔と頭を赤く塗った状態の特殊メイクで演技します。その際、顔に数十個のマーカーをつけて演技し、3D空間上の移動データを取得しつつ、機械学習ベースの専用ツールでこれらのマーカーを映像から除去した上で、ヴィジョンの頭や顎、耳についている金属パーツをCGで合成するわけです。この部分を担当としたのはカナダトロントを本拠地とする Monsters Aliens Robots Zombies VFX社です。

WANDAVISION – Season 1 | VFX Breakdown by SSVFX (2021)

マーベル公式ワンダヴィジョン解説ビデオ:VFX Secrets of Marvel Studios’ WandaVision!

機械学習は映像の世界観構築に欠かせない技術に

過去の記事では、映画『シャン・チー/テン・リングスの伝説』(2021年)での機械学習を活用した俳優の顔の差し替えについて解説しました。「CGへの扉 Vol.33:AIの必然性 #SIGGRAPHAsia2021 レポート」参照映画制作に機械学習が活用されてるのはMCUに限りません。

*******

ワイルド・スピード7作目の映画『ワイルド・スピード SKY MISSION』(2015年)では、ブライアン役のポール・ウォーカーが撮影が完了する前に自動車事故で亡くなってしまったため、急遽実弟二人や Weta Digital によるCGで登場シーンが補われました。

Furious 7 VFX | Breakdown – Brian O’Conner | Weta Digital

ワイルド・スピードのシーン撮影は、ほとんどの場合ストーリー的な時系列に沿わずにセットの都合やレースシーンの都合、俳優のスケジュールによって撮影シーンがやりくりされるため、CGによって補われたシーンは映画全体の主要シーンではないものの、数多く作られているそう。

ストーリー上、合成シーンと気づかず自然と見続けてしまいますが、実は、ブライアンが息子をミニバンの後部座席に乗せるシーン、映画のラスト、お別れシーンなどは、Weta Digital のCG合成技術が冴えていた部分です。ちなみに撮影できなかったシーンのブライアンのセリフも機械学習によって合成された声が使われているそうです。

*******

ジェームズ・キャメロン監督の映画『アリータ:バトル・エンジェル』(2019年)では、パフォーマンスキャプチャと呼ばれる手法が使われています。パフォーマンスキャプチャでは、体の動き、顔の表情などを俳優が演技したものをデータ化し、それらのデータを元に3DCGで作られたキャラクタを自然に動かし、演出するという手法です。

映画『アリータ:バトル・エンジェル』メイキング映像

3DCGで作られたキャラクタが、画面アップになった際にも、CGっぽいいかにもロボット的な「作られた」顔ではなく、生身の人間に近い、リアルな表情を生み出すため、肌の表現(正確には毛穴位置、大きさ、分布の表現)に機械学習が用いられています。従来手法であれば、人間の肌画像から、似た部位の肌をコピーして素材として利用します。俳優の顔にあるシミを消すなど、一部分でこのコピー手法を使う場合は目立ちませんが、顔全体で用いると違和感が生じます。

また、CGキャラクタの顔の表情を作り出すためのトレーニングデータとしても用いられ、3DCGキャラクタ表現の際にもっともらしい表情や肌の動きがなされるように工夫されています。ちなみにアリータの眼の虹彩は、3DCGツールHoudiniでシミュレーションした血管で表現されており、片目の虹彩だけで850万ポリゴンあるそうです。

*******

オンライン動画配信サービスDisney+では、マンダロリアン、ボバ・フェットと、スターウォーズの世界観を共有したスピンアウト作品が人気を博しています。スターウォーズの世界観の中で、時代が前後して説明的なストーリーが描かれていたり、脇役が活躍したり、作品をまたがって登場人物が活躍していたりと、従来のファンも新しいファンも楽しめる工夫がなされています。

マンダロリアン、ボバ・フェットの作品中、スターウォーズシリーズの主役と言ってもいいルーク・スカイウォーカーが、まだ若い頃の姿で登場します。制作側としては完全なCGにするか、老化除去(De-Aging)技術を使うか、ディープフェイクにするかの3つの選択肢を考えたとのこと。

制作チームはスター・ウォーズのオリジナル3部作の若い頃のルーク役マークハミルの映像やインタビューから画像を照合し、「表情、顔、表情、照明のシナリオのライブラリ」を作成してディープフェイクで用いました。実際の完成シーンは、ディープフェイクだけでなく、マークハミルが演じたものをDe-Agingさせた映像も使われているとのことで要所要所で最適な仕上がりを目指すべく、試行錯誤した様子がうかがえます。

参考記事:CGへの扉 Vol.10:老齢とは無縁、De-Aging技術の台頭

“A Good Feeling” Official Clip | Disney Gallery: The Mandalorian | Disney+

Star Wars The Mandalorian: Luke Skywalker Behind the Scenes | Disney+(ファンサイトによる解説動画)

本連載の今後の予定:「CGへの扉」では、単なるAIの話題とは少し異なり、CG/VFX, アートの文脈から話題を切り取り紹介していきます。映像制作の現場におけるAI活用や、AIで価値が高まった先進的なツール、これからの可能性を感じさせるような話題、テクノロジーの話題にご期待ください。なにか取り上げて欲しいテーマやご希望などがございましたら、ぜひ編集部までお知らせください。

CGへの扉

Vol.34:注目論文よりCGの祭典 #SIGGRAPHAsia2021 を振り返る

Vol.33:AIの必然性 #SIGGRAPHAsia2021 レポート

Vol.32:Adobe Sneaks より進化の方向性を知る

Vol.31:人工知能が考える「顔」と、人が考える「顔」

Vol.30:SIGGRAPH2021レポート「ディープフェイクとの戦い」

Vol.29:AIの恩恵を受けるCG研究の世界。#SIGGRAPH2021 論文より

Vol.28:定番手法の他分野応用、自然言語処理AI由来の画像処理AI

Vol.27:眼に追いつけ追い越せ? カメラは機械学習により進化

Vol.26:アートを加速させるAIの役割 #GTC2021 レポート

Vol.25:変幻自在の顔も実は人工知能

Vol.24:自然現象もすべて人工知能で再現する時代

Vol.23:AIで人の眼に進化するカメラ

≫≫すべてのバックナンバーはこちらから

Contributor:安藤幸央

RELATED ARTICLE関連記事

CGへの扉 Vol.1:CG/VFXにおける人工知能の可能性と、その限界

2019.4.17アート

CGへの扉 Vol.1:CG/VFXにおける人工知能の可能性と、その限界

【JSAI2020】AI美空ひばりとAI手塚治虫が社会へ投げかけた未来像

2020.6.30アート

【JSAI2020】AI美空ひばりとAI手塚治虫が社会へ投げかけた未来像

【JSAI2021】AIが自動生成したシナリオは人間にとって本当に面白いのか?

2021.6.24アート

【JSAI2021】AIが自動生成したシナリオは人間にとって本当に面白いのか?

RANKING注目の記事はこちら