CGへの扉 Vol.35：マーベル・シネマティック・ユニバースを支える機械学習

※この記事では、直接映画ストーリーのネタバレはしませんが、映像制作手法やメイキングに関係する話題に触れられています。未見の方は了解の上でご覧ください。

MCUの登場人物表現には欠かせない現場で重宝される機械学習の手法：アベンジャーズシリーズ編

MCU（マーベル・シネマティック・ユニバース）とはアメリカン・コミックの「マーベル・コミック」を原作とする実写映画を同一の世界観を持ったクロスオーバー作品群のことを示します。

2008年公開の『アイアンマン』から始まったMCUの世界観は、多くのファンを生み出しました。マーベル映画の公開年と、物語の時系列が異なるため、なかなか全体の流れを把握するのが難しいかもしれません。MCUではある映画作品の脇役が別の作品では中心人物として描かれていたり、登場人物たちの歴史や背景、葛藤や悩みなども合わせて描かれていることから多くの共感を得ています。

これら一連のMCU作品に欠かせないのは、各作品に登場するクセのある俳優たちはもちろんのこと、CG/VFX（コンピュータグラフィックスと特殊効果）です。MCU作品の中でもとくにCG/VFXが使われているアベンジャーズシリーズでは、映画1本の制作費が約6億ドル、制作費のうち半分の約3億ドル以上を特殊効果に使われています。さらにアベンジャーズシリーズ1本の映画全体の98%前後は、CG/VFXによる効果が加えられた映像になっているそうで、一般的な映画制作以上にCG/VFXが重要な位置を占めています。

『アベンジャーズ/エンドゲーム』（2019年）では、Digital Domain社が開発した機械学習を活用したフェイシャルトラッキングツール、Masquerade 2.0のベースとなる技術が活用されています。旧バージョンのMasquerade 1.0に関しては、「CGへの扉 Vol.4：CG/VFX制作に欠かせなくなったマシーンラーニングの勘所」 で取り上げています。

・Masquerade 2.0 Sizzle

・Digital Domain Masquerede 公式ページ

Masquerade システムについての解説 TED talkより（日本語字幕付き）

俳優の表情データを取得するためのフェイシャルキャプチャーとして、顔に100個から150個の黒丸型の検出用マーカーを描き、それらを元に3DCGキャラクターを制作していました。映像の中で移動するマーカーを選び出して設定したり、ツールによる自動トラッキングを外れてしまった箇所を人力で補正したりといった作業が欠かせないため、従来であれば映像制作に使えるレベルの顔面データを用意できるまでに2週間程度の時間が必要でした。

これらの作業を機械学習をベースとした自動化の仕組みで、高解像度の顔面データを素早く用意できるようになったのが Masquerade のアプローチです。機械学習によって生み出された3DCGのキャラクタの表情や形状、動きといったデータと、キャラクタを演じる俳優の顔の動きを正解データとして比較することで機械学習の精度を高めていき細かなディテール表現も向上していったとのこと。

この技術は『アヴェンジャーズ：インフィニティ・ウォー』（2018年）に登場するキャラクター「サノス」の制作に使われ、シーンによって複数の顔データセットが用いられました。ここで開発された技術がその後 Masquerade 2.0 として、さまざまな映像制作に使われるようになっています。システムの開発には数人で約2年費やしたそうで、Masquerade 2.0 登場以前は専門アーティストが、のべ60万時間かかっていた作業が95%削減されたとのこと。

『ワンダヴィジョン』での機械学習の活用

『ワンダヴィジョン』（2021年）は、アベンジャーズシリーズに登場したスカーレット・ウィッチと呼ばれていたワンダ・マキシモフとヴィジョンを主役に描かれたドラマ作品です。往年のファミリーコメディー『奥さまは魔女』のようなソープオペラと呼ばれるタイプの連続メロドラマを模した展開で作られています。

ヴィジョンは人間ではなくアンドロイドであるため、特殊効果が欠かせません。マット・シャックマン監督の意向により映像制作にはヴィジョンを演じている俳優ポール・ベタニーの演技をできるだけ忠実に再現することが求められたそうです。そのため、俳優ポール・ベタニーが特殊メイクで演じる映像と、映像合成の際、顔の動きを追尾するためにマーカーと呼ばれる多数の小さな丸が描かれた映像を、撮影の中で適切に取り扱う必要がありました。

ここで活躍したのは機械学習による映像合成用マーカー除去ツールです。俳優は顔と頭を赤く塗った状態の特殊メイクで演技します。その際、顔に数十個のマーカーをつけて演技し、3D空間上の移動データを取得しつつ、機械学習ベースの専用ツールでこれらのマーカーを映像から除去した上で、ヴィジョンの頭や顎、耳についている金属パーツをCGで合成するわけです。この部分を担当としたのはカナダトロントを本拠地とする Monsters Aliens Robots Zombies VFX社です。

WANDAVISION – Season 1 | VFX Breakdown by SSVFX (2021)

マーベル公式ワンダヴィジョン解説ビデオ：VFX Secrets of Marvel Studios’ WandaVision!

機械学習は映像の世界観構築に欠かせない技術に

過去の記事では、映画『シャン・チー／テン・リングスの伝説』（2021年）での機械学習を活用した俳優の顔の差し替えについて解説しました。「CGへの扉 Vol.33：AIの必然性 #SIGGRAPHAsia2021 レポート」参照映画制作に機械学習が活用されてるのはMCUに限りません。

＊＊＊＊＊＊＊

ワイルド・スピード7作目の映画『ワイルド・スピード SKY MISSION』（2015年）では、ブライアン役のポール・ウォーカーが撮影が完了する前に自動車事故で亡くなってしまったため、急遽実弟二人や Weta Digital によるCGで登場シーンが補われました。

Furious 7 VFX | Breakdown – Brian O’Conner | Weta Digital

ワイルド・スピードのシーン撮影は、ほとんどの場合ストーリー的な時系列に沿わずにセットの都合やレースシーンの都合、俳優のスケジュールによって撮影シーンがやりくりされるため、CGによって補われたシーンは映画全体の主要シーンではないものの、数多く作られているそう。

ストーリー上、合成シーンと気づかず自然と見続けてしまいますが、実は、ブライアンが息子をミニバンの後部座席に乗せるシーン、映画のラスト、お別れシーンなどは、Weta Digital のCG合成技術が冴えていた部分です。ちなみに撮影できなかったシーンのブライアンのセリフも機械学習によって合成された声が使われているそうです。

＊＊＊＊＊＊＊

ジェームズ・キャメロン監督の映画『アリータ：バトル・エンジェル』（2019年）では、パフォーマンスキャプチャと呼ばれる手法が使われています。パフォーマンスキャプチャでは、体の動き、顔の表情などを俳優が演技したものをデータ化し、それらのデータを元に3DCGで作られたキャラクタを自然に動かし、演出するという手法です。

映画『アリータ：バトル・エンジェル』メイキング映像

3DCGで作られたキャラクタが、画面アップになった際にも、CGっぽいいかにもロボット的な「作られた」顔ではなく、生身の人間に近い、リアルな表情を生み出すため、肌の表現（正確には毛穴位置、大きさ、分布の表現）に機械学習が用いられています。従来手法であれば、人間の肌画像から、似た部位の肌をコピーして素材として利用します。俳優の顔にあるシミを消すなど、一部分でこのコピー手法を使う場合は目立ちませんが、顔全体で用いると違和感が生じます。

また、CGキャラクタの顔の表情を作り出すためのトレーニングデータとしても用いられ、3DCGキャラクタ表現の際にもっともらしい表情や肌の動きがなされるように工夫されています。ちなみにアリータの眼の虹彩は、3DCGツールHoudiniでシミュレーションした血管で表現されており、片目の虹彩だけで850万ポリゴンあるそうです。

＊＊＊＊＊＊＊

オンライン動画配信サービスDisney+では、マンダロリアン、ボバ・フェットと、スターウォーズの世界観を共有したスピンアウト作品が人気を博しています。スターウォーズの世界観の中で、時代が前後して説明的なストーリーが描かれていたり、脇役が活躍したり、作品をまたがって登場人物が活躍していたりと、従来のファンも新しいファンも楽しめる工夫がなされています。

マンダロリアン、ボバ・フェットの作品中、スターウォーズシリーズの主役と言ってもいいルーク・スカイウォーカーが、まだ若い頃の姿で登場します。制作側としては完全なCGにするか、老化除去（De-Aging）技術を使うか、ディープフェイクにするかの3つの選択肢を考えたとのこと。

制作チームはスター・ウォーズのオリジナル3部作の若い頃のルーク役マークハミルの映像やインタビューから画像を照合し、「表情、顔、表情、照明のシナリオのライブラリ」を作成してディープフェイクで用いました。実際の完成シーンは、ディープフェイクだけでなく、マークハミルが演じたものをDe-Agingさせた映像も使われているとのことで要所要所で最適な仕上がりを目指すべく、試行錯誤した様子がうかがえます。

参考記事：CGへの扉 Vol.10：老齢とは無縁、De-Aging技術の台頭

“A Good Feeling” Official Clip | Disney Gallery: The Mandalorian | Disney+

Star Wars The Mandalorian: Luke Skywalker Behind the Scenes | Disney+（ファンサイトによる解説動画）

本連載の今後の予定：「CGへの扉」では、単なるAIの話題とは少し異なり、CG/VFX, アートの文脈から話題を切り取り紹介していきます。映像制作の現場におけるAI活用や、AIで価値が高まった先進的なツール、これからの可能性を感じさせるような話題、テクノロジーの話題にご期待ください。なにか取り上げて欲しいテーマやご希望などがございましたら、ぜひ編集部までお知らせください。

CGへの扉：

Vol.34：注目論文よりCGの祭典 #SIGGRAPHAsia2021 を振り返る

Vol.33：AIの必然性 #SIGGRAPHAsia2021 レポート

Vol.32：Adobe Sneaks より進化の方向性を知る

Vol.31：人工知能が考える「顔」と、人が考える「顔」

Vol.30：SIGGRAPH2021レポート「ディープフェイクとの戦い」

Vol.29：AIの恩恵を受けるCG研究の世界。#SIGGRAPH2021 論文より

Vol.28：定番手法の他分野応用、自然言語処理AI由来の画像処理AI

Vol.27：眼に追いつけ追い越せ？ カメラは機械学習により進化

Vol.26：アートを加速させるAIの役割 #GTC2021 レポート

Vol.25：変幻自在の顔も実は人工知能

Vol.24：自然現象もすべて人工知能で再現する時代

Vol.23：AIで人の眼に進化するカメラ

≫≫すべてのバックナンバーはこちらから

Contributor：安藤幸央