モリカトロン株式会社運営「エンターテインメント×AI」の最新情報をお届けするサイトです。

TAG LIST
CG機械学習ディープラーニングCGへの扉安藤幸央GAN月刊エンタメAIニュースニューラルネットワーク河合律子NVIDIA強化学習三宅陽一郎OpenAI音楽FacebookQAスクウェア・エニックスモリカトロンAIラボインタビュー敵対的生成ネットワーク森川幸人ルールベースDeepMindキャラクターAIシナリオNFTGPT-3デバッグCEDEC2019StyleGANプロシージャル自動生成人工知能学会映画遺伝的アルゴリズムメタAI自然言語処理深層学習マイクロソフトビヘイビア・ツリー吉本幸記GoogleCEDEC2021CEDEC2020ゲームAISIGGRAPH不完全情報ゲームVRナビゲーションAI畳み込みニューラルネットワークAIと倫理アートグーグルディープフェイクGDC 2021大内孝子VFXメタバースGDC 2019マルチエージェントゲームプレイAIボードゲームNPCDALL-ECLIPロボットCNNデジタルツインモリカトロンUnityファッションHTN階層型タスクネットワークJSAI2020TensorFlowMicrosoftイベントレポートテストプレイAIアート水野勇太小説アニメーションガイスターStyleGAN2懐ゲーから辿るゲームAI技術史toioJSAI2021スポーツ研究シムピープル汎用人工知能GDC Summerバーチャルヒューマンブロックチェーン倫理AdobeアストロノーカNVIDIA Omniverseeスポーツ対話型エージェントAmazoneSportsBLUE PROTOCOLシーマンUbisoftAlphaZeroTransformerGPT-2カメラ環世界中島秀之鴫原盛之ソニーDARPAドローンシムシティAI美空ひばり手塚治虫Electronic ArtsメタデータLEFT 4 DEAD通しプレイOpenAI Five本間翔太CMピクサーBERTプラチナエッグイーサリアム作曲ビッグデータ中嶋謙互Amadeus CodeMicrosoft AzureキャリアナラティブOmniverse ReplicatorレコメンドシステムNVIDIA DRIVE SimNVIDIA Isaac Simサイバーエージェント音声認識ロボティクスPyTorchDQN眞鍋和子バンダイナムコスタジオMinecraft齊藤陽介マインクラフトお知らせチャットボットアバターサルでもわかる人工知能VAEOmniverseUbisoft La Forge自動運転車ワークショップGenvid Technologiesメタ知識表現ウォッチドッグス レギオンIGDAどうぶつしょうぎEpic Gamesジェイ・コウガミ音楽ストリーミングマシンラーニング画像生成テキスト画像生成クラウド対話エンジン斎藤由多加リトル・コンピュータ・ピープルコンピューティショナル・フォトグラフィーゴブレット・ゴブラーズ絵画AIりんなシミュレーション完全情報ゲーム坂本洋典釜屋憲彦ウェイポイントパス検索藤澤仁生物学GTC 2022画像認識GTC2022StyleCLIPDeNA長谷洋平masumi toyota宮路洋一OpenSeaGDC 2022教育TextWorldSIGGRAPH ASIADALL-E2GTC2021CycleGANNetHackフェイクニュースエージェントAIボイスアクターNVIDIA CanvasGPUALifeZork人工生命オルタナティヴ・マシンサウンドスケープMCS-AI動的連携モデルASBSマンガモーションキャプチャーぱいどんTEZUKA2020ナビゲーションメッシュ松井俊浩バンダイナムコ研究所スパーシャルAIELYZAELYZA DIGEST3D音声合成マーケティングApex LegendsELIZANinjaコンピュータRPGアップルタウン物語KELDICメロディ言語ゲームTENTUPLAYMARVEL Future FightAstroタイムラプスEgo4Dインタビューバスキア日経イノベーション・ラボ敵対的強化学習階層型強化学習GOSU Data LabWANNGOSU Voice Assistant竹内将SenpAI.GGMobalytics馬淵浩希Cygames岡島学AWS Sagemaker映像セリア・ホデント形態素解析UXAWS Lambda誤字検出認知科学ゲームデザインSentencePieceLUMINOUS ENGINELuminous Productionsパターン・ランゲージ竹村也哉ちょまどボエダ・ゴティエGOAPAdobe MAX 2021模倣学習Omniverse AvatarFPSNVIDIA Rivaマルコフ決定過程NVIDIA MegatronNVIDIA Merlinスタンフォード大学NVIDIA Metropolisパラメータ設計テニスバランス調整協調フィルタリング人狼知能テキサス大学軍事AlphaDogfight TrialsAI Messenger VoicebotエージェントシミュレーションOpenAI CodexStarCraft IIHyperStyleFuture of Life InstituteRendering with StyleIntelDisneyLAIKADisneyリサーチRotomationGauGANGauGAN2ドラゴンクエストライバルズ画像言語表現モデル不確定ゲームSIGGRAPH ASIA 2021Dota 2モンテカルロ木探索ディズニーリサーチMitsuba2ソーシャルゲームEmbeddingワイツマン科学研究所GTC2020CG衣装NVIDIA MAXINEVRファッション淡路滋ビデオ会議ArtflowグリムノーツEponymゴティエ・ボエダ音声クローニングGautier Boeda階層的クラスタリングGopheraibo合成音声JuliusSIE鑑定TPRGOxia Palusバーチャル・ヒューマン・エージェントtoio SDK for UnityArt Recognitionクーガー田中章愛Meta石井敦銭起揚NHC 2021茂谷保伯池田利夫GDMC新刊案内マーベル・シネマティック・ユニバース成沢理恵MITメディアラボMCU著作権アベンジャーズマジック・リープDigital DomainMagic Leap OneMagendaMasquerade2.0ノンファンジブルトークンDDSPフェイシャルキャプチャーサッカーモリカトロン開発者インタビュー里井大輝Kaggle宮本茂則バスケットボール山田暉Assassin’s Creed OriginsAI会話ジェネレーターSea of ThievesGEMS COMPANYmonoAI technologyLSTMモリカトロンAIソリューション初音ミクOculusコード生成AI転移学習テストAlphaCodeBaldur's Gate 3CodeforcesCandy Crush Saga自己増強型AISIGGRAPH ASIA 2020COLMAPADOPデバッギングBigGANGANverse3DMaterialGANリップシンキングRNNグランツーリスモSPORTReBeLグランツーリスモ・ソフィーGTソフィーVolvoFIAグランツーリスモチャンピオンシップRival PrakDGX A100VTuberユービーアイソフトWebcam VTuber星新一賞北尾まどかHALO市場分析将棋メタルギアソリッドVフォートナイトFSMRobloxナップサック問題Live Nation汎用言語モデルWeb3.0AIOpsSpotifyMITスマートコントラクトReplica StudioAWSamuseChitrakarQosmo巡回セールスマン問題徳井直生ジョルダン曲線メディア5GMuZero政治クラウドゲーミングRival Peakがんばれ森川君2号和田洋一リアリティ番組Stadiaジョンソン裕子MILEsNightCafeインタラクティブ・ストリーミングLuis Ruizインタラクティブ・メディアポケモンCodexシーマン人工知能研究所東京工業大学Ludo博報堂ラップSIGGRAPH 2019ArtEmisZ世代AIラッパーシステムARrinnaGROVERプラスリンクス ~キミと繋がる想い~FAIRSTCチート検出Style Transfer ConversationオンラインカジノRCPアップルRealFlowRinna Character PlatformiPhoneデジタルヒューマンDeep FluidsSoul MachinesMeInGameAmeliaAIGraphブレイン・コンピュータ・インタフェースバーチャルキャラクターBCIGateboxLearning from VideoANIMAK予期知能逢妻ヒカリセコムユクスキュルバーチャル警備システムカント損保ジャパン哲学対談上原利之ドラゴンクエストエージェントアーキテクチャアッパーグラウンドPAIROCTOPATH TRAVELER西木康智OCTOPATH TRAVELER 大陸の覇者Siemensアルスエレクトロニカ2019品質保証StyleRigAutodesk逆転オセロニアBentley Systemsワールドシミュレーター奥村エルネスト純いただきストリートH100齋藤精一大森田不可止COBOL高橋智隆DGX H100ロボユニザナックDGX SuperPOD泉幸典仁井谷正充クラウドコンピューティングロボコレ2019Instant NeRFartonomousbitGANsぎゅわんぶらあ自己中心派Azure Machine Learning意思決定モデル脱出ゲームHybrid Reward Architectureコミュニティ管理ウロチョロスSuper PhoenixSNS理化学研究所Project Malmoオンラインゲーム気候変動Project PaidiaEarth-2Project Lookoutマックス・プランク気象研究所Watch Forビョルン・スティーブンスBing気象モデルLEFT ALIVE気象シミュレーション長谷川誠ジミ・ヘンドリックス環境問題Baby Xカート・コバーンエコロジーロバート・ダウニー・Jr.エイミー・ワインハウスSDGsMagentaYouTubeダフト・パンクメモリスタSFGlenn MarshallELYZA PencilThe Age of A.I.Story2Hallucination音声変換レコメンデーションJukebox松尾豊Veap JapanEAPテンセントSIFT福井千春DCGAN医療MOBADANNCEメンタルケア人事ハーバード大学Edgar Handy研修デューク大学Netflixデータマイニングmynet.aiローグライクゲーム東京大学東京理科大学人工音声NeurIPS 2021産業技術総合研究所はこだて未来大学リザバーコンピューティングプレイ動画ヒップホップキャラクターモーションソニーマーケティングサイレント映画もじぱNBA環境音暗号通貨現代アートFUZZLEAlteration粒子群最適化法RPG進化差分法オープンワールド群知能下川大樹AIFAウィル・ライト高津芳希P2E大石真史SIGGRAPH 2022BEiTStyleGAN-NADAレベルデザインDETRゲームエンジンSporeUnreal Engineデノイズ南カリフォルニア大学Unity for Industry画像処理SentropyCPUDiscordCALMプログラミングソースコード生成GMAIシチズンデベロッパーTRPGGitHubウィザードリィMCN-AI連携モデルAI Dungeon西川善司並木幸介サムライスピリッツ森寅嘉ゼビウスSIGGRAPH 2021ストリートファイター半導体Topaz Video Enhance AI栗原聡DLSS山野辺一記NetEase大里飛鳥DynamixyzU-Net13フェイズ構造アドベンチャーゲームADVXLandAGI手塚眞DEATH STRANDING不気味の谷Eric JohnsonOculus Questコジマプロダクション生体情報デシマエンジンインディーゲーム写真高橋ミレイ照明Maxim PeterJoshua Romoffハイパースケープ山崎陽斗深層強化学習立木創太ミライ小町テスラGameGANパックマンTesla BotTesla AI Dayソサエティ5.0SIGGRAPH 2020バズグラフニュースタンテキ東芝DIB-R倉田宜典韻律射影広告韻律転移

CGへの扉 Vol.4:CG/VFX制作に欠かせなくなったマシーンラーニングの勘所

2019.7.16ゲーム

CGへの扉 Vol.4:CG/VFX制作に欠かせなくなったマシーンラーニングの勘所

CG/VFX制作におけるマシンラーニングの活用の流れ

CG/VFXが活用された映画・ドラマの制作が大規模化してきています。SF映画や、ファンタジー映画であれば CG/VFX特殊効果が必須であることはもちろんですが、ごくごく普通に見える、現代を描いたドラマや映画でも実はCG/VFXがふんだんに使われているのです。

例えば俳優がロケ地に移動する時間を節約するためだけにスタジオ撮影した映像に街の風景をCG合成したり、過去に使ったセットを復元する手間を省くためにセットをCGで再現したりしています。

CG/VFXは、なにも現実にはありえない特殊な映像を制作するばかりではなく、演出意図を手軽に反映させたり撮影の手間を回避するなど、決められた予算内で素早く制作するためにも使われてきているのです。

撮影した馬の動画映像をシマウマに変換。 CycleGANを活用した映像処理

論文:Unpaired Image-to-Image Translation using Cycle-Consistent Adversarial Networks
動画:Turning a horse video into a zebra video (by CycleGAN) 

VFX制作のクオリティ向上と手間軽減に欠かせないマシンラーニングの役目

2018年に公開された150分の映画『アベンジャーズ/インフィニティ・ウォー』では、映画の全ショット数が 2703ショットにも及びました(※ショットとは切れ目や切り替えなしに連続して流れる映像の断片ひとつを指します)。そのうち、VFXが関係するショット、VFXを使ったショットの数は2633ショットに及びます。何気ない会話のショットや、背景を見渡しているだけのショットでも、細々とVFXによる効果、修正、追加がなされているのです。これだけの数のショットにVFXが使われているとなると、もうVFX無しに最新映画は成立しないと言っても過言ではないでしょう。

ちなみにこれらのVFXは、14社のCGプロダクションが手分けして作業し、総勢1,800名以上のCG/VFXクリエイターが参加しました。俳優の体全身、顔全体を撮影し、コンピュータ上でCG映像として再現させる「デジタルダブル」と呼ばれるキャラクタが用意されたのは映画の登場人物中、22体にも及びます。

今回インフィニティ・ウォーのCG/VFXで活躍した、その1,800人のCG/VFXアーティストに加えてマシンラーニングによる映像制作のアプローチも重要視され、映像業界内でも注目を浴びました。

登場キャラクターの制作手順として、人間の俳優が演技した顔の動きをキャプチャし、そのデータをもとにしたCGキャラクターが制作されました。顔のキャプチャーにはドイツチューリッヒにあるディズニーの研究所が新開発した 「Medusa Performance Capture System, 」という超高精細のパフォーマンスキャプチャーシステムが活用されました。

このシステムは1枚の画像からでも顔の正しい凹凸を抽出し再現することのできる現場のニーズに即したシステムです。実際の現場では2台の48fps(1秒間に48コマ)撮影可能なHDカメラで100箇所から150箇所ほどの印(マーカー)をつけた顔を撮影し続けてデータを取得します。しかし、激しい動きで映像がブレて飛んだり、マーカーが歪んで撮影され、正確にデータ取得できなかったりと悪条件が続きます。映像製作者たちは、そこでそういった悪条件にも強いMedusaを活用することで目標とするクオリティの映像を手に入れることができました。

Medusa Performance Capture

論文1:High-Quality Single-Shot Capture of Facial Geometry

論文2:Rigid Stabilization of Facial Expressions

動画:https://www.youtube.com/watch?v=K3mdGZtbK20

サノスのフェイシャルキャプチャーを担当したデジタルドメイン社の制作風景動画(SlashFilmより)

インフィニティ・ウォーの登場キャラクター、巨人の「サノス」は、通常の人間よりも顔が大きく、かつ微妙で繊細な動きを表現するために1インチ(約2.54cm)あたり4個ほどのリグ(移動の調整箇所)が埋め込まれていますが、顔中のリグをCGアニメーターが調整するのは数が多すぎて現実的ではありません。

さらにサノスの登場時間は映画全体の中で40分以上あり、映画全体の大部分を占めます。そのためその表情の重要性、その表情の存在感は計り知れません。そのため、サノスのアニメーション制作を担当したデジタルドメイン社ではMasqueradeという自社開発のマシンラーニングツールを活用しました。

サノスを担当した実際の俳優の顔の動きとCGキャラクターの動きをうまく連動させ、人間の俳優の動きとまったく同じ動きを再現するのではなく、演出として最適な動きを求めました。CGキャラクターならではの演出がなされた不自然さの無い顔の表現を、俳優の演技とうまく同期させ、正しい動き、そうあるべき動きを蓄積し、CGキャラクターが滑らかな動きが作り出せるようになるまで機械学習用のデータを集めていったのです。

Masqueade によるフェイシャルキャプチャの様子(SIGGRAPH論文発表資料より)

映画内で使われたフェイシャルキャプチャの技術が初めて論文発表された時の説明動画。

ごくごく普通にツールに組み込まれつつあるマシンラーニングの機能

サノスの事例では、研究開発された最先端の応用事例、インハウスの専任プログラマたちが開発したツールが活用されていますが、マシンラーニングを活用して制作物の品質を上げたり、手間を減らして制作スピードを向上させるアプローチは、市販のCG/VFXツールの中にも組み込まれつつあります。

Ziva VFX

筋肉・皮膚のシミュレーションシステム。動物の動きをより滑らかに正確にするためにマシンラーニングの技術を取り入れています。

DeepMotion

体の動きのうち特殊な動きを正確に表現するために、深層強化学習を活用。上記の事例では、実際のバスケットボール選手の歩き方、手の動き、ボールの扱いを素早く学び、効率的にスムーズなアニメーションデータを生み出すための工夫がなされています。この事例では、最初はぎこちない動きでボールを扱っていたCGキャラクタが、学習を進めるにしたがって、ボールの扱いが滑らかになっていくのが分かります。

Foundry

業界内で一般的に使われている映像の合成ツールNUKEの開発もとであるFoundryでは、映像内にあるゴミやノイズを除去する機能、照明が当たっている様子を模倣する機能としてマシンラーニングの技術を活用しています。

ARRAIY

ARRAIY社は社名にAIが入っており、機械学習を活用したトラッキングの技術を提供している企業です。通常の物体トラッキングや空間トラッキングの場合は、マーカーと呼ばれるQRコードのようなマークをカメラが正確に撮影し続ける必要があります。ARRAIYでは、マシンラーニングの技術を活用し、ある程度マーカーが隠れたり、画面枠から外れた場合も、補間したり予測したりしながらマーカーがあるべき位置を推測し、トラッキングがし続けられるようなアプローチを実現しています。

Behind the Scenes: Chevrolet ‘The Human Race’ from The Mill on Vimeo.

ARRAIY の技術を活用したトラッキング用の車。トラッキング用の車がCGの車に差し替えられます。

これから加速する CG/VFXツールの人工知能的進化

映像制作においてマシンラーニングの手助けを借りれば、下記のようなメリットが享受できます。

  • 失敗を避け、だれもが納得するアウトプットを得ることができる
  • できるだけ速いスピードで正しいものを作ることができる
  • 試行錯誤の回数を増やすことができる
  • 自然や人間、動物、植物といった既存のデータに学ぶことができる

CG/VFX業界の中でもマシンラーニングの活用が進みつつありますが、現実にあるものを模倣するだけに使われるわけではありません。例えばCGキャラクタが一般的な顔すぎると、ストーリーの中の登場人物としてはつまらないと言われます。個性派俳優と同じで、クセのある顔の方が記憶に残るし、ストーリーの中で印象的な役目を果たします。

例えば、数万人の整った顔の人のデータを学習させて、欠点の無い整った顔のCGキャラクターが生み出されたからといって、その合成されたキャラクターの顔が魅力的だと言えるでしょうか?

つまりは平均的なデータ、正しく再現できる表現できる、実写に近い映像が作りだせるだけでは、映像制作の現場においてテクノロジーを活用するメリットにはならなくなってきているのです。今後は人間の求める演出、人間が想像する映像にどれだけ近づけることができるかがマシンラーニングを活用した映像制作の勘所になっていくのではないでしょうか。

本連載の今後の予定:「CGへの扉」は、まだ始まったばかりの連載ですが、単なるAIの話題とは少し異なり、CG/VFX, アートの文脈から話題を切り取り紹介していきます。映像制作の現場におけるAI活用や、AIで価値が高まった先進ツール、これからの可能性を感じさせるような話題、テクノロジーなどの話題にご期待ください。なにか取り上げて欲しいテーマやご希望などがございましたら、ぜひ編集部までお知らせください。

CGへの扉:

Vol.1:CG/VFXにおける人工知能の可能性と、その限界

Vol.2:なめらかなキャラクタアニメーションと、ディープラーニングの役目

Vol.3:CGとAIの蜜月が今まで不可能だった映像を生みだす

Contributor:安藤幸央

RELATED ARTICLE関連記事

にわかレベルだったゲームプレイAIは、いかにして熟練プレイヤーになったか?

2020.4.30ゲーム

にわかレベルだったゲームプレイAIは、いかにして熟練プレイヤーになったか?

DeepMind開発汎用ゲーム学習環境「XLand」はAGI実現につながるか?

2021.8.27ゲーム

DeepMind開発汎用ゲーム学習環境「XLand」はAGI実現につながるか?

強化学習AIは人間に嫌われる?カードゲーム「花火」からわかった強化学習の弱点

2021.11.25ゲーム

強化学習AIは人間に嫌われる?カードゲーム「花火」からわかった強化学習の弱点

RANKING注目の記事はこちら