CGへの扉 Vol.41：AIが促進させるCG研究。SIGGRAPH2022論文より

バンクーバー会場とオンラインのハイブリッド開催、CGの学会SIGGRAPH 2022

毎年7月から8月にかけて北米で開催されていたコンピュータグラフィックスに関する学会・展示会であるSIGGRAPHが、2022年はカナダバンクーバーの会場と、オンライン配信とのハイブリッド環境で開催されました。

SIGGRAPH 2022 開催概要：https://s2022.siggraph.org/

昨年の SIGGRAPH 2021 紹介記事
・CGへの扉 Vol.29：AIの恩恵を受けるCG研究の世界。#SIGGRAPH2021 論文より
・CGへの扉 Vol.30：SIGGRAPH2021レポート「ディープフェイクとの戦い」

SIGGRAPH2022のスケジュール

1. 7月25日（米国時間）より、オンデマンドのいつでも見られるオンラインコンテンツの配信が開始
2. 8月8日〜11日（米国時間）の4日間は会場とオンライン配信のハイブリッド開催。同時期にライブQ&Aやライブ配信を実施（ライブのみで収録配信がないものもあり）
3. 10月31日（米国時間）まで、3か月間弱、上記開催期間中のライブ配信の収録もふくめ、オンデマンドのオンラインコンテンツが観られる

近年、SIGGRAPHの3DCG研究、画像や映像、音声研究に際して、人工知能関連のアプローチや手法、フレームワークの活用は重要な要素になっています。本記事では、SIGGRAPH 2022 の論文発表より、人工知能によってCG研究が促進されたもの、人工知能がそのCG研究の根幹をなすもの、新しい取り組みに人工知能を活用しているCG研究をご紹介します。今年は 194本の論文と、学会誌 ToG（Transactions on Graphics）から優秀論文 53本が採択されました。こちらの動画は、SIGGRAPH 2022 の論文ダイジェスト（一部）です。

SIGGRAPH 2022 の論文リンク集（非公式版）：https://kesen.realtimerendering.com/sig2022.html

今年のBest Paper（優秀論文）は5本、そのうち4本が人工知能技術に関係し、研究の重要な要素となっている論文です。

1. Image Features Influence Reaction Time: A Learned Probabilistic Perceptual Model for Saccade Latency
2. CLIPasso: Semantically Aware Object Sketching
3. Instant Neural Graphics Primitives with a Multiresolution Hash Encoding
4. Spelunking the Deep: Guaranteed Queries on General Neural Implicit Surfaces
5. DeepPhase: Periodic Autoencoders for Learning Motion Phase Manifolds

SIGGRAPH 2022 で発表された AIが関連したCG研究論文

CLIPasso: Semantically Aware Object Sketching

論文：https://arxiv.org/pdf/2202.05822.pdf
サンプルコード：https://github.com/nerfies/nerfies.github.io
動画：https://clipasso.github.io/clipasso/

写真画像を抽象的なスケッチに変換。人間の画家が描くような、対象物の本質を捉え少ないストロークで表現したスケッチ画を生成するためのAI研究。クリップと画家のピカソを混ぜ合わせた造語であるCLIPassoと銘打ったこの研究では、AIには難しいと考えられてきた写真の「要約」としてのスケッチ表現を導き出すものです。本研究では、抽象化した線画のストローク数によって詳細度のレベルを調整しています。

人間であれば子どもでも自然と猫の絵を線画で描いたり、人の顔を抽象化たりして描くことができています。ピカソが雄牛を抽象化して描いた作品も、一気に線画にしたわけではなく、段階を踏みながら余計な要素を削ぎ落としていったことが知られています。

DeepPhase: Periodic Autoencoders for Learning Motion Phase Manifolds

論文：https://dl.acm.org/doi/pdf/10.1145/3528223.3530178
サンプルコード：https://github.com/sebastianstarke/AI4Animation

キャラクタの動きに関する空間的な構造、時間的な構造を把握することは、キャラクタアニメーションの合成における基本的な課題です。本研究は、教師データなしで、構造化されていない動きから周期的な特徴を取り出し、活用することのできるアプローチです。例えばサッカーにおけるドリブル動作や、音楽に合わせたダンスの動き、ある特定の運動技能、動物の動きなどの独特のスタイルを持った動きなど、さまざまなキメポーズ用アニメーションデータベースの構築が期待できる研究です。

VoLux-GAN: A Generative Model for 3D Face Synthesis with HDRI Relighting

動画：https://augmentedperception.github.io/voluxgan/
論文：https://arxiv.org/pdf/2201.04873.pdf
サンプルコード：https://github.com/google/volux-gan

本研究は、2Dの顔画像生成だけではない、3D顔データを生成し、拡散データなどを含むHDR（High Dynamic Range：ハイダイナミックレンジ）環境を考慮したGAN（Genera tive Adversarial Networks：敵対的生成ネットワーク）を提案するものです。一枚の写真に映った顔画像へ2D画像処理として再照明を施すテクノロジーは、すでにスマートフォンの写真アプリなどで実現しています。そこから一歩進んで、再照明可能な、3D顔モデルを生成できるようにすることで、リアルなアバターの生成などの可能性が広がります。

GANimator: Neural Motion Synthesis from a Single Sequence

論文：https://peizhuoli.github.io/ganimator/paper/ganimator-camera-ready.pdf
サンプルコード：https://github.com/PeizhuoLi/ganimator

GANimatorは、ひとつの短い動作シーケンスから新しい動作を合成するための生成モデルです。オリジナルのモーションに類似したモーションを生成するとともに、新しく多様なモーションを合成することができます。既存の様々なモーションを扱う技術は骨格に依存していますが、本研究ではひとつのモーションシーケンスを学習するだけで、2足歩行、4足歩行、6足歩行など、さまざまな骨格構造をもったモーションを生成することができるため、人の動きをもとに6足モンスターの動きを生成するといったことが可能です。群衆シミュレーション、キーフレーム編集、スタイルの転記、インタラクティブな制御など、ひとつのモーションシーケンスからさまざまなアプリケーションの可能性を示唆しています。

StyleGAN-XL：Scaling StyleGAN to Large Diverse Datasets

論文：https://arxiv.org/pdf/2202.00273.pdf
サンプルコード：https://github.com/autonomousvision/stylegan_xl

画像合成に使われるStyleGANは、従来手法に比べ高精細で制御が容易なGAN（Genera tive Adversarial Networks：敵対的生成ネットワーク）として広く活用されています。ところが構造が揃っていないデータセットには向かないことや、そういったデータセットを扱った際の処理スピードの低下、高解像度になると生成画像が安定しないという課題が潜在しています。StyleGAN-XLではこれらの課題に対処し、StyleGAN3をベースに正規化、大量の計算、ハイパーパラメータ調整を行うProjected GANを組み合わせ、多様なデータセットでも安定して1024×1024解像度の画像生成を比較的高速に出力できるようにしたものです。

Self-Distilled StyleGAN: Towards Generation from Internet Photos

論文：https://arxiv.org/pdf/2202.12211.pdf
サンプルコード：https://github.com/self-distilled-stylegan/self-distilled-internet-photos

画像生成に広く使われているStyleGANは、粒度の揃ったあらかじめ準備されたデータセットでの学習を想定しています。本研究は、インターネット上にある雑多な画像をデータセットとして活用できるアプローチを提供するものです。ネット上から入手された画像にフィルタ処理することで異常値をふくむ画像を排除することや、集めた画像を系統分けすることで、データの多様性の損失を最小限に抑えつつ、高品質な画像を生成することができるようになりました。機械学習用の一般的なデータセットには少数ではありますが不適切な画像も混在していること、意図的に収集したデータセットには無意識のうちに偏りが生じていることなどから、Self-Distilled StyleGANはひとつの解決策を示したものとなるでしょう。

異色のAI活用、ドイツ語映画の英語吹き替えをAIで

SIGGRAPH 2022 で注目のプロダクションセッション “The Champion : Neural Render Case Study”

マチェイ・バルチェフスキ監督の2020年始めはポーランドで公開された長編映画『The Champion（邦題：アウシュヴィッツのチャンピオン）』は、もともとドイツ語とポーランド語で撮影、公開されていた映画です。当初は英語圏への公開、英語への吹き替え予定はありませんでした。ところが全世界向けの配給権を取得した企業が現れ、英語対応する必要が生じました。そこでニューラルレンダリングの技術を活用し、単純な吹き替えではなく、俳優の演技のすべてと、自然な英語を話しているような音声に、顔や口の動きもふくめて、完全に英語化したのです。

もともとの出演俳優に再度英語でセリフを発話してもらい、それを５台のカメラで収録しました。元となる学習データは完成済みの映画の各シーンであること、差し替える先の顔や音声も、元の俳優であることから、技術的にはそう難しくないながらも、膨大な計算時間を要したそうです。

映像処理に使われたのは、過去のSIGGRAPHでも注目されていたバーチャルアバターを生み出すPinscreen社とテルアビブ、ロサンゼルス・シドニーを拠点とするAdapt社のジョイントベーンチャーであるPLATOでした。PLATOは機械学習を活用し、異なる言語を話す俳優の口の動きに合わせて映像を差し替えることのできる技術です。

制作作業は、ほとんどすべてリモートワークで実施されました。再録音はポーランド、VFX編集はオーストラリアで、ニューラルレンダリングはオーストラリアと米国で行われ、指示を出すプロデューサーはイスラエルに居たそうです。作業の進行には、クラウドベースの映像制作フローツールframe.ioが活用されました。

声優や俳優による吹き替えの違和感や、字幕による視線の移動は、物語の信ぴょう性や映像表現の忠実さが失われてしまう要因となります。Netflixの躍進からわかるように、グローバルマーケットで受け入れられる英語圏以外の作品も多く制作されており、これらの映像作品を違和感なく多言語化することによるメリットは計り知れないものがあるでしょう。

今回取り上げられた「アウシュヴィッツのチャンピオン」の事例は、制作の背景、事情、予算、世の中のタイミングなど、さまざまな条件がうまく行った事例かもしれませんが、今後はニューラルレンダリングで多言語化前提の映画やドラマが制作されてくることが予想されます。

The Champion（ドイツ語版の予告編）

今回取り上げたニューラルレンダリングの仕組みについて興味のある方は、昨年の SIGGRAPH 2021 のコース（チュートリアル）のひとつAdvances in Neural Rendering (SIGGRAPH 2021 Course) もご覧になってみてください。

SIGGRAPH のこれから

世界各国でさまざまなイベントがオンラインで開催されています。オンラインのメリットもあればデメリットも存在します。SIGGRAPHもハイブリッド開催、オンライン開催、状況に応じて工夫とバランスを取りつつ開催されています。今後の予定は次のとおりです。

SIGGRAPH ASIA 2022 DEAGU/韓国、11月7〜11日
SIGGRAPH 2023 50th/開催場所、開催時期とも調整中
SIGGRAPH ASIA 2023 Sydney/オーストラリア、12月12日〜15日

コロナ禍において、映像業界でもさまざまな工夫や努力が、ある意味強制的に進んでいます。バーチャルスタジオによる撮影、少人数での撮影プロトコル（規定）、Google Map（ストリートビュー）を活用してロケ地の検索、リモートワークを活用した制作フローなど、さまざまな工夫によって業界全体で乗り越えようと多くの人々が尽力しています。近い将来コロナが落ち着く時代が戻って来るかもしれませんが、コロナ禍で得られたさまざまな工夫は今後も生きていくと考えられます。

本連載の今後の予定：「CGへの扉」では、単なるAIの話題とは少し異なり、CG/VFX, アートの文脈から話題を切り取り紹介していきます。映像制作の現場におけるAI活用や、AIで価値が高まった先進的なツール、
これからの可能性を感じさせるような話題、テクノロジーの話題にご期待ください。何か取り上げて欲しいテーマやご希望などがございましたら、ぜひ編集部までお知らせください。

CGへの扉：

Vol.40：知見の宝庫。MITの機械学習オンラインコース

Vol.39：言葉から生み出されるアートとは？

Vol.38：AIで作りAIで届ける映像作品

Vol.37：NVIDIA GTC 2022 レポート／アートとAIの視点で

Vol.36：創るためのAI〜AIと人間の創造性の未来：徳井直生氏講演レポート

Vol.35：マーベル・シネマティック・ユニバースを支える機械学習

Vol.34：注目論文よりCGの祭典 #SIGGRAPHAsia2021 を振り返る

Vol.33：AIの必然性 #SIGGRAPHAsia2021 レポート

Vol.32：Adobe Sneaks より進化の方向性を知る

Vol.31：人工知能が考える「顔」と、人が考える「顔」

Vol.30：SIGGRAPH2021レポート「ディープフェイクとの戦い」

Vol.29：AIの恩恵を受けるCG研究の世界。#SIGGRAPH2021 論文より

≫≫すべてのバックナンバーはこちらから

Contributor：安藤幸央