CGへの扉 Vol.29：AIの恩恵を受けるCG研究の世界。#SIGGRAPH2021 論文より

今年もすべてオンライン開催、CGの学会SIGGRAPH 2021

毎年7月から8月にかけて北米で開催されていたコンピュータグラフィックスに関する学会・展示会であるSIGGRAPHが、2021年も昨年に引き続き全面的にオンラインで開催されました。急にオンライン開催が決まった昨年比べ、今年はオンライン開催に向けて十分な準備期間があり、大規模なオンライン学会・展示会として充実した内容での開催となりました。

SIGGRAPH 2021 開催概要：https://s2021.siggraph.org/

昨年の SIGGRAPH 2020 紹介記事：CGへの扉 Vol.16：バーチャル開催SIGGRAPH論文を先取り

1. 8月2日（米国時間）より、オンデマンドのいつでも見られるオンラインコンテンツの配信が開始
2. 8月9日（米国時間）から13日の5日間は、インタラクティブな対話やQ&Aありのライブ配信を実施。ここでしか見られないものあり
3. 10月29日（米国時間）まで、3か月間弱、上記開催期間中のライブ配信の収録も含め、オンデマンドのオンラインコンテンツが観られる

近年、三次元コンピュータグラフィックスの研究の世界でも機械学習をはじめとする人工知能技術は欠かせないものになってきています。○○GANとタイトルがついた研究は、たいてい Generative Adversarial Networks（敵対的生成ネットワーク）を活用した研究であり、従来型のアルゴリズムに比べ、精度やスピードの面で優れたものが多いのが特徴となっています。また最近の傾向としては、サンプルコードが公開され、追試や改造が可能になってきている点があげられます。これは「ベーパーウェア」と呼ばれる、研究がまだ構想段階で実際に動くものがまだない状態であることを避ける意味と、研究そのものが既存研究をベースにしたものであり、その分野の研究を促進させたいという意図の両方がふくまれているように考えられます。

本記事では、SIGGRAPH 2021 の論文発表より、人工知能によってCG研究が促進されたもの、人工知能がそのCG研究の根幹をなすもの、新しい取り組みに人工知能を活用しているCG研究などをご紹介します。今年は 444本の投稿から 149本の論文と、学会誌 ToG（Transactions on Graphics）から優秀論文 28本が採択されました。

SIGGRAPH 2021で発表される AIが関連したCG研究論文

StyleCariGAN: Caricature Generation via StyleGAN Feature Map Modulation

論文：https://www.arxiv-vanity.com/papers/2107.04331/
サンプルコード：https://github.com/PeterZhouSZ/StyleCariGAN

StyleCariGANは、1枚の写真から、欧米の新聞に掲載される風刺画のようなタッチの画像を生成する手法です。画像生成に広く活用されているStyleGANは、極端な変形を不得意としていますが、StyleCariGANでは変形を専用に学習するCycleGANを用意し、StyleGANと協調させて利用することで、当該結果を導き出すというものです。

写真から似顔絵用の色を抽出し、似顔絵風のタッチに変換する部分と、似顔絵としての特徴を失わずに極端な形状の誇張を行う部分とを分けて扱うことで単なるデジタル変換ではない「似顔絵」としての表現が可能になりました。画像にあるように従来型のアルゴリズムよりも良い結果が導き出せており、StyleCariGANとInterFaceGANを組み合わせることで、さらに似顔絵らしく顔の特徴を強調することができています。

SP-GAN: Sphere-guided 3D Shape Generation and Manipulation

論文：https://dl.acm.org/doi/abs/10.1145/3450626.3459766

SP-GANは、点群の集合による三次元形状の形成とその形状操作についての研究です。例えば二次元の高精細な顔写真を機械学習で自動生成する手法と同様に、三次元形状を自動生成させるにはどのようなアプローチを取ると良いのかを研究したものです。三次元形状の場合、人の顔のように決まったパーツが誰にでも存在するわけではありません。例えば二人の顔画像から両方の特徴を合成した中間の顔画像を作る場合と同じように、二つの形状から両方の特徴をもった中間の形状を作る場合に利用できるのがSP-GANです。従来型の研究に比べ、三次元形状が破綻せず、細かなディテールが正しく表現されるのが特徴です。

SWAGAN: A Style-based Wavelet-driven Generative Model

論文：https://arxiv.org/abs/2102.06108
サンプルコード：https://github.com/rinongal/swagan

SWAGANは、StyleGan2の課題を解決し、画像生成の品質を上げるアプローチです。SWAGANはStyleGanの進化版StyleGan2の改善研究で、機械学習時のニューラルネットワーク上に生じてしまうバイアス（不要な解釈）を回避し、StyleGANに足りない成分を補うことで、納得感のある画像生成されています。StyleGAN2の構造をWavelet係数の予測に置き換えたことで、実行時間が短く良質な結果に素早くたどり着けるようになりました。画像変換時の各ステップで、潜在的な表現を強調し続けることで、必要な表現が失われず、視覚的な品質向上が感じ取れる結果が得られていまる。単なる画像補完よりも自然な中間画像が得られています。

Mixture of Volumetric Primitives for Efficient Neural Rendering

動画：https://www.facebook.com/watch/?v=965416270875151
論文：https://dl.acm.org/doi/10.1145/3450626.3459863

髪の毛や豊かな表情をもった人間の3Dモデル表現において、単なる三角ポリゴンの集合で滑らかな表現するには膨大な形状データ、膨大なアニメーションデータと計算資源を必要とします。その一方、すべてを現実に近い中身のある立体物の集合として扱うとしてもメモリ効率が悪く、解像度が荒くなってしまいます。こういった現状の課題を解決するのが本研究で考えられている工夫です。本研究ではMVP（Mixture of Volumetric Primitives）と呼ばれる単純な立体形状の組み合わせによって、効率の良い表現が可能になっています。

荒く分割された立体形状を元の高精細の表現に戻す、エンコードとデコードの部分でディープラーニングが活用されています。このアプローチは液体や粘性のある流体を扱う時の方法と似ています。流体計算において例えば1024×1024×1024に分割された空間内すべての事象を計算していては、メモリ効率も計算効率も悪く、膨大な計算資源が消費されてしまいます。

そのため、液体の表面など変化量の多い部分に計算資源を集中させ、その部分だけ細かく解像度が高い状態計算し、その他の部分は解像度が低いまま扱い、補完して扱うことで、トータルの計算量を減らすことができます。厳密に比較すると多少の誤差は生じますが、CG表現においては大きな問題とはならず、完成映像が手早く入手できる方が重要視されています。本研究でも膨大な計算機資源が確保できないリアルタイムCG、特にVRやARでのキャラクター表現での利用が想定されています。

Choreomaster : choreography-oriented music driven dance synthesis

論文：https://netease-gameai.github.io/ChoreoMaster/Paper.pdf
サンプルコード：https://netease-gameai.github.io/ChoreoMaster/（近日公開予定）

Choreomaster は既存の音楽に合わせて3Dモデルのダンスの振り付けアニメーションを生成する仕組みです。音楽を分解しリズムや抑揚を解析した上で、あらかじめ用意してあるいくつかのモーションを適切に当てはめていきます。ダンスミュージックだけでなく、元の音楽によっては民族舞踊のような踊りや、アイドルっぽい踊りなどにも適応しています。コレオグラフィーと呼ばれる振り付けは、本来振り付けやダンスを専門とするコレオグラファーと呼ばれる職種の領域でしたが、Choreomaster では、実際の振り付けの雰囲気にとても近いアニメーションが生み出されています。

ゲームやCG映画の世界でダンスのニーズはとても高いにかかわらず、自動生成やアニメーターによる手づけのアニメーションは難しく、実際のダンスに長けたダンサーの動きをモーションキャプチャーし、デジタルデータとして取り扱っているのが現状です。しかし人間の動きを3DCGのキャラクタに当てはめた時に手足の動きが不自然だったり、キレが失われてしまっていたりと課題は多く、実現が難しい分野のひとつです。Choreomasterでは単なる動きのツギハギではなく、ダンス音楽とフレーズやリズムと動きとの関係性を重視した手法を用いることで、自然で、かつプロダクションレベルのダンスモーションの生成が可能になりました。

Endless Loops: Detecting and Animating Periodic Patterns in Still Images

論文：Endless Loops: Detecting and Animating Periodic Patterns in Still Images
論文（資料）：https://pub.res.lightricks.com/endless-loops/
サンプルコード：コードは未公開。Motion Loop（iOS／Android）というアプリで試せます

Endless Loopsは、最近SNS等で流行っている静止画の一部が動画のようにループする「シネマグラフ」と呼ばれる映像生成のための手法です。1枚の画像から、周期的に繰り返している部分を見つけ出し、その部分を自動またはユーザーが指定した方向に動かすことができます。本研究の成果はすでにスマートフォンのアプリとして約14万人のユーザーに使われており、1枚の写真から1秒程度でループ動画が生成できる点も人気のようです。Endless Loops では、必ずしも現実のように動くわけではなく、時には動かないはずのものが動いたり、シュールな映像が作り出させるのも人気の理由のひとつだそうです。利用者は「正解」だけを求めているわけではなく、求めるニーズはそう単純ではなく複雑なのかもしれません。

Only a Matter of Style: Age Transformation Using a Style-Based Regression Model

論文：https://arxiv.org/abs/2102.02754
サンプルコード：https://github.com/yuval-alaluf/SAM

本研究SAM（Style-based Age Manipulation）は、人間の顔の年齢による変化のプロセスを細かく表現するための手法を提案するものです。事前に学習されたStyleGANを使った画像生成の表現力と、実際の顔画像をStyleGANで直接エンコードする方法を組み合わせ、もとの顔写真の年齢をもとに、目的の年齢への変化を回帰的に繰り返すことで生成しています。よって従来難しかった人間の加齢を画像間の変換で行うことができるようになっています。

人は加齢によって成長し、顔のシワといったわかりやすい特徴だけでなく、顔の特徴や頭の大きさや形も少しづつ変化していきます。SAMでは、顔画像から年齢的な要素のほか、髪型や表情、ヒゲの有無などの要素を分離した上で画像変換を適応しており、良質の結果が得られています。SAMのサンプル実装は、画像生成のためのStyleGAN2や年齢推定で使われる VGG（Visual Geometry Group） のサンプル実装であるHRFAE（High Resolution Face Age Editing）など、多くの先行研究をベースにして作られています。よく「ハリウッド映画で活躍した子役が大人になって、全然変わってしまった！」などと騒がれますが、この研究を適応すれば、年寄りメイクも若返りも自由自在かもしれません。

SIGGRAPH 2021 から、人工知能関連のコースを紹介

SIGGRAPH 2021 の各種セッションの中には「コース」と呼ばれるチュートリアルやレクチャーの受けられるプログラムも用意されています。コースの中でも人工知能系の内容を取り上げたものは次の２コース。受講にはSIGGRAPH 2021への登録（有料）が必要です。

1. New techniques in interactive character animation（インタラクティブ・キャラクタ・アニメーションの新技法）
   コース内容の概要：https://dl.acm.org/doi/pdf/10.1145/3450508.3464604

VRをふくめた3DCGにおける人体の動きに関して、ディープラーニングを活用する場合の利点・欠点、実装方法などについて学べる。

1. An introduction to deep learning on meshes（メッシュのディープラーニング基礎）
   コース内容の概要：https://dl.acm.org/doi/pdf/10.1145/3450508.3464569

三次元形状の表現に使われる三角形形状の集合の取り扱いに機械学習を活用する手順の紹介。本コースで使われたデータセットやデモプログラムはオンライン上に公開されている。

しばらく全面オンライン開催が続いた SIGGRAPH ですが、今年2021年冬12月14〜17日に東京で開催される SIGGRAPH ASIA 2021は、東京国際フォーラムでの開催とオンラインでの開催とが同時に行われるハイブリッド開催が決まりました。次回の連載「CGへの扉」では SIGGRAPH 2021 の基調講演のひとつからディープフェイクについて取り上げたカリフォルニア大学バークレー校ハニー・ファリド氏の講演を中心に取り上げる予定です。

本連載の今後の予定：「CGへの扉」では、単なるAIの話題とは少し異なり、CG/VFX, アートの文脈から話題を切り取り紹介していきます。映像制作の現場におけるAI活用や、AIで価値が高まった先進的なツール、これからの可能性を感じさせるような話題、テクノロジーの話題にご期待ください。何か取り上げて欲しいテーマやご希望などがございましたら、ぜひ編集部までお知らせください。

CGへの扉：

Vol.28：定番手法の他分野応用、自然言語処理AI由来の画像処理AI

Vol.27：眼に追いつけ追い越せ？ カメラは機械学習により進化

Vol.26：アートを加速させるAIの役割 #GTC2021 レポート

Vol.25：変幻自在の顔も実は人工知能

Vol.24：自然現象もすべて人工知能で再現する時代

Vol.23：AIで人の眼に進化するカメラ

Vol.22：言葉から画像を生成、DALL-Eはクリエイティブなのか？

Vol.21：人工知能＋3DCGの最新論文をまとめて紹介 #SIGGRAPHAsia2020

Vol.20：Adobeと人工知能の将来を見極める #AdobeMAX2020

Vol.19：コミュニケーションツールの新境地「NVIDIA MAXINE」

Vol.18：SIGGRAPH2020レポート 映像制作の現場で活躍する人工知能

Vol.17：描画を進化させるTensorFlow Graphicsの真価

≫≫すべてのバックナンバーはこちらから

Contributor：安藤幸央