CGへの扉 Vol.46：AIを活用したCG論文紹介 #SIGGRAPHAsia2022 より

CGの学会SIGGRAPHのアジア版 SIGGRAPH ASIA 2022 が韓国大邱（テグ）で開催

SIGGRAPHはコンピュータグラフィックスとインタラクティブ技術に関する学会・展示会であり、毎年7月から8月にかけて北米で開催されています。それにひき続き、毎年年末に開催されるアジア版の SIGGRAPH ASIAは、世界的にみても新型コロナウイルスが落ち着いたとはまだ言えない状況の中、2022年12月6日から12月9日の4日間、渡航や入国が緩和された韓国大邱（テグ）のカンファレンス会場EXCOとオンライン配信によるハイブリッド開催で実施されました。

オンラインによる配信は、会期終了後3か月間、2023年3月10日まで配信が続きます。今年のテーマは “COLORFUL WORLD” 。直訳すると「色彩世界」ですが、そこにはさまざまな色、さまざまな先端的研究、さまざまな作品といった「多様性を受け入れる世界」という意味合いがふくまれています。

・SIGGRAPH ASIA 2022 開催概要

【昨年の SIGGRAPH ASIA 2021 紹介記事】注目論文よりCGの祭典 #SIGGRAPHAsia2021 を振り返る

今年のCG論文の傾向は、やはり「人工知能」活用が注目されており、機械学習のテクノロジーを活用し従来の研究の精度を向上させたり、結果を生成するまでのスピードを向上させたり、スマートフォンなどの非力なコンピューティングパワーでも良好な結果が得られる工夫など、さまざまなアプローチで人工知能が活用されていました。

論文発表ダイジェスト：SIGGRAPH Asia 2022 – Technical Papers Trailer（4分半）

全論文のリンク集は公式のものもありますが、有志による情報が大変充実しており無料で見られます。

SIGGRAPH Asia 2022 papers on the web（Ke-Sen Huang氏らがまとめたもの）

本記事では、SIGGRAPH ASIA 2022 の論文発表より、人工知能によってCG研究が促進されたもの、人工知能がそのCG研究の根幹をなすもの、新しい取り組みに人工知能を活用しているCG研究などをご紹介します。

SIGGRAPH ASIA 2022 で発表された注目のCG研究論文

今年は投稿と論文集からの採択も合わせて合計150本以上の論文が発表されました。CG研究においても、コロナ禍での工夫が見られ、遠隔地同士でツールを活用した共同研究や、コンピューティング環境としてクラウドを最大限に活用した研究など、さまざまな工夫がなされていることがうかがえました。

（01）VToonify : Controllable High-Resolution Portrait Video Style Transfer

論文：https://arxiv.org/abs/2209.11224
プロジェクトページ：https://www.mmlab-ntu.com/project/vtoonify/
サンプルコード：https://github.com/williamyang1991/VToonify

VToonify は自然な動きを持った高解像度の人物動画のスタイル変換を行う仕組みです。主な目的はトゥーン化と呼ばれるアニメ風の人物像に変換することですが、特徴としてその変換モデルを自由に差し替えられる点にあります。アニメ風や水彩画風など、StyleGANを用いたスタイル変換の研究において多様なものがすでに存在します。そういったStyleGANベースのスタイル変換のアルゴリズム部分をVToonifyに組み込むことで、求めるスタイル変換を動画でできるようになるのです。

（02）ControlVAE: Model-Based Learning of Generative Controllers for Physics-Based Characters

論文：https://arxiv.org/abs/2210.06063
プロジェクトページ：https://heyuanyao-pku.github.io/Control-VAE/
サンプルコード：https://github.com/heyuanYao-pku/Control-VAE（準備中）

3DCG表現で、人間型キャラクターのリアルな動きを表現しようとすると、モーションキャプチャと呼ばれる実際の人間、それも表現力豊かな俳優やモーション専用のアクターが注意深く何度も演技した動きをデータとして取得し、それらのデータを目的に応じて整形して用いるのが現在は一般的です。ただしこういった方法は、動きの収録に高額な施設や機材、膨大な時間がかかるとともに、一連の収録後に欲しい動きが必要になった場合、再収録の手間やコストが生じます。

ControlVAE では、変分オートエンコーダー(Variational AutoEncoder) の仕組みを用い、訓練データを元にその特徴をとらえて訓練データに似たデータを生成することができます。つまりその都度モーション収録するのではなくキャラクタの動きをモデル化することでさまざまな動きを生成させることができるのです。自動生成した物理的法則に沿った動きを限りなく生身の人間の動きに近づけ、応用や修正が容易にできるようにするアプローチです。

（03）Learning-based Inverse Rendering of Complex Indoor Scenes with Differentiable Monte Carlo Raytracing

動画：https://jingsenzhu.github.io/invrend/#video
論文：https://arxiv.org/abs/2211.03017
プロジェクトページ：https://jingsenzhu.github.io/invrend/
サンプルコード：https://github.com/jingsenzhu/IndoorInverseRendering

通常であれば、現実世界の照明や物質の色合いに近づけた表現ができるよう工夫するのがCGレンダリング技術ですが、本研究では、現実世界の屋内の写真を入力情報とし、物質表面の反射率、形状、空間的に変化する照明などを自動的に推測する学習ベースの逆レンダリングの手法をとっています。それにより画面中の写真の中に仮想的な物体を追加したり、写真中の物質の素材感を編集したりと、3DCGのように現実世界の写真を扱えるようになるというものです。

（04）Learning Reconstructability for Drone Aerial Path Planning

動画：https://vcc.tech/research/2022/DroneRecon（ページ下部）
論文：https://arxiv.org/abs/2209.10174
プロジェクトページ：https://vcc.tech/research/2022/DroneRecon

遺跡などの人間が侵入することが難しい建築物や土地の3D形状データ取得のためには、ドローンを飛ばしてその撮影データから3D形状を再現するフォトグラメトリという手法が一般的に使われています。巨大建造物のフォトグラメトリでは、あらゆる部分を満遍なく、それも多数の重複をもった画像や動画を収録しなければいけません。

本研究では、撮影箇所、撮影方向を最小限にするため、3D形状を再現するにはどの角度からどの部分を撮影する必要があるのかを逆に解析することで、必要最小限の撮影で全体の3D形状を再現しようというアプローチです。

（05）Learning-Based Bending Stiffness Parameter Estimation by a Drape Tester

論文：https://wanghmin.github.io/Feng-2022-LBB/Feng-2022-LBB.pdf
プロジェクトページ：https://wanghmin.github.io/publications.html
サンプルコード：https://github.com/DrapeTester/ClothDrapeTester

現実世界の布地は、表面の質感といい、その物質としての変形の度合いといい、とても複雑な特性を有しています。そういった布地を3DCGでリアルに表現しようとした際、従来用いられてきた物理シミュレーションだけでは膨大な計算時間がかかり、膨大なコンピューティングパワーが消費される割には、表現に不自然さが残ってしまう場合もあります。本研究は剛性パラメータを推定する Recurrent Neural Network（RNN:回帰型ニューラルネットワーク）を用いることで、表現力が高く、かつ物理的にも正しい結果を素早く導き出すことができるアプローチです。

（06）Learning to Generate 3D Shapes from a Single Example

論文：https://arxiv.org/abs/2208.02946
プロジェクトページ：http://www.cs.columbia.edu/cg/SingleShapeGen/
サンプルコード：https://github.com/ChrisWu1997/SingleShapeGen

通常、三次元モデルは複数のシンプルなオブジェクトの組み合わせによって、複雑な形状を表現しています。本研究では、複雑な三次元物体を、複雑なひとつのデータとして扱い、そこから大きさや形状のスムーズさを変更したオブジェクトをランダムに生成するアプローチをとっています。この研究はCG制作の現場で求められている、大量の学習データを必要とせず出力データにさまざまな演出が可能な方法を平易に利用できる手段であり、今後の可能性が期待される分野のひとつです。

（07）DeepJoin: Learning a Joint Occupancy, Signed Distance, and Normal Field Function for Shape Repair

プロジェクトページ：https://nikwl.github.io/publication/2022-deepjoin/
サンプルコード：https://github.com/Terascale-All-sensing-Research-Studio/DeepJoin/

DeepJoinは3D形状の欠けている部分を、残された部分を学習データとして推測し、再現するための手法です。従来こういったニーズはあり、さまざまな研究は存在したが、本研究ではニューラルネットワークを活用することで解像度の高い形状を再現することができるようになっている。さらに従来手法と比べ、元の部分と再現部分の接合が滑らかであり、割れた陶器を金で繋ぎ新しい価値を生み出す古典的手法である「金継ぎ」のような、ある意味「デジタル金継ぎ」ともいえる人工知能活用例です。

（08）Learning to Relight Portrait Images via a Virtual Light Stage and Synthetic-to-Real Adaptation

論文：https://arxiv.org/abs/2209.10510
プロジェクトページ：https://deepimagination.cc/Lumos/
サンプルコード：http://imaginaire.cc/Lumos/

人物写真において、顔に当たっている日光や照明の方向や状態、色合いなどを調整することを「再照明」と呼んでおり、スマートフォンにおける写真機能として広くニーズが存在する研究分野のひとつです。従来型の再照明手法は、ライトステージと呼ばれる360度全周にLED照明とカメラを配置した高価な機材で収録した学習データをもとに再照明を実現していました。本研究では、ライトステージのデータ無しで、同等の成果が得られるよう工夫されました。また、再照明時にメガネの反射の眩しさを抑える仕組みなど、実利用における配慮がなされています。

（09）Neural Brushstroke Engine: Learning a Latent Style Space of Interactive Drawing Tools

論文：https://drive.google.com/file/d/1RNFgMXEp85MGlV6w99JC_MBBg45TFgzI/view
プロジェクトページ：https://nv-tlabs.github.io/brushstroke_engine/
サンプルコード：https://github.com/nv-tlabs/brushstroke_engine

Neural Brushstroke Engine (NeuBE) と命名された本研究は、ユーザーが描いた線画そのものを模倣するGAN（敵対的生成ネットワーク）モデルを実現したものです。つまり有名な画家風のスタイルを真似た画像を人工知能で生成するのではなく、利用者の描くストロークや描き方の癖、雰囲気などを模倣し、まるで自分が描いたようなスタイルの画像を生成させることができます。もちろんすでに大量の画像を描いたものを学習データとして画像生成用人工知能を再学習させることはできますが、本研究ではインタラクティブに学習内容や結果がアップデートしていくことが特徴です。

（10）NeuralMarker: A Framework for Learning General Marker Correspondence

論文：https://arxiv.org/abs/2209.08896
プロジェクトページ：https://drinkingcoder.github.io/publication/neuralmarker/
サンプルコード：https://github.com/drinkingcoder/NeuralMarker

NeuralMarkerはAR表現やCG合成において必須であるマーカーと呼ばれる映像中の目印を、個別に用意すること無しに、画面中に映っているオブジェクトそのものをマーカーとして形状の変形や移動を追いかけることができる仕組みです。従来手法でも画像の中から特徴点を選出し、2次元の形状の変化しないオブジェクトをマーカーとして利用することが可能でした。

本研究ではニューラルネットワークを活用することで、曲面的に変化する形状においても、その変化をとらえることができます。AR空間でのCG表現や、特殊なビデオ編集など、さまざまな応用が期待される研究です。

論文だけじゃない。CGアートの世界

SIGGRAPHの本分は学会であり、論文発表やCG映像の発表が中心ですが、CGやテクノロジーを活用したアート作品も展示発表の場が設けられています。いくつか興味深い作品を紹介しましょう。

Inner self drawing machine

ジェンダーについて再認識するため、自分の顔を映すと、性別を切り替えてドローイングしてくれる装置。（作家：Qing Zhang, Fan Xie, Yifei Huang, Yun Suen Pai, George Chernyshov, Jing Huang, Xiongqi Wang, Jamie A. Ward, Kai Kunze）

Digital Being

世の中のあらゆるものがデジタル化していることを示す、機械装置に憑依した生命を表現したNFTクリーチャー。（作家：Taezoo Park）

Keep Smiling

将来実際に起こるかもしれないAIによる面談を皮肉った作品。面談者から笑顔が消えると、即解雇される。感情検出アルゴリズムがいかに脆弱で曖昧なものであるのかを示唆した作品。（作家：Varvara Guljajeva, Mar Canet Sola）

Emerging Media Art Perfomance of Eine Kleine Machtmusik

音楽家の音声信号だけでなく、観客の発するノイズも収集・分析・反映し、映像化したものを見ながら楽しむコンサート。（作家：Kyungho Lee, Yousang Kwon, Luce String Ensemble）

＊＊＊

今回紹介したSIGGRAPH ASIA 2022のアーカイブ配信は会期終了後も3か月間続きます。来年以降のSIGGRAPHも、会場とオンライン配信によるハイブリッド開催の形式が続くと思われます。新型コロナウイルスによって世界は大きく変わってしまいましたが、それによってより一層 CGやVRの価値や役目が重要視されていることが実感されます。今後のSIGGRAPH開催予定は次のとおりです。

SIGGRAPH 2023 米国 ロサンゼルス 2023/8/6〜10 50周年記念
SIGGRAPH ASIA 2023 オーストラリア シドニー 2023/12/12〜15
SIGGRAPH 2024（未定）
SIGGRAPH ASIA 2024（乞うご期待！）

本連載の今後の予定：「CGへの扉」では、単なるAIの話題とは少し異なり、CG/VFX, アートの文脈から話題を切り取り紹介していきます。映像制作の現場におけるAI活用や、AIで価値が高まった先進的なツール、これからの可能性を感じさせるような話題、テクノロジーの話題にご期待ください。何か取り上げて欲しいテーマやご希望などがございましたら、ぜひ編集部までお知らせください。

CGへの扉：

Vol.45：大規模言語モデルChatGPTは仲間？ライバル？

Vol.44：AdobeMAX2022開催。SneaksよりAI活用の方向性を知る

Vol.43：AI絵師は3DCGの領域へ

Vol.42：現代の呪文promptが生み出すAIとの新しい関係性

Vol.41：AIが促進させるCG研究。SIGGRAPH2022論文より

Vol.40：知見の宝庫。MITの機械学習オンラインコース

Vol.39：言葉から生み出されるアートとは？

Vol.38：AIで作りAIで届ける映像作品

Vol.37：NVIDIA GTC 2022 レポート／アートとAIの視点で

Vol.36：創るためのAI〜AIと人間の創造性の未来：徳井直生氏講演レポート

Vol.35：マーベル・シネマティック・ユニバースを支える機械学習

Vol.34：注目論文よりCGの祭典 #SIGGRAPHAsia2021 を振り返る

≫≫すべてのバックナンバーはこちらから

Contributor：安藤幸央