CGへの扉 Vol.16：バーチャル開催SIGGRAPH論文を先取り

バーチャル空間での開催が決定したCGの学会SIGGRAPH

毎年7月から8月にかけて北米で開催されていたコンピュータグラフィックスに関する学会・展示会であるSIGGRAPHが、2020年は新型コロナウイルス蔓延の影響によりバーチャル（オンライン）で開催されることが決まりました。当初、米国ワシントンDCでの開催が予定されていましたが、会場となる予定だったコンベンションセンターが新型コロナウイルス対応の代替医療施設として使われることが決まりました。ある程度予想はしていましたが、例年数万人が集まるSIGGRAPHもリアルなイベントとしての開催は無くなりました。

SIGGRAPH 2020 開催概要：https://s2020.siggraph.org/
昨年の SIGGRAPH 2019 紹介記事：CGへの扉 Vol.5：SIGGRAPH 2019に見るCG研究と機械学習

そこでSIGGRAPH運営がとった対応は、とても良く考えられたものでした。

1. 単に「オンラインイベントに変更」とは言わず、VR/ARの推進役でもあるSIGGRAPHらしくVR技術を活用し「バーチャルで開催します！」とアナウンスしたこと
2. 例年の参加者にどういった開催方法が良いのか、他のオンラインイベントで良かったところ良くなかったところを聞く大規模なアンケートが行われたこと
3. 当初の開催時期から少し遅らせてでも、準備万端でバーチャル（オンライン）開催することに決めたこと
4. 現地に行かなければ体験できない VR/ARそして映像シアターでの視聴、展示会でのデモや情報交換、人と人とが出会う仕組みなどを考え十種類以上の代替ツールを検討したこと
5. 時差や参加者の働く環境を考え、オンデマンドのいつでも見られるコンテンツ配信とリアルタイムのコンテンツをうまく組みあわせて配信する予定であること
6. 通常の参加費よりも半額程度と、安価に参加できるようになったこと

上記のような配慮がなされました。

1. 8月17日（米国時間：日本時間では17日の夕方）より、オンデマンドのいつでも見られるオンラインコンテンツの配信を開始
2. 8月24日（米国時間：日本時間では24日の夕方）から28日の5日間は、インタラクティブな対話やQ&Aありのオンライン配信を実施。ここでしか見られないものあり
3. オンデマンドのオンラインコンテンツが観られるのは10月27日（米国時間：日本時間では27日の夕方）まで

コンピュータグラフィックス業界に従事する人、学生や研究者にとっても、SIGGRAPHは一大イベントであり、日本からも参加したい人は数多くいます。けれども仕事の都合や家庭の事情、北米への高額な渡航費用など、さまざまな制約があるため、そう簡単に誰もが参加できるものではありません。

世界のトップカンファレンスがオンラインで手軽に参加できるのはとても良い傾向です。SIGGRAPHに限らず、人工知能系の国内外の学会も次々とオンラインで開催されています。中には参加費無料のものもあり、従来参加が難しかった研究者、今までは参加に興味を示さなかった研究者、実務者も、オンライン開催のメリットを実感しているのが現状です。

さて、今回の SIGGRAPH 2020は、どのような内容になるのか、開催されてみないと分からない部分も数多くあります。ただ、SIGGRAPHの学会としての本分でもある論文発表に関しては、今年採択された論文がすでに明らかになっています。近年、コンピュータグラフィックスの研究、現場でもディープラーニングをはじめとする人工知能技術は欠かせないものになってきています。

本記事では、SIGGRAPH 2020 の論文発表より、人工知能によってCG研究が促進されたもの、人工知能がそのCG研究の根幹をなすもの、新しい取り組みに人工知能を活用しているCG研究などをご紹介します。

SIGGRAPH 2020の論文ダイジェスト（一部）：SIGGRAPH 2020 Technical Papers Preview Trailer

SIGGRAPH 2020 で発表される AIに関連したCG研究論文

DeepFaceDrawing: Deep Generation of Face Images from Sketches

論文：http://geometrylearning.com/DeepFaceDrawing/
サンプルコード：https://github.com/IGLICT/DeepFaceDrawing-Jittor

簡単な手書きから、犯人特定のモンタージュ写真のような顔画像を生成する仕組み。ラフな線画スケッチからでもそっくりな架空の人物写真を生成することができる。人が描いたスケッチから顔写真を生成できる仕組みはこの研究以前にも存在しましたが、DeepFaceDrawingの最大の特徴はスケッチを描いた途端に顔画像が生成されるところです。スケッチを描けば描くほど、修正したり書き直したりするとすぐに反映されます。DeepFaceDrawingでは目・鼻・口といった部分が曖昧な位置でも、極端にラフなスケッチからでも顔画像が生成されるところが特徴です。専門家でなくとも、絵を描くのが得意でない人でもすぐに使いこなせるそうです。

CARL: Controllable Agent with Reinforcement Learning for Quadruped Locomotion

論文：https://inventec-ai-center.github.io/projects/CARL/index.html

周りの環境が複雑でさまざまな障害物が配置されている場所での、なめらかなキャラクタアニメーション技法。モーションキャプチャと呼ばれる人や動物の動きをデジタルデータとして収録してCGアニメーションの動きとして活用する一般的な手法は、ある特定環境下では有効に機能しますが、環境が複雑な場合に対処しきれなかったり、不自然な動きになったりする場合があります。本研究では、主体的に動きを模倣するエージェントを動きの主体とし、深層強化学習によって、不自然な動きを微調整していくことで、結果的になめらかな動きを生成しています。

Example-driven Virtual Cinematography by Learning Camera Behaviors

論文：https://jianghd1996.github.io/publication/sig_2020/

映画やドラマの世界では、歩く俳優の動きに合わせてカメラが移動するショットが多く使われており、見慣れた映像手法になっています。3DCGアニメーションにおいても同様にキャラクターの動きに追従したカメラを定義したいのですが、なかなか簡単にはいきません。本研究は名作映画のカメラショット、一流の映画監督、撮影監督が作り上げた映像手法を解析・学習し、
そこから得られたカメラ撮影のノウハウを3DCG制作にも応用しようというアプローチです。

Local Motion Phases for Learning Multi-Contact Character Movements

論文：http://www.starke-consult.de/portfolio/assets/content/work/14/page.html

ゲーム内の高速で動く二足歩行のキャラクターのリアルタイム制御を学習するための深層学習フレームワーク。スポーツ系のゲームなどでキャラクターが素早い動きをすると地面から足が離れたり、通常の歩行にはない動きをしたりします。特に球技などでは、ぶつかったり、邪魔をされたり、球の影響を受けたりします。また攻め側のキャラクターと守り側のキャラクターでは同じスポーツでも動作や優先とする動きが大きく異なります。そういった特殊な状況に配慮するため、「Local Motion Phase」と呼ばれる特徴量を扱うようにしています。これにより、既存の手法に比べて滑らかな動きが実現できています。本研究は Electronic Arts というゲーム企業と「CGへの扉 Vol.9：現実の課題を解決するCGとAIの相互作用 #SIGGRAPHAsia2019」で紹介した研究「Neural State Machine for Character-Scene Interactions」の研究者による継続研究でもあります。

Nonlinear Color Triads for Approximation, Learning and Direct Manipulation of Color Distributions

論文：https://amlankar.github.io/publication/colorsails/
デモサイト：https://colorsails.com/

ディープラーニングを活用した色調整パレット生成の手法。各種画像処理系のツールに組み込んで利用する応用例が期待されています。元となる画像からカラーパレットを抽出し、学習済みのパレットを参考にどうパレットを分割すれば良いのかを導き出す仕組みです。最新の画像処理ツール、画像処理アプリであれば、写真からカラーパレットを抽出できるツールも多いですが、本研究はそれをより正確に、汎用的に、利用しやすいカラーパレットを分類するための提案手法です。Color Sails のデモサイトでは、画像をアップロードして実際に試すことができます。

Dynamic Graph CNN for Learning on Point Clouds

論文：https://liuziwei7.github.io/projects/DGCNN
サンプルコード：https://github.com/WangYueFt/dgcnn

大量の点群データに適したニューラルネットワークのモジュール「EdgeConv」の提案。画像解析のために畳み込みニューラルネットワーク(CNN)の応用例が広がってきています。本研究は3Dスキャナや流体解析等で、三次元形状を表現するための大量の点群データをCNNで扱うための手法で、既存のツール等に組み込んで利用することを想定しています。

Graph2Plan: Learning Floorplan Generation from Layout Graphs

論文：https://vcc.tech/research/2020/Graph2Plan
サンプルコード：https://github.com/HanHan55/Graph2plan

一般的な住宅の間取りを大量の学習からCNNを使って導き出す、実用化を見据えた手法です。よくある間取りのパターンは大量に生成できますが、はたしてそこが住みやすいのか？ 一人暮らしに適した部屋、家族に適した部屋、趣味に合った部屋、落ち着く部屋なのか？ といったいわゆる人間的な要素はまだまだ研究の余地がありそうです。

TilinGNN: Learning to Tile with Self-Supervised Graph Neural Network

論文：https://appsrv.cse.cuhk.edu.hk/~haoxu/projects/TilinGnn/
サンプルコード：https://github.com/xuhaocuhk/TilinGNN

特殊な形状をタイル分割する用途に限定した、タイル専用グラフ畳み込みニューラルネットワーク「TilinGNN」の提案。
タイル分割の問題は、できるだけ規定の形状のタイルを繰り返しはり合わせることで、形状全てを覆う方法を導き出すことです。職人芸のようでもありますが、人間が習熟できることであれば、うまく機械学習を当てはめることができるとも考えられます。また従来手法に比べ、結果が高速に求められるのも特徴です。現場では100%の正確性よりも素早さが求められる分野もあるということです。

MichiGAN: Multi-Input-Conditioned Hair Image Generation for Portrait Editing

論文：https://mlchai.com/files/tan2020michigan.pdf
動画：https://mlchai.com/files/tan2020michigan.mp4

人工知能を活用した顔画像生成は研究が盛んですが、その顔に付随する「髪」に関する自動生成の研究は後塵を拝しています。本研究は髪や髪型の生成に特化したポートレイト用の髪型生成のための研究です。希望する髪の長さ、髪型、髪の色などの指示から、単なる合成ではない、とても自然な髪画像を生成することができます。その際、顔の写真は元のままのものが利用されます。論文には笑える失敗例も紹介されており、実用化が待たれる研究のひとつです。

Interactive Video Stylization Using Few-Shot Patch-Based Training

論文：https://mlchai.com/files/texler2020interactive.pdf

手書き風の画風を動画に当てはめ、元の動画の原型は残したままで、その場で描いたような絵画風の動画が生み出されます。事前に大量の学習をしたり、訓練のためのデータセットを用意したりする必要がないのが本研究の特徴です。ある動画の中の1フレームだけ加工したり、書き加えて描いたりすることで、元の動画の全フレームに瞬時に適応することができます。あらかじめ適切なデータセットで学習済みのシンプルで高速な手法であるVGG（オックスフォード大学Visual Geometry Groupが開発したネットワーク技法）を用い、動画映像のコンテンツと描画スタイルを分離することで実現しています。

バーチャルで開催されるオンラインイベントの位置付け

世界中に新型コロナウイルスが蔓延した影響で、数多くのイベントがオンラインで開催されるようになりました。今回取り上げた SIGGRAPH 2020 も、各種判断や準備、オンラインツールの拡充などもふくめ、さまざまな準備がギリギリ整い、やっと開催までこぎつけられそうな状況です。

無事開催へ！ と言いたいところですが、参加者数の減少とそれに伴う収入の減少が心配されますし、VR/AR、音響、触覚など体験しなければ把握できない研究成果や新製品の体験、大スクリーンで最新CG映像を観客全員で騒ぎながら観ていた体験も、家からパジャマ姿で参加しているだけではどうにもなりません。

会場で出会う人々とのコミュニケーションや、雑談、志を同じくする人たちと出会うことによる高揚した気分や、これからの業界や研究分野を見通す情報の集約など、どんなにテクノロジーが進歩して最新の人工知能技術に補完してもらったとしても、まだまだ不十分な領域が数多く存在します。

コンピュータサイエンスおよびコンピュータグラフィックスの分野は比較的テクノロジーの恩恵を受けやすく、オンラインでさまざまな事柄が実施可能な世界ではありますが、だからこそ難しい領域も浮き彫りになってきます。今後、今の状況がどうなっていくのかまだわかりませんが、研究や実用が加速する分野と、研究や実用が停滞する分野が顕著に分かれてくることが考えられます。

今年の SIGGRAPH 2020 は幸か不幸か、無理やり到来したひとつの大きな転換期であり、CG/VR/ARそして映像技術や人工知能活用技術などにとって何が重要なのかを見つめ直し、さらに先に進むための礎となり、きっかけになるような気がしています。8月24日から開催されるバーチャルSIGGRAPHの5日間が見逃せません。そしてまた、どんなにテクノロジーが進んでも地球は丸く、時差だけはどうにもならないことを再認識する5日間かもしれません。

本連載の今後の予定：「CGへの扉」では、単なるAIの話題とは少し異なり、CG/VFX, アートの文脈から話題を切り取り紹介していきます。映像制作の現場におけるAI活用や、AIで価値が高まった先進的なツール、これからの可能性を感じさせるような話題、テクノロジーの話題にご期待ください。何か取り上げて欲しいテーマやご希望などがございましたら、ぜひ編集部までお知らせください。

CGへの扉：

Vol.1：CG/VFXにおける人工知能の可能性と、その限界

Vol.2：なめらかなキャラクタアニメーションと、ディープラーニングの役目

Vol.3：CGとAIの蜜月が今まで不可能だった映像を生みだす

Vol.4：CG/VFX制作に欠かせなくなったマシーンラーニングの勘所

Vol.5：SIGGRAPH 2019に見るCG研究と機械学習

Vol.6：Facebookが取り組むVRとAIのアプローチ

Vol.7：AIによる差別やバイアスを避ける取り組み“PAIR”

Vol.8：一流オークションハウスも注目するアートとAIの関係性

Vol.9：現実の課題を解決するCGとAIの相互作用 #SIGGRAPHAsia2019

Vol.10：老齢とは無縁、De-Aging技術の台頭

Vol.11：動き、ダンスに新しい要素を加えるAIの役目

Vol.12：AIのおかげで映像の拡大やノイズ除去が高品質に

Vol.13：AIのクリエイティブとクリエイティビティ再考

Vol.14：AIが生み出す顔と人間の表情

Vol.15：撮影に革新をもたらすAIによる照明

Contributor：安藤幸央