CGへの扉 Vol.15：撮影に革新をもたらすAIによる照明

写真撮影技術の移り変わり

スマートフォンのカメラの性能の向上により手軽に高品質な写真が撮影できるようになりました。これらの背景にはカメラとしてのハードウェアの性能だけではなく「コンピュテーショナル・フォトグラフィ」と呼ばれるソフトウェア加工による写真技術の進化も大きく貢献しています。

スマートフォンに搭載されたカメラ機能では、最新機能ができるだけ特殊な設定や操作無しで使えるよう配慮されています。人の顔を撮影した場合は顔が写っている部分を認識し、それに適した設定がなされます。また暗い夜景を撮影するときはそれに適した調整や加工をした上で写真撮影されるなど、使っている人にはどう加工されているか分からない部分でさまざまな技術が貢献しています。一般の人もスマートフォンの高性能カメラを活用するとプロ並みの写真が撮れると言われ始めていますが、実際はどうでしょうか？

写真撮影を職業とするフォトグラファーも実際はさまざまなカテゴリに分かれ、得意不得意がある場合もあります。ポートレート撮影と呼ばれる人物写真を専門とする人、ブツ撮りと呼ばれる、物を撮影することを専門とする人、風景写真を専門とする人、また広告や報道写真などの商業写真を生業とする人と、アート写真を生業とする人、まれに複数の領域や仕事を手がけるフォトグラファーもいます。

屋外で写真撮影する場合は日光やレフ板と呼ばれる光を反射する道具が重要な要素となり、室内で撮影する場合は照明機器や撮影ブースやホリゾントと呼ばれる背景が重要な要素となり、どちらも光加減がポイントとなります。照明の良し悪しはカメラの性能以上に写真の出来を左右します。機材的にも手腕的にもプロフェッショナルのフォトグラファーと素人写真の大きな違いの一つは「照明」と言われています。

例えば写真の画角、全体的な明るさや色合い、レンズについたちょっとしたゴミなどであれば、写真撮影後にPhotoshop等の画像編集ソフトでいかようにも修正可能です。意図していない照明で撮影してしまった場合、日照や窓からの光などが意図しない方向、色合い、光の強さだった場合も、画像編集ソフトで後から修正することはできますが、とても手間がかかり高度なスキルが必要な作業となります。

フィルムカメラの時代と異なり、スマートフォンでの撮影、デジタルカメラでの撮影は、その場ですぐに確認できます。失敗した場合もその場で撮り直すことも容易です。けれども撮影したしばらく後にどうしても照明効果を修正したい場合、どのように修正すれば良いでしょうか？ もしくはプロ並みの照明機材が利用できなかった場合でも写真をより良くしたい場合、どういったアプローチがあるでしょうか？

そこで現在求められているのは「Relighting（再照明）」の技術です。Relightingとは、ある照明のもとで撮影された人や物体を、別の照明環境で撮影されたかのように再構成する技術です。撮影された画像から複数の光源の位置、光源の色、壁や床などからの照り返し、環境光、物体の形状や材質による影響を解析した上で、それらの情報をもとに理想の照明環境で撮影したかのような画像に補正する技術です。

再照明技術研究の現状

再照明というと「CGへの扉 Vol.5：SIGGRAPH 2019に見るCG研究と機械学習」で紹介した「Single Image Portrait Relighting」が比較的新しい研究です。再照明の対処となる写真の中でも人間の顔は全て凸形状でできており、遮蔽物の存在や正面から見た時に影になる部分が少ないため、比較的再照明で扱いやすい事例です。

Single Image Portrait Relighting

論文：https://cseweb.ucsd.edu/~ravir/portrait_relighting.pdf

Deep Single Image Portrait Relighting

本研究はメリーランド大学、Amazon.com、Adobe Researchによる共同研究。Deep Learning を活用することで一枚のポートレート写真だけで後から照明の変更が可能となります。元となる学習データは14万人分のポートレートからデータセットを用意して利用、畳み込みニューラルネットワークによってできるだけノイズ要素の少ない画像を生成するよう工夫されています。

論文：https://zhhoper.github.io/dpr.html
動画：https://shiropen.com/wp-content/uploads/2020/03/Deep-Single-Image-Portrait-Relighting.mp4
GIF動画：https://zhhoper.github.io/pbr/obama.gif
ソースコード：https://github.com/zhhoper/DPR

Multi-view Relighting Using a Geometry-Aware Network

本研究はコートダジュール大学、フランス国立情報学自動制御研究所、Adobe、UCバークレーによる共同研究。建築業界、都市設計の世界では日の出から日没まで、さらに季節の移り変わりによる光と影の変化を重要視します。一般的に日照写真は、丸一日、場合によっては丸一年かけて日照の様子を撮影したり、コンピュータグラフィックスで日照をシミュレーションしたりして映像を用意する場合もあります。本研究では建物や地面の一枚しかない写真から、機械学習済みのデータセットを活用し日照の写真の自動生成する技術です。建築業界でとても期待されているアプローチです。

論文：https://repo-sam.inria.fr/fungraph/deep-relighting/

Learning to See in the Dark

本研究はイリノイ大学とインテル研究所との共同研究。とても暗い環境で撮影したため全体が黒くなった写真を明るく補正する技術。みなさんも暗い場所でとくにカメラの設定を調整せずに、単純にカメラ撮影した場合、露出不足で全体が暗くザラザラとした画素の写真しか撮影できなかった経験があるのではないでしょうか？ 本研究では暗い環境でも撮影できる最新鋭のデジタルカメラ２機種を用い、5,000枚ほどの学習用の写真を撮影して用いました。

機械学習の結果、ノイズも少なく、色の再現性も高い処理が可能になっています。スマートフォンに搭載するカメラのレンズのサイズや厚みに限界がある中で、有望視されている技術のひとつです。映画やCMなどの映像制作の現場では、これとは逆に明るい昼間に撮影した映像を加工して深夜の暗闇で撮影されたかのような利用をする場合もあります。

論文：https://cchen156.github.io/SID.html
ソースコード：https://github.com/cchen156/Learning-to-See-in-the-Dark
動画：https://www.youtube.com/watch?v=qWKUFK7MWvg

Image Based Relighting Using Neural Networks

本研究はマイクロソフトリサーチによる研究。サンプル実装には Google の TensorFlow が用いられています。単なる光としての照明だけでなく、金属表面など照明に対して映り込む物体への再照明を考慮した手法。ニューラルネットワークを活用することで、同様の手法と比べ素材として必要とする元画像が少なくてすむ傾向にあります。

論文：http://yuedong.shading.me/project/neuralibr/neuralibr.htm
ソースコード：https://github.com/damienfir/image-based-relighting

Deep Image-Based Relighting from Optimal Sparse Samples

本研究はカリフォルニア大学とAdobe研究所による共同研究です。あらかじめ決められた５つの方向から照らされた照明のもとで撮影しておくことで、自由な照明状態の画像を再構成する手法です。畳み込みニューラルネットワークを利用した手法で、単なる明るさだけでなく素材の輝き方や影の様子も再現できるのが特徴です。

論文：https://cseweb.ucsd.edu/~viscomp/projects/SIG18Relighting/
ソースコード：https://github.com/zexiangxu/Deep-Relighting

Relighting Humans: Occlusion-Aware Inverse Rendering for Full-Body Human Images

本研究は筑波大学と豊橋技術科学大学の共同研究です。顔の場合は遮断物が無いため再照明が容易との説明がありましたが、 本研究は手足や衣服によって光が遮られる状況も考慮した手法です。事前に計算した遮蔽情報を用いて学習し、畳み込みニューラルネットワークを用いて色、形状、照明を推定し陰影を再現しています。興味深い点は、実写映像を学習データとして使うのではなく、CGで作成した大量の擬似モデルをデータセットとして活用している点です。

論文：http://kanamori.cs.tsukuba.ac.jp/projects/relighting_human/

このような最新論文の類似論文、参照元の過去の研究などを探す場合、CONNECTED PAPERSというサービスが便利に利用できます。例えば、2019年に発表された論文「Single Image Portrait Relighting」に関係する論文、参照元の論文は、次のようにつながりが可視化され、さらに興味の対象を探ることができます。

機械学習が活用された写真撮影のこれから

ここで紹介したいくつかの技術は研究段階にあるものです。しかしコンピュータグラフィックス、コンピュータビジョン関連の技術が汎用化するスピードはとても早い傾向にあります。さまざまな画像処理系の共同研究には Adobe や Google, Intel, Autodesk などが名を連ねており、市販ソフトの標準機能やスマートフォンに搭載される機能としてすぐに使えるようになることが期待されます。

Machine Learning – Part 3 – Human Face 3D Relighting – Flame 2020

例えば Autodesk の動画編集ソフトFlame 2020 では機械学習をもとにした解析アルゴリズムが搭載されています。撮影後の動画から物や人を抜き出して色味を変え、複雑な合成処理や画像処理の作業を平易に正確に実行できます。またFlame 2020 の「Z Depth Map Generator」という機能を用いると、映像に写っている顔の情報から、皮膚の表面がどちらの方向を向いているのかを機械学習をベースとした解析をすることができ、それによって再照明や色調整などの作業を複雑な設定なしでツールの持つ機能だけで実現が可能です。

従来、経験が豊富で習熟した人が行なっていた作業が、機械学習の進化によって人間の手作業ではなくとも人工知能に代替してもらい素早く正確に行うことができるようになってきました。これらの作業は単純に「人間の仕事が奪われる」ということではなく、人間はクリエイティブな作業に時間を使えるようになったということです。

今回は主に写真加工における再照明を紹介しましたが、照明における人工知能活用は写真撮影にとどまりません。「アクティブライティング」と呼ばれる研究では、部屋や室内の照明機器の利用状況や最適な状態を記録・解析し、機械学習を活用しています。

わざわざ人間が照明をON/OFF操作せずとも、人数や状況や時間帯、部屋の中で行なっている事柄に応じた照明コントロールできるよう、研究が進んでいるのです。例えば食事の時には、テーブルを中心として食べ物が美味しく見える光源で、テレビを見始めたらその番組の種別に適した部屋の照明に、部屋にいる人数に応じて光量を変化させたりします。もちろんこれらの操作は一般的な最適設定もあれば、そこに居る人の好みや体調なども反映していくかもしれません。さらに近い将来は、こういった室内の照明機器と、スマートフォンのカメラアプリが連携して最適な照明で最適な撮影をしつつ、後から写真加工も可能なような人工知能の活用がなされるかもしれませんね。

本連載の今後の予定：「CGへの扉」では、単なるAIの話題とは少し異なり、CG/VFX, アートの文脈から話題を切り取り紹介していきます。映像制作の現場におけるAI活用や、AIで価値が高まった先進的なツール、これからの可能性を感じさせるような話題、テクノロジーの話題にご期待ください。なにか取り上げて欲しいテーマやご希望などがございましたら、ぜひ編集部までお知らせください。

CGへの扉：

Vol.1：CG/VFXにおける人工知能の可能性と、その限界

Vol.2：なめらかなキャラクタアニメーションと、ディープラーニングの役目

Vol.3：CGとAIの蜜月が今まで不可能だった映像を生みだす

Vol.4：CG/VFX制作に欠かせなくなったマシーンラーニングの勘所

Vol.5：SIGGRAPH 2019に見るCG研究と機械学習

Vol.6：Facebookが取り組むVRとAIのアプローチ

Vol.7：AIによる差別やバイアスを避ける取り組み“PAIR”

Vol.8：一流オークションハウスも注目するアートとAIの関係性

Vol.9：現実の課題を解決するCGとAIの相互作用 #SIGGRAPHAsia2019

Vol.10：老齢とは無縁、De-Aging技術の台頭

Vol.11：動き、ダンスに新しい要素を加えるAIの役目

Vol.12：AIのおかげで映像の拡大やノイズ除去が高品質に

Vol.13：AIのクリエイティブとクリエイティビティ再考

Vol.14：AIが生み出す顔と人間の表情

Contributor：安藤幸央