CGへの扉 Vol.48：頭の中を映像化

映画監督の頭の中は？

映画のような大規模な映像製作の場合、著名CGスタジオであるピクサーの制作スタイルのように、数人で議論し複数のアイデアを取り込んでストーリーを組み立てる手法が使われる場合があります。一方、監督の頭の中に完成形がすでにあって、それらを多くのスタッフが手分けして映像化するタイプの制作スタイルも存在します。

映画『エイリアン』で知られる映画監督の絵コンテをご覧になったことがあるでしょうか？ 大作映画の製作であれば専門のストーリーボードアーティスト（いわゆる絵コンテ専門の画家）が絵コンテを描くのが普通なのですが、『エイリアン』では、監督であるリドリー・スコット自らが絵コンテを描いています。リドリー・スコットはグラフィックデザインを学んできており、映画で成功を収めるまではテレビCMのディレクターとして活躍していました。

『エイリアン』の絵コンテは驚くほど完成度が高く、バンド・デシネと呼ばれるフランスの漫画のような緻密なシーンが描かれています。映像制作の絵コンテは、その制作工程や担当するストーリーボードアーティストの流儀などによっても異なりますが、一般的にはとても平易でラフな傾向があります。

監督自身が絵コンテの1コマと、映画の1シーンを比較し解説している映像や、『エイリアン』の絵コンテと映画の比較映像が公開されています。

なんと出来上がった映画の1シーン1シーン、セットの雰囲気や映像の切り取り方が、絵コンテで描かれたシーンとそっくり同じなのです。もちろん紙に描かれたスケッチと、三次元空間をカメラで撮影している映画の映像とでは全く緻密さや情報量は異なりますが、監督の頭の中にはすでに完成形があって、映画はそれを映像化しただけなのだと驚かされる次第です。

もちろん撮影の現場で試行錯誤しながら良いシーンを模索するタイプの監督や、何テイクもの演技を複数のカメラで収録した映像から良いものを選んで編集する監督など、必ずしも絵コンテの完成度が重要なわけではありませんが、それにしてもこの絵コンテの完成度はすごいものです。

脳を読み取り映像として再現

最近、大阪大学大学院生命機能研究科の高木優助教らが発表した論文が話題になりました。「High-resolution image reconstruction with latent diffusion models from human brain activity（抄訳：ヒトの脳活動から潜在的な拡散モデルを用いた高解像度画像を再構成）」という論文です。脳の研究を続けていた研究者からすると当然の帰着かもしれませんが、テクノロジー業界からすると「その手があったか！」と、その応用に驚く次第です。

【論文】High-resolution image reconstruction with latent diffusion models from human brain activity

この研究では、脳の知覚内容が、画像生成AIの仕組みと似たような働きを行っていることに着目しました。超高磁場MRIに入った被験者に大量の画像を見せ、その時の初期視覚野と高次視覚野の脳活動のデータと、画像生成AIの対応づけを行うことで脳活動からその時見ている画像をある程度の精度で再構成できるようになったのです。文字や言葉による情報なしで、脳活動のみでです。脳活動の元データは、約10,000枚の画像を見た時の超高磁場MRIのデータセット、NSD（The Natural Scenes Dataset）が用いられました。MRIは脳の血流が変化する際のわずかな時期の変化をとらえることができ、脳の活動データを取得できる医療装置です。

現在の研究段階では、何かを見ている時の脳活動をとらえたもので、考えているだけの場合も同様の相関関係はあれど、信号強度（解析精度）が弱いため、どこまで解析可能かは不明とのこと。またこの脳活動との対応づけは個人ごとにモデルが異なるためそのままでは他の人には用いられないが、その差を補正する研究はなされているそうです。

クリエーターの作業を一足飛びにAIが支援

画像生成AIの登場で、さまざまな画像生成にAIが活用し始められましたが、その分野のひとつにコンセプトアートがあります。CGがあれば、どんな映像も作れるとは思われていますが、クリエーターの想像力にも限界があります。普通の人が想像もつかないような未来を描いた特殊効果たっぷりのSF映画もそのイメージの元となるのは監督が頭の中に描いている完成像か、コンセプトアーティストによって描かれたコンセプトアートによって関係者一同がその完成イメージを共有できてこその出来栄えです。

実際は、予算の制約や時間的制約で最初に思い描いていたような映像まで到達できない場合もあるでしょう。その一方、CGツールの活用や、技術の進化で思った以上の表現ができる場合もあるでしょう。

過去の記事「CGへの扉 Vol.5：SIGGRAPH 2019に見るCG研究と機械学習」で取り上げたコンセプトアーティストColie Wertzさんのように、いち早く制作作業の一部に画像生成AIを活用している事例もあります。コンセプトアート制作に画像生成AIであるStable DiffusionやMidjourneyを活用する事例も出てくるようになりました。

まだまだコンセプトアーティストの仕事を完全に置き換えるまでにはなっていませんが、画像生成AIに適切な文章で指示（プロンプト）を与えることができれば、うまく活用する人も出てくることでしょう。画像生成AIではまだ見たことの無い映像というよりは、どこかで見たことがあるような、緻密な完成度のものという印象で、まだまだコンセプトアートの仕事を侵食するまでにはなっていないと考えていますが、コンセプトアート職種の補助ツールとして試行錯誤のスピードを速める役目には十分すぎるほど役立っているようです。

「Text-to-???」 系の文字列（プロンプト）から何かを生成するジェネレーティブAIの中で、Text-to-Space が登場し、映像制作界隈で注目されています。ここでの “Space” は「三次元空間」を意味しています。

1. Versy.ai（Text-to-Space: Transform Text into Virtual Experiences）
   Webページに動画解説あり、現在 Waitlistで試用登録受付中
2. Interior AI（TM）
   言葉で指示するだけで、適切なインテリアデザイン、家具の配置を生成してくれる

VR空間や、ゲーム内の3D空間を設計、制作する際、比較的面倒な手順で試行錯誤を繰り返します。Versy.aiやInterior AIでは、三次元空間の構成や、空間の中にあるオブジェクトの位置や形、質感、大きさ、壁や出入り口の様子など言葉で指示していくことでどんどん見ている空間が変化し、調整が進んでいくのです。

無料かつ高機能で最近シェアが広がっている3DCGツールBlender内で利用できるスクリプトをChatGPTに生成させ、言葉で表現した形状や3DモデルをBlenderの中で平易に扱おうという試みも進んでいます。また、Blenderツールから、Stable Diffusionを呼び出して、CG画像作成の時のヒントや参考素材として活用するソリューションも出てきています。人間の発想を刺激したり、加速するために人工知能が手助けするという構図が出来上がってきています。

1. AI Render – Stable Diffusion in Blender

発案から3DCGの作成、映像化までの工程

ここで紹介したいくつかの事例を統合的にとらえると、頭で考えていることを的確に言葉で表現できれば人工知能が助けてくれる環境が整い始めたと考えられます。つまりは、さまざまな制作において作業スピードを速め、試行錯誤の回数を増やし、目指すクオリティに素早く到達できることを意味しています。

従来であれば、映像制作の監督やプロデューサー、ゲームの空間設計をしている人が口頭で指示し必死でコミュニケーションしていた内容を、人工知能の助けを借りて素早く試作映像や完成映像に反映させることができることで、「なんだか思ったのと違う。なんか違うので作り直し」というやり取りで苦労しなくても済むようになるかもしれないのです。

ただし、ジェネレーティブAIの仕組み上、世の中にある以上の新しいものを生み出すのは難しいこと、適切な文章で指示（プロンプト）を与えないと、活用しきれないことなども課題となってくるでしょう。今後は人と人のコミュニケーションをとり持つような、人と人工知能との間を取り持つプロンプトエンジニアが重要な職種になるかもしれません。

映画『スターウォーズ』が黒澤明作品の影響を受けていると言われるように、素晴らしい映画やストーリーが全くの新しいものであることは稀で、大抵は過去の映像作品や神話や物語を（良い意味で）模倣したものであることがほとんどではないでしょうか。人工知能研究の発展とともに、人間がもつ個性や独自の発想だと思っていたことが、実は過去の膨大な記憶や情報の積み重ねから導き出された事柄で、その仕組み自体は人工知能となんら変わらないという考えもでてきています。

ChatGPTの開発元であるOpenAIとGoogleから2022年1月に「Grokking: Generalization Beyond Overfitting on Small Algorithmic Datasets（グロッキング：小規模アルゴリズムデータセットにおける過学習を超えた汎化）」という論文が発表されています。

機械学習の学習データを大量に学習させ、丸暗記している状態から、さらに学習し続けていると、あるとき「汎化」と呼ばれる学習していない状況にも的確な答えを導き出すことのできる状態に急速になることがわかり、その現象を「グロッキング」と呼ぶそうです。人工知能の応用の幅を広げる「汎化」という現象は、現象自体が確認できていますが、その仕組みや現象自体はまだよく分かっていない部分もあります。

書籍『天才！成功する人々の法則』の著者マルコム・グラッドウェルの説では、人が何かに習熟するまでに1万時間の練習が必要だと述べています。またスポーツや学習において「プラトー現象」と呼ばれる、いくら練習しても学んでも伸び悩む時期がくるそうです。もしかしたら人間も人工知能と同じ、いや逆ですね。人工知能が人間の脳の仕組みと同じことをたどっていくのかもしれません。

本連載の今後の予定：「CGへの扉」では、単なるAIの話題とは少し異なり、CG/VFX, アートの文脈から話題を切り取り紹介していきます。映像制作の現場におけるAI活用や、AIで価値が高まった先進的なツール、これからの可能性を感じさせるような話題、テクノロジーの話題にご期待ください。何か取り上げて欲しいテーマやご希望などがございましたら、ぜひ編集部までお知らせください。

CGへの扉：

Vol.47：Gen-1登場。映像が映像を作る時代に

Vol.46：AIを活用したCG論文紹介 #SIGGRAPHAsia2022 より

Vol.45：大規模言語モデルChatGPTは仲間？ライバル？

Vol.44：AdobeMAX2022開催。SneaksよりAI活用の方向性を知る

Vol.43：AI絵師は3DCGの領域へ

Vol.42：現代の呪文promptが生み出すAIとの新しい関係性

Vol.41：AIが促進させるCG研究。SIGGRAPH2022論文より

Vol.40：知見の宝庫。MITの機械学習オンラインコース

Vol.39：言葉から生み出されるアートとは？

Vol.38：AIで作りAIで届ける映像作品

Vol.37：NVIDIA GTC 2022 レポート／アートとAIの視点で

Vol.36：創るためのAI〜AIと人間の創造性の未来：徳井直生氏講演レポート

≫≫すべてのバックナンバーはこちらから

Contributor：安藤幸央