CGへの扉 Vol.39：言葉から生み出されるアートとは？

言葉から生み出される画像

「立てば芍薬、座れば牡丹、歩く姿は百合の花」美しい人を表現する言葉ですが、人によってとらえ方はさまざまです。そもそも牡丹がどんな花なのか知らなければ牡丹よりも服のボタンを思い浮かべてしまうかもしれません。この言葉は江戸時代から落語や講談に出てきますが、はっきりとした由来は分かりません。もともとは薬効を示した言葉で、気が立っている人には芍薬の根を、疲れやすくすぐ座ってしまう人には牡丹の根、ふらふらと歩いている人には百合の球根が効くということらしいのですが、その本来の意味ではない事柄が今では一般的に知られています。

最近、言葉から画像を生成する人工知能を活用した事例として DALL-E の後継である DALL-E2 が話題になりました。
また、それに続いて同様の研究プロダクトであるグーグルのImagen が話題性の意味でも技術的要素としても追従してきています。

人間は理解や認識の多くを視覚に頼っています。とは言いつつも現代のコミュニケーションの多くは言葉に依存しています。先ほどの「立てば芍薬〜」と同様に言葉から想像する様相は人それぞれですが、膨大な言語体系の抽出と機械学習によって、言葉の表現どおりの画像を生成するというテクノロジーが登場しました。今まではプロのイラストレーターに言葉や例を示して描いてもらっていた絵が、テイストやその出来栄えはとにかく、人工知能が手軽に画像として合成してくれる時代がやってきたのです。

DALL-E2 の登場

OpenAI DALL-E2：https://openai.com/dall-e-2/

2021年はじめにOpenAI社からDALL-Eが登場し、人工知能業界に衝撃を与えました。その機械学習の規模、精度とも人工知能研究に関わる人であれば容易ではないことが分かり、驚きをもって迎えられたのです。

【参考記事】CGへの扉 Vol.22：言葉から画像を生成、DALL-Eはクリエイティブなのか？

それから約一年後、満を持して登場した DALL-E2 はどう進化しているのでしょうか。

リサーチペーパーによると、DALL-E2は旧 DALL-E1に比べ、写実的で文言と画像との一致度が高いと評価されています。さらに解像度が4倍になった点も歓迎されています。

論文：Hierarchical Text-Conditional Image Generation with CLIP Latents

また、DALL-E2 は DALL-Eでの応用事例を反映し、意図しない不当な利用がなされないよう、さまざまな工夫が進んでいます。例えばフェイク画像として使われないように生成される画像に制限がかかる機構が組み込まれているなど配慮が進んでいます。そのため政治家や俳優などの画像を生成しないように、また成人向けの露骨な画像を生成しないよう、工夫がなされています。

画像生成のために指定する文言も、ポリシーに違反した言葉を扱わないよう自動的にフィルタリングするとともに、人の目でもチェックしているとのこと。現在の DALL-E2 は DALL-E1 と同様、APIは一般に公開されておらず、信頼できる限られたユーザーにのみ公開し、利用方法を探っていると言われています。DALL-E2 は素晴らしい成果と受け取られていつつも、逆に DALL-E2 が苦手とする画像や文言の研究も進んでいます。今後は研究成果というだけでなく、実用に向かっての工夫や制限を考慮することで、さらに用途が広がってくることが予想されます。

DALL-E2 の発表に合わせてInstagramのアカウントも開設されており「何かアイデアがあればDMで送ってくれれば実現するよ！」と書かれています。

DALL-E2はOpenAIが開発している、テキストと画像のペアを学習したCLIPと、テキストから画像を生成するGLIDEというテクノロジーを組み合わせて使われています。

CLIP：https://openai.com/blog/clip/
CLIPに関する論文：Learning Transferable Visual Models From Natural Language Supervision
GLIDEに関する論文：Towards Photorealistic Image Generation and Editing with Text-Guided Diffusion Models

DALL-E2も次に紹介するGoogle Imagenも拡散モデル（Diffusion Model）と呼ばれる方式を用いています。最初はランダムな点のパターンの組み合わせから始まり、そこで生成された画像に指定された言葉の要素がふくまれていれば、そのまま画像を徐々に精細に変化させていきます。一方、画像が指定された言葉からかけ離れてきた場合は、そこで計算を打ち切ります。膨大なトライ＆エラーの結果、指定された言葉を描いた画像が生成されるわけです。今後ますます精度やリアルさ、様々な言葉の扱いを広げてくると考えられます。DALL-E3はどう進化してくるのか今から楽しみです。

Google Imagenの登場

毎度、グーグルのプロダクトは名前が普通すぎて冴えない気がしていますが、Google Imagen（正式名：Imagen diffusion model）もDALL-E 同様言葉で表現したイメージ画像を生成するテクノロジーです。Imagenは印象、画像、姿といった意味です。

論文：Photorealistic Text-to-Image Diffusion Models with Deep Language Understanding

グーグルは「DrawBench」と呼ばれる大量のテキストリストからGoogle Imagenで生成した画像と、DALL-E2 で生成した画像を人が比較し、言葉とその言葉が示すであろう画像との一致度を図ったところ、Imagen の方が評価が高かったと報告されています。

DALL-E2ではいち早く不適切な画像が生成されないよう配慮を進めている一方、Google Imagen はバイアスを考慮してか（？）あえて不適切な画像データも学習データとして用いてしまっているため、場合によっては一般的な閲覧には適さない画像も生成されるのが現状とのこと。学習のデータセットのベースとして用いられているのはLAION-400M。今後、意図的に不適切な画像を抜いておくのか、それを踏まえた上でありとあらゆる画像を扱うのか、論争が広がってくると考えられます。機械学習の教師データとして自動生成した画像を活用する合成データ「Synthetic Data」 の考えも広がっており、一筋縄ではいかないことが分かります。

Google Imagen 開発の際に発見された特徴として、画像のモデルを大きく扱おうとするよりも、言語モデルの扱いを大きくした方が効率よく良い画像が得られるという意外な結果です。そう考えると、今まで思い込みで考えてきた研究や実装も、人工知能にとっては何か違う重要な要素が隠されている箇所がいろいろ見つかっていきそうです。

Google Imagen では 64×64 ピクセルサイズの画像であたりをつけ、そこから 256×256, 1024×1024 にアップコンバートする流れで、高精細な目的画像を生成しています。

言葉から三次元アバターを生成する AvatarCLIP 

コンピュータグラフィックスの最新研究論文が発表される今年の SIGGRAPH 2022 は、カナダのバンクーバーにて 8月8日から11日の5日間、現地会場とオンラインとハイブリッド環境で実施される予定です。SIGGRAPH 2022 で発表される論文が徐々に明らかになってきており、話題を先取りすると、その中でも注目の論文のひとつが、言葉から三次元アバターを生成するAvatarCLIP です。

AvatarCLIPは、事前学習済みの環境だけで、あらかじめデータが無いものについてもある程度の予測から目的の結果を出力できる「ゼロショット学習」と呼ばれる実装がなされています。AvatarCLIP は DELL-E2 や Google Imagen の 3D版ともいえるもので、自然言語から3Dアバターの形状と、テクスチャ（柄や色の情報）、動きといった情報を生成することができます。出力事例をみると、まだまだぎこちない感は否めませんが、今後ゲーム内の NPC（ノンプレイヤーキャラクター）や、群衆もののCG/VFXで活用できる可能がみてとれます。

AvatarCLIP: Zero-Shot Text-Driven Generation and Animation of 3D Avatars

論文：https://arxiv.org/abs/2205.08535
プロジェクトページ：https://hongfz16.github.io/projects/AvatarCLIP.html
ソースコード：https://github.com/kaz12tech/ai_demos/blob/main/AvatarCLIP_demo.ipynb

人が生み出すアートと、人工知能が生み出すアート

DALL-E2もGoogle Imagenも、現在は一般公開されていないこともあり、Twitterのネタとして扱われてしまいます。ちょっとしたイラストであれば、素早く的確なものを瞬時に用意できることから、これもまた「人工知能が人間の仕事を奪う」事例として考える人が出てくるかもしれません。DALL-E2やGoogle Imagenが生成する画像は、人間ぽっさも少し感じますが、その理由は面白そうな画像を生み出そうと考えている人間が考えた生成キーワードに由来しているとも言えます。妙なリアルさと、かすかに感じる人間ではない何かの知性らしきものが感じられる画像が生み出されており、若干妙な雰囲気が感じられるのも確かです。

DALL-Eの名前は、シュルレアリスムと呼ばれるシュールで独特の雰囲気をもった絵画で知られるサルバドール・ダリの名前と、廃墟となった惑星のゴミ拾いを続けるロボットWALL-Eから取られているので、その奇妙さも納得できるかもしれません。ただ、そういって笑っていられるのは今だけで、気づかないうちに日頃目にする広告画像や商品パッケージ、イラストを描いたのは実は人工知能という世の中がやってくるかもしれません。

本連載の今後の予定：「CGへの扉」では、単なるAIの話題とは少し異なり、CG/VFX, アートの文脈から話題を切り取り紹介していきます。映像制作の現場におけるAI活用や、AIで価値が高まった先進的なツール、これからの可能性を感じさせるような話題、テクノロジーの話題にご期待ください。何か取り上げて欲しいテーマやご希望などがございましたら、ぜひ編集部までお知らせください。

CGへの扉：

Vol.38：AIで作りAIで届ける映像作品

Vol.37：NVIDIA GTC 2022 レポート／アートとAIの視点で

Vol.36：創るためのAI〜AIと人間の創造性の未来：徳井直生氏講演レポート

Vol.35：マーベル・シネマティック・ユニバースを支える機械学習

Vol.34：注目論文よりCGの祭典 #SIGGRAPHAsia2021 を振り返る

Vol.33：AIの必然性 #SIGGRAPHAsia2021 レポート

Vol.32：Adobe Sneaks より進化の方向性を知る

Vol.31：人工知能が考える「顔」と、人が考える「顔」

Vol.30：SIGGRAPH2021レポート「ディープフェイクとの戦い」

Vol.29：AIの恩恵を受けるCG研究の世界。#SIGGRAPH2021 論文より

Vol.28：定番手法の他分野応用、自然言語処理AI由来の画像処理AI

Vol.27：眼に追いつけ追い越せ？ カメラは機械学習により進化

≫≫すべてのバックナンバーはこちらから

Contributor：安藤幸央