CGへの扉 Vol.55：AdobeMAX2023開催。生成系AI全盛のSneaks

Adobe MAX 2023がLA会場とオンラインで開催

プロフェッショナル向けの生成系AIツールでの躍進が著しいAdobe社の一大イベント、Adobe MAX 2023が、2023年10月11日から12日の2日間、米国ロサンゼルスの会場とオンライン配信のハイブリッドで開催されました。会場のみのセッションもありますが、175以上のセッションのうち主要なものは即日オンライン配信されAdobeIDを持っていればいつでもすぐにオンデマンドで視聴できます。プレゼンテーションの発表資料のPDFも公開されています。

Adobe MAX の醍醐味のひとつは、Sneaks（コソコソ動く・忍び寄る）と呼ばれる未来的なセッションです。未来的と言っても、遠い未来ではなく近い将来、Adobeのツールに搭載されるであろう現在研究・開発中の少し先のテクノロジーを紹介するものです。基調講演や、ここで紹介する Sneaks は YouTubeで高画質、英語字幕付きで観ることもできます。

司会は、AdobeのSr. Design Manager で生成系AI部門を担当する Danielle Morimoto（ダニエル・モリモト）さんと、コメディ俳優の Adam Devine（アダム・ディヴァイン）さんが、難解になりがちな最新技術を掛け合い漫才のように面白おかしく紹介する Sneaksセッションならではの盛り上がりでした。

Adobe MAX 2023 クリエイティブカンファレンス　オンデマンドで視聴可
https://www.adobe.com/max.html
※視聴は無料ですが、Adobe ID への登録が必要です（登録無料）

今年の Adobe Max は Keynote（基調講演）に加え、Inspiration Keynoteというごく普通のクリエイターにフォーカスした基調講演もあり、高いスキルと経験を積んだ超人のようなクリエイターでなくとも、Adobeのツールの助けを借りれば誰もがクリエイティビティを発揮できるという
強いメッセージが感じられました。

【過去記事】CGへの扉 Vol.44：AdobeMAX2022開催。SneaksよりAI活用の方向性を知る

昨年2022年の Sneaks でも各種人工知能テクノロジーが活躍していましたが、昨年の様相と今年の様相は大きく異なります。ここ数か月でAdobeに限らず、さまざまな生成系AIの品質が飛躍的に向上し、特定用途に特化した生成系AIツールも続々と登場しています。他の生成系AI技術とは一線を画し、Adobeは自社の持つフォトストックなどを活用し、著作権への懸念をクリアにした生成系AIを次々と既存のツールに組み込んでいます。Adobeは少し前に画像生成AI「Firefly エンタープライズ版」で作った画像で訴訟された場合は全額を補償すると発表しています。

MAX恒例Sneakで、生成系AIの真価に納得

Adobe MAX の醍醐味のひとつは、Sneaks（コソコソ動く・忍び寄る）と呼ばれる未来的なセッションです。

Adobe MAX 2023：Sneaks　日本語字幕付き（約1時間10分）
※登録無しで見られますが、公式の日本語字幕はありません。

今年のSneaksで発表された11の研究はどれもすぐに使いたくなるような、実用的なものが勢ぞろいでした。このSneaksで評判の良かった機能、要望の多かった機能から順に次のバージョンの製品に反映されていくそうです。今回Sneaksでは発表されなかった研究中の技術やツールがまだこの数倍あると考えると末恐ろしいものがあります。

各プロジェクトは、大人数の研究チームが取り組んでいるものではなく、とても小規模で、一人から数人の研究者を中心に研究、実装、論文化、製品化検討、動作速度のチューニング、堅牢性の確保などがなされているようです。中には数年前は学生インターンだった研究者もおり、AI業界の学術界と産業界の強いつながりがスピード感のある進化を支えていると考えられています。

Project Fast Fill：動画でもAI塗りつぶし

発表者：Gabriel Huang

Project Fast Fillは、動画編集者が静止画を編集するのと同じ簡単さ、品質、自由度で、動画内のオブジェクトを削除したり、背景要素を変更したりすることができる技術です。生成系AI Adobe Fireflyで利用できる静止画の存在しない部分の塗りつぶしを実現しているGenerative Fillと同じ原理で塗りつぶし機能を動画編集で使えるようになります。

複雑な表面やさまざまな光条件でも、簡単なテキストプロンプトで指示することで動画内の編集を手軽に素早く実施できます。利用者は動画中の1フレームを編集するだけで、残りの動画フレームにも同様の生成系AIによる編集・修正を実施できます。動画撮影の際、取り損なったアングルや、取り損なったシーン、撮影後に演出上必要になったカットなどを生成系AIで補うことができることでしょう。

Project Draw And Delight：線画スケッチを言葉で補足し高品質イラストに

発表者：Souymodip Chakraborty

Project Draw And Delightは、ラフな落書きや走り書きで表現されがちな初期のデザインのアイデアを、洗練されたスケッチに変えることができる技術です。テキストプロンプトによる指示を、ラフスケッチや走り書きなどの視覚的な情報に加えることで、より的確で品質の高いスケッチ画像を生成します。さらに色使いや、雰囲気、ポーズ、背景をふくむ、高品質なベクター画像を生成します。この技術があれば、拙いスケッチで指示を出していたディレクターも、素早く的確に指示を出せるようになるかもしれません。

Project Neo 2D：2Dデザイナーも簡単に3D形状を作成

発表者：Inigo Quilez

Project Neoは、2Dデザインのスキルを持ったデザイナーが難しい3Dツールの使い方を学ばずに、2Dの描画で3D形状を作成することのできる技術です。2Dに長けたデザイナーが奥行き感をもったスケッチを描くことで、3D形状を素早く作成し、3D制作物の確認、修正、編集などを簡単な操作で可能にします。新しいツールの使い方を学ばずに、自分がもつ今までのスキルで、新しいことができるというAIツールならではの制作支援です。

Project Scene Change：複数カメラ動画の背景をなじませて合成

発表者：Zhan Xu

Project Scene Changeは、映像を構成するさまざまな要素を、自由にコントロールする技術です。
異なる動きで撮影された2つの動画から、被写体とシーンを簡単に分離した上で合成し、まるで同期したカメラの動きのような1つのシーンに合成できる技術です。AIが事前に録画された画像から背景シーンの3D表現を抽出し、別に撮影された被写体を適切な影を付けてシーンに合成することができます。この制作手順の実現で、単なる映像合成から、さらに映像表現の自由度が広がります。

それは、あらかじめ撮影済みの映像素材を撮影した際のカメラの動きによる制限がなくなり、同じ動きをしたカメラでなくとも合成が容易になり映像制作者は被写体を映像の中に自由に配置することができるようになります。何度も同じカメラの動きを再現する高価なモーショントラッキングカメラが不要になる時代がすぐにやってくるかもしれません。

Project Primrose：インラタクティブに衣類を差し替え

発表者：Christine Dierk

Project Primroseは、Adobeにしては珍しく、物理的なツールの発表です。Adobe研究所のハードウェア部門担当者からの発表です。デジタルツールでは、ボタン一発ですぐに見栄えが変わりますが、物理世界のオブジェクトに対しても同じことができれば素晴らしいと考え、実際に身につけることができ、折り曲がる非発光性テキスタイルを利用した研究が進んでいます。

この技術が発展すると、デジタルツール上で制作した絵柄を、衣服や家具にすぐに反映させることができます。お気に入りのファッションデザイナーの新作を、見た目だけは瞬時に身につけることも可能になってきます。まだまだ解像度が低く、表現の幅は狭いですが、バーチャルとリアルの境界線が無くなることを考えると、大変興味深い展開です。

Project Glyph Ease：数文字のデザインから、フォントグリフをすべて生成

発表者：Difan Liu

Project Glyph Easeでは、3パターンの文字のデザインを用意するだけで必要なオリジナルデザインの文字一式を用意できる技術です。チラシやポスターを制作する際、デザイナーはしばしば雰囲気や目的のデザインのために、手作業でオリジナルの文字を制作することがあります。デザイナーにとって楽しい作業ではありますが、とても時間と手間がかかります。この技術を用いると手書きまたはベクターで作成した数文字から生成系AIによって、必要なすべての文字を用意できるとともに、編集や加工も可能な柔軟に扱えるフォントとして活用できます。従来は面倒すぎて、フォントとして活用しようとは思わなかったような複雑なデザインも、新しい表現として役立つかもしれません。

Project Poseable：プロンプトの指示で3Dシーンを用い、目的の絵コンテ画像を生成

発表者：Yi Zhou

Project Poseableは、3Dで的確なシーンを指示し目的の画像を得る技術です。プロトタイプや絵コンテ、ストーリーボードのデザインにはとても時間がかかります。背景や個々のキャラクターのさまざまなアングルやポーズ、またはキャラクターがシーン内でどのような行動や姿勢をとっているかなど、AIを利用したキャラクターポージングモデルを利用して、そこから画像を生成して簡単にキャラクターシーンを制作することができます。映像制作の現場ではPreViz（プレビズ：制作する映像を確認するための簡易的なCG映像）を用いることがありますが、この技術では平易に誰でも映像ストーリーを表現できることが特徴です。映像制作以外の用途にも活用される可能性も秘めています。

Project Res Up：超高解像度にアップスケール

発表者：Yang Zhou

Project Res Upは、低解像度の動画を的確に高解像度に変換する技術です。HDや4K表示できるディスプレイやスマートフォンの画面でも意外と低解像度の動画を観ていることは多いものです。低解像度の動画を直接高解像度にアップスケールすることはもちろろん、動画の拡大や切り出しも可能で、元の映像が持つ忠実なディテールはそのまま、動画像の流れや変化にも違和感がないよう、高解像度化することができます。静止画ではすでに使われている技術ですし、プロ向け専用ツールでも利用できる機能ですが、だれでも平易に特殊な設定や調整に無しに使えるのが特徴です。

Project Dub Dub Dub：本人の声で多言語吹き替え

発表者：Zeyu Jin

Project Dub Dub Dubは、吹き替え不要、本人の声から生成した音声で動画を多言語対応する技術です。70以上の言語と140以上の方言のビデオ映像やオーディオクリップの音声を多言語で吹き替えします。音声対音声翻訳を使用し、話者の声、口調、声質はそのままで映像を音声をマッチングさせます。これまで労力とコストのかかっていた翻訳と吹き替えの作業が短時間で一気に完了します。

これによって、YouTubeやPodcast用に制作された既存の動画コンテンツや、音声コンテンツを手軽に多言語対応でき、一気にグローバルな視聴者に対応できます。洋画の吹き替えなどで声優が行っている、口の動きと言葉を合わせる吹き替えには今一歩及びませんが、何より、どうしても違和感が出てしまう他人の声での吹き替えではなく、本人の声、声質で自動吹き替えできるのが圧倒的なメリットです。

Project See Through：ガラスの写り込みを除去

発表者：Eric Kee

Project See Throughは、どんなプロのカメラマンも頭を悩ます、ガラスの写り込みを除去する技術です。撮影時に邪魔なガラスの写り込みですが、写り込みそのものを表現のひとつとして利用する場合もあります。この技術では、ガラスの反射を自動的に除去するとともに、加工用の画像としても保存できるため、写り込みの量を調整することができます。もちろん経験とスキルがあれば、ガラスが写り込まないよう照明やカメラ位置を工夫したり、場合によっては写り込みが少ないガラス素材を用いるといった方法もありますが、それらで苦労することなく、画像処理できるのは朗報です。

Project Stardust：レイヤー構造のない画像を自由に編集

発表者：Aya Philémon

Project Stardustは、生成系AIで作った画像内にあるオブジェクトを除去したり、編集したい場合に役立つ技術です。背景の塗りつぶし、選択範囲のアウトラインの切り取りといった面倒で精度が必要な作業を、画像処理スキルに関係なく利用することができます。つまりはもともとはレイヤーがなかった画像素材を素材ごとにレイヤー分けし、自由に編集可能になった画像と考えると良さそうです。

Adobeの新機能の予兆は学会論文と特許から！？

Adobe Sneaksは研究途中の最新テクノロジーの発表の場であり、かなり情報を先取りした気分になります。さらにその先、情報を先取りしたい方は、さまざまな国際学会でのAdobe関係者の発表に注目しておくと良いでしょう。コンピュータグラフィックス業界や人工知能活用分野ではアカデミックな学術研究の世界と、一般向けのツールやサービスを提供している企業との共同研究、ノウハウ共有、人材の行き来が頻繁に行われているのが特徴です。

2023年、ICCV、SIGGRAPH、EGSR、CVPR、Eurographics、WACVなどグラフィックス系の学会で採択・発表されたAdobeが関係する論文一覧
https://research.adobe.com/publications/?research-area=2d-3d-graphics&pub-year=2023

さらにSneaksで発表した研究者の名前や所属企業で、特許情報を探すことで、さらに少し先の展開を予想することもできるかもしれません。

Adobe Researchから出された米国特許一覧
https://patents.google.com/?q=(Adobe+Research)&assignee=Adobe+Inc.&sort=new

実際、Sneaksで発表された技術の元となっている特許が、数年前から特許申請されていることも多い。

Adobeが考える生成系AIによるクリエイティビティの加速

各種ツールを提供するAdobeとして一貫しているのは、生成系AIツールの浸透で、クリエイターが今まで行っていた単純作業や、面倒な作業をAIに任せ、クリエイターが本来するべきクリエイティブな作業に、より時間を使えるようになったこと。試行錯誤のスピードや回数が増やせることによって、より素早く思い描いた品質の高い成果物にたどり着けるようになったことです。

決してクリエイターの仕事を奪うものではないという、確かに納得のいく説明ではあるのですが、Adobe Fireflyなど圧倒されるような生成系AIの様子を見れば見るほど「いったいぜんたい人間はこれから何を創ると良いのだろう？」という、漠然とした不安がよぎるのも確かです。

欧米では、ChatGPTや画像生成系AIのDALL-Eを提供するOpenAIや既存製品や検索にAIを組み込んでいくGoogleやMicrosoftなど、巨大な資金力を持ったAI企業が業界を席巻し、中小のAI企業は、どんなにアイデアやテクノロジーが優れていたとしても、なかなか対等に勝負はできずに、中にはレイオフが始まっている企業もあるそう。

先人の「すぐに役立つ知識やスキルは、すぐに役立たなくなる」という言葉が思い出されます。流行りとともに、一過性の付け焼き刃の技術や知識に頼るのではなく、身につけるのがなかなか難しいですが、ちょっとやそっとの時代の移り変わりには影響を受けないような技術や知識こそがこれから求められているのかもしれません。

本連載の今後の予定：「CGへの扉」では、単なるAIの話題とは少し異なり、CG/VFX, アートの文脈から話題を切り取り紹介していきます。映像制作の現場におけるAI活用や、AIで価値が高まった先進的なツール、これからの可能性を感じさせるような話題、テクノロジーの話題にご期待ください。なにか取り上げて欲しいテーマやご希望などがございましたら、ぜひ編集部までお知らせください。

CGへの扉：

Vol.54：SIGGRAPH 2023基調講演における注目のAIトピック

Vol.53：CGの祭典SIGGRAPH50周年にみるAIの台頭

Vol.52：制作の現場に進出しつつあるAI

Vol.51：広告産業の事例が教えてくれる創造性を加速させるAIの活用法

Vol.50：脅威論がある一方で公式化する動きも。生成系AIに対する各界の反応

Vol.49：AI時代の勝者NVIDIA #GTC2023 レポート

Vol.48：頭の中を映像化

Vol.47：Gen-1登場。映像が映像を作る時代に

Vol.46：AIを活用したCG論文紹介 #SIGGRAPHAsia2022 より

Vol.45：大規模言語モデルChatGPTは仲間？ライバル？

Vol.44：AdobeMAX2022開催。SneaksよりAI活用の方向性を知る

Vol.43：AI絵師は3DCGの領域へ

≫≫すべてのバックナンバーはこちらから

Contributor：安藤幸央