モリカトロン株式会社運営「エンターテインメント×AI」の最新情報をお届けするサイトです。

TAG LIST
CG機械学習CGへの扉ディープラーニング安藤幸央GAN月刊エンタメAIニュース河合律子OpenAI音楽ニューラルネットワーク強化学習三宅陽一郎NVIDIA吉本幸記人工知能学会FacebookQA敵対的生成ネットワークスクウェア・エニックス森川幸人モリカトロンAIラボインタビュー自然言語処理ルールベースDeepMindキャラクターAIシナリオGoogleGPT-3大内孝子AIと倫理映画NFTグーグルStyleGAN自動生成倫理デバッグゲームプレイAIメタAICEDEC2019アートプロシージャルSIGGRAPH遺伝的アルゴリズムDALL-E深層学習マイクロソフトビヘイビア・ツリーCEDEC2021CEDEC2020ゲームAI不完全情報ゲームVRナビゲーションAI畳み込みニューラルネットワークCLIPロボットDALL-E2ディープフェイクGDC 2021JSAI2022VFXメタバースGDC 2019マルチエージェントボードゲームNPC画像生成テキスト画像生成懐ゲーから辿るゲームAI技術史CNNデジタルツインテストプレイモリカトロンUnityAIアート小説ファッション鴫原盛之HTN階層型タスクネットワークJSAI2020TensorFlowBERTAdobeMicrosoftイベントレポート対話型エージェント著作権水野勇太アニメーションガイスターStyleGAN2toioソニーJSAI2021スポーツ研究シムピープルマンガ汎用人工知能マーケティングGDC SummerインタビューバーチャルヒューマンブロックチェーンMidjourneyアストロノーカNVIDIA OmniverseeスポーツAmazonロボティクスeSportsCEDEC2022DQNBLUE PROTOCOLシーマンMinecraftアバターUbisoftGenvid TechnologiesAlphaZeroTransformerGPT-2カメラ環世界中島秀之哲学DARPAドローンシムシティバイアスMCS-AI動的連携モデルTEZUKA2020AI美空ひばり手塚治虫スパーシャルAIElectronic ArtsメタデータLEFT 4 DEAD通しプレイOpenAI Five本間翔太CMピクサープラチナエッグイーサリアム作曲ボエダ・ゴティエビッグデータ中嶋謙互Amadeus Codeデータ分析Microsoft AzureキャリアナラティブアーケードゲームOmniverse ReplicatorWCCFレコメンドシステムNVIDIA DRIVE SimWORLD CLUB Champion FootballNVIDIA Isaac Simセガ柏田知大軍事サイバーエージェント田邊雅彦トレーディングカードトレカ音声認識PyTorchStable Diffusion眞鍋和子バンダイナムコスタジオaibo合成音声Meta齊藤陽介マインクラフトお知らせチャットボットサルでもわかる人工知能VAEOmniverseリップシンキングUbisoft La Forge自動運転車ワークショップメタ知識表現ウォッチドッグス レギオンIGDAどうぶつしょうぎEpic Gamesジェイ・コウガミ音楽ストリーミングMIT徳井直生マシンラーニングRival Peakクラウド対話エンジン斎藤由多加リトル・コンピュータ・ピープルコンピューティショナル・フォトグラフィーゴブレット・ゴブラーズ絵画AIりんなシミュレーション完全情報ゲーム坂本洋典釜屋憲彦ウェイポイントパス検索対談藤澤仁生物学GTC 2022画像認識GTC2022StyleCLIPDeNA長谷洋平masumi toyota宮路洋一OpenSeaGDC 2022理化学研究所教育TextWorldSIGGRAPH ASIAMagentaSFELYZA PencilGTC2021CycleGANデータマイニングNetHackはこだて未来大学フェイクニュースエージェントRPGSIGGRAPH 2022AIボイスアクターNVIDIA CanvasImagenGPUALifeZork人工生命オルタナティヴ・マシンサウンドスケープASBS栗原聡モーションキャプチャーぱいどんテキスト生成ナビゲーションメッシュ松井俊浩バンダイナムコ研究所ELYZAフルコトELYZA DIGEST3D音声合成西成活裕Apex LegendsELIZA群衆マネジメントNinjaコンピュータRPGライブビジネスアップルタウン物語新型コロナKELDIC周済涛メロディ言語清田陽司ゲームTENTUPLAYサイバネティックスMARVEL Future FightAstro人工知能史タイムラプスEgo4DAI哲学マップバスキア星新一日経イノベーション・ラボStyleGAN-XL敵対的強化学習StyleGAN3階層型強化学習GOSU Data LabGANimatorWANNGOSU Voice AssistantVoLux-GAN竹内将SenpAI.GGProjected GANMobalyticsSelf-Distilled StyleGAN馬淵浩希Cygamesニューラルレンダリング岡島学AWS SagemakerPLATO映像セリア・ホデント形態素解析frame.ioUXAWS LambdaFoodly誤字検出森山和道認知科学中川友紀子ゲームデザインSentencePieceアールティLUMINOUS ENGINELuminous ProductionsBlenderBot 3パターン・ランゲージ竹村也哉Meta AIちょまどマーク・ザッカーバーグGOAPWACULAdobe MAX 2021自動翻訳MILE模倣学習AIライティングOmniverse AvatarAIのべりすとFPSNVIDIA RivaQuillBotマルコフ決定過程NVIDIA MegatronCopysmithNVIDIA MerlinJasperスタンフォード大学NVIDIA Metropolisパラメータ設計テニスバランス調整協調フィルタリング人狼知能テキサス大学AlphaDogfight TrialsAI Messenger VoicebotエージェントシミュレーションOpenAI CodexStarCraft IIHyperStyleMax CooperFuture of Life InstituteRendering with StyleメディアアートIntelDisney類家利直LAIKADisneyリサーチヴィトゲンシュタインRotomationGauGAN論理哲学論考GauGAN2京都芸術大学ドラゴンクエストライバルズ画像言語表現モデル不確定ゲームSIGGRAPH ASIA 2021PromptBaseDota 2モンテカルロ木探索ディズニーリサーチMitsuba2バンダイナムコネクサスソーシャルゲームEmbeddingワイツマン科学研究所ユーザーレビューGTC2020CG衣装mimicNVIDIA MAXINEVRファッションBaidu淡路滋ビデオ会議ArtflowERNIE-ViLGグリムノーツEponym古文書ゴティエ・ボエダ音声クローニング凸版印刷Gautier Boeda階層的クラスタリングGopherAI-OCR画像判定JuliusSIE鑑定ラベル付けTPRGOxia Palus大澤博隆バーチャル・ヒューマン・エージェントtoio SDK for UnityArt RecognitionSFプロトタイピングクーガー田中章愛実況パワフルサッカー石井敦銭起揚NHC 2021桃太郎電鉄茂谷保伯池田利夫桃鉄GDMC新刊案内パワサカマーベル・シネマティック・ユニバースコナミデジタルエンタテインメント成沢理恵MITメディアラボMCU岩倉宏介アベンジャーズPPOマジック・リープDigital DomainMachine Learning Project CanvasMagic Leap OneMagendaMasquerade2.0国立情報学研究所ノンファンジブルトークンDDSPフェイシャルキャプチャー石川冬樹サッカーモリカトロン開発者インタビュー里井大輝Kaggle宮本茂則バスケットボール山田暉Assassin’s Creed OriginsAI会話ジェネレーターSea of ThievesGEMS COMPANYmonoAI technologyLSTMモリカトロンAIソリューション初音ミクOculusコード生成AI転移学習テストAlphaCodeBaldur's Gate 3CodeforcesCandy Crush Saga自己増強型AISIGGRAPH ASIA 2020COLMAPADOPデバッギングBigGANGANverse3DMaterialGANRNNグランツーリスモSPORTReBeLグランツーリスモ・ソフィーGTソフィーVolvoFIAグランツーリスモチャンピオンシップRival PrakDGX A100VTuberユービーアイソフトWebcam VTuber星新一賞北尾まどかHALO市場分析将棋メタルギアソリッドVフォートナイトFSMRobloxナップサック問題Live Nation汎用言語モデルWeb3.0AIOpsSpotifyスマートコントラクトReplica StudioAWSamuseChitrakarQosmo巡回セールスマン問題ジョルダン曲線メディア5GMuZero政治クラウドゲーミングがんばれ森川君2号和田洋一リアリティ番組Stadiaジョンソン裕子MILEsNightCafeインタラクティブ・ストリーミングLuis Ruizインタラクティブ・メディアポケモンCodexシーマン人工知能研究所東京工業大学Ludo博報堂ラップSIGGRAPH 2019ArtEmisZ世代AIラッパーシステムARrinnaGROVERプラスリンクス ~キミと繋がる想い~FAIRSTCチート検出Style Transfer ConversationオンラインカジノRCPアップルRealFlowRinna Character PlatformiPhoneデジタルヒューマンDeep FluidsSoul MachinesMeInGameAmeliaAIGraphブレイン・コンピュータ・インタフェースバーチャルキャラクターBCIGateboxLearning from VideoANIMAK予期知能逢妻ヒカリセコムユクスキュルバーチャル警備システムカント損保ジャパン上原利之ドラゴンクエストエージェントアーキテクチャアッパーグラウンドPAIROCTOPATH TRAVELER西木康智OCTOPATH TRAVELER 大陸の覇者Siemensアルスエレクトロニカ2019品質保証StyleRigAutodesk逆転オセロニアBentley Systemsワールドシミュレーター奥村エルネスト純いただきストリートH100齋藤精一大森田不可止COBOL高橋智隆DGX H100ロボユニザナックDGX SuperPOD泉幸典仁井谷正充クラウドコンピューティングロボコレ2019Instant NeRFartonomousbitGANsぎゅわんぶらあ自己中心派Azure Machine Learning意思決定モデル脱出ゲームHybrid Reward Architectureコミュニティ管理ウロチョロスSuper PhoenixSNSProject Malmoオンラインゲーム気候変動Project PaidiaEarth-2Project Lookoutマックス・プランク気象研究所Watch Forビョルン・スティーブンスBing気象モデルLEFT ALIVE気象シミュレーション長谷川誠ジミ・ヘンドリックス環境問題Baby Xカート・コバーンエコロジーロバート・ダウニー・Jr.エイミー・ワインハウスSDGsYouTubeダフト・パンクメモリスタGlenn MarshallThe Age of A.I.Story2Hallucination音声変換レコメンデーションJukebox松尾豊Veap JapanEAPテンセントSIFT福井千春DCGAN医療MOBADANNCEメンタルケア人事ハーバード大学Edgar Handy研修デューク大学Netflixmynet.aiローグライクゲーム東京大学東京理科大学人工音声NeurIPS 2021産業技術総合研究所リザバーコンピューティングプレイ動画ヒップホップキャラクターモーションソニーマーケティングサイレント映画もじぱNBA環境音暗号通貨現代アートFUZZLEAlteration粒子群最適化法進化差分法オープンワールド群知能下川大樹AIFAウィル・ライト高津芳希P2E大石真史BEiTStyleGAN-NADAレベルデザインDETRゲームエンジンSporeUnreal Engineデノイズ南カリフォルニア大学Unity for Industry画像処理SentropyGLIDECPUDiscordAvatarCLIPSynthetic DataCALMプログラミングサム・アルトマンソースコード生成LaMDAGMAIシチズンデベロッパーSonanticTRPGGitHubCohereウィザードリィMCN-AI連携モデルマジック:ザ・ギャザリングAI DungeonUrzas.ai介護西川善司並木幸介Kikiサムライスピリッツ森寅嘉Zoetic AIゼビウスSIGGRAPH 2021ペットストリートファイター半導体Digital Dream LabsTopaz Video Enhance AICozmoDLSSタカラトミー山野辺一記NetEaseLOVOT大里飛鳥DynamixyzMOFLINRomiU-Netミクシィ13フェイズ構造アドベンチャーゲームユニロボットADVユニボXLandGatoAGI手塚眞DEATH STRANDINGマルチモーダル不気味の谷Eric Johnson汎用強化学習AIデザインOculus Questコジマプロダクションロンドン芸術大学生体情報デシマエンジンGoogle BrainインディーゲームSound Control写真高橋ミレイSYNTH SUPER照明Maxim PeterKarl SimsJoshua RomoffArtnomeハイパースケープICONATE山崎陽斗深層強化学習立木創太松原仁浜中雅俊ミライ小町武田英明テスラ福井健策GameGANパックマンTesla BotNEDOTesla AI DayWikipediaソサエティ5.0SphereSIGGRAPH 2020バズグラフXaver 1000ニュースタンテキ養蜂東芝BeewiseDIB-R倉田宜典フィンテック投資韻律射影MILIZE広告韻律転移三菱UFJ信託銀行

リアルタイム生成も可能に。進化する2Dto3D生成AIの最新研究紹介

2022.2.21アート

リアルタイム生成も可能に。進化する2Dto3D生成AIの最新研究紹介

CGやVFXの進化にAIが大きく貢献しているのは周知の通りですが、こうしたグラフィックAIの研究分野のひとつとして2D画像から3D画像や3Dオブジェクトを生成するものがあります。モリカトロンAIラボでは2020年7月にこの研究分野に関して特集しましたが、2022年2月時点ではさらに進化を遂げています。本稿では、2Dto3D生成AIの最新研究を3つほど紹介します。

関連記事:2D画像だけで大丈夫。3D画像や3Dオブジェクトを自動生成するAIまとめ

入力画像を増やせばさらにフォトリアルに

科学メディアNew Scientistは2021年10月25日、ドイツのエアランゲン・ニュルンベルク大学のDarius Rückert氏らの研究チームが開発したレンダリングモデルを紹介した記事を公開しました。紹介されたモデルは、複数の2D画像を入力すると視点移動可能な3D画像を生成する、というものです。

ADOP(Approximate Differentiable One-Pixel Point Rendering)と略記される以上のレンダリングモデルの基本的な仕組みを要約すると、任意の枚数の画像とその画像を撮ったカメラの位置等の撮影情報のデータセットから新たな画像と撮影に関する情報を推測したうえで、入力データセットと生成した画像情報にもとづいて視点移動可能な3D画像を合成するのです。

Rückert氏によれば、ADOPは理論上2枚の画像からだけでも視点移動可能な3D画像を生成できるが、入力画像が多ければ多いほど画質は向上してフォトリアルなものになる、とのこと。新たな画像情報を推測すると言っても、入力データから推測できないような情報は得られないのです。こうした同モデルの性能を体験できるように、New Scientistの記事では300~350枚の画像から合成された3D画像を収録した動画が掲載されています。

ちなみに、3D画像の生成にはオープンソースのグラフィックツールであるCOLMAPが使われています。同ツールは、任意のオブジェクトをさまざまな角度から撮影した画像を入力データとして与えると、新たな視点からの画像を生成したうえでオブジェクトを描画するというものです。

参考論文:ADOP: Approximate Differentiable One-Pixel Point Rendering

参考Webページ:ADOPのGitHub

Omniverseの機能として使用可能

大手GPUメーカーのNVIDIA Japanは2021年4月21日、仮想空間開発プラットフォームOmniverseの拡張機能のひとつであるGANverse3Dを紹介するブログ記事を公開しました。この機能は、1枚の2D画像から3Dオブジェクトを生成するものです。同記事では、1枚の自動車の2D画像から海外テレビドラマ『ナイトライダー』に登場した知性ある自動車「K.I.T.T.」を生成する事例が掲載されています。

2D画像から3Dオブジェクトを生成するAIを開発する場合、従来はShapeNetのような3Dオブジェクトに関する学習データを使うか、さまざまなオブジェクトを複数の角度から撮影したデータセットを用意する必要がありました。前者の場合では学習範囲に限界があり、後者では学習データの用意に膨大な労力を要するという欠点がありました。

NVIDIAの研究チームは、GANverse3Dの開発にあたり学習データをWeb上にある2D画像から生成した3Dオブジェクトを集めて用意しました。2D画像からの3Dオブジェクトの生成にあたっては、GANを使って1枚の2D画像から撮影角度をさまざまに変えた2D画像を生成したことによって可能となりました。こうした学習データの作成方法を使えば、圧倒的に広範囲にわたる3Dオブジェクトを2D画像から生成できるようになります。ちなみに、前述のK.I.T.T.は5万5,000枚の自動車の画像にもとづいて生成されました。

以上のようなGANverse3Dを使えば、例えばインダストリアルデザイナーが描いたラフスケッチから素早く3Dオブジェクトを生成して、製品デザインの共有をはかるといったことができるようになります。

ほぼリアルタイムに3Dオブジェクトを生成

MITをはじめとした複数の組織から構成された研究チームは2021年6月、ほぼリアルタイムに1枚の2D画像から3Dオブジェクトを生成するLight Field Networks(略してLFN)に関する論文を発表しました。NeurlPS 2021に採択された同論文によると、リアルタイムの3Dオブジェクト生成が可能となったのは、LFNと従来のレンダリングモデルのあいだに演算量に関する大きな違いがあるからです。

従来のレンダリングモデルでは、任意の1本の光線にプロットされる生成対象となる3Dオブジェクトの情報は、数百回の演算によって算出されていました(画像右上を参照)。対してLFNでは、1回の演算でレンダリングに必要な情報を算出するのです(画像右下を参照)。

以上のようにLFNは任意の1本の光線に関して高速なレンダリングを可能とするのですが、3Dオブジェクトを正しくレンダリングするには複数の光線にもとづく必要があります。この問題に対して、研究チームは1本の光線から複数の光線を再構成できるようにする事前学習を実行しました。LFNと事前学習の採用によって、最終的に従来のレンダリングモデルに比べて大幅に演算負荷が軽くなったのでほぼリアルタイムの3Dオブジェクト生成に成功したのです。

研究チームは、以上のLFNを活用したレンダリングに関する課題として、複数のオブジェクトが複雑に重なり合ったようなシーンの2D画像からでも3Dオブジェクトを生成できるようにすることを挙げています。また、2D画像にもとづいた3Dオブジェクト生成がさらに進化すると、なりすましに悪用されるリスクを指摘しています。例えば、ある人物の横顔を盗撮して、その盗撮画像から3Dの顔を生成して正面顔画像を取得することも技術的には可能になるかも知れないのです。

参照論文:Light Field Networks: Neural Scene Representations with Single-Evaluation Rendering

参照Webページ:Light Field Networks: Neural Scene Representations with Single-Evaluation Rendering NeurIPS 2021 (Spotlight)

以上のように2Dto3D生成AIは、CGやVFXに関する専門知識がなくても気軽に3D画像や3Dオブジェクトを制作できるように進化しています。こうした進化が今後も継続すれば、簡単に3D画像や3Dオブジェクトを生成してユーザを楽しませるスマホアプリが誕生するのではないでしょうか。

Writer:吉本幸記

RELATED ARTICLE関連記事

CGへの扉 Vol.38:AIで作りAIで届ける映像作品

2022.5.16アート

CGへの扉 Vol.38:AIで作りAIで届ける映像作品

CGへの扉 Vol.41:AIが促進させるCG研究。SIGGRAPH2022論文より

2022.8.16アート

CGへの扉 Vol.41:AIが促進させるCG研究。SIGGRAPH2022論文...

CGへの扉 Vol.39:言葉から生み出されるアートとは?

2022.6.17アート

CGへの扉 Vol.39:言葉から生み出されるアートとは?

RANKING注目の記事はこちら