モリカトロン株式会社運営「エンターテインメント×AI」の最新情報をお届けするサイトです。

TAG LIST
ディープラーニング機械学習CGCGへの扉安藤幸央GANニューラルネットワーク月刊エンタメAIニュース強化学習三宅陽一郎モリカトロンAIラボインタビュー敵対的生成ネットワーク音楽OpenAIQAスクウェア・エニックスシナリオNVIDIAデバッグCEDEC2019河合律子プロシージャルDeepMind人工知能学会FacebookキャラクターAIルールベースビヘイビア・ツリーGoogleCEDEC2020ゲームAI映画SIGGRAPH遺伝的アルゴリズム不完全情報ゲームメタAIナビゲーションAI畳み込みニューラルネットワーク深層学習マイクロソフトAIと倫理グーグルGDC 2021GDC 2019マルチエージェントVR森川幸人ボードゲーム自然言語処理ロボットStyleGAN自動生成GPT-3CNNVFXモリカトロンゲームプレイAIファッションHTN階層型タスクネットワークJSAI2020Microsoftイベントレポート水野勇太アニメーションガイスターNPCCLIPアートtoio吉本幸記JSAI2021スポーツディープフェイク汎用人工知能TensorFlowGDC SummerテストプレイeSportsBLUE PROTOCOL小説DALL-EStyleGAN2AlphaZeroカメラ環世界中島秀之懐ゲーから辿るゲームAI技術史研究DARPAドローンAI美空ひばり手塚治虫メタデータ通しプレイOpenAI Five本間翔太CM倫理ピクサーAdobe作曲中嶋謙互Amadeus CodeMicrosoft Azureキャリアeスポーツ音声認識PyTorchDQN眞鍋和子バンダイナムコスタジオシーマンUnity齊藤陽介マインクラフトお知らせAIアートサルでもわかる人工知能VAEUbisoftUbisoft La ForgeワークショップGenvid Technologies知識表現ウォッチドッグス レギオンIGDAどうぶつしょうぎジェイ・コウガミ音楽ストリーミングマシンラーニングクラウドコンピューティショナル・フォトグラフィーGPT-2完全情報ゲーム坂本洋典釜屋憲彦ウェイポイントパス検索藤澤仁生物学画像認識NFT長谷洋平鴫原盛之masumi toyota宮路洋一SIGGRAPH ASIAソニーCycleGANフェイクニュースシムピープルGPUALife人工生命オルタナティヴ・マシンサウンドスケープASBSマンガぱいどんTEZUKA2020ナビゲーションメッシュ松井俊浩スパーシャルAIElectronic ArtsマーケティングApex LegendsNinjaゲームTENTUPLAYMARVEL Future Fightタイムラプスバスキアブロックチェーン階層型強化学習WANN竹内将馬淵浩希岡島学映像セリア・ホデントUX認知科学ゲームデザインLUMINOUS ENGINELuminous Productionsパターン・ランゲージちょまどビッグデータアストロノーカ模倣学習ナラティブFPSマルコフ決定過程スタンフォード大学パラメータ設計テニスバランス調整レコメンドシステム対話型エージェント協調フィルタリング人狼知能Amazon軍事AlphaDogfight TrialsエージェントシミュレーションStarCraft IIFuture of Life InstituteIntelロボティクスLAIKARotomationドラゴンクエストライバルズ不確定ゲームDota 2モンテカルロ木探索ソーシャルゲームEmbeddingGTC2020NVIDIA MAXINE淡路滋ビデオ会議グリムノーツゴティエ・ボエダGautier Boeda階層的クラスタリングaiboJuliusSIETPRGバーチャル・ヒューマン・エージェントtoio SDK for Unityクーガー田中章愛石井敦銭起揚茂谷保伯MinecraftGDMC成沢理恵MITメディアラボ著作権マジック・リープMagic Leap OneMagendaノンファンジブルトークンDDSPサッカー里井大輝KaggleバスケットボールAssassin’s Creed OriginsSea of ThievesGEMS COMPANYmonoAI technologyアバター初音ミクOculus転移学習テストBaldur's Gate 3Candy Crush SagaSIGGRAPH ASIA 2020デバッギングBigGANMaterialGANリップシンキングRNNReBeL自動運転車VolvoRival Prakユービーアイソフト北尾まどかHALO将棋メタルギアソリッドVFSMナップサック問題汎用言語モデルSpotifyMITReplica StudioamuseChitrakar巡回セールスマン問題ジョルダン曲線5GMuZeroクラウドゲーミングRival Peak和田洋一リアリティ番組Stadiaジョンソン裕子MILEs対話エンジンインタラクティブ・ストリーミング斎藤由多加インタラクティブ・メディアリトル・コンピュータ・ピープルシーマン人工知能研究所Ludoゴブレット・ゴブラーズTransformerSIGGRAPH 2019ArtEmis絵画ARGROVERFAIRAIりんなチート検出オンラインカジノアップルRealFlowiPhoneシミュレーションDeep FluidsMeInGameAIGraphブレイン・コンピュータ・インタフェースBCILearning from Video予期知能ユクスキュルカント哲学ドラゴンクエストエージェントアーキテクチャPAIROCTOPATH TRAVELER西木康智OCTOPATH TRAVELER 大陸の覇者アルスエレクトロニカ2019StyleCLIPDeNAStyleRig逆転オセロニア奥村エルネスト純いただきストリート齋藤精一大森田不可止高橋智隆ロボユニザナック泉幸典仁井谷正充ロボコレ2019ぎゅわんぶらあ自己中心派Azure Machine Learning意思決定モデル脱出ゲームHybrid Reward ArchitectureウロチョロスSuper Phoenix理化学研究所Project Malmo教育TextWorldProject PaidiaProject LookoutWatch ForBingLEFT ALIVE長谷川誠ジミ・ヘンドリックスBaby Xカート・コバーンロバート・ダウニー・Jr.エイミー・ワインハウスMagentaYouTubeダフト・パンクSFGlenn MarshallThe Age of A.I.Story2HallucinationレコメンデーションJukeboxGTC2021テンセントSIFTDCGANMOBADANNCE人事ハーバード大学研修デューク大学mynet.aiローグライクゲームNetHack人工音声NeurIPS 2021はこだて未来大学プレイ動画ヒップホップサイレント映画NBA環境音現代アートエージェント粒子群最適化法進化差分法群知能下川大樹ウィル・ライト高津芳希シムシティ大石真史BEiTレベルデザインDETRSporeAIボイスアクターデノイズ南カリフォルニア大学画像処理NVIDIA CanvasSentropyCPUDiscordZorkCALMプログラミングソースコード生成GMAIシチズンデベロッパーTRPGGitHubウィザードリィMCN-AI連携モデルAI DungeonMCS-AI動的連携モデル西川善司並木幸介サムライスピリッツ森寅嘉ゼビウスSIGGRAPH 2021ストリートファイター半導体Topaz Video Enhance AI栗原聡DLSS山野辺一記NetEase大里飛鳥DynamixyzモーションキャプチャーU-Net13フェイズ構造アドベンチャーゲームADVXLandAGI手塚眞DEATH STRANDING不気味の谷Eric JohnsonOculus Questコジマプロダクション生体情報デシマエンジンインディーゲーム写真高橋ミレイ照明Maxim PeterJoshua Romoffハイパースケープ山崎陽斗深層強化学習立木創太CEDEC2021バンダイナムコ研究所ミライ小町GameGANパックマンソサエティ5.0SIGGRAPH 2020DIB-R3D広告

CGへの扉 Vol.29:AIの恩恵を受けるCG研究の世界。#SIGGRAPH2021 論文より

2021.8.19アート

CGへの扉 Vol.29:AIの恩恵を受けるCG研究の世界。#SIGGRAPH2021 論文より

今年もすべてオンライン開催、CGの学会SIGGRAPH 2021

毎年7月から8月にかけて北米で開催されていたコンピュータグラフィックスに関する学会・展示会であるSIGGRAPHが、2021年も昨年に引き続き全面的にオンラインで開催されました。急にオンライン開催が決まった昨年比べ、今年はオンライン開催に向けて十分な準備期間があり、大規模なオンライン学会・展示会として充実した内容での開催となりました。

SIGGRAPH 2021 開催概要:https://s2021.siggraph.org/

昨年の SIGGRAPH 2020 紹介記事:CGへの扉 Vol.16:バーチャル開催SIGGRAPH論文を先取り

  1. 8月2日(米国時間)より、オンデマンドのいつでも見られるオンラインコンテンツの配信が開始
  2. 8月9日(米国時間)から13日の5日間は、インタラクティブな対話やQ&Aありのライブ配信を実施。ここでしか見られないものあり
  3. 10月29日(米国時間)まで、3か月間弱、上記開催期間中のライブ配信の収録も含め、オンデマンドのオンラインコンテンツが観られる

近年、三次元コンピュータグラフィックスの研究の世界でも機械学習をはじめとする人工知能技術は欠かせないものになってきています。○○GANとタイトルがついた研究は、たいてい Generative Adversarial Networks(敵対的生成ネットワーク)を活用した研究であり、従来型のアルゴリズムに比べ、精度やスピードの面で優れたものが多いのが特徴となっています。また最近の傾向としては、サンプルコードが公開され、追試や改造が可能になってきている点があげられます。これは「ベーパーウェア」と呼ばれる、研究がまだ構想段階で実際に動くものがまだない状態であることを避ける意味と、研究そのものが既存研究をベースにしたものであり、その分野の研究を促進させたいという意図の両方がふくまれているように考えられます。

本記事では、SIGGRAPH 2021 の論文発表より、人工知能によってCG研究が促進されたもの、人工知能がそのCG研究の根幹をなすもの、新しい取り組みに人工知能を活用しているCG研究などをご紹介します。今年は 444本の投稿から 149本の論文と、学会誌 ToG(Transactions on Graphics)から優秀論文 28本が採択されました。

SIGGRAPH 2021で発表される AIが関連したCG研究論文

StyleCariGAN: Caricature Generation via StyleGAN Feature Map Modulation

論文:https://www.arxiv-vanity.com/papers/2107.04331/
サンプルコード:https://github.com/PeterZhouSZ/StyleCariGAN

StyleCariGANは、1枚の写真から、欧米の新聞に掲載される風刺画のようなタッチの画像を生成する手法です。画像生成に広く活用されているStyleGANは、極端な変形を不得意としていますが、StyleCariGANでは変形を専用に学習するCycleGANを用意し、StyleGANと協調させて利用することで、当該結果を導き出すというものです。

写真から似顔絵用の色を抽出し、似顔絵風のタッチに変換する部分と、似顔絵としての特徴を失わずに極端な形状の誇張を行う部分とを分けて扱うことで単なるデジタル変換ではない「似顔絵」としての表現が可能になりました。画像にあるように従来型のアルゴリズムよりも良い結果が導き出せており、StyleCariGANとInterFaceGANを組み合わせることで、さらに似顔絵らしく顔の特徴を強調することができています。

SP-GAN: Sphere-guided 3D Shape Generation and Manipulation

論文:https://dl.acm.org/doi/abs/10.1145/3450626.3459766

SP-GANは、点群の集合による三次元形状の形成とその形状操作についての研究です。例えば二次元の高精細な顔写真を機械学習で自動生成する手法と同様に、三次元形状を自動生成させるにはどのようなアプローチを取ると良いのかを研究したものです。三次元形状の場合、人の顔のように決まったパーツが誰にでも存在するわけではありません。例えば二人の顔画像から両方の特徴を合成した中間の顔画像を作る場合と同じように、二つの形状から両方の特徴をもった中間の形状を作る場合に利用できるのがSP-GANです。従来型の研究に比べ、三次元形状が破綻せず、細かなディテールが正しく表現されるのが特徴です。

SWAGAN: A Style-based Wavelet-driven Generative Model

論文:https://arxiv.org/abs/2102.06108
サンプルコード:https://github.com/rinongal/swagan

SWAGANは、StyleGan2の課題を解決し、画像生成の品質を上げるアプローチです。SWAGANはStyleGanの進化版StyleGan2の改善研究で、機械学習時のニューラルネットワーク上に生じてしまうバイアス(不要な解釈)を回避し、StyleGANに足りない成分を補うことで、納得感のある画像生成されています。StyleGAN2の構造をWavelet係数の予測に置き換えたことで、実行時間が短く良質な結果に素早くたどり着けるようになりました。画像変換時の各ステップで、潜在的な表現を強調し続けることで、必要な表現が失われず、視覚的な品質向上が感じ取れる結果が得られていまる。単なる画像補完よりも自然な中間画像が得られています。

Mixture of Volumetric Primitives for Efficient Neural Rendering

動画:https://www.facebook.com/watch/?v=965416270875151
論文:https://dl.acm.org/doi/10.1145/3450626.3459863

髪の毛や豊かな表情をもった人間の3Dモデル表現において、単なる三角ポリゴンの集合で滑らかな表現するには膨大な形状データ、膨大なアニメーションデータと計算資源を必要とします。その一方、すべてを現実に近い中身のある立体物の集合として扱うとしてもメモリ効率が悪く、解像度が荒くなってしまいます。こういった現状の課題を解決するのが本研究で考えられている工夫です。本研究ではMVP(Mixture of Volumetric Primitives)と呼ばれる単純な立体形状の組み合わせによって、効率の良い表現が可能になっています。

荒く分割された立体形状を元の高精細の表現に戻す、エンコードとデコードの部分でディープラーニングが活用されています。このアプローチは液体や粘性のある流体を扱う時の方法と似ています。流体計算において例えば1024×1024×1024に分割された空間内すべての事象を計算していては、メモリ効率も計算効率も悪く、膨大な計算資源が消費されてしまいます。

そのため、液体の表面など変化量の多い部分に計算資源を集中させ、その部分だけ細かく解像度が高い状態計算し、その他の部分は解像度が低いまま扱い、補完して扱うことで、トータルの計算量を減らすことができます。厳密に比較すると多少の誤差は生じますが、CG表現においては大きな問題とはならず、完成映像が手早く入手できる方が重要視されています。本研究でも膨大な計算機資源が確保できないリアルタイムCG、特にVRやARでのキャラクター表現での利用が想定されています。

Choreomaster : choreography-oriented music driven dance synthesis

論文:https://netease-gameai.github.io/ChoreoMaster/Paper.pdf
サンプルコード:https://netease-gameai.github.io/ChoreoMaster/(近日公開予定)

Choreomaster は既存の音楽に合わせて3Dモデルのダンスの振り付けアニメーションを生成する仕組みです。音楽を分解しリズムや抑揚を解析した上で、あらかじめ用意してあるいくつかのモーションを適切に当てはめていきます。ダンスミュージックだけでなく、元の音楽によっては民族舞踊のような踊りや、アイドルっぽい踊りなどにも適応しています。コレオグラフィーと呼ばれる振り付けは、本来振り付けやダンスを専門とするコレオグラファーと呼ばれる職種の領域でしたが、Choreomaster では、実際の振り付けの雰囲気にとても近いアニメーションが生み出されています。

ゲームやCG映画の世界でダンスのニーズはとても高いにかかわらず、自動生成やアニメーターによる手づけのアニメーションは難しく、実際のダンスに長けたダンサーの動きをモーションキャプチャーし、デジタルデータとして取り扱っているのが現状です。しかし人間の動きを3DCGのキャラクタに当てはめた時に手足の動きが不自然だったり、キレが失われてしまっていたりと課題は多く、実現が難しい分野のひとつです。Choreomasterでは単なる動きのツギハギではなく、ダンス音楽とフレーズやリズムと動きとの関係性を重視した手法を用いることで、自然で、かつプロダクションレベルのダンスモーションの生成が可能になりました。

Endless Loops: Detecting and Animating Periodic Patterns in Still Images

 

論文:Endless Loops: Detecting and Animating Periodic Patterns in Still Images
論文(資料):https://pub.res.lightricks.com/endless-loops/
サンプルコード:コードは未公開。Motion Loop(iOSAndroid)というアプリで試せます

Endless Loopsは、最近SNS等で流行っている静止画の一部が動画のようにループする「シネマグラフ」と呼ばれる映像生成のための手法です。1枚の画像から、周期的に繰り返している部分を見つけ出し、その部分を自動またはユーザーが指定した方向に動かすことができます。本研究の成果はすでにスマートフォンのアプリとして約14万人のユーザーに使われており、1枚の写真から1秒程度でループ動画が生成できる点も人気のようです。Endless Loops では、必ずしも現実のように動くわけではなく、時には動かないはずのものが動いたり、シュールな映像が作り出させるのも人気の理由のひとつだそうです。利用者は「正解」だけを求めているわけではなく、求めるニーズはそう単純ではなく複雑なのかもしれません。

Only a Matter of Style: Age Transformation Using a Style-Based Regression Model

論文:https://arxiv.org/abs/2102.02754
サンプルコード:https://github.com/yuval-alaluf/SAM

本研究SAM(Style-based Age Manipulation)は、人間の顔の年齢による変化のプロセスを細かく表現するための手法を提案するものです。事前に学習されたStyleGANを使った画像生成の表現力と、実際の顔画像をStyleGANで直接エンコードする方法を組み合わせ、もとの顔写真の年齢をもとに、目的の年齢への変化を回帰的に繰り返すことで生成しています。よって従来難しかった人間の加齢を画像間の変換で行うことができるようになっています。

人は加齢によって成長し、顔のシワといったわかりやすい特徴だけでなく、顔の特徴や頭の大きさや形も少しづつ変化していきます。SAMでは、顔画像から年齢的な要素のほか、髪型や表情、ヒゲの有無などの要素を分離した上で画像変換を適応しており、良質の結果が得られています。SAMのサンプル実装は、画像生成のためのStyleGAN2や年齢推定で使われる VGG(Visual Geometry Group) のサンプル実装であるHRFAE(High Resolution Face Age Editing)など、多くの先行研究をベースにして作られています。よく「ハリウッド映画で活躍した子役が大人になって、全然変わってしまった!」などと騒がれますが、この研究を適応すれば、年寄りメイクも若返りも自由自在かもしれません。

SIGGRAPH 2021 から、人工知能関連のコースを紹介

SIGGRAPH 2021 の各種セッションの中には「コース」と呼ばれるチュートリアルやレクチャーの受けられるプログラムも用意されています。コースの中でも人工知能系の内容を取り上げたものは次の2コース。受講にはSIGGRAPH 2021への登録(有料)が必要です。

  1. New techniques in interactive character animation(インタラクティブ・キャラクタ・アニメーションの新技法)
    コース内容の概要:https://dl.acm.org/doi/pdf/10.1145/3450508.3464604

VRをふくめた3DCGにおける人体の動きに関して、ディープラーニングを活用する場合の利点・欠点、実装方法などについて学べる。

  1. An introduction to deep learning on meshes(メッシュのディープラーニング基礎)
    コース内容の概要:https://dl.acm.org/doi/pdf/10.1145/3450508.3464569

三次元形状の表現に使われる三角形形状の集合の取り扱いに機械学習を活用する手順の紹介。本コースで使われたデータセットやデモプログラムはオンライン上に公開されている

しばらく全面オンライン開催が続いた SIGGRAPH ですが、今年2021年冬12月14〜17日に東京で開催される SIGGRAPH ASIA 2021は、東京国際フォーラムでの開催とオンラインでの開催とが同時に行われるハイブリッド開催が決まりました。次回の連載「CGへの扉」では SIGGRAPH 2021 の基調講演のひとつからディープフェイクについて取り上げたカリフォルニア大学バークレー校ハニー・ファリド氏の講演を中心に取り上げる予定です。

本連載の今後の予定:「CGへの扉」では、単なるAIの話題とは少し異なり、CG/VFX, アートの文脈から話題を切り取り紹介していきます。映像制作の現場におけるAI活用や、AIで価値が高まった先進的なツール、これからの可能性を感じさせるような話題、テクノロジーの話題にご期待ください。何か取り上げて欲しいテーマやご希望などがございましたら、ぜひ編集部までお知らせください。

CGへの扉

Vol.28:定番手法の他分野応用、自然言語処理AI由来の画像処理AI

Vol.27:眼に追いつけ追い越せ? カメラは機械学習により進化

Vol.26:アートを加速させるAIの役割 #GTC2021 レポート

Vol.25:変幻自在の顔も実は人工知能

Vol.24:自然現象もすべて人工知能で再現する時代

Vol.23:AIで人の眼に進化するカメラ

Vol.22:言葉から画像を生成、DALL-Eはクリエイティブなのか?

Vol.21:人工知能+3DCGの最新論文をまとめて紹介 #SIGGRAPHAsia2020

Vol.20:Adobeと人工知能の将来を見極める #AdobeMAX2020

Vol.19:コミュニケーションツールの新境地「NVIDIA MAXINE」

Vol.18:SIGGRAPH2020レポート 映像制作の現場で活躍する人工知能

Vol.17:描画を進化させるTensorFlow Graphicsの真価

≫≫すべてのバックナンバーはこちらから

Contributor:安藤幸央

RELATED ARTICLE関連記事

CGへの扉 Vol.26:アートを加速させるAIの役割 #GTC2021 レポート

2021.5.14アート

CGへの扉 Vol.26:アートを加速させるAIの役割 #GTC2021 レポー...

CGへの扉 Vol.9:現実の課題を解決するCGとAIの相互作用 #SIGGRAPHAsia2019

2019.12.17アート

CGへの扉 Vol.9:現実の課題を解決するCGとAIの相互作用 #SIGGRA...

CGへの扉 Vol.22:言葉から画像を生成、DALL-Eはクリエイティブなのか?

2021.1.14アート

CGへの扉 Vol.22:言葉から画像を生成、DALL-Eはクリエイティブなのか...

RANKING注目の記事はこちら