モリカトロン株式会社運営「エンターテインメント×AI」の最新情報をお届けするサイトです。

TAG LIST
CG機械学習CGへの扉ディープラーニング安藤幸央GAN月刊エンタメAIニュース河合律子OpenAI音楽NVIDIAニューラルネットワーク強化学習三宅陽一郎吉本幸記Facebook人工知能学会自然言語処理大内孝子QA敵対的生成ネットワークGoogleGPT-3キャラクターAIスクウェア・エニックス森川幸人モリカトロンAIラボインタビュールールベースDeepMindシナリオAIと倫理グーグル映画倫理NFTDALL-E2StyleGAN自動生成デバッグゲームプレイAIメタAIロボット深層学習マイクロソフトCEDEC2019アートプロシージャルSIGGRAPH遺伝的アルゴリズムDALL-Eテキスト画像生成ビヘイビア・ツリーディープフェイクCEDEC2021CEDEC2020ゲームAIデジタルツインメタバース不完全情報ゲームVRナビゲーションAINPC畳み込みニューラルネットワークCLIPGDC 2021JSAI2022VFXGDC 2019マルチエージェントCEDEC2022ボードゲーム画像生成ファッション懐ゲーから辿るゲームAI技術史toioCNNAdobeテストプレイモリカトロンStable DiffusionUnity著作権AIアート小説鴫原盛之HTN階層型タスクネットワークJSAI2020TensorFlowBERTMicrosoftイベントレポート対話型エージェントロボティクス水野勇太アニメーションGenvid Technologiesガイスター画像生成AIStyleGAN2GTC2022教育ソニーJSAI2021スポーツ研究シムピープルマンガ汎用人工知能マーケティングGDC SummerインタビューバーチャルヒューマンブロックチェーンMidjourneyアストロノーカキャリアNVIDIA OmniverseeスポーツAmazoneSportsDQNBLUE PROTOCOLシーマンMinecraftアバターOmniverseUbisoftメタAlphaZeroTransformerGPT-2AIりんなカメラ環世界中島秀之哲学理化学研究所DARPAドローンシムシティImagenバイアスMCS-AI動的連携モデルモーションキャプチャーTEZUKA2020AI美空ひばり手塚治虫バンダイナムコ研究所スパーシャルAIElectronic ArtsメタデータLEFT 4 DEAD通しプレイOpenAI Five本間翔太CMピクサープラチナエッグイーサリアム作曲ボエダ・ゴティエビッグデータ中嶋謙互Amadeus Codeデータ分析Microsoft AzureMILEナラティブアーケードゲームOmniverse ReplicatorWCCFレコメンドシステムNVIDIA DRIVE SimWORLD CLUB Champion FootballNVIDIA Isaac Simセガ柏田知大軍事サイバーエージェント田邊雅彦トレーディングカードトレカ音声認識PyTorch眞鍋和子バンダイナムコスタジオaibo合成音声Meta齊藤陽介マインクラフトお知らせMagic Leap Oneチャットボットサルでもわかる人工知能VAE3DCGリップシンキングUbisoft La Forge自動運転車ワークショップ知識表現ウォッチドッグス レギオンIGDA秋期GTC2022どうぶつしょうぎEpic Gamesジェイ・コウガミ音楽ストリーミングMITAIロボ「迷キュー」に挑戦野々下裕子徳井直生マシンラーニング5GRival Peakクラウド対話エンジン斎藤由多加リトル・コンピュータ・ピープルコンピューティショナル・フォトグラフィーゴブレット・ゴブラーズ絵画rinnaシミュレーションデジタルヒューマン完全情報ゲーム坂本洋典釜屋憲彦ウェイポイントパス検索対談藤澤仁生物学GTC 2022画像認識SiemensStyleCLIPDeNA長谷洋平masumi toyota宮路洋一OpenSeaGDC 2022TextWorldSIGGRAPH ASIAEarth-2MagentaSFELYZA PencilGTC2021CycleGANデータマイニングNetHackはこだて未来大学キャラクターモーションフェイクニュースエージェントRPGSIGGRAPH 2022AIボイスアクターNVIDIA CanvasGPUALifeZork人工生命オルタナティヴ・マシンサウンドスケープASBS栗原聡ぱいどんテキスト生成不気味の谷ナビゲーションメッシュ松井俊浩ELYZAフルコトELYZA DIGEST3D音声合成西成活裕Apex LegendsELIZA群衆マネジメントNinjaコンピュータRPGライブビジネスアップルタウン物語新型コロナKELDIC周済涛メロディ言語清田陽司ゲームTENTUPLAYサイバネティックスMARVEL Future FightAstro人工知能史タイムラプスEgo4DAI哲学マップバスキア星新一日経イノベーション・ラボStyleGAN-XL敵対的強化学習StyleGAN3階層型強化学習GOSU Data LabGANimatorWANNGOSU Voice AssistantVoLux-GAN竹内将SenpAI.GGProjected GANMobalyticsSelf-Distilled StyleGAN馬淵浩希Cygamesニューラルレンダリング岡島学AWS SagemakerPLATO映像セリア・ホデント形態素解析frame.ioUXAWS LambdaFoodly誤字検出森山和道認知科学中川友紀子ゲームデザインSentencePieceアールティLUMINOUS ENGINELuminous ProductionsBlenderBot 3パターン・ランゲージ竹村也哉Meta AIちょまどマーク・ザッカーバーグGOAPWACULAdobe MAX 2021自動翻訳模倣学習AIライティングOmniverse AvatarAIのべりすとFPSNVIDIA RivaQuillBotマルコフ決定過程NVIDIA MegatronCopysmithNVIDIA MerlinJasperスタンフォード大学NVIDIA Metropolisパラメータ設計テニスバランス調整協調フィルタリング人狼知能テキサス大学AlphaDogfight TrialsAI Messenger VoicebotエージェントシミュレーションOpenAI CodexStarCraft IIHyperStyleMax CooperFuture of Life InstituteRendering with StyleメディアアートIntelDisney類家利直LAIKADisneyリサーチヴィトゲンシュタインRotomationGauGAN論理哲学論考GauGAN2京都芸術大学ドラゴンクエストライバルズ画像言語表現モデル不確定ゲームSIGGRAPH ASIA 2021PromptBaseDota 2モンテカルロ木探索ディズニーリサーチMitsuba2バンダイナムコネクサスソーシャルゲームEmbeddingワイツマン科学研究所ユーザーレビューGTC2020CG衣装mimicNVIDIA MAXINEVRファッションBaidu淡路滋ビデオ会議ArtflowERNIE-ViLGグリムノーツEponym古文書ゴティエ・ボエダ音声クローニング凸版印刷Gautier Boeda階層的クラスタリングGopherAI-OCR画像判定JuliusSIE鑑定ラベル付けTPRGOxia Palus大澤博隆バーチャル・ヒューマン・エージェントtoio SDK for UnityArt RecognitionSFプロトタイピングクーガー田中章愛実況パワフルサッカー石井敦銭起揚NHC 2021桃太郎電鉄茂谷保伯池田利夫桃鉄GDMC新刊案内パワサカマーベル・シネマティック・ユニバースコナミデジタルエンタテインメント成沢理恵MITメディアラボMCU岩倉宏介アベンジャーズPPOマジック・リープDigital DomainMachine Learning Project CanvasMagendaMasquerade2.0国立情報学研究所ノンファンジブルトークンDDSPフェイシャルキャプチャー石川冬樹サッカーモリカトロン開発者インタビュースパコン里井大輝Kaggle宮本茂則スーパーコンピュータバスケットボール山田暉松岡 聡Assassin’s Creed OriginsAI会話ジェネレーターTSUBAME 1.0Sea of ThievesTSUBAME 2.0GEMS COMPANYmonoAI technologyLSTMABCIモリカトロンAIソリューション富岳初音ミクOculusコード生成AISociety 5.0転移学習テストAlphaCode夏の電脳甲子園Baldur's Gate 3Codeforces座談会Candy Crush Saga自己増強型AItext-to-imageSIGGRAPH ASIA 2020COLMAPtext-to-3DADOPNVIDIA GET3DデバッギングBigGANGANverse3DDreamFusionMaterialGANRNNグランツーリスモSPORTAI絵師ReBeLグランツーリスモ・ソフィーUGCGTソフィーPGCVolvoFIAグランツーリスモチャンピオンシップStability AINovelAIRival PrakDGX A100NovelAI DiffusionVTuberユービーアイソフトWebcam VTuberモーションデータ星新一賞北尾まどかHALO市場分析ポーズ推定将棋メタルギアソリッドVフォートナイトメッシュ生成FSMメルセデス・ベンツRobloxMagic Leapナップサック問題Live NationEpyllion汎用言語モデルWeb3.0マシュー・ボールAIOpsムーアの法則SpotifyスマートコントラクトReplica StudioAWSamuseChitrakarQosmoAdobe MAX 2022巡回セールスマン問題Adobe MAXジョルダン曲線メディアAdobe ResearchMuZero政治Galacticaクラウドゲーミングがんばれ森川君2号pixiv和田洋一リアリティ番組映像解析Stadiaジョンソン裕子セキュリティMILEsNightCafe東芝デジタルソリューションズインタラクティブ・ストリーミングLuis RuizSATLYS 映像解析AIインタラクティブ・メディアポケモン3DスキャンCodexPFN 3D Scanシーマン人工知能研究所東京工業大学Ludo博報堂Preferred NetworksラップPFN 4D ScanSIGGRAPH 2019ArtEmisZ世代DreamUpAIラッパーシステムDeviantArtARWaifu DiffusionGROVERプラスリンクス ~キミと繋がる想い~元素法典FAIRSTCNovel AIチート検出Style Transfer ConversationOpen AIオンラインカジノRCPMicrosoft DesignerアップルRealFlowRinna Character PlatformイラストiPhoneCALADeep FluidsSoul Machines柿沼太一MeInGameAmeliaELSIAIGraphブレイン・コンピュータ・インタフェースバーチャルキャラクター大規模言語モデルBCIGateboxアフォーダンスLearning from VideoANIMAKPaLM-SayCan予期知能逢妻ヒカリPaLMセコムGitHub Copilotユクスキュルバーチャル警備システムCode as Policiesカント損保ジャパンCaP上原利之ドラゴンクエストエージェントアーキテクチャアッパーグラウンドPAIROCTOPATH TRAVELER西木康智OCTOPATH TRAVELER 大陸の覇者アルスエレクトロニカ2019品質保証StyleRigAutodesk逆転オセロニアBentley Systemsワールドシミュレーター奥村エルネスト純いただきストリートH100齋藤精一大森田不可止COBOL高橋智隆DGX H100ロボユニザナックDGX SuperPOD泉幸典仁井谷正充クラウドコンピューティングロボコレ2019Instant NeRFartonomousbitGANsぎゅわんぶらあ自己中心派Azure Machine Learning意思決定モデル脱出ゲームHybrid Reward Architectureコミュニティ管理ウロチョロスSuper PhoenixSNSProject Malmoオンラインゲーム気候変動Project PaidiaProject Lookoutマックス・プランク気象研究所Watch Forビョルン・スティーブンスBing気象モデルLEFT ALIVE気象シミュレーション長谷川誠ジミ・ヘンドリックス環境問題Baby Xカート・コバーンエコロジーロバート・ダウニー・Jr.エイミー・ワインハウスSDGsYouTubeダフト・パンクメモリスタGlenn MarshallThe Age of A.I.Story2Hallucination音声変換レコメンデーションJukebox松尾豊Veap JapanEAPテンセントSIFT福井千春DCGAN医療MOBADANNCEメンタルケア人事ハーバード大学Edgar Handy研修デューク大学Netflixmynet.aiローグライクゲーム東京大学東京理科大学人工音声NeurIPS 2021産業技術総合研究所リザバーコンピューティングプレイ動画ヒップホップソニーマーケティングサイレント映画もじぱNBA環境音暗号通貨現代アートFUZZLEAlteration粒子群最適化法進化差分法オープンワールド群知能下川大樹AIFAウィル・ライト高津芳希P2E大石真史BEiTStyleGAN-NADAレベルデザインDETRゲームエンジンSporeUnreal Engineデノイズ南カリフォルニア大学Unity for Industry画像処理SentropyGLIDECPUDiscordAvatarCLIPSynthetic DataCALMプログラミングサム・アルトマンソースコード生成LaMDAGMAIシチズンデベロッパーSonanticTRPGGitHubCohereウィザードリィMCN-AI連携モデルマジック:ザ・ギャザリングAI DungeonUrzas.ai介護西川善司並木幸介Kikiサムライスピリッツ森寅嘉Zoetic AIゼビウスSIGGRAPH 2021ペットストリートファイター半導体Digital Dream LabsTopaz Video Enhance AICozmoDLSSタカラトミー山野辺一記NetEaseLOVOT大里飛鳥DynamixyzMOFLINRomiU-Netミクシィ13フェイズ構造アドベンチャーゲームユニロボットADVユニボXLandGatoAGI手塚眞DEATH STRANDINGマルチモーダルEric Johnson汎用強化学習AIデザインOculus Questコジマプロダクションロンドン芸術大学生体情報デシマエンジンGoogle BrainインディーゲームSound Control写真高橋ミレイSYNTH SUPER照明Maxim PeterKarl SimsJoshua RomoffArtnomeハイパースケープICONATE山崎陽斗深層強化学習立木創太松原仁浜中雅俊ミライ小町武田英明テスラ福井健策GameGANパックマンTesla BotNEDOTesla AI DayWikipediaソサエティ5.0SphereSIGGRAPH 2020バズグラフXaver 1000ニュースタンテキ養蜂東芝BeewiseDIB-R倉田宜典フィンテック投資韻律射影MILIZE広告韻律転移三菱UFJ信託銀行

CGへの扉 Vol.2:なめらかなキャラクタアニメーションと、ディープラーニングの役目

2019.5.15アート

CGへの扉 Vol.2:なめらかなキャラクタアニメーションと、ディープラーニングの役目

人間の動きとは? 動物の動きとは?

みなさんはいくつ関節があるでしょうか? ふだん関節を意識しながら動いたり、歩いたりすることはないですよね。関節の存在を実感するのは怪我をした時や風邪で節々が痛い時くらいのものです。

さて、両手を見ただけで、いくつの関節があるでしょうか? 人間の関節は全身で約260個あると言われています。数え方には諸説あり、関節の分類方法によっては260個より少ない場合も多い場合もあります。一個一個独立して動くことはまれで、周囲の関節と連動したり、ある動きによって複数の関節が動作することで人間の体の動きを担っています。

さまざまな複雑な生き物がいますが、関節にかんしては人間が極端に複雑な生き物だという実感があるかもしれません。ちなみにネコは人間よりも骨の個数は多いのに関節の数は人間の半分程度、4本足で滑らかに走る馬の関節は、足が曲がる方向など構造そのものが異なっています。

関節には1軸(1方向)で動作する指や膝のような部分、2軸(2方向)に動作する親指のような部分、3軸(3方向)に動作する股関節や肩の関節部分、首や手首のように可動領域に制限はあれど、全方向に動く部分もあります。このことを考えただけでも、人の動きにはどれだけ多くのパターンがあるのか想像もつきません。

江戸時代初期の人形浄瑠璃の時代、パペット(人形)を使ったストップモーションアニメーションから、手描きアニメーションの時代、3DCGを駆使したデジタルキャラクタまで、人の動きを模倣しようとしてきた歴史をたどるとだいぶ昔にまでさかのぼります。

それらの動きに共通しているのは、人間の動きには若干の「揺れ」や「ブレ」があり、本人や周りが「静止している」と考えていても、実際はわずかに揺れていたり動いていたりすること、こう動いているだろうと勝手に想像する動き以上に、実際は複雑な動きをしていることです。

1800年代後半、カメラ技術の進歩により、さまざまな動きをコマ撮り撮影することが可能になりました。エドワード・マイブリッジの『動物の運動』では 12台のカメラを並べて馬の走りを撮影し、そこで初めて判明したこともありました。馬が走る時に、どの足も地面に着いていない瞬間があること、従来考えられていたのとは異なる、とても複雑で連携した動きで走っていることなどが明確に分かり始めたのです。

Sallie Gardner at a Gallop エドワード・マイブリッジの『動物の運動』

手描きアニメーション制作の黎明期、ディズニーアニメーションではロトスコーピング(Rotoscoping:CG/VFX業界的には「ロト」と省略されることもあり)という手法で実写のコマ撮り映像を一コマ一コマ手描きで写し取って正確なアニメーションを描くとともに、その動きを理解していきました。

人は危険を察知する能力があるためか、動きを先読みしたり、違和感のある動きを感じ取ることができます。CG/VFXの世界で人や人型キャラクタに動きを与える方法として、「手付け」や「キーフレームアニメーション」と呼ばれる、動きに習熟した専門家がパラメーターを調整し補間や動作を分割しながら一コマ一コマ動きを設定していく方法、モーションキャプチャと呼ばれる、実際に人の動きをセンサーや専用のデータ取得専用のスーツを着て細かにデータ化する方法、そして、最近広まりつつあるのが既存の映像やデータをもとに、機械学習のアプローチでスムーズな動きを生み出す技術があります。さて、AIの時代、人や動物などの動きをデジタルで表現するには、どのようなアプローチが取られているのでしょうか。

人や人型キャラクターの動きにディープラーニングを活用する

昨年カナダのバンクーバーで開催されたコンピュータグラフィックスの学会 SIGGRAPH 2018 ではディープラーニングを活用したアニメーション論文が数々発表されました。SIGGRAPH全体の傾向としても近年、大量のコンピューティングパワーが安価に手に入るようになったこともあり、単一のアルゴリズムによって解決しようとするアプローチよりも人工知能、機械学習、ディープラーニングなどの技術を応用する流れが起きています。いくつか紹介しましょう。

DeepMimic

【論文】https://xbpeng.github.io/projects/DeepMimic/index.html
【サンプルコード】https://github.com/xbpeng/DeepMimic

人間の動作を学習するディープミミック (DeepMimic) と名付けられたソリューション。従来からさまざまなアルゴリズムで滑らかな動きを表現する研究は多数ありましたが、それらの研究の多くはある特定の動きに特化したものでした。

例えば歩いたり走るのは滑らかですが、同じアルゴリズムを格闘シーンには使えない、逆に格闘シーンに向いたアルゴリズムは、その他の用途ではあまり性能を発揮できないといった複雑な課題がありました。これらの課題を解決しようと、複数の動きに対応したアルゴリズムでは、結局のところ個々の動きの品質が個別に最適化したアルゴリズムにはかなわないという課題もありました。

DeepMimicは、それら複数の種類の動きが組み合わさった動きに対処するとともに、今までになかったような動きも生成できる手法です。実際の人の動きをデータ化するモーションキャプチャのデータを正答とし、DeepMimicで作られた動きが実際の人の動きに近くなるように機械学習を繰り返すことで作られたものです。内部的には一連の動作を分割して学習をすすめ、それらをつなぎ合わせることで滑らかな動きを実現しています。

モーションキャプチャのデータとしては歩く、走る、ボールを投げる、跳ぶ、バック転、側転、キックなどの基本動作を25種類以上、数百万回の試行を繰り返したとのこと。このDeepMimicの手法を応用すると人間だけではなく、恐竜や、人間とは骨格が異なるロボット、高速で走る四つ足の生き物、羽のあるドラゴンといったさまざまな形態の滑らかな動きを生成することができるそうです。

AI4Animation(Mode-Adaptive Neural Networks for Quadruped Motion Control)

【論文】 https://github.com/sebastianstarke/AI4Animation//blob/master/Media/SIGGRAPH_2018/Paper.pdf
【サンプルコード・デモアプリ】https://github.com/sebastianstarke/AI4Animation

二足歩行の人間とは異なる複雑な四足歩行の動き、歩いたり走ったりといった複数のタイプの歩行を表現できるものです。ニューラルネットワークを用いて、リアルタイム(実時間)で四足歩行の動きを計算して表現できます。MANN(Mode-Adaptive Neural Networks) という手法が使われています。

Unity上で動作するデモで用いられている犬のモデルは27の骨格を持ったもの。ユーザーがなんらかの操作をすると、前の画像フレームにおける姿勢と、移動中の速度をもとにあらかじめ分類されたモーションデータから次の動作を推定します。従来手法に比べ、リアルタイム性が高くゲームや動物型ロボットの動作、インタラクティブアートなどに応用が広がります。Windows、Mac、Linuxで動作するデモアプリで、その自然で滑らかな動きを試してみてください。

学習すべきデータと学習すべきデータがない世界のこれから

カリフォルニア大学の中田氏らによる研究「Deep Learning of Biomimetic Sensorimotor Control for Biomechanical Human Animation」では、目が何を見ているかに合わせてバーチャルヒューマンの動きを最適化する研究を進めています。

Deep Learning of Biomimetic Sensorimotor Control for Biomechanical Human Animation

【論文】http://web.cs.ucla.edu/~nakada/pdfs/siggraph18_nakada.pdf

この研究の興味深いところは Deep Learning を最大限活用し、従来型のアニメーション研究とは異なる切り口で研究を進めていることです。実際にはそう単純にはいかず、論文によると必要に足る独自データを集めるのが大変だった様子が伺えます。この研究は視線情報と人体のアニメーションの組み合わせに着目したもので、従来型のアニメーション研究のスタイルだとここまで考えが及ばないような領域に進出しています。また、従来であればこのような研究テーマをふと思いついたとしても、実装や実現が難しかった領域です。今後、課題解決型だけでなく「学習させるべきデータは何か?」といった面からの研究が進むことも期待されます。

その他、Deep Learningだと学ばせるべき正答、またそれらの正答のパターンが大量にかつ多数存在することが前提です。CG/VFXの世界では、人間や実在する動物の他にも、さまざまなキャラクターが描かれます。ありえない骨格をもったモンスターや、通常の人体からは考えつかないような動きをするキャラクター(例えばゾンビ)を想像してみてください。そのうえ奇妙な動きをする異星人や、身の毛もよだつような動きをする巨大生物など、学習すべき元のデータがないキャラクターたちの動きを次々と編み出していく必要があります。

今後は CG/VFX映像制作のパイプライン(作業の流れ)の中に、データ収集やディープラーニングの作業が組み込まれるとともに、正答がない制作物に関しても何らかの組み合わせや過去の知見から答えを見出していかなければなりません。またCG/VFX映像制作で求められる「演出」の部分をどう従来型のディープラーニングと組み合わせていくのかも大きな課題です。

例えば適切な動きの「正答」を出せればエンターテインメント映像としてOKかというと、かならずしもそうではありません。適度にオーバーな動きや、常人には無理な動きがヒーロー、ヒロインには求められているからです。これからは正答を学んだディープラーニング系のツールに、アーティスティックな要素、演出を適切に加えることができるハイブリッドな CG/VFXツール、ワークフローが業界全体から求められているのではないでしょうか。

本連載の今後の予定:まだ始まったばかりの連載ですが、単なるAIの話題とは少しことなり、CG/VFX、アートの文脈から話題を切り取り、映像制作の現場におけるAI活用や、AIで価値が高まった先進ツール、これからの可能性を感じさせるような話題、テクノロジーを紹介していく予定です。なにか取り上げて欲しいテーマやご希望などがございましたら、ぜひ編集部までお知らせください。

Contributor:安藤幸央

RELATED ARTICLE関連記事

CGへの扉 Vol.35:マーベル・シネマティック・ユニバースを支える機械学習

2022.2.15アート

CGへの扉 Vol.35:マーベル・シネマティック・ユニバースを支える機械学習

CGへの扉 Vol.13:AIのクリエイティブとクリエイティビティ再考

2020.4.23アート

CGへの扉 Vol.13:AIのクリエイティブとクリエイティビティ再考

CGへの扉 Vol.40:知見の宝庫。MITの機械学習オンラインコース

2022.7.15アート

CGへの扉 Vol.40:知見の宝庫。MITの機械学習オンラインコース

RANKING注目の記事はこちら