モリカトロン株式会社運営「エンターテインメント×AI」の最新情報をお届けするサイトです。

TAG LIST
CG機械学習ディープラーニングCGへの扉安藤幸央GAN月刊エンタメAIニュース河合律子ニューラルネットワークOpenAINVIDIA強化学習三宅陽一郎音楽FacebookQAスクウェア・エニックス森川幸人モリカトロンAIラボインタビュー敵対的生成ネットワークDeepMindルールベースキャラクターAIシナリオGPT-3自然言語処理NFTGoogleグーグル自動生成映画デバッグCEDEC2019吉本幸記StyleGANプロシージャル人工知能学会遺伝的アルゴリズムメタAI深層学習マイクロソフトアートビヘイビア・ツリーCEDEC2021大内孝子CEDEC2020ゲームAISIGGRAPH不完全情報ゲームゲームプレイAIVRナビゲーションAI畳み込みニューラルネットワークDALL-ECLIPロボットAIと倫理ディープフェイクGDC 2021VFXメタバースGDC 2019マルチエージェントボードゲームNPCCNNデジタルツインモリカトロンUnityAIアートファッションHTN階層型タスクネットワークDALL-E2JSAI2020TensorFlowMicrosoftイベントレポートテストプレイ水野勇太小説アニメーションガイスターStyleGAN2懐ゲーから辿るゲームAI技術史toioソニーJSAI2021スポーツ研究シムピープル汎用人工知能GDC Summerバーチャルヒューマンブロックチェーン倫理BERTAdobeアストロノーカNVIDIA Omniverseeスポーツ対話型エージェントAmazoneSportsBLUE PROTOCOLシーマンUbisoft画像生成テキスト画像生成AlphaZeroTransformerGPT-2カメラ環世界中島秀之鴫原盛之DARPAドローンシムシティAI美空ひばり手塚治虫Electronic ArtsメタデータLEFT 4 DEADインタビュー通しプレイOpenAI Five本間翔太CMピクサープラチナエッグイーサリアム作曲ビッグデータ中嶋謙互Amadeus CodeMicrosoft AzureキャリアナラティブOmniverse ReplicatorレコメンドシステムNVIDIA DRIVE SimNVIDIA Isaac Simサイバーエージェント音声認識ロボティクスPyTorchDQN眞鍋和子バンダイナムコスタジオaibo合成音声Minecraft齊藤陽介マインクラフトお知らせチャットボットアバターサルでもわかる人工知能VAEOmniverseUbisoft La Forge自動運転車ワークショップGenvid Technologiesメタ知識表現ウォッチドッグス レギオンIGDAどうぶつしょうぎEpic Gamesジェイ・コウガミ音楽ストリーミング徳井直生マシンラーニングクラウド対話エンジン斎藤由多加リトル・コンピュータ・ピープルコンピューティショナル・フォトグラフィーゴブレット・ゴブラーズ絵画AIりんなシミュレーション完全情報ゲーム坂本洋典釜屋憲彦ウェイポイントパス検索対談藤澤仁生物学GTC 2022画像認識GTC2022StyleCLIPDeNA長谷洋平masumi toyota宮路洋一OpenSeaGDC 2022教育TextWorldSIGGRAPH ASIAGTC2021CycleGANNetHackフェイクニュースエージェントAIボイスアクターNVIDIA CanvasImagenGPUALifeZork人工生命オルタナティヴ・マシンサウンドスケープMCS-AI動的連携モデルASBSマンガモーションキャプチャーぱいどんTEZUKA2020ナビゲーションメッシュ松井俊浩バンダイナムコ研究所スパーシャルAIELYZAELYZA DIGEST3D音声合成マーケティングApex LegendsELIZANinjaコンピュータRPGアップルタウン物語KELDICメロディ言語ゲームTENTUPLAYMARVEL Future FightAstroタイムラプスEgo4Dバスキア日経イノベーション・ラボ敵対的強化学習階層型強化学習GOSU Data LabWANNGOSU Voice Assistant竹内将SenpAI.GGMobalytics馬淵浩希Cygames岡島学AWS Sagemaker映像セリア・ホデント形態素解析UXAWS Lambda誤字検出認知科学ゲームデザインSentencePieceLUMINOUS ENGINELuminous Productionsパターン・ランゲージ竹村也哉ちょまどボエダ・ゴティエGOAPAdobe MAX 2021模倣学習Omniverse AvatarFPSNVIDIA Rivaマルコフ決定過程NVIDIA MegatronNVIDIA Merlinスタンフォード大学NVIDIA Metropolisパラメータ設計テニスバランス調整協調フィルタリング人狼知能テキサス大学軍事AlphaDogfight TrialsAI Messenger VoicebotエージェントシミュレーションOpenAI CodexStarCraft IIHyperStyleFuture of Life InstituteRendering with StyleIntelDisneyLAIKADisneyリサーチRotomationGauGANGauGAN2ドラゴンクエストライバルズ画像言語表現モデル不確定ゲームSIGGRAPH ASIA 2021Dota 2モンテカルロ木探索ディズニーリサーチMitsuba2ソーシャルゲームEmbeddingワイツマン科学研究所GTC2020CG衣装NVIDIA MAXINEVRファッション淡路滋ビデオ会議ArtflowグリムノーツEponymゴティエ・ボエダ音声クローニングGautier Boeda階層的クラスタリングGopherJuliusSIE鑑定TPRGOxia Palusバーチャル・ヒューマン・エージェントtoio SDK for UnityArt Recognitionクーガー田中章愛Meta石井敦銭起揚NHC 2021茂谷保伯池田利夫GDMC新刊案内マーベル・シネマティック・ユニバース成沢理恵MITメディアラボMCU著作権アベンジャーズマジック・リープDigital DomainMagic Leap OneMagendaMasquerade2.0ノンファンジブルトークンDDSPフェイシャルキャプチャーサッカーモリカトロン開発者インタビュー里井大輝Kaggle宮本茂則バスケットボール山田暉Assassin’s Creed OriginsAI会話ジェネレーターSea of ThievesGEMS COMPANYmonoAI technologyLSTMモリカトロンAIソリューション初音ミクOculusコード生成AI転移学習テストAlphaCodeBaldur's Gate 3CodeforcesCandy Crush Saga自己増強型AISIGGRAPH ASIA 2020COLMAPADOPデバッギングBigGANGANverse3DMaterialGANリップシンキングRNNグランツーリスモSPORTReBeLグランツーリスモ・ソフィーGTソフィーVolvoFIAグランツーリスモチャンピオンシップRival PrakDGX A100VTuberユービーアイソフトWebcam VTuber星新一賞北尾まどかHALO市場分析将棋メタルギアソリッドVフォートナイトFSMRobloxナップサック問題Live Nation汎用言語モデルWeb3.0AIOpsSpotifyMITスマートコントラクトReplica StudioAWSamuseChitrakarQosmo巡回セールスマン問題ジョルダン曲線メディア5GMuZero政治クラウドゲーミングRival Peakがんばれ森川君2号和田洋一リアリティ番組Stadiaジョンソン裕子MILEsNightCafeインタラクティブ・ストリーミングLuis Ruizインタラクティブ・メディアポケモンCodexシーマン人工知能研究所東京工業大学Ludo博報堂ラップSIGGRAPH 2019ArtEmisZ世代AIラッパーシステムARrinnaGROVERプラスリンクス ~キミと繋がる想い~FAIRSTCチート検出Style Transfer ConversationオンラインカジノRCPアップルRealFlowRinna Character PlatformiPhoneデジタルヒューマンDeep FluidsSoul MachinesMeInGameAmeliaAIGraphブレイン・コンピュータ・インタフェースバーチャルキャラクターBCIGateboxLearning from VideoANIMAK予期知能逢妻ヒカリセコムユクスキュルバーチャル警備システムカント損保ジャパン哲学上原利之ドラゴンクエストエージェントアーキテクチャアッパーグラウンドPAIROCTOPATH TRAVELER西木康智OCTOPATH TRAVELER 大陸の覇者Siemensアルスエレクトロニカ2019品質保証StyleRigAutodesk逆転オセロニアBentley Systemsワールドシミュレーター奥村エルネスト純いただきストリートH100齋藤精一大森田不可止COBOL高橋智隆DGX H100ロボユニザナックDGX SuperPOD泉幸典仁井谷正充クラウドコンピューティングロボコレ2019Instant NeRFartonomousbitGANsぎゅわんぶらあ自己中心派Azure Machine Learning意思決定モデル脱出ゲームHybrid Reward Architectureコミュニティ管理ウロチョロスSuper PhoenixSNS理化学研究所Project Malmoオンラインゲーム気候変動Project PaidiaEarth-2Project Lookoutマックス・プランク気象研究所Watch Forビョルン・スティーブンスBing気象モデルLEFT ALIVE気象シミュレーション長谷川誠ジミ・ヘンドリックス環境問題Baby Xカート・コバーンエコロジーロバート・ダウニー・Jr.エイミー・ワインハウスSDGsMagentaYouTubeダフト・パンクメモリスタSFGlenn MarshallELYZA PencilThe Age of A.I.Story2Hallucination音声変換レコメンデーションJukebox松尾豊Veap JapanEAPテンセントSIFT福井千春DCGAN医療MOBADANNCEメンタルケア人事ハーバード大学Edgar Handy研修デューク大学Netflixデータマイニングmynet.aiローグライクゲーム東京大学東京理科大学人工音声NeurIPS 2021産業技術総合研究所はこだて未来大学リザバーコンピューティングプレイ動画ヒップホップキャラクターモーションソニーマーケティングサイレント映画もじぱNBA環境音暗号通貨現代アートFUZZLEAlteration粒子群最適化法RPG進化差分法オープンワールド群知能下川大樹AIFAウィル・ライト高津芳希P2E大石真史SIGGRAPH 2022BEiTStyleGAN-NADAレベルデザインDETRゲームエンジンSporeUnreal Engineデノイズ南カリフォルニア大学Unity for Industry画像処理SentropyGLIDECPUDiscordAvatarCLIPSynthetic DataCALMバイアスプログラミングサム・アルトマンソースコード生成LaMDAGMAIシチズンデベロッパーSonanticTRPGGitHubCohereウィザードリィMCN-AI連携モデルマジック:ザ・ギャザリングAI DungeonUrzas.ai介護西川善司並木幸介Kikiサムライスピリッツ森寅嘉Zoetic AIゼビウスSIGGRAPH 2021ペットストリートファイター半導体Digital Dream LabsTopaz Video Enhance AICozmo栗原聡DLSSタカラトミー山野辺一記NetEaseLOVOT大里飛鳥DynamixyzMOFLINRomiU-Netミクシィ13フェイズ構造アドベンチャーゲームユニロボットADVユニボXLandGatoAGIテキスト生成手塚眞DEATH STRANDINGマルチモーダル不気味の谷Eric Johnson汎用強化学習AIOculus Questコジマプロダクション生体情報デシマエンジンインディーゲーム写真高橋ミレイ照明Maxim PeterJoshua Romoffハイパースケープ山崎陽斗深層強化学習立木創太ミライ小町テスラGameGANパックマンTesla BotTesla AI Dayソサエティ5.0SIGGRAPH 2020バズグラフニュースタンテキ東芝DIB-R倉田宜典韻律射影広告韻律転移

CGへの扉 Vol.25:変幻自在の顔も実は人工知能

2021.4.13アート

CGへの扉 Vol.25:変幻自在の顔も実は人工知能

人間が認識する顔と人工知能が認識する顔

人間が乳幼児の頃、まず最初に認識し始めるのは人の顔です。まず生まれたばかりの頃は、ぼんやりと見える顔の輪郭や匂いや声を頼りに人を認識しています。ですから周りにいる人の髪型が変わったり、風邪で声が変わったりすると別人だと思われます。

そして生後2か月ごろから目や口に注意が行くようになり、6か月から12か月ごろは相手の喜怒哀楽といった顔の表情や、顔に似た目や口のあるものすべてに興味を持ち始めます。また実際の人間だけではなく、絵本や映像を見ている時でも目や口のあるものに注目します。アンパンマンが子ども達に好まれるのも、目鼻口がはっきりしていて顔が分かり易いのものひとつの理由かもしれません(人の顔を覚えるのが苦手な人がいたり、先天的または後天的に相貌失認と呼ばれる人の顔の認識が難しかったり、人の顔が見分けられないタイプの人もいるため、すべての人に当てはまる事象ではありません)。

CGへの扉 Vol.14:AIが生み出す顔と人間の表情」では、人工知能で生成した存在しない顔写真を提供するサービスGenerated Photosなどを紹介しました。現在、人工知能が生成した顔画像はもはや実在の人物写真なのか、生成された画像なのか、そう簡単には見分けがつかないレベルに達しています。さらに画像生成の工程に、ひと工夫を加え、さまざまな応用が広がってきています。

言葉で顔画像を自由に修正 StyleCLIP

StyleCLIP は言葉によって画像を操作可能な画像生成ツールです。画像生成のために StyleGAN2 と StyleGANを高速に実行できるよう改変したものを利用しています。元となる顔画像に対して「誰々風に」「○○な髪型で」「メイク無しで」「もっと可愛く」といった、いわゆる言葉でディレクションするような指示で目的の画像が生成されます。

StyleCLIP サンプルコード : https://github.com/orpatashnik/StyleCLIP
StyleClip 論文 : StyleCLIP:Text-Driven Manipulation of StyleGAN Imagery
StyleClip 動画解説:https://www.youtube.com/watch?v=5icI0NgALnQ

上段が元素材、下段がStyleCLIPによる加工画像。右からそれぞれ、女優のエマ・ストーン風。モヒカン刈り。ノーメイク。キュートな猫。ライオン風(なんと虎がライオンに変化)
さまざまな女優や有名人風の画像を生成。元画像(左上)の雰囲気を保ったまま自然な変化が見てとれる
髪型の変更も言葉だけで自由自在。モヒカン、カール、アフロ、ボブ、紫の髪など

本研究は OpenAI社の Contrastive Language-Image Pre-training(CLIP)と呼ばれる、自然言語を教師データとして視覚的な概念を効率的に学習する手法を利用しています。CLIPの恩恵により細かなパラメータ調整や手作業を必要とせずにStyleGANのパラメータを言葉で操作することを可能にしています。StyleGANそのものは、顔画像に限らず、さまざまな画像表現に用いることができます( CLIPに関しては「CGへの扉 Vol.22:言葉から画像を生成、DALL-Eはクリエイティブなのか?」を参照)。

顔の向き、顔への照明を自由にコントロール StyleRig

StyleRigは、StyleGANによって生成された顔画像をさまざまな方向から見た画像に変更したり、表情を変化させたり、顔に当たっている照明や光の加減を調整したりできる仕組みです。3DCGでキャラクタアニメーションを作る際にRigと呼ばれる骨格を設定し、動きや向きを調整します。それと同様にStyleRigは、StyleGANによって生成された、もともとは1枚しかない顔画像にRigを設定し、頭部の向きや、照明の状態を細かくパラメータで調整できるようになります。ここで調整した顔の向きなどのパラメータは、StyleGANで生成された他の顔画像に適用することもできます。

StyleRig 論文:StyleRig: Rigging StyleGAN for 3D Control over Portrait Images
StyleRig 動画解説:https://www.youtube.com/watch?v=eaW_P85wQ9k

StyleGANで生成した存在しない人物の顔画像に対して、向きや表情、照明を変化させた例

人工知能で生成した画像は、実在する人物を撮影するときのように顔の向きや表情、照明などを演出できない課題がありました。その点で限界を感じていた人工的に生成された顔画像の利用方法も、StyleRigのような技術で操作できる幅が広がり、将来的にはモデルや俳優のような役割が果たせることが期待されます。広告や映像配信などでスキャンダルとは無縁の、存在しない人物が掲載されることが重宝される時代がやってくるのかもしれません。

顔写真を歴史的な肖像画風に Portrait AI

Portrait AI は、実写の写真を加工し、18世紀の歴史的な肖像画のように大胆に変化させる人工知能を活用したサービスです。パスポート写真や運転免許の写真のように、正面を向いたはっきりと顔が映った写真が向いており、写真が肖像画風に加工されます。可能な限りメガネ無し、写真いっぱいに顔が写っている方が良い結果が得られます。現在は学習用のデータの元となっているのがヨーロッパを中心とした肖像画のため、生成される画像も雰囲気がヨーロッパ風になっています。今後は世界中のより広い地域における肖像画をベースに機械学習させていく予定とのこと。

Portrait AI デモサイト:https://portraitai.app/
Portrait AI アプリ:https://apps.apple.com/app/apple-store/id1474684190 (iOS 11.2以降)
https://play.google.com/store/apps/details?id=com.portraitai.portraitai (Android 5.1以降)
※Portrait AIでは個人の顔写真をネット上にアップロードすることになるので、プライバシーポリシーをご理解の上、ご利用ください。

Portrait AIで生成した著者のポートレート写真。中世期の肖像画のような画像が生成できている。300年くらい前のヨーロッパにいそうな顔
現代の有名人を Portrait AI で加工したもの。誰の肖像画かわかりますか?

普通の顔写真がアニメーションキャラクター風、浮世絵風に Toonify

Toonifyの作例。アニメキャラクター風だが、元の俳優の面影がある

Toonify は、顔写真をディズニーやピクサーのアニメーション作品に登場するキャラクター風に加工したり、浮世絵風の画像に加工したりできる技術です。デモサイトでは Toonify Classic という旧版が無料で利用できます。最新版やさまざまな加工スタイルを選ぶ場合は枚数単位で有料(10枚の加工で3ポンド(約450円)から)となります。

ToonifyもStyleGANを利用しています。StyleGANの元々の仕組みとして、最初は数ピクセル四方の画像生成から始め、解像度を高めながら何回も繰り返し画像を生成することで、最終的に1024×1024サイズの得ています。その段階的な手法を逆手にとって、すべての段階で実写の顔画像のデータセットを用いるのではなく、画像生成の最終工程、高解像度生成の段階で、浮世絵やアニメーションキャラクターを元データとしたデータセットに差し替えて計算することで、Toonifyの興味深い顔画像が生成できています。

Toonify デモサイト:https://toonify.photos/
Toonifyの元となる技術論文:Resolution Dependent GAN Interpolation for Controllable Image Synthesis Between Domains
解説動画:https://www.youtube.com/watch?v=7Oqpiaj0IUM
サンプルコード:https://github.com/justinpinkney/toonify

Toonify で生成した浮世絵風の顔画像
Toonify で利用した浮世絵のデータセット
Toonify で生成したアニメーションキャラクター風の顔画像

※上記の画像はどれも「uncurated」と呼ばれる研究中の出力そのままのサンプルのため若干のアーティファクト(歪み)が見られる

アーティストもAIと組む時代 Breathtaking AI Generated Portraits

オランダ在住の写真家 Bas Uterwijk 氏は人工知能の手助けを得ながらポートレート写真を著名な絵画風にする作風を模索中です。制作には StyleGAN が用いられ、作品として満足のいく出来のものは、NFT(Non-fungible token:非代替性トークン:希少性が証明されたデジタルコンテンツの流通プラットフォーム)での販売も考えているそうです。

作例:https://www.basuterwijk.com/portfolio/G0000WVKM6MbiIAc
動画解説:https://www.youtube.com/watch?v=rZSaD4QLjxE
Uterwijk氏のInstagram : @ganbrood AI生成ポートレートが多数投稿されている

ポートレート写真を元にStyleGANで過去の名画の画風を取り入れた絵画風のポートレート作品(※Uterwijk氏のホームページより引用)

これからのリアルとフェイク

2018年に登場した、画像生成でよく使われるようになったStyleGANも、顔画像生成の際に不自然なノイズが生成する課題や、歯の並び、視線の方向が不自然になる課題が認識されており、用途によってはその違和感が目立ちます。そこで最近は、これらの課題を解決した StyleGAN2が使われるようになってきました。今後はさらに高解像度の生成画像や、高速化、さまざまな技術との組み合わせや応用が求められています。

ベースとなるテクノロジーが進化する一方、顔画像生成などの機械学習の元となっているデータセットが人種的に偏っていたり、現代の複雑な性差が扱えていなかったり、本人の同意無しに集められた顔写真が混じっているケース、そもそものデータにつけられているラベルが間違っている状況などが危惧されています(「CGへの扉 Vol.17:描画を進化させるTensorFlow Graphicsの真価」参照)。

この問題に関しては、データセット中のエラーを修正するためのソリューションが台頭してきています。単に大量のデータセットで、そこそこの精度、そこそこの結果、場合によっては間違った結果を得るよりも、少量でも正確で信頼できるデータセットを用いた方が後々良い結果が得られるという考えが適切な研究や実装もあるでしょう。

一例を示すと、データセットのエラー浄化のためのソリューションのひとつcleanlabではImageNetと呼ばれる定番データセットから数多くのエラーを見つけ出しています。データセットの多くは専門家ではない多数の人の手でラベル付けされており、どうしてもラベルの付け間違いや画像に写っているものの見間違いが生じます。間違ったラベルがつけられたデータは、ノイズとなり機械学習の精度を低下させてしまいます。

1枚1枚の画像を目視&手作業で確認し間違いがあれば除去していくのは大変な作業ですが、cleanlabを用いるとノイズとなる可能性の高い画像を選び出すことで、エラーと疑わしき画像を除去できます。cleanlabは特定のデータセットに限らず、どのようなタイプの画像データセットでも利用できます。cleanlab の実装の元となっているのは 2020年の Confident Learning: Estimating Uncertainty in Dataset Labels という論文です。

cleanlabを用いてImageNetデータセットのエラーを見つけている様子。赤枠が間違い

論文:Confident Learning: Estimating Uncertainty in Dataset Labels

人の顔は、人間が一番読み取りやすく普段からよく見ているにもかかわらず、人工的に作られた顔画像の精度が高まったことにより、さまざまな課題や問題が生まれているのも確かです。ディープフェイクで人工的に作られた偽の顔画像がソーシャルメディアのプロフィール写真に使われ、あたかも実在の人物の意見であるかのように振舞ったり、存在しない社員の写真として使われたりと、ネガティブな面が話題になりがちですが、今回紹介したようなポジティブな用途、研究、ネガティブ面を払拭するような研究も数多く行われています。

人工知能を活用して生み出される顔画像は、単にこれは面白い!という段階から、クリエイティブな手法として生かされたり、匿名性を保つための手段や、思い出の写真を風化させない方法など、現実には存在しない画像を生み出し、今後さまざまな切り口で人工知能が活用されていくことが期待されます。

本連載の今後の予定:「CGへの扉」では、単なるAIの話題とは少し異なり、CG/VFX, アートの文脈から話題を切り取り紹介していきます。映像制作の現場におけるAI活用や、AIで価値が高まった先進的なツール、これからの可能性を感じさせるような話題、テクノロジーの話題にご期待ください。なにか取り上げて欲しいテーマやご希望などがございましたら、ぜひ編集部までお知らせください。

CGへの扉

Vol.24:自然現象もすべて人工知能で再現する時代

Vol.23:AIで人の眼に進化するカメラ

Vol.22:言葉から画像を生成、DALL-Eはクリエイティブなのか?

Vol.21:人工知能+3DCGの最新論文をまとめて紹介 #SIGGRAPHAsia2020

Vol.20:Adobeと人工知能の将来を見極める #AdobeMAX2020

Vol.19:コミュニケーションツールの新境地「NVIDIA MAXINE」

Vol.18:SIGGRAPH2020レポート 映像制作の現場で活躍する人工知能

Vol.17:描画を進化させるTensorFlow Graphicsの真価

Vol.16:バーチャル開催SIGGRAPH論文を先取り

Vol.15:撮影に革新をもたらすAIによる照明

Vol.14:AIが生み出す顔と人間の表情

Vol.13:AIのクリエイティブとクリエイティビティ再考

≫≫すべてのバックナンバーはこちらから

Contributor:安藤幸央

RELATED ARTICLE関連記事

ホラー調画像や新種のポケモンも。テキスト画像生成AI活用の基本とアート作品を紹介

2022.3.24アート

ホラー調画像や新種のポケモンも。テキスト画像生成AI活用の基本とアート作品を紹介

CGへの扉 Vol.6:Facebookが取り組むVRとAIのアプローチ

2019.9.13アート

CGへの扉 Vol.6:Facebookが取り組むVRとAIのアプローチ

CGへの扉 Vol.33:AIの必然性 #SIGGRAPHAsia2021 レポート

2021.12.24アート

CGへの扉 Vol.33:AIの必然性 #SIGGRAPHAsia2021 レホ...

RANKING注目の記事はこちら