モリカトロン株式会社運営「エンターテインメント×AI」の最新情報をお届けするサイトです。

TAG LIST
ディープラーニング機械学習CGCGへの扉安藤幸央GANニューラルネットワーク月刊エンタメAIニュース強化学習三宅陽一郎モリカトロンAIラボインタビュー敵対的生成ネットワーク音楽OpenAIQAスクウェア・エニックス河合律子シナリオNVIDIAデバッグCEDEC2019プロシージャルDeepMind人工知能学会FacebookキャラクターAIルールベースビヘイビア・ツリーGoogleCEDEC2020ゲームAI映画SIGGRAPH遺伝的アルゴリズム不完全情報ゲームメタAIナビゲーションAI畳み込みニューラルネットワーク深層学習マイクロソフトAIと倫理グーグルGDC 2021GDC 2019マルチエージェントVR森川幸人ボードゲーム自然言語処理ロボットStyleGAN自動生成GPT-3CNNVFXモリカトロンゲームプレイAIファッションHTN階層型タスクネットワークJSAI2020Microsoftイベントレポート水野勇太アニメーションガイスターNPCCLIPアートtoio吉本幸記JSAI2021スポーツディープフェイク汎用人工知能TensorFlowGDC SummerテストプレイeSportsBLUE PROTOCOL小説DALL-EStyleGAN2AlphaZeroカメラ環世界中島秀之懐ゲーから辿るゲームAI技術史研究DARPAドローンAI美空ひばり手塚治虫CEDEC2021メタデータ通しプレイOpenAI Five本間翔太CM倫理ピクサーAdobe作曲中嶋謙互Amadeus CodeMicrosoft Azureキャリアeスポーツ音声認識ロボティクスPyTorchDQN眞鍋和子バンダイナムコスタジオシーマンUnity齊藤陽介マインクラフトお知らせAIアートサルでもわかる人工知能VAEUbisoftUbisoft La ForgeワークショップGenvid Technologies知識表現ウォッチドッグス レギオンIGDAどうぶつしょうぎジェイ・コウガミ音楽ストリーミングマシンラーニングクラウドコンピューティショナル・フォトグラフィーGPT-2完全情報ゲーム坂本洋典釜屋憲彦ウェイポイントパス検索藤澤仁生物学画像認識DeNANFT長谷洋平鴫原盛之masumi toyota宮路洋一SIGGRAPH ASIAソニーCycleGANフェイクニュースシムピープルGPUALife人工生命オルタナティヴ・マシンサウンドスケープASBSマンガぱいどんTEZUKA2020ナビゲーションメッシュ松井俊浩スパーシャルAIElectronic ArtsマーケティングApex LegendsNinjaゲームTENTUPLAYMARVEL Future Fightタイムラプスバスキアブロックチェーン階層型強化学習WANN竹内将馬淵浩希岡島学映像セリア・ホデントUX認知科学ゲームデザインLUMINOUS ENGINELuminous Productionsパターン・ランゲージちょまどビッグデータアストロノーカ模倣学習ナラティブFPSマルコフ決定過程スタンフォード大学パラメータ設計テニスバランス調整レコメンドシステム対話型エージェント協調フィルタリング人狼知能Amazon軍事AlphaDogfight TrialsエージェントシミュレーションStarCraft IIFuture of Life InstituteIntelLAIKARotomationドラゴンクエストライバルズ不確定ゲームDota 2モンテカルロ木探索ソーシャルゲームEmbeddingGTC2020NVIDIA MAXINE淡路滋ビデオ会議グリムノーツゴティエ・ボエダGautier Boeda階層的クラスタリングaiboJuliusSIETPRGバーチャル・ヒューマン・エージェントtoio SDK for Unityクーガー田中章愛石井敦銭起揚茂谷保伯MinecraftGDMC成沢理恵MITメディアラボ著作権マジック・リープMagic Leap OneMagendaノンファンジブルトークンDDSPサッカー里井大輝KaggleバスケットボールAssassin’s Creed OriginsSea of ThievesGEMS COMPANYmonoAI technologyアバター初音ミクOculus転移学習テストBaldur's Gate 3Candy Crush SagaSIGGRAPH ASIA 2020デバッギングBigGANMaterialGANリップシンキングRNNReBeL自動運転車VolvoRival Prakユービーアイソフト北尾まどかHALO将棋メタルギアソリッドVFSMナップサック問題汎用言語モデルSpotifyMITReplica StudioamuseChitrakar巡回セールスマン問題ジョルダン曲線5GMuZeroクラウドゲーミングRival Peak和田洋一リアリティ番組Stadiaジョンソン裕子MILEs対話エンジンインタラクティブ・ストリーミング斎藤由多加インタラクティブ・メディアリトル・コンピュータ・ピープルシーマン人工知能研究所Ludoゴブレット・ゴブラーズTransformerSIGGRAPH 2019ArtEmis絵画ARGROVERFAIRAIりんなチート検出オンラインカジノアップルRealFlowiPhoneシミュレーションDeep FluidsMeInGameAIGraphブレイン・コンピュータ・インタフェースBCILearning from Video予期知能ユクスキュルカント哲学ドラゴンクエストエージェントアーキテクチャPAIROCTOPATH TRAVELER西木康智OCTOPATH TRAVELER 大陸の覇者アルスエレクトロニカ2019StyleCLIPStyleRig逆転オセロニア奥村エルネスト純いただきストリート齋藤精一大森田不可止高橋智隆ロボユニザナック泉幸典仁井谷正充ロボコレ2019ぎゅわんぶらあ自己中心派Azure Machine Learning意思決定モデル脱出ゲームHybrid Reward ArchitectureウロチョロスSuper Phoenix理化学研究所Project Malmo教育TextWorldProject PaidiaProject LookoutWatch ForBingLEFT ALIVE長谷川誠ジミ・ヘンドリックスBaby Xカート・コバーンロバート・ダウニー・Jr.エイミー・ワインハウスMagentaYouTubeダフト・パンクSFGlenn MarshallThe Age of A.I.Story2HallucinationレコメンデーションJukeboxGTC2021テンセントSIFTDCGANMOBADANNCE人事ハーバード大学研修デューク大学mynet.aiローグライクゲームNetHack人工音声NeurIPS 2021はこだて未来大学プレイ動画ヒップホップサイレント映画NBA環境音現代アートエージェント粒子群最適化法進化差分法群知能下川大樹ウィル・ライト高津芳希シムシティ大石真史BEiTレベルデザインDETRSporeAIボイスアクターデノイズ南カリフォルニア大学画像処理NVIDIA CanvasSentropyCPUDiscordZorkCALMプログラミングソースコード生成GMAIシチズンデベロッパーTRPGGitHubウィザードリィMCN-AI連携モデルAI DungeonMCS-AI動的連携モデル西川善司並木幸介サムライスピリッツ森寅嘉ゼビウスSIGGRAPH 2021ストリートファイター半導体Topaz Video Enhance AI栗原聡DLSS山野辺一記NetEase大里飛鳥DynamixyzモーションキャプチャーU-Net13フェイズ構造アドベンチャーゲームADVXLandAGI手塚眞DEATH STRANDING不気味の谷Eric JohnsonOculus Questコジマプロダクション生体情報デシマエンジンインディーゲーム写真高橋ミレイ照明Maxim PeterJoshua Romoffハイパースケープ山崎陽斗深層強化学習立木創太バンダイナムコ研究所ミライ小町テスラGameGANELYZAパックマンTesla BotTesla AI Dayソサエティ5.0ELYZA DIGESTSIGGRAPH 2020バズグラフニュースタンテキ東芝DIB-R倉田宜典3D音声合成韻律射影広告韻律転移

CGへの扉 Vol.25:変幻自在の顔も実は人工知能

2021.4.13アート

CGへの扉 Vol.25:変幻自在の顔も実は人工知能

人間が認識する顔と人工知能が認識する顔

人間が乳幼児の頃、まず最初に認識し始めるのは人の顔です。まず生まれたばかりの頃は、ぼんやりと見える顔の輪郭や匂いや声を頼りに人を認識しています。ですから周りにいる人の髪型が変わったり、風邪で声が変わったりすると別人だと思われます。

そして生後2か月ごろから目や口に注意が行くようになり、6か月から12か月ごろは相手の喜怒哀楽といった顔の表情や、顔に似た目や口のあるものすべてに興味を持ち始めます。また実際の人間だけではなく、絵本や映像を見ている時でも目や口のあるものに注目します。アンパンマンが子ども達に好まれるのも、目鼻口がはっきりしていて顔が分かり易いのものひとつの理由かもしれません(人の顔を覚えるのが苦手な人がいたり、先天的または後天的に相貌失認と呼ばれる人の顔の認識が難しかったり、人の顔が見分けられないタイプの人もいるため、すべての人に当てはまる事象ではありません)。

CGへの扉 Vol.14:AIが生み出す顔と人間の表情」では、人工知能で生成した存在しない顔写真を提供するサービスGenerated Photosなどを紹介しました。現在、人工知能が生成した顔画像はもはや実在の人物写真なのか、生成された画像なのか、そう簡単には見分けがつかないレベルに達しています。さらに画像生成の工程に、ひと工夫を加え、さまざまな応用が広がってきています。

言葉で顔画像を自由に修正 StyleCLIP

StyleCLIP は言葉によって画像を操作可能な画像生成ツールです。画像生成のために StyleGAN2 と StyleGANを高速に実行できるよう改変したものを利用しています。元となる顔画像に対して「誰々風に」「○○な髪型で」「メイク無しで」「もっと可愛く」といった、いわゆる言葉でディレクションするような指示で目的の画像が生成されます。

StyleCLIP サンプルコード : https://github.com/orpatashnik/StyleCLIP
StyleClip 論文 : StyleCLIP:Text-Driven Manipulation of StyleGAN Imagery
StyleClip 動画解説:https://www.youtube.com/watch?v=5icI0NgALnQ

上段が元素材、下段がStyleCLIPによる加工画像。右からそれぞれ、女優のエマ・ストーン風。モヒカン刈り。ノーメイク。キュートな猫。ライオン風(なんと虎がライオンに変化)
さまざまな女優や有名人風の画像を生成。元画像(左上)の雰囲気を保ったまま自然な変化が見てとれる
髪型の変更も言葉だけで自由自在。モヒカン、カール、アフロ、ボブ、紫の髪など

本研究は OpenAI社の Contrastive Language-Image Pre-training(CLIP)と呼ばれる、自然言語を教師データとして視覚的な概念を効率的に学習する手法を利用しています。CLIPの恩恵により細かなパラメータ調整や手作業を必要とせずにStyleGANのパラメータを言葉で操作することを可能にしています。StyleGANそのものは、顔画像に限らず、さまざまな画像表現に用いることができます( CLIPに関しては「CGへの扉 Vol.22:言葉から画像を生成、DALL-Eはクリエイティブなのか?」を参照)。

顔の向き、顔への照明を自由にコントロール StyleRig

StyleRigは、StyleGANによって生成された顔画像をさまざまな方向から見た画像に変更したり、表情を変化させたり、顔に当たっている照明や光の加減を調整したりできる仕組みです。3DCGでキャラクタアニメーションを作る際にRigと呼ばれる骨格を設定し、動きや向きを調整します。それと同様にStyleRigは、StyleGANによって生成された、もともとは1枚しかない顔画像にRigを設定し、頭部の向きや、照明の状態を細かくパラメータで調整できるようになります。ここで調整した顔の向きなどのパラメータは、StyleGANで生成された他の顔画像に適用することもできます。

StyleRig 論文:StyleRig: Rigging StyleGAN for 3D Control over Portrait Images
StyleRig 動画解説:https://www.youtube.com/watch?v=eaW_P85wQ9k

StyleGANで生成した存在しない人物の顔画像に対して、向きや表情、照明を変化させた例

人工知能で生成した画像は、実在する人物を撮影するときのように顔の向きや表情、照明などを演出できない課題がありました。その点で限界を感じていた人工的に生成された顔画像の利用方法も、StyleRigのような技術で操作できる幅が広がり、将来的にはモデルや俳優のような役割が果たせることが期待されます。広告や映像配信などでスキャンダルとは無縁の、存在しない人物が掲載されることが重宝される時代がやってくるのかもしれません。

顔写真を歴史的な肖像画風に Portrait AI

Portrait AI は、実写の写真を加工し、18世紀の歴史的な肖像画のように大胆に変化させる人工知能を活用したサービスです。パスポート写真や運転免許の写真のように、正面を向いたはっきりと顔が映った写真が向いており、写真が肖像画風に加工されます。可能な限りメガネ無し、写真いっぱいに顔が写っている方が良い結果が得られます。現在は学習用のデータの元となっているのがヨーロッパを中心とした肖像画のため、生成される画像も雰囲気がヨーロッパ風になっています。今後は世界中のより広い地域における肖像画をベースに機械学習させていく予定とのこと。

Portrait AI デモサイト:https://portraitai.app/
Portrait AI アプリ:https://apps.apple.com/app/apple-store/id1474684190 (iOS 11.2以降)
https://play.google.com/store/apps/details?id=com.portraitai.portraitai (Android 5.1以降)
※Portrait AIでは個人の顔写真をネット上にアップロードすることになるので、プライバシーポリシーをご理解の上、ご利用ください。

Portrait AIで生成した著者のポートレート写真。中世期の肖像画のような画像が生成できている。300年くらい前のヨーロッパにいそうな顔
現代の有名人を Portrait AI で加工したもの。誰の肖像画かわかりますか?

普通の顔写真がアニメーションキャラクター風、浮世絵風に Toonify

Toonifyの作例。アニメキャラクター風だが、元の俳優の面影がある

Toonify は、顔写真をディズニーやピクサーのアニメーション作品に登場するキャラクター風に加工したり、浮世絵風の画像に加工したりできる技術です。デモサイトでは Toonify Classic という旧版が無料で利用できます。最新版やさまざまな加工スタイルを選ぶ場合は枚数単位で有料(10枚の加工で3ポンド(約450円)から)となります。

ToonifyもStyleGANを利用しています。StyleGANの元々の仕組みとして、最初は数ピクセル四方の画像生成から始め、解像度を高めながら何回も繰り返し画像を生成することで、最終的に1024×1024サイズの得ています。その段階的な手法を逆手にとって、すべての段階で実写の顔画像のデータセットを用いるのではなく、画像生成の最終工程、高解像度生成の段階で、浮世絵やアニメーションキャラクターを元データとしたデータセットに差し替えて計算することで、Toonifyの興味深い顔画像が生成できています。

Toonify デモサイト:https://toonify.photos/
Toonifyの元となる技術論文:Resolution Dependent GAN Interpolation for Controllable Image Synthesis Between Domains
解説動画:https://www.youtube.com/watch?v=7Oqpiaj0IUM
サンプルコード:https://github.com/justinpinkney/toonify

Toonify で生成した浮世絵風の顔画像
Toonify で利用した浮世絵のデータセット
Toonify で生成したアニメーションキャラクター風の顔画像

※上記の画像はどれも「uncurated」と呼ばれる研究中の出力そのままのサンプルのため若干のアーティファクト(歪み)が見られる

アーティストもAIと組む時代 Breathtaking AI Generated Portraits

オランダ在住の写真家 Bas Uterwijk 氏は人工知能の手助けを得ながらポートレート写真を著名な絵画風にする作風を模索中です。制作には StyleGAN が用いられ、作品として満足のいく出来のものは、NFT(Non-fungible token:非代替性トークン:希少性が証明されたデジタルコンテンツの流通プラットフォーム)での販売も考えているそうです。

作例:https://www.basuterwijk.com/portfolio/G0000WVKM6MbiIAc
動画解説:https://www.youtube.com/watch?v=rZSaD4QLjxE
Uterwijk氏のInstagram : @ganbrood AI生成ポートレートが多数投稿されている

ポートレート写真を元にStyleGANで過去の名画の画風を取り入れた絵画風のポートレート作品(※Uterwijk氏のホームページより引用)

これからのリアルとフェイク

2018年に登場した、画像生成でよく使われるようになったStyleGANも、顔画像生成の際に不自然なノイズが生成する課題や、歯の並び、視線の方向が不自然になる課題が認識されており、用途によってはその違和感が目立ちます。そこで最近は、これらの課題を解決した StyleGAN2が使われるようになってきました。今後はさらに高解像度の生成画像や、高速化、さまざまな技術との組み合わせや応用が求められています。

ベースとなるテクノロジーが進化する一方、顔画像生成などの機械学習の元となっているデータセットが人種的に偏っていたり、現代の複雑な性差が扱えていなかったり、本人の同意無しに集められた顔写真が混じっているケース、そもそものデータにつけられているラベルが間違っている状況などが危惧されています(「CGへの扉 Vol.17:描画を進化させるTensorFlow Graphicsの真価」参照)。

この問題に関しては、データセット中のエラーを修正するためのソリューションが台頭してきています。単に大量のデータセットで、そこそこの精度、そこそこの結果、場合によっては間違った結果を得るよりも、少量でも正確で信頼できるデータセットを用いた方が後々良い結果が得られるという考えが適切な研究や実装もあるでしょう。

一例を示すと、データセットのエラー浄化のためのソリューションのひとつcleanlabではImageNetと呼ばれる定番データセットから数多くのエラーを見つけ出しています。データセットの多くは専門家ではない多数の人の手でラベル付けされており、どうしてもラベルの付け間違いや画像に写っているものの見間違いが生じます。間違ったラベルがつけられたデータは、ノイズとなり機械学習の精度を低下させてしまいます。

1枚1枚の画像を目視&手作業で確認し間違いがあれば除去していくのは大変な作業ですが、cleanlabを用いるとノイズとなる可能性の高い画像を選び出すことで、エラーと疑わしき画像を除去できます。cleanlabは特定のデータセットに限らず、どのようなタイプの画像データセットでも利用できます。cleanlab の実装の元となっているのは 2020年の Confident Learning: Estimating Uncertainty in Dataset Labels という論文です。

cleanlabを用いてImageNetデータセットのエラーを見つけている様子。赤枠が間違い

論文:Confident Learning: Estimating Uncertainty in Dataset Labels

人の顔は、人間が一番読み取りやすく普段からよく見ているにもかかわらず、人工的に作られた顔画像の精度が高まったことにより、さまざまな課題や問題が生まれているのも確かです。ディープフェイクで人工的に作られた偽の顔画像がソーシャルメディアのプロフィール写真に使われ、あたかも実在の人物の意見であるかのように振舞ったり、存在しない社員の写真として使われたりと、ネガティブな面が話題になりがちですが、今回紹介したようなポジティブな用途、研究、ネガティブ面を払拭するような研究も数多く行われています。

人工知能を活用して生み出される顔画像は、単にこれは面白い!という段階から、クリエイティブな手法として生かされたり、匿名性を保つための手段や、思い出の写真を風化させない方法など、現実には存在しない画像を生み出し、今後さまざまな切り口で人工知能が活用されていくことが期待されます。

本連載の今後の予定:「CGへの扉」では、単なるAIの話題とは少し異なり、CG/VFX, アートの文脈から話題を切り取り紹介していきます。映像制作の現場におけるAI活用や、AIで価値が高まった先進的なツール、これからの可能性を感じさせるような話題、テクノロジーの話題にご期待ください。なにか取り上げて欲しいテーマやご希望などがございましたら、ぜひ編集部までお知らせください。

CGへの扉

Vol.24:自然現象もすべて人工知能で再現する時代

Vol.23:AIで人の眼に進化するカメラ

Vol.22:言葉から画像を生成、DALL-Eはクリエイティブなのか?

Vol.21:人工知能+3DCGの最新論文をまとめて紹介 #SIGGRAPHAsia2020

Vol.20:Adobeと人工知能の将来を見極める #AdobeMAX2020

Vol.19:コミュニケーションツールの新境地「NVIDIA MAXINE」

Vol.18:SIGGRAPH2020レポート 映像制作の現場で活躍する人工知能

Vol.17:描画を進化させるTensorFlow Graphicsの真価

Vol.16:バーチャル開催SIGGRAPH論文を先取り

Vol.15:撮影に革新をもたらすAIによる照明

Vol.14:AIが生み出す顔と人間の表情

Vol.13:AIのクリエイティブとクリエイティビティ再考

≫≫すべてのバックナンバーはこちらから

Contributor:安藤幸央

RELATED ARTICLE関連記事

CGへの扉 Vol.16:バーチャル開催SIGGRAPH論文を先取り

2020.7.20アート

CGへの扉 Vol.16:バーチャル開催SIGGRAPH論文を先取り

テーマはラップや映画、先住民文化も。Googleが制作支援した機械学習アート作品まとめ

2021.6.30アート

テーマはラップや映画、先住民文化も。Googleが制作支援した機械学習アート作品...

CGへの扉 Vol.29:AIの恩恵を受けるCG研究の世界。#SIGGRAPH2021 論文より

2021.8.19アート

CGへの扉 Vol.29:AIの恩恵を受けるCG研究の世界。#SIGGRAPH2...

RANKING注目の記事はこちら