モリカトロン株式会社運営「エンターテインメント×AI」の最新情報をお届けするサイトです。
- TAG LIST
- CGCGへの扉安藤幸央生成AI月刊エンタメAIニュース機械学習河合律子ディープラーニング吉本幸記OpenAIGAN音楽NVIDIAChatGPTGoogle強化学習三宅陽一郎森川幸人グーグルStable Diffusionニューラルネットワーク大規模言語モデルLLMシナリオDeepMind人工知能学会モリカトロンマイクロソフトQAAIと倫理GPT-3自然言語処理Facebook大内孝子倫理映画著作権ルールベースアートゲームプレイAIキャラクターAIスクウェア・エニックス敵対的生成ネットワークSIGGRAPHモリカトロンAIラボインタビューNPC画像生成NFTMinecraftロボットDALL-E2音楽生成AIプロシージャルMidjourneyデバッグファッションStyleGAN自動生成ディープフェイク遺伝的アルゴリズム画像生成AIゲームAIVFXAdobeテストプレイメタAIアニメーションテキスト画像生成深層学習CEDEC2019MicrosoftデジタルツインメタバースVR小説ボードゲームDALL-ECLIPtoioビヘイビア・ツリーマンガCEDEC2021CEDEC2020作曲不完全情報ゲームロボティクスナビゲーションAIマインクラフト畳み込みニューラルネットワークスポーツエージェントGDC 2021GPT-4手塚治虫マルチモーダル汎用人工知能JSAI2022バーチャルヒューマンNVIDIA OmniverseGDC 2019動画生成AIマルチエージェントCEDEC2022MetaAIアート3DCGStability AIメタデジタルヒューマン懐ゲーから辿るゲームAI技術史教育ジェネレーティブAIはこだて未来大学プロンプトRed Ram栗原聡CNNNeRFDALL-E 3BERTMicrosoft AzureUnityOmniverseJSAI2023ELSI鴫原盛之HTN階層型タスクネットワークソニー東京大学JSAI2020GTC20233DマーケティングTensorFlowインタビューブロックチェーンCMイベントレポートアストロノーカ模倣学習対話型エージェントAmazonトレーディングカードメディアアートDQN高橋力斗合成音声水野勇太アバターブラック・ジャックUbisoftGenvid TechnologiesガイスターStyleGAN2電気通信大学稲葉通将ARアップルGTC2022GPT-3.5SoraSIGGRAPH ASIANetflixJSAI2021Bard研究シムピープル世界モデルMCS-AI動的連携モデルマーダーミステリーモーションキャプチャーアドベンチャーゲームTEZUKA2020CEDEC2023AGIテキスト生成インディーゲームElectronic Arts音声合成広告JSAI2024メタデータGDC Summerイーロン・マスクStable Diffusion XL森山和道キャリアeスポーツスタンフォード大学アーケードゲームテニスサイバーエージェント音声認識類家利直eSportsBLUE PROTOCOLシーマンaiboSIE大澤博隆SFプロトタイピングモリカトロン開発者インタビュー宮本茂則チャットボットGeminiワークショップEpic GamesAIロボ「迷キュー」に挑戦AWS徳井直生村井源クラウド斎藤由多加AlphaZeroTransformerGPT-2rinnaAIりんなカメラ環世界中島秀之PaLMGitHub Copilot哲学ベリサーブPlayable!ハリウッド理化学研究所Gen-1SFテキスト画像生成AI松尾豊AIQVE ONEデータマイニング現代アートDARPAドローンシムシティゲームエンジンImagenZorkバイアスASBSぱいどんAI美空ひばり手塚眞バンダイナムコ研究所スパーシャルAIELYZANEDOFSM-DNNMindAgentLEFT 4 DEAD通しプレイ論文OpenAI Five本間翔太馬淵浩希CygamesAudio2Faceピクサープラチナエッグイーサリアム効果音ボエダ・ゴティエビッグデータ中嶋謙互Amadeus Codeデータ分析MILENVIDIA ACEナラティブNVIDIA RivaOmniverse ReplicatorWCCFレコメンドシステムNVIDIA DRIVE SimWORLD CLUB Champion FootballNVIDIA Isaac Simセガ柏田知大軍事田邊雅彦Google I/Oトレカ慶應義塾大学Max CooperGPTDisneyFireflyPyTorch京都芸術大学ChatGPT4モンテカルロ木探索眞鍋和子バンダイナムコスタジオヒストリアAI Frog Interactive新清士田中章愛銭起揚齊藤陽介コナミデジタルエンタテインメント成沢理恵お知らせMagic Leap OneTencentサッカーバスケットボールTikTokSuno AItext-to-imageサルでもわかる人工知能text-to-3DVAEDreamFusionTEZUKA2023リップシンキングRNNUbisoft La Forge自動運転車知識表現ウォッチドッグス レギオンVTuberIGDA立教大学秋期GTC2022市場分析フォートナイトKLabどうぶつしょうぎRobloxジェイ・コウガミ音楽ストリーミングMIT野々下裕子Adobe MAXマシンラーニング5GMuZeroRival Peakがんばれ森川君2号pixivオムロン サイニックエックスGPTs対話エンジンポケモン3Dスキャン橋本敦史リトル・コンピュータ・ピープルCodexシーマン人工知能研究所コンピューティショナル・フォトグラフィーPreferred Networksゴブレット・ゴブラーズ絵画Open AI3D Gaussian SplattingMicrosoft DesignerイラストシミュレーションSoul Machines柿沼太一完全情報ゲームバーチャルキャラクター坂本洋典宮本道人釜屋憲彦ウェイポイントLLaMAパス検索Hugging Face対談藤澤仁生物学GTC 2022xAIApple Vision Pro画像認識SiemensストライキStyleCLIPDeNAVoyager長谷洋平GDC 2024クラウドコンピューティングmasumi toyotaIBM宮路洋一OpenSeaGDC 2022SNSTextWorldEarth-2AppleBingMagentaソフトバンクYouTube音声生成AIELYZA PencilScenarioSIGGRAPH2023AIピカソGTC2021AI素材.comCycleGANテンセントAndreessen HorowitzQA Tech Night松木晋祐NetHack下田純也桑野範久キャラクターモーションControlNet音源分離NBAフェイクニュースユニバーサルミュージックRPG法律Web3SIGGRAPH 2022レベルデザインDreamerV3AIボイスアクターUnreal Engine南カリフォルニア大学NVIDIA CanvasGPUALife人工生命オルタナティヴ・マシンサム・アルトマンサウンドスケープLaMDATRPGマジック：ザ・ギャザリングAI Dungeon介護ゲーム背景アパレル不気味の谷ナビゲーションメッシュデザイン写真高橋ミレイ深層強化学習松原仁松井俊浩武田英明フルコトELYZA DIGESTWWDCWWDC 2024建築西成活裕ハイブリッドアーキテクチャAI野々村真Apex LegendsELIZA群衆マネジメントライブポートレイトNinjaコンピュータRPGライブビジネスWonder StudioAdobe Max 2023GPT-4-turboアップルタウン物語新型コロナ土木佐藤恵助KELDIC周済涛BIMBing Chat大道麻由メロディ言語清田陽司インフラBing Image Creator物語構造分析ゲームTENTUPLAYサイバネティックス慶応義塾大学MARVEL Future FightAstro人工知能史Amazon BedrockAssistant with Bard渡邉謙吾タイムラプスEgo4DAI哲学マップThe Arcadeここ掘れ！プッカバスキア星新一X.AISearch Generative Experienceくまうた日経イノベーション・ラボStyleGAN-XLX Corp.Dynalang濱田直希敵対的強化学習StyleGAN3TwitterVLE-CE大柳裕⼠階層型強化学習GOSU Data LabGANimatorXホールディングス加納基晴WANNGOSU Voice AssistantVoLux-GANMagiAI Actソニー・インタラクティブエンタテインメント竹内将SenpAI.GGProjected GANEU研究開発事例MobalyticsSelf-Distilled StyleGANSDXLArs Electronica赤羽進亮ニューラルレンダリングRTFKTAI規制遊戯王岡島学AWS SagemakerPLATONIKE欧州委員会UDI（Universal Duel Interface）映像セリア・ホデント形態素解析frame.ioClone X欧州議会第一工科大学UXAWS LambdaFoodly村上隆欧州理事会佐竹空良誤字検出MusicLM小林篤史認知科学中川友紀子Digital MarkAudioLM九州大学ゲームデザインSentencePieceアールティSnapchatMusicCaps荻野宏実LUMINOUS ENGINEクリエイターコミュニティAudioCraft伊藤黎Luminous ProductionsBlenderBot 3バーチャルペットビヘイビアブランチパターン・ランゲージ竹村也哉Meta AINVIDIA NeMo ServiceMubertWPPちょまどマーク・ザッカーバーグヴァネッサ・ローザMubert RenderGeneral Computer Control（GCC）GOAPWACULVanessa A RosaGen-2CradleAdobe MAX 2021陶芸Runway AI Film Festival自動翻訳Play.htPreViz音声AIAIライティングLiDARCharacter-LLMOmniverse AvatarAIのべりすとPolycam復旦大学FPSQuillBotdeforumChat-Haruhi-Suzumiyaマルコフ決定過程NVIDIA MegatronCopysmith涼宮ハルヒNVIDIA MerlinJasperハーベストEmu VideoNVIDIA MetropolisForGamesNianticパラメータ設計ゲームマーケットペリドットバランス調整岡野翔太Dream Track協調フィルタリング郡山喜彦Music AI Tools人狼知能テキサス大学ジェフリー・ヒントンLyriaGoogle I/O 2023Yahoo!知恵袋AlphaDogfight TrialsAI Messenger VoicebotインタラクティブプロンプトAIエージェントシミュレーションOpenAI Codex武蔵野美術大学StarCraft IIHyperStyleBingAI石渡正人Future of Life InstituteRendering with Style手塚プロダクションIntel林海象LAIKADisneyリサーチヴィトゲンシュタインPhotoshop古川善規RotomationGauGAN論理哲学論考Lightroom大規模再構成モデルGauGAN2CanvaLRMドラゴンクエストライバルズ画像言語表現モデルObjaverse不確定ゲームSIGGRAPH ASIA 2021PromptBaseBOOTHMVImgNetDota 2ディズニーリサーチpixivFANBOXOne-2-3-45Mitsuba2バンダイナムコネクサス虎の穴3DガウシアンスプラッティングソーシャルゲームEmbeddingワイツマン科学研究所ユーザーレビューFantiaワンショット3D生成技術GTC2020CG衣装mimicとらのあなNVIDIA MAXINEVRファッションBaidu集英社FGDC淡路滋ビデオ会議ArtflowERNIE-ViLG少年ジャンプ＋Future Game Development ConferenceグリムノーツEponym古文書ComicCopilot佐々木瞬ゴティエ・ボエダ音声クローニング凸版印刷コミコパGautier Boeda階層的クラスタリングGopherAI-OCRゲームマスター画像判定Inowrld AIJulius鑑定ラベル付けMODAniqueTPRGOxia PalusGhostwriter中村太一バーチャル・ヒューマン・エージェントtoio SDK for UnityArt RecognitionSkyrimエグゼリオクーガー実況パワフルサッカースカイリムCopilot石井敦NHC 2021桃太郎電鉄RPGツクールMZComfyUI茂谷保伯池田利夫桃鉄ChatGPT_APIMZserial experiments lainGDMC新刊案内パワサカダンジョンズ&ドラゴンズAI lainマーベル・シネマティック・ユニバースOracle RPGPCGMITメディアラボMCU岩倉宏介深津貴之PCGRLアベンジャーズPPOxVASynthDungeons&Dragonsマジック・リープDigital DomainMachine Learning Project CanvasLaser-NVビートルズMagendaMasquerade2.0国立情報学研究所ザ・ビートルズ: Get BackノンファンジブルトークンDDSPフェイシャルキャプチャー石川冬樹MERFDemucsスパコンAlibaba音楽編集ソフト里井大輝KaggleスーパーコンピュータVQRFAdobe Audition山田暉松岡 聡nvdiffreciZotopeAssassin’s Creed OriginsAI会話ジェネレーターTSUBAME 1.0NeRFMeshingRX10Sea of ThievesTSUBAME 2.0LERFMoisesGEMS COMPANYmonoAI technologyLSTMABCIマスタリングモリカトロンAIソリューション富岳レベルファイブ初音ミクOculusコード生成AISociety 5.0リアム・ギャラガー転移学習テストAlphaCode夏の電脳甲子園グライムスKaKa CreationBaldur's Gate 3Codeforces座談会BoomyVOICEVOXCandy Crush Saga自己増強型AIジョン・レジェンドGenie AISIGGRAPH ASIA 2020COLMAPザ・ウィークエンドSIGGRAPH Asia 2023ADOPNVIDIA GET3DドレイクC·ASEデバッギングBigGANGANverse3DFLAREMaterialGANダンスグランツーリスモSPORTAI絵師エッジワークスMagicAnimateReBeLグランツーリスモ・ソフィーUGC日本音楽作家団体協議会Animate AnyoneGTソフィーPGCFCAインテリジェントコンピュータ研究所VolvoFIAグランツーリスモチャンピオンシップVoiceboxアリババNovelAIさくらインターネットDreaMovingRival PrakDGX A100NovelAI DiffusionVISCUITぷよぷよScratchユービーアイソフトWebcam VTuberモーションデータスクラッチ星新一賞大阪公立大学ビスケット北尾まどかHALOポーズ推定TCGプログラミング教育将棋メタルギアソリッドVメッシュ生成FSMメルセデス・ベンツQRコードVALL-EMagic Leap囲碁Deepdub.aiナップサック問題Live NationEpyllionデンソーAUDIOGEN汎用言語モデルWeb3.0マシュー・ボールデンソーウェーブEvoke MusicAIOpsムーアの法則原昌宏AutoFoleySpotifyスマートコントラクト日本機械学会Colourlab.AiReplica Studioロボティクス・メカトロニクス講演会ディズニーamuseChitrakarQosmoAdobe MAX 2022トヨタ自動車Largo.ai巡回セールスマン問題かんばん方式Cinelyticジョルダン曲線メディアAdobe ResearchTaskade政治Galacticaプロット生成Pika.artクラウドゲーミングAI Filmmaking Assistant和田洋一リアリティ番組映像解析FastGANStadiaジョンソン裕子セキュリティ4コママンガAI ScreenwriterMILEsNightCafe東芝デジタルソリューションズ芥川賞インタラクティブ・ストリーミングLuis RuizSATLYS 映像解析AI文学インタラクティブ・メディア恋愛PFN 3D ScanElevenLabsタップル東京工業大学HeyGenAbema TVLudo博報堂After EffectsNECラップPFN 4D Scan絵本木村屋SIGGRAPH 2019ArtEmisZ世代DreamUp出版GPT StoreAIラッパーシステムDeviantArtAmmaar Reshi生成AIチェッカーWaifu DiffusionStoriesユーザーローカルGROVERプラスリンクス ～キミと繋がる想い～元素法典StoryBird九段理江FAIRSTCNovel AIVersed東京都同情塔チート検出Style Transfer ConversationProlificDreamerオンラインカジノRCPUnity Sentis4Dオブジェクト生成モデルRealFlowRinna Character PlatformUnity MuseAlign Your GaussiansiPhoneCALACaleb WardAYGDeep Fluids宮田龍MAV3DMeInGameAmelia清河幸子ファーウェイAIGraphブレイン・コンピュータ・インタフェース西中美和4D Gaussian SplattingBCIGateboxアフォーダンス安野貴博4D-GSLearning from VideoANIMAKPaLM-SayCan斧田小夜Glaze予期知能逢妻ヒカリWebGlazeセコムLLaMA 2NightShadeユクスキュルバーチャル警備システムCode as PoliciesSpawningカント損保ジャパンCaPHave I Been Trained?CM3leonFortnite上原利之Stable DoodleUnreal Editor For FortniteドラゴンクエストエージェントアーキテクチャアッパーグラウンドコリジョンチェックT2I-AdapterXRPAIROCTOPATH TRAVELER西木康智VolumetricsOCTOPATH TRAVELER 大陸の覇者山口情報芸術センター［YCAM］AIワールドジェネレーターアルスエレクトロニカ2019品質保証YCAM日本マネジメント総合研究所Rosebud AI GamemakerStyleRigAutodeskアンラーニング・ランゲージLayer逆転オセロニアBentley Systemsカイル・マクドナルドLily Hughes-RobinsonCharisma.aiワールドシミュレーターローレン・リー・マッカーシーColossal Cave Adventure奥村エルネスト純いただきストリートH100鎖国［Walled Garden］プロジェクトAdventureGPT調査齋藤精一大森田不可止COBOLSIGGRAPH ASIA 2022リリー・ヒューズ＝ロビンソンMeta Quest高橋智隆DGX H100VToonifyBabyAGIIPロボユニザナックDGX SuperPODControlVAEGPT-3.5 Turbo泉幸典仁井谷正充変分オートエンコーダーカーリング強いAIロボコレ2019Instant NeRFフォトグラメトリウィンブルドン弱いAIartonomous回帰型ニューラルネットワークbitGANsDeepJoin戦術分析ぎゅわんぶらあ自己中心派Azure Machine LearningAzure OpenAI Serviceパフォーマンス測定Lumiere意思決定モデル脱出ゲームDeepLIoTUNetHybrid Reward Architectureコミュニティ管理DeepL WriteProFitXImageFXウロチョロスSuper PhoenixWatsonxMusicFXProject MalmoオンラインゲームAthleticaTextFX気候変動コーチングProject Paidiaシンギュラリティ北見工業大学KeyframerProject Lookoutマックス・プランク気象研究所レイ・カーツワイル北見カーリングホールWatch Forビョルン・スティーブンスヴァーナー・ヴィンジ画像解析Gemini 1.5気象モデルRunway ResearchじりつくんAI StudioLEFT ALIVE気象シミュレーションMake-A-VideoNTT SportictVertex AI長谷川誠ジミ・ヘンドリックス環境問題PhenakiAIカメラChat with RTXBaby Xカート・コバーンエコロジーDreamixSTADIUM TUBESlackロバート・ダウニー・Jr.エイミー・ワインハウスSDGsText-to-ImageモデルPixelllot S3Slack AIPokémon Battle Scopeダフト・パンクメモリスタAIスマートコーチポケットモンスターGlenn MarshallkanaeruThe Age of A.I.Story2Hallucination音声変換Latitude占いレコメンデーションJukeboxDreambooth行動ロジック生成AIVeap Japanヤン・ルカンConvaiEAPneoAIPerfusionNTTドコモSIFT福井千春DreamIconニューラル物理学EmemeDCGAN医療mign毛髪GenieMOBADANNCEメンタルケアstudiffuse荒牧英治汎用AIエージェント人事ハーバード大学Edgar Handy中ザワヒデキAIファッションウィーク研修デューク大学大屋雄裕インフルエンサー中川裕志Grok-1mynet.aiローグライクゲームAdreeseen HorowitzMixture-of-Experts東京理科大学NVIDIA Avatar Cloud EngineMoE人工音声NeurIPS 2021産業技術総合研究所Replica StudiosClaude 3リザバーコンピューティングSmart NPCsClaude 3 Haikuプレイ動画ヒップホップ対話型AIモデルRoblox StudioClaude 3 Sonnet詩ソニーマーケティングPromethean AIClaude 3 Opusサイレント映画もじぱnote森永乳業環境音暗号通貨note AIアシスタントMusiioC2PAFUZZLEKetchupEndelゲーミフィケーションAlterationAI NewsTomo Kihara粒子群最適化法Art SelfiePlayfool進化差分法オープンワールドArt TransferSonar遊び群知能下川大樹AIFAPet PortraitsSonar+Dtsukurunウィル・ライト高津芳希P2EBlob Opera地方創生大石真史クリムトDolby Atmos吉田直樹BEiTStyleGAN-NADASonar Music Festival素材DETRライゾマティクスSIMASporeクリティックネットワーク真鍋大度OpenAI JapanデノイズUnity for Industryアクターネットワーク花井裕也Voice Engine画像処理DMLabRitchie HawtinCommand R+SentropyGLIDEControl SuiteErica SynthOracle Cloud InfrastructureCPUDiscordAvatarCLIPAtari 100kUfuk Barış MutluGoogle WorkspaceSynthetic DataAtari 200MJapanese InstructBLIP AlphaUdioCALMYann LeCun日本新聞協会立命館大学プログラミング鈴木雅大AIいらすとや京都精華大学ソースコード生成コンセプトアートAI PicassoTacticAIGMAIシチズンデベロッパーSonanticColie WertzEmposyNPMPGitHubCohereリドリー・スコットAIタレントFOOHウィザードリィMCN-AI連携モデル絵コンテAIタレントエージェンシーGPT-4oUrzas.aiストーリーボードmodi.aiProject Astra大阪大学BitSummitGoogle I/O 2024西川善司並木幸介KikiBlenderBitSummit Let’s Go!!Gemma 2サムライスピリッツ森寅嘉Zoetic AIVeoゼビウスSIGGRAPH 2021ペット感情認識ストリートファイター半導体Digital Dream LabsPaLM APIデジタルレプリカ音声加工Topaz Video Enhance AICozmoMakerSuiteGOT7マルタ大学DLSSタカラトミーSkebsynthesia田中達大山野辺一記NetEaseLOVOTDreambooth-Stable-DiffusionHumanRFInworld AI大里飛鳥DynamixyzMOFLINActors-HQMove AIRomiGoogle EarthSAG-AFTRAICRA2024U-NetミクシィGEPPETTO AIWGAIEEE13フェイズ構造ユニロボットStable Diffusion web UIチャーリー・ブルッカー大規模基盤モデルADVユニボPoint-EToroboXLandGato岡野原大輔東京ロボティクスAI model自己教師あり学習インピーダンス制御DEATH STRANDINGAI ModelsIn-Context Learning（ICL）深層予測学習Eric Johnson汎用強化学習AIZMO.AILoRA日立製作所MOBBY’Sファインチューニング早稲田大学Oculus Questコジマプロダクションロンドン芸術大学モビーディックグランツーリスモ尾形哲也生体情報デシマエンジンGoogle Brainダイビング量子コンピュータAIRECSound Controlアウトドアqubit汎用ロボットSYNTH SUPERAIスキャニングIBM Quantum System 2オムロンサイニックエックス照明Maxim PeterKarl Sims自動採寸北野宏明ViLaInJoshua RomoffArtnome3DLOOKダリオ・ヒルPDDLハイパースケープICONATESizerジェン・スン・フアンニューサウスウェールズ大学山崎陽斗ワコールHuggingFaceClaude Sammut立木創太スニーカーStable Audioオックスフォード大学浜中雅俊UNSTREET宗教Lars Kunzeミライ小町Newelse仏教杉浦孔明テスラ福井健策CheckGoodsコカ・コーラ田向権GameGAN二次流通食品VASA-1パックマンTesla Bot中古市場Coca‑Cola Y3000 Zero SugarVoxCeleb2Tesla AI DayWikipediaDupe KillerCopilot Copyright CommitmentAniTalkerソサエティ5.0Sphere偽ブランドテラバース上海大学SIGGRAPH 2020バズグラフXaver 1000配信京都大学Apple Intelligenceニュースタンテキ養蜂立福寛東芝Beewiseソニー・ピクチャーズ アニメーション音声解析DIB-R倉田宜典フィンテック感情分析Luma投資Fosters+Partners周 済涛Dream Machine韻律射影MILIZEZaha Hadid ArchitectsステートマシンNTT韻律転移三菱UFJ信託銀行ディープニューラルネットワークPerplexity
CGへの扉 Vol.30：SIGGRAPH2021レポート「ディープフェイクとの戦い」
2021.9.16先端技術
ディープフェイクとのイタチごっこ
ディープフェイク（DeepFake）とは、映像制作者が意図しない形で動画の一部分を差し替えたり、嘘の動画を作成したりする行為のうち、ディープラーニングのテクノロジーの助けを借りたものを総称する言葉です。以前から合成によるフェイク画像やフェイク動画は存在しましたが、そのクオリティは稚拙で、一目見てフェイク（ウソ）だと解るような不自然な合成であることが一般的でした。
ところがテクノロジーの進化により動画から顔の骨格を解析したり、その骨格に応じて他の人の顔映像と差し替える作業を、手作業ではなく自動的に行う仕組みを使用することができるようになりました。そのためある作業によって生み出された動画が作り物のウソ動画なのか本物なのか、素人目には判別できない状況が生じるようになりました。
もちろんまだまだディープフェイクで使われる技術は高度でマシンパワーを必要とするものであり、誰もが簡単に見分けがつかないほどの高品質なウソ動画を作れるわけではありません。「Reface ：リフェイス」という動画の顔を自分の顔に差し替えるアプリが存在しますが、あくまでお遊びです。
一方、どこにも存在しない人物の顔写真をディープラーニングで生成させる方法や、それによって生み出された顔画像はごく普通に見かけるようになりました。みなさんはその画像が作られたものなのか、実在の人物なのか見分けることができますか？
「Which Face is Real?」というサイトでは片方は実在の人物、片方はディープラーニングで生成された2枚の顔画像が提示されます。どちらがリアルでどちらがフェイクなのかを見分けられるかどうかを試されます。皆さんはどれくらい正解できましたか？
映画『ブレードランナー』（1982年公開） をご覧になった方は、レプリカントと呼ばれる人造人間を見分けるために、瞳をチェックしていたシーンを覚えているでしょうか？ 研究者の間ではディープラーニングで生成された顔画像と実在の人物の顔画像は「瞳」を見ると判別できると言われています。例えば、実在の人物を撮影した実写の顔画像であれば、大抵、瞳に映り込んだ照明や窓、太陽が映り込んだ輝きは、左右どちらの目も同じです。一方、ディープラーニングで生成した顔画像の場合、顔全体としてはそれっぽい顔ですが、左右の瞳の輝きの同一性まではコントロールできていません。
また瞳の中心にある瞳孔が、正円であること、または横から見ている場合は、バランスが取れた楕円である場合は、実在の人物を撮影した実写の顔画像の可能性が高く、瞳孔の部分が歪んでいたり、正円を保っていない場合は、作られた顔画像である場合が多いそうです。ただし撮影条件や、瞳の病気の有無によっても状況が変わってくるため必ずしも見分けられるものではありません。
情報の真偽を曖昧にするため「ディープフェイクは良くないもの」という風潮があるなか、ディープフェイク映像で注目を浴びていたShamookと呼ばれる YouTuberの就職先が話題になりました。なんとスターウォーズシリーズの特殊効果、VFX/CG制作で知られるILMにスカウトされ、ディープフェイクを活用した映像制作の研究開発に携わっているらしいことが、インディーズ映像に関するオンラインメディアであるIndieWireに報じられました。
この出来事を解釈すると「主流」であることと、「亜流」や「我流」であることの違いはあまり意味を持たず、どのようなアウトプット、ここではどのような映像を制作することができるのか？という能力によって評価が決まります。どんなテクノロジーも結局は使う人次第だということが再認識されます。
CGの学会・展示会である SIGGRAPH 2021 では、ディープフェイクに関する特別講演が注目を集めました。それらの講演から、認識しておかなければいけない重要なポイントや、現在の技術と倫理のバランス、ディープフェイクを作る方法と、それを見分ける方法の双方のアプローチを紹介しましょう。
ディープフェイクの作り方、悪用の事例、ディープフェイクの検出について
以下は、SIGGRAPH 2021 Featured Speakersで行われた、カリフォルニア大学バークレー校のハニー・ファリド氏による講演「CREATING, WEAPONIZING, AND DETECTING DEEPFAKES」のレポートです。
今回のハニー・ファリド氏の講演は、普段カリフォルニア大学バークレー校の博士過程の学生向けに行っている講義内容をベースにしているとのことです。
メディアを加工するという行為は、何も最近の話ではなく、スターリンの時代にまで遡ります。当時の報道写真でも、写っている余計な人物を、エアブラシ加工で除去していました。その当時は写真現像のための暗室や、特殊な機材と特異なスキルを持った一部の人だけが可能な加工でした。それが Adobe Photoshop の登場とデジタルカメラの普及で、誰もが簡単に写真の加工をすることが可能になりました。写真をツギハギすることで、笑える写真を作ったり、実際にはあり得ないような写真を生み出すこともできるようになりました。そして現在、人工知能や機械学習によって合成コンテンツが次の時代に突入しています。
「This person does not exist」というサイトにアクセスすると、存在しない人物の写真が表示されます。AIによって合成された非常にリアルな顔写真です。
このような写真が作られる基本的なフレームワークは、識別器（discriminator）と呼ばれる、顔画像かどうか識別する部分と、生成器（generator）と呼ばれる画像を生成する部分に分かれます。ネット上から集めてきた本物の人物の顔が写っている写真であれば、識別器は正しく検知します。
生成器がある画像を生成し、それを識別器に判定してもらうと、顔画像ではない場合、識別器で「不合格」となります。そこで生成器はまた少し画像を変更して、また識別器に判定してもらいます。この繰り返しを膨大な回数行うと、そのうち生成器は識別器を騙せるくらい精巧な顔画像を生成するようになります。これがいわゆるGAN（Generative Adversarial Networks＝敵対的生成ネットワーク）と呼ばれるディープニューラルネットワークです。
ここで注目すべきなのは、Photoshopによる加工もハリウッド映画の特殊効果も使用されていないことです。生成と識別の2つのニューラルネットワークが競い合うというコンピュータによる力仕事の結果、合成コンテンツが生まれています。
顔画像を差し替えたフェイク動画を作る場合も同様です。生成器が起点とするのは差し替えられる元の画像です。識別器が判定するのは、差し替える先の顔画像です。これをGANで繰り返すと、差し替える先の顔によく似た、差し替える元画像を修正した画像が生まれてくるのです。さらにこれを動画の1コマ1コマに対して処理をすると、フェイク動画が生成されるのです。
このように顔を差し替えるフェイス・スワップと呼ばれるディープフェイクには大変驚きました。まるで当人が話しているかのように、顔が差し代わったフェイク動画が生成されたからです。このフェイス・スワップはディープフェイクの代表的なカテゴリのひとつで、２つ目はパペットマスターと呼ばれる1枚の写真が動いて勝手に話しているようなフェイク動画です。そして３つ目はリップシンクと呼ばれる技術で、本人の動画を元に口の動きを自動的に生成し、話してもいない勝手なセリフをしゃべらせるディープフェイクです。これらに共通するのは「このような人物は存在しない」ということです。
これらの技術は素晴らしいテクノロジーである一方、勝手に生み出されるディープフェイクは次のような悪用の可能性が潜んでいます。
- 本人に合意を得ず、勝手にポルノ動画を生成すること
- 人を騙すことを目的としたフェイクニュース動画の生成
- 証拠の改ざん
- 国家の安全保障にまつわる陰謀動画の生成
- 詐欺用途の動画生成
これらの背景には、ディープラーニング技術の急速な発展、ソーシャルメディアの拡散のスピードと規模の拡大、フェイク動画の制作者が享受する利益の影響が存在しています。これらの潜在的な害をいかに回避するか、ディープラーニングで作られた嘘の動画をどう見分けるかという課題が生じます。
ディープフェイクの見分け方その１：立ち振る舞いの癖を解析する
例えばオバマ元大統領の演説の10秒間の動画を1フレームごとに解析します。グラフの横軸は時間で、頭を上下に動かしている様子、口の変化をプロットしたものです。これらの動きから顔の動きと話し方のクセのようなものを解析します。顔の動きは18個のパーツと、2種類の頭の動き、それらを組み合わせた190のパターンを扱うように設計しました。
目、鼻、口、あごといった顔のパーツの動きの組み合わせから、眉毛を上げて顔をしかめたり、あごをしゃくれさせたりしている様子を動画1秒につき24枚から30枚の画像を解析していきます。これらのパーツの相関関係、連動する顔のパーツの組み合わせに注目し10秒間の動画を解析します。解析結果を特徴ごとにプロットすると、それぞれの政治家によって顔の動きや話し方の特徴が異なることがわかります。この手法を用いると、ディープフェイクで作られたオバマ元大統領の動画が本人とは違う領域に位置することがわかります。
この手法であれば、フェイス・スワップタイプ、パペットマスタータイプ、リップシンクタイプのどのフェイクも判別することができますし、さらにオバマ元大統領の動きを真似たモノマネ芸人の動画をも見分けることができます。
ディープフェイクの見分け方その２：本人の耳かどうかを照合し、口と耳の連動に着目する
ここでディープフェイクを見分ける２つ目のテクニックを紹介します。あるクリエイターによるトムクルーズのディープフェイク動画が TikTok上で話題になったことがありました。これはトムクルーズのオフショットを撮影したかのような TikTok 動画ですが、実はディープフェイク動画で、機械学習に2カ月、動画の撮影に数日、動画編集1本につき24時間以上費やしているとのことです。メイキングビデオはこちらの動画で観ることができます。
TikTok に公開されているトムクルーズのフェイク動画 （@deeptomcruise）
ここで使われているディープフェイク発見のポイントは「耳」に着目したことです。主にディープフェイクで差し替えられているのは顔の表面の部分だけだからです。ディープフェイクでなりすましている元の人が誰かわからなくとも、トムクルーズのような有名人であれば、ネットにある写真から耳の形を見つけ出すことができます。
耳に注目したことで、もうひとつ分かったことは、口を動かして話す時に、耳もそれに影響を受けて少し動くということです。本人の実写映像では見られる口と耳との連動が、ディープフェイク動画では見られません。耳の各部分に着目すると、話す時に耳全体が動く人と、耳の一部だけが動く人などそれぞれの特徴が解析できます。
ディープフェイクの見分け方その３：発音と口の動きとの連動を照合する
ディープフェイクを見分ける３つ目のテクニックは、発する声と口の形の相関関係を照合するというものです。腹話術でもないかぎり、口の動きと発声とは密接に関係しています。ディープフェイク、それもリップシンク形式のディープフェイクの場合は、ぱっと見、口が開いているか閉じているかといった単純な見栄えだけは合致していますが、口全体の形は少し歪になっています。違いが見つかる確率は50%ほどです。この状況に着目し、ある発生に必要な口の形と、画像との差異を見つけることでリップシンク形式のディープフェイクの90%前後を識別することが可能になります。
以上に述べたようなディープフェイクの検出の研究は進められていますが、YouTubeには毎分500時間分の動画がアップロードされており、それらすべてについてディープフェイクの検出を行うことはできません。
ディープフェイクの検出という考えを推し進めるためには、ディープフェイクではない正しい実写映像が実在する正当な動画であるということを示すことも大切です。ビデオ映像を撮影した際に、位置情報を埋め込んだり、動画や音声を暗号化したり、電子透かしを付与することで改ざんを防止したり、改ざんされたことを見つだす方法も考えられます。
ディープフェイクのような最新テクノロジーは、必ずそのテクノロジーにおけるポジティブな影響とネガティブな影響があり、長所が短所を上回るように扱っていかなければいけないと、ハニー・ファリド氏は講演を締めくくりました。ここで紹介された各手法は論文としてファリド氏の研究室のページで紹介されています。
これからのフェイクとリアル
GANの仕組みを考えると、フェイクが見分けられるということは、フェイクだと見分けられないように画像や動画を生成させることも技術的にはできるようになる可能性を秘めています。まさにイタチごっこと言われる所以です。
ハニー・ファリド氏が述べていたように、テクノロジーだけですべてのディープフェイクを回避することはできません。倫理面に配慮したルールの整備や、ディープフェイクの技術のオープン化、それらを検知する技術のオープン化によって抑制できる部分もあるでしょう。
また、ディープフェイクのような動画の顔画像を差し替える技術は、悪いことばかりではありません。この技術によって友達や家族とヘンテコな動画を楽しんだり、故人を偲んだり、最新の映画のVFXとして活用されたり、亡くなった名俳優の演技を再び観ることも可能になるからです。肖像権や俳優の権利を守らなければいけない部分に考慮しつつ、こういったさまざまな応用が考えられます。また、ディープフェイク技術は人間ばかりではなくペットや動物でも同じような応用が広がる可能性も考えられます。まさにテクノロジーを生かすも殺すも人次第ということなのかもしれません。
本連載の今後の予定：「CGへの扉」では、単なるAIの話題とは少し異なり、CG/VFX, アートの文脈から話題を切り取り紹介していきます。映像制作の現場におけるAI活用や、AIで価値が高まった先進的なツール、これからの可能性を感じさせるような話題、テクノロジーの話題にご期待ください。何か取り上げて欲しいテーマやご希望などがございましたら、ぜひ編集部までお知らせください。
Vol.29：AIの恩恵を受けるCG研究の世界。#SIGGRAPH2021 論文より
Vol.28：定番手法の他分野応用、自然言語処理AI由来の画像処理AI
Vol.27：眼に追いつけ追い越せ？ カメラは機械学習により進化
Vol.26：アートを加速させるAIの役割 #GTC2021 レポート
Vol.22：言葉から画像を生成、DALL-Eはクリエイティブなのか？
Vol.21：人工知能＋3DCGの最新論文をまとめて紹介 #SIGGRAPHAsia2020
Vol.20：Adobeと人工知能の将来を見極める #AdobeMAX2020
Vol.19：コミュニケーションツールの新境地「NVIDIA MAXINE」
Contributor：安藤幸央
RANKING
