モリカトロン株式会社運営「エンターテインメント×AI」の最新情報をお届けするサイトです。

TAG LIST
CGCGへの扉安藤幸央機械学習月刊エンタメAIニュースディープラーニング河合律子生成AI吉本幸記OpenAIGAN音楽NVIDIAGoogle強化学習三宅陽一郎ChatGPTニューラルネットワークStable Diffusionグーグル森川幸人シナリオDeepMindQA大規模言語モデル人工知能学会GPT-3自然言語処理マイクロソフトFacebook大内孝子AIと倫理映画著作権アート倫理モリカトロンキャラクターAI敵対的生成ネットワークルールベースLLMSIGGRAPHゲームプレイAIスクウェア・エニックスモリカトロンAIラボインタビュー画像生成NPCNFTプロシージャルMidjourneyデバッグMinecraftDALL-E2StyleGAN遺伝的アルゴリズム画像生成AIロボットファッション音楽生成AI自動生成VFXAdobeテストプレイメタAIアニメーションテキスト画像生成深層学習CEDEC2019ディープフェイクデジタルツインメタバースVR小説ボードゲームDALL-ECLIPビヘイビア・ツリーマンガCEDEC2021CEDEC2020ゲームAI不完全情報ゲームナビゲーションAI畳み込みニューラルネットワークtoioGDC 2021JSAI2022バーチャルヒューマン作曲MicrosoftNVIDIA OmniverseGDC 2019マルチエージェントCEDEC2022MetaマインクラフトAIアート3DCGStability AIメタデジタルヒューマン懐ゲーから辿るゲームAI技術史ジェネレーティブAIスポーツエージェントプロンプト栗原聡手塚治虫汎用人工知能CNNNeRFDALL-E 3BERTロボティクスUnityOmniverseJSAI2023鴫原盛之教育HTN階層型タスクネットワークソニーGPT-4マルチモーダルJSAI2020GTC20233DTensorFlowインタビューブロックチェーンイベントレポート対話型エージェントAmazonメディアアートDQN水野勇太アバターUbisoftGenvid TechnologiesガイスターStyleGAN2ARELSIGTC2022SIGGRAPH ASIANetflixJSAI2021東京大学はこだて未来大学Bard研究シムピープルMCS-AI動的連携モデルRed RamモーションキャプチャーTEZUKA2020CEDEC2023テキスト生成インディーゲームElectronic Arts音声合成マーケティングメタデータGDC Summerイーロン・マスクStable Diffusion XLCMMicrosoft Azureアストロノーカキャリア模倣学習動画生成AIeスポーツスタンフォード大学アーケードゲームテニスサイバーエージェントトレーディングカード音声認識類家利直eSportsBLUE PROTOCOLシーマンaibo合成音声チャットボットブラック・ジャックEpic GamesAIロボ「迷キュー」に挑戦AWS徳井直生クラウド斎藤由多加AlphaZeroTransformerGPT-2rinnaAIりんなカメラ環世界中島秀之PaLM哲学ベリサーブPlayable!GPT-3.5ハリウッド理化学研究所Gen-1SoraSFテキスト画像生成AI松尾豊データマイニング現代アートDARPAドローンシムシティゲームエンジンImagenZorkバイアスマーダーミステリーASBSぱいどんアドベンチャーゲームAI美空ひばりAGI手塚眞バンダイナムコ研究所スパーシャルAIELYZANEDOFSM-DNNLEFT 4 DEAD通しプレイ論文OpenAI Five本間翔太馬淵浩希Cygames森山和道Audio2Faceピクサープラチナエッグイーサリアム効果音ボエダ・ゴティエビッグデータ中嶋謙互Amadeus Codeデータ分析MILENVIDIA ACEナラティブNVIDIA RivaOmniverse ReplicatorWCCFレコメンドシステムNVIDIA DRIVE SimWORLD CLUB Champion FootballNVIDIA Isaac Simセガ柏田知大軍事田邊雅彦トレカMax CooperGPTDisneyFireflyPyTorchChatGPT4眞鍋和子バンダイナムコスタジオヒストリアAI Frog Interactive新清士SIE大澤博隆SFプロトタイピング齊藤陽介お知らせMagic Leap OneTencentモリカトロン開発者インタビュー宮本茂則バスケットボールGeminiTikToktext-to-imageサルでもわかる人工知能text-to-3DVAEDreamFusionTEZUKA2023リップシンキングRNNUbisoft La Forge自動運転車ワークショップ知識表現ウォッチドッグス レギオンVTuberIGDA立教大学秋期GTC2022市場分析フォートナイトどうぶつしょうぎRobloxジェイ・コウガミ音楽ストリーミングMIT野々下裕子Adobe MAXマシンラーニング村井源5GMuZeroRival Peakpixivオムロン サイニックエックスGPTs電気通信大学対話エンジン稲葉通将ポケモン3Dスキャン橋本敦史リトル・コンピュータ・ピープルCodexシーマン人工知能研究所コンピューティショナル・フォトグラフィーPreferred Networksゴブレット・ゴブラーズ絵画Open AI3D Gaussian SplattingMicrosoft DesignerアップルイラストシミュレーションSoul Machines柿沼太一完全情報ゲームバーチャルキャラクター坂本洋典釜屋憲彦GitHub CopilotウェイポイントLLaMAパス検索対談藤澤仁生物学GTC 2022xAIApple Vision Pro画像認識SiemensストライキStyleCLIPDeNA長谷洋平クラウドコンピューティングmasumi toyotaIBM宮路洋一OpenSeaGDC 2022SNSTextWorldEarth-2BingMagentaYouTube音声生成AIELYZA PencilScenarioSIGGRAPH2023AIピカソGTC2021AI素材.comCycleGANテンセントAndreessen HorowitzAIQVE ONENetHackキャラクターモーションControlNet音源分離NBAフェイクニュースユニバーサルミュージックRPG法律Web3SIGGRAPH 2022世界モデルレベルデザインDreamerV3AIボイスアクターUnreal Engine南カリフォルニア大学NVIDIA CanvasGPUALife人工生命オルタナティヴ・マシンサウンドスケープLaMDATRPGマジック:ザ・ギャザリングAI Dungeonゲーム背景アパレル不気味の谷ナビゲーションメッシュデザイン高橋ミレイ深層強化学習松原仁松井俊浩武田英明フルコトELYZA DIGEST建築広告西成活裕ハイブリッドアーキテクチャApex LegendsELIZA群衆マネジメントライブポートレイトNinjaコンピュータRPGライブビジネスWonder StudioAdobe Max 2023アップルタウン物語新型コロナ土木MindAgentKELDIC周済涛BIMBing Chatメロディ言語清田陽司インフラBing Image CreatorゲームTENTUPLAYサイバネティックスMARVEL Future FightAstro人工知能史Amazon BedrockAssistant with BardタイムラプスEgo4DAI哲学マップThe Arcadeバスキア星新一X.AISearch Generative Experience日経イノベーション・ラボStyleGAN-XLX Corp.Dynalang敵対的強化学習StyleGAN3TwitterVLE-CE階層型強化学習GOSU Data LabGANimatorXホールディングスWANNGOSU Voice AssistantVoLux-GANMagiAI Act竹内将SenpAI.GGProjected GANEUMobalyticsSelf-Distilled StyleGANSDXLArs ElectronicaニューラルレンダリングRTFKTAI規制岡島学AWS SagemakerPLATONIKE欧州委員会映像セリア・ホデント形態素解析frame.ioClone X欧州議会UXAWS LambdaFoodly村上隆欧州理事会誤字検出MusicLM認知科学中川友紀子Digital MarkAudioLMゲームデザインSentencePieceアールティSnapchatMusicCapsLUMINOUS ENGINEクリエイターコミュニティAudioCraftLuminous ProductionsBlenderBot 3バーチャルペットパターン・ランゲージ竹村也哉Meta AINVIDIA NeMo ServiceMubertちょまどマーク・ザッカーバーグヴァネッサ・ローザMubert RenderGOAPWACULVanessa A RosaGen-2Adobe MAX 2021陶芸Runway AI Film Festival自動翻訳Play.htPreViz音声AIAIライティングLiDARCharacter-LLMOmniverse AvatarAIのべりすとPolycam復旦大学FPSQuillBotdeforumChat-Haruhi-Suzumiyaマルコフ決定過程NVIDIA MegatronCopysmith涼宮ハルヒNVIDIA MerlinJasperハーベストEmu VideoNVIDIA MetropolisForGamesNianticパラメータ設計ゲームマーケットペリドットバランス調整岡野翔太Dream Track協調フィルタリング郡山喜彦Music AI Tools人狼知能テキサス大学ジェフリー・ヒントンLyriaGoogle I/O 2023Yahoo!知恵袋AlphaDogfight TrialsAI Messenger VoicebotGoogle I/OインタラクティブプロンプトAIエージェントシミュレーションOpenAI Codex武蔵野美術大学慶應義塾大学StarCraft IIHyperStyleBingAI石渡正人Future of Life InstituteRendering with Style手塚プロダクションIntel林海象LAIKADisneyリサーチヴィトゲンシュタインPhotoshop古川善規RotomationGauGAN論理哲学論考Lightroom大規模再構成モデルGauGAN2京都芸術大学CanvaLRMドラゴンクエストライバルズ画像言語表現モデルObjaverse不確定ゲームSIGGRAPH ASIA 2021PromptBaseBOOTHMVImgNetDota 2モンテカルロ木探索ディズニーリサーチpixivFANBOXOne-2-3-45Mitsuba2バンダイナムコネクサス虎の穴3DガウシアンスプラッティングソーシャルゲームEmbeddingワイツマン科学研究所ユーザーレビューFantiaワンショット3D生成技術GTC2020CG衣装mimicとらのあな高橋力斗NVIDIA MAXINEVRファッションBaidu集英社FGDC淡路滋ビデオ会議ArtflowERNIE-ViLG少年ジャンプ+Future Game Development ConferenceグリムノーツEponym古文書ComicCopilot佐々木瞬ゴティエ・ボエダ音声クローニング凸版印刷コミコパGautier Boeda階層的クラスタリングGopherAI-OCRゲームマスター画像判定Inowrld AIJulius鑑定ラベル付けMODAniqueTPRGOxia PalusGhostwriter中村太一バーチャル・ヒューマン・エージェントtoio SDK for UnityArt RecognitionSkyrimエグゼリオクーガー田中章愛実況パワフルサッカースカイリムCopilot石井敦銭起揚NHC 2021桃太郎電鉄RPGツクールMZComfyUI茂谷保伯池田利夫桃鉄ChatGPT_APIMZserial experiments lainGDMC新刊案内パワサカダンジョンズ&ドラゴンズAI lainマーベル・シネマティック・ユニバースコナミデジタルエンタテインメントOracle RPGPCG成沢理恵MITメディアラボMCU岩倉宏介深津貴之PCGRLアベンジャーズPPOxVASynthDungeons&Dragonsマジック・リープDigital DomainMachine Learning Project CanvasLaser-NVビートルズMagendaMasquerade2.0国立情報学研究所ザ・ビートルズ: Get BackノンファンジブルトークンDDSPフェイシャルキャプチャー石川冬樹MERFDemucsサッカースパコンAlibaba音楽編集ソフト里井大輝KaggleスーパーコンピュータVQRFAdobe Audition山田暉松岡 聡nvdiffreciZotopeAssassin’s Creed OriginsAI会話ジェネレーターTSUBAME 1.0NeRFMeshingRX10Sea of ThievesTSUBAME 2.0LERFMoisesGEMS COMPANYmonoAI technologyLSTMABCIマスタリングモリカトロンAIソリューション富岳レベルファイブ初音ミクOculusコード生成AISociety 5.0リアム・ギャラガーSuno AI転移学習テストAlphaCode夏の電脳甲子園グライムスKaKa CreationBaldur's Gate 3Codeforces座談会BoomyVOICEVOXCandy Crush Saga自己増強型AIジョン・レジェンドGenie AISIGGRAPH ASIA 2020COLMAPザ・ウィークエンドSIGGRAPH Asia 2023ADOPNVIDIA GET3DドレイクC·ASEデバッギングBigGANGANverse3DFLAREMaterialGANダンスグランツーリスモSPORTAI絵師エッジワークスMagicAnimateReBeLグランツーリスモ・ソフィーUGC日本音楽作家団体協議会Animate AnyoneGTソフィーPGCFCAインテリジェントコンピュータ研究所VolvoFIAグランツーリスモチャンピオンシップVoiceboxアリババNovelAIさくらインターネットDreaMovingRival PrakDGX A100NovelAI DiffusionVISCUITぷよぷよScratchユービーアイソフトWebcam VTuberモーションデータスクラッチ星新一賞大阪公立大学ビスケット北尾まどかHALOポーズ推定TCGプログラミング教育将棋メタルギアソリッドVメッシュ生成KLabFSMメルセデス・ベンツQRコードVALL-EMagic Leap囲碁Deepdub.aiナップサック問題Live NationEpyllionデンソーAUDIOGEN汎用言語モデルWeb3.0マシュー・ボールデンソーウェーブEvoke MusicAIOpsムーアの法則原昌宏AutoFoleySpotifyスマートコントラクト日本機械学会Colourlab.AiReplica Studioロボティクス・メカトロニクス講演会ディズニーamuseChitrakarQosmoAdobe MAX 2022トヨタ自動車Largo.ai巡回セールスマン問題かんばん方式Cinelyticジョルダン曲線メディアAdobe ResearchTaskade政治Galacticaプロット生成Pika.artクラウドゲーミングがんばれ森川君2号AI Filmmaking Assistant和田洋一リアリティ番組映像解析FastGANStadiaジョンソン裕子セキュリティ4コママンガAI ScreenwriterMILEsNightCafe東芝デジタルソリューションズ芥川賞インタラクティブ・ストリーミングLuis RuizSATLYS 映像解析AI文学インタラクティブ・メディア恋愛PFN 3D ScanElevenLabsタップル東京工業大学HeyGenAbema TVLudo博報堂After EffectsNECラップPFN 4D Scan絵本木村屋SIGGRAPH 2019ArtEmisZ世代DreamUp出版GPT StoreAIラッパーシステムDeviantArtAmmaar Reshi生成AIチェッカーWaifu DiffusionStoriesユーザーローカルGROVERプラスリンクス ~キミと繋がる想い~元素法典StoryBird九段理江FAIRSTCNovel AIVersed東京都同情塔チート検出Style Transfer ConversationProlificDreamerオンラインカジノRCPUnity Sentis4Dオブジェクト生成モデルRealFlowRinna Character PlatformUnity MuseAlign Your GaussiansiPhoneCALACaleb WardAYGDeep Fluids宮田龍MAV3DMeInGameAmelia清河幸子ファーウェイAIGraphブレイン・コンピュータ・インタフェース西中美和4D Gaussian SplattingBCIGateboxアフォーダンス安野貴博4D-GSLearning from VideoANIMAKPaLM-SayCan斧田小夜Glaze予期知能逢妻ヒカリ宮本道人WebGlazeセコムLLaMA 2NightShadeユクスキュルバーチャル警備システムCode as PoliciesSpawningカント損保ジャパンCaPHugging FaceHave I Been Trained?CM3leonFortnite上原利之Stable DoodleUnreal Editor For FortniteドラゴンクエストエージェントアーキテクチャアッパーグラウンドコリジョンチェックT2I-AdapterXRPAIROCTOPATH TRAVELER西木康智VolumetricsOCTOPATH TRAVELER 大陸の覇者山口情報芸術センター[YCAM]AIワールドジェネレーターアルスエレクトロニカ2019品質保証YCAM日本マネジメント総合研究所Rosebud AI GamemakerStyleRigAutodeskアンラーニング・ランゲージVoyagerLayer逆転オセロニアBentley Systemsカイル・マクドナルドLily Hughes-RobinsonCharisma.aiワールドシミュレーターローレン・リー・マッカーシーColossal Cave AdventureGDC 2024奥村エルネスト純いただきストリートH100鎖国[Walled Garden]​​プロジェクトAdventureGPT調査齋藤精一大森田不可止COBOLSIGGRAPH ASIA 2022リリー・ヒューズ=ロビンソンMeta Quest高橋智隆DGX H100VToonifyBabyAGIIPロボユニザナックDGX SuperPODControlVAEGPT-3.5 Turbo泉幸典仁井谷正充変分オートエンコーダーカーリング強いAIロボコレ2019Instant NeRFフォトグラメトリウィンブルドン弱いAIartonomous回帰型ニューラルネットワークbitGANsDeepJoin戦術分析ぎゅわんぶらあ自己中心派Azure Machine LearningAzure OpenAI Serviceパフォーマンス測定Lumiere意思決定モデル脱出ゲームDeepLIoTUNetHybrid Reward Architectureコミュニティ管理DeepL WriteProFitXImageFXウロチョロスSuper PhoenixWatsonxMusicFXProject MalmoオンラインゲームAthleticaTextFX気候変動コーチングProject Paidiaシンギュラリティ北見工業大学KeyframerProject Lookoutマックス・プランク気象研究所レイ・カーツワイル北見カーリングホールAppleWatch Forビョルン・スティーブンスヴァーナー・ヴィンジ画像解析Gemini 1.5気象モデルRunway ResearchじりつくんAI StudioLEFT ALIVE気象シミュレーションMake-A-VideoNTT SportictVertex AI長谷川誠ジミ・ヘンドリックス環境問題PhenakiAIカメラChat with RTXBaby Xカート・コバーンエコロジーDreamixSTADIUM TUBESlackロバート・ダウニー・Jr.エイミー・ワインハウスSDGsText-to-ImageモデルPixelllot S3Slack AIソフトバンクPokémon Battle Scopeダフト・パンクメモリスタAIスマートコーチポケットモンスターGlenn MarshallkanaeruThe Age of A.I.Story2Hallucination音声変換Latitude占いレコメンデーションJukeboxDreambooth行動ロジック生成AIVeap Japanヤン・ルカンConvaiEAPneoAIPerfusionNTTドコモSIFT福井千春DreamIconニューラル物理学EmemeDCGAN医療mign毛髪GenieMOBADANNCEメンタルケアstudiffuse荒牧英治汎用AIエージェント人事ハーバード大学Edgar Handy中ザワヒデキAIファッションウィーク研修デューク大学大屋雄裕インフルエンサーQA Tech Night中川裕志Grok-1mynet.aiローグライクゲーム松木晋祐Adreeseen HorowitzMixture-of-Experts東京理科大学下田純也NVIDIA Avatar Cloud EngineMoE人工音声NeurIPS 2021産業技術総合研究所桑野範久Replica StudiosClaude 3リザバーコンピューティングSmart NPCsClaude 3 Haikuプレイ動画ヒップホップ対話型AIモデルRoblox StudioClaude 3 SonnetソニーマーケティングPromethean AIClaude 3 Opusサイレント映画もじぱnote森永乳業環境音暗号通貨note AIアシスタントMusiioC2PAFUZZLEKetchupEndelゲーミフィケーションAlterationAI NewsTomo Kihara粒子群最適化法Art SelfiePlayfool進化差分法オープンワールドArt TransferSonar遊び群知能下川大樹AIFAPet PortraitsSonar+D​​tsukurunウィル・ライト高津芳希P2EBlob Opera地方創生大石真史クリムトDolby Atmos吉田直樹BEiTStyleGAN-NADASonar Music FestivalDETRライゾマティクスSporeクリティックネットワーク真鍋大度デノイズUnity for Industryアクターネットワーク花井裕也画像処理DMLabRitchie HawtinSentropyGLIDEControl SuiteErica SynthCPUDiscordAvatarCLIPAtari 100kUfuk Barış MutluSynthetic DataAtari 200MJapanese InstructBLIP AlphaCALMYann LeCun日本新聞協会プログラミングサム・アルトマン鈴木雅大AIいらすとやソースコード生成コンセプトアートAI PicassoGMAIシチズンデベロッパーSonanticColie WertzEmposyGitHubCohereリドリー・スコットAIタレントウィザードリィMCN-AI連携モデル絵コンテAIタレントエージェンシーUrzas.aiストーリーボードmodi.ai介護大阪大学BitSummit西川善司並木幸介KikiBlenderBitSummit Let’s Go!!サムライスピリッツ森寅嘉Zoetic AIゼビウスSIGGRAPH 2021ペットストリートファイター半導体Digital Dream LabsPaLM APIデジタルレプリカTopaz Video Enhance AICozmoMakerSuiteGOT7DLSSタカラトミーSkebsynthesia山野辺一記NetEaseLOVOTDreambooth-Stable-DiffusionHumanRF大里飛鳥DynamixyzMOFLINActors-HQRomiGoogle EarthSAG-AFTRAU-NetミクシィGEPPETTO AIWGA13フェイズ構造ユニロボットStable Diffusion web UIチャーリー・ブルッカーADVユニボPoint-EXLandGato岡野原大輔AI model自己教師あり学習DEATH STRANDINGAI ModelsIn-Context Learning(ICL)Eric Johnson汎用強化学習AIZMO.AILoRAMOBBY’SファインチューニングOculus Questコジマプロダクションロンドン芸術大学モビーディックグランツーリスモ生体情報デシマエンジンGoogle Brainダイビング量子コンピュータSound Controlアウトドアqubit写真SYNTH SUPERAIスキャニングIBM Quantum System 2照明Maxim PeterKarl Sims自動採寸北野宏明Joshua RomoffArtnome3DLOOKダリオ・ヒルハイパースケープICONATESizerジェン・スン・フアン山崎陽斗ワコールHuggingFace立木創太スニーカーStable Audio浜中雅俊UNSTREET宗教ミライ小町Newelse仏教テスラ福井健策CheckGoodsコカ・コーラGameGAN二次流通食品パックマンTesla Bot中古市場Coca‑Cola Y3000 Zero SugarTesla AI DayWikipediaDupe KillerCopilot Copyright Commitmentソサエティ5.0Sphere偽ブランドテラバースSIGGRAPH 2020バズグラフXaver 1000配信京都大学ニュースタンテキ養蜂立福寛東芝Beewiseソニー・ピクチャーズ アニメーション音声解析DIB-R倉田宜典フィンテック感情分析投資Fosters+Partners周 済涛韻律射影MILIZEZaha Hadid Architectsステートマシン韻律転移三菱UFJ信託銀行ディープニューラルネットワーク

CGへの扉 Vol.30:SIGGRAPH2021レポート「ディープフェイクとの戦い」

2021.9.16先端技術

CGへの扉 Vol.30:SIGGRAPH2021レポート「ディープフェイクとの戦い」

ディープフェイクとのイタチごっこ

ディープフェイク(DeepFake)とは、映像制作者が意図しない形で動画の一部分を差し替えたり、嘘の動画を作成したりする行為のうち、ディープラーニングのテクノロジーの助けを借りたものを総称する言葉です。以前から合成によるフェイク画像やフェイク動画は存在しましたが、そのクオリティは稚拙で、一目見てフェイク(ウソ)だと解るような不自然な合成であることが一般的でした。

ところがテクノロジーの進化により動画から顔の骨格を解析したり、その骨格に応じて他の人の顔映像と差し替える作業を、手作業ではなく自動的に行う仕組みを使用することができるようになりました。そのためある作業によって生み出された動画が作り物のウソ動画なのか本物なのか、素人目には判別できない状況が生じるようになりました。

もちろんまだまだディープフェイクで使われる技術は高度でマシンパワーを必要とするものであり、誰もが簡単に見分けがつかないほどの高品質なウソ動画を作れるわけではありません。「Reface :リフェイス」という動画の顔を自分の顔に差し替えるアプリが存在しますが、あくまでお遊びです。

一方、どこにも存在しない人物の顔写真をディープラーニングで生成させる方法や、それによって生み出された顔画像はごく普通に見かけるようになりました。みなさんはその画像が作られたものなのか、実在の人物なのか見分けることができますか?

Which Face is Real?」というサイトでは片方は実在の人物、片方はディープラーニングで生成された2枚の顔画像が提示されます。どちらがリアルでどちらがフェイクなのかを見分けられるかどうかを試されます。皆さんはどれくらい正解できましたか?

映画『ブレードランナー』(1982年公開) をご覧になった方は、レプリカントと呼ばれる人造人間を見分けるために、瞳をチェックしていたシーンを覚えているでしょうか? 研究者の間ではディープラーニングで生成された顔画像と実在の人物の顔画像は「瞳」を見ると判別できると言われています。例えば、実在の人物を撮影した実写の顔画像であれば、大抵、瞳に映り込んだ照明や窓、太陽が映り込んだ輝きは、左右どちらの目も同じです。一方、ディープラーニングで生成した顔画像の場合、顔全体としてはそれっぽい顔ですが、左右の瞳の輝きの同一性まではコントロールできていません。

また瞳の中心にある瞳孔が、正円であること、または横から見ている場合は、バランスが取れた楕円である場合は、実在の人物を撮影した実写の顔画像の可能性が高く、瞳孔の部分が歪んでいたり、正円を保っていない場合は、作られた顔画像である場合が多いそうです。ただし撮影条件や、瞳の病気の有無によっても状況が変わってくるため必ずしも見分けられるものではありません。

情報の真偽を曖昧にするため「ディープフェイクは良くないもの」という風潮があるなか、ディープフェイク映像で注目を浴びていたShamookと呼ばれる YouTuberの就職先が話題になりました。なんとスターウォーズシリーズの特殊効果、VFX/CG制作で知られるILMにスカウトされ、ディープフェイクを活用した映像制作の研究開発に携わっているらしいことが、インディーズ映像に関するオンラインメディアであるIndieWireに報じられました。

この出来事を解釈すると「主流」であることと、「亜流」や「我流」であることの違いはあまり意味を持たず、どのようなアウトプット、ここではどのような映像を制作することができるのか?という能力によって評価が決まります。どんなテクノロジーも結局は使う人次第だということが再認識されます。

CGの学会・展示会である SIGGRAPH 2021 では、ディープフェイクに関する特別講演が注目を集めました。それらの講演から、認識しておかなければいけない重要なポイントや、現在の技術と倫理のバランス、ディープフェイクを作る方法と、それを見分ける方法の双方のアプローチを紹介しましょう。

ディープフェイクの作り方、悪用の事例、ディープフェイクの検出について

以下は、SIGGRAPH 2021 Featured Speakersで行われた、カリフォルニア大学バークレー校のハニー・ファリド氏による講演「CREATING, WEAPONIZING, AND DETECTING DEEPFAKES」のレポートです。

他カンファレンスで講演された本講演の短縮バージョン(約20分)
他カンファレンスで講演された本講演と同等のバージョン(約70分)

今回のハニー・ファリド氏の講演は、普段カリフォルニア大学バークレー校の博士過程の学生向けに行っている講義内容をベースにしているとのことです。

加工された旧ソビエトの写真

メディアを加工するという行為は、何も最近の話ではなく、スターリンの時代にまで遡ります。当時の報道写真でも、写っている余計な人物を、エアブラシ加工で除去していました。その当時は写真現像のための暗室や、特殊な機材と特異なスキルを持った一部の人だけが可能な加工でした。それが Adobe Photoshop の登場とデジタルカメラの普及で、誰もが簡単に写真の加工をすることが可能になりました。写真をツギハギすることで、笑える写真を作ったり、実際にはあり得ないような写真を生み出すこともできるようになりました。そして現在、人工知能や機械学習によって合成コンテンツが次の時代に突入しています。

Photoshopで加工した見るからにフェイクだと分かる写真

This person does not exist」というサイトにアクセスすると、存在しない人物の写真が表示されます。AIによって合成された非常にリアルな顔写真です。

AIが描いた顔写真を集めたサイト This person does not existより

このような写真が作られる基本的なフレームワークは、識別器(discriminator)と呼ばれる、顔画像かどうか識別する部分と、生成器(generator)と呼ばれる画像を生成する部分に分かれます。ネット上から集めてきた本物の人物の顔が写っている写真であれば、識別器は正しく検知します。

識別器(discriminator)と 生成器(generator)の構成

生成器がある画像を生成し、それを識別器に判定してもらうと、顔画像ではない場合、識別器で「不合格」となります。そこで生成器はまた少し画像を変更して、また識別器に判定してもらいます。この繰り返しを膨大な回数行うと、そのうち生成器は識別器を騙せるくらい精巧な顔画像を生成するようになります。これがいわゆるGAN(Generative Adversarial Networks=敵対的生成ネットワーク)と呼ばれるディープニューラルネットワークです。

ここで注目すべきなのは、Photoshopによる加工もハリウッド映画の特殊効果も使用されていないことです。生成と識別の2つのニューラルネットワークが競い合うというコンピュータによる力仕事の結果、合成コンテンツが生まれています。

顔画像を差し替えたフェイク画像を作る仕組み

顔画像を差し替えたフェイク動画を作る場合も同様です。生成器が起点とするのは差し替えられる元の画像です。識別器が判定するのは、差し替える先の顔画像です。これをGANで繰り返すと、差し替える先の顔によく似た、差し替える元画像を修正した画像が生まれてくるのです。さらにこれを動画の1コマ1コマに対して処理をすると、フェイク動画が生成されるのです。

左がオリジナル、右がスティーヴ・ブシェミという俳優の顔に差し替えたもの

このように顔を差し替えるフェイス・スワップと呼ばれるディープフェイクには大変驚きました。まるで当人が話しているかのように、顔が差し代わったフェイク動画が生成されたからです。このフェイス・スワップはディープフェイクの代表的なカテゴリのひとつで、2つ目はパペットマスターと呼ばれる1枚の写真が動いて勝手に話しているようなフェイク動画です。そして3つ目はリップシンクと呼ばれる技術で、本人の動画を元に口の動きを自動的に生成し、話してもいない勝手なセリフをしゃべらせるディープフェイクです。これらに共通するのは「このような人物は存在しない」ということです。

ディープフェイクの代表的な3つのカテゴリ

これらの技術は素晴らしいテクノロジーである一方、勝手に生み出されるディープフェイクは次のような悪用の可能性が潜んでいます。

  1. 本人に合意を得ず、勝手にポルノ動画を生成すること
  2. 人を騙すことを目的としたフェイクニュース動画の生成
  3. 証拠の改ざん
  4. 国家の安全保障にまつわる陰謀動画の生成
  5. 詐欺用途の動画生成

これらの背景には、ディープラーニング技術の急速な発展、ソーシャルメディアの拡散のスピードと規模の拡大、フェイク動画の制作者が享受する利益の影響が存在しています。これらの潜在的な害をいかに回避するか、ディープラーニングで作られた嘘の動画をどう見分けるかという課題が生じます。

ディープフェイクの見分け方その1:立ち振る舞いの癖を解析する

オバマ元大統領の演説動画を解析している様子

例えばオバマ元大統領の演説の10秒間の動画を1フレームごとに解析します。グラフの横軸は時間で、頭を上下に動かしている様子、口の変化をプロットしたものです。これらの動きから顔の動きと話し方のクセのようなものを解析します。顔の動きは18個のパーツと、2種類の頭の動き、それらを組み合わせた190のパターンを扱うように設計しました。

顔のパーツによる表情の分析

目、鼻、口、あごといった顔のパーツの動きの組み合わせから、眉毛を上げて顔をしかめたり、あごをしゃくれさせたりしている様子を動画1秒につき24枚から30枚の画像を解析していきます。これらのパーツの相関関係、連動する顔のパーツの組み合わせに注目し10秒間の動画を解析します。解析結果を特徴ごとにプロットすると、それぞれの政治家によって顔の動きや話し方の特徴が異なることがわかります。この手法を用いると、ディープフェイクで作られたオバマ元大統領の動画が本人とは違う領域に位置することがわかります。

政治家ごとに顔の動きの特徴をカテゴリ分けしてビジュアライズしたもの

この手法であれば、フェイス・スワップタイプ、パペットマスタータイプ、リップシンクタイプのどのフェイクも判別することができますし、さらにオバマ元大統領の動きを真似たモノマネ芸人の動画をも見分けることができます。

ディープフェイクの見分け方その2:本人の耳かどうかを照合し、口と耳の連動に着目する

ここでディープフェイクを見分ける2つ目のテクニックを紹介します。あるクリエイターによるトムクルーズのディープフェイク動画が TikTok上で話題になったことがありました。これはトムクルーズのオフショットを撮影したかのような TikTok 動画ですが、実はディープフェイク動画で、機械学習に2カ月、動画の撮影に数日、動画編集1本につき24時間以上費やしているとのことです。メイキングビデオはこちらの動画で観ることができます。

TikTok に公開されているトムクルーズのフェイク動画 (@deeptomcruise

ここで使われているディープフェイク発見のポイントは「耳」に着目したことです。主にディープフェイクで差し替えられているのは顔の表面の部分だけだからです。ディープフェイクでなりすましている元の人が誰かわからなくとも、トムクルーズのような有名人であれば、ネットにある写真から耳の形を見つけ出すことができます。

ディープフェイクで作られた画像の耳の形と、トムクルーズ本人の耳の形を比較することで見分ける

耳に注目したことで、もうひとつ分かったことは、口を動かして話す時に、耳もそれに影響を受けて少し動くということです。本人の実写映像では見られる口と耳との連動が、ディープフェイク動画では見られません。耳の各部分に着目すると、話す時に耳全体が動く人と、耳の一部だけが動く人などそれぞれの特徴が解析できます。

ディープフェイクの見分け方その3:発音と口の動きとの連動を照合する

ディープフェイクを見分ける3つ目のテクニックは、発する声と口の形の相関関係を照合するというものです。腹話術でもないかぎり、口の動きと発声とは密接に関係しています。ディープフェイク、それもリップシンク形式のディープフェイクの場合は、ぱっと見、口が開いているか閉じているかといった単純な見栄えだけは合致していますが、口全体の形は少し歪になっています。違いが見つかる確率は50%ほどです。この状況に着目し、ある発生に必要な口の形と、画像との差異を見つけることでリップシンク形式のディープフェイクの90%前後を識別することが可能になります。

口の動きと発音の相関関係

以上に述べたようなディープフェイクの検出の研究は進められていますが、YouTubeには毎分500時間分の動画がアップロードされており、それらすべてについてディープフェイクの検出を行うことはできません。

ディープフェイクの検出という考えを推し進めるためには、ディープフェイクではない正しい実写映像が実在する正当な動画であるということを示すことも大切です。ビデオ映像を撮影した際に、位置情報を埋め込んだり、動画や音声を暗号化したり、電子透かしを付与することで改ざんを防止したり、改ざんされたことを見つだす方法も考えられます。

ディープフェイクのような最新テクノロジーは、必ずそのテクノロジーにおけるポジティブな影響とネガティブな影響があり、長所が短所を上回るように扱っていかなければいけないと、ハニー・ファリド氏は講演を締めくくりました。ここで紹介された各手法は論文としてファリド氏の研究室のページで紹介されています。

これからのフェイクとリアル

GANの仕組みを考えると、フェイクが見分けられるということは、フェイクだと見分けられないように画像や動画を生成させることも技術的にはできるようになる可能性を秘めています。まさにイタチごっこと言われる所以です。

ハニー・ファリド氏が述べていたように、テクノロジーだけですべてのディープフェイクを回避することはできません。倫理面に配慮したルールの整備や、ディープフェイクの技術のオープン化、それらを検知する技術のオープン化によって抑制できる部分もあるでしょう。

また、ディープフェイクのような動画の顔画像を差し替える技術は、悪いことばかりではありません。この技術によって友達や家族とヘンテコな動画を楽しんだり、故人を偲んだり、最新の映画のVFXとして活用されたり、亡くなった名俳優の演技を再び観ることも可能になるからです。肖像権や俳優の権利を守らなければいけない部分に考慮しつつ、こういったさまざまな応用が考えられます。また、ディープフェイク技術は人間ばかりではなくペットや動物でも同じような応用が広がる可能性も考えられます。まさにテクノロジーを生かすも殺すも人次第ということなのかもしれません。

本連載の今後の予定:「CGへの扉」では、単なるAIの話題とは少し異なり、CG/VFX, アートの文脈から話題を切り取り紹介していきます。映像制作の現場におけるAI活用や、AIで価値が高まった先進的なツール、これからの可能性を感じさせるような話題、テクノロジーの話題にご期待ください。何か取り上げて欲しいテーマやご希望などがございましたら、ぜひ編集部までお知らせください。

CGへの扉

Vol.29:AIの恩恵を受けるCG研究の世界。#SIGGRAPH2021 論文より

Vol.28:定番手法の他分野応用、自然言語処理AI由来の画像処理AI

Vol.27:眼に追いつけ追い越せ? カメラは機械学習により進化

Vol.26:アートを加速させるAIの役割 #GTC2021 レポート

Vol.25:変幻自在の顔も実は人工知能

Vol.24:自然現象もすべて人工知能で再現する時代

Vol.23:AIで人の眼に進化するカメラ

Vol.22:言葉から画像を生成、DALL-Eはクリエイティブなのか?

Vol.21:人工知能+3DCGの最新論文をまとめて紹介 #SIGGRAPHAsia2020

Vol.20:Adobeと人工知能の将来を見極める #AdobeMAX2020

Vol.19:コミュニケーションツールの新境地「NVIDIA MAXINE」

Vol.18:SIGGRAPH2020レポート 映像制作の現場で活躍する人工知能

≫≫すべてのバックナンバーはこちらから

Contributor:安藤幸央

RELATED ARTICLE関連記事

競争激化で着実に進むパラダイムシフト:月刊エンタメAIニュース vol.38

2023.2.22先端技術

競争激化で着実に進むパラダイムシフト:月刊エンタメAIニュース vol.38

1枚の画像から3Dオブジェクトを生成。ワンショット3D生成技術の最前線

2023.11.28先端技術

1枚の画像から3Dオブジェクトを生成。ワンショット3D生成技術の最前線

AIはどこまで言葉から物を思い描けるか? text to image AIの研究事例を考察する

2021.5.28先端技術

AIはどこまで言葉から物を思い描けるか? text to image AIの研究...

RANKING注目の記事はこちら