モリカトロン株式会社運営「エンターテインメント×AI」の最新情報をお届けするサイトです。
- TAG LIST
- CGCGへの扉安藤幸央機械学習ディープラーニング月刊エンタメAIニュース河合律子GANOpenAI吉本幸記音楽NVIDIA生成系AI強化学習ニューラルネットワーク三宅陽一郎GoogleStable DiffusionグーグルQAシナリオDeepMind人工知能学会GPT-3森川幸人自然言語処理ChatGPTFacebook大内孝子マイクロソフト大規模言語モデル映画キャラクターAI敵対的生成ネットワークルールベースAIと倫理アートゲームプレイAIスクウェア・エニックスモリカトロンAIラボインタビュー倫理SIGGRAPH著作権モリカトロンデバッグ画像生成NFTDALL-E2StyleGANプロシージャルLLM遺伝的アルゴリズムNPC自動生成テストプレイメタAI画像生成AIテキスト画像生成ロボット深層学習ファッションCEDEC2019ディープフェイクVFXAdobeMidjourneyデジタルツインボードゲームDALL-ECLIPビヘイビア・ツリーマンガCEDEC2021CEDEC2020ゲームAIメタバース不完全情報ゲームVRナビゲーションAI畳み込みニューラルネットワークGDC 2021JSAI2022作曲NVIDIA OmniverseGDC 2019マルチエージェントCEDEC2022MinecraftAIアート小説アニメーションStability AIメタ懐ゲーから辿るゲームAI技術史toioジェネレーティブAI音楽生成AIスポーツ栗原聡手塚治虫CNNバーチャルヒューマンBERTMicrosoftUnityMetaOmniverse3DCGJSAI2023鴫原盛之HTN階層型タスクネットワークソニーGPT-4汎用人工知能JSAI2020GTC2023NeRFTensorFlowインタビューイベントレポート対話型エージェントAmazonロボティクスDQN水野勇太アバターUbisoftGenvid TechnologiesガイスターStyleGAN2デジタルヒューマンGTC2022教育JSAI2021はこだて未来大学研究エージェントシムピープルMCS-AI動的連携モデルプロンプトモーションキャプチャーTEZUKA2020CEDEC2023マルチモーダルElectronic Arts3DマーケティングメタデータGDC SummerブロックチェーンCMMicrosoft Azureアストロノーカキャリア模倣学習eスポーツスタンフォード大学アーケードゲームテニスサイバーエージェントトレーディングカード音声認識メディアアート類家利直eSportsBLUE PROTOCOLシーマンaibo合成音声チャットボットブラック・ジャックAWS徳井直生斎藤由多加AlphaZeroTransformerARGPT-2rinnaAIりんなカメラELSI環世界中島秀之PaLM哲学ベリサーブPlayable!GPT-3.5理化学研究所Gen-1SIGGRAPH ASIASFNetflixデータマイニング東京大学Bard現代アートDARPAドローンシムシティImagenZorkバイアスASBSぱいどんアドベンチャーゲームAI美空ひばりテキスト生成手塚眞バンダイナムコ研究所スパーシャルAINEDOFSM-DNNLEFT 4 DEADイーロン・マスク通しプレイOpenAI FiveStable Diffusion XL本間翔太馬淵浩希Cygames森山和道Audio2Faceピクサープラチナエッグイーサリアムボエダ・ゴティエビッグデータ中嶋謙互Amadeus Codeデータ分析MILEナラティブNVIDIA RivaOmniverse ReplicatorWCCFレコメンドシステムNVIDIA DRIVE SimWORLD CLUB Champion FootballNVIDIA Isaac Simセガ柏田知大軍事田邊雅彦トレカMax CooperGPTFireflyPyTorchChatGPT4眞鍋和子バンダイナムコスタジオ大澤博隆SFプロトタイピング齊藤陽介マインクラフトお知らせMagic Leap OneTencentモリカトロン開発者インタビュー宮本茂則バスケットボールサルでもわかる人工知能text-to-3DVAEDreamFusionTEZUKA2023リップシンキングRNNUbisoft La Forge自動運転車ワークショップ知識表現ウォッチドッグス レギオンVTuberIGDA立教大学秋期GTC2022市場分析どうぶつしょうぎEpic GamesRobloxジェイ・コウガミ音楽ストリーミングMITAIロボ「迷キュー」に挑戦野々下裕子Adobe MAXマシンラーニング村井源5GMuZeroRival Peakpixivオムロン サイニックエックスクラウド電気通信大学対話エンジン稲葉通将3Dスキャン橋本敦史リトル・コンピュータ・ピープルCodexシーマン人工知能研究所コンピューティショナル・フォトグラフィーPreferred Networksゴブレット・ゴブラーズ絵画Microsoft DesignerイラストシミュレーションSoul Machines柿沼太一完全情報ゲーム坂本洋典釜屋憲彦ウェイポイントLLaMAパス検索対談藤澤仁生物学GTC 2022画像認識ハリウッドSiemensストライキStyleCLIPDeNA長谷洋平クラウドコンピューティングmasumi toyotaIBM宮路洋一OpenSeaGDC 2022SNSTextWorldEarth-2BingMagentaYouTube音声生成AIELYZA PencilScenarioSIGGRAPH2023テキスト画像生成AI松尾豊AIピカソGTC2021AI素材.comCycleGANテンセントAIQVE ONENetHackキャラクターモーションControlNetNBAフェイクニュースユニバーサルミュージックRPG法律SIGGRAPH 2022世界モデルレベルデザインゲームエンジンDreamerV3AIボイスアクター南カリフォルニア大学NVIDIA CanvasGPUALife人工生命オルタナティヴ・マシンサウンドスケープLaMDATRPGマジック：ザ・ギャザリングAI DungeonRed Ramマーダーミステリーゲーム背景不気味の谷ナビゲーションメッシュインディーゲーム高橋ミレイ深層強化学習松原仁松井俊浩武田英明ELYZAフルコトELYZA DIGEST建築音声合成広告西成活裕ハイブリッドアーキテクチャApex LegendsELIZA群衆マネジメントライブポートレイトNinjaコンピュータRPGライブビジネスWonder StudioAdobe Max 2023アップルタウン物語新型コロナ土木MindAgentKELDIC周済涛BIMBing Chatメロディ言語清田陽司インフラBing Image CreatorゲームTENTUPLAYサイバネティックスDALL-E 3MARVEL Future FightAstro人工知能史Amazon BedrockAssistant with BardタイムラプスEgo4DAI哲学マップThe Arcadeバスキア星新一X.AISearch Generative Experience日経イノベーション・ラボStyleGAN-XLX Corp.Dynalang敵対的強化学習StyleGAN3TwitterVLE-CE階層型強化学習GOSU Data LabGANimatorXホールディングス論文WANNGOSU Voice AssistantVoLux-GANMagiAI Act竹内将SenpAI.GGProjected GANEUMobalyticsSelf-Distilled StyleGANSDXLArs ElectronicaニューラルレンダリングRTFKTAI規制岡島学AWS SagemakerPLATONIKE欧州委員会映像セリア・ホデント形態素解析frame.ioClone X欧州議会UXAWS LambdaFoodly村上隆欧州理事会誤字検出MusicLM認知科学中川友紀子Digital MarkAudioLMゲームデザインSentencePieceアールティSnapchatMusicCapsLUMINOUS ENGINEクリエイターコミュニティAudioCraftLuminous ProductionsBlenderBot 3バーチャルペット効果音パターン・ランゲージ竹村也哉Meta AINVIDIA NeMo ServiceMubertちょまどマーク・ザッカーバーグヴァネッサ・ローザMubert RenderGOAPWACULVanessa A RosaGen-2Adobe MAX 2021陶芸Runway AI Film Festival自動翻訳Play.htPreViz音声AINVIDIA ACEAIライティングLiDARCharacter-LLMOmniverse AvatarAIのべりすとPolycam復旦大学FPSQuillBotdeforumChat-Haruhi-Suzumiyaマルコフ決定過程NVIDIA MegatronCopysmith動画生成AI涼宮ハルヒNVIDIA MerlinJasperハーベストEmu VideoNVIDIA MetropolisForGamesNianticパラメータ設計ゲームマーケットペリドットバランス調整岡野翔太Dream Track協調フィルタリング郡山喜彦Music AI Tools人狼知能テキサス大学ジェフリー・ヒントンLyriaGoogle I/O 2023Yahoo!知恵袋AlphaDogfight TrialsAI Messenger VoicebotGoogle I/OインタラクティブプロンプトAIエージェントシミュレーションOpenAI Codex武蔵野美術大学慶應義塾大学StarCraft IIHyperStyleBingAI石渡正人Future of Life InstituteRendering with Style手塚プロダクションIntelDisney林海象LAIKADisneyリサーチヴィトゲンシュタインPhotoshop古川善規RotomationGauGAN論理哲学論考Lightroom大規模再構成モデルGauGAN2京都芸術大学CanvaLRMドラゴンクエストライバルズ画像言語表現モデルObjaverse不確定ゲームSIGGRAPH ASIA 2021PromptBaseBOOTHMVImgNetDota 2モンテカルロ木探索ディズニーリサーチpixivFANBOXOne-2-3-45Mitsuba2バンダイナムコネクサス虎の穴3DガウシアンスプラッティングソーシャルゲームEmbeddingワイツマン科学研究所ユーザーレビューFantiaワンショット3D生成技術GTC2020CG衣装mimicとらのあな高橋力斗NVIDIA MAXINEVRファッションBaidu集英社淡路滋ビデオ会議ArtflowERNIE-ViLG少年ジャンプ＋グリムノーツEponym古文書ComicCopilotゴティエ・ボエダ音声クローニング凸版印刷コミコパGautier Boeda階層的クラスタリングGopherAI-OCRゲームマスター画像判定Inowrld AIJuliusSIE鑑定ラベル付けMODTPRGOxia PalusGhostwriterバーチャル・ヒューマン・エージェントtoio SDK for UnityArt RecognitionSkyrimクーガー田中章愛実況パワフルサッカースカイリム石井敦銭起揚NHC 2021桃太郎電鉄RPGツクールMZ茂谷保伯池田利夫桃鉄ChatGPT_APIMZGDMC新刊案内パワサカダンジョンズ&ドラゴンズマーベル・シネマティック・ユニバースコナミデジタルエンタテインメントOracle RPG成沢理恵MITメディアラボMCU岩倉宏介深津貴之アベンジャーズPPOxVASynthマジック・リープDigital DomainMachine Learning Project CanvasLaser-NVMagendaMasquerade2.0国立情報学研究所ノンファンジブルトークンDDSPフェイシャルキャプチャー石川冬樹MERFサッカースパコンAlibaba里井大輝KaggleスーパーコンピュータVQRF山田暉松岡 聡nvdiffrecAssassin’s Creed OriginsAI会話ジェネレーターTSUBAME 1.0NeRFMeshingSea of ThievesTSUBAME 2.0LERFGEMS COMPANYmonoAI technologyLSTMABCIマスタリングモリカトロンAIソリューション富岳TikTok初音ミクOculusコード生成AISociety 5.0リアム・ギャラガー転移学習テストAlphaCode夏の電脳甲子園グライムスBaldur's Gate 3Codeforces座談会BoomyCandy Crush Saga自己増強型AItext-to-imageジョン・レジェンドSIGGRAPH ASIA 2020COLMAPザ・ウィークエンドADOPNVIDIA GET3DドレイクデバッギングBigGANGANverse3DMaterialGANグランツーリスモSPORTAI絵師エッジワークスReBeLグランツーリスモ・ソフィーUGC日本音楽作家団体協議会GTソフィーPGCFCAVolvoFIAグランツーリスモチャンピオンシップVoiceboxNovelAIさくらインターネットRival PrakDGX A100NovelAI DiffusionぷよぷよユービーアイソフトWebcam VTuberモーションデータ星新一賞大阪公立大学北尾まどかHALOポーズ推定TCG将棋メタルギアソリッドVフォートナイトメッシュ生成KLabFSMメルセデス・ベンツQRコードMagic Leap囲碁ナップサック問題Live NationEpyllionデンソー汎用言語モデルWeb3.0マシュー・ボールデンソーウェーブAIOpsムーアの法則原昌宏Spotifyスマートコントラクト日本機械学会Replica Studioロボティクス・メカトロニクス講演会amuseChitrakarQosmoAdobe MAX 2022トヨタ自動車巡回セールスマン問題かんばん方式ジョルダン曲線メディアAdobe Research政治Galacticaプロット生成クラウドゲーミングがんばれ森川君2号和田洋一リアリティ番組映像解析FastGANStadiaジョンソン裕子セキュリティ4コママンガMILEsNightCafe東芝デジタルソリューションズインタラクティブ・ストリーミングLuis RuizSATLYS 映像解析AIインタラクティブ・メディアポケモンPFN 3D ScanElevenLabs東京工業大学HeyGenLudo博報堂After EffectsラップPFN 4D Scan絵本SIGGRAPH 2019ArtEmisZ世代DreamUp出版AIラッパーシステムDeviantArtAmmaar ReshiWaifu DiffusionStoriesGROVERプラスリンクス ～キミと繋がる想い～元素法典StoryBirdFAIRSTCNovel AIVersedチート検出Style Transfer ConversationOpen AIProlificDreamerオンラインカジノRCPUnity SentisアップルRealFlowRinna Character PlatformUnity MuseiPhoneCALACaleb WardDeep Fluids宮田龍MeInGameAmelia清河幸子AIGraphブレイン・コンピュータ・インタフェースバーチャルキャラクター西中美和BCIGateboxアフォーダンス安野貴博Learning from VideoANIMAKPaLM-SayCan斧田小夜予期知能逢妻ヒカリ宮本道人セコムGitHub CopilotLLaMA 2ユクスキュルバーチャル警備システムCode as Policiesカント損保ジャパンCaPHugging FaceCM3leon上原利之Stable DoodleドラゴンクエストエージェントアーキテクチャアッパーグラウンドコリジョンチェックT2I-AdapterPAIROCTOPATH TRAVELERxAI西木康智OCTOPATH TRAVELER 大陸の覇者山口情報芸術センター［YCAM］アルスエレクトロニカ2019品質保証YCAM日本マネジメント総合研究所StyleRigAutodeskアンラーニング・ランゲージVoyager逆転オセロニアBentley Systemsカイル・マクドナルドLily Hughes-Robinsonワールドシミュレーターローレン・リー・マッカーシーColossal Cave Adventure奥村エルネスト純いただきストリートH100鎖国［Walled Garden］プロジェクトAdventureGPT齋藤精一大森田不可止COBOLSIGGRAPH ASIA 2022リリー・ヒューズ＝ロビンソン高橋智隆DGX H100VToonifyBabyAGIロボユニザナックDGX SuperPODControlVAEGPT-3.5 Turbo泉幸典仁井谷正充変分オートエンコーダーカーリングロボコレ2019Instant NeRFフォトグラメトリウィンブルドンartonomous回帰型ニューラルネットワークbitGANsDeepJoin戦術分析ぎゅわんぶらあ自己中心派Azure Machine LearningAzure OpenAI Serviceパフォーマンス測定意思決定モデル脱出ゲームDeepLIoTHybrid Reward Architectureコミュニティ管理DeepL WriteProFitXウロチョロスSuper PhoenixWatsonxProject MalmoオンラインゲームAthletica気候変動コーチングProject Paidiaシンギュラリティ北見工業大学Project Lookoutマックス・プランク気象研究所レイ・カーツワイル北見カーリングホールWatch Forビョルン・スティーブンスヴァーナー・ヴィンジ画像解析気象モデルRunway ResearchじりつくんLEFT ALIVE気象シミュレーションMake-A-VideoNTT Sportict長谷川誠ジミ・ヘンドリックス環境問題PhenakiAIカメラBaby Xカート・コバーンエコロジーDreamixSTADIUM TUBEロバート・ダウニー・Jr.エイミー・ワインハウスSDGsText-to-ImageモデルPixelllot S3ソフトバンクダフト・パンクメモリスタAIスマートコーチGlenn MarshallThe Age of A.I.Story2Hallucination音声変換LatitudeレコメンデーションJukeboxDreamboothVeap Japanヤン・ルカンEAPneoAIPerfusionSIFT福井千春DreamIconニューラル物理学DCGAN医療mign毛髪MOBADANNCEメンタルケアstudiffuse荒牧英治人事ハーバード大学Edgar HandyAndreessen Horowitz中ザワヒデキ研修デューク大学大屋雄裕QA Tech Night中川裕志mynet.aiローグライクゲーム松木晋祐Adreeseen Horowitz東京理科大学下田純也NVIDIA Avatar Cloud Engine人工音声NeurIPS 2021産業技術総合研究所桑野範久Replica StudiosリザバーコンピューティングSmart NPCsプレイ動画ヒップホップ対話型AIモデルRoblox Studio詩ソニーマーケティングPromethean AIサイレント映画もじぱnote音源分離環境音暗号通貨note AIアシスタントMusiioFUZZLEKetchupEndelAlterationAI News粒子群最適化法Art Selfie進化差分法オープンワールドArt TransferSonar群知能下川大樹AIFAPet PortraitsSonar+Dウィル・ライト高津芳希P2EBlob OperaWeb3大石真史クリムトDolby AtmosBEiTStyleGAN-NADASonar Music FestivalDETRライゾマティクスSporeUnreal Engineクリティックネットワーク真鍋大度デノイズUnity for Industryアクターネットワーク花井裕也画像処理DMLabRitchie HawtinSentropyGLIDEControl SuiteErica SynthCPUDiscordAvatarCLIPAtari 100kUfuk Barış MutluSynthetic DataAtari 200MJapanese InstructBLIP AlphaCALMYann LeCun日本新聞協会プログラミングサム・アルトマン鈴木雅大AIいらすとやソースコード生成コンセプトアートAI PicassoGMAIシチズンデベロッパーSonanticColie WertzEmposyGitHubCohereリドリー・スコットAIタレントウィザードリィMCN-AI連携モデル絵コンテAIタレントエージェンシーUrzas.aiストーリーボードmodi.ai介護大阪大学BitSummit西川善司並木幸介KikiBlenderBitSummit Let’s Go!!サムライスピリッツ森寅嘉Zoetic AIゼビウスSIGGRAPH 2021ペットストリートファイター半導体Digital Dream LabsPaLM APIデジタルレプリカTopaz Video Enhance AICozmoMakerSuiteGOT7DLSSタカラトミーSkebsynthesia山野辺一記NetEaseLOVOTDreambooth-Stable-DiffusionHumanRF大里飛鳥DynamixyzMOFLINActors-HQRomiGoogle EarthSAG-AFTRAU-NetミクシィGEPPETTO AIWGA13フェイズ構造ユニロボットStable Diffusion web UIチャーリー・ブルッカーADVユニボPoint-EXLandGatoアパレル岡野原大輔AGIAI model自己教師あり学習DEATH STRANDINGAI ModelsIn-Context Learning（ICL）Eric Johnson汎用強化学習AIZMO.AILoRAデザインMOBBY’SファインチューニングOculus Questコジマプロダクションロンドン芸術大学モビーディックグランツーリスモ生体情報デシマエンジンGoogle Brainダイビング量子コンピュータSound Controlアウトドアqubit写真SYNTH SUPERAIスキャニングIBM Quantum System 2照明Maxim PeterKarl Sims自動採寸北野宏明Joshua RomoffArtnome3DLOOKダリオ・ヒルハイパースケープICONATESizerジェン・スン・フアン山崎陽斗ワコールHuggingFace立木創太スニーカーStable Audio浜中雅俊UNSTREET宗教ミライ小町Newelse仏教テスラ福井健策CheckGoodsコカ・コーラGameGAN二次流通食品パックマンTesla Bot中古市場Coca‑Cola Y3000 Zero SugarTesla AI DayWikipediaDupe KillerCopilot Copyright Commitmentソサエティ5.0Sphere偽ブランドテラバースSIGGRAPH 2020バズグラフXaver 1000配信京都大学ニュースタンテキ養蜂立福寛東芝Beewiseソニー・ピクチャーズ アニメーション音声解析DIB-R倉田宜典フィンテック感情分析投資Fosters+Partners周 済涛韻律射影MILIZEZaha Hadid Architectsステートマシン韻律転移三菱UFJ信託銀行ディープニューラルネットワーク
CGへの扉 Vol.30：SIGGRAPH2021レポート「ディープフェイクとの戦い」
2021.9.16先端技術
ディープフェイクとのイタチごっこ
ディープフェイク（DeepFake）とは、映像制作者が意図しない形で動画の一部分を差し替えたり、嘘の動画を作成したりする行為のうち、ディープラーニングのテクノロジーの助けを借りたものを総称する言葉です。以前から合成によるフェイク画像やフェイク動画は存在しましたが、そのクオリティは稚拙で、一目見てフェイク（ウソ）だと解るような不自然な合成であることが一般的でした。
ところがテクノロジーの進化により動画から顔の骨格を解析したり、その骨格に応じて他の人の顔映像と差し替える作業を、手作業ではなく自動的に行う仕組みを使用することができるようになりました。そのためある作業によって生み出された動画が作り物のウソ動画なのか本物なのか、素人目には判別できない状況が生じるようになりました。
もちろんまだまだディープフェイクで使われる技術は高度でマシンパワーを必要とするものであり、誰もが簡単に見分けがつかないほどの高品質なウソ動画を作れるわけではありません。「Reface ：リフェイス」という動画の顔を自分の顔に差し替えるアプリが存在しますが、あくまでお遊びです。
一方、どこにも存在しない人物の顔写真をディープラーニングで生成させる方法や、それによって生み出された顔画像はごく普通に見かけるようになりました。みなさんはその画像が作られたものなのか、実在の人物なのか見分けることができますか？
「Which Face is Real?」というサイトでは片方は実在の人物、片方はディープラーニングで生成された2枚の顔画像が提示されます。どちらがリアルでどちらがフェイクなのかを見分けられるかどうかを試されます。皆さんはどれくらい正解できましたか？
映画『ブレードランナー』（1982年公開） をご覧になった方は、レプリカントと呼ばれる人造人間を見分けるために、瞳をチェックしていたシーンを覚えているでしょうか？ 研究者の間ではディープラーニングで生成された顔画像と実在の人物の顔画像は「瞳」を見ると判別できると言われています。例えば、実在の人物を撮影した実写の顔画像であれば、大抵、瞳に映り込んだ照明や窓、太陽が映り込んだ輝きは、左右どちらの目も同じです。一方、ディープラーニングで生成した顔画像の場合、顔全体としてはそれっぽい顔ですが、左右の瞳の輝きの同一性まではコントロールできていません。
また瞳の中心にある瞳孔が、正円であること、または横から見ている場合は、バランスが取れた楕円である場合は、実在の人物を撮影した実写の顔画像の可能性が高く、瞳孔の部分が歪んでいたり、正円を保っていない場合は、作られた顔画像である場合が多いそうです。ただし撮影条件や、瞳の病気の有無によっても状況が変わってくるため必ずしも見分けられるものではありません。
情報の真偽を曖昧にするため「ディープフェイクは良くないもの」という風潮があるなか、ディープフェイク映像で注目を浴びていたShamookと呼ばれる YouTuberの就職先が話題になりました。なんとスターウォーズシリーズの特殊効果、VFX/CG制作で知られるILMにスカウトされ、ディープフェイクを活用した映像制作の研究開発に携わっているらしいことが、インディーズ映像に関するオンラインメディアであるIndieWireに報じられました。
この出来事を解釈すると「主流」であることと、「亜流」や「我流」であることの違いはあまり意味を持たず、どのようなアウトプット、ここではどのような映像を制作することができるのか？という能力によって評価が決まります。どんなテクノロジーも結局は使う人次第だということが再認識されます。
CGの学会・展示会である SIGGRAPH 2021 では、ディープフェイクに関する特別講演が注目を集めました。それらの講演から、認識しておかなければいけない重要なポイントや、現在の技術と倫理のバランス、ディープフェイクを作る方法と、それを見分ける方法の双方のアプローチを紹介しましょう。
ディープフェイクの作り方、悪用の事例、ディープフェイクの検出について
以下は、SIGGRAPH 2021 Featured Speakersで行われた、カリフォルニア大学バークレー校のハニー・ファリド氏による講演「CREATING, WEAPONIZING, AND DETECTING DEEPFAKES」のレポートです。
今回のハニー・ファリド氏の講演は、普段カリフォルニア大学バークレー校の博士過程の学生向けに行っている講義内容をベースにしているとのことです。
メディアを加工するという行為は、何も最近の話ではなく、スターリンの時代にまで遡ります。当時の報道写真でも、写っている余計な人物を、エアブラシ加工で除去していました。その当時は写真現像のための暗室や、特殊な機材と特異なスキルを持った一部の人だけが可能な加工でした。それが Adobe Photoshop の登場とデジタルカメラの普及で、誰もが簡単に写真の加工をすることが可能になりました。写真をツギハギすることで、笑える写真を作ったり、実際にはあり得ないような写真を生み出すこともできるようになりました。そして現在、人工知能や機械学習によって合成コンテンツが次の時代に突入しています。
「This person does not exist」というサイトにアクセスすると、存在しない人物の写真が表示されます。AIによって合成された非常にリアルな顔写真です。
このような写真が作られる基本的なフレームワークは、識別器（discriminator）と呼ばれる、顔画像かどうか識別する部分と、生成器（generator）と呼ばれる画像を生成する部分に分かれます。ネット上から集めてきた本物の人物の顔が写っている写真であれば、識別器は正しく検知します。
生成器がある画像を生成し、それを識別器に判定してもらうと、顔画像ではない場合、識別器で「不合格」となります。そこで生成器はまた少し画像を変更して、また識別器に判定してもらいます。この繰り返しを膨大な回数行うと、そのうち生成器は識別器を騙せるくらい精巧な顔画像を生成するようになります。これがいわゆるGAN（Generative Adversarial Networks＝敵対的生成ネットワーク）と呼ばれるディープニューラルネットワークです。
ここで注目すべきなのは、Photoshopによる加工もハリウッド映画の特殊効果も使用されていないことです。生成と識別の2つのニューラルネットワークが競い合うというコンピュータによる力仕事の結果、合成コンテンツが生まれています。
顔画像を差し替えたフェイク動画を作る場合も同様です。生成器が起点とするのは差し替えられる元の画像です。識別器が判定するのは、差し替える先の顔画像です。これをGANで繰り返すと、差し替える先の顔によく似た、差し替える元画像を修正した画像が生まれてくるのです。さらにこれを動画の1コマ1コマに対して処理をすると、フェイク動画が生成されるのです。
このように顔を差し替えるフェイス・スワップと呼ばれるディープフェイクには大変驚きました。まるで当人が話しているかのように、顔が差し代わったフェイク動画が生成されたからです。このフェイス・スワップはディープフェイクの代表的なカテゴリのひとつで、２つ目はパペットマスターと呼ばれる1枚の写真が動いて勝手に話しているようなフェイク動画です。そして３つ目はリップシンクと呼ばれる技術で、本人の動画を元に口の動きを自動的に生成し、話してもいない勝手なセリフをしゃべらせるディープフェイクです。これらに共通するのは「このような人物は存在しない」ということです。
これらの技術は素晴らしいテクノロジーである一方、勝手に生み出されるディープフェイクは次のような悪用の可能性が潜んでいます。
- 本人に合意を得ず、勝手にポルノ動画を生成すること
- 人を騙すことを目的としたフェイクニュース動画の生成
- 証拠の改ざん
- 国家の安全保障にまつわる陰謀動画の生成
- 詐欺用途の動画生成
これらの背景には、ディープラーニング技術の急速な発展、ソーシャルメディアの拡散のスピードと規模の拡大、フェイク動画の制作者が享受する利益の影響が存在しています。これらの潜在的な害をいかに回避するか、ディープラーニングで作られた嘘の動画をどう見分けるかという課題が生じます。
ディープフェイクの見分け方その１：立ち振る舞いの癖を解析する
例えばオバマ元大統領の演説の10秒間の動画を1フレームごとに解析します。グラフの横軸は時間で、頭を上下に動かしている様子、口の変化をプロットしたものです。これらの動きから顔の動きと話し方のクセのようなものを解析します。顔の動きは18個のパーツと、2種類の頭の動き、それらを組み合わせた190のパターンを扱うように設計しました。
目、鼻、口、あごといった顔のパーツの動きの組み合わせから、眉毛を上げて顔をしかめたり、あごをしゃくれさせたりしている様子を動画1秒につき24枚から30枚の画像を解析していきます。これらのパーツの相関関係、連動する顔のパーツの組み合わせに注目し10秒間の動画を解析します。解析結果を特徴ごとにプロットすると、それぞれの政治家によって顔の動きや話し方の特徴が異なることがわかります。この手法を用いると、ディープフェイクで作られたオバマ元大統領の動画が本人とは違う領域に位置することがわかります。
この手法であれば、フェイス・スワップタイプ、パペットマスタータイプ、リップシンクタイプのどのフェイクも判別することができますし、さらにオバマ元大統領の動きを真似たモノマネ芸人の動画をも見分けることができます。
ディープフェイクの見分け方その２：本人の耳かどうかを照合し、口と耳の連動に着目する
ここでディープフェイクを見分ける２つ目のテクニックを紹介します。あるクリエイターによるトムクルーズのディープフェイク動画が TikTok上で話題になったことがありました。これはトムクルーズのオフショットを撮影したかのような TikTok 動画ですが、実はディープフェイク動画で、機械学習に2カ月、動画の撮影に数日、動画編集1本につき24時間以上費やしているとのことです。メイキングビデオはこちらの動画で観ることができます。
TikTok に公開されているトムクルーズのフェイク動画 （@deeptomcruise）
ここで使われているディープフェイク発見のポイントは「耳」に着目したことです。主にディープフェイクで差し替えられているのは顔の表面の部分だけだからです。ディープフェイクでなりすましている元の人が誰かわからなくとも、トムクルーズのような有名人であれば、ネットにある写真から耳の形を見つけ出すことができます。
耳に注目したことで、もうひとつ分かったことは、口を動かして話す時に、耳もそれに影響を受けて少し動くということです。本人の実写映像では見られる口と耳との連動が、ディープフェイク動画では見られません。耳の各部分に着目すると、話す時に耳全体が動く人と、耳の一部だけが動く人などそれぞれの特徴が解析できます。
ディープフェイクの見分け方その３：発音と口の動きとの連動を照合する
ディープフェイクを見分ける３つ目のテクニックは、発する声と口の形の相関関係を照合するというものです。腹話術でもないかぎり、口の動きと発声とは密接に関係しています。ディープフェイク、それもリップシンク形式のディープフェイクの場合は、ぱっと見、口が開いているか閉じているかといった単純な見栄えだけは合致していますが、口全体の形は少し歪になっています。違いが見つかる確率は50%ほどです。この状況に着目し、ある発生に必要な口の形と、画像との差異を見つけることでリップシンク形式のディープフェイクの90%前後を識別することが可能になります。
以上に述べたようなディープフェイクの検出の研究は進められていますが、YouTubeには毎分500時間分の動画がアップロードされており、それらすべてについてディープフェイクの検出を行うことはできません。
ディープフェイクの検出という考えを推し進めるためには、ディープフェイクではない正しい実写映像が実在する正当な動画であるということを示すことも大切です。ビデオ映像を撮影した際に、位置情報を埋め込んだり、動画や音声を暗号化したり、電子透かしを付与することで改ざんを防止したり、改ざんされたことを見つだす方法も考えられます。
ディープフェイクのような最新テクノロジーは、必ずそのテクノロジーにおけるポジティブな影響とネガティブな影響があり、長所が短所を上回るように扱っていかなければいけないと、ハニー・ファリド氏は講演を締めくくりました。ここで紹介された各手法は論文としてファリド氏の研究室のページで紹介されています。
これからのフェイクとリアル
GANの仕組みを考えると、フェイクが見分けられるということは、フェイクだと見分けられないように画像や動画を生成させることも技術的にはできるようになる可能性を秘めています。まさにイタチごっこと言われる所以です。
ハニー・ファリド氏が述べていたように、テクノロジーだけですべてのディープフェイクを回避することはできません。倫理面に配慮したルールの整備や、ディープフェイクの技術のオープン化、それらを検知する技術のオープン化によって抑制できる部分もあるでしょう。
また、ディープフェイクのような動画の顔画像を差し替える技術は、悪いことばかりではありません。この技術によって友達や家族とヘンテコな動画を楽しんだり、故人を偲んだり、最新の映画のVFXとして活用されたり、亡くなった名俳優の演技を再び観ることも可能になるからです。肖像権や俳優の権利を守らなければいけない部分に考慮しつつ、こういったさまざまな応用が考えられます。また、ディープフェイク技術は人間ばかりではなくペットや動物でも同じような応用が広がる可能性も考えられます。まさにテクノロジーを生かすも殺すも人次第ということなのかもしれません。
本連載の今後の予定：「CGへの扉」では、単なるAIの話題とは少し異なり、CG/VFX, アートの文脈から話題を切り取り紹介していきます。映像制作の現場におけるAI活用や、AIで価値が高まった先進的なツール、これからの可能性を感じさせるような話題、テクノロジーの話題にご期待ください。何か取り上げて欲しいテーマやご希望などがございましたら、ぜひ編集部までお知らせください。
Vol.29：AIの恩恵を受けるCG研究の世界。#SIGGRAPH2021 論文より
Vol.28：定番手法の他分野応用、自然言語処理AI由来の画像処理AI
Vol.27：眼に追いつけ追い越せ？ カメラは機械学習により進化
Vol.26：アートを加速させるAIの役割 #GTC2021 レポート
Vol.22：言葉から画像を生成、DALL-Eはクリエイティブなのか？
Vol.21：人工知能＋3DCGの最新論文をまとめて紹介 #SIGGRAPHAsia2020
Vol.20：Adobeと人工知能の将来を見極める #AdobeMAX2020
Vol.19：コミュニケーションツールの新境地「NVIDIA MAXINE」
Contributor：安藤幸央
RANKING
