モリカトロン株式会社運営「エンターテインメント×AI」の最新情報をお届けするサイトです。
- TAG LIST
- CGCGへの扉機械学習安藤幸央ディープラーニング月刊エンタメAIニュースGAN河合律子OpenAI音楽ニューラルネットワーク吉本幸記NVIDIA三宅陽一郎強化学習QAGoogleFacebook人工知能学会GPT-3自然言語処理グーグルDeepMind大内孝子森川幸人敵対的生成ネットワークキャラクターAIスクウェア・エニックスモリカトロンAIラボインタビューマイクロソフトルールベースシナリオAIと倫理映画デバッグアートDALL-E2StyleGAN倫理ゲームプレイAINFT自動生成SIGGRAPHメタAIStable Diffusionテキスト画像生成ロボット深層学習CEDEC2019プロシージャル遺伝的アルゴリズムテストプレイモリカトロンDALL-Eビヘイビア・ツリーディープフェイクCEDEC2021CEDEC2020ゲームAIVFXデジタルツインメタバース不完全情報ゲームVRナビゲーションAI画像生成AINPC畳み込みニューラルネットワークCLIP画像生成ファッションGDC 2021JSAI2022GDC 2019マルチエージェントCEDEC2022AIアートボードゲーム懐ゲーから辿るゲームAI技術史toioCNNAdobeUnity著作権小説アニメーション鴫原盛之HTN階層型タスクネットワーク汎用人工知能JSAI2020TensorFlowインタビューBERTMicrosoftイベントレポート対話型エージェントロボティクスMetaMinecraft水野勇太Genvid TechnologiesガイスターStyleGAN2GTC2022教育ソニーJSAI2021スポーツ研究シムピープルMCS-AI動的連携モデルマンガマーケティングGDC SummerバーチャルヒューマンブロックチェーンMidjourneyアストロノーカキャリアNVIDIA OmniverseeスポーツAmazoneSportsDQNBLUE PROTOCOLシーマンアバターOmniverse3DCGUbisoftメタAlphaZeroTransformerGPT-2AIりんなカメラ環世界中島秀之哲学ベリサーブPlayable!ChatGPT理化学研究所ジェネレーティブAISIGGRAPH ASIADARPAドローンシムシティImagenZorkバイアスモーションキャプチャーTEZUKA2020AI美空ひばり手塚治虫バンダイナムコ研究所スパーシャルAIElectronic Arts3DメタデータLEFT 4 DEAD通しプレイOpenAI Five本間翔太CMピクサープラチナエッグイーサリアム作曲ボエダ・ゴティエビッグデータ中嶋謙互Amadeus Codeデータ分析Microsoft AzureMILE模倣学習ナラティブスタンフォード大学アーケードゲームOmniverse ReplicatorWCCFレコメンドシステムNVIDIA DRIVE SimWORLD CLUB Champion FootballNVIDIA Isaac Simセガ柏田知大軍事サイバーエージェント田邊雅彦トレーディングカードトレカ音声認識メディアアートPyTorch眞鍋和子バンダイナムコスタジオaibo合成音声齊藤陽介マインクラフトお知らせMagic Leap Oneチャットボットサルでもわかる人工知能VAEDreamFusionリップシンキングUbisoft La Forge自動運転車ワークショップ知識表現ウォッチドッグス レギオンIGDA秋期GTC2022どうぶつしょうぎEpic Gamesジェイ・コウガミ音楽ストリーミングMITAIロボ「迷キュー」に挑戦野々下裕子徳井直生マシンラーニング5GMuZeroRival Peakクラウド対話エンジン斎藤由多加リトル・コンピュータ・ピープルCodexコンピューティショナル・フォトグラフィーゴブレット・ゴブラーズ絵画rinnaイラストシミュレーションデジタルヒューマン完全情報ゲーム坂本洋典PaLM釜屋憲彦ウェイポイントパス検索対談藤澤仁生物学GTC 2022画像認識GPT-3.5SiemensStyleCLIPDeNA長谷洋平masumi toyota宮路洋一OpenSeaGDC 2022TextWorldEarth-2BingMagentaSFELYZA Pencil松尾豊GTC2021CycleGANNetflixデータマイニング東京大学NetHackはこだて未来大学キャラクターモーションフェイクニュースエージェントRPGSIGGRAPH 2022レベルデザインAIボイスアクターNVIDIA CanvasGPUALife人工生命オルタナティヴ・マシンサウンドスケープLaMDAAI DungeonASBS栗原聡ぱいどんテキスト生成不気味の谷ナビゲーションメッシュ松井俊浩ELYZAフルコトELYZA DIGEST音声合成西成活裕Apex LegendsELIZA群衆マネジメントNinjaコンピュータRPGライブビジネスアップルタウン物語新型コロナKELDIC周済涛メロディ言語清田陽司ゲームTENTUPLAYサイバネティックスMARVEL Future FightAstro人工知能史タイムラプスEgo4DAI哲学マップバスキア星新一日経イノベーション・ラボStyleGAN-XL敵対的強化学習StyleGAN3階層型強化学習GOSU Data LabGANimatorWANNGOSU Voice AssistantVoLux-GAN竹内将SenpAI.GGProjected GANMobalyticsSelf-Distilled StyleGAN馬淵浩希Cygamesニューラルレンダリング岡島学AWS SagemakerPLATO映像セリア・ホデント形態素解析frame.ioUXAWS LambdaFoodly誤字検出森山和道認知科学中川友紀子ゲームデザインSentencePieceアールティLUMINOUS ENGINELuminous ProductionsBlenderBot 3パターン・ランゲージ竹村也哉Meta AIちょまどマーク・ザッカーバーグGOAPWACULAdobe MAX 2021自動翻訳AIライティングOmniverse AvatarAIのべりすとFPSNVIDIA RivaQuillBotマルコフ決定過程NVIDIA MegatronCopysmithNVIDIA MerlinJasperNVIDIA Metropolisパラメータ設計テニスバランス調整協調フィルタリング人狼知能テキサス大学AlphaDogfight TrialsAI Messenger VoicebotエージェントシミュレーションOpenAI CodexStarCraft IIHyperStyleMax CooperFuture of Life InstituteRendering with StyleIntelDisney類家利直LAIKADisneyリサーチヴィトゲンシュタインRotomationGauGAN論理哲学論考GauGAN2京都芸術大学ドラゴンクエストライバルズ画像言語表現モデル不確定ゲームSIGGRAPH ASIA 2021PromptBaseDota 2モンテカルロ木探索ディズニーリサーチMitsuba2バンダイナムコネクサスソーシャルゲームEmbeddingワイツマン科学研究所ユーザーレビューGTC2020CG衣装mimicNVIDIA MAXINEVRファッションBaidu淡路滋ビデオ会議ArtflowERNIE-ViLGグリムノーツEponym古文書ゴティエ・ボエダ音声クローニング凸版印刷Gautier Boeda階層的クラスタリングGopherAI-OCR画像判定JuliusSIE鑑定ラベル付けTPRGOxia Palus大澤博隆バーチャル・ヒューマン・エージェントtoio SDK for UnityArt RecognitionSFプロトタイピングクーガー田中章愛実況パワフルサッカー石井敦銭起揚NHC 2021桃太郎電鉄茂谷保伯池田利夫桃鉄GDMC新刊案内パワサカマーベル・シネマティック・ユニバースコナミデジタルエンタテインメント成沢理恵MITメディアラボMCU岩倉宏介アベンジャーズPPOマジック・リープDigital DomainMachine Learning Project CanvasMagendaMasquerade2.0国立情報学研究所ノンファンジブルトークンDDSPフェイシャルキャプチャー石川冬樹サッカーモリカトロン開発者インタビュースパコン里井大輝Kaggle宮本茂則スーパーコンピュータバスケットボール山田暉松岡 聡Assassin’s Creed OriginsAI会話ジェネレーターTSUBAME 1.0Sea of ThievesTSUBAME 2.0GEMS COMPANYmonoAI technologyLSTMABCIモリカトロンAIソリューション富岳初音ミクOculusコード生成AISociety 5.0転移学習テストAlphaCode夏の電脳甲子園Baldur's Gate 3Codeforces座談会Candy Crush Saga自己増強型AItext-to-imageSIGGRAPH ASIA 2020COLMAPtext-to-3DADOPNVIDIA GET3DデバッギングBigGANGANverse3DMaterialGANRNNグランツーリスモSPORTAI絵師ReBeLグランツーリスモ・ソフィーUGCGTソフィーPGCVolvoFIAグランツーリスモチャンピオンシップStability AINovelAIRival PrakDGX A100NovelAI DiffusionVTuberユービーアイソフトWebcam VTuberモーションデータ星新一賞北尾まどかHALO市場分析ポーズ推定将棋メタルギアソリッドVフォートナイトメッシュ生成FSMメルセデス・ベンツRobloxMagic Leapナップサック問題Live NationEpyllion汎用言語モデルWeb3.0マシュー・ボールAIOpsムーアの法則SpotifyスマートコントラクトReplica StudioAWSamuseChitrakarQosmoAdobe MAX 2022巡回セールスマン問題Adobe MAXジョルダン曲線メディアAdobe Research政治Galacticaクラウドゲーミングがんばれ森川君2号pixiv和田洋一リアリティ番組映像解析Stadiaジョンソン裕子セキュリティMILEsNightCafe東芝デジタルソリューションズインタラクティブ・ストリーミングLuis RuizSATLYS 映像解析AIインタラクティブ・メディアポケモン3DスキャンPFN 3D Scanシーマン人工知能研究所東京工業大学Ludo博報堂Preferred NetworksラップPFN 4D ScanSIGGRAPH 2019ArtEmisZ世代DreamUpAIラッパーシステムDeviantArtARWaifu DiffusionGROVERプラスリンクス ~キミと繋がる想い~元素法典FAIRSTCNovel AIチート検出Style Transfer ConversationOpen AIオンラインカジノRCPMicrosoft DesignerアップルRealFlowRinna Character PlatformiPhoneCALADeep FluidsSoul Machines柿沼太一MeInGameAmeliaELSIAIGraphブレイン・コンピュータ・インタフェースバーチャルキャラクター大規模言語モデルBCIGateboxアフォーダンスLearning from VideoANIMAKPaLM-SayCan予期知能逢妻ヒカリセコムGitHub Copilotユクスキュルバーチャル警備システムCode as Policiesカント損保ジャパンCaP上原利之ドラゴンクエストエージェントアーキテクチャアッパーグラウンドコリジョンチェックPAIROCTOPATH TRAVELER西木康智OCTOPATH TRAVELER 大陸の覇者山口情報芸術センター[YCAM]アルスエレクトロニカ2019品質保証YCAMStyleRigAutodeskアンラーニング・ランゲージ逆転オセロニアBentley Systemsカイル・マクドナルドワールドシミュレーターローレン・リー・マッカーシー奥村エルネスト純いただきストリートH100鎖国[Walled Garden]プロジェクト齋藤精一大森田不可止COBOLSIGGRAPH ASIA 2022高橋智隆DGX H100VToonifyロボユニザナックDGX SuperPODControlVAE泉幸典仁井谷正充クラウドコンピューティング変分オートエンコーダーロボコレ2019Instant NeRFフォトグラメトリartonomous回帰型ニューラルネットワークbitGANsDeepJoinぎゅわんぶらあ自己中心派Azure Machine LearningAzure OpenAI Service意思決定モデル脱出ゲームDeepLHybrid Reward Architectureコミュニティ管理DeepL WriteウロチョロスSuper PhoenixSNSProject MalmoオンラインゲームGen-1気候変動Project PaidiaシンギュラリティProject Lookoutマックス・プランク気象研究所レイ・カーツワイルWatch Forビョルン・スティーブンスヴァーナー・ヴィンジ気象モデルRunway ResearchLEFT ALIVE気象シミュレーションMake-A-Video長谷川誠ジミ・ヘンドリックス環境問題PhenakiBaby Xカート・コバーンエコロジーDreamixロバート・ダウニー・Jr.エイミー・ワインハウスSDGsText-to-Imageモデル音楽生成AIYouTubeダフト・パンクメモリスタ音声生成AIGlenn MarshallScenarioThe Age of A.I.Story2Hallucination音声変換LatitudeレコメンデーションJukeboxAIピカソVeap JapanAI素材.comEAPneoAIテンセントSIFT福井千春DreamIconDCGAN医療mignMOBADANNCEメンタルケアstudiffuse人事ハーバード大学Edgar HandyAndreessen Horowitz研修デューク大学AIQVE ONEQA Tech Nightmynet.aiローグライクゲーム松木晋祐東京理科大学下田純也人工音声NeurIPS 2021産業技術総合研究所桑野範久リザバーコンピューティングBardプレイ動画ヒップホップ対話型AIモデル詩ソニーマーケティングControlNetサイレント映画もじぱnoteNBA環境音暗号通貨note AIアシスタント現代アートFUZZLEKetchupAlterationAI News粒子群最適化法Art Selfie進化差分法オープンワールドArt Transfer群知能下川大樹AIFAPet Portraitsウィル・ライト高津芳希P2EBlob Opera大石真史クリムトBEiTStyleGAN-NADA世界モデルDETRゲームエンジンDreamerV3SporeUnreal Engineクリティックネットワークデノイズ南カリフォルニア大学Unity for Industryアクターネットワーク画像処理DMLabSentropyGLIDEControl SuiteCPUDiscordAvatarCLIPAtari 100kSynthetic DataAtari 200MCALMYann LeCunプログラミングサム・アルトマン鈴木雅大ソースコード生成コンセプトアートGMAIシチズンデベロッパーSonanticColie WertzTRPGGitHubCohereリドリー・スコットウィザードリィMCN-AI連携モデルマジック:ザ・ギャザリング絵コンテUrzas.aiストーリーボード介護大阪大学西川善司並木幸介KikiBlenderサムライスピリッツ森寅嘉Zoetic AIプロンプトゼビウスSIGGRAPH 2021ペットGPT-4ストリートファイター半導体Digital Dream LabsPaLM APITopaz Video Enhance AICozmoMakerSuiteDLSSタカラトミーSkeb山野辺一記NetEaseLOVOTDreambooth-Stable-Diffusion大里飛鳥DynamixyzMOFLINゲーム背景RomiGoogle EarthU-NetミクシィGEPPETTO AI13フェイズ構造アドベンチャーゲームユニロボットStable Diffusion web UIADVユニボPoint-EXLandGatoアパレルAGIAI model手塚眞DEATH STRANDINGマルチモーダルAI ModelsEric Johnson汎用強化学習AIZMO.AIデザインMOBBY’SOculus Questコジマプロダクションロンドン芸術大学モビーディック生体情報デシマエンジンGoogle BrainダイビングインディーゲームSound Controlアウトドア写真高橋ミレイSYNTH SUPERAIスキャニング照明Maxim PeterKarl Sims自動採寸Joshua RomoffArtnome3DLOOKハイパースケープICONATESizer山崎陽斗深層強化学習ワコール立木創太松原仁スニーカー浜中雅俊UNSTREETミライ小町武田英明Newelseテスラ福井健策CheckGoodsGameGAN二次流通パックマンTesla BotNEDO中古市場Tesla AI DayWikipediaDupe Killerソサエティ5.0Sphere偽ブランドSIGGRAPH 2020バズグラフXaver 1000配信ニュースタンテキ養蜂東芝BeewiseDIB-R倉田宜典フィンテック投資韻律射影MILIZE広告韻律転移三菱UFJ信託銀行
CGへの扉 Vol.30:SIGGRAPH2021レポート「ディープフェイクとの戦い」
ディープフェイクとのイタチごっこ
ディープフェイク(DeepFake)とは、映像制作者が意図しない形で動画の一部分を差し替えたり、嘘の動画を作成したりする行為のうち、ディープラーニングのテクノロジーの助けを借りたものを総称する言葉です。以前から合成によるフェイク画像やフェイク動画は存在しましたが、そのクオリティは稚拙で、一目見てフェイク(ウソ)だと解るような不自然な合成であることが一般的でした。
ところがテクノロジーの進化により動画から顔の骨格を解析したり、その骨格に応じて他の人の顔映像と差し替える作業を、手作業ではなく自動的に行う仕組みを使用することができるようになりました。そのためある作業によって生み出された動画が作り物のウソ動画なのか本物なのか、素人目には判別できない状況が生じるようになりました。
もちろんまだまだディープフェイクで使われる技術は高度でマシンパワーを必要とするものであり、誰もが簡単に見分けがつかないほどの高品質なウソ動画を作れるわけではありません。「Reface :リフェイス」という動画の顔を自分の顔に差し替えるアプリが存在しますが、あくまでお遊びです。
一方、どこにも存在しない人物の顔写真をディープラーニングで生成させる方法や、それによって生み出された顔画像はごく普通に見かけるようになりました。みなさんはその画像が作られたものなのか、実在の人物なのか見分けることができますか?
「Which Face is Real?」というサイトでは片方は実在の人物、片方はディープラーニングで生成された2枚の顔画像が提示されます。どちらがリアルでどちらがフェイクなのかを見分けられるかどうかを試されます。皆さんはどれくらい正解できましたか?
映画『ブレードランナー』(1982年公開) をご覧になった方は、レプリカントと呼ばれる人造人間を見分けるために、瞳をチェックしていたシーンを覚えているでしょうか? 研究者の間ではディープラーニングで生成された顔画像と実在の人物の顔画像は「瞳」を見ると判別できると言われています。例えば、実在の人物を撮影した実写の顔画像であれば、大抵、瞳に映り込んだ照明や窓、太陽が映り込んだ輝きは、左右どちらの目も同じです。一方、ディープラーニングで生成した顔画像の場合、顔全体としてはそれっぽい顔ですが、左右の瞳の輝きの同一性まではコントロールできていません。
また瞳の中心にある瞳孔が、正円であること、または横から見ている場合は、バランスが取れた楕円である場合は、実在の人物を撮影した実写の顔画像の可能性が高く、瞳孔の部分が歪んでいたり、正円を保っていない場合は、作られた顔画像である場合が多いそうです。ただし撮影条件や、瞳の病気の有無によっても状況が変わってくるため必ずしも見分けられるものではありません。
情報の真偽を曖昧にするため「ディープフェイクは良くないもの」という風潮があるなか、ディープフェイク映像で注目を浴びていたShamookと呼ばれる YouTuberの就職先が話題になりました。なんとスターウォーズシリーズの特殊効果、VFX/CG制作で知られるILMにスカウトされ、ディープフェイクを活用した映像制作の研究開発に携わっているらしいことが、インディーズ映像に関するオンラインメディアであるIndieWireに報じられました。
この出来事を解釈すると「主流」であることと、「亜流」や「我流」であることの違いはあまり意味を持たず、どのようなアウトプット、ここではどのような映像を制作することができるのか?という能力によって評価が決まります。どんなテクノロジーも結局は使う人次第だということが再認識されます。
CGの学会・展示会である SIGGRAPH 2021 では、ディープフェイクに関する特別講演が注目を集めました。それらの講演から、認識しておかなければいけない重要なポイントや、現在の技術と倫理のバランス、ディープフェイクを作る方法と、それを見分ける方法の双方のアプローチを紹介しましょう。
ディープフェイクの作り方、悪用の事例、ディープフェイクの検出について
以下は、SIGGRAPH 2021 Featured Speakersで行われた、カリフォルニア大学バークレー校のハニー・ファリド氏による講演「CREATING, WEAPONIZING, AND DETECTING DEEPFAKES」のレポートです。
今回のハニー・ファリド氏の講演は、普段カリフォルニア大学バークレー校の博士過程の学生向けに行っている講義内容をベースにしているとのことです。

メディアを加工するという行為は、何も最近の話ではなく、スターリンの時代にまで遡ります。当時の報道写真でも、写っている余計な人物を、エアブラシ加工で除去していました。その当時は写真現像のための暗室や、特殊な機材と特異なスキルを持った一部の人だけが可能な加工でした。それが Adobe Photoshop の登場とデジタルカメラの普及で、誰もが簡単に写真の加工をすることが可能になりました。写真をツギハギすることで、笑える写真を作ったり、実際にはあり得ないような写真を生み出すこともできるようになりました。そして現在、人工知能や機械学習によって合成コンテンツが次の時代に突入しています。

「This person does not exist」というサイトにアクセスすると、存在しない人物の写真が表示されます。AIによって合成された非常にリアルな顔写真です。

このような写真が作られる基本的なフレームワークは、識別器(discriminator)と呼ばれる、顔画像かどうか識別する部分と、生成器(generator)と呼ばれる画像を生成する部分に分かれます。ネット上から集めてきた本物の人物の顔が写っている写真であれば、識別器は正しく検知します。

生成器がある画像を生成し、それを識別器に判定してもらうと、顔画像ではない場合、識別器で「不合格」となります。そこで生成器はまた少し画像を変更して、また識別器に判定してもらいます。この繰り返しを膨大な回数行うと、そのうち生成器は識別器を騙せるくらい精巧な顔画像を生成するようになります。これがいわゆるGAN(Generative Adversarial Networks=敵対的生成ネットワーク)と呼ばれるディープニューラルネットワークです。
ここで注目すべきなのは、Photoshopによる加工もハリウッド映画の特殊効果も使用されていないことです。生成と識別の2つのニューラルネットワークが競い合うというコンピュータによる力仕事の結果、合成コンテンツが生まれています。

顔画像を差し替えたフェイク動画を作る場合も同様です。生成器が起点とするのは差し替えられる元の画像です。識別器が判定するのは、差し替える先の顔画像です。これをGANで繰り返すと、差し替える先の顔によく似た、差し替える元画像を修正した画像が生まれてくるのです。さらにこれを動画の1コマ1コマに対して処理をすると、フェイク動画が生成されるのです。

このように顔を差し替えるフェイス・スワップと呼ばれるディープフェイクには大変驚きました。まるで当人が話しているかのように、顔が差し代わったフェイク動画が生成されたからです。このフェイス・スワップはディープフェイクの代表的なカテゴリのひとつで、2つ目はパペットマスターと呼ばれる1枚の写真が動いて勝手に話しているようなフェイク動画です。そして3つ目はリップシンクと呼ばれる技術で、本人の動画を元に口の動きを自動的に生成し、話してもいない勝手なセリフをしゃべらせるディープフェイクです。これらに共通するのは「このような人物は存在しない」ということです。

これらの技術は素晴らしいテクノロジーである一方、勝手に生み出されるディープフェイクは次のような悪用の可能性が潜んでいます。
- 本人に合意を得ず、勝手にポルノ動画を生成すること
- 人を騙すことを目的としたフェイクニュース動画の生成
- 証拠の改ざん
- 国家の安全保障にまつわる陰謀動画の生成
- 詐欺用途の動画生成
これらの背景には、ディープラーニング技術の急速な発展、ソーシャルメディアの拡散のスピードと規模の拡大、フェイク動画の制作者が享受する利益の影響が存在しています。これらの潜在的な害をいかに回避するか、ディープラーニングで作られた嘘の動画をどう見分けるかという課題が生じます。
ディープフェイクの見分け方その1:立ち振る舞いの癖を解析する

例えばオバマ元大統領の演説の10秒間の動画を1フレームごとに解析します。グラフの横軸は時間で、頭を上下に動かしている様子、口の変化をプロットしたものです。これらの動きから顔の動きと話し方のクセのようなものを解析します。顔の動きは18個のパーツと、2種類の頭の動き、それらを組み合わせた190のパターンを扱うように設計しました。

目、鼻、口、あごといった顔のパーツの動きの組み合わせから、眉毛を上げて顔をしかめたり、あごをしゃくれさせたりしている様子を動画1秒につき24枚から30枚の画像を解析していきます。これらのパーツの相関関係、連動する顔のパーツの組み合わせに注目し10秒間の動画を解析します。解析結果を特徴ごとにプロットすると、それぞれの政治家によって顔の動きや話し方の特徴が異なることがわかります。この手法を用いると、ディープフェイクで作られたオバマ元大統領の動画が本人とは違う領域に位置することがわかります。

この手法であれば、フェイス・スワップタイプ、パペットマスタータイプ、リップシンクタイプのどのフェイクも判別することができますし、さらにオバマ元大統領の動きを真似たモノマネ芸人の動画をも見分けることができます。
ディープフェイクの見分け方その2:本人の耳かどうかを照合し、口と耳の連動に着目する
ここでディープフェイクを見分ける2つ目のテクニックを紹介します。あるクリエイターによるトムクルーズのディープフェイク動画が TikTok上で話題になったことがありました。これはトムクルーズのオフショットを撮影したかのような TikTok 動画ですが、実はディープフェイク動画で、機械学習に2カ月、動画の撮影に数日、動画編集1本につき24時間以上費やしているとのことです。メイキングビデオはこちらの動画で観ることができます。
TikTok に公開されているトムクルーズのフェイク動画 (@deeptomcruise)
ここで使われているディープフェイク発見のポイントは「耳」に着目したことです。主にディープフェイクで差し替えられているのは顔の表面の部分だけだからです。ディープフェイクでなりすましている元の人が誰かわからなくとも、トムクルーズのような有名人であれば、ネットにある写真から耳の形を見つけ出すことができます。

耳に注目したことで、もうひとつ分かったことは、口を動かして話す時に、耳もそれに影響を受けて少し動くということです。本人の実写映像では見られる口と耳との連動が、ディープフェイク動画では見られません。耳の各部分に着目すると、話す時に耳全体が動く人と、耳の一部だけが動く人などそれぞれの特徴が解析できます。
ディープフェイクの見分け方その3:発音と口の動きとの連動を照合する
ディープフェイクを見分ける3つ目のテクニックは、発する声と口の形の相関関係を照合するというものです。腹話術でもないかぎり、口の動きと発声とは密接に関係しています。ディープフェイク、それもリップシンク形式のディープフェイクの場合は、ぱっと見、口が開いているか閉じているかといった単純な見栄えだけは合致していますが、口全体の形は少し歪になっています。違いが見つかる確率は50%ほどです。この状況に着目し、ある発生に必要な口の形と、画像との差異を見つけることでリップシンク形式のディープフェイクの90%前後を識別することが可能になります。

以上に述べたようなディープフェイクの検出の研究は進められていますが、YouTubeには毎分500時間分の動画がアップロードされており、それらすべてについてディープフェイクの検出を行うことはできません。
ディープフェイクの検出という考えを推し進めるためには、ディープフェイクではない正しい実写映像が実在する正当な動画であるということを示すことも大切です。ビデオ映像を撮影した際に、位置情報を埋め込んだり、動画や音声を暗号化したり、電子透かしを付与することで改ざんを防止したり、改ざんされたことを見つだす方法も考えられます。
ディープフェイクのような最新テクノロジーは、必ずそのテクノロジーにおけるポジティブな影響とネガティブな影響があり、長所が短所を上回るように扱っていかなければいけないと、ハニー・ファリド氏は講演を締めくくりました。ここで紹介された各手法は論文としてファリド氏の研究室のページで紹介されています。
これからのフェイクとリアル
GANの仕組みを考えると、フェイクが見分けられるということは、フェイクだと見分けられないように画像や動画を生成させることも技術的にはできるようになる可能性を秘めています。まさにイタチごっこと言われる所以です。
ハニー・ファリド氏が述べていたように、テクノロジーだけですべてのディープフェイクを回避することはできません。倫理面に配慮したルールの整備や、ディープフェイクの技術のオープン化、それらを検知する技術のオープン化によって抑制できる部分もあるでしょう。
また、ディープフェイクのような動画の顔画像を差し替える技術は、悪いことばかりではありません。この技術によって友達や家族とヘンテコな動画を楽しんだり、故人を偲んだり、最新の映画のVFXとして活用されたり、亡くなった名俳優の演技を再び観ることも可能になるからです。肖像権や俳優の権利を守らなければいけない部分に考慮しつつ、こういったさまざまな応用が考えられます。また、ディープフェイク技術は人間ばかりではなくペットや動物でも同じような応用が広がる可能性も考えられます。まさにテクノロジーを生かすも殺すも人次第ということなのかもしれません。
本連載の今後の予定:「CGへの扉」では、単なるAIの話題とは少し異なり、CG/VFX, アートの文脈から話題を切り取り紹介していきます。映像制作の現場におけるAI活用や、AIで価値が高まった先進的なツール、これからの可能性を感じさせるような話題、テクノロジーの話題にご期待ください。何か取り上げて欲しいテーマやご希望などがございましたら、ぜひ編集部までお知らせください。
Vol.29:AIの恩恵を受けるCG研究の世界。#SIGGRAPH2021 論文より
Vol.28:定番手法の他分野応用、自然言語処理AI由来の画像処理AI
Vol.27:眼に追いつけ追い越せ? カメラは機械学習により進化
Vol.26:アートを加速させるAIの役割 #GTC2021 レポート
Vol.22:言葉から画像を生成、DALL-Eはクリエイティブなのか?
Vol.21:人工知能+3DCGの最新論文をまとめて紹介 #SIGGRAPHAsia2020
Vol.20:Adobeと人工知能の将来を見極める #AdobeMAX2020
Vol.19:コミュニケーションツールの新境地「NVIDIA MAXINE」
Contributor:安藤幸央