CGへの扉 Vol.30：SIGGRAPH2021レポート「ディープフェイクとの戦い」

ディープフェイクとのイタチごっこ

ディープフェイク（DeepFake）とは、映像制作者が意図しない形で動画の一部分を差し替えたり、嘘の動画を作成したりする行為のうち、ディープラーニングのテクノロジーの助けを借りたものを総称する言葉です。以前から合成によるフェイク画像やフェイク動画は存在しましたが、そのクオリティは稚拙で、一目見てフェイク（ウソ）だと解るような不自然な合成であることが一般的でした。

ところがテクノロジーの進化により動画から顔の骨格を解析したり、その骨格に応じて他の人の顔映像と差し替える作業を、手作業ではなく自動的に行う仕組みを使用することができるようになりました。そのためある作業によって生み出された動画が作り物のウソ動画なのか本物なのか、素人目には判別できない状況が生じるようになりました。

もちろんまだまだディープフェイクで使われる技術は高度でマシンパワーを必要とするものであり、誰もが簡単に見分けがつかないほどの高品質なウソ動画を作れるわけではありません。「Reface ：リフェイス」という動画の顔を自分の顔に差し替えるアプリが存在しますが、あくまでお遊びです。

一方、どこにも存在しない人物の顔写真をディープラーニングで生成させる方法や、それによって生み出された顔画像はごく普通に見かけるようになりました。みなさんはその画像が作られたものなのか、実在の人物なのか見分けることができますか？

「Which Face is Real?」というサイトでは片方は実在の人物、片方はディープラーニングで生成された2枚の顔画像が提示されます。どちらがリアルでどちらがフェイクなのかを見分けられるかどうかを試されます。皆さんはどれくらい正解できましたか？

映画『ブレードランナー』（1982年公開） をご覧になった方は、レプリカントと呼ばれる人造人間を見分けるために、瞳をチェックしていたシーンを覚えているでしょうか？ 研究者の間ではディープラーニングで生成された顔画像と実在の人物の顔画像は「瞳」を見ると判別できると言われています。例えば、実在の人物を撮影した実写の顔画像であれば、大抵、瞳に映り込んだ照明や窓、太陽が映り込んだ輝きは、左右どちらの目も同じです。一方、ディープラーニングで生成した顔画像の場合、顔全体としてはそれっぽい顔ですが、左右の瞳の輝きの同一性まではコントロールできていません。

また瞳の中心にある瞳孔が、正円であること、または横から見ている場合は、バランスが取れた楕円である場合は、実在の人物を撮影した実写の顔画像の可能性が高く、瞳孔の部分が歪んでいたり、正円を保っていない場合は、作られた顔画像である場合が多いそうです。ただし撮影条件や、瞳の病気の有無によっても状況が変わってくるため必ずしも見分けられるものではありません。

情報の真偽を曖昧にするため「ディープフェイクは良くないもの」という風潮があるなか、ディープフェイク映像で注目を浴びていたShamookと呼ばれる YouTuberの就職先が話題になりました。なんとスターウォーズシリーズの特殊効果、VFX/CG制作で知られるILMにスカウトされ、ディープフェイクを活用した映像制作の研究開発に携わっているらしいことが、インディーズ映像に関するオンラインメディアであるIndieWireに報じられました。

この出来事を解釈すると「主流」であることと、「亜流」や「我流」であることの違いはあまり意味を持たず、どのようなアウトプット、ここではどのような映像を制作することができるのか？という能力によって評価が決まります。どんなテクノロジーも結局は使う人次第だということが再認識されます。

CGの学会・展示会である SIGGRAPH 2021 では、ディープフェイクに関する特別講演が注目を集めました。それらの講演から、認識しておかなければいけない重要なポイントや、現在の技術と倫理のバランス、ディープフェイクを作る方法と、それを見分ける方法の双方のアプローチを紹介しましょう。

ディープフェイクの作り方、悪用の事例、ディープフェイクの検出について

以下は、SIGGRAPH 2021 Featured Speakersで行われた、カリフォルニア大学バークレー校のハニー・ファリド氏による講演「CREATING, WEAPONIZING, AND DETECTING DEEPFAKES」のレポートです。

・他カンファレンスで講演された本講演の短縮バージョン（約20分）
・他カンファレンスで講演された本講演と同等のバージョン（約70分）

今回のハニー・ファリド氏の講演は、普段カリフォルニア大学バークレー校の博士過程の学生向けに行っている講義内容をベースにしているとのことです。

メディアを加工するという行為は、何も最近の話ではなく、スターリンの時代にまで遡ります。当時の報道写真でも、写っている余計な人物を、エアブラシ加工で除去していました。その当時は写真現像のための暗室や、特殊な機材と特異なスキルを持った一部の人だけが可能な加工でした。それが Adobe Photoshop の登場とデジタルカメラの普及で、誰もが簡単に写真の加工をすることが可能になりました。写真をツギハギすることで、笑える写真を作ったり、実際にはあり得ないような写真を生み出すこともできるようになりました。そして現在、人工知能や機械学習によって合成コンテンツが次の時代に突入しています。

「This person does not exist」というサイトにアクセスすると、存在しない人物の写真が表示されます。AIによって合成された非常にリアルな顔写真です。

このような写真が作られる基本的なフレームワークは、識別器（discriminator）と呼ばれる、顔画像かどうか識別する部分と、生成器（generator）と呼ばれる画像を生成する部分に分かれます。ネット上から集めてきた本物の人物の顔が写っている写真であれば、識別器は正しく検知します。

生成器がある画像を生成し、それを識別器に判定してもらうと、顔画像ではない場合、識別器で「不合格」となります。そこで生成器はまた少し画像を変更して、また識別器に判定してもらいます。この繰り返しを膨大な回数行うと、そのうち生成器は識別器を騙せるくらい精巧な顔画像を生成するようになります。これがいわゆるGAN（Generative Adversarial Networks＝敵対的生成ネットワーク）と呼ばれるディープニューラルネットワークです。

ここで注目すべきなのは、Photoshopによる加工もハリウッド映画の特殊効果も使用されていないことです。生成と識別の2つのニューラルネットワークが競い合うというコンピュータによる力仕事の結果、合成コンテンツが生まれています。

顔画像を差し替えたフェイク動画を作る場合も同様です。生成器が起点とするのは差し替えられる元の画像です。識別器が判定するのは、差し替える先の顔画像です。これをGANで繰り返すと、差し替える先の顔によく似た、差し替える元画像を修正した画像が生まれてくるのです。さらにこれを動画の1コマ1コマに対して処理をすると、フェイク動画が生成されるのです。

このように顔を差し替えるフェイス・スワップと呼ばれるディープフェイクには大変驚きました。まるで当人が話しているかのように、顔が差し代わったフェイク動画が生成されたからです。このフェイス・スワップはディープフェイクの代表的なカテゴリのひとつで、２つ目はパペットマスターと呼ばれる1枚の写真が動いて勝手に話しているようなフェイク動画です。そして３つ目はリップシンクと呼ばれる技術で、本人の動画を元に口の動きを自動的に生成し、話してもいない勝手なセリフをしゃべらせるディープフェイクです。これらに共通するのは「このような人物は存在しない」ということです。

これらの技術は素晴らしいテクノロジーである一方、勝手に生み出されるディープフェイクは次のような悪用の可能性が潜んでいます。

1. 本人に合意を得ず、勝手にポルノ動画を生成すること
2. 人を騙すことを目的としたフェイクニュース動画の生成
3. 証拠の改ざん
4. 国家の安全保障にまつわる陰謀動画の生成
5. 詐欺用途の動画生成

これらの背景には、ディープラーニング技術の急速な発展、ソーシャルメディアの拡散のスピードと規模の拡大、フェイク動画の制作者が享受する利益の影響が存在しています。これらの潜在的な害をいかに回避するか、ディープラーニングで作られた嘘の動画をどう見分けるかという課題が生じます。

ディープフェイクの見分け方その１：立ち振る舞いの癖を解析する

例えばオバマ元大統領の演説の10秒間の動画を1フレームごとに解析します。グラフの横軸は時間で、頭を上下に動かしている様子、口の変化をプロットしたものです。これらの動きから顔の動きと話し方のクセのようなものを解析します。顔の動きは18個のパーツと、2種類の頭の動き、それらを組み合わせた190のパターンを扱うように設計しました。

目、鼻、口、あごといった顔のパーツの動きの組み合わせから、眉毛を上げて顔をしかめたり、あごをしゃくれさせたりしている様子を動画1秒につき24枚から30枚の画像を解析していきます。これらのパーツの相関関係、連動する顔のパーツの組み合わせに注目し10秒間の動画を解析します。解析結果を特徴ごとにプロットすると、それぞれの政治家によって顔の動きや話し方の特徴が異なることがわかります。この手法を用いると、ディープフェイクで作られたオバマ元大統領の動画が本人とは違う領域に位置することがわかります。

この手法であれば、フェイス・スワップタイプ、パペットマスタータイプ、リップシンクタイプのどのフェイクも判別することができますし、さらにオバマ元大統領の動きを真似たモノマネ芸人の動画をも見分けることができます。

ディープフェイクの見分け方その２：本人の耳かどうかを照合し、口と耳の連動に着目する

ここでディープフェイクを見分ける２つ目のテクニックを紹介します。あるクリエイターによるトムクルーズのディープフェイク動画が TikTok上で話題になったことがありました。これはトムクルーズのオフショットを撮影したかのような TikTok 動画ですが、実はディープフェイク動画で、機械学習に2カ月、動画の撮影に数日、動画編集1本につき24時間以上費やしているとのことです。メイキングビデオはこちらの動画で観ることができます。

TikTok に公開されているトムクルーズのフェイク動画 （@deeptomcruise）

ここで使われているディープフェイク発見のポイントは「耳」に着目したことです。主にディープフェイクで差し替えられているのは顔の表面の部分だけだからです。ディープフェイクでなりすましている元の人が誰かわからなくとも、トムクルーズのような有名人であれば、ネットにある写真から耳の形を見つけ出すことができます。

耳に注目したことで、もうひとつ分かったことは、口を動かして話す時に、耳もそれに影響を受けて少し動くということです。本人の実写映像では見られる口と耳との連動が、ディープフェイク動画では見られません。耳の各部分に着目すると、話す時に耳全体が動く人と、耳の一部だけが動く人などそれぞれの特徴が解析できます。

ディープフェイクの見分け方その３：発音と口の動きとの連動を照合する

ディープフェイクを見分ける３つ目のテクニックは、発する声と口の形の相関関係を照合するというものです。腹話術でもないかぎり、口の動きと発声とは密接に関係しています。ディープフェイク、それもリップシンク形式のディープフェイクの場合は、ぱっと見、口が開いているか閉じているかといった単純な見栄えだけは合致していますが、口全体の形は少し歪になっています。違いが見つかる確率は50%ほどです。この状況に着目し、ある発生に必要な口の形と、画像との差異を見つけることでリップシンク形式のディープフェイクの90%前後を識別することが可能になります。

以上に述べたようなディープフェイクの検出の研究は進められていますが、YouTubeには毎分500時間分の動画がアップロードされており、それらすべてについてディープフェイクの検出を行うことはできません。

ディープフェイクの検出という考えを推し進めるためには、ディープフェイクではない正しい実写映像が実在する正当な動画であるということを示すことも大切です。ビデオ映像を撮影した際に、位置情報を埋め込んだり、動画や音声を暗号化したり、電子透かしを付与することで改ざんを防止したり、改ざんされたことを見つだす方法も考えられます。

ディープフェイクのような最新テクノロジーは、必ずそのテクノロジーにおけるポジティブな影響とネガティブな影響があり、長所が短所を上回るように扱っていかなければいけないと、ハニー・ファリド氏は講演を締めくくりました。ここで紹介された各手法は論文としてファリド氏の研究室のページで紹介されています。

これからのフェイクとリアル

GANの仕組みを考えると、フェイクが見分けられるということは、フェイクだと見分けられないように画像や動画を生成させることも技術的にはできるようになる可能性を秘めています。まさにイタチごっこと言われる所以です。

ハニー・ファリド氏が述べていたように、テクノロジーだけですべてのディープフェイクを回避することはできません。倫理面に配慮したルールの整備や、ディープフェイクの技術のオープン化、それらを検知する技術のオープン化によって抑制できる部分もあるでしょう。

また、ディープフェイクのような動画の顔画像を差し替える技術は、悪いことばかりではありません。この技術によって友達や家族とヘンテコな動画を楽しんだり、故人を偲んだり、最新の映画のVFXとして活用されたり、亡くなった名俳優の演技を再び観ることも可能になるからです。肖像権や俳優の権利を守らなければいけない部分に考慮しつつ、こういったさまざまな応用が考えられます。また、ディープフェイク技術は人間ばかりではなくペットや動物でも同じような応用が広がる可能性も考えられます。まさにテクノロジーを生かすも殺すも人次第ということなのかもしれません。

本連載の今後の予定：「CGへの扉」では、単なるAIの話題とは少し異なり、CG/VFX, アートの文脈から話題を切り取り紹介していきます。映像制作の現場におけるAI活用や、AIで価値が高まった先進的なツール、これからの可能性を感じさせるような話題、テクノロジーの話題にご期待ください。何か取り上げて欲しいテーマやご希望などがございましたら、ぜひ編集部までお知らせください。

CGへの扉：

Vol.29：AIの恩恵を受けるCG研究の世界。#SIGGRAPH2021 論文より

Vol.28：定番手法の他分野応用、自然言語処理AI由来の画像処理AI

Vol.27：眼に追いつけ追い越せ？ カメラは機械学習により進化

Vol.26：アートを加速させるAIの役割 #GTC2021 レポート

Vol.25：変幻自在の顔も実は人工知能

Vol.24：自然現象もすべて人工知能で再現する時代

Vol.23：AIで人の眼に進化するカメラ

Vol.22：言葉から画像を生成、DALL-Eはクリエイティブなのか？

Vol.21：人工知能＋3DCGの最新論文をまとめて紹介 #SIGGRAPHAsia2020

Vol.20：Adobeと人工知能の将来を見極める #AdobeMAX2020

Vol.19：コミュニケーションツールの新境地「NVIDIA MAXINE」

Vol.18：SIGGRAPH2020レポート 映像制作の現場で活躍する人工知能

≫≫すべてのバックナンバーはこちらから

Contributor：安藤幸央