プロパガンダにLGBTQ救済も。政治的文脈でも利用される顔生成AI技術の現状

2022.3.18先端技術

動画に写った顔を他人のそれと入れ替えるディープフェイクや実在しない人物の顔を生成するGANは、その発明当初には主にエンタメの文脈で使われていました。これらの顔生成AI技術の認知度が上がった現在、その利活用の文脈が広がっています。本稿では、政治的な文脈で活用された顔生成AI技術の事例を紹介したうえで、この技術に関する法整備の現状をまとめます。

そのブロガーは存在しなかった

アメリカ大手メディアNBCは2月28日、FacebookとTwitterの各運営が反ウクライナ的な情報を発信するアカウントを削除したと報じました。この報道で注目すべきは、削除されたアカウントは完全に捏造されたものだったのですが、アカウントの真実味を増すためにフォトリアルな顔写真まで生成されていたことです。

以上の報道を執筆したNBC所属のBen Collins記者のツイートによると、削除されたアカウントはキエフ出身のブロガーであるVladimir Bondarenko（ウラジミール・ボンダレンコ）だったのですが、彼の顔写真をよく観察すると違和感を見つけられます。具体的には、左耳が右耳に比べて不自然に欠けています。こうした不自然さは、GANを使って実在しない人物の顔画像を生成することで有名になったウェブサイトThisPersonDoesNotExist.comで生成された顔画像に典型的に見られるのです（以下のツイート参照）。

“Vladimir” has a whole backstory on the Ukraine Today website. He was an aviation engineer, until he was forced into blogging when Ukraine’s aviation infrastructure “collapsed.”

He also has weird ears, which is what happens when you make a face on https://t.co/Gr3BMTJttU pic.twitter.com/n0ogfNXhqT
— Ben Collins (@oneunderscore__) February 28, 2022

Collins記者のツイートは、ボンダレンコはウクライナで航空エンジニアとして働いたが、同国の航空インフラが崩壊したことでブログを書き始めたというストーリーまで捏造されていたことも報告しています。こうしたストーリーと反ウクライナ的な情報を拡散していたことから、同アカウントによる活動からはウクライナ人の団結を阻止しようとする意図が推測されます。

今回の偽アカウントによる情報工作は、2016年のアメリカ大統領選挙にロシアが干渉したとして政治的スキャンダルとなったいわゆる「ロシアゲート」において実行された手口より進化している、と前出のNBCの記事は述べています。また、今後も同様の情報工作が続くだろう、という情報操作の専門家の発言も引用しています。

ディープフェイクによって増す真実味

GANとほぼ同時期に有名になったディープフェイクに関しても、政治的文脈で利用された事例があります。社会福祉の増進を目指すNPOグリーンズが運営するメディア『greenz.jp』は2月24日、映画『チェチェンへようこそ－ゲイの粛清－』（以下、『チェチェンへようこそ』と略記）の特集記事を公開しました。その記事は、同映画の革新性としてディープフェイクの活用を報告しています。

『チェチェンへようこそ』とは、チェチェン共和国で行われているLGBTQへの弾圧をその被害者自らが証言するドキュメンタリー映画です。こうした映画を制作する場合、さらなる弾圧を避けるために、被害者の身元がわからないようにして証言してもらわなければなりません。従来の身元を隠した証言では、モザイクをかけたり顔を撮影しないようにしていました。対して同映画では、被害者の顔をディープフェイクで入れ替えたうえで、彼らの苦しんでいる姿をすべて撮影したのです。入れ替える顔を提供したのは、主にニューヨークで活動する人権擁護家たちでした。

ありのままの現実を撮影するのがドキュメンタリー映画であるという通念に立てば、『チェチェンへようこそ』には明らかに視覚的なフェイクがあるので、ドキュメンタリー映画から逸脱しています。しかし、このフェイクは真実を覆い隠すものではなく、むしろより真実に近づくために使われたと言えます。ディープフェイクを使うことによって弾圧の被害者の表情は鮮明に写し出され、鑑賞者の心を揺さぶるのです。同映画の制作者は、真実を写し出すためにディープフェイクを使っているので「フェイスダブル」や「ヴォイスダブル」という言葉で自分たちの技術的演出を説明してます。

以上のような『チェチェンへようこそ』におけるディープフェイク使用例は、顔生成AI技術の善用と言えるでしょう。

進む法整備

顔生成AI技術に関しては、その発明当初から悪用される懸念が抱かれていました。こうした懸念をふまえて、アメリカでは同技術の使用に対する法整備が着々と進んでいます。コンサルティング会社JD Supraは2月2日、ディープフェイクに関するアメリカ各州の法整備をまとめたブログ記事を公開しました。

JD Supraの記事によると、ニューヨーク州は2020年11月に視聴覚コンテンツにおける「死亡したパフォーマーのデジタルレプリカ」の使用に関して、その使用が「許可されたと公衆を欺く可能性が高い」場合、パフォーマーの死後40年間、明示的に禁止する法律を制定しました。

政治活動におけるディープフェイク規制も進んでいます。例えば、テキサス州は2019年9月に、選挙が始まってから30日間、候補者に損害を与えたり有権者層に影響を与えたりすることを目的とした欺瞞的な「ディープフェイク動画」の流布を禁止する法律を制定しました。翌月の2019年10月にはカリフォルニア州でも同様の法律が成立しました。ただし、カリフォルニア州ではディープフェイク禁止期間が選挙開始から60日間となっています。

なお、日本におけるAI利活用の指針は2021年7月に経済産業省が組織したAI 原則の実践の在り方に関する検討会が発表した「我が国の AI ガバナンスの在り方 ver. 1.1」にまとめられています。しかし、この報告書にはディープフェイクやGANへの言及はありません。日本における顔生成AI技術の規制は、今後議論されると考えられます。

顔生成AI技術の規制が整備されるにつれて、こうした技術の悪用は抑止されるようになるでしょう。そして、『チェチェンへようこそ』の事例のように善用が普及することが望ましいのではないでしょうか。

Writer：吉本幸記、Image by Shutterstock