モリカトロン株式会社運営「エンターテインメント×AI」の最新情報をお届けするサイトです。

TAG LIST
CG機械学習ディープラーニングCGへの扉安藤幸央GAN月刊エンタメAIニュースニューラルネットワーク河合律子NVIDIA強化学習三宅陽一郎OpenAI音楽FacebookQAスクウェア・エニックスモリカトロンAIラボインタビュー敵対的生成ネットワーク森川幸人ルールベースDeepMindキャラクターAIシナリオNFTGPT-3デバッグCEDEC2019StyleGANプロシージャル自動生成人工知能学会映画遺伝的アルゴリズムメタAI自然言語処理深層学習マイクロソフトビヘイビア・ツリー吉本幸記GoogleCEDEC2021CEDEC2020ゲームAISIGGRAPH不完全情報ゲームVRナビゲーションAI畳み込みニューラルネットワークAIと倫理アートグーグルディープフェイクGDC 2021大内孝子VFXメタバースGDC 2019マルチエージェントゲームプレイAIボードゲームNPCDALL-ECLIPロボットCNNデジタルツインモリカトロンUnityファッションHTN階層型タスクネットワークJSAI2020TensorFlowMicrosoftイベントレポートテストプレイAIアート水野勇太小説アニメーションガイスターStyleGAN2懐ゲーから辿るゲームAI技術史toioJSAI2021スポーツ研究シムピープル汎用人工知能GDC Summerバーチャルヒューマンブロックチェーン倫理AdobeアストロノーカNVIDIA Omniverseeスポーツ対話型エージェントAmazoneSportsBLUE PROTOCOLシーマンUbisoftAlphaZeroTransformerGPT-2カメラ環世界中島秀之鴫原盛之ソニーDARPAドローンシムシティAI美空ひばり手塚治虫Electronic ArtsメタデータLEFT 4 DEAD通しプレイOpenAI Five本間翔太CMピクサーBERTプラチナエッグイーサリアム作曲ビッグデータ中嶋謙互Amadeus CodeMicrosoft AzureキャリアナラティブOmniverse ReplicatorレコメンドシステムNVIDIA DRIVE SimNVIDIA Isaac Simサイバーエージェント音声認識ロボティクスPyTorchDQN眞鍋和子バンダイナムコスタジオMinecraft齊藤陽介マインクラフトお知らせチャットボットアバターサルでもわかる人工知能VAEOmniverseUbisoft La Forge自動運転車ワークショップGenvid Technologiesメタ知識表現ウォッチドッグス レギオンIGDAどうぶつしょうぎEpic Gamesジェイ・コウガミ音楽ストリーミングマシンラーニング画像生成テキスト画像生成クラウド対話エンジン斎藤由多加リトル・コンピュータ・ピープルコンピューティショナル・フォトグラフィーゴブレット・ゴブラーズ絵画AIりんなシミュレーション完全情報ゲーム坂本洋典釜屋憲彦ウェイポイントパス検索藤澤仁生物学GTC 2022画像認識GTC2022StyleCLIPDeNA長谷洋平masumi toyota宮路洋一OpenSeaGDC 2022教育TextWorldSIGGRAPH ASIADALL-E2GTC2021CycleGANNetHackフェイクニュースエージェントAIボイスアクターNVIDIA CanvasGPUALifeZork人工生命オルタナティヴ・マシンサウンドスケープMCS-AI動的連携モデルASBSマンガモーションキャプチャーぱいどんTEZUKA2020ナビゲーションメッシュ松井俊浩バンダイナムコ研究所スパーシャルAIELYZAELYZA DIGEST3D音声合成マーケティングApex LegendsELIZANinjaコンピュータRPGアップルタウン物語KELDICメロディ言語ゲームTENTUPLAYMARVEL Future FightAstroタイムラプスEgo4Dインタビューバスキア日経イノベーション・ラボ敵対的強化学習階層型強化学習GOSU Data LabWANNGOSU Voice Assistant竹内将SenpAI.GGMobalytics馬淵浩希Cygames岡島学AWS Sagemaker映像セリア・ホデント形態素解析UXAWS Lambda誤字検出認知科学ゲームデザインSentencePieceLUMINOUS ENGINELuminous Productionsパターン・ランゲージ竹村也哉ちょまどボエダ・ゴティエGOAPAdobe MAX 2021模倣学習Omniverse AvatarFPSNVIDIA Rivaマルコフ決定過程NVIDIA MegatronNVIDIA Merlinスタンフォード大学NVIDIA Metropolisパラメータ設計テニスバランス調整協調フィルタリング人狼知能テキサス大学軍事AlphaDogfight TrialsAI Messenger VoicebotエージェントシミュレーションOpenAI CodexStarCraft IIHyperStyleFuture of Life InstituteRendering with StyleIntelDisneyLAIKADisneyリサーチRotomationGauGANGauGAN2ドラゴンクエストライバルズ画像言語表現モデル不確定ゲームSIGGRAPH ASIA 2021Dota 2モンテカルロ木探索ディズニーリサーチMitsuba2ソーシャルゲームEmbeddingワイツマン科学研究所GTC2020CG衣装NVIDIA MAXINEVRファッション淡路滋ビデオ会議ArtflowグリムノーツEponymゴティエ・ボエダ音声クローニングGautier Boeda階層的クラスタリングGopheraibo合成音声JuliusSIE鑑定TPRGOxia Palusバーチャル・ヒューマン・エージェントtoio SDK for UnityArt Recognitionクーガー田中章愛Meta石井敦銭起揚NHC 2021茂谷保伯池田利夫GDMC新刊案内マーベル・シネマティック・ユニバース成沢理恵MITメディアラボMCU著作権アベンジャーズマジック・リープDigital DomainMagic Leap OneMagendaMasquerade2.0ノンファンジブルトークンDDSPフェイシャルキャプチャーサッカーモリカトロン開発者インタビュー里井大輝Kaggle宮本茂則バスケットボール山田暉Assassin’s Creed OriginsAI会話ジェネレーターSea of ThievesGEMS COMPANYmonoAI technologyLSTMモリカトロンAIソリューション初音ミクOculusコード生成AI転移学習テストAlphaCodeBaldur's Gate 3CodeforcesCandy Crush Saga自己増強型AISIGGRAPH ASIA 2020COLMAPADOPデバッギングBigGANGANverse3DMaterialGANリップシンキングRNNグランツーリスモSPORTReBeLグランツーリスモ・ソフィーGTソフィーVolvoFIAグランツーリスモチャンピオンシップRival PrakDGX A100VTuberユービーアイソフトWebcam VTuber星新一賞北尾まどかHALO市場分析将棋メタルギアソリッドVフォートナイトFSMRobloxナップサック問題Live Nation汎用言語モデルWeb3.0AIOpsSpotifyMITスマートコントラクトReplica StudioAWSamuseChitrakarQosmo巡回セールスマン問題徳井直生ジョルダン曲線メディア5GMuZero政治クラウドゲーミングRival Peakがんばれ森川君2号和田洋一リアリティ番組Stadiaジョンソン裕子MILEsNightCafeインタラクティブ・ストリーミングLuis Ruizインタラクティブ・メディアポケモンCodexシーマン人工知能研究所東京工業大学Ludo博報堂ラップSIGGRAPH 2019ArtEmisZ世代AIラッパーシステムARrinnaGROVERプラスリンクス ~キミと繋がる想い~FAIRSTCチート検出Style Transfer ConversationオンラインカジノRCPアップルRealFlowRinna Character PlatformiPhoneデジタルヒューマンDeep FluidsSoul MachinesMeInGameAmeliaAIGraphブレイン・コンピュータ・インタフェースバーチャルキャラクターBCIGateboxLearning from VideoANIMAK予期知能逢妻ヒカリセコムユクスキュルバーチャル警備システムカント損保ジャパン哲学対談上原利之ドラゴンクエストエージェントアーキテクチャアッパーグラウンドPAIROCTOPATH TRAVELER西木康智OCTOPATH TRAVELER 大陸の覇者Siemensアルスエレクトロニカ2019品質保証StyleRigAutodesk逆転オセロニアBentley Systemsワールドシミュレーター奥村エルネスト純いただきストリートH100齋藤精一大森田不可止COBOL高橋智隆DGX H100ロボユニザナックDGX SuperPOD泉幸典仁井谷正充クラウドコンピューティングロボコレ2019Instant NeRFartonomousbitGANsぎゅわんぶらあ自己中心派Azure Machine Learning意思決定モデル脱出ゲームHybrid Reward Architectureコミュニティ管理ウロチョロスSuper PhoenixSNS理化学研究所Project Malmoオンラインゲーム気候変動Project PaidiaEarth-2Project Lookoutマックス・プランク気象研究所Watch Forビョルン・スティーブンスBing気象モデルLEFT ALIVE気象シミュレーション長谷川誠ジミ・ヘンドリックス環境問題Baby Xカート・コバーンエコロジーロバート・ダウニー・Jr.エイミー・ワインハウスSDGsMagentaYouTubeダフト・パンクメモリスタSFGlenn MarshallELYZA PencilThe Age of A.I.Story2Hallucination音声変換レコメンデーションJukebox松尾豊Veap JapanEAPテンセントSIFT福井千春DCGAN医療MOBADANNCEメンタルケア人事ハーバード大学Edgar Handy研修デューク大学Netflixデータマイニングmynet.aiローグライクゲーム東京大学東京理科大学人工音声NeurIPS 2021産業技術総合研究所はこだて未来大学リザバーコンピューティングプレイ動画ヒップホップキャラクターモーションソニーマーケティングサイレント映画もじぱNBA環境音暗号通貨現代アートFUZZLEAlteration粒子群最適化法RPG進化差分法オープンワールド群知能下川大樹AIFAウィル・ライト高津芳希P2E大石真史SIGGRAPH 2022BEiTStyleGAN-NADAレベルデザインDETRゲームエンジンSporeUnreal Engineデノイズ南カリフォルニア大学Unity for Industry画像処理SentropyCPUDiscordCALMプログラミングソースコード生成GMAIシチズンデベロッパーTRPGGitHubウィザードリィMCN-AI連携モデルAI Dungeon西川善司並木幸介サムライスピリッツ森寅嘉ゼビウスSIGGRAPH 2021ストリートファイター半導体Topaz Video Enhance AI栗原聡DLSS山野辺一記NetEase大里飛鳥DynamixyzU-Net13フェイズ構造アドベンチャーゲームADVXLandAGI手塚眞DEATH STRANDING不気味の谷Eric JohnsonOculus Questコジマプロダクション生体情報デシマエンジンインディーゲーム写真高橋ミレイ照明Maxim PeterJoshua Romoffハイパースケープ山崎陽斗深層強化学習立木創太ミライ小町テスラGameGANパックマンTesla BotTesla AI Dayソサエティ5.0SIGGRAPH 2020バズグラフニュースタンテキ東芝DIB-R倉田宜典韻律射影広告韻律転移

プロパガンダにLGBTQ救済も。政治的文脈でも利用される顔生成AI技術の現状

2022.3.18先端技術

プロパガンダにLGBTQ救済も。政治的文脈でも利用される顔生成AI技術の現状

動画に写った顔を他人のそれと入れ替えるディープフェイクや実在しない人物の顔を生成するGANは、その発明当初には主にエンタメの文脈で使われていました。これらの顔生成AI技術の認知度が上がった現在、その利活用の文脈が広がっています。本稿では、政治的な文脈で活用された顔生成AI技術の事例を紹介したうえで、この技術に関する法整備の現状をまとめます。

そのブロガーは存在しなかった

アメリカ大手メディアNBCは2月28日、FacebookとTwitterの各運営が反ウクライナ的な情報を発信するアカウントを削除したと報じました。この報道で注目すべきは、削除されたアカウントは完全に捏造されたものだったのですが、アカウントの真実味を増すためにフォトリアルな顔写真まで生成されていたことです。

以上の報道を執筆したNBC所属のBen Collins記者のツイートによると、削除されたアカウントはキエフ出身のブロガーであるVladimir Bondarenko(ウラジミール・ボンダレンコ)だったのですが、彼の顔写真をよく観察すると違和感を見つけられます。具体的には、左耳が右耳に比べて不自然に欠けています。こうした不自然さは、GANを使って実在しない人物の顔画像を生成することで有名になったウェブサイトThisPersonDoesNotExist.comで生成された顔画像に典型的に見られるのです(以下のツイート参照)。

Collins記者のツイートは、ボンダレンコはウクライナで航空エンジニアとして働いたが、同国の航空インフラが崩壊したことでブログを書き始めたというストーリーまで捏造されていたことも報告しています。こうしたストーリーと反ウクライナ的な情報を拡散していたことから、同アカウントによる活動からはウクライナ人の団結を阻止しようとする意図が推測されます。

今回の偽アカウントによる情報工作は、2016年のアメリカ大統領選挙にロシアが干渉したとして政治的スキャンダルとなったいわゆる「ロシアゲート」において実行された手口より進化している、と前出のNBCの記事は述べています。また、今後も同様の情報工作が続くだろう、という情報操作の専門家の発言も引用しています。

ディープフェイクによって増す真実味

GANとほぼ同時期に有名になったディープフェイクに関しても、政治的文脈で利用された事例があります。社会福祉の増進を目指すNPOグリーンズが運営するメディア『greenz.jp』は2月24日、映画『チェチェンへようこそ-ゲイの粛清-』(以下、『チェチェンへようこそ』と略記)の特集記事を公開しました。その記事は、同映画の革新性としてディープフェイクの活用を報告しています。

『チェチェンへようこそ』とは、チェチェン共和国で行われているLGBTQへの弾圧をその被害者自らが証言するドキュメンタリー映画です。こうした映画を制作する場合、さらなる弾圧を避けるために、被害者の身元がわからないようにして証言してもらわなければなりません。従来の身元を隠した証言では、モザイクをかけたり顔を撮影しないようにしていました。対して同映画では、被害者の顔をディープフェイクで入れ替えたうえで、彼らの苦しんでいる姿をすべて撮影したのです。入れ替える顔を提供したのは、主にニューヨークで活動する人権擁護家たちでした。

ありのままの現実を撮影するのがドキュメンタリー映画であるという通念に立てば、『チェチェンへようこそ』には明らかに視覚的なフェイクがあるので、ドキュメンタリー映画から逸脱しています。しかし、このフェイクは真実を覆い隠すものではなく、むしろより真実に近づくために使われたと言えます。ディープフェイクを使うことによって弾圧の被害者の表情は鮮明に写し出され、鑑賞者の心を揺さぶるのです。同映画の制作者は、真実を写し出すためにディープフェイクを使っているので「フェイスダブル」や「ヴォイスダブル」という言葉で自分たちの技術的演出を説明してます。

以上のような『チェチェンへようこそ』におけるディープフェイク使用例は、顔生成AI技術の善用と言えるでしょう。

進む法整備

顔生成AI技術に関しては、その発明当初から悪用される懸念が抱かれていました。こうした懸念をふまえて、アメリカでは同技術の使用に対する法整備が着々と進んでいます。コンサルティング会社JD Supraは2月2日、ディープフェイクに関するアメリカ各州の法整備をまとめたブログ記事を公開しました。

JD Supraの記事によると、ニューヨーク州は2020年11月に視聴覚コンテンツにおける「死亡したパフォーマーのデジタルレプリカ」の使用に関して、その使用が「許可されたと公衆を欺く可能性が高い」場合、パフォーマーの死後40年間、明示的に禁止する法律を制定しました。

政治活動におけるディープフェイク規制も進んでいます。例えば、テキサス州は2019年9月に、選挙が始まってから30日間、候補者に損害を与えたり有権者層に影響を与えたりすることを目的とした欺瞞的な「ディープフェイク動画」の流布を禁止する法律を制定しました。翌月の2019年10月にはカリフォルニア州でも同様の法律が成立しました。ただし、カリフォルニア州ではディープフェイク禁止期間が選挙開始から60日間となっています。

なお、日本におけるAI利活用の指針は2021年7月に経済産業省が組織したAI 原則の実践の在り方に関する検討会が発表した「我が国の AI ガバナンスの在り方 ver. 1.1」にまとめられています。しかし、この報告書にはディープフェイクやGANへの言及はありません。日本における顔生成AI技術の規制は、今後議論されると考えられます。

顔生成AI技術の規制が整備されるにつれて、こうした技術の悪用は抑止されるようになるでしょう。そして、『チェチェンへようこそ』の事例のように善用が普及することが望ましいのではないでしょうか。

Writer:吉本幸記、Image by Shutterstock

RELATED ARTICLE関連記事

ロバート・ダウニーJr.によるドキュメンタリー『The Age of A.I.』が伝えるAIの本質

2019.12.27先端技術

ロバート・ダウニーJr.によるドキュメンタリー『The Age of A.I.』...

人面魚からAIに進化したシーマン、ロボット搭載の対話エンジンに。その仕組みとは?

2019.8.09先端技術

人面魚からAIに進化したシーマン、ロボット搭載の対話エンジンに。その仕組みとは?

「機械学習は人生訓」経歴紆余曲折の3人が語るAIとキャリア

2020.9.25先端技術

「機械学習は人生訓」経歴紆余曲折の3人が語るAIとキャリア

RANKING注目の記事はこちら