アートか犯罪かを問われる音声のディープフェイク：月刊エンタメAIニュース vol.5

2020.5.26先端技術

エンタメにおいてもAIは日進月歩で進歩しており、新しい研究成果や試みが次々と発表されています。こちらの連載では、過去1か月間、主に海外で公開された注目すべきゲームAIやエンタメAIに関連したニュース、論文などを紹介していきます。

Uber開発のゲームプレイAI、Atariのレトロゲームでハイスコア更新

US版Engadgetは4月29日、Uberによって開発されたAtari2600をプレイするAIがハイスコアを更新したことを報じました。Atari2600とはアメリカで発売されたレトロゲーム機であり、このゲーム機でプレイできるゲームは今日のゲームプレイAIを評価するベンチマークとして活用されています。

Uberが開発したゲームプレイAI「Go-Explore」は、難易度の高いゲームとして知られている『モンテズマの復讐』をAIとして初めて全ステージクリアし、『Pitfall』ではほぼ完璧にプレイしてハイスコアを更新しました。同様の試みは、既報のようにDeepMindがゲームプレイAI「Agent57」を開発して大きな成果をあげました。そうした成果が短期間に更新されたことからわかるように、ゲームプレイAIの進化はまさに日進月歩なのです。

Go-Exploreがハイスコアを更新できた理由は、ゲームプレイAIの記憶機構を改良したからでした。一般にAIはゲームステージとの相互作用を通じて、ゲームをクリアする最善の選択肢を探索します。この探索において重要となるのが、過去のプレイを記憶することです。Uberの研究チームは、AIが何かを選択する前に戻ることと初期状態に戻ることを苦手としているという仮説を立てたうえで、こうした問題を改善するアルゴリズムを開発したのでした（アルゴリズムの詳細は、こちらの論文を参照）。

Uberの研究チームは、今回開発したAIを将来的には自律自動車のナビゲーションシステムの改善に応用していたいと語っています。

音声のディープフェイクはアートなのか、それとも犯罪なのか？

音楽メディアPitchforkは5月11日、アメリカで起こったディープフェイク音声にめぐる騒動をまとめた記事を公開しました。さまざまなディープフェイク音声を収録した動画を公開しているYouTubeチャンネル「Vocal Synthesis」（「音声合成」という意味）は、4月24日、有名ラッパーのJay-Zがシェイクスピアの戯曲『ハムレット』を朗読するディープフェイク音声動画を公開しました。この動画に対して、Jay-Zの著作権を管理するRoc Nationは削除を要求しました。その後、一度は削除されたものも5月時点では視聴できる状態になっています。

音楽の権利問題に詳しい弁護士のBill Hochberg氏によると、現在のアメリカにおいてディープフェイク音声を法的に裁く明確な根拠はない、と述べています。歌詞やメロディのようには文書化することが難しいボーカルスタイルは、著作権で保護されていないのです。さらにディープフェイク音声の法的扱いが難しいのは、こうしたコンテンツがしばしば「本物を捏造」しているというよりは「新しい音声体験」を提供していると解釈できるからです。

Jay-Zのディープフェイク音声動画が公開された直後の4月30日、AIを研究するNPO団体OpenAIは、物故した歌手をはじめとしたさまざまな歌手が多様なジャンルの楽曲を歌う音声コンテンツを生成するAI「Jukebox」を公開しました。このAIを使えば、簡単に「AI美空ひばり」に類するコンテンツを作ることができ、将来的には物故した歌手と存命中の歌手のデュエットも可能となるでしょう。こうしたディープフェイク音声は、確かにクリエイティブな側面があります。しかし、同時に著作権の帰属をめぐる法的な整備が不可欠かつ急務とも言えるのです。

DARPA、画像認識AIをだます技術を募集

アメリカ政府の技術政策を報道するメディアNextgovは4月21日、DARPA（国防高等研究計画局）が画像認識AIをだます技術を5月14日まで公募していたことを報じました。文字や画像内の物体を識別する画像認識AIを開発するためには、識別対象となるものに関する大量の学習データが必要になります。この学習データに、人間が見ても気づかないほどの変更を加えると、画像認識AIは開発者が意図しない識別能力を習得してしまうことが知られています。

DARPAが今回募集したのは、以上のような一般的な画像認識AIを攻撃する技術をさらに拡張したものです。具体的には、さまざまな画像サイズと解像度の画像を識別する際に攻撃できる技術を求めていたのです。その攻撃範囲は近年研究が進んでいる動画から特定の物体を検出するAIにも及んでいます。

DARPAが画像認識AIを攻撃する技術を募集しているのは、逆説的にも、より堅牢なAIを開発する知見を得るためです。しかし、こうした攻撃技術は、AIの破壊を目的にして使うこともできるので注意が必要でしょう。

人はAIによる作詞と人間による作詞を区別できるか？

エンタメ系メディアMEA WorldWideは5月4日、AIによる作詞にまつわる実験結果をまとめた記事を公開しました。チケット販売を手がけるTickPickは、人間がAIによる作詞と人手によるそれを区別することができるかどうかについてのテストを実施しました。

作詞者識別テストには、自然な文章生成で定評のある言語AIのGPT-2が使われました。このAIに対してロック、ヒップホップ、カントリー、ポップスに関する歌詞を学習データとして与えて、それぞれの音楽ジャンルの歌詞を生成できるようにしました。各ジャンルごとに100曲分の歌詞を生成した後に選りすぐりのものを絞り込んで、テストに参加した1,003人の音楽ファンに選定したAIによる歌詞を読んでもらいました。そして、読んだ歌詞は誰が作詞したのかについて、AIと実在のアーティストが含まれている選択肢から選んでもらったのです。

テスト結果は、驚くべきものでした。ロック、カントリー、ポップスに関しては、作詞者がAIであると見抜けたテスト参加者は全体の約10～20%だったのです。ヒップホップはほかのジャンルより識別率が高く、約36%のテスト参加者がAIによる作詞と回答しました。テストではAIによる作詞に関して、創造性を感じるか、エモーショナルか、といった質問もしました。すると、65%が創造性を感じたと回答した歌詞がありました。

TickPickが実施した作詞者識別テストは科学的厳密性に配慮していないので、このテスト結果から人間はAIが作詞したことを見抜けないと結論づけるのは性急です。しかしながら、人はAIによる作詞を案外受け入れるのではないかということを示唆しています。なお、以上のテストで使われたAIによる歌詞は、こちらのTickPickの特集ページから閲覧することができます。

Writer：吉本幸記