【GDC 2021】ニューラルネットワークによるフルボディアニメーションの生成

2021.8.25ゲーム

8月19日から23日まで開催されたGDC 2021では「表現力豊かなNPCのためのフルボディアニメーション生成」と題されたビデオセッションが行われました。このセッションでは、中国大手ゲームメーカーNetEaseが開発したNPCのアニメーションを生成するニューラルネットワークモデルが解説されました。以下では、アニメーション生成モデルが開発された背景とそのアーキテクチャをまとめていきます。

既存アニメーション演出の限界

『荒野行動』『Identity V 第五人格』等を開発・運営するNetEaseは、NPCに実装するアニメーションを大量に制作しています。従来のアニメーション制作業務には、2つの問題点がありました。1つめの問題は、時間的な制作コストです。10秒のアニメーションを作るのに2日、長い時には1週間を要します。制作コストが高いために、制作したアニメーションをつなぎ合わせて実装することも少なくありませんでした。しかし、こうした方法ではアニメーションが単調になってしまいます。

2つめの問題は、アニメーションをつなぎ合わせる際に使う補間関数に関することです。あらゆるアニメーション連結を高品質に実行する補間関数は、現状では存在しません。つなぎ合わせたアニメーションは、微妙に品質が劣化してしまうのです。

以上のような問題点を克服するために、NetEaseはNPCの動作に合わせてアニメーションを生成する技術を開発することにしました。この技術の要求仕様として、短時間で変化に富むアニメーションを生成できることを掲げました。

アニメーション生成モデルの基本構造

アニメーション生成技術の開発には、ニューラルネットワークが使われました。このニューラルネットワークには、入力がNPCの音声、出力がアニメーションとなる「speech-to-animation」というアーキテクチャが採用されました。出力はNPCの顔と胴体に実装するフルボディアニメーションとなるのですが、生成処理としては顔下部、顔上部、そして胴体の3か所を別個に生成したうえで、最終的にひとつのアニメーションに統合するようにしました。

speech-to-animationモデルの訓練に必要となる学習データは、光学式モーションキャプチャーと表情をキャプチャーするシステム「Dynamixyz」を使って人間の俳優の動作を収集して作成しました。動作の採集に際しては、顔下部は28か所、顔上部は23か所、胴体は76か所から動きをキャプチャーしました。

特徴量を絞り込んだ顔のモデル開発

以上のようにして採集した学習データは、出力となるアニメーションに関わるものです。入力となる音声に関する学習データの採集にあたっては、人間の音声を音源としました。こうした音源には、話者固有の声の震えがふくまれています。発話に対応したアニメーションを生成するには、声の個性を司る声の震えは不可欠な情報ではありません。それゆえ、声の震えは入力音声に関する学習データの特徴量として採用しませんでした。特徴量として採用されたのは、音声データにふくまれる音素でした。音素とは、統語論的に単語より小さい発音を聞き分ける最小単位を意味します。

一般に音声データの処理には、時系列データに活用されるニューラルネットワークであるLSTMが使われます。しかし、LSTMは処理に時間がかかるという欠点があります。それゆえ、顔下部のアニメーション生成モデルには画像認識に活用されるCNNを採用しました。CNNは並列処理に優れているので、多数のフレームを同時に処理できます。CNNを採用したことにより、15秒のアニメーションを生成するのに要する時間がLSTMでは500～800ミリ秒に対して、20～60ミリ秒に短縮できました。

顔上部のアニメーション生成モデル開発に際しては、入力音声データの特徴量として顔下部と同様に声の震えは削除したうえで、音素より統語論的に大きい単位である単語が採用されました。アーキテクチャにはCNNに加えて、エンコーダとデコーダが活用されました。

U-Netを活用した胴体のモデル開発

胴体のアニメーション生成モデルについては、その出力がさらに頭部、腕、胸腹部（トルソー）、脚部に細分化されます。細分化された出力に適したアーキテクチャとして、画像認識で活用されるU-Netが採用されました（下の画像参照）。U-Netとは、画像内のオブジェクト認識に加えて、オブジェクトの位置も識別できるモデルです。このモデルを使えば、例えば画像に写ったイヌがいるピクセルの範囲を特定できます。画像内の位置情報も処理できるU-Netを使えば、胴体の部位ごとにアニメーションを生成できます。U-Netには、計算量が比較的少なくて済むという利点もあります。

以上のようにして開発された胴体のアニメーション生成モデルは、キャラクターの大きさやデザインが異なっていても、適切なアニメーションを生成できるものとなりました。例えば、8等身のキャラクターとデフォルメされたキャラクターの両方に内省的な雰囲気のアニメーションを実装できます（下の画像の左側と右側参照）。

制限事項と今後の課題

NetEaseが開発したNPCに実装するアニメーションを生成するモデルは、最終的には10秒のアニメーションを60ミリ秒以下で生成できるようになりました。アニメーターが手作業で制作した場合は2日から1週間、人間からキャプチャーしたアニメーションを実装する場合には半日を要することと比較したら、ほぼリアルタイムの自動生成が実現したと言えます。