【CEDEC2021】ディー・エヌ・エーが推進する音声AI社会実装に関する最新事例

8月24日から26日にかけて、ゲームを中心とするコンピュータエンタメに関する技術的カンファレンス「CEDEC2021」がオンラインで開催されました。同カンファレンスにおいて、株式会社ディー・エヌ・エーの竹村伸太郎氏らは、同社の音声AIに関する取り組みを多角的に解説するセッション「エンタメから社会課題、チームで乗り越えた音声AIの研究開発と実用化」を行いました。以下では、同セッションを要約することで音声AI社会実装の最新事例を紹介します。

実装ハードルが低くなった音声合成

はじめに株式会社ディー・エヌ・エー・システム本部データ統括部AI研究開発第二グループ所属の豆谷浩輝氏は、音声合成に関する事例を発表しました。音声合成とは、テキストに人工的な音声を付与して発話させる技術です。この技術は古くから研究されており、かつての合成された音声は無機質かつ人工的なものでしたが、現在ではよりヒューマンライクな音声が合成できるようになりました。

音声合成の応用事例は多岐にわたり、実用的な分野ではロボットやスマートスピーカーの音声、そして音声広告などがあり、エンタメ分野ではVTuberやゲームの音声、さらにはオーディオブックの朗読などがあります。ディー・エヌ・エーは実用とエンタメの両分野で音声合成を実装しており、そうした事例としてセコム株式会社と共同開発した「バーチャル警備システム」やマルチメディア展開した美少女キャラコンテンツ「ハッカドール」があります。

日本語の音声合成においては、入力テキストから音素やアクセントといった言語特徴を抽出する「言語解析」、言語解析情報が入力となってスペクトログラムとして可視化できる音響特徴を生成する「音響モデル」、音響特徴を音声に変換する「ボコーダ」という3つのステップが実行されます。

音声合成においてもっとも重要となるステップが音響モデルによる処理です。この処理に関する研究はまさに日進月歩ですが、2017年に開発された「Tacotron2」は現在でも最高品質の音声を合成すると評価されています。もっとも、同モデルは過去の処理内容を継承する自己回帰型という構造を採用しているため合成が遅く、稀に壊滅的なエラーが起こるという欠点があります。また、声の高さを変えるといった操作性がないという難点もあります。

2020年に開発されたFastSpeech2も多用される音響モデルです。同モデルは合成速度が速く、声の高さなどを変えられる操作性があるのが長所です。その一方で、音質はTactron2に若干劣り、学習データにアライメントを付与する必要があるため音響に関する専門知識が求められるといった短所があります。

音声合成は、人間の肉声を学習データに使って合成音声を生成します。こうした肉声を学習する方法には、1人の話者から学習する「単一話者モデル」、複数の話者から学習する「複数話者モデル」、そして複数の話者から平均的な音声データを生成したうえでそのデータを（技術的には「Finetune」と呼ばれる）微調整して一人の話者から音声を合成したかのような結果を得る複合的な学習方法があります。もっとも高品質な結果が得られるのは複合的な学習方法ですが、手間がかかります。また、複数話者モデルと単一話者モデルを比べた場合、前者は後者より一人の話者から収録するデータが少なくて済むというメリットがあります。

前述のように人間の肉声を学習することによって音声合成が可能になるため、肉声を収録する工程が必要となります。そして、高品質な学習データを用意するためには台本が重要となります。台本の制作にあたっては、最終出力となる合成音声のキャラクター性と一致する話者（たいていは声優が担当する）を起用すべきです。また、（「プルィルークィ郡」のような）稀な音素も収録できるセリフを盛り込むのが望ましいです。さらにセリフにルビを振っておくと、音声収録の効率と精度が向上します。

音声収録体制は、少なくとも声優、ディレクター、録音技師が参加するのが一般的です。ディレクターは、「収録した音声を学習データに使えるか」を判断する役割を担います。効率的に音声を収録するには、複数音声を一度に収録してから、そのデータを文章ごとの音声に切り出すという進行が推奨されます。また、一定の調子で音声を収録するのが理想的です。

音声収録においては、データ修正も重要となります。収録中にアクセント辞典を参照しながら適宜修正することも可能ですが、この手法では収録時の負担が増大してしまいます。ディー・エヌ・エーでは、収録後にアクセントを修正する手法を採用しています。収録後修正の際には、収録音声をテキストとして可視化したうえでアクセントの位置を確認できるGUIを用意すると修正作業を効率的に進められます。

以上のように音声合成においては、開発済みの音響モデルを使えるうえに音声に関する専門知識も不要なので、現在ではかなり技術的な敷居が低くなっています。今日では技術的スキルよりも、学習データの整備のほうが重要です。とくに収録台本を新規作成するには、さまざまな工夫が必要になります。

学習データがあれば簡単に音声合成ができるので、社内で眠っている音声データが音声合成を経て新たなコンテンツとしてよみがえる可能性があります。それゆえ、音声合成の普及は潜在的な音声資産の有効活用につながるのです。

『七色ニーナ』に見る音声変換アプリ開発の現状

つづいて豆谷氏と同じくシステム本部データ統括部AI研究開発部第二グループ所属の滝口 啓介氏は、音声変換に関する事例を発表しました。音声変換とは、入力した音声をほかの音声に変換する技術です。この技術を使えば、例えば発話者の音声を架空のアニメキャラのそれに変換できます。

音声変換においては、入力音声から特徴量を抽出する「音声分析処理」、抽出された音声特徴量を異なる値に変換する「音声変換処理」、変換された音声特徴量から音声波形を生成する「音声復元処理」という3つの処理が実行されます。こうした処理を実行するにあたり、入力音声を周波数領域に変換するフーリエ変換が行われます。音声変換において処理される特徴量は、この周波数領域から抽出されます。

音声変換のかなめとなる音声変換処理には、音響情報ベースのアプローチと言語情報ベースのそれがあります。音響情報ベースの音声変換では、入力音声の（スペクトログラムで表示されるような）音響情報から特徴量を抽出します。この技法ではイントネーションの情報が残りやすいので、抑揚の制御が容易となります。その一方で、声質情報も残りやすいため、声質の変換が難しくなります。音声変換においては声質の変換が重要となるため、この技法を使ったサービス開発は難しいとされています。

言語情報ベースのアプローチとは、入力音声の（音素や発音記号といった）言語に関する情報から特徴量を抽出する技法です。この技法では声質情報が残らないため、声質変換が容易となります。その反面、イントネーションも残りにくいため、抑揚の制御が難しくなります。短所があるものも声質情報を変換しやすい長所から、近年の音声変換サービスには同技法が多用されています。

ディー・エヌ・エーはエンタメ領域における音声変換の応用を推進しており、例えば動画配信における配信者音声の変換、ゲーム実況における実況者音声の変換、好きな声優になりきれるサービスなどを応用事例として考えています。そうした事例のひとつとして、2021年5月にはウェブブラウザで簡単に音声変換を体験できるサービス「七色ニーナ」をリリースしました。

七色ニーナのリリースにあたって、ディー・エヌ・エーは音声変換に関する4つの品質課題を掲げました。そうした課題とは「どんな声であっても変換可能であること」、「高品質な変換音声」、「短時間の変換による遅延の短縮」、「イントネーションも変換に反映させる」というものでした。

汎用的な音声変換を実現するために開発チームは、音声認識モデルと音声生成モデルをアーキテクチャに採用しました。音声認識モデルを採用したことにより、入力音声の話者が誰であっても適切に変換できるようになりました。

高品質な音声変換の実現にあたっては、前述したディー・エヌ・エーが手がけた音声合成事例から得られたノウハウを活用しました。音声合成を経験したことにより、音声AIの学習に必要なデータ量などの知識がすでに蓄積されていました。さらに、音声合成のために作成した学習データが流用できました。

低遅延な音声変換の実現のために、推論時間が比較的短いことで知られる非自己回帰モデルを採用しました。同モデルは、処理データの前後関係を考慮する自己回帰モデルよりシンプルな構造をしているため、処理が速いうえにモデルサイズも小さいという長所があります。

イントネーションの反映には、音声変換時にピッチ情報を付与する改良を行うことで実現しました。以上のような品質課題の達成方法をまとめると、以下のスライドのようになります。

滝口氏は、音声変換をより魅力的なものとするために追加すべき「プラスα」の要素にも言及しました。そうした要素にはさまざまな話者の音声に変換できること、音声に含まれる抑揚や感情も再現できる変換の実現、リアルタイムの音声変換によって可能となる（ボイスチャットや配信などの）双方向コンテンツの実現を挙げました。こうしたプラスαを実現できれば、音声変換の応用範囲がさらに広がることでしょう。

音声AI開発プロジェクトのノウハウ

さいごにシステム本部データ統括部AI基盤部所属の竹村 伸太郎氏は、音声合成と音声変換をふくめた音声AIサービス開発プロジェクトのノウハウについて発表しました。

音声AIサービスは、音声処理を担うAIモデルのほかにもユーザデータを処理するためのサーバやユーザが使うスマホなどのエッジ端末といった複数のモジュールとデバイスから構成されています。サービスの構築にあたっては、その特徴をふまえたうえでさまざまな性能指標に関して優先順位を決定することが必要となります。こうした性能指標の優先順位決定に関して、竹村氏は3つの事例を引用しながら具体的に解説しました。

1つめの事例は前述の「七色ニーナ」です。ウェブブラウザから利用する同サービスは、ウェブニュース等で話題になることでよって、急激なアクセス数の増加が想定されます。それゆえ、最大同時接続数と定義できるスケーラビリティは可能な限り大きいことが望ましいです。また、変換した音声をユーザに返すまでに要する時間を意味するレイテンシは、リアルタイムである必要はないものも、ユーザが待てる3秒以内が望ましいです。単位時間あたりの処理音声量であるスループットは、入力される音声が最大10秒と少ないため、大きな値である必要はありません。以上を考慮すると、性能指標の優先順位は「スケーラビリティ ＞ レイテンシ ＞ スループット」となります。

2つめは、ゲーム実況者が使うようなライブ配信アプリに実装される音声AIの事例です。最近のライブ配信アプリは、音声処理をサーバ側ではなくエッジ端末側で実行するものもあります。こうしたオンデバイスAIアプリではサーバの増強が不要となるため、スケーラビリティを考慮する必要がなくなります。対して、レイテンシは非常に重要になります。というのも、処理された音声がユーザに届くまでの時間が遅いと、ライブ配信が成立しなくなるからです。スループットに関しては、一定値で安定しないとレイテンシが大きくなってしまうので軽視できません。それゆえ、性能指標の優先順位は「レイテンシ ＞ スループット ＞ スケーラビリティ」となります。

3つめの事例は、家庭で使われるような対話ロボットに実装する音声合成AIです。こうしたAIは、音声処理結果を利用するユーザはたいてい一人であるという製品の特徴により、多くのユーザに普及することが求められます。それゆえ、もっとも重要な性能指標は製品の価格に直結するコストとなります。レイテンシに関しては、対話が成立するのであれば多少の遅延は許容されます。スループットは音声AIの性能やロボットの演算能力に左右されますが、コストを犠牲にしてまで追求すべきではありません。以上より性能指標の優先順位は「コスト ＞ レイテンシ ＞ スループット 」となります。

竹村氏は、チーム体制によるAI開発で役立つツールも紹介しました。そうしたツールには、AIの学習過程や実験結果を記録して共有できる「Comet.ml」、Markdownや数式も扱える情報共有ツール「Notion」、さまざまなスマホ端末を使ったテストをクラウド環境で実行できる「Firebase Test Lab」があります。

さらに竹村氏は、AIモデル実装に関してヒントとなるような技術的ノウハウも発表しました。そうしたノウハウは「おすすめのプロファイラーはpyinstrument」「ベクトル計算は深層学習フレームワークになるべく寄せる」といったものでした。

以上の要約が示しているようにディー・エヌ・エーは音声AIに関する開発実績とノウハウが豊富な企業のひとつと言えます。今後も同社から革新的な音声AIサービスがリリースされ、そうしたサービスから得られたノウハウの一部が将来のCEDECカンファレンスで共有されるかも知れません。

Writer：吉本幸記