モリカトロン株式会社運営「エンターテインメント×AI」の最新情報をお届けするサイトです。

TAG LIST
CG機械学習ディープラーニングCGへの扉安藤幸央GAN月刊エンタメAIニュース河合律子ニューラルネットワークOpenAINVIDIA強化学習三宅陽一郎音楽FacebookQAスクウェア・エニックス森川幸人モリカトロンAIラボインタビュー敵対的生成ネットワークDeepMindルールベースキャラクターAIシナリオGPT-3自然言語処理NFTGoogleグーグル自動生成映画デバッグCEDEC2019吉本幸記StyleGANプロシージャル人工知能学会遺伝的アルゴリズムメタAI深層学習マイクロソフトアートビヘイビア・ツリーCEDEC2021大内孝子CEDEC2020ゲームAISIGGRAPH不完全情報ゲームゲームプレイAIVRナビゲーションAI畳み込みニューラルネットワークDALL-ECLIPロボットAIと倫理ディープフェイクGDC 2021VFXメタバースGDC 2019マルチエージェントボードゲームNPCCNNデジタルツインモリカトロンUnityAIアートファッションHTN階層型タスクネットワークDALL-E2JSAI2020TensorFlowMicrosoftイベントレポートテストプレイ水野勇太小説アニメーションガイスターStyleGAN2懐ゲーから辿るゲームAI技術史toioソニーJSAI2021スポーツ研究シムピープル汎用人工知能GDC Summerバーチャルヒューマンブロックチェーン倫理BERTAdobeアストロノーカNVIDIA Omniverseeスポーツ対話型エージェントAmazoneSportsBLUE PROTOCOLシーマンUbisoft画像生成テキスト画像生成AlphaZeroTransformerGPT-2カメラ環世界中島秀之鴫原盛之DARPAドローンシムシティAI美空ひばり手塚治虫Electronic ArtsメタデータLEFT 4 DEADインタビュー通しプレイOpenAI Five本間翔太CMピクサープラチナエッグイーサリアム作曲ビッグデータ中嶋謙互Amadeus CodeMicrosoft AzureキャリアナラティブOmniverse ReplicatorレコメンドシステムNVIDIA DRIVE SimNVIDIA Isaac Simサイバーエージェント音声認識ロボティクスPyTorchDQN眞鍋和子バンダイナムコスタジオaibo合成音声Minecraft齊藤陽介マインクラフトお知らせチャットボットアバターサルでもわかる人工知能VAEOmniverseUbisoft La Forge自動運転車ワークショップGenvid Technologiesメタ知識表現ウォッチドッグス レギオンIGDAどうぶつしょうぎEpic Gamesジェイ・コウガミ音楽ストリーミング徳井直生マシンラーニングクラウド対話エンジン斎藤由多加リトル・コンピュータ・ピープルコンピューティショナル・フォトグラフィーゴブレット・ゴブラーズ絵画AIりんなシミュレーション完全情報ゲーム坂本洋典釜屋憲彦ウェイポイントパス検索対談藤澤仁生物学GTC 2022画像認識GTC2022StyleCLIPDeNA長谷洋平masumi toyota宮路洋一OpenSeaGDC 2022教育TextWorldSIGGRAPH ASIAGTC2021CycleGANNetHackフェイクニュースエージェントAIボイスアクターNVIDIA CanvasImagenGPUALifeZork人工生命オルタナティヴ・マシンサウンドスケープMCS-AI動的連携モデルASBSマンガモーションキャプチャーぱいどんTEZUKA2020ナビゲーションメッシュ松井俊浩バンダイナムコ研究所スパーシャルAIELYZAELYZA DIGEST3D音声合成マーケティングApex LegendsELIZANinjaコンピュータRPGアップルタウン物語KELDICメロディ言語ゲームTENTUPLAYMARVEL Future FightAstroタイムラプスEgo4Dバスキア日経イノベーション・ラボ敵対的強化学習階層型強化学習GOSU Data LabWANNGOSU Voice Assistant竹内将SenpAI.GGMobalytics馬淵浩希Cygames岡島学AWS Sagemaker映像セリア・ホデント形態素解析UXAWS Lambda誤字検出認知科学ゲームデザインSentencePieceLUMINOUS ENGINELuminous Productionsパターン・ランゲージ竹村也哉ちょまどボエダ・ゴティエGOAPAdobe MAX 2021模倣学習Omniverse AvatarFPSNVIDIA Rivaマルコフ決定過程NVIDIA MegatronNVIDIA Merlinスタンフォード大学NVIDIA Metropolisパラメータ設計テニスバランス調整協調フィルタリング人狼知能テキサス大学軍事AlphaDogfight TrialsAI Messenger VoicebotエージェントシミュレーションOpenAI CodexStarCraft IIHyperStyleFuture of Life InstituteRendering with StyleIntelDisneyLAIKADisneyリサーチRotomationGauGANGauGAN2ドラゴンクエストライバルズ画像言語表現モデル不確定ゲームSIGGRAPH ASIA 2021Dota 2モンテカルロ木探索ディズニーリサーチMitsuba2ソーシャルゲームEmbeddingワイツマン科学研究所GTC2020CG衣装NVIDIA MAXINEVRファッション淡路滋ビデオ会議ArtflowグリムノーツEponymゴティエ・ボエダ音声クローニングGautier Boeda階層的クラスタリングGopherJuliusSIE鑑定TPRGOxia Palusバーチャル・ヒューマン・エージェントtoio SDK for UnityArt Recognitionクーガー田中章愛Meta石井敦銭起揚NHC 2021茂谷保伯池田利夫GDMC新刊案内マーベル・シネマティック・ユニバース成沢理恵MITメディアラボMCU著作権アベンジャーズマジック・リープDigital DomainMagic Leap OneMagendaMasquerade2.0ノンファンジブルトークンDDSPフェイシャルキャプチャーサッカーモリカトロン開発者インタビュー里井大輝Kaggle宮本茂則バスケットボール山田暉Assassin’s Creed OriginsAI会話ジェネレーターSea of ThievesGEMS COMPANYmonoAI technologyLSTMモリカトロンAIソリューション初音ミクOculusコード生成AI転移学習テストAlphaCodeBaldur's Gate 3CodeforcesCandy Crush Saga自己増強型AISIGGRAPH ASIA 2020COLMAPADOPデバッギングBigGANGANverse3DMaterialGANリップシンキングRNNグランツーリスモSPORTReBeLグランツーリスモ・ソフィーGTソフィーVolvoFIAグランツーリスモチャンピオンシップRival PrakDGX A100VTuberユービーアイソフトWebcam VTuber星新一賞北尾まどかHALO市場分析将棋メタルギアソリッドVフォートナイトFSMRobloxナップサック問題Live Nation汎用言語モデルWeb3.0AIOpsSpotifyMITスマートコントラクトReplica StudioAWSamuseChitrakarQosmo巡回セールスマン問題ジョルダン曲線メディア5GMuZero政治クラウドゲーミングRival Peakがんばれ森川君2号和田洋一リアリティ番組Stadiaジョンソン裕子MILEsNightCafeインタラクティブ・ストリーミングLuis Ruizインタラクティブ・メディアポケモンCodexシーマン人工知能研究所東京工業大学Ludo博報堂ラップSIGGRAPH 2019ArtEmisZ世代AIラッパーシステムARrinnaGROVERプラスリンクス ~キミと繋がる想い~FAIRSTCチート検出Style Transfer ConversationオンラインカジノRCPアップルRealFlowRinna Character PlatformiPhoneデジタルヒューマンDeep FluidsSoul MachinesMeInGameAmeliaAIGraphブレイン・コンピュータ・インタフェースバーチャルキャラクターBCIGateboxLearning from VideoANIMAK予期知能逢妻ヒカリセコムユクスキュルバーチャル警備システムカント損保ジャパン哲学上原利之ドラゴンクエストエージェントアーキテクチャアッパーグラウンドPAIROCTOPATH TRAVELER西木康智OCTOPATH TRAVELER 大陸の覇者Siemensアルスエレクトロニカ2019品質保証StyleRigAutodesk逆転オセロニアBentley Systemsワールドシミュレーター奥村エルネスト純いただきストリートH100齋藤精一大森田不可止COBOL高橋智隆DGX H100ロボユニザナックDGX SuperPOD泉幸典仁井谷正充クラウドコンピューティングロボコレ2019Instant NeRFartonomousbitGANsぎゅわんぶらあ自己中心派Azure Machine Learning意思決定モデル脱出ゲームHybrid Reward Architectureコミュニティ管理ウロチョロスSuper PhoenixSNS理化学研究所Project Malmoオンラインゲーム気候変動Project PaidiaEarth-2Project Lookoutマックス・プランク気象研究所Watch Forビョルン・スティーブンスBing気象モデルLEFT ALIVE気象シミュレーション長谷川誠ジミ・ヘンドリックス環境問題Baby Xカート・コバーンエコロジーロバート・ダウニー・Jr.エイミー・ワインハウスSDGsMagentaYouTubeダフト・パンクメモリスタSFGlenn MarshallELYZA PencilThe Age of A.I.Story2Hallucination音声変換レコメンデーションJukebox松尾豊Veap JapanEAPテンセントSIFT福井千春DCGAN医療MOBADANNCEメンタルケア人事ハーバード大学Edgar Handy研修デューク大学Netflixデータマイニングmynet.aiローグライクゲーム東京大学東京理科大学人工音声NeurIPS 2021産業技術総合研究所はこだて未来大学リザバーコンピューティングプレイ動画ヒップホップキャラクターモーションソニーマーケティングサイレント映画もじぱNBA環境音暗号通貨現代アートFUZZLEAlteration粒子群最適化法RPG進化差分法オープンワールド群知能下川大樹AIFAウィル・ライト高津芳希P2E大石真史SIGGRAPH 2022BEiTStyleGAN-NADAレベルデザインDETRゲームエンジンSporeUnreal Engineデノイズ南カリフォルニア大学Unity for Industry画像処理SentropyGLIDECPUDiscordAvatarCLIPSynthetic DataCALMバイアスプログラミングサム・アルトマンソースコード生成LaMDAGMAIシチズンデベロッパーSonanticTRPGGitHubCohereウィザードリィMCN-AI連携モデルマジック:ザ・ギャザリングAI DungeonUrzas.ai介護西川善司並木幸介Kikiサムライスピリッツ森寅嘉Zoetic AIゼビウスSIGGRAPH 2021ペットストリートファイター半導体Digital Dream LabsTopaz Video Enhance AICozmo栗原聡DLSSタカラトミー山野辺一記NetEaseLOVOT大里飛鳥DynamixyzMOFLINRomiU-Netミクシィ13フェイズ構造アドベンチャーゲームユニロボットADVユニボXLandGatoAGIテキスト生成手塚眞DEATH STRANDINGマルチモーダル不気味の谷Eric Johnson汎用強化学習AIOculus Questコジマプロダクション生体情報デシマエンジンインディーゲーム写真高橋ミレイ照明Maxim PeterJoshua Romoffハイパースケープ山崎陽斗深層強化学習立木創太ミライ小町テスラGameGANパックマンTesla BotTesla AI Dayソサエティ5.0SIGGRAPH 2020バズグラフニュースタンテキ東芝DIB-R倉田宜典韻律射影広告韻律転移

【CEDEC2021】ディー・エヌ・エーが推進する音声AI社会実装に関する最新事例

2021.9.28ゲーム

【CEDEC2021】ディー・エヌ・エーが推進する音声AI社会実装に関する最新事例

8月24日から26日にかけて、ゲームを中心とするコンピュータエンタメに関する技術的カンファレンス「CEDEC2021」がオンラインで開催されました。同カンファレンスにおいて、株式会社ディー・エヌ・エーの竹村伸太郎氏らは、同社の音声AIに関する取り組みを多角的に解説するセッション「エンタメから社会課題、チームで乗り越えた音声AIの研究開発と実用化」を行いました。以下では、同セッションを要約することで音声AI社会実装の最新事例を紹介します。

実装ハードルが低くなった音声合成

はじめに株式会社ディー・エヌ・エー・システム本部データ統括部AI研究開発第二グループ所属の豆谷浩輝氏は、音声合成に関する事例を発表しました。音声合成とは、テキストに人工的な音声を付与して発話させる技術です。この技術は古くから研究されており、かつての合成された音声は無機質かつ人工的なものでしたが、現在ではよりヒューマンライクな音声が合成できるようになりました。

音声合成の応用事例は多岐にわたり、実用的な分野ではロボットやスマートスピーカーの音声、そして音声広告などがあり、エンタメ分野ではVTuberやゲームの音声、さらにはオーディオブックの朗読などがあります。ディー・エヌ・エーは実用とエンタメの両分野で音声合成を実装しており、そうした事例としてセコム株式会社と共同開発した「バーチャル警備システム」やマルチメディア展開した美少女キャラコンテンツ「ハッカドール」があります。

日本語の音声合成においては、入力テキストから音素やアクセントといった言語特徴を抽出する「言語解析」、言語解析情報が入力となってスペクトログラムとして可視化できる音響特徴を生成する「音響モデル」、音響特徴を音声に変換する「ボコーダ」という3つのステップが実行されます。

音声合成においてもっとも重要となるステップが音響モデルによる処理です。この処理に関する研究はまさに日進月歩ですが、2017年に開発された「Tacotron2」は現在でも最高品質の音声を合成すると評価されています。もっとも、同モデルは過去の処理内容を継承する自己回帰型という構造を採用しているため合成が遅く、稀に壊滅的なエラーが起こるという欠点があります。また、声の高さを変えるといった操作性がないという難点もあります。

2020年に開発されたFastSpeech2も多用される音響モデルです。同モデルは合成速度が速く、声の高さなどを変えられる操作性があるのが長所です。その一方で、音質はTactron2に若干劣り、学習データにアライメントを付与する必要があるため音響に関する専門知識が求められるといった短所があります。

音声合成は、人間の肉声を学習データに使って合成音声を生成します。こうした肉声を学習する方法には、1人の話者から学習する「単一話者モデル」、複数の話者から学習する「複数話者モデル」、そして複数の話者から平均的な音声データを生成したうえでそのデータを(技術的には「Finetune」と呼ばれる)微調整して一人の話者から音声を合成したかのような結果を得る複合的な学習方法があります。もっとも高品質な結果が得られるのは複合的な学習方法ですが、手間がかかります。また、複数話者モデルと単一話者モデルを比べた場合、前者は後者より一人の話者から収録するデータが少なくて済むというメリットがあります。

前述のように人間の肉声を学習することによって音声合成が可能になるため、肉声を収録する工程が必要となります。そして、高品質な学習データを用意するためには台本が重要となります。台本の制作にあたっては、最終出力となる合成音声のキャラクター性と一致する話者(たいていは声優が担当する)を起用すべきです。また、(「プルィルークィ郡」のような)稀な音素も収録できるセリフを盛り込むのが望ましいです。さらにセリフにルビを振っておくと、音声収録の効率と精度が向上します。

音声収録体制は、少なくとも声優、ディレクター、録音技師が参加するのが一般的です。ディレクターは、「収録した音声を学習データに使えるか」を判断する役割を担います。効率的に音声を収録するには、複数音声を一度に収録してから、そのデータを文章ごとの音声に切り出すという進行が推奨されます。また、一定の調子で音声を収録するのが理想的です。

音声収録においては、データ修正も重要となります。収録中にアクセント辞典を参照しながら適宜修正することも可能ですが、この手法では収録時の負担が増大してしまいます。ディー・エヌ・エーでは、収録後にアクセントを修正する手法を採用しています。収録後修正の際には、収録音声をテキストとして可視化したうえでアクセントの位置を確認できるGUIを用意すると修正作業を効率的に進められます。

以上のように音声合成においては、開発済みの音響モデルを使えるうえに音声に関する専門知識も不要なので、現在ではかなり技術的な敷居が低くなっています。今日では技術的スキルよりも、学習データの整備のほうが重要です。とくに収録台本を新規作成するには、さまざまな工夫が必要になります。

学習データがあれば簡単に音声合成ができるので、社内で眠っている音声データが音声合成を経て新たなコンテンツとしてよみがえる可能性があります。それゆえ、音声合成の普及は潜在的な音声資産の有効活用につながるのです。

『七色ニーナ』に見る音声変換アプリ開発の現状

つづいて豆谷氏と同じくシステム本部データ統括部AI研究開発部第二グループ所属の滝口 啓介氏は、音声変換に関する事例を発表しました。音声変換とは、入力した音声をほかの音声に変換する技術です。この技術を使えば、例えば発話者の音声を架空のアニメキャラのそれに変換できます。

音声変換においては、入力音声から特徴量を抽出する「音声分析処理」、抽出された音声特徴量を異なる値に変換する「音声変換処理」、変換された音声特徴量から音声波形を生成する「音声復元処理」という3つの処理が実行されます。こうした処理を実行するにあたり、入力音声を周波数領域に変換するフーリエ変換が行われます。音声変換において処理される特徴量は、この周波数領域から抽出されます。

音声変換のかなめとなる音声変換処理には、音響情報ベースのアプローチと言語情報ベースのそれがあります。音響情報ベースの音声変換では、入力音声の(スペクトログラムで表示されるような)音響情報から特徴量を抽出します。この技法ではイントネーションの情報が残りやすいので、抑揚の制御が容易となります。その一方で、声質情報も残りやすいため、声質の変換が難しくなります。音声変換においては声質の変換が重要となるため、この技法を使ったサービス開発は難しいとされています。

言語情報ベースのアプローチとは、入力音声の(音素や発音記号といった)言語に関する情報から特徴量を抽出する技法です。この技法では声質情報が残らないため、声質変換が容易となります。その反面、イントネーションも残りにくいため、抑揚の制御が難しくなります。短所があるものも声質情報を変換しやすい長所から、近年の音声変換サービスには同技法が多用されています。

ディー・エヌ・エーはエンタメ領域における音声変換の応用を推進しており、例えば動画配信における配信者音声の変換、ゲーム実況における実況者音声の変換、好きな声優になりきれるサービスなどを応用事例として考えています。そうした事例のひとつとして、2021年5月にはウェブブラウザで簡単に音声変換を体験できるサービス「七色ニーナ」をリリースしました。

七色ニーナのリリースにあたって、ディー・エヌ・エーは音声変換に関する4つの品質課題を掲げました。そうした課題とは「どんな声であっても変換可能であること」、「高品質な変換音声」、「短時間の変換による遅延の短縮」、「イントネーションも変換に反映させる」というものでした。

汎用的な音声変換を実現するために開発チームは、音声認識モデルと音声生成モデルをアーキテクチャに採用しました。音声認識モデルを採用したことにより、入力音声の話者が誰であっても適切に変換できるようになりました。

高品質な音声変換の実現にあたっては、前述したディー・エヌ・エーが手がけた音声合成事例から得られたノウハウを活用しました。音声合成を経験したことにより、音声AIの学習に必要なデータ量などの知識がすでに蓄積されていました。さらに、音声合成のために作成した学習データが流用できました。

低遅延な音声変換の実現のために、推論時間が比較的短いことで知られる非自己回帰モデルを採用しました。同モデルは、処理データの前後関係を考慮する自己回帰モデルよりシンプルな構造をしているため、処理が速いうえにモデルサイズも小さいという長所があります。

イントネーションの反映には、音声変換時にピッチ情報を付与する改良を行うことで実現しました。以上のような品質課題の達成方法をまとめると、以下のスライドのようになります。

滝口氏は、音声変換をより魅力的なものとするために追加すべき「プラスα」の要素にも言及しました。そうした要素にはさまざまな話者の音声に変換できること、音声に含まれる抑揚や感情も再現できる変換の実現、リアルタイムの音声変換によって可能となる(ボイスチャットや配信などの)双方向コンテンツの実現を挙げました。こうしたプラスαを実現できれば、音声変換の応用範囲がさらに広がることでしょう。

音声AI開発プロジェクトのノウハウ

さいごにシステム本部データ統括部AI基盤部所属の竹村 伸太郎氏は、音声合成と音声変換をふくめた音声AIサービス開発プロジェクトのノウハウについて発表しました。

音声AIサービスは、音声処理を担うAIモデルのほかにもユーザデータを処理するためのサーバやユーザが使うスマホなどのエッジ端末といった複数のモジュールとデバイスから構成されています。サービスの構築にあたっては、その特徴をふまえたうえでさまざまな性能指標に関して優先順位を決定することが必要となります。こうした性能指標の優先順位決定に関して、竹村氏は3つの事例を引用しながら具体的に解説しました。

1つめの事例は前述の「七色ニーナ」です。ウェブブラウザから利用する同サービスは、ウェブニュース等で話題になることでよって、急激なアクセス数の増加が想定されます。それゆえ、最大同時接続数と定義できるスケーラビリティは可能な限り大きいことが望ましいです。また、変換した音声をユーザに返すまでに要する時間を意味するレイテンシは、リアルタイムである必要はないものも、ユーザが待てる3秒以内が望ましいです。単位時間あたりの処理音声量であるスループットは、入力される音声が最大10秒と少ないため、大きな値である必要はありません。以上を考慮すると、性能指標の優先順位は「スケーラビリティ > レイテンシ > スループット」となります。

2つめは、ゲーム実況者が使うようなライブ配信アプリに実装される音声AIの事例です。最近のライブ配信アプリは、音声処理をサーバ側ではなくエッジ端末側で実行するものもあります。こうしたオンデバイスAIアプリではサーバの増強が不要となるため、スケーラビリティを考慮する必要がなくなります。対して、レイテンシは非常に重要になります。というのも、処理された音声がユーザに届くまでの時間が遅いと、ライブ配信が成立しなくなるからです。スループットに関しては、一定値で安定しないとレイテンシが大きくなってしまうので軽視できません。それゆえ、性能指標の優先順位は「レイテンシ > スループット > スケーラビリティ」となります。

3つめの事例は、家庭で使われるような対話ロボットに実装する音声合成AIです。こうしたAIは、音声処理結果を利用するユーザはたいてい一人であるという製品の特徴により、多くのユーザに普及することが求められます。それゆえ、もっとも重要な性能指標は製品の価格に直結するコストとなります。レイテンシに関しては、対話が成立するのであれば多少の遅延は許容されます。スループットは音声AIの性能やロボットの演算能力に左右されますが、コストを犠牲にしてまで追求すべきではありません。以上より性能指標の優先順位は「コスト > レイテンシ > スループット 」となります。

竹村氏は、チーム体制によるAI開発で役立つツールも紹介しました。そうしたツールには、AIの学習過程や実験結果を記録して共有できる「Comet.ml」、Markdownや数式も扱える情報共有ツール「Notion」、さまざまなスマホ端末を使ったテストをクラウド環境で実行できる「Firebase Test Lab」があります。

さらに竹村氏は、AIモデル実装に関してヒントとなるような技術的ノウハウも発表しました。そうしたノウハウは「おすすめのプロファイラーはpyinstrument」「ベクトル計算は深層学習フレームワークになるべく寄せる」といったものでした。

以上の要約が示しているようにディー・エヌ・エーは音声AIに関する開発実績とノウハウが豊富な企業のひとつと言えます。今後も同社から革新的な音声AIサービスがリリースされ、そうしたサービスから得られたノウハウの一部が将来のCEDECカンファレンスで共有されるかも知れません。

Writer:吉本幸記

RELATED ARTICLE関連記事

【CEDEC2019】ゲーム開発・運用における機械学習活用の現状と未来

2019.10.30ゲーム

【CEDEC2019】ゲーム開発・運用における機械学習活用の現状と未来

CGへの扉 Vol.32:Adobe Sneaks より進化の方向性を知る

2021.11.19ゲーム

CGへの扉 Vol.32:Adobe Sneaks より進化の方向性を知る

【CEDEC2021】NPCとのインタラクティブな対話を実現するGOAPと感情生成パイプライン

2021.11.12ゲーム

【CEDEC2021】NPCとのインタラクティブな対話を実現するGOAPと感情生...

RANKING注目の記事はこちら