AI会話ジェネレーターが目指す個性の演出：モリカトロン開発者インタビュー Vol.1

2022.2.16先端技術

人間は互いの親密度を高めたり関係性を確かめたりするために、たびたびとりとめのない会話を交わします。集団内の認識や情報を並列化するための手段として、雑談という行為は人間社会に欠かせません。集団内の共通認識を確認する社会的ツールだからこそ、同じ社会に属さない人工知能にとって人間との雑談はもっとも難しいタスクのひとつです。

モリカトロンが開発した「AI会話ジェネレーター」は、日本語による膨大な会話情報を学習させたAIモデルで、人間が入力した内容に応じて自然な返答を自動生成してくれます。既存のチャットボットにAPIとして導入できるほか、任意のサーバーへインストールすることで自由に会話できるキャラクターとしても利用できます。また、口調や対話内容のカスタマイズも可能ということです。

今回は、モリカトロンでAIディレクターを務める宮本茂則氏とAIエンジニアの山田暉氏をゲストに迎え、AI会話ジェネレーターを開発するにいたった経緯や、人間と雑談ができるAIの存在意義、より幅広いユーザー層を見据えた今後の展望について話します。聞き手はモリカトロンAIラボ所長の森川幸人と、編集長の高橋ミレイです。

Twitterのつぶやきから日常会話を学習

森川幸人（以下、森川）：モリカトロンでは、2020年からゲームキャラクター用のAI開発にとどまらず、ゲーム開発を支援するより実用的なツールも同時に開発しようというフェイズに移行しました。そのプロジェクトのひとつとして宮本が始めたのが「AI会話ジェネレーター」でした。そこへ山田が途中から加わりましたよね。何をやってもいいという話だったんだけど、そもそもAI会話ジェネレーターを選んだ理由は何だったの？

宮本茂則（以下、宮本）：ゲーム業界では以前から、シチュエーションに適したメッセージを自動生成したり、キャラクターと自由に話したりできる仕組みを作って欲しいという声がありました。そういったAIを作ろうと思えば十分可能だろうとは感じていましたが、まだ実際に提示できるモデルは何もありませんでした。そこでまずサンプルとして会話ボットのようなAIを作ろうというのが開発の経緯です。

森川：AI会話ジェネレーターには、OpenAIのTransformer言語モデル「GPT-2」を採用しているよね。

宮本：2018年にグーグルが「BERT」を発表した時から、大規模言語モデルを活用してみたいと思ってました。

山田暉（以下、山田）：BERTが発表された時は、これ以上研究者ができることは少ないんじゃないかって雰囲気でしたね。

宮本：ニューラルネットワークは自然言語処理では以前から活用されていたのですが、BERT（Bidirectional Encoder Representations from Transformers）はTransformer（トランスフォーマー）という深層学習モデルを使ってさまざまなタスクで最高スコアを出したことで話題になりました。Transformerのアテンション機構で、文章の長さに関わらず前後の単語を参照できるようになりました。

山田：Transformer以前では、LSTM（Long Short-Term Memoryの略、長・短期記憶）のようなアーキテクチャでも前の単語を参照することは可能でしたが、計算効率が悪かったんですよね。Transformerの登場で計算効率が大幅に向上しました。

宮本：当時、BERTは主に分類や要約といったタスクに使われていて、文章生成に活用する例は稀だったと思います。その後、2019年にOpenAIが「GPT-2」を発表して、AIが人間のように自然な文章を生成できるようになりました。そういう経緯からGPT-2を採用しましたが、文章の生成と会話の返答の生成って似ているようでちょっと違います。また、GPT-2が登場してからしばらくは、公開されている学習済みの日本語モデルも見当たらなかったので、発話生成用のモデルは社内でゼロから作成しました。

森川：AI会話ジェネレーターの学習データをTwitterから収集することにしたのはどうして？

宮本：Twitter上には人間の日常会話に近い文章データがあふれているので、雑談の学習と相性がいいと考えました。むしろ身近にあって大量に公開されているデータがTwitterくらいしかなかったんです。

森川：FacebookやLINEはクローズドな環境だからデータが取れないよね。どのくらいの期間データ収集を続けたの？

宮本：現時点で1年半くらいです。人々の話題は季節によっても変化するので、最低でも1年分のデータを集めないと多様な会話に対応できないから長期にわたって収集しました。今も毎日収集しています。

森川：まだ続けているのは知らなかった（笑）。今後もずっと収集し続ける予定？

宮本：はい。リアルタイムに更新される話題に対応するには、常に学習データをアップデートしていく必要があります。それでも過去のデータから参照するという構造上、どうしても対応の遅延は避けられないんですけどね。話題性の遅延は今後の大きな課題です。

AIが雑談できるようになることの意義

森川：雑談ができるAIに何の意味があるのか周囲になかなか理解してもらえないものなんですが、AI会話ジェネレーターのような雑談AIの存在意義って何だと考えてる？

山田：よくあるQ&Aボットはあらかじめ回答を用意することがある程度できますが、雑談の場合は話題に関する背景知識が必要なので正解を明確に定義できません。AIが雑談できるようになることの大きな意義はそこにあると思います。

森川：たしかに背景知識や推論は重要ですね。人間でも雑談がつまらない人はいるからね。

高橋ミレイ（以下、高橋）：雑談の良し悪しの評価は文化背景に依存するところもありますよね。あるコミュニティでは面白いとされる話題でも、別のコミュニティではつまらないとされたり。そういったある種のエコーチェンバー現象をAIで再現することは可能なのでしょうか。たとえば、Twitterユーザーの中には特定の話題に関する投稿に「いいね」がたくさん付けられて同じ関心を持つフォロワーが増えるうちに、それらがインセンティブになることで特定分野に特化した投稿しかしなくなる傾向も少なからず見受けられます。もしかしたら無意識に人間機械学習みたいな現象が起きているのかもしれません。このように反響の大きさを意図的にコントロールすることはできるのでしょうか。

宮本：学習データがどんどん偏っていくということですね。投稿内容と「いいね」の数を結びつけるデータがあれば、ウケ狙いの投稿を繰り返すような仕組みを作れそうですね。ただ、その際に投稿内容まで正確にコントロールするのは難しそうです。

山田：下手をすると炎上しそうな投稿が増えてしまうかもしれませんね。

森川：Twitterの「いいね」を評価基準として学習データを反映させることは難しそうだけど、人間の社会性をあぶり出す検証のアイデアとしては面白そうだよね。過激な方向へ偏るリスクはあるけど。会話を生成するためのデータ収集にくわえて、生成した話題に対する評価まで反映できるようになれば、会話エンジンに新たな将来性が生まれる気がします。

高橋：その結果、個性のようなものが生まれれば、ユーザーとしてもより使いやすくなると思います。たとえば、ゲームキャラクターに実装する場合、登場人物の年齢や性格にあわせて異なる会話内容や口調を生成できるようになれば、興味を示す開発者は多いと思います。

宮本：AI会話ジェネレーターは、それぞれの学習データをどんな人物から学んでいるのか区別していないので、個性という点ではどうしても一貫性が保てない状態です。たしかに口調のような表面的な部分をコントロールしたいという要望は結構あるんです。ほかには、ユーザーの発言内容を記憶して欲しいとか。今後ひとつずつ対応していきたいと思っています。

森川：AI会話ジェネレーターはAPIとして提供できる形で開発しているので、クライアントのサービスに組み込む準備はできているよね。

宮本：クライアントの要望にあわせてゼロから作っていた昔と違って、そういう意味では開発の見通しが立ちやすくなりました。いまのAI会話ジェネレーターをカスタマイズ可能なベースとして使ってもらえれば嬉しいです。

高橋：ちなみにAI会話ジェネレーターの利用者はゲーム業界の方が圧倒的に多いのでしょうか。

森川：それが意外にそうでもないんですよ。ゲーム業界以外が多いんです。具体的な名前は出せないけど、カウンセリングに活用したり、従業員のメンタルケアに利用したり、認知症予防に役立てたり、会話を通して人をケア、サポートする用途で使いたいという非ゲーム系のクライアントさんが多いんです。

そういうサポートツールはすでにたくさんあるんだけど、割と堅苦しいものが多く、なかなか継続して使ってもらえないようです。ユーザーを質問攻めにしてしまったり、上から目線の発言や指示になってしまったり、わかりにくかったり。ゲーム業界ではユーザーを飽きさせないためにそういった部分にはとても気を使うので、ゲーム開発で培ったノウハウがうまい具合に活躍できるんだと思います。