感情表現によってカメラをコントロールできるドローン：月刊エンタメAIニュース vol.18

エンタメにおいても人工知能は日進月歩で進歩しており、新しい研究成果や試みが次々と発表されています。こちらの連載では、過去1か月間、主に海外で公開された注目すべきゲームAIやエンタメAIに関連したニュース、論文などを紹介していきます。

気分にぴったりの映像を自動撮影してくれるドローン

ドローンカメラで思いどおりの映像を撮影するのは決して容易なことではありません。ドローンを自在に飛ばせる操縦技術と、移動する被写体をカメラで追いかける撮影技術の両方が求められます。それらを全部AIが代わりにやってくれたなら。

フェイスブックAIリサーチ、カーネギーメロン大学、サンパウロ大学の共同研究チームは、入力された感情表現に相応しい視点やアングルを用いてドローンが自律的に映像を撮影してくれるAI技術を、ロボット工学とオートメーションに関する国際会議（ICRA）で発表しました。例えばエキサイティングな動画が撮りたいと命令すれば、ドローンが被写体を追尾する軌道や角度を自動的に計算して臨場感あふれる映像に仕上げてくれるのです。

出典：Rogério Bonatti（カーネギーメロン大学）

これを実現するためには、エキサイティングという語義（セマンティクス）と、カメラを制御する数値情報を連動させる必要があります。このセマンティックコントロールスペースをAIに学習させるために、研究チームは「旋回」や「頭上追尾」といったドローンの軌道やカメラの傾斜角度、そしてカメラの角速度を組み合わせた200種類以上の映像データセットを用意。500人の視聴者が2種類ずつを比較する形で、それぞれのクリップがエキサイティングを含めた7種類の単語にどれくらい相応しいかを評価しています。その値をもとに生成された3次元の感情軸によって、ドローンの軌道・角度・速度が決定するというわけです。

こうした語義によるカメラ制御（セマンティックカメラコントロール）を使った撮影技術が実用化されれば、映画制作やゲーム開発におけるカメラワークの幅が広がることは間違いありません。そればかりか、もしかしたらスマートフォンによる写真や動画の撮影に革新をもたらす日が来るかもしれません。

【論文】Batteries, camera, action!

Learning a semantic control space for expressive robot cinematography

笑いかけたら満面の笑顔を返してくれる顔面ロボット

人間は表情によって多くの感情を表現する動物です。顔面を覆う筋肉の複雑なシステムは、決して言葉に劣らない情報量で意思疎通を円滑にしてくれています。スマートスピーカーが一般家庭に普及し、接客ロボットに人間が話しかけるようになったいまだからこそ、表情というソーシャルスキルをAIに学習させようと試みる研究者たちがいます。

コロンビア大学の研究チームは、センサーをとおして人間の表情を読み取り、人工筋肉によって即座に同じ表情を再現できる顔面ロボット「EVA」を、ロボット工学とオートメーションに関する国際会議（ICRA）で発表しました。

出典：コロンビア大学

EVAは人工のモチモチ肌と表情筋、視覚システムで構成されており、ディープラーニングによってあらゆる表情を自律学習できます。EVAが人間の表情を模倣できるようになるには、まず特定の表情を作るために顔面をどう動かせばいいのか、つまり人工表情筋の使い方を学習しなければいけません。そのために、研究チームは無作為な自身の表情を映した数時間の映像データをEVAに見せ、映像内の表情と自身の表情がマッチするようニューラルネットワークに学習させています。

EVAが自分の顔面を自由に動かせるようになったら、つぎはカメラに映る人間の表情が何を意味しているのか、つまりどの表情パターンを形成すればいいのかを判別する必要があります。ここではセンサーが捉える表情と前述したセルフイメージがマッチするよう別のニューラルネットワークが学習します。これにより、EVAは目に映る顔と同じ表情を浮かべられるようになります。デモ映像からは、カメラに直接映る人間の顔面のみならず、テレビ番組の出演者の表情を忠実に再現する様子も確認できます。

【論文】Smile Like You Mean It: Driving Animatronic Robotic Face with Learned Models

テキスト画像からフォント情報を完全コピーできるAI

AIによる画像生成技術は日々進化を続けています。ゴッホやルノワールといった著名画家の作風を学習して、あらゆる写真を彼らの絵画風に変換するような芸当はAIならではの強みです。そんなAIでも路上の看板や商品パッケージに印刷されたデザイン文字、筆記媒体や個人の癖によって変化する人間の手書き文字など、この世界に散りばめられた無限のフォントを柔軟に読み取るのは至難の業です。

Facebook AI Reserchは、たったひとつの単語画像からでもフォント情報を忠実に模倣できる自律学習AIモデル「TextStyleBrush」を発表しました。フォントや手書き文字を学習させる先行研究はいくつも存在しますが、その多くは書体情報や教師データによって学習内容があらかじめ定義されたアプローチを取っています。「TextStyleBrush」は、対象となる文字領域をスタイル情報とテキスト情報に分解し、それらを再構築することでスタイルのみを真似したりテキストだけを書き換えるような出力を実現しているようです。

出典：Facebook

この技術はまだ研究段階ですが、将来的にはテキスト画像の翻訳や字幕生成、拡張現実における標識変換など、多様な技術への応用が期待できます。また、こうした研究成果を広く公開することで、悪質なディープフェイクを未然に防ぐ活動にも役立てたいと研究チームは語ります。同社では、AIによってディープフェイクを検知する研究も並行して進められており「TextStyleBrush」のような自律学習モデルの登場が技術の悪用に対する大きな先手となることは間違いありません。

【公式サイト】AI Can Now Copy Text Style in Images Using Just a Single Word

Writer： Ritsuko Kawai / 河合律子、Photo by Saffu on Unsplash