プリファードネットワークス、メタバースやECで活用できる高品質3Dスキャン「PFN 3D Scan」などを紹介

深層学習を中心としたAI関連技術を中心に事業を進めているスタートアップ 株式会社Preferred Networks（プリファードネットワークス、以下PFN）は、2022年11月15日、高品質3Dスキャンサービス「PFN 3D Scan（ピーエフエヌ・スリーディースキャン）」に関するウェビナーを開催しました。「PFN 3D Scan」はPFNが6月から事業展開している3Dモデル作成用スキャン代行サービスで、深層学習（ディープラーニング）を活用することで、従来はうまくスキャンできなかった物品のスキャンが可能となります。

従来の3Dスキャン技術は赤外線など光を投影することで距離を計測して点群を取る方式と、複数のカメラ画像を用いるフォトグラメトリの2つに大別できます。前者は正確な形状が得られる一方でテクスチャが粗く、後者はテクスチャが忠実に再現できる一方で模様のない面は正確に認識できないなどの問題があります。また、どちらの技術も、透明・黒色・金属製の物体の3Dモデル作成を苦手としています。

「PFN 3D Scan」は、深層学習技術を用いることで、透明・黒色・金属製をふくめた多様な材質の物品のメッシュ・テクスチャ・マテリアル（形状・色・質感）を忠実に再現可能です。3DモデルはEコマース、ゲーム・映像制作、メタバース、文化財の保存などに活用することができます。

リリース：深層学習を活用した高品質3Dスキャン代行サービス PFN 3D Scan を企業向けに提供開始

ウェビナーではすでに事業化している「PFN 3D Scan」のほか、10月末に幕張メッセで開催された「第1回メタバース総合展」で公開されたばかりの、専用スタジオ不要で動きのある三次元空間をスキャンして 3D映像に復元するボリュメトリック・スキャンシステム「PFN 4D Scan」も紹介されました。合わせてレポートします。

深層学習による3Dスキャンとメタバース

講師は株式会社Preferred Networks コンシューマープロダクト担当VPの福田昌昭氏と塚田昌伸氏。まず福田氏が「現実世界を計算可能にする：深層学習による3Dスキャンとメタバース」と題してPFNを紹介しました。「現実世界を計算可能にする」というのはPFNが掲げているビジョンです。同社の特徴は、世界有数の自社保有計算資源を持っていることです。深層学習に特化したプロセッサを用いたスーパーコンピューターを自社開発して保有しており、その計算リソースと独自のAI技術を基盤として、さまざまな産業分野に適用しようとしています。

「PFN 3D Scan」は高品質・短納期で多様な物品の3Dスキャンに対応したサービスで、フォトリアルな3Dモデルを作ることができます。スキャンのためのハードウェア、ソフトウェアともにPFN が提供しています。そのため、サービスを利用するにはPFNが拠点を置く大手町まで物品を送り、スキャン後に返すという形になります。

PFN 3D Scanはフォトグラメトリや点群取得ではなく「微分可能レンダリング」という手法を使っています。これは画像を入力、3D画像を出力とする予測モデルを使って3Dを推定する方法です。要するにCG画像をどんどん現実に近づけていくような操作を繰り返すことでリアルな画像を得ることができるということです。これにより今までの技術ではモデル作成ができなかった素材に対してもフォトリアルな再現ができるようになっています。

事例はウェブサイトで閲覧でき、半透明や金属の製品など写真の写りや光沢などが見る角度によって変わるようなものでも忠実に再現することができていることが分かります。

現在、依頼されている物品のなかには複雑な形状のものも多いとのこと。ただし、見た目はリアルですが、まだ製造業のシミュレーションにそのまま使うといったことは難しいとのことです。福田氏は「難しそうなものは『難しい』と答えるので、気軽に相談してほしい」と聴講者たちに呼びかけました。

現在、メタバースやWeb3、NFTなどの潮流を受けてデジタルアセットの価値がどんどん上がってきています。福田氏は「これからデジタルアセットの価値が変わってくる可能性は高い。皆様のサービスに少しでも役に立てればと思っている」と述べて、続けて事例を紹介しました。同社の技術はECサイトや映像制作、XRアセットなどでも活用され始めているといいます。

具体的には、eコマースプラットフォーム「Shopify（ショッピファイ）」での活用例を紹介しました。Shopify には3Dモデルをロードする機能があります。そこで3Dモデルを使ったところ、実際にECサイトでのコンバージョン率も滞在時間も上昇しました。このように、すでに3Dモデルはビジネスで実用化され始めています。また今後はECサイト以外でも、ウェブサイト上で3Dモデルが使われる機会が増えてくるのではないかと考えていると福田氏は語りました。

検証用アセットサンプルは公式サイトからダウンロードも可能です。また「BOOTH」のなかでアセット販売も始めています。なお、データサイズは比較的大きくなっておりスマホやVRでの用途では大きすぎますが、用途に合わせて、どのくらいのテクスチャサイズ、ポリゴン数かといったことを示してもらえれば、ある程度対応可能とのことでした。

ちなみにこの技術は、もともとは2018年の「CEATEC」で公開された「お片付けロボット」の開発において、床に散らばっている物品の認識や把持のための学習用として、CGでシミュレーションを行っていたことから開発が始まりました。フォトリアルに再現できることから、映像制作など別の使い方もできるのではないかと考えて事業化したということです。

屋外でも動きのある3Dスキャンができる「PFN 4D Scan」

「PFN 3D Scan」は静止物の3D再現ですが、「PFN 4D Scan」は時間軸方向もふくめてフルCGにする技術です。福田氏はまず大手町ビルの屋上でダンサーが踊る様子を丸ごとスキャンしたデモ動画を紹介しました。カメラで写っている範囲すべてが再現され、ダンサーまでの距離は1m〜1.5m程度。背景の大手町のビル群もすべて3D化されています。

従来の3D表現は色や形状の情報を直接記録していましたが、PFN 4D Scanは深層学習ベースの3D表現を取っています。色や形状を予測するモデルを機械学習することで「どの方向から見るとどう見えるか」という情報を推論して返すというわけです。視点と方向が決まると色と密度も決まるので、それをひたすら計算し続けるというものとなっています。なお今回のデモではUnityを使用しており、それにより「既存技術とうまく組み合わせて表現できる」とのことでした。

技術詳細については、「メタバース展」では（カリフォルニア大学バークレー校から2020年に発表された）『NeRF（Neural Radiance Fields）』みたいなものと答えていた」ということですが、実際には「PFN独自技術も入っていて現時点では詳細は答えられない」そうです。

撮影は現地でポータブルなカメラアレイを組んで行います。従来のボリュメトリック・スキャンとは異なり固定カメラのある専用スタジオや、グリーンバックは必要ありません。それをスパコンで深層学習モデルを訓練して3D再構成することで、高精度な自由視点映像がリアルタイムで楽しめるようになります。こちらはまだ商材化していないため、個別相談となるようです。

福田氏は音楽アーティストのライブを撮影したデモを示しました。

この動画は、単にカメラを振っているだけではありません。フルCGで再現されており、どこからでも自由視点で見ることができます。このようなダンサーやアーティスト、動画配信者などの演技などを撮影してメタバースでのイベント展示なども可能になります。ちなみにこの動画の撮影にかかった時間は4時間程度。ライトなど撮影条件を変えて撮影しなおしました。

スキャン可能な記録時間は現在は３時間が最大ですが、長くなればなるほど計算コストがかかるため、現状ではショート動画で使うほうが現実的と考えているようです。

最後に福田氏は改めてPFNのコーポレートビジョンである「現実世界を計算可能にする」を再び強調しました。「これからデジタルアセットの価値は変わってくる。PFNのドメイン知識のあるエンジニアと外部との協業によって、新しいチャレンジを進めていきたい。皆様の事業に役立てると大変嬉しく思う。ご意見をお寄せ頂きたい」と語りました。

「PFN 4D Scan」のデモも可能

実際の「PFN 3D Scan」の利用の仕方については塚田氏がウェブサイトを示しながら紹介しました。サンプルダウンロードやユースケース紹介のほか、価格などもサイトで明示されていますが「疑問点があれば遠慮なく問い合わせてほしい」とのことです。

価格は、セッティングを変える場合には、やや高めに設定されています。納品形式はgITFおよびFBX方式。「PFN 4D Scan」については、まだ公開されたばかりで、ランディングページ等はなく、個別に相談する必要があります。実機デモについては、ハードウェアの設置されている大手町まで来れば応じられるとのことでした。

Writer：森山和道、Image by Preferred Networks