[論文レビュー] Set Flow: A Permutation Invariant Normalizing Flow

Kashif Rasul, Ingmar Schuster+2 more|arXiv (Cornell University)|Sep 6, 2019

3D Shape Modeling and Analysis参考文献 16被引用数 6

ひとこと要約

Set Flow は、Real NVP スタイルの結合層と Deep Set スタイルの置換不変関数を組み合わせることで、交換可能な高次元データの有限集合をモデル化する置換不変な正規化フローである。正確な尤度評価と可変な集合サイズにおける効率的な学習を可能にし、ModelNet40 のような 3D ポイントクラウドデータセットで最先端の対数尤度を達成した。

ABSTRACT

We present a generative model that is defined on finite sets of exchangeable, potentially high dimensional, data. As the architecture is an extension of RealNVPs, it inherits all its favorable properties, such as being invertible and allowing for exact log-likelihood evaluation. We show that this architecture is able to learn finite non-i.i.d. set data distributions, learn statistical dependencies between entities of the set and is able to train and sample with variable set sizes in a computationally efficient manner. Experiments on 3D point clouds show state-of-the art likelihoods.

研究の動機と目的

• データポイントが順序付けられておらず、かつ潜在的に依存関係を持つ有限の交換可能な集合分布を明示的に学習する生成モデルの開発。
• de Finetti の定理により無限の交換可能な系列を仮定する従来のモデルの制限を克服し、有限で i.i.d. でない集合をモデル化すること。
• 可変な集合サイズにおいても逆写像性と正確な対数尤度計算を維持しながら、効率的な学習とサンプリングを可能にすること。
• 円周上に等間隔に配置された点や構造的な 3D ポイントクラウドなど、集合内のエンティティ間の複雑な統計的依存関係を捉えること。
• 正規化フローと置換不変な集合関数を組み合わせたスケーラブルで微分可能なアーキテクチャを提供し、密度推定に用いること。

提案手法

• Real NVP 正規化フローを拡張し、Deep Set スタイルのグローバルプーリングを用いて集合上で作用する置換不変な結合メカニズムを導入。
• 入力の置換に対して不変であるように、グローバルな集合埋め込みに条件付けた学習可能なニューラルネットワークの集合を用いて結合変換を計算。
• 変数の部分集合の変換が、Deep Set エンコーダーを介して計算された全集合の置換不変な要約に依存する結合層を適用。
• グローバルなノイズベクトルとエンティティ固有のノイズベクトルの両方を、逆写像性を持つフローを経て変換し、最終的な密度を変数変換の公式により計算。
• フローの tractable なヤコビ行列式の行列式を活用し、確率的勾配降下法を用いて最大尤度推定でモデルを学習。
• 入力集合のグローバルな表現を計算するための Deep Set アーキテクチャを用い、それを結合層の条件付けに使用することで、置換不変性を確保。

実験結果

リサーチクエスチョン

• RQ1 有限集合に対して正確な対数尤度評価が可能でありながら、置換不変性を保つ正規化フローを設計できるか？
• RQ2 このようなモデルは、等間隔な配置や 3D の幾何学的構造といった、複雑な非 i.i.d. な集合内要因間の依存関係を捉えることができるか？
• RQ3 可変な集合サイズに一般化され、学習およびサンプリング時に計算効率を維持できるか？
• RQ4 3D ポイントクラウド生成タスクにおいて、既存の最先端手法と比較して尤度性能に優れているか？
• RQ5 ランダムな円周上に固定された位相関係を持つ点の集合といった、有限の交換可能なデータの生成プロセスをモデルが学習できるか？

主な発見

• Set Flow は、Airplane および Chair の両クラスにおいて ModelNet40 で最先端の対数尤度を達成し、平均テスト対数尤度はそれぞれ 4.10 ± 0.35 および 2.045 ± 0.25 であった。
• 合成された 3D ポイントクラウド集合において、等間隔な位相分布を正しく捉えており、推定された位相に真値と類似した等間隔のピークが観察された。
• 生成構造を捉えているにもかかわらず、真値と比較して半径が小さく、位相分布の分散が高めであるバイアスが見られた。
• 300 万件の訓練サンプルを経て、2D 円形集合において非 i.i.d. な等間隔性の性質が再現され、モデルが潜在的な依存関係構造を学習したことが示された。
• 訓練済みモデルの潜在空間における線形補間により、異なるクラス間（例：椅子から飛行機へ）の妥当な中間のポイントクラウドが生成された。
• 40 クラスの共同訓練にも一般化でき、平均テスト対数尤度は 2.143 ± 0.318 を達成し、PILET-VAE や BRUNO といった先行手法を上回った。