[論文レビュー] Convex Potential Flows: Universal Probability Distributions with Optimal Transport and Convex Optimization

Chin-Wei Huang, Ricky T. Q. Chen+2 more|arXiv (Cornell University)|Dec 10, 2020

Domain Adaptation and Few-Shot Learning参考文献 55被引用数 26

ひとこと要約

この論文は、強い凸性を持つニューラルポテンシャル関数の勾配として逆写像可能な変換をパラメータ化する正規化フロー枠組みであるConvex Potential Flows (CP-Flow)を導入する。これにより、普遍的な密度近似と最適輸送が可能になる。凸最適化を用いた効率的な逆写像と、ヤコビアン行列式の新規で低メモリな勾配推定器を活用することで、CP-Flowは密度推定および変分推論のベンチマークで競争力ある尤度性能を達成するとともに、逆写像性と最適性の理論的保証を維持する。

ABSTRACT

Flow-based models are powerful tools for designing probabilistic models with tractable density. This paper introduces Convex Potential Flows (CP-Flow), a natural and efficient parameterization of invertible models inspired by the optimal transport (OT) theory. CP-Flows are the gradient map of a strongly convex neural potential function. The convexity implies invertibility and allows us to resort to convex optimization to solve the convex conjugate for efficient inversion. To enable maximum likelihood training, we derive a new gradient estimator of the log-determinant of the Jacobian, which involves solving an inverse-Hessian vector product using the conjugate gradient method. The gradient estimator has constant-memory cost, and can be made effectively unbiased by reducing the error tolerance level of the convex optimization routine. Theoretically, we prove that CP-Flows are universal density approximators and are optimal in the OT sense. Our empirical results show that CP-Flow performs competitively on standard benchmarks of density estimation and variational inference.

研究の動機と目的

• 正規化フローの自然で理論的根拠に基づいたパラメータ化を構築し、逆写像性を保証するとともに、効率的な計算を可能にすること。
• 正規化フローと最適輸送理論の間の関係を確立し、普遍的な密度近似が可能な凸ポテンシャルを活用すること。
• 凸最適化を用いて、定数メモリコストかつ制御可能なバイアスを持つヤコビアン行列式の対数の勾配推定器を設計すること。
• 凸最適化ツールを用いて最大尤度学習を可能にし、効率性とスケーラビリティを向上させること。
• CP-Flowが標準的な密度推定および変分推論ベンチマークで最先端の性能を達成することを示すこと。

提案手法

• 強い凸性を持つニューラルポテンシャル関数の勾配写像としてフローをパラメータ化し、構成上逆写像性を保証する。
• 凸双対性を用いて凸最適化により効率的な逆写像を実現し、反復的再パラメータ化を回避する。
• 共役勾配法を用いて逆ヘッシアン・ベクトル積を計算することで、ヤコビアン行列式の対数に対する新規な勾配推定器を導出する。
• 共役勾配ソルバーの絶対誤差許容値（atol）を調整することで、勾配推定器のバイアスを制御可能とし、実質的にバイアスのない推定を可能にする。
• モデルの逆写像とヤコビアン行列式の推定を凸最適化問題として定式化し、メモリおよび計算コストを削減する。
• 表現力と性能の向上を図るため、凸ポテンシャルネットワークに入力拡張型または密構造（dense）アーキテクチャを用いる。

実験結果

リサーチクエスチョン

• RQ1 逆写像性を自然に保証し、効率的な逆写像が可能な方法で正規化フローをパラメータ化できるか？
• RQ2 最適輸送理論を活用して、普遍的かつ輸送コストにおいて最適なフローを構築できるか？
• RQ3 凸最適化技術を用いて、低メモリでバイアスのないヤコビアン行列式の対数の勾配推定器を導出できるか？
• RQ4 凸ポテンシャルによるフローのパラメータ化が、密度推定および変分推論ベンチマークでの性能向上に寄与するか？
• RQ5 アーキテクチャの選択（例：入力拡張型ICNN）が凸ポテンシャルフローの性能に与える影響はいかなるものか？

主な発見

• CP-Flowは標準ベンチマークで競争力ある対数尤度性能を達成し、Freyfacesデータセットでは106.53 ± 0.55 ビット/次元の負のELBOを達成した。
• 入力拡張型CP-Flowのバリエーションは、Freyfacesデータセットで105.17 ± 0.57 ビット/次元の負のELBOを達成し、標準CP-Flowよりも性能が向上した。
• 勾配推定器のバイアスは、共役勾配ソルバーの絶対誤差許容値（atol）によって制御可能であり、atol ≤ 0.001 の範囲で安定した学習が観察された。
• 1層あたりの共役勾配反復回数は入力次元（Minibooneでは43）に飽和することが示され、収束限界が確認された。
• 従来のICNNに代えて入力拡張型または密構造ICNNを用いることで、顕著な性能向上が得られ、アーキテクチャ設計の重要性が浮き彫りになった。
• 提案された勾配推定器は、確率的ランチョス積分法をバックプロパゲートする方法と比較して、はるかにメモリ効率が良く、実行時間も大幅に短縮された。