[論文レビュー] Hyperbolic VAE via Latent Gaussian Distributions

Seunghyuk Cho, Juyong Lee+1 more|arXiv (Cornell University)|Sep 30, 2022

Model Reduction and Neural Networks被引用数 4

ひとこと要約

本稿では、フィッシャー情報計量に基づく一変量ガウス分布のリーマン多様体としての潜在空間をモデル化するガウス多様体VAE（GM-VAE）を提案する。この多様体は双曲幾何を形成する。KL発散に基づく擬似ガウス多様体正規分布を導入することで、安定した効率的なサンプリングと閉形式でのKL発散計算が可能となり、密度推定においてはユークリッドおよび双曲基準を上回り、数値的安定性が向上したモデルベース強化学習においても競争力ある性能を示す。

ABSTRACT

We propose a Gaussian manifold variational auto-encoder (GM-VAE) whose latent space consists of a set of Gaussian distributions. It is known that the set of the univariate Gaussian distributions with the Fisher information metric form a hyperbolic space, which we call a Gaussian manifold. To learn the VAE endowed with the Gaussian manifolds, we propose a pseudo-Gaussian manifold normal distribution based on the Kullback-Leibler divergence, a local approximation of the squared Fisher-Rao distance, to define a density over the latent space. In experiments, we demonstrate the efficacy of GM-VAE on two different tasks: density estimation of image datasets and environment modeling in model-based reinforcement learning. GM-VAE outperforms the other variants of hyperbolic- and Euclidean-VAEs on density estimation tasks and shows competitive performance in model-based reinforcement learning. We observe that our model provides strong numerical stability, addressing a common limitation reported in previous hyperbolic-VAEs.

研究の動機と目的

• 双曲VAEの既存手法（ポアンカレ分布やラップド正規分布に基づくもの）における数値的不安定性とサンプリング非効率性を解消すること。
• フィッシャー情報計量下での一変量ガウス分布が形成する統計的多様体の内在的双曲幾何を活用すること。
• 閉形式でのKL発散と安定なサンプリングを実現する新たな事前分布および変分分布を考案し、この多様体上でのVAEの学習を可能とすること。
• 密度推定およびモデルベース強化学習における実証的検証を通じて、モデルの安定性と性能向上を示すこと。

提案手法

• 潜在空間はガウス多様体として定義され、各点はμ ∈ ℝおよびσ > 0を満たす一変量ガウス分布（μ, σ）に対応する。
• この多様体上でのフィッシャー情報計量は、ポアンカレ上半平面モデルと同型な双曲幾何を誘導する。
• KL発散を二つの分布間の平方フィッシャー＝ラオ距離の局所近似として用いる、擬似ガウス多様体正規分布を提案する。
• このような分布間のKL発散は、ガウス分布とガンマ分布の積に分解され、閉形式での計算が可能になる。
• σの対数空間変換を用いることで、多様体制約の簡素化が図られ、複雑な射影やクリッピングの必要がなくなる。
• 本手法は、密度推定およびモデルベース強化学習におけるワールドモデル学習にVAEとして適用され、安定した学習と効率的なサンプリングを実現する。

実験結果

リサーチクエスチョン

• RQ1 フィッシャー情報計量下での一変量ガウス分布の統計的多様体が、VAEの安定的かつ効果的な双曲潜在空間として機能できるか？
• RQ2 ポアンカレ正規分布の代わりにKLに基づく擬似ガウス多様体正規分布を採用することで、双曲VAEにおける数値的安定性とサンプリング効率が向上するか？
• RQ3 提案されたGM-VAEは、画像データセットにおける密度推定において、ユークリッドおよび双曲基準を上回る一般化性能を達成できるか？
• RQ4 GM-VAEにおける双曲潜在空間は、強化学習環境の階層的構造をより良く保存できるか？
• RQ5 本手法は、実世界の生成モデルタスクにおいてスケーラブルかつ実用的か？

主な発見

• GM-VAEは、複数の画像データセットにおいて密度推定で最先端の性能を達成し、ユークリッドおよび双曲VAE基準を上回った。
• 本モデルは、先行する双曲VAEで見られる勾配爆発や不安定なKL発散計算といった問題を回避する優れた数値的安定性を示した。
• 擬似ガウス多様体正規分布のおかげで、閉形式でのKL発散計算と効率的なサンプリングが可能となり、計算オーバーヘッドが低減された。
• モデルベース強化学習において、GM-VAEは最先端の基準と同等の性能でワールドモデルを学習し、潜在空間に階層的構造を捉えることができた。
• 潜在空間の分析から、状態ノルムと累積報酬のピアソン相関係数が0.46であったのに対し、ユークリッド基準は0.40にとどまり、階層構造の保存性が向上したことが示された。
• GM-VAEの学習時間は、ユークリッドVAEと同等であり、基準の双曲VAEよりも顕著に速く、多様体制約が単純で、射影やクリッピングの必要がないためである。