[論文レビュー] Multivariate Gaussian Variational Inference by Natural Gradient Descent

Timothy D. Barfoot|arXiv (Cornell University)|Jan 27, 2020

Blind Source Separation Techniques参考文献 7被引用数 7

ひとこと要約

本稿では、平均および精度行列（逆分散共分散行列）のハイブリッドパラメータライゼーションを用いた多変量正規分布変分推論における自然勾配降下法（NGD）を提案する。フィッシャー情報行列とクライマー代数を用いた行列微積分を活用することで、精度行列の対称性とスパarsity構造を効率的に処理し、閉形式の更新式を用いて安定かつスパarsityを保った最適化を実現し、収束性と計算効率を向上させる。

ABSTRACT

This short note reviews so-called Natural Gradient Descent (NGD) for multivariate Gaussians. The Fisher Information Matrix (FIM) is derived for several different parameterizations of Gaussians. Careful attention is paid to the symmetric nature of the covariance matrix when calculating derivatives. We show that there are some advantages to choosing a parameterization comprising the mean and inverse covariance matrix and provide a simple NGD update that accounts for the symmetric (and sparse) nature of the inverse covariance matrix.

研究の動機と目的

• 自然勾配降下法を活用して、多変量正規分布変分推論のための効率的最適化手法を開発すること。
• 特に対称性とスパarsityに注目し、さまざまな正規分布パラメータライゼーションにおけるフィッシャー情報行列（FIM）を分析すること。
• 平均および逆分散共分散行列のハイブリッドパラメータライゼーションが、他の表現と比較して計算的・数値的利点を有することを示すこと。
• 精度行列の対称性とスパarsity構造を尊重する閉形式のNGD更新式を導出すること。
• 最適化中に逆分散共分散行列のスパarsityを維持することで、大規模問題へのスケーラビリティを実現すること。

提案手法

• 微分を用いた行列微積分を用いて、平均および逆分散共分散行列を含む複数の正規分布パラメータライゼーションにおけるフィッシャー情報行列（FIM）を導出する。
• ベクトル化およびクライマー積の恒等式を適用し、特に対称行列に対して行列式の微分を計算する。
• 冗長性を回避するため、vech作用素と同一化行列を用いて対称行列のパラメータライゼーションを扱う。
• 逆分散共分散行列を、変分損失のヘッセ行列を用いて更新するハイブリッドNGD更新を提案する：$\Sigma^{-1} \leftarrow \frac{\partial^2 V}{\partial \mu^T \partial \mu}$。
• 2段階の更新手順を実装する：$\Sigma^{-1} \delta\mu = -\frac{\partial V}{\partial \mu^T}$ の後に $\Sigma^{-1} \leftarrow \frac{\partial^2 V}{\partial \mu^T \partial \mu}$ を実行し、対称性とスパarsityを保証する。
• 尤度の因子分解を活用して、逆分散共分散行列におけるスパarsityを維持する。具体的には、$\Sigma^{-1} = \sum_k \mathbf{P}_k^T \frac{\partial^2 V_k}{\partial \mu_k^T \partial \mu_k} \mathbf{P}_k$ と表現され、更新のたびにスパarsityパターンが保存される。

実験結果

リサーチクエスチョン

• RQ1 平均、分散共分散行列、または逆分散共分散行列といったパラメータライゼーションの選択が、多変量正規分布変分推論における自然勾配降下法の効率性と安定性にどのように影響を与えるか？
• RQ2 分散共分散行列および逆分散共分散行列の対称構造を、冗長性を生じさせることなく勾配計算に適切に組み込むことができるか？
• RQ3 平均と逆分散共分散行列のハイブリッドパラメータライゼーションが、より単純で安定的かつスパarsityを保つNGD更新をもたらすか？
• RQ4 フィッシャー情報行列は、正規分布変分族における自然勾配更新をどのように規定するか？
• RQ5 高次元問題におけるスケーラビリティを実現するため、最適化中に逆分散共分散行列のスパarsityをどのように維持できるか？

主な発見

• 平均および逆分散共分散行列のハイブリッドパラメータライゼーションは、他のパラメータライゼーションと比較して、より自然で計算的に効率的なNGD更新を実現する。
• 逆分散共分散行列のNGD更新式は $\Sigma^{-1} \leftarrow \frac{\partial^2 V}{\partial \mu^T \partial \mu}$ として導出され、更新を単純化し、余分な行列項の導入を回避する。
• この手法は、因子分解された尤度構造に由来するスパarsityパターンをヘッセ行列の更新が引き継ぐため、逆分散共分散行列のスパarsityを本質的に保持する。
• 全フィッシャー情報行列の明示的計算を避けて、変分損失の局所的微分を用いて自然勾配を効率的に計算する。
• ロボット工学や大規模確率的モデルへの応用例から、高次元設定でもスケーラブルな推論が可能であることが示された。
• ベクトル化およびクライマー代数を用いた行列微積分により、対称行列に対する勾配およびヘッセ行列の系統的な導出が可能となり、手動による重複を回避できる。