[論文レビュー] On information projections between multivariate elliptical and location-scale families

Frank Nielsen|arXiv (Cornell University)|Jan 11, 2021

Advanced Statistical Methods and Models参考文献 34被引用数 4

ひとこと要約

本稿では、規定分布の場所およびスケールパラメータの選択にかかわらず、場所スケール族と別の場所スケール族との間の最小f-発散度が不変であることを確立している。多変量場所スケール群作用における不変性を活用することで、著者らはf-発散度の計算を標準形に還元し、効率的なモンテカルロ推定を可能にするとともに、Fisher-Rao計量を用いた双曲空間における幾何的解釈を明らかにした。

ABSTRACT

We study information projections with respect to statistical $f$-divergences between any two location-scale families. We consider a multivariate generalization of the location-scale families which includes the elliptical and the spherical subfamilies. By using the action of the multivariate location-scale group, we show how to reduce the calculation of $f$-divergences between any two location-scale densities to canonical settings involving standard densities, and derive thereof fast Monte Carlo estimators of $f$-divergences with good properties. Finally, we prove that the minimum $f$-divergence between a prescribed density of a location-scale family and another location-scale family is independent of the prescribed location-scale parameter. We interpret geometrically this property.

研究の動機と目的

• 多変量楕円族と場所スケール族との間の情報投影をf-発散度を用いて研究すること。
• 多変量場所スケール群作用におけるf-発散度の不変性の性質を導出すること。
• f-発散度の計算を、効率的な推定に適した標準密度を含む標準形に還元すること。
• 最小f-発散度の投影が、規定された場所スケールパラメータの選択に依存しないことを証明すること。
• 双曲幾何とFisher-Rao計量を用いて、不変性の性質の幾何的解釈を提供すること。

提案手法

• 多変量場所スケール群の作用を用いて、任意の密度を標準形に変換し、f-発散度の計算を単純化する。
• 場所スケール変換におけるf-発散度の不変性を導出する（定理1）、これにより標準密度への還元が可能になる。
• Fisher-Rao計量を適用することで、場所スケール族の統計多様体が一定の負の曲率を持つことを示し、双曲幾何を示す。
• 閉形式での計算が困難な場合に、標準還元を活用してf-発散度の高速モンテカルロ推定器を構築する。
• Möbius変換とSLℝ(2)とSUℂ(1,1)の同型写像を用いて、Poincaré上半平面を単位円板に写像し、幾何的解析を実施する。
• 場所スケール族に属する二つの密度間のFisher-Rao距離が、Poincaréモデルにおけるスケーリングされた双曲距離に対応することを確立する。

実験結果

リサーチクエスチョン

• RQ1 規定された場所スケール族と別の場所スケール族との間の最小f-発散度は、規定分布のパラメータの選択に依存するか？
• RQ2 任意の場所スケール密度間のf-発散度は、標準密度を含む標準形に還元可能か？
• RQ3 Fisher-Rao計量下での場所スケール族の統計多様体の幾何的構造は何か？
• RQ4 場所スケール族間のf-発散度に対して、効率的なモンテカルロ推定器をどのように構築できるか？
• RQ5 多変量場所スケール群の役割は、情報投影問題の単純化にどのように寄与するか？

主な発見

• 規定された場所スケール族と別の場所スケール族との間の最小f-発散度は、規定された分布の場所およびスケールパラメータの選択に依存しない。
• f-発散度は多変量場所スケール群の作用に対して不変であり、標準密度を含む標準設定への還元が可能になる。
• 場所スケール族におけるFisher-Rao計量は、一定の負の曲率κ = −1/b²を持つ双曲幾何を誘導する。
• 多変量正規族の場合、Fisher-Rao距離は、曲率κ = −1/2のPoincaré上半平面における双曲距離に比例する。
• コーシー族の場合、Fisher-Rao距離は、曲率κ = −2のスケーリングされた双曲距離に対応する。
• 標準還元を活用することで、f-発散度の効率的なモンテカルロ推定器が構築され、良好な統計的性質が保証される。