[論文レビュー] The total variation distance between high-dimensional Gaussians

Luc Devroye, Abbas Mehrabian+1 more|arXiv (Cornell University)|Oct 19, 2018

Mathematical Approximation and Integration参考文献 7被引用数 85

ひとこと要約

本稿は、高次元ガウス分布間の全変動距離について、タイトな上界と下界を確立し、それらが定数倍の範囲内に収まることを示している。解析はスペクトル的性質と濃縮不等式を活用して、高次元設定における距離を特徴づけ、このような分布間の統計的類似性の鋭い漸近的特徴付けを提供する。

ABSTRACT

We prove a lower bound and an upper bound for the total variation distance between two high-dimensional Gaussians, which are within a constant factor of one another.

研究の動機と目的

• 高次元ガウス分布間の全変動距離のタイトな境界を導出すること。
• 次元が増加する際のこの距離の漸近的挙動を理解すること。
• 上界と下界が定数倍の範囲内に収まることを確立し、タイト性を保証すること。
• 高次元確率分布を比較するための理論的基盤を提供すること。

提案手法

• ガウス測度の性質と固有値解析を用いて、全変動距離の下界を導出する。
• 測度の濃縮とモーメントに基づく不等式を用いて、上界を確立する。
• 平均ベクトルおよび共分散行列の差の観点から距離を分析する。
• スペクトル分解を用いて、距離を共分散作用素の差の特異値に関連付ける。
• 対称化と比較技術を適用し、問題を1次元積分に簡略化する。
• 上界と下界の比が次元に依存しない絶対定数で一様に有界であることを示す。

実験結果

リサーチクエスチョン

• RQ1 2つの高次元ガウス分布間の全変動距離は、どの程度タイトに境界づけられるか？
• RQ2 次元が増加する際、この距離の漸近的挙動はいかなるものか？
• RQ3 上界と下界を互いに定数倍の範囲内に保つことができるか？
• RQ4 平均値および共分散の差が、高次元における全変動距離にどのように影響するか？

主な発見

• 2つの高次元ガウス分布間の全変動距離は、定数倍の範囲内で上界と下界で抑えられる。
• 境界は共分散行列の差のスペクトルノルムおよび平均ベクトルの差のノルムに依存する。
• 上界と下界の比は、次元に依存しない絶対定数で一様に有界である。
• 解析により、距離は共分散差の最大特異値によって主に支配されていることが明らかになった。
• 結果はきわめて弱いモーメント条件のもとで成り立ち、等方性や単位共分散行列の仮定を必要としない。