[論文レビュー] Infinite-dimensional Log-Determinant divergences II: Alpha-Beta divergences

Hà Quang Minh|arXiv (Cornell University)|Oct 13, 2016

Mathematical Inequalities and Applications参考文献 8被引用数 4

ひとこと要約

本論文は、ヒルベルト空間上の正定値ユニタリトレースクラス作用素の無限次元設定に、有限次元のアルファ-ベータ対数行列式発散度の一般化された族を導入する。これにより、有限次元のアルファ-ベータ発散度が拡張される。本研究では、これらの発散度がアフィン不変性を有するリーマン計量と対称的スティーブン発散度といった主要な計量を統合することを確立し、入力データのグラム行列を用いて再生核ヒルベルト空間（RKHS）における共分散作用素の閉形式表現を提供する。

ABSTRACT

This work presents a parametrized family of divergences, namely Alpha-Beta Log- Determinant (Log-Det) divergences, between positive definite unitized trace class operators on a Hilbert space. This is a generalization of the Alpha-Beta Log-Determinant divergences between symmetric, positive definite matrices to the infinite-dimensional setting. The family of Alpha-Beta Log-Det divergences is highly general and contains many divergences as special cases, including the recently formulated infinite dimensional affine-invariant Riemannian distance and the infinite-dimensional Alpha Log-Det divergences between positive definite unitized trace class operators. In particular, it includes a parametrized family of metrics between positive definite trace class operators, with the affine-invariant Riemannian distance and the square root of the symmetric Stein divergence being special cases. For the Alpha-Beta Log-Det divergences between covariance operators on a Reproducing Kernel Hilbert Space (RKHS), we obtain closed form formulas via the corresponding Gram matrices.

研究の動機と目的

• . 有限次元のアルファ-ベータ対数行列式発散度を、正定値ユニタリトレースクラス作用素の無限次元設定に一般化すること。
• . アフィン不変性リーマン計量と対称的スティーブン発散度といった既存の発散度を、一様なパrametricフレームワークの下で統合すること。
• . 入力データのグラム行列を用いて、再生核ヒルベルト空間（RKHS）における共分散作用素間の発散度の閉形式表現を導出すること。
• . 発散度の計量的性質、すなわち対称性、正定値性、および三角不等式を確立すること。
• . 対数行列式発散度の理論的基盤を、収束性と連続性の厳密な証明を伴って、無限次元ヒルベルト空間へと拡張すること。

提案手法

• . 拡張されたフレドホルム行列式とトレースクラス作用素理論を用いて、正定値ユニタリトレースクラス作用素に対するアルファ-ベータ対数行列式発散度を定義する。
• . スペクトル分解と有限ランク近似を用いて、有限次元の結果を無限次元へと拡張する。
• . トレースノルムにおける収束性とフレドホルム行列式の連続性を適用し、近似における極限の保存を証明する。
• . 入力データのグラム行列と関連付けることで、RKHSにおける共分散作用素間の発散度の閉形式式を導出する。
• . アルファ-ベータ対数行列式発散度の平方根が、正定値ユニタリトレースクラス作用素の空間上で計量を形成することを証明する。
• . 特別な場合として、アフィン不変性リーマン計量（α=0, β=0 の極限）と対称的スティーブン発散度（α=β=1/2）が得られることを示す。

実験結果

リサーチクエスチョン

• RQ1 . 有限次元のアルファ-ベータ対数行列式発散度は、正定値ユニタリトレースクラス作用素の無限次元設定に厳密に拡張可能か？
• RQ2 . 無限次元設定におけるアルファ-ベータ対数行列式発散度は、アフィン不変性リーマン計量や対称的スティーブン発散度といった既知の発散度を統合するか？
• RQ3 . 再生核ヒルベルト空間（RKHS）における共分散作用素間のアルファ-ベータ対数行列式発散度に、閉形式の表現が存在するか？
• RQ4 . アルファ-ベータ対数行列式発散度の平方根は、正定値ユニタリトレースクラス作用素の空間上で有効な計量か？
• RQ5 . フレドホルム行列式および作用素ノルムの収束性と連続性の性質は、無限次元発散度定義の妥当性をどのように保証するか？

主な発見

• . アルファ-ベータ対数行列式発散度は、すべての α, β > 0 に対して定義可能であり、正定値ユニタリトレースクラス作用素の空間上で連続的で、対称的かつ正定値の発散度を形成する。
• . アフィン不変性リーマン計量は、D(0,0)(A,B) の極限として回復され、新しい枠組み内での特殊ケースとしての役割が裏付けられる。
• . 対称的スティーブン発散度は D(1/2,1/2)(A,B) として得られ、その平方根が正定値ユニタリトレースクラス作用素の空間上で計量であることが証明されている。
• . RKHSにおける共分散作用素に関して、アルファ-ベータ対数行列式発散度は対応するグラム行列を用いた閉形式表現を有し、計算が効率的に行える。
• . アルファ-ベータ対数行列式発散度の平方根は三角不等式を満たし、正定値ユニタリトレースクラス作用素の空間上で有効な計量であることが確立される。
• . 発散度はユニタリ変換に対して不変であり、有限ランク近似においても収束性を保ち、ロバスト性と数値的実行可能性が保証される。