[論文レビュー] Geometric methods for estimation of structured covariances

Lipeng Ning, Xianhua Jiang+1 more|arXiv (Cornell University)|Oct 17, 2011

Point processes and geometric inequalities参考文献 20被引用数 11

ひとこと要約

本稿では、Wasserstein距離（Bures/ヘルンガー距離に等価）を測度として用いる幾何的アプローチを提案し、特にトーペリッツ行列である構造的共分散行列の推定を行う。この方法は、線形行列不等式（LMI）を用いた凸最適化問題として定式化され、正定値性およびトーペリッツ制約の自然な組み込みが可能であり、計算が効率的に行える。最大尤度法やブルグ法と比較して、スペクトル線推定において優れた性能を発揮する。

ABSTRACT

We consider problems of estimation of structured covariance matrices, and in particular of matrices with a Toeplitz structure. We follow a geometric viewpoint that is based on some suitable notion of distance. To this end, we overview and compare several alternatives metrics and divergence measures. We advocate a specific one which represents the Wasserstein distance between the corresponding Gaussians distributions and show that it coincides with the so-called Bures/Hellinger distance between covariance matrices as well. Most importantly, besides the physically appealing interpretation, computation of the metric requires solving a linear matrix inequality (LMI). As a consequence, computations scale nicely for problems involving large covariance matrices, and linear prior constraints on the covariance structure are easy to handle. We compare this transportation/Bures/Hellinger metric with the maximum likelihood and the Burg methods as to their performance with regard to estimation of power spectra with spectral lines on a representative case study from the literature.

研究の動機と目的

• 標本共分散行列がバイアスを持つ、または正定値でない場合に、特にトーペリッツ構造を持つ共分散行列を推定する課題に対処すること。
• ガウス分布間の物理的に解釈可能な距離測度に基づく、共分散推定の幾何的フレームワークを構築すること。
• スペクトル線を有するパワー スペクトル推定において、尤度、ブルグ、Wasserstein/Bures距離などの異なる距離測度の性能を比較すること。
• Wasserstein/Bures距離が、LMIを用いて解ける凸最適化問題に帰着できることを示し、大規模行列に対しても効率的な計算が可能であることを証明すること。
• 最大尤度法やブルグ法で一般的に見られる「線分離」アーチファクトを低減し、スペクトル分解能を向上させること。

提案手法

• 本稿では、実験的共分散行列と候補となるトーペリッツかつ半正定値行列との間のWasserstein距離を最小化することで共分散推定を定式化する。
• ゼロ平均ガウス分布間のWasserstein距離が、共分散行列間のBures/ヘルンガー距離に等価であることが示される。
• 最適化問題は、線形行列不等式（LMI）を含む凸計画問題として定式化され、計算が効率的に行えるとともに、線形制約の自然な組み込みが可能である。
• 正定値行列間のWasserstein重心の閉形式解が、行列幾何平均を用いて導出されることを活用する。
• 本手法は、正弦波成分を含むベンチマークスペクトル推定問題において、最大尤度法およびブルグ法と比較される。
• Wasserstein距離の使用により、最大尤度推定でしばしば発生する悪条件性や数値的不安定性を回避できる。

実験結果

リサーチクエスチョン

• RQ1 ガウス分布間のWasserstein距離は、構造的共分散行列推定において他の発散測度と比較してどのように異なるか？
• RQ2 トーペリッツおよび半正定値制約下で、Wasserstein/Bures距離を効率的に計算・最適化できるか？
• RQ3 提示された幾何的アプローチは、密に近接したスペクトル線を解像する点で、最大尤度法およびブルグ法を上回る性能を示すか？
• RQ4 大規模共分散行列に対して、LMIに基づく最適化フレームワークの計算スケーラビリティはいかがなものか？
• RQ5 距離測度の選択が、標本ノイズに対するスペクトル推定の精度とロバストネスにどのように影響するか？

主な発見

• ガウス分布間のWasserstein距離は、数学的に共分散行列間のBures/ヘルンガー距離に等価であり、物理的に解釈可能な測度を提供する。
• Wasserstein距離に基づく最適化問題は、凸LMIに帰着され、大規模行列に対しても効率的かつスケーラブルな計算が可能である。
• 提示された手法は、最大尤度法やブルグ法で一般的に見られる「線分離」アーチファクトを回避し、優れたスペクトル分解能を達成する。
• 最大尤度法と比較して、Wassersteinに基づく推定器は、標本共分散行列のバイアスに対してよりロバストであり、収束特性も優れている。
• LMI定式化により、トーペリッツ構造や半正定値性といった共分散構造に関する線形制約が自然に組み込まれる。
• ベンチマークケーススタディにおいて、Wassersteinに基づく推定器は、最大尤度法およびブルグ法を上回り、スペクトル線の正確な解像を達成した。