[論文レビュー] Large Covariance Estimation through Elliptical Factor Models

Jianqing Fan, Han Liu+1 more|arXiv (Cornell University)|Jul 30, 2015

Advanced Statistical Methods and Models参考文献 68被引用数 26

ひとこと要約

本稿は、楕円因子モデル下での大規模な共分散行列推定に対して、頑健な主直交補完閾値処理（POET）フレームワークを提案する。これは、従来の研究を重い尾を持つデータに拡張したものであり、マージナルおよび多変量ケンドールの順位相関係数を活用することで、条件付きスパarsity下で最適な収束速度を達成し、誤差および因子が重い尾を持つ楕円分布に従う場合でも正確な推定を可能にする。

ABSTRACT

We proposed a general Principal Orthogonal complEment Thresholding (POET) framework for large-scale covariance matrix estimation based on an approximate factor model. A set of high level sufficient conditions for the procedure to achieve optimal rates of convergence under different matrix norms were brought up to better understand how POET works. Such a framework allows us to recover the results for sub-Gaussian in a more transparent way that only depends on the concentration properties of the sample covariance matrix. As a new theoretical contribution, for the first time, such a framework allows us to exploit conditional sparsity covariance structure for the heavy-tailed data. In particular, for the elliptical data, we proposed a robust estimator based on marginal and multivariate Kendall's tau to satisfy these conditions. In addition, conditional graphical model was also studied under the same framework. The technical tools developed in this paper are of general interest to high dimensional principal component analysis. Thorough numerical results were also provided to back up the developed theory.

研究の動機と目的

• 従来の因子モデルに基づく共分散行列推定手法が、サブガウス型またはガウス型誤差を仮定しているという限界を解決すること。
• 因子および個別誤差の両方に楕円分布を仮定することで、POETフレームワークを重い尾を持つデータに拡張すること。
• 高次元設定下での条件付きスパarsity下でも最適な収束速度を維持する頑健な推定手順を開発すること。
• 楕円分布下で2次モーメントの代わりに順位ベースの推定量（ケンドールの順位相関係数）を用いる理論的根拠を提示すること。
• 同一の頑健なフレームワーク内で条件付きグラフィカルモデルと共分散行列推定の分析を統合すること。

提案手法

• 条件付きスパarsityを伴う近似因子モデル下での大規模共分散行列推定のための一般化されたPOETフレームワークを提唱する。
• 重い尾を持つデータの高次元設定において、標本共分散の代わりにマージナルおよび多変量ケンドールの順位相関係数に基づく頑健な推定量を導入する。
• さまざまな行列ノルム下での最適な収束速度のための十分条件を確立し、標本共分散行列の濃縮性に依存する。
• ハンソン＝ライト不等式およびサブガウス型尾の境界を用いて、二次形式の高確率境界を導出し、弱いモーメント仮定下での理論的分析を可能にする。
• 潜在因子が誘発する条件付きスパarsity構造を活用することで、条件付きグラフィカルモデルにこのフレームワークを適用する。
• 楕円分布仮定を活用して、順位ベース統計量（ケンドールの順位相関係数）を2次モーメントの代替として用いる根拠を提示する。

実験結果

リサーチクエスチョン

• RQ1 楕円分布下で重い尾を持つデータに対してPOETフレームワークを拡張し、最適な収束速度を維持できるか？
• RQ2 ケンドールの順位相関係数のような頑健な順位ベース推定量を用いることで、条件付きスパarsityおよび重い尾を持つ状況下でも最適な共分散行列推定が可能か？
• RQ3 提案された頑健な推定量の最適な収束速度を保証する因子モデルおよび誤差構造の十分条件は何か？
• RQ4 個別誤差共分散行列の条件付きスパarsity構造が、高次元設定下での推定精度をどの程度向上させるか？
• RQ5 同一の理論的フレームワークを用いて、楕円分布下での条件付きグラフィカルモデルの推定が可能か？

主な発見

• ケンドールの順位相関係数に基づく本稿の頑健なPOET推定量は、楕円因子モデル下でスペクトルノルムおよびフロベニウスノルム下で最適な収束速度を達成する。
• このフレームワークは、標本共分散行列の濃縮性にのみ依存することで、サブガウス型データに対する既知の結果をより明確に再現する。
• 本稿では、初めて重い尾を持つデータに対して順位ベース手法を用いて条件付きスパarsity下での最適推定を確立する。
• ハンソン＝ライト不等式およびサブガウス型尾の仮定を用いて、二次形式の高確率境界が導出され、弱いモーメント条件下でも理論的保証が可能になる。
• 理論的分析により、多変量ケンドールの順位相関係数が高次元において固有空間および共分散行列の一貫した推定を提供することが確認された。
• 数値実験の結果、理論的予想を支持する強力な経験的性能が示され、重い尾分布下での本手法の頑健性が裏付けられた。