[論文レビュー] An Overview on the Estimation of Large Covariance and Precision Matrices

Jianqing Fan, Yuan Liao+1 more|arXiv (Cornell University)|Apr 12, 2015

Advanced Statistical Methods and Models参考文献 79被引用数 9

ひとこと要約

本稿は、次元が標本サイズを上回る高次元設定における、大規模な共分散行列および精度行列の推定に関する現代的手法を包括的にレビューしている。主にランクベースと要因モデルに基づくアプローチに焦点を当て、重い尾を持つ楕円分布下でも、ロバストなランクベース推定量がほぼ最適な収束速度を達成することを示している。一方、要因モデルは、共通要因が存在する場合に、低ランク＋スparser分解を用いて効率的な推定を可能にする。

ABSTRACT

Estimating large covariance and precision matrices are fundamental in modern multivariate analysis. The problems arise from statistical analysis of large panel economics and finance data. The covariance matrix reveals marginal correlations between variables, while the precision matrix encodes conditional correlations between pairs of variables given the remaining variables. In this paper, we provide a selective review of several recent developments on estimating large covariance and precision matrices. We focus on two general approaches: rank based method and factor model based method. Theories and applications of both approaches are presented. These methods are expected to be widely applicable to analysis of economic and financial data.

研究の動機と目的

• 次元が標本サイズを上回る状況において、大規模な共分散行列および精度行列を推定するという課題に取り組む。
• 非正規、重い尾を持つデータ下でのロバスト推定に適したランクベース手法と、共通の依存構造をモデル化するための要因モデルベース手法という、2つの主要なアプローチをレビューおよび比較する。
• これらの手法の理論的性質と、経済学、ファイナンス、および高次元統計分野における実用的応用を提示する。
• 要因モデルとランクベース手法の統合が、ロバストで高次元の共分散行列推定のための有望な今後の方向性であることを強調する。

提案手法

• 本稿は、ℓ1正則化付き尤度関数および非凸正則化を用いたスパース共分散および精度行列のしきい値処理に基づく推定をレビューする。
• EPICおよびEC2といったランクベース推定量を導入し、楕円分布下でケンダールのτ相関を用いてロバストな相関行列を構築する。
• 要因モデルに関しては、共分散行列を低ランク成分（共通要因）とスパース成分（固有誤差）に分解し、主成分分析またはロバストな主成分分析を用いて推定する。
• 2段階推定アプローチを採用する：まず要因および因子負荷（または残差）を推定し、その後、残差のランクベース相関行列にしきい値処理を適用してスパarsityを強制する。
• 有効なスパース共分散推定量をランクベース相関推定量から得るために、最近傍正定値射影およびしきい値処理ルールを用いる。
• 潜在的要因に関しては、観測データのランクベース共分散行列にロバストな主成分分析を適用して共通要因を推定し、その後残差を抽出して誤差共分散を推定する。

実験結果

リサーチクエスチョン

• RQ1 次元が標本サイズを上回る場合、どのようにして大規模な共分散行列を一貫して推定できるか？
• RQ2 重い尾を持つ楕円分布下におけるランクベース推定量の理論的性質および収束速度は何か？
• RQ3 要因モデルを用いて、高次元共分散行列を低ランク成分とスパース成分に分解し、推定を改善するにはどうすればよいか？
• RQ4 重い尾を持つ誤差が存在する状況において、要因モデルとランクベースのロバスト性を組み合わせたハイブリッド推定量の性能はいかがなものか？
• RQ5 ランクベース相関行列にしきい値処理を適用することで、スペクトルノルムにおいて最適な推定速度が達成可能か？

主な発見

• EPICやEC2といったランクベース推定量は、楕円分布下、特に重い尾を持つデータでも、スペクトルノルムにおいてほぼ最適な収束速度を達成する。
• 理論的分析により、ランクベース相関行列のしきい値処理が、スパース精度行列および共分散行列の一貫した推定をもたらすことが確認された。
• 共通要因が観測可能である場合、要因モデルとロバスト回帰、ランクベース残差推定を組み合わせたアプローチにより、最適な収束速度を達成するロバストな共分散推定量が得られる。
• 要因が観測不能な場合、ランクベース共分散行列にロバストな主成分分析を適用することで、要因構造の一貫した推定が可能となり、全共分散の有効な分解が得られる。
• 要因モデルとランクベース推定を組み合わせたハイブリッドアプローチは、重い尾を持つイノベーションを示す金融・経済データに対して特に効果的であることが示された。
• ピアソン相関の代わりにケンダールのτを用いることで、楕円分布に対してロバスト性が得られ、変換 $\sin(\frac{\pi}{2}\tau)$ を用いることで母集団共分散行列が回復可能であることが確立された。