[論文レビュー] Large Covariance Estimation by Thresholding Principal Orthogonal Complements

Jianqing Fan, Yuan Liao+1 more|arXiv (Cornell University)|Dec 30, 2011

Random Matrices and Applications参考文献 51被引用数 4

ひとこと要約

本稿では、スパースな特異誤差を伴う近似的要因モデル下での高次元共分散行列の推定のために、主直交補完しきい値処理（POET）手法を提案する。共通要因を抽出する主成分分析と、残差共分散行列へのスパース性を誘導するしきい値処理を組み合わせることで、複数の行列ノルムにおいて最適な収束速度を達成し、次元が高くなるにつれて推定誤差が小さくなる。

ABSTRACT

This paper deals with the estimation of a high-dimensional covariance with a conditional sparsity structure and fast-diverging eigenvalues. By assuming sparse error covariance matrix in an approximate factor model, we allow for the presence of some cross-sectional correlation even after taking out common but unobservable factors. We introduce the Principal Orthogonal complEment Thresholding (POET) method to explore such an approximate factor structure with sparsity. The POET estimator includes the sample covariance matrix, the factor-based covariance matrix (Fan, Fan, and Lv, 2008), the thresholding estimator (Bickel and Levina, 2008) and the adaptive thresholding estimator (Cai and Liu, 2011) as specific examples. We provide mathematical insights when the factor analysis is approximately the same as the principal component analysis for high-dimensional data. The rates of convergence of the sparse residual covariance matrix and the conditional sparse covariance matrix are studied under various norms. It is shown that the impact of estimating the unknown factors vanishes as the dimensionality increases. The uniform rates of convergence for the unobserved factors and their factor loadings are derived. The asymptotic results are also verified by extensive simulation studies. Finally, a real data application on portfolio allocation is presented.

研究の動機と目的

• 標本共分散行列が性能を発揮しない高次元設定における大規模共分散行列の推定という課題に対処する。
• 共通要因を除去した後も残存する横断的相関を考慮し、特異誤差共分散行列に条件付きスパース性を仮定する。
• 既存の手法（しきい値処理や要因ベース推定）を統合的に扱う、単一でスケーラブルなフレームワークを構築する。
• さまざまな行列ノルム下での推定共分散行列および精度行列の理論的収束速度を確立する。
• 次元数pが増加する際、未観測要因の推定に起因する影響が消失することを示し、高次元pおよび大標本Tの設定でも一貫した推定が可能であることを示す。

提案手法

• 観測変数が低ランクの要因構造とスパースな誤差成分に依存する近似的要因モデルで高次元データをモデル化する。
• データ行列の主成分分析により共通要因を推定し、最初のK成分が主要な変動を捉えていると仮定する。
• 要因に起因する変動を除去した後、主直交補完（残差行列）を抽出し、特異成分を分離する。
• チューニングパrameterをデータ駆動的手法で選択することで、残差共分散行列にしきい値処理を適用し、スパース性を強制する。
• 2段階推定手順を採用する：まず因子負荷行列と共通要因を推定し、その後残差にしきい値処理を施してスパースかつ一貫した推定量を取得する。
• 高次元漸近的設定下での推定量の漸近的性質を導出するために、Sherman-Morrison-Woodburyの公式と行列摂動理論を活用する。

実験結果

リサーチクエスチョン

• RQ1 要因モデルとスパース性を統合した一貫した推定量を構築できるか？
• RQ2 残差共分散行列および条件付き共分散行列の各行列ノルム（例：Frobeniusノルム、作用素ノルム、最大ノルム）下でのPOET推定量の収束速度は何か？
• RQ3 次元数pを標本サイズTに対して増加させる際、未知の要因およびその負荷の推定誤差はどのように振る舞うか？
• RQ4 p → ∞ において、未観測要因の推定に起因する影響がどの程度小さくなるか、またその影響が無視可能となる条件は何か？
• RQ5 POET推定量は、しきい値処理や要因ベース推定といった既存手法と比較して、理論的一貫性および有限標本性能においてどのように異なるか？

主な発見

• POET推定量は、Frobeniusノルム、作用素ノルム、最大ノルム下で、スパースな残差共分散行列に対して最適な収束速度を達成し、収束速度はスパース性の程度と固有値の発散に依存する。
• 精度行列推定量の収束速度は $ O_p( au_{T}^{1-q} m_p) $ である。ここで $ m_p $ はスパース性を測る指標であり、$ au_T $ は要因の推定誤差を制御する。
• 未観測要因の推定に起因する影響は、次元数が増加するに従い漸近的に消失し、要因推定誤差は $ O_p( au_T) $ の速度で減少する。
• 未観測要因およびその負荷の推定における一様収束速度は $ O_p( au_T) $ であり、$ au_T $ は信号対雑音比に関連するデータ依存チューニングパrameterである。
• シミュレーション研究により、POETは高次元かつスパースな誤差構造下で、バイアスおよび平均二乗誤差の観点で、標準的なしきい値処理や要因ベース推定手法を上回ることを確認した。
• 実データ応用（ポートフォリオ最適化）において、POETは代替手法と比較してより安定的かつ多様化されたポートフォリオを生成し、実用的有効性を裏付けた。