[論文レビュー] Robust Covariance Estimation for Approximate Factor Models

Jianqing Fan, Weichen Wang+1 more|arXiv (Cornell University)|Feb 1, 2016

Statistical Methods and Inference参考文献 38被引用数 5

ひとこと要約

本稿は、観測因子を伴う近似因子モデルにおける頑健な共分散推定フレームワークを提案し、重い尾を持つデータに対処するためにHuber損失の最小化を用いる。初期の同時共分散推定器が最適な要素別レートを達成する場合、最終的な共分散推定値は、サブガウス分布および4次のモーメントが有界な楕円分布に対しても望ましい漸近的性質を継承することを確立する。

ABSTRACT

In this paper, we study robust covariance estimation under the approximate factor model with observed factors. We propose a novel framework to first estimate the initial joint covariance matrix of the observed data and the factors, and then use it to recover the covariance matrix of the observed data. We prove that once the initial matrix estimator is good enough to maintain the element-wise optimal rate, the whole procedure will generate an estimated covariance with desired properties. For data with only bounded fourth moments, we propose to use Huber loss minimization to give the initial joint covariance estimation. This approach is applicable to a much wider range of distributions, including sub-Gaussian and elliptical distributions. We also present an asymptotic result for Huber's M-estimator with a diverging parameter. The conclusions are demonstrated by extensive simulations and real data analysis.

研究の動機と目的

• データに重い尾または4次のモーメントが有界な場合に、近似因子モデルにおける頑健な共分散推定法を開発すること。
• 従来の手法がサブガウス的またはサブ指数的尾を持つと仮定するという制限を解消すること。
• 観測データと因子の同時共分散を最初に推定し、その後観測データの共分散を回復する2段階フレームワークを提案すること。
• 弱いモーメント条件の下で理論的保証を確立し、より広範な分布クラスへの適用可能性を拡張すること。
• 発散するパrameterを伴うHuberのM推定量の漸近理論を提供し、高次元設定における頑健性を裏付けること。

提案手法

• 2段階推定フレームワークを提案：まず観測データと因子の同時共分散行列を推定し、その後観測データの共分散行列を回復する。
• Huber損失の最小化を用いて初期の同時共分散推定器を構築し、重い尾を持つ分布に対しても頑健性を確保する。
• 初期推定器が要素別で最適なレートを達成する場合、最終的な共分散推定値が望ましい統計的性質を継承することを確立する。
• 4次のモーメントが有界なデータにこのフレームワークを適用し、サブガウス的および楕円分布への適用可能性を可能にする。
• 発散するパrameter設定下でのHuber M推定量の漸近正規性を導出する。これにより、古典的結果が高次元的・重い尾を持つ設定へと拡張される。
• Huber損失関数の微分の挙動とテイラー展開を組み合わせた、独自の理論的議論を用いて、分布収束の証明を行う。

実験結果

リサーチクエスチョン

• RQ1 4次のモーメントが有界な場合に、近似因子モデルにおける頑健な共分散推定が可能か？
• RQ2 Huber損失の最小化は、観測変数と因子の同時共分散に対して一貫的かつ漸近正規な推定量をもたらすか？
• RQ3 2段階推定フレームワークが、最適な収束レートを持つ共分散推定量を生成する条件は何か？
• RQ4 重い尾を持つ非サブガウス的分布下で、Huberベースの推定量は古典的推定量と比べてどのように性能を発揮するか？
• RQ5 チューニングパrameterが標本サイズとともに発散する場合、Huber M推定量の漸近分布は何か？

主な発見

• 提案された2段階フレームワークにより、初期の同時共分散推定器が要素別で最適なレートを達成する場合、最終的な共分散推定値は望ましい統計的性質を継承することが保証される。
• Huber損失の最小化により、4次のモーメントが有界なサブガウス的および楕円分布に対しても良好に機能する頑健な初期推定器が得られる。
• チューニングパrameterが標本サイズとともに発散する場合でも、Huber M推定量の漸近正規性が確立される。
• 理論的分析により、Huber推定量がパrametricレートで正規分布に分布収束すること、および極限分散が母集団分布の尖度に依存することが確認された。
• 本手法は重い尾を持つ誤差に対して頑健であり、きわめて弱いモーメント条件のもとでも効率性を維持することが示された。
• 広範なシミュレーションおよび実データ解析により、本手法が重い尾を持つ設定下で、古典的推定量に比べて優れた有限標本性能を示すことが確認された。