[論文レビュー] Breakdown Properties of the M-Estimators of Multivariate Scatter

David E. Tyler|arXiv (Cornell University)|Jun 18, 2014

Advanced Statistical Methods and Models参考文献 1被引用数 14

ひとこと要約

本稿は、多変量分散のアフィン不変 M-推定量の有限標本破綻点について精確な分析を提供し、それまでの上限が 1/(p+1) とされていた低破綻点が、主に1つの平面に制限された汚染（同一平面上の汚染）に起因することを示している。本研究は、このような汚染が存在しない状況では、M-推定量が 1/2 に近い破綻点を達成可能であることを示しており、低破綿点がロバスト推定において本質的に問題であるという仮定に疑問を呈している。

ABSTRACT

The M-estimators of multivariate scatter are known to have breakdown points no greater than 1/(p+1), where p is the dimension of the data. In high dimension, the breakdown points are usually considered to be disappointingly low. This paper studies the breakdown problem in more detail. The exact breakdown points for the M-estimators of scatter are obtained and it is shown that their low values are primarily due to contamination restricted to some plane. If such "coplanar" contamination is not present, then there exists M-estimators which have breakdown points close to 1/2. The effect of coplanar contamination is further examined and is shown to be related to the singularity of the scatter matrix. Finally, the implications of the results of this paper on whether the low breakdown point is necessarily a bad feature and on multivariate outlier detection are briefly discussed. This paper is a reprint of an unpublished 1986 Rutgers Technical Report.

研究の動機と目的

• 多変量分散の M-推定量の有限標本破綿点が低くなる要因を調査すること。
• 低破綿点が本質的制限であるのか、あるいは特定の汚染パターンの結果であるのかを特定すること。
• 同一平面上のデータ点（同一平面上の汚染）が M-推定量の破綿を引き起こす役割を検討すること。
• 高次元においても、M-推定量が高破綿点を達成できる条件を探索すること。
• 特に外れ値検出との関連において、ロバスト多変量統計における低破綿点の望ましさを再評価すること。

提案手法

• Donoho と Huber (1983) が提唱した有限標本破綿点定義を用いて、M-推定量の分散に関する正確な破綿点を導出する。
• 特に p−1 次元部分空間に制限された汚染に対する M-推定量の挙動を分析する。
• 行列収束の議論と重み関数 u(s) 及びその関連関数 ψ(s) = s·u(s) の漸近的挙動を用いて、推定量の不安定性を検討する。
• Tyler (1985) が提唱した M-推定量の存在および一意性の条件を適用し、破綿の必要十分条件を確立する。
• 部分列収束技術を用いて、汚染下での逆分散行列の極限挙動を分析する。
• 同一平面上の汚染により分散行列が特異化することにより、M-推定量が破綿することを示している。これは極端な外れ値や内点が存在しない場合でも成立する。

実験結果

リサーチクエスチョン

• RQ1 多変量分散の M-推定量の正確な有限標本破綿点は何か？
• RQ2 特に高次元において、M-推定量の破綿点が 1/(p+1) にまで低くなるのはなぜか？
• RQ3 低破綿点は推定量の本質的不安定性に起因するのか、それとも特定の汚染パターンの結果なのか？
• RQ4 同一平面上の汚染が存在しない場合、M-推定量は 1/2 に近い高破綿点を達成できるか？
• RQ5 同一平面上の汚染は、分散行列の特異化および推定量の破綿とどのように関連しているか？

主な発見

• 多変量分散の M-推定量の有限標本破綿点に対する上界 1/(p+1) は、上界としての意味ではなく、正確な値である。
• 低破綿点の主な原因は、1つの平面に制限された汚染（同一平面上の汚染）であり、これは多変量設定に特有の現象である。
• 同一平面上の汚染が存在しない場合、1/2 に限りなく近い破綿点を達成できる M-推定量が存在する。
• 一部の M-推定量は、極端な外れ値や内点が存在しない状況でも、わずかな割合の同一平面上の汚染によって破綿する可能性がある。
• 同一平面上の汚染は、分散行列の特異化を引き起こし、これが直接的に推定量の破綿を引き起こす。
• 破綿の挙動は、重み関数 ψ(s) の漸近的挙動と関連しており、特に汚染下で ψ(s) → 0 または無限大に発散する場合に顕著である。