[논문 리뷰] Breakdown Properties of the M-Estimators of Multivariate Scatter

David E. Tyler|arXiv (Cornell University)|2014. 06. 18.

Advanced Statistical Methods and Models참고 문헌 1인용 수 14

한 줄 요약

이 논문은 다변량 산란에 대한 애फ인 불변 M-추정량의 유한 표본 붕괴점에 대한 정밀한 분석을 제공하며, 이들 추정량의 낮은 붕괴점—이전에 1/(p+1)로 상한이 설정되어 있었음—이 주로 한 평면에 국한된 오염(공면 오염) 때문임을 보여준다. 연구는 이러한 오염이 존재하지 않을 경우 M-추정량이 1/2에 가까운 붕괴점을 달성할 수 있음을 입증하여, 낮은 붕괴점이 강건 추정에서 본질적으로 문제되는 것은 아니라는 가정을 도전한다.

ABSTRACT

The M-estimators of multivariate scatter are known to have breakdown points no greater than 1/(p+1), where p is the dimension of the data. In high dimension, the breakdown points are usually considered to be disappointingly low. This paper studies the breakdown problem in more detail. The exact breakdown points for the M-estimators of scatter are obtained and it is shown that their low values are primarily due to contamination restricted to some plane. If such "coplanar" contamination is not present, then there exists M-estimators which have breakdown points close to 1/2. The effect of coplanar contamination is further examined and is shown to be related to the singularity of the scatter matrix. Finally, the implications of the results of this paper on whether the low breakdown point is necessarily a bad feature and on multivariate outlier detection are briefly discussed. This paper is a reprint of an unpublished 1986 Rutgers Technical Report.

연구 동기 및 목표

• 다변량 산란에 대한 M-추정량의 낮은 유한 표본 붕괴점의 원인을 조사하기 위해.
• 낮은 붕괴점이 본질적인 제약인지 아니면 특정 오염 패턴의 결과인지 결정하기 위해.
• 공면 오염—일반적인 부분공간에 위치한 데이터 포인트—가 M-추정량의 붕괴를 유도하는 역할를 분석하기 위해.
• 고차원에서도 M-추정량이 높은 붕괴점을 달성할 수 있는 조건을 탐색하기 위해.
• 특히 이상치 탐지와의 관련성에서 낮은 붕괴점이 강건 다변량 통계에서 바람직한가를 재평가하기 위해.

제안 방법

• Donoho와 Huber(1983)의 유한 표본 붕괴점 정의를 사용하여 산란에 대한 M-추정량의 정확한 붕괴점을 유도한다.
• 특히 p−1 차원 부분공간에 국한된 오염에 대한 M-추정량의 행동을 분석한다.
• 행렬 수렴 분석 및 가중 함수 u(s)와 그 관련 ψ(s) = s·u(s)의 점근적 분석을 통해 추정량의 불안정성을 연구한다.
• Tyler(1985)의 M-추정량에 대한 존재성 및 유일성 조건을 적용하여 붕괴에 필요한 필수 및 충분 조건을 수립한다.
• 하위수열 수렴 기법을 사용하여 오염 하에서 역 산란 행렬의 점근적 행동을 분석한다.
• 공면 오염로 인해 산란 행렬이 특이행렬이 되면 붕괴가 발생함을 입증한다. 이는 극단적인 이방성이나 내측점이 존재하지 않더라도 발생할 수 있다.

실험 결과

연구 질문

• RQ1 다변량 산란에 대한 M-추정량의 정확한 유한 표본 붕괴점은 무엇인가?
• RQ2 왜 다변량 산란에 대한 M-추정량은 고차원에서 특히 1/(p+1) 수준의 낮은 붕괴점을 보이는가?
• RQ3 낮은 붕괴점은 추정량의 본질적 불안정성 때문인가, 아니면 특정 오염 패턴의 결과인가?
• RQ4 공면 오염이 존재하지 않을 경우 M-추정량은 1/2에 가까운 높은 붕괴점을 달성할 수 있는가?
• RQ5 공면 오염은 산란 행렬의 특이성과 추정량 붕괴와 어떻게 관련되어 있는가?

주요 결과

• 다변량 산란에 대한 M-추정량의 유한 표본 붕괴점에 대한 상한 1/(p+1)은 상한이 아니라 정확한 값이다.
• 낮은 붕괴점의 주요 원인은 한 평면에 국한된 오염(공면 오염)이며, 이는 다변량 설정에서만 나타나는 현상이다.
• 공면 오염이 없을 경우 1/2에 매우 가까운 붕괴점을 갖는 M-추정량가 존재한다.
• 어떤 M-추정량은 극단적인 이방성 또는 내측점이 없더라도 소량의 공면 오염 하에서 붕괴될 수 있다.
• 공면 오염은 산란 행렬의 특이성을 유도하며, 이는 직접적으로 추정량 붕괴를 유발한다.
• 붕괴 행동은 특히 ψ(s) → 0 또는 오염 하에서 무한대가 되는 경우에 해당하는 가중 함수 ψ(s)의 점근적 행동과 관련이 있다.