[논문 리뷰] Least trimmed squares regression with missing values and cellwise outliers

Jakob Raymaekers, Peter J. Rousseeuw|arXiv (Cornell University)|2026. 03. 04.

Advanced Statistical Methods and Models인용 수 0

한 줄 요약

논문은 cellLTS를 도입하는데, 이는 예측 변수의 셀 단위 이상치와 누락 데이터를 정리하는 두 단계의 강건 회귀 방법이며, 정리된 행렬에서 강건한 LTS 회귀를 수행하여 강건한 샘플 외(out-of-sample) 예측을 가능하게 한다.

ABSTRACT

Regression is the workhorse of statistics, and is often faced with real data that contain outliers. When these are casewise outliers, that is, cases that are entirely wrong or belong to a different population, the issue can be remedied by existing casewise robust regression methods. It is another matter when cellwise outliers occur, that is, suspicious individual entries in the data matrix containing the regressors and the response. We propose a new regression method that is robust to both casewise and cellwise outliers, and handles missing values as well. Its construction allows for skewed distributions. We show that it obeys the first breakdown result for cellwise robust regression. It is also the first such method that is geared to making robust out-of-sample predictions. Its performance is studied by simulation, and it is illustrated on a substantial real dataset.

연구 동기 및 목표

• 데이터에 셀 단위 이상치와 누락 항목이 모두 있는 데이터에 대한 회귀 분석 동기를 제시한다.
• 먼저 예측 변수를 정리한 다음 그다음 응답 변수를 강건하게 회귀시키는 2단계 방법론을 개발한다.
• 왜곡에 대응하고 강건성을 개선하기 위한 대칭화 접근법을 제공한다.
• 이론적 붕괴 특성(breakdown properties)을 확립하고 시뮬레이션 및 실제 데이터에서 경험적 성능을 시연한다.

제안 방법

• cellMCD를 대칭화된 예측 변수에 적용하여 오염된 셀을 탐지하고 대치한다.
• 강건한 추정치와 최선 선형 예측을 사용하여 누락 값과 이상치 셀을 대치한다.
• 응답과 회귀변수를 대칭화하고 표준화한 다음 증강된 데이터에서 셀 단위 강건 LTS(cellLTS)를 수행한다.
• 강건 잔차 조정 후 절편을 얻기 위해 LTS 해를 안정화시키기 위해 작은 릿지 패널티를 사용한다.
• 새 입력을 예측하기 전에 먼저 정리하여 샘플 외 예측을 수행하는 절차를 제공한다.

Figure 1: A toy example to illustrate the basic idea of the method.

실험 결과

연구 질문

• RQ1 셀 단위 이상치와 누락 값이 모두 존재하는 경우 회귀 계수를 강건하게 어떻게 추정할 수 있는가?
• RQ2 강건한 셀단위 정리 후 케이스단위 회귀가 샘플 외 예측에 신뢰성을 줄 수 있는가?
• RQ3 제안된 셀단위 강건 회귀 접근법의 붕괴 특성은 어떠한가?
• RQ4 다양한 분포와 오염 패턴 하에서 기존의 강건 회귀 접근법에 비해 이 방법의 성능은 어떠한가?

주요 결과

• 제안된 cellLTS 방법은 왜곡된 및 가우시안 예측 변수를 가진 시뮬레이션 설정에서 계수 정확도와 샘플 외 예측에서 경쟁 방법을 능가한다.
• 실용적인 k(예: 20개의 임의 치환)으로의 대칭화는 전체 쌍차 차분과 유사한 결과를 제공하면서 계산을 줄여준다.
• 이 방법은 회귀 추정기에 대한 최초의 셀단위 붕괴 값 결과를 달성하며, 붕괴 동작은 오염된 셀의 비율에 연결된다.
• 실제 데이터의 암 사망률 예에서 cellLTS는 OLS와 다른 계수와 예측을 제공하고, 이상 항목에 대해 해석 가능한 셀 수준 진단도 제공한다(cellmap).

Figure 2: Top: average MD (on log scale) of the estimated coefficients for $n=400$ , $d=20$ , $\varepsilon=20\%$ of cellwise outliers, and $\bm{\Sigma}=\bm{\Sigma}_{\mbox{\scriptsize ALYZ}}$ (left) or $\bm{\Sigma}=\bm{\Sigma}_{\mbox{\scriptsize A09}}$ (right), for normal predictors. Bottom: correspo