[논문 리뷰] A relative error estimation approach for single index model

Zhanfeng Wang, Zimu Chen외 1명|arXiv (Cornell University)|2016. 09. 06.

Statistical Methods and Inference참고 문헌 14인용 수 4

한 줄 요약

이 논문은 단일 지수 모델에 대한 최소 제품 상대오차(LPRE) 추정 방법을 제안하며, 색인 계수와 링크 함수를 추정하기 위해 이단계 절차를 사용한다. 이 방법은 척도 불변성과 강건성을 지니며, 시뮬레이션과 실제 데이터(체지방 연구)에서 최소 제곱법보다 향상된 성능을 보이며, 점점 증명된 점근적 일致성과 정규성을 갖는다.

ABSTRACT

A product relative error estimation method for single index regression model is proposed as an alternative to absolute error methods, such as the least square estimation and the least absolute deviation estimation. It is scale invariant for outcome and covariates in the model. Regression coefficients are estimated via a two-stage procedure and their statistical properties such as consistency and normality are studied. Numerical studies including simulation and a body fat example show that the proposed method performs well.

연구 동기 및 목표

• 단일 지수 모델에 대한 상대오차 기반 추정 방법의 부족을 해결하기 위해, 이는 널리 사용되지만 주로 절대오차 접근법에 의존한다.
• 외곽치에 강건하고, 금융 및 생존 분석에서 흔한 양의 응답 변수에 적합한 척도 불변 추정 방법을 개발하기 위해.
• 최소 제품 상대오차 기준 하에서 제안된 추정기의 점근적 성질—일치성과 정규성—을 수립하기 위해.
• 시뮬레이션과 실제 체지방 데이터셋(체지방 연구)을 통한 실증적 성능을 입증하기 위해.

제안 방법

• 응답 변수와 예측값에 대해 상대오차를 조합한 최소 제품 상대오차(LPRE) 기준을 제안하여 척도 불변성을 보장한다.
• 이단계 추정 절차를 사용한다: 먼저 국소 선형 스무딩을 통해 링크 함수와 그 도함수를 추정하고, 그 다음 색인 계수에 대해 LPRE 기준을 최소화한다.
• 핵심 가중 국소 선형 회귀를 사용하여 알려지지 않은 링크 함수 $ g $ 와 그 도함수 $ g' $ 를 추정하며, 밴드위드 선택은 $ h $ 를 통해 수행된다.
• 진짜 매개변수 주변의 타일러 전개를 분석하고 영향 함수를 사용하여 추정기의 점근적 정규성과 일치성을 도출한다.
• 추정 과정의 식별성과 안정성을 보장하기 위해 $ \beta^{(r)} $ 를 사용한 재매개변수화를 구현한다.
• 엄밀한 경험 과정 및 마팅게일 유형의 추론을 통해 이론적 수렴 속도와 점근적 분포를 수립한다.

실험 결과

연구 질문

• RQ1 상대오차 기반 추정 방법이 선형 모델보다 더 유연한 단일 지수 모델으로 효과적으로 확장될 수 있는가?
• RQ2 제안된 최소 제품 상대오차(LPRE) 기준이 색인 계수와 링크 함수에 대해 일치성과 점근적 정규성을 갖는 추정기를 도출하는가?
• RQ3 모형 잘못 설정 또는 무거운 尾 비율 오차 하에서, LPRE 방법이 전통적인 최소 제곱법 추정과 비교해 강건성과 효율성 측면에서 어떻게 성능을 내는가?
• RQ4 제안된 방법은 척도 불변성이 있으며, 특히 금융 또는 생존 데이터와 같이 양의 응답 변수를 갖는 적용 분야에서 외곽치에 강건한가?

주요 결과

• 정규 조건 하에서 제안된 LPRE 추정기는 일치성과 점근적 정규성을 확보하며, 수렴 속도는 $ \sqrt{n} $ 이다.
• 이 방법은 척도 불변성으로, 응답 변수 또는 공변수의 곱셈 변환에 영향을 받지 않아 해석 가능성과 강건성을 향상시킨다.
• 시뮬레이션 연구에서 LPRE 방법은 특히 첨도가 높은 오차 분포 하에서 평균 제곱오차와 상대오차 측면에서 최소 제곱법을 능가하는 것으로 나타났다.
• 체지방 데이터셋에서, 고리그레인지점이 존재할 경우에도 LPRE 방법은 최소 제곱법보다 더 안정적이고 정확한 예측을 제공한다.
• 이론적 분석은 오차 항이 추정기에 미치는 영향이 유계임을 확인하여, 외곽치에 대한 강건성을 뒷받침한다.