[논문 리뷰] Randomized Quantile Residuals: an Omnibus Model Diagnostic Tool with Unified Reference Distribution

Cindy Feng, Alireza Sadeghpour외 1명|arXiv (Cornell University)|2017. 08. 28.

Advanced Statistical Process Monitoring인용 수 5

한 줄 요약

이 논문은 비정규 분포 회귀 모형의 적합도 평가를 위한 통합적이고 정규분포를 따르는 진단 도구로 무작위로 선택된 분위수 잔차(RQRs)를 제안한다. 모형이 올바르게 지정된 경우 RQRs가 표준 정규분포를 따름을 보여주며, 의료 이용 데이터에 대한 시뮬레이션 및 실제 응용을 통해 기존 잔차보다 모형 부적합성을 더 잘 탐지함을 입증한다.

ABSTRACT

Examining residuals, such as Pearson and deviance residuals, is a primary method to identify the discrepancies between models and data and to assess the overall goodness-of-fit of a model. In normal linear regression, both of these residuals coincide and are normally distributed; however, in non-normal regression models, the residuals are far from normality, with residuals aligning nearly parallel curves according to distinct response values, which imposes great challenges for visual inspection. Randomized quantile residual was proposed in the literature to circumvent the above- mentioned problems in traditional residuals. However, this approach has not gained deserved awareness and attention, partly due to the lack of extensive empirical studies to investigate its performance. Therefore, we demonstrate the normality of the randomized quantile residual when the fitted model is true and compare its performance with the traditional residuals through a series of simulation studies. Our simulation studies show that randomized quantile residual has a unified normal distribution under the true model, and has great statistical power in detecting many forms of model inadequacies. We illustrate the use of randomized quantile residual in assessing goodness- of-fit of non-normal regression models in a health care utilization study.

연구 동기 및 목표

• 기존의 피어슨 잔차와 deviance 잔차와 같은 전통적 잔차가 비정규 분포 회귀 모형에서 비정규 패턴을 띠어 시각적 해석을 어렵게 하는 한계를 해결하기 위해.
• 모형이 올바르게 지정된 경우 무작위로 선택된 분위수 잔차(RQRs)가 통합된 표준 정규분포를 따름을 입증하여 신뢰할 수 있는 모형 진단을 가능하게 하기 위해.
• 기존 잔차 방법과 비교하여 RQRs가 다양한 형태의 모형 부적합성을 탐지하는 데 있어 통계적 검정력이 어떻게 되는지 평가하기 위해.
• 시뮬레이션 연구와 실제 의료 이용 데이터셋을 활용한 실증적 검증을 통해 RQRs의 도입을 촉진하기 위해.

제안 방법

• 예측된 누적 확률을 표준 정규분위수로 변환하는 방식으로 무작위로 선택된 분위수 잔차(RQRs)를 제안하여 통일된 기준 분포를 보장한다.
• 이산 응답 분포로 인한 잔차의 이산적 점프를 제거하기 위해 잔차 계산에 랜덤화 단계를 적용한다.
• 정확히 지정된 모형 하에서 RQRs의 분포적 성질과 다양한 모형 오지정 상황에서의 성질을 평가하기 위해 시뮬레이션 연구를 수행한다.
• 시각적 진단 및 통계적 검정력 지표를 사용하여 RQRs가 피어슨 잔차 및 deviance 잔차보다 부적합성 탐지 성능에서 어떻게 우월한지 비교한다.
• Q-Q 플롯과 공식적인 적합도 검정을 활용해 RQRs의 정규성과 모형 이탈에 대한 민감도를 평가한다.
• 실제 의료 이용 데이터셋에 RQRs를 적용하여 모형 평가에서의 실용적 유용성을 설명한다.

실험 결과

연구 질문

• RQ1 모형이 올바르게 지정된 경우 무작위로 선택된 분위수 잔차는 표준 정규분포를 따르는가?
• RQ2 RQRs의 통계적 검정력은 피어슨 잔차 및 deviance 잔차와 비교해 모형 오지정을 탐지하는 데 어떻게 다른가?
• RQ3 RQRs는 잘못된 링크 함수나 누락된 공변량과 같은 다양한 유형의 모형 부적합성을 효과적으로 탐지할 수 있는가?
• RQ4 비정규 분포 회귀 모형에서 전통적 잔차와 비교해 RQRs의 시각적 진단 성능는 어떻게 되는가?

주요 결과

• 모형이 정확히 지정된 경우 무작위로 선택된 분위수 잔차(RQRs)는 통합된 표준 정규분포를 따르며, 일관된 기준 분포를 제공한다.
• RQRs는 잘못된 링크 함수나 누락된 변수를 포함한 다양한 시뮬레이션 시나리오에서 모형 부적합성을 탐지하는 데 있어 기존 방법보다 뛰어난 통계적 검정력을 보인다.
• 기존 잔차와 달리 RQRs는 잔차도에서 평행 곡선 형성 문제를 피하여 모형 적합도의 명확한 시각적 평가를 가능하게 한다.
• 시뮬레이션 연구 결과, RQRs가 이산적이거나 왜곡된 응답 분포에서도 정확한 모형 지정 조건에서 거의 정규분포를 유지함을 확인했다.
• 의료 이용 연구에서 RQRs는 기존 잔차 진단 방법으로는 탐지하지 못한 모형의 부적합성을 성공적으로 드러냈다.
• 이 방법은 다양한 지수족 분포에 대해 강건하며, 비정규 분포 회귀 모형에 대한 일관된 진단 프레임워크를 제공한다.