[논문 리뷰] Model Diagnostics Based on Cumulative Residuals: The R-package gof

Klaus K. Holst|arXiv (Cornell University)|2015. 07. 05.

Advanced Statistical Methods and Models인용 수 5

한 줄 요약

이 논문은 일반화선형모형(GLMs), 구조방정식모형(SEMs), 코ックス 비례위험모형에 대해 누적잔차를 사용하여 목적적이고 시뮬레이션 기반 진단을 제공하는 R 패키지 gof를 소개한다. 점근적 이론과 재표본 추출을 활용해 선형성 및 비례위험가정을 평가함으로써, 주관적인 잔차도면에 대한 통계적으로 엄밀한 대안을 제공하며, 실제 데이터셋에서 모형 부적합성을 탐지하는 데 유용함을 입증하였다.

ABSTRACT

The generalized linear model is widely used in all areas of applied statistics and while correct asymptotic inference can be achieved under misspecification of the distributional assumptions, a correctly specified mean structure is crucial to obtain interpretable results. Usually the linearity and functional form of predictors are checked by inspecting various scatter plots of the residuals, however, the subjective task of judging these can be challenging. In this paper we present an implementation of model diagnostics for the generalized linear model as well as structural equation models, based on aggregates of the residuals where the asymptotic behavior under the null is imitated by simulations. A procedure for checking the proportional hazard assumption in the Cox regression is also implemented.

연구 동기 및 목표

• 일반화선형모형(GLMs)과 구조방정식모형(SEMs)과 같이 널리 사용되는 회귀모형에서 모형 가정을 진단하기 위한 객관적이고 통계적인 도구의 부족을 해결하기 위해.
• GLMs의 평균 구조에서 선형성 및 기능형태 가정을 시험하기 위한 공식적이고 시뮬레이션 기반 방법을 제공하기 위해.
• 누적잔차 방법을 구조방정식모형과 코ックス 회귀로 확장하여 비례위험가정을 평가하기 위해.
• 기존의 주관적인 잔차도면 기법과 보완되는 재현가능한 R 기반의 모형 진단 솔루션을 제공하기 위해.
• 예측자 기능형태와 비례위험가정의 부적합성을 탐지하고 수정함으로써 모형 타당성을 향상시키기 위해.

제안 방법

• 모형 적합도 평가를 위해 공변수 또는 예측값에 대한 잔차의 누적합을 사용하며, 이는 $ W_j(x) = n^{-1/2} \sum_{i=1}^n \mathbf{1}_{\{x_{ji} \leq x\}} e_i $ 로 정의된다.
• 이 누적과정의 점근적 귀무분포는 추정 불확실성을 테일러 전개와 피셔 정보를 통합하여 시뮬레이션을 통해 근사한다.
• 검정 통계량은 절대 누적잔차과정의 최대값에 기반하며, $ \mathfrak{T}_{\infty}^{(j)} = \sup_x |W_j(x)| $ 로 표현되며, 콜모고로프-스미르노프 검정과 유사하다.
• GLMs와 SEMs의 경우, 예측값 또는 공변수 순서로 정렬된 누적잔차를 계산하고 플롯하기 위해 `cumres` 함수를 사용한다.
• 코ックス 모형의 경우, 시간을 순서 변수로 삼아 스코어 과정을 누적잔차로 사용하여 비례위험을 검증한다.
• 패키지는 i.i.d. 표준 정규변수를 사용한 파라미터 기반 부트스트랩을 구현하여 검정 통계량의 귀무분포를 시뮬레이션한다.

실험 결과

연구 질문

• RQ1 누적잔차는 일반화선형모형에서 예측자 기능형태의 부적합성을 객관적이고 시뮬레이션 기반으로 탐지할 수 있는가?
• RQ2 잠재변수를 포함한 구조방정식모형에서 선형성 평가를 위해 누적잔차 과정을 어떻게 적응시킬 수 있는가?
• RQ3 누적잔차는 코ックス 회귀모형에서 비례위험가정 위반 여부를 어느 정도 잘 탐지할 수 있는가?
• RQ4 gof 패키지는 모형 진단에서 주관적인 잔차도면의 신뢰할 수 있고 재현 가능한 대안을 제공할 수 있는가?
• RQ5 모형이 올바르게 지정되었을 때와 부적합한 경우 누적잔차 과정은 각각 어떻게 행동하는가?

주요 결과

• gof 패키지는 시뮬레이션된 SEMs에서 모형 부적합성을 성공적으로 탐지하였으며, 특히 $ Y_2 $의 측정모형에서 이차관계와 $ X $ 가 $ \eta $ 에 비선형 효과가 있음을 명확히 드러내는 누적잔차도면을 제공하였다.
• 메이오클리닉 PBC 데이터셋에서, `protime`(혈액 응고 시간)와 `edema` 변수에 대해 비례위험가정 위반이 심각하게 발견되었으며, 이는 시간에 따라 변화하는 효과를 시사하였다.
• `protime`에 대한 누적잔차 과정은 시간에 따라 명확한 추세를 보였으며, 이는 비비례위험을 위반함을 시사하였고, gof 검정의 시뮬레이션 기반 p-값으로 확인되었다.
• 이 방법은 GLMs와 SEMs 모두에서 비선형성과 잘못된 기능형태를 탐지하는 데 뛰어난 성능을 보였으며, 원시잔차의 시각적 점검보다 뛰어났다.
• 시뮬레이션 기반 접근법은 검정 통계량의 귀무분포를 정확히 근사하여, 진짜 모수값이 추정된 경우에도 유효한 추론을 가능하게 하였다.
• 사용자가 고유의 잔차와 순서 변수를 정의할 수 있도록 하는 유연한 인터페이스를 제공하여, 다양한 모델링 맥락에 대한 적용 가능성을 높였다.