[논문 리뷰] Skewed probit regression -- Identifiability, contraction and reformulation

Janet van Niekerk, Håvard Rue|arXiv (Cornell University)|2020. 09. 20.

Statistical Distribution Estimation and Applications참고 문헌 27인용 수 7

한 줄 요약

이 논문은 휘어진 Probit 회귀에서의 근본적 문제를 해결하기 위해 절편을 재정의하고 왜도 링크 함수를 표준화하여 식별 가능성과 해석 가능성 보장을 한다. 왜도 매개수에 대한 재정의 불변성 기반의 복합성 페널티(PC) 사전을 도입하여 데이터에서 왜도에 대한 증거가 없을 경우 표준 Probit 모형으로 수렴하게 하여 빈도주의 및 베이지안 프레임워크에서 추론의 신뢰성을 향상시킨다.

ABSTRACT

Skewed probit regression is but one example of a statistical model that generalizes a simpler model, like probit regression. All skew-symmetric distributions and link functions arise from symmetric distributions by incorporating a skewness parameter through some skewing mechanism. In this work we address some fundamental issues in skewed probit regression, and more genreally skew-symmetric distributions or skew-symmetric link functions. We address the issue of identifiability of the skewed probit model parameters by reformulating the intercept from first principles. A new standardization of the skew link function is given to provide and anchored interpretation of the inference. Possible skewness parameters are investigated and the penalizing complexity priors of these are derived. This prior is invariant under reparameterization of the skewness parameter and quantifies the contraction of the skewed probit model to the probit model. The proposed results are available in the R-INLA package and we illustrate the use and effects of this work using simulated data, and well-known datasets using the link as well as the likelihood.

연구 동기 및 목표

• 왜도가 있는 Probit 회귀 모형의 매개수 식별 문제, 특히 절편과 왜도 매개수 간의 혼동 문제를 해결하기 위해.
• 선형 예측자 내 절편을 재형성하여 진정한 절편으로서의 역할을 하게 하고 왜도와의 혼동을 방지하기 위해.
• 기존의 매개수 기반 표준화 방식에서 비롯되는 왜곡을 피하면서도 해석 가능성을 유지하는 새로운 锚정 표준화 방식을 제안하기 위해.
• 재정의 불변성 기반의 복합성 페널티(PC) 사전을 유도하여 왜도 매개수에 대해 유도하고, 이는 왜도 모형이 대칭 Probit 모형으로 수렴하는 정도를 정량화함으로써 보장하기 위해.
• 연구자들이 실용적으로 사용할 수 있도록 R-INLA 패키지에 제안된 프레임워크를 구현하기 위해.

제안 방법

• 왜도와 무관하게 영인자(0)에서의 평균 반응을 나타내도록, 분위수 기반 접근을 사용하여 선형 예측자 내 절편을 재정의함으로써 식별 가능성을 확보함.
• 기존의 대칭 모형 매개수에 의존하는 대신, 의미 있는 분위수(예: 중앙값 또는 75번째 백분위수)를 고정하여 왜도 링크 함수의 锚정 표준화를 도입함.
• 대칭 모형과의 총 변동 거리 기반으로 왜도 매개수에 대한 복합성 페널티(PC) 사전을 유도하여 재정의 불변성을 확보함.
• PC 사전을 사용하여 데이터에서 왜도에 대한 증거가 없을 경우 왜도 모형이 표준 Probit 모형으로 얼마나 수렴하는지 정도를 정량화함.
• R-INLA 패키지에 전체 모형을 구현하여 연구자들이 적절한 사전분포와 해석 가능한 추론을 통해 왜도가 있는 Probit 모형을 적합할 수 있도록 함.

실험 결과

연구 질문

• RQ1 왜도가 있는 Probit 회귀에서 절편을 어떻게 재정의하여 식별 가능성과 왜도 매개수와의 혼동을 방지할 수 있는가?
• RQ2 기존의 매개수 기반 표준화 방식이 왜도 링크 함수에 대해 문제를 일으키는 이유는 무엇이며, 어떤 대체 표준화 방식이 해석 가능성을 보장하는가?
• RQ3 왜도 매개수에 대해 재정의 불변성을 보장하면서도 왜도 모형이 대칭 Probit 모형으로 수렴하는 정도를 정량화할 수 있는 사전은 무엇인가?
• RQ4 데이터가 희소하거나 왜도에 대한 증거가 없을 경우 복합성 페널티 사전이 추론을 어떻게 향상시키는가?
• RQ5 제안된 프레임워크는 시뮬레이션 및 실제 데이터를 통해 실용적으로 효과적으로 구현되고 사용될 수 있는가?

주요 결과

• 제안된 절편 재정의 방식은 왜도와 무관하게 영인자에서의 평균 반응을 나타내며, 왜도 매개수와의 혼동을 제거하고 모형의 식별 가능성을 향상시킴.
• 锚정 표준화 방식은 선형 예측자에서 확률로의 사전 맵핑을 유지하여 기존의 매개수 기반 표준화에서 비롯되는 왜곡을 방지함.
• 유도된 복합성 페널티 사전은 재정의 불변성을 보장하며, 데이터에서 왜도에 대한 증거가 없을 경우 자연스럽게 왜도 모형이 표준 Probit 모형으로 수렴함.
• 와인 데이터셋에서 왜도 정규 모형은 -722.21의 경계 로그우도를 기록하여, 가우시안 모형의 -724.59보다 유의미하게 높은 성능을 보였으며, 사후 평균 왜도는 0.439(95% 신뢰구간: 0.128–0.702)였음.
• PC 사전은 낮은 시행 수를 가진 이항 데이터에서 강건성을 확보하여 왜도 추정이 신뢰할 수 없게 되는 것을 방지하고, 적절한 경우 더 단순한 Probit 모형을 선호함.