[논문 리뷰] A g-prior extension for p>n

Yuzo Maruyama, Edward I. George|arXiv (Cornell University)|2008. 01. 29.

Statistical Methods and Inference참고 문헌 13인용 수 5

한 줄 요약

이 논문은 p > n 인 고차원 선형 모델을 다룰 수 있도록 Zellner의 g-prior를 확장하며, 계산 가능하고 해석 가능한 주변 밀도와 베이즈 요인을 제공하는 완전 베이즈 설정을 제안한다. 일반화된 prior는 폐쇄형 계산을 가능하게 하며 고차원 설정에서 새로운 모델 평가 성질을 드러낸다.

ABSTRACT

For the normal linear model variable selection problem, we propose selection criteria based on a fully Bayes formulation with a generalization of Zellner's $g$-prior which allows for $p>n$. A special case of the prior formulation is seen to yield tractable closed forms for marginal densities and Bayes factors which reveal new model evaluation characteristics of potential interest.

연구 동기 및 목표

• 예측 변수 수 p가 표본 크기 n을 초과하는 고차원 선형 모델에서 베이지안 변수 선택의 과제를 해결한다.
• p > n 일 때도 유효하고 계산적으로 실현 가능한 Zellner의 g- prior의 일반화를 개발한다.
• 확장된 prior 하에서 주변 밀도와 베이즈 요인의 폐쇄형 계산을 가능하게 한다.
• 유도된 베이즈 요인의 구조를 통해 고차원 설정에서의 모델 평가에 새로운 특성들이 드러나는가를 밝힌다.

제안 방법

• p > n 를 수용할 수 있도록 Zellner의 원래 prior를 확장한 일반화된 g- prior 설정을 제안한다.
• 일반화된 prior 하에서 주변 가능도의 폐쇄형 표현식을 유도한다.
• 계산 가능한 주변 밀도를 활용하여 모델 비교를 위한 베이즈 요인을 구성한다.
• 베이즈 요인의 수학적 구조를 분석하여 새로운 모델 평가 성질을 밝혀낸다.
• 확장된 prior 하에서 일관된 추론을 보장하기 위해 완전 베이즈 프레임워크를 활용한다.

실험 결과

연구 질문

• RQ1 Zellner의 g- prior 는 p > n 일 때도 유효하고 계산 가능한 방식으로 어떻게 일반화될 수 있는가?
• RQ2 확장된 g- prior 하에서 주변 가능도의 분석적 성질은 무엇인가?
• RQ3 일반화된 prior 하에서 모델 비교를 위한 폐쇄형 베이즈 요인을 도출할 수 있는가?
• RQ4 고차원 설정에서 베이즈 요인의 구조로부터 어떤 새로운 모델 평가 통찰이 도출되는가?

주요 결과

• 일반화된 g- prior 는 p > n 일 때에도 주변 밀도의 폐쇄형 계산을 가능하게 한다.
• 유도된 베이즈 요인은 분석적으로 해석 가능하며 새로운 모델 평가 특성을 드러낸다.
• prior 설정은 고차원 선형 모델에서 변수 선택을 위한 완전 베이즈 접근을 지원한다.
• 명시적인 분석적 표현식을 제공함으로써 모델 비교에 대해 일관된 프레임워크를 제공한다.