[논문 리뷰] Optimal Robustness Results for Some Bayesian Procedures and the Relationship to Prior-Data Conflict

Luai Al‐Labadi, Michael Evans|arXiv (Cornell University)|2015. 04. 27.

Statistical Methods and Bayesian Inference참고 문헌 14인용 수 10

한 줄 요약

이 논문은 베이지안 통계에서 상대적 신념 추론의 최적의 강건성 성질을 확립하며, 사전-자료 갈등이 존재하지 않을 경우 그 강건성이 유지됨을 보여준다. 사전-자료 갈등이 존재할 경우 강건성이 약화됨을 밝히고, 이러한 갈등을 탐지하기 위한 정량적 측도를 제시함으로써, 추론 전에 갈등을 평가할 필요성을 강화한다.

ABSTRACT

The robustness to the prior of Bayesian inference procedures based on a measure of statistical evidence are considered. These inferences are shown to have optimal properties with respect to robustness. Furthermore, a connection between robustness and prior-data conflict is established. In particular, the inferences are shown to be effectively robust when the choice of prior does not lead to prior-data conflict. When there is prior-data conflict, however, robustness may fail to hold.

연구 동기 및 목표

• ε-오염된 사전 분포에 대한 주변 사전 분포 변동에 대해 상대적 신념 추론의 최적 강건성을 확립하기 위해.
• 상대적 신념 비율에 대한 강건성 결과를 해석하는 데서 발생하는 애매함을 해결하기 위해.
• 주변 및 조건부 사전 분포에 대한 추론의 민감도를 정량화하기 위해.
• 사전-자료 갈등과 베이지안 추론에서의 강건성 실패 간의 관계를 명확히 하기 위해.
• 사전-자료 갈등이 존재하지 않을 경우 상대적 신념 추론이 추정 및 가설 평가에 있어 선호되는 방법으로 사용될 수 있도록 지원하기 위해.

제안 방법

• 모수 값에 대한 통계적 증거를 측정하기 위해 사후 밀도 대 사전 밀도의 비율인 상대적 신념 비율을 사용한다.
• Savage-Dickey 비율 항등식을 적용하여 상대적 신념 비율을 사전 및 조건부 예측 밀도로 표현한다.
• ε-오염된 사전 분포 하에서 최적 강건성을 도출하며, Wasserman(1989) 및 기타 연구자들의 결과를 일반화한다.
• 다른 사전 분포 하에서 예측 밀도 비율에 기반한 정량적 민감도 측도를 도입한다.
• 정규 모형에서 사전-자료 갈등을 탐지하기 위해 꼬리 확률 및 비율 기반 진단법을 사용한다.
• 시뮬레이션과 수치 예제를 활용하여 사전-자료 갈등이 상대적 신념 비율의 강건성 결여와 극도로 민감한 변화를 초래하는 방식을 설명한다.

실험 결과

연구 질문

• RQ1 상대적 신념 추론이 사전 선택에 대해 언제 최적의 강건성을 가지는가?
• RQ2 사전-자료 갈등은 베이지안 추론에서 강건성 실패와 어떻게 관련되어 있는가?
• RQ3 사전-자료 갈등과 사전 가정에 대한 추론 민감도를 탐지하기 위한 정량적 측도는 무엇인가?
• RQ4 사전-자료 갈등이 존재할 경우 상대적 신념 비율의 행동은 어떻게 변화하는가?
• RQ5 사전-자료 갈등으로 인해 상대적 신념 비율이 큰 값을 보일 경우, 이를 의미 있게 해석할 수 있는가?

주요 결과

• 사전-자료 갈등이 존재하지 않을 경우, ε-오염된 사전 분포에 대한 주변 사전 분포 변동에 대해 상대적 신념 추론은 최적의 강건성을 보이며, 이는 강건성이 보장됨을 의미한다.
• 예를 들어 진짜 모수가 사전의 꼬리에 위치할 경우 사전-자료 갈등이 존재할 경우, 상대적 신념 비율의 극도로 민감한 반응으로 인해 강건성이 실패함을 보여준다.
• σ²에 대해 데이터가 사전과 갈등이 있지만 μ에 대해서는 그렇지 않은 경우, 비율 $ m_{Q,T}(T(x)|V(T(x)))/m_T(T(x)|V(T(x))) $ 는 μ₁ = -2, τ₁² = 1일 때 0.87로 감소하여 갈등과 강건성 결여를 시사한다.
• μ에 대해 갈등이 있고 σ²에 대해서는 그렇지 않은 경우, 비율은 μ₁ = 2, τ₁² = 1일 때 55,478,630에 도달하여 심각한 강건성 결여를 나타낸다.
• 갈등 상황에서의 적분 $ \int_{0}^{ u} RB((\bar{x},\sigma^{2})|x) \Pi_1(d\sigma^{-2}) = 8,046,933,962 $ 는 최악의 행동과 극도로 민감한 반응을 나타낸다.
• 연속 모형에서 최대우도추정치에서 상대적 신념 비율은 무한대로 발산하지만, 갈등 상황에서 큰 값은 높은 증거를 의미하는 것이 아니라 강건성의 결여를 시사한다.