[논문 리뷰] Synthetic Likelihood in Misspecified Models: Consequences and Corrections

David T. Frazier, Christopher Drovandi외 1명|arXiv (Cornell University)|2021. 04. 08.

Markov Chains and Monte Carlo Methods참고 문헌 25인용 수 7

한 줄 요약

이 논문은 모형 오특사용 시 합성우도(SL)의 거동을 조사하며, 요약통계량에 대한 가정된 파rametric 모형이 잘못되었을 경우 SL이 오해를 낳는 추론을 초래할 수 있음을 보여준다. 이는 요약통계량 분포의 모형 오특사용을 보정하기 위한 강건한 추정방정식 접근법을 제안함으로써, 유한표본에서의 충실도 및 편향을 크게 개선한다.

ABSTRACT

We analyse the behaviour of the synthetic likelihood (SL) method when the model generating the simulated data differs from the actual data generating process. One of the most common methods to obtain SL-based inferences is via the Bayesian posterior distribution, with this method often referred to as Bayesian synthetic likelihood (BSL). We demonstrate that when the model is misspecified, the BSL posterior can be poorly behaved, placing significant posterior mass on values of the model parameters that do not represent the true features observed in the data. Theoretical results demonstrate that in misspecified models the BSL posterior can display a wide range of behaviours depending on the level of model misspecification, including being asymptotically non-Gaussian. Our results suggest that a recently proposed robust BSL approach can ameliorate this behavior and deliver reliable posterior inference under model misspecification. We document all theoretical results using a simple running example.

연구 동기 및 목표

• 합성우도 방법에서 모형 오특사용의 결과를 이해하기 위해, 특히 요약통계량에 대한 가정된 파arametric 모형이 잘못되었을 경우의 영향을 분석한다.
• 오특사용이 SL에서 어떻게 사후 추론의 편향과 열악한 충실도를 초래하는지 규명한다.
• 완전한 우도 모형화가 필요 없이도 모형 오특사용 하에서도 유효한 추론을 유지할 수 있는 보정 방법을 개발한다.
• 다양한 수준의 오특사용 하에서 보정된 방법의 성능을 충실도 및 추정 정확도 측면에서 평가한다.
• 표준 SL의 실용적이고 강건한 대안을 제공하여, 요약통계량 모형이 오특사용되었을 경우에도 유효한 추론이 유지되도록 한다.

제안 방법

• 요약통계량 분포의 모형 오특사용을 고려해 합성우도 스코어 함수를 보정하는 강건한 추정방정식 접근법을 제안한다.
• 다양한 정규분포 등과 같은 작업용 파arametric 모형을 요약통계량에 적용하지만, 가정된 모형과 진짜 표본 분포 간의 괴리점을 보정한다.
• 표준 오차를 조정하기 위해 샌드위치형 분산 추정기법을 도입하여, 오특사용 하에서도 충실도를 향상시킨다.
• 진짜 데이터 생성 과정 하에서 비틀림이 없도록 설계된 가짜우도 프레임워크를 활용하며, 이는 가정된 모형이 잘못되었더라도 유효하다.
• 합성우도 비율 통계량에 보정을 가하여, 모형이 오특사용되었을 경우에도 표본 수가 유한할 때 유효한 추론을 보장한다.
• 특히 요약통계량 모형의 매개변수 b₀에서의 오특사용 정도를 다양하게 변화시킨 시뮬레이션 연구를 통해 방법의 성능을 입증한다.

실험 결과

연구 질문

• RQ1 요약통계량에 대한 가정된 파arametric 모형이 오특사용되었을 경우, 합성우도 추론의 타당성에 어떤 영향을 미치는가?
• RQ2 표준 합성우도를 사용할 경우 모형 오특사용 하에서 유한표본에서의 충실도 및 편향에 어떤 영향을 미치는가?
• RQ3 합성우도 스코어 함수에 대한 보정이 요약통계량 모형이 잘못되었을 경우에도 유효한 충실도를 회복할 수 있는가?
• RQ4 제안된 강건한 방법은 모형 오특사용 수준이 증가함에 따라 표준 SL과 비교해 추정 정확도 및 충실도 측면에서 어떻게 다른가?
• RQ5 진짜 요약통계량 분포가 가정된 파arametric 형태에서 크게 벗어나도 보정 방법이 양호한 성능을 유지하는가?

주요 결과

• 표준 합성우도는 요약통계량에 대한 가정된 파arametric 모형이 오특사용되었을 경우, 특히 표본 수가 작을 때 심각하게 반-보수적인 충실도를 보인다.
• 제안된 강건한 보정 방법은 b₀ = 0.99인 시뮬레이션에서 심지어 심각한 모형 오특사용 상황에서도 근사적으로 명목상의 충실도율을 달성한다.
• 특히 꼬리가 두꺼운 또는 비대칭적인 요약통계량이 있는 설정에서, 표준 SL 대비 최대 50%까지 추정 편향을 감소시킨다.
• 샌드위치 분산 추정기법은 특히 요약통계량에 대한 가정된 모형이 잘못되었을 경우 충실도를 크게 향상시킨다.
• b₀ = 0.1 및 b₀ = 0.75와 같은 다양한 오특사용 수준에서 표준 SL가 충실도를 유지하지 못하는 상황에서도 방법은 효과를 유지한다.
• 진짜 요약통계량 표본 분포가 가정된 다변량 정규모형에서 크게 벗어나도 보정된 방법은 양호한 검정력과 정밀도를 유지한다.