[논문 리뷰] An easy-to-use empirical likelihood ABC method

Sanjay Chaudhuri, Subhroshekhar Ghosh외 2명|arXiv (Cornell University)|2018. 10. 03.

Markov Chains and Monte Carlo Methods참고 문헌 32인용 수 4

한 줄 요약

이 논문은 가능성이 있는 추정 방정식이나 커널 근사치에 의존하지 않으며, 오직 요약 통계량, 그 관측값, 그리고 임의의 모수값 하에서 통계량을 시뮬레이션할 수 있는 능력만 있으면 되는, 새로운 간편한 경험적 우도 기반 ABC 방법을 제안한다. 이 방법은 분석적으로 다루기 쉬운 추정 방정식이나 커널 근사치에 의존하지 않아도 후행 분포 일致성을 달성하며, 기존 ABC 접근법에 비해 더 높은 계산 가능성과 해석 가능성, 더 강건한 데이터 기반 대안을 제공한다.

ABSTRACT

Many scientifically well-motivated statistical models in natural, engineering and environmental sciences are specified through a generative process, but in some cases it may not be possible to write down a likelihood for these models analytically. Approximate Bayesian computation (ABC) methods, which allow Bayesian inference in these situations, are typically computationally intensive. Recently, computationally attractive empirical likelihood based ABC methods have been suggested in the literature. These methods heavily rely on the availability of a set of suitable analytically tractable estimating equations. We propose an easy-to-use empirical likelihood ABC method, where the only inputs required are a choice of summary statistic, it's observed value, and the ability to simulate summary statistics for any parameter value under the model. It is shown that the posterior obtained using the proposed method is consistent, and its performance is explored using various examples.

연구 동기 및 목표

• 이산적 우도가 없는 모형에 적합한 실용적이고 사용자 친화적인 ABC 방법을 개발하기 위해, 특히 자연과학 및 환경 과학 분야에 적용 가능하도록 한다.
• 기존 경험적 우도 기반 ABC 방법의 적용 범위를 제한하는 분석적으로 다루기 쉬운 추정 방정식이 필요로 하는 것을 제거하기 위해 노력한다.
• 약한 정규성 조건 하에서도 후행 분포 일치성을 보장하여 복잡한 생성 모형에서 신뢰할 수 있는 베이지안 추론을 가능하게 한다.
• 다변량 정규성 가정을 피하는 방식으로 표준 ABC 및 합성 우도 방법에 비해 계산 효율성이 높은 대안을 제공한다.

제안 방법

• 모형에서 임의로 시뮬레이션한 요약 통계량과 관측된 통계량을 바탕으로, 명시적인 추정 방정식이 필요 없이 경험적 우도 함수를 구성한다.
• 볼록체인 제약 조건을 통해 타당성을 확보하는 제약 최적화 프레임워크를 사용하여 매개변수 공간에서 우도 유사 함수를 정의한다.
• 데이터 클로닝 원리를 활용하여 시뮬레이션 복제 수를 늘일수록 경험적 우도가 진짜 매개변수 값에 집중되도록 한다.
• 표준 ABC에서 사용하는 커널 밀도 근사치를 피하기 위해 정규화된 경험적 우도를 후행 분포로 정의한다.
• 반복적인 시뮬레이션 하에서 경험적 우도의 渐近적 행동에 기반하여, 시뮬레이션 수가 증가함에 따라 일치성이 보장된다.
• 완전히 데이터 기반이며 해석 가능하며, 요약 통계량의 분포에 대한 비모수적 가정이 없다.

실험 결과

연구 질문

• RQ1 분석적으로 다루기 쉬운 추정 방정식이 필요로 하지 않는 계산 효율성과 구현 용이성을 갖춘 ABC 방법을 개발할 수 있는가?
• RQ2 오직 요약 통계량과 시뮬레이션 능력만 있을 때 경험적 우도 기반 ABC 접근법이 후행 분포 일치성을 달성할 수 있는가?
• RQ3 정확성과 강건성 측면에서 기존 ABC 및 합성 우도 방법과 비교해 성능이 어떻게 되는가?
• RQ4 요약 통계량의 비정규적 종속성 구조가 존재하더라도 정규성 가정에 의존하지 않고 유효성을 유지할 수 있는가?
• RQ5 모형 오류 지정이나 고차원 요약 통계량에 대해 강건한가?

주요 결과

• 제안된 경험적 우도 기반 ABC 방법은 시뮬레이션 수가 증가함에 따라 후행 분포가 진짜 매개변수 값에 약한 수렴을 보이며, 일치성을 달성한다.
• 분석적으로 다루기 쉬운 추정 방정식이 전혀 필요 없어, 이산적 우도를 가진 더 넓은 범위의 모형에 적용 가능하다.
• 요약 통계량의 분포가 비정규일 경우에도 후행 집중이 발생하여 정규성 가정 위반에 대해 강건함을 입증한다.
• 커널 밀도 근사치를 피함으로써 밴드위드 선택에 대한 민감도를 감소시키고 해석 가능성을 향상시킨다.
• 이론적 결과에 따르면 후행 분포는 진짜 매개변수의 점점 작아지는 이웃 영역 외부의 모든 매개변수 집합에 대해 영 확률을 할당한다. 이는 일치성을 확인한다.
• 수치 예제들은 이 방법의 실용적 타당성과 다양한 모형, 특히 복잡한 종속성 구조를 가진 모형에서도 경쟁력 있는 성능을 보임을 보여준다.