[논문 리뷰] Quasi-Reliable Estimates of Effective Sample Size

Youhan Fang, Yudong Cao외 1명|arXiv (Cornell University)|2017. 05. 10.

Markov Chains and Monte Carlo Methods인용 수 4

한 줄 요약

이 논문은 마르코프 체인 몬테카를로(MCMC)에서 효과적 표본 크기(ESS)를 추정하기 위한 준신뢰성 있는 방법을 제안한다. 이 방법은 모든 가능한 관측 가능 변수들 중에서 가장 긴 자기상관 시간 τ_max를 식별함으로써 작동한다. 기저 함수에 대한 일반화된 고유값 문제를 통해 τ_max를 추정함으로써, 특히 다모드 분포에서 개별 관측 가능 변수들이 속임수를 줄 수 있는 경우, 기존의 ESS 추정치보다 더 견고한 표본 추출 적합성 지표를 제공한다.

ABSTRACT

The efficiency of a Markov chain Monte Carlo algorithm might be measured by the cost of generating one independent sample, or equivalently, the total cost divided by the effective sample size, defined in terms of the integrated autocorrelation time. To ensure the reliability of such an estimate, it is suggested that there be an adequate sampling of state space--- to the extent that this can be determined from the available samples. A possible method for doing this is derived and evaluated.

연구 동기 및 목표

• MCMC에서 효과적 표본 크기(ESS) 추정의 신뢰성을 높이기 위해, 특히 다모드 분포에서 표준 ESS 추정치가 오해를 줄 수 있는 경우를 대비한다.
• 상태 공간의 불완전한 표본 추출 위험을 줄이기 위해 표본 추출의 '완전성'을 측정하는 척도를 도입한다.
• 모든 관측 가능 변수들에 대해 가능한 최대 통합 자기상관 시간 τ_max를 계산하는 계산적으로 실현 가능한 방법을 개발한다.
• 개별 관측 가능 변수 기반의 τ 추정치보다 더 보수적이고 신뢰할 수 있는 수렴 진단 도구를 제공한다.
• τ_max가 특정 관측 가능 변수의 ESS나 τ보다 표본 추출 적합성에 더 좋은 지표가 될 수 있음을 보여준다.

제안 방법

• 모든 상태 공간 함수들에 대해 정의된 최대 자기상관 시간인 τ_max를, 통합 자기상관 시간의 Supremum로 유도한다.
• 무한차원 문제를 유한한 기저 함수 집합을 통해 근사함으로써, 최대화를 이루는 관측 가능 변수를 근사한다.
• 전진 이동 연산자와 지연 창을 적용한 자기공분산 행렬을 포함하는 일반화된 고유값 문제를 해결하여 τ_max를 추정한다.
• 다양한 테스트 케이스에 대해 방법을 적용하였으며, 이는 정규 분포 혼합, 신경망, 로지스틱 회귀를 포함한다. 이와 함께 τ_max를 개별 관측 가능 변수의 τ와 ESS와 비교한다.
• τ 추정을 위해 지연 창 방법을 사용하였으며, 부록 A에서 이전 도구인 acor보다 더 높은 신뢰성을 확보하기 위한 별도의 유도를 제공한다.
• τ_max 수렴이 훈련 오차와 MSE와 같은 핵심 지표의 수렴과 일치함을 보여줌으로써 방법의 타당성을 검증한다.

(a) 5000 samples

실험 결과

연구 질문

• RQ1 가장 큰 가능성이 있는 자기상관 시간 τ_max가 개별 관측 가능 변수 기반의 τ 추정치보다 MCMC 표본 추출 적합성에 더 신뢰할 수 있는 지표가 될 수 있는가?
• RQ2 모든 함수를 완전히 나열하지 않고도 유한한 MCMC 표본에서 τ_max를 효율적으로 추정할 수 있는가?
• RQ3 개별 관측 가능 변수들이 잘 혼합된 것처럼 보일 수 있는 다모드 분포에서 τ_max는 불완전한 표본 추출을 어느 정도 감지할 수 있는가?
• RQ4 기계학습 모델에서 예측 오차나 훈련 손실과 같은 실용적 지표의 수렴과 τ_max 수렴이 일치하는가?
• RQ5 기저 함수에 대한 일반화된 고유값 접근법은 중간 수준의 계산 비용으로 τ_max를 신뢰성 있게 근사할 수 있는가?

주요 결과

• 일반화된 신경망 예제에서는 N > 2×10⁴ 표본 이후에야 τ_max가 수렴하였고, q₁ 및 예측과 같은 개별 관측 가능 변수들은 τ ≈ 1로 나타나 잘못된 수렴을 암시하였다.
• 로지스틱 회귀 모델에서는 훈련 및 테스트 오차가 N > 1000 이후에야 수렴하였지만, 개별 관측 가능 변수들은 τ ≈ 1로 나타나 독립성을 잘못 암시하였다.
• 신경망 모델에서 예측의 ESS는 N ≈ 100에서 잘못된 수준으로 매우 높게 나타났지만, τ_max는 훨씬 큰 N이 필요로 하여 안정화되었다.
• 일반화된 고유값 방법은 τ_max가 개별 τ 값보다 훨씬 크다는 것을 성공적으로 식별하여, 느린 혼합을 감지하는 데서의 역할을 확인하였다.
• 특히 높은 τ 조건에서, 이 방법의 τ_max 추정치는 acor 프로그램의 추정치보다 더 신뢰할 수 있었다.
• τ_max의 수렴이 평균 제곱 오차와 예측 정확도의 수렴과 일치함을 확인하여, 이 방법이 수렴 진단 도구로 유의미하다는 점을 검증하였다.

(b) Trajectories of $q_{1}$ and $q_{2}$