[논문 리뷰] Quantifying the probable approximation error of probabilistic inference programs

Marco Cusumano-Towner, Vikash K. Mansinghka|arXiv (Cornell University)|2016. 05. 31.

Machine Learning and Algorithms참고 문헌 16인용 수 3

한 줄 요약

이 논문은 참조 추론 프로그램과 근사 추론 방법의 내부 랜덤 선택을 고려하는 메타-추론 프로그램을 활용하여, 확률적 추론 프로그램에서의 근사 오차를 정량화하기 위해 주관적 분산 측도를 도입한다. 이 방법은 대칭 KL 발산에 대한 강력하고 계산 가능한 경계를 제공하며, 예측 성능이 수용 가능하게 보일지라도 구현 버그를 탐지할 수 있다.

ABSTRACT

This paper introduces a new technique for quantifying the approximation error of a broad class of probabilistic inference programs, including ones based on both variational and Monte Carlo approaches. The key idea is to derive a subjective bound on the symmetrized KL divergence between the distribution achieved by an approximate inference program and its true target distribution. The bound's validity (and subjectivity) rests on the accuracy of two auxiliary probabilistic programs: (i) a "reference" inference program that defines a gold standard of accuracy and (ii) a "meta-inference" program that answers the question "what internal random choices did the original approximate inference program probably make given that it produced a particular result?" The paper includes empirical results on inference problems drawn from linear regression, Dirichlet process mixture modeling, HMMs, and Bayesian networks. The experiments show that the technique is robust to the quality of the reference inference program and that it can detect implementation bugs that are not apparent from predictive performance.

연구 동기 및 목표

• 확률적 추론에서 진정한 사후분포와 근사 사후분포 사이의 쿨백-라이블러(KL) 발산을 추정하는 계산 가능한 기법의 부족을 해결하기 위해.
• 모델의 객관적 특성보다 보조 프로그램의 불확실성 반영을 위한 실용적이고 주관적인 대칭 KL 발산 경계를 제공하기 위해.
• 예측 성능에 영향을 주지 않지만 사후분포 근사치를 왜곡하는 미세한 구현 버그를 탐지하기 위해.
• 변분 및 몬테카를로 방법을 포함한 다양한 모델에서 확률적 추론 프로그램의 검증을 가능하게 하기 위해.
• Venture 확률적 프로그래밍 플랫폼 내에서 확장 가능하고 구현이 가능한 기법을 제공하기 위해.

제안 방법

• 이 방법은 근사 추론 출력과 진짜 사후분포 사이의 대칭 KL 발산에 기반한 주관적 분산 측도를 정의한다.
• 이것은 조건부로 계산 비용이 높을지라도 사후 정확도의 황금 표준으로 작용하는 기준 추론 프로그램에 의존한다.
• 근사 추론 프로그램이 내부적으로 선택한 랜덤 선택의 사후 확률을 추론하기 위해 메타-추론 프로그램을 사용한다.
• 근사 추론 프로그램의 제안 밀도 대비 출력과 그 추론된 역사를 함께 고려한 조건부 밀도의 비율을 사용하여 가중치 추정치를 계산한다.
• 입자 필터 기반 추론의 경우, 메타-추론 프로그램은 고정된 조상 구조를 갖는 조건부 SMC(CSMC) 업데이트를 사용하여 추론 경로의 가능도를 추정한다.
• 최종 가중치 추정치는 입자 필터의 마진 가능도 추정치와 모델 밀도 및 제안 밀도의 정규화된 비율의 곱으로 단순화된다.

실험 결과

연구 질문

• RQ1 근사 추론 프로그램의 출력과 진짜 사후분포 사이의 대칭 KL 발산을 둘러싸는 주관적 분산 측도를 유도할 수 있는가?
• RQ2 기준 추론 프로그램의 정확도에 대한 불확실성에 대해 제안된 방법의 강건성은 어떠한가?
• RQ3 예측 성능만으로는 드러나지 않는 추론 코드의 구현 버그를 탐지할 수 있는가?
• RQ4 근사 추론 프로그램의 밀도가 계산 가능한 경우가 아닐 때에도 기법이 효과를 유지하는가?
• RQ5 변분 추론과 입자 기반 샘플링과 같은 다양한 추론 철학에 대해 이 방법의 확장성은 어느 정도인가?

주요 결과

• 기준 및 메타-추론 프로그램의 정확도에 대한 신뢰도에 따라 의존하는 유효한 주관적 경계를 제공한다.
• 실험 결과는 기준 추론 프로그램의 품질에 대해 강건함을 보이며, 기준 프로그램이 근사적이더라도 정확한 분산 추정치를 도출한다.
• 예측 성능이 보존되는 동안도 추론 코드의 구현 버그를 성공적으로 탐지하였다.
• 샘플링 기반 추론(예: LW-SIR)의 경우, 부트스트랩 신뢰구간이 낮은 분산을 보이며 정확한 주관적 분산 추정치를 달성하였다.
• 최적화 기반 추론(예: 변분 추론)의 경우, 다수의 실행에서 일관된 분산 프로파일을 생성하여 신뢰할 수 있는 오차 정량화를 보였다.
• 선형 회귀, 딜레트 분포 혼합 모델, HMM, 베이지안 네트워크를 포함한 실제 문제들에 대해 이 방법은 성공적으로 구현 및 검증되었다.