[논문 리뷰] Guaranteed Bounds for Posterior Inference in Universal Probabilistic Programming

Raven Beutner, C.-H. Luke Ong외 1명|arXiv (Cornell University)|2022. 04. 06.

Machine Learning and Algorithms인용 수 4

한 줄 요약

이 논문은 간격 기반 추적 의미론과 가중치 인식 간격 유형 체계를 사용하여 확률적 프로그램의 사후 분포에 대해 보장된 하한과 상한을 계산하는 타당하고 완전한 방법을 제안한다. 이 방법은 진짜 사후 분포가 이러한 경계 사이에 있음을 보장하며, Pyro와 Anglican과 같은 확률적 추론 도구의 검증을 가능하게 하며, 연쇄적이고 고계 함수를 갖는 모델에 대해 실용적인 유용성을 입증하는 프로토타입 도구(GuBPI)를 제공한다.

ABSTRACT

We propose a new method to approximate the posterior distribution of probabilistic programs by means of computing guaranteed bounds. The starting point of our work is an interval-based trace semantics for a recursive, higher-order probabilistic programming language with continuous distributions. Taking the form of (super-/subadditive) measures, these lower/upper bounds are non-stochastic and provably correct: using the semantics, we prove that the actual posterior of a given program is sandwiched between the lower and upper bounds (soundness); moreover the bounds converge to the posterior (completeness). As a practical and sound approximation, we introduce a weight-aware interval type system, which automatically infers interval bounds on not just the return value but also weight of program executions, simultaneously. We have built a tool implementation, called GuBPI, which automatically computes these posterior lower/upper bounds. Our evaluation on examples from the literature shows that the bounds are useful, and can even be used to recognise wrong outputs from stochastic posterior inference procedures.

연구 동기 및 목표

• 보편적인 확률적 프로그래밍 언어에서 확률적 사후 추론에 대한 정당성 보장을 제공하지 못하는 문제를 해결하기 위해.
• 연쇄적이고 고계 함수를 갖는 연속 분포를 가진 프로그램에 대해 사후 분포의 타당하고 완전한 경계를 제공하기 위해.
• 기존의 HMC 및 중요도 샘플링과 같은 추론 도구에서 잘못된 출력을 자동으로 탐지할 수 있도록 하기 위해.
• 반환 값과 실행 가중치에 대한 경계를 동시에 추론할 수 있도록 개선된 정밀도를 확보하는 유형 체계를 개발하기 위해.
• 이 경계를 효율적이고 신뢰성 있게 계산하는 데 사용되는 도구(GuBPI)를 구현하고 평가하기 위해.

제안 방법

• 연속 분포를 갖는 연쇄적이고 고계 확률적 언어를 간격 기반 추적 의미론을 사용하여 형식화한다.
• 진짜 사후 분포를 둘러싸는 초수 및 초하한 측도로서 하한과 상한을 정의하여 타당성을 확보한다.
• 반환 값과 실행 가중치에 대한 경계를 제약 기반 추론을 통해 추적하는 가중치 인식 간격 유형 체계를 도입한다.
• 프로그램 추적을 통해 간격 경계를 전파하기 위해 기호 실행을 사용하여 사후 분포의 정적 분석을 가능하게 한다.
• 샘플링 없이 간격 산술을 사용하여 확률적 추적에 대해 안전하고 보수적인 계산을 수행한다.
• 기본 모델에서 이러한 경계를 자동으로 계산하고 검증하기 위해 GuBPI 도구를 구현한다.

실험 결과

연구 질문

• RQ1 보편적인 확률적 프로그램의 사후 분포에 대해 보장된 하한과 상한을 형식적으로 정의하고 계산할 수 있는가?
• RQ2 프로그램의 복잡성에 관계없이 진짜 사후 분포가 항상 이러한 경계 내에 포함되도록 보장할 수 있는가?
• RQ3 제안된 유형 체계가 반환 값과 실행 가중치에 대한 경계를 동시에 추론하여 정밀도를 향상시킬 수 있는가?
• RQ4 이 경계들이 HMC나 중요도 샘플링과 같은 기존의 확률적 추론 도구에서의 오류를 어느 정도 탐지할 수 있는가?
• RQ5 연쇄적이고 고계 함수를 갖는 연속 분포를 가진 모델에 대해 이 방법이 얼마나 효율적으로 확장될 수 있는가?

주요 결과

• 제안된 간격 기반 추적 의미론은 타당성을 보장한다: 진짜 사후 분포는 항상 계산된 하한과 상한 사이에 존재한다.
• 완전성이 달성된다: 정밀도가 높아질수록 경계는 진짜 사후 분포에 수렴한다.
• 가중치 인식 간격 유형 체계는 반환 값과 실행 가중치에 대한 정밀하고 자동화된 경계 추론을 가능하게 한다.
• GuBPI는 Pyro의 HMC와 Anglican의 중요도 샘플링이 보행자 예제에서 상당히 다를 바 있는 결과를 내놓을 때 이를 성공적으로 탐지하였다.
• 시뮬레이션 기반 校정을 통해 HMC가 사후 모드를 놓쳤음을 확인하였고, GuBPI의 경계는 여전히 정확하고 검증 가능하였다.
• 보행자 예제와 같은 모델에서 GuBPI는 시뮬레이션 기반 校정보다 런타임에서 뛰어난 성능을 보였으며, 공식적인 보장을 제공한다.