[논문 리뷰] Exact Probabilistic Inference Using Generating Functions

Lutz Klinkenberg, Tobias Winkler외 2명|arXiv (Cornell University)|2023. 01. 01.

Bayesian Modeling and Causal Inference인용 수 1

한 줄 요약

이 논문은 확률 생성 함수(PGFs)를 사용하여 이산 확률 프로그램에 대한 기호적이고 정확한 추론 프레임워크를 제안한다. 이는 무한한 지원을 가진 분포와 유한하지 않은 루프가 있는 경우에도 사후 분포에 대한 정밀한 추론을 가능하게 한다. 조건화를 두 번째 차수의 PGF를 통해 처리함으로써 PGF 기반 의미론을 확장함으로써, 자동화되고 닫힌 형태의 추론을 지원한다. 이는 전화 운영자 모델과 기수 수가 홀수인 기하 분포 프로세스와 같은 사후 관측이 있는 프로그램에 적용된 바 있다.

ABSTRACT

Probabilistic programs are typically normal-looking programs describing posterior probability distributions. They intrinsically code up randomized algorithms and have long been at the heart of modern machine learning and approximate computing. We explore the theory of generating functions [19] and investigate its usage in the exact quantitative reasoning of probabilistic programs. Important topics include the exact representation of program semantics [13], proving exact program equivalence [5], and -- as our main focus in this extended abstract -- exact probabilistic inference. In probabilistic programming, inference aims to derive a program's posterior distribution. In contrast to approximate inference, inferring exact distributions comes with several benefits [8], e.g., no loss of precision, natural support for symbolic parameters, and efficiency on models with certain structures. Exact probabilistic inference, however, is a notoriously hard task [6,12,17,18]. The challenges mainly arise from three program constructs: (1) unbounded while-loops and/or recursion, (2) infinite-support distributions, and (3) conditioning (via posterior observations). We present our ongoing research in addressing these challenges (with a focus on conditioning) leveraging generating functions and show their potential in facilitating exact probabilistic inference for discrete probabilistic programs.

연구 동기 및 목표

• 무한한 지원을 가진 분포와 유한하지 않은 루프를 포함한 이산 확률 프로그램에서 정확한 확률 추론을 가능하게 하기.
• 기존의 샘플링 기반 또는 유한 루프에 국한된 방법의 한계를 극복하기 위해 PGF 기반 의미론을 조건화를 일급 구성요소로 지원하도록 확장하기.
• 기호적 파라미터와 조합적 추론을 지원하는 자동화된 추론 엔진을 개발하기.
• 관측 문장이 루프 내부에 존재할 때 발생하는 정확한 추론의 열린 과제를 해결하기.

제안 방법

• 확률 생성 함수(PGFs)를 사용하여 무한한 지원을 가진 분포(예: 포아송 및 기하 분포)를 닫힌 형태로 표현함으로써 정확한 조작을 가능하게 한다.
• 코젠의 방식과 유사한 의미론적 프레임워크를 적용하여 프로그램을 PGF를 통한 분포 변환기로 모델링한다.
• 조건화 이후 사후 분포를 표현하기 위해 두 번째 차수의 PGF(SOP)를 활용하여 기호적 계산을 통해 정확한 사후 확률을 도출한다.
• PGF의 조합적 추론과 대수적 연산을 활용하여 모멘트, 꼬리 경계 및 정확한 추론 결과를 계산한다.
• 기호적 파라미터와 복잡한 제어 흐름을 가진 프로그램에 대한 추론 자동화를 위해 오픈소스 도구 PRODIGY와 통합한다.
• 무한 루프 내부의 조건화를 다룰 수 있도록 일반화된 SOP 기법을 가능하게 하는 문법적 제약 조건을 구현한다.

실험 결과

연구 질문

• RQ1 관측 문장이 루프 내부에 포함되어 있을 때, PGF를 조건화에 대한 정확한 추론을 지원하도록 확장할 수 있는가?
• RQ2 두 번째 차수의 PGF는 조건화 하에 무한한 지원 분포와 유한하지 않은 루프를 어떻게 일반화할 수 있는가?
• RQ3 어떤 문법적 제약 조건이 루프 조건화가 존재하는 상황에서 확장 가능하고 자동화된 정확한 추론을 가능하게 하는가?
• RQ4 기호적 파라미터는 PGF 표현 내에서 최대우도 추정과 같은 최적화 기법을 지원하기 위해 효과적으로 활용될 수 있는가?
• RQ5 특성 함수를 사용하여 PGF 기반 추론을 연속 분포로 어떻게 일반화할 수 있는가?

주요 결과

• 전화 운영자 프로그램에 대해 PRODIGY는 Pr(w = 0) = 1215 / (1215 + 2·e⁴) ≈ 0.9178를 계산하였으며, 이는 닫힌 형태의 정확한 사후 확률이다.
• 홀수 기하 분포 프로그램에 대해 사후 생성 함수는 3c / (4 - c²)로 유도되었으며, 이는 홀수 개수에 대한 정확한 분포를 인코딩한다.
• (λ)PSI와 DICE와 달리, 이 방법은 유한하지 않은 루프와 무한한 지원 분포를 성공적으로 처리한다.
• PGF 표현 내에서 기호적 파라미터를 지원함으로써 향후 파라미터 피팅 및 최적화 통합이 가능해진다.
• 이 프레임워크는 추론을 넘어서 프로그램의 동치성 및 거의 확실한 종료가 아닌 경우에 대한 추론을 지원한다.
• 현재 구현은 관측 문장이 프로그램의 최상위 수준이 아니어도, 조건화가 있는 프로그램에 대한 정확한 추론 자동화를 성공적으로 보여준다.