[논문 리뷰] Conditioning in Probabilistic Programming

Friedrich Gretz, Nils Jansen외 4명|arXiv (Cornell University)|2015. 04. 01.

Formal Methods in Verification참고 문헌 17인용 수 7

한 줄 요약

이 논문은 비결정성, 비결정성, 관측을 다루는 조건부 확률 프로그램을 위한 가장 약한 자유 전예측(wlp) 의미론을 제안한다. 이는 pGCL을 비정상 종료, 비결정성, 관측을 처리하도록 확장한 것으로, 조건부 전예측이 마르코프 체인에서 조건부 보상과 일치함을 증명하고, 비결정성 프로그램에 대한 귀납적 wlp 의미론이 불가능함을 입증하여 구성적 추론의 근본적 한계를 규명한다.

ABSTRACT

We investigate the semantic intricacies of conditioning, a main feature in probabilistic programming. We provide a weakest (liberal) pre-condition (w(l)p) semantics for the elementary probabilistic programming language pGCL extended with conditioning. We prove that quantitative weakest (liberal) pre-conditions coincide with conditional (liberal) expected rewards in Markov chains and show that semantically conditioning is a truly conservative extension. We present two program transformations which entirely eliminate conditioning from any program and prove their correctness using the w(l)p-semantics. Finally, we show how the w(l)p-semantics can be used to determine conditional probabilities in a parametric anonymity protocol and show that an inductive w(l)p-semantics for conditioning in non-deterministic probabilistic programs cannot exist.

연구 동기 및 목표

• 비결정성과 비정상 종료가 존재하는 상황에서 조건부 의미를 공식화하는 것.
• 관측과 조건부 기대값을 다룰 수 있도록 가장 약한 자유 전예측(wlp) 의미론을 확장하는 것.
• 비결정성 확률 프로그램에 대해 조건부 의미론이 귀납적으로 정의될 수 있는지 조사하는 것.
• 조건부 의미를 유지하면서 조건부를 제거하는 프로그램 변환을 제시하여 표준 확률적 프레임워크에서의 분석을 가능하게 하는 것.

제안 방법

• 수행 행동을 모델링하기 위해 보상 마르코프 결정 과정(RMDP) 의미론을 도입한다. 이는 발산하거나 중단되는 실행을 포함한다.
• 비결정적 선택 연산자를 악의적 의미론과 함께 사용하여 완전히 확률적인 프로그램에 대해 조건부 가장 약한 자유 전예측(cwp*) 의미론을 정의한다.
• 관측 문장을 제거하기 위해 조건부 전예측을 사용하여 조건부가 없는 등가 프로그램으로 프로그램을 재작성하는 두 가지 프로그램 변환을 제안한다.
• cwp* 의미론을 사용하여 매개변수화된 익명성 프로토콜에서 조건부 확률을 계산한다.
• 비결정성 프로그램에 대해 귀납적 cwp* 의미론이 존재하지 않음을 입증하기 위해, 재스케일링과 악의적 선택을 포함한 반례를 구성한다.
• cwp* 의미론이 마르코프 체인에서 조건부 기대 보상과 일치함을 입증하여 그 정확성을 검증한다.

실험 결과

연구 질문

• RQ1 비결정성 확률 프로그램에 대해 조건부 의미를 갖는 구성적이고 귀납적인 wlp 의미론을 정의할 수 있는가?
• RQ2 비정상 종료, 중단, 비결정성이 존재하는 상황에서 조건부는 어떻게 공식적으로 해석되어야 하는가?
• RQ3 마르코프 체인에서 조건부 전예측과 조건부 기대 보상 간의 관계는 무엇인가?
• RQ4 조건부를 제거하는 변환을 통해 의미 동치성을 유지하면서 프로그램에서 조건부를 제거할 수 있는가?
• RQ5 발산하거나 중단하는 프로그램에 대해 조건부 의미는 어떤 의미적 영향을 미치는가?

주요 결과

• 악의적 선택과 재스케일링을 포함한 반례를 통해, 비결정성 확률 프로그램에 대해 귀납적 wlp 의미론이 존재하지 않음을 입증하였다.
• 완전히 확률적인 프로그램에 대해 cwp* 의미론은 마르코프 체인에서의 조건부 기대 보상과 일치함을 입증하여 그 정확성을 검증하였다.
• 제시된 프로그램 변환은 조건부를 제거하면서 의미 동치성을 유지하여 표준 확률적 프레임워크에서의 분석을 가능하게 하였다.
• 조건부는 보존적 확장이다: Pobs1과 Pobs2는 의미적으로 동치이지만, Pobs2는 비가능한 브랜치를 포함한다.
• 의미론은 발산하는 프로그램을 정확히 구분한다: Pdiv는 결과 0을 생성하지만, Pandiv는 유일한 가능하지만 거의 확실히 발생하지 않는 실행만을 가진다.
• cwp* 의미론은 중단하는 프로그램을 정확히 다루며, 발산하는 브랜치가 조건부 기대에 기여하지 않는다고 간주한다.