[논문 리뷰] Semantics for probabilistic programming: higher-order functions, continuous distributions, and soft constraints

Sam Staton, Hongseok Yang외 3명|arXiv (Cornell University)|2016. 01. 19.

Logic, Reasoning, and Knowledge참고 문헌 31인용 수 40

한 줄 요약

이 논문은 연속 분포와 소프트 제약 조건을 지원하는 고차수 확률 프로그래밍 언어를 위한 형식적 의미 이론을 제시한다. 측도 이론에서 함수 공간의 범주론적 과제를 해결하기 위해 함자 범주를 사용한다. 이는 운영적이고 의미론적 의미 이론이 모두 타당하고 충분하며 종료됨을 보장하며, 순차 몽테카를로와 같은 추론 알고리즘 및 컴파일러 최적화의 형식적 검증을 가능하게 한다.

ABSTRACT

We study the semantic foundation of expressive probabilistic programming languages, that support higher-order functions, continuous distributions, and soft constraints (such as Anglican, Church, and Venture). We define a metalanguage (an idealised version of Anglican) for probabilistic computation with the above features, develop both operational and denotational semantics, and prove soundness, adequacy, and termination. They involve measure theory, stochastic labelled transition systems, and functor categories, but admit intuitive computational readings, one of which views sampled random variables as dynamically allocated read-only variables. We apply our semantics to validate nontrivial equations underlying the correctness of certain compiler optimisations and inference algorithms such as sequential Monte Carlo simulation. The language enables defining probability distributions on higher-order functions, and we study their properties.

연구 동기 및 목표

• 고차수 함수, 연속 분포, 소프트 제약 조건을 지원하는 표현력 있는 확률 프로그래밍 언어를 위한 형식적이고 수학적으로 엄밀한 기초를 제공하는 것.
• 표준 범주론에서 가측 공간이 함수 공간을 지원하지 못하는 기초적 문제를 해결함으로써, 확률 이론에서 고차수 의미 이론이 차단되는 문제를 해결하는 것.
• 서로에 대해 타당하고 충분한 운영적 의미 이론과 의미론적 의미 이론을 개발하여 계산적이고 논리적인 일致성을 보장하는 것.
• 순차 몽테카를로와 같은 추론 알고리즘의 정확성에 대한 형식적 추론과 확률 프로그램의 컴파일러 최적화를 가능하게 하는 것.

제안 방법

• 고차수 함수, 연속 분포, `sample`, `score`, `norm` 원시 연산을 통한 소프트 제약 조건을 지원하는 메타언어(영어로 Anglican 기반)를 도입한다.
• 가측 구성(configuration) 위에서의 스토하스틱 레이블러드 전이 시스템을 사용하여 운영 의미 이론을 모델링하며, 이는 이산적 확률 전이를 연속적 경우로 확장한다.
• 가측 공간 위의 함자 범주를 사용하여 잘 정의된 함수 공간을 구성함으로써, 가측 공간이 카르테시안 닫힘 범주를 이루지 못하는 문제를 해결한다.
• Giry 모나드를 함자 범주로 승격시켜 연속 분포와 확률 측도를 고차수 환경에서 해석한다.
• 연속 확률 밀도를 위한 밀도 유형 `D(D)`를 도입하며, 이는 측도 가능성을 유지하는 평가 함수와 분포 함수를 포함한다.
• 의미론적 의미 이론이 운영 의미 이론에 대해 타당하고 충분함을 입증하여 프로그램의 등가성과 정확성에 대한 등식적 추론을 가능하게 한다.

실험 결과

연구 질문

• RQ1 가측 공간이 함수 공간을 지원하지 못하는 확률적 환경에서 고차수 함수를 어떻게 의미적으로 해석할 수 있는가?
• RQ2 연속 분포와 소프트 제약 조건을 갖는 확률 프로그램에 대해 타당하고 충분한 운영적 의미 이론은 무엇인가?
• RQ3 범주론을 사용하여 함수 유형과 연속 측도를 지원하는 고차수 확률 프로그램의 의미론적 의미 이론은 어떻게 구성할 수 있는가?
• RQ4 순차 몽테카를로 시뮬레이션의 기초가 되는 핵심 프로그램 등식은 제안된 의미 이론을 통해 형식적으로 검증할 수 있는가?
• RQ5 완전한 고차수 범주론적 장비를 요구하지 않고도 확률 밀도 기반 소프트 제약 조건은 어떻게 의미 이론에 형식적으로 통합할 수 있는가?

주요 결과

• 논문은 함자 범주를 사용하여 고차수 확률 프로그램의 의미론적 의미 이론을 성공적으로 구성하였으며, 가측 공간이 카르테시안 닫힘 범주를 이루지 못하는 기초적 문제를 해결한다.
• 의미론적 의미 이론이 운영 의미 이론에 대해 타당하고 충분함이 입증되어 프로그램 등가성과 정확성에 대한 형식적 추론이 가능하다.
• 의미 이론은 순차 몽테카를로 시뮬레이션을 위한 핵심 등식의 형식적 검증을 지원하며, 이는 모델 내에서의 정확성을 검증한다.
• 소프트 제약 조건은 밀도 유형 `D(D)`와 평가 함수 `ev`를 사용하여, 완전한 고차수 범주론적 장비 없이도 표현 가능하다.
• 중첩된 쿼리와 `norm`을 통한 정규화를 지원함으로써, 원칙적인 방식으로 사후 추론을 가능하게 한다.
• 모델은 이산 및 연속 분포를 모두 지원하며, Dirac 측도(예: `norm(return(42.0))`)를 포함하고, 사후 분포에 연속 밀도가 없는 경우도 처리할 수 있다.