[논문 리뷰] LF-PPL: A Low-Level First Order Probabilistic Programming Language for Non-Differentiable Models

Yuan Zhou, Bradley Gram-Hansen외 4명|arXiv (Cornell University)|2019. 03. 06.

Bayesian Modeling and Causal Inference인용 수 10

한 줄 요약

이 논문은 연속, 이산, 조각별 연속 변수를 포함한 모델을 위한 저수준의 일阶 확률 프로그래밍 언어인 LF-PPL을 소개한다. 대상 밀도의 불연속성에 대해 측도가 0인 수학적 제약 조건을 부과함으로써, LF-PPL은 불연속성 경계의 자동 탐지가 가능하며, 이는 특수화된 불연속 해밀턴 몽테카를로(DHMC) 엔진을 통한 효율적 추론을 가능하게 하여, 표준 HMC에 비해 비미분 가능 모델에서 성능을 크게 향상시킨다.

ABSTRACT

We develop a new Low-level, First-order Probabilistic Programming Language (LF-PPL) suited for models containing a mix of continuous, discrete, and/or piecewise-continuous variables. The key success of this language and its compilation scheme is in its ability to automatically distinguish parameters the density function is discontinuous with respect to, while further providing runtime checks for boundary crossings. This enables the introduction of new inference engines that are able to exploit gradient information, while remaining efficient for models which are not everywhere differentiable. We demonstrate this ability by incorporating a discontinuous Hamiltonian Monte Carlo (DHMC) inference engine that is able to deliver automated and efficient inference for non-differentiable models. Our system is backed up by a mathematical formalism that ensures that any model expressed in this language has a density with measure zero discontinuities to maintain the validity of the inference engine.

연구 동기 및 목표

• 비미분 가능 밀도를 가진 확률 모델에서 효율적 추론을 수행하는 데 도전하는 것, 특히 이산 또는 조각별 연속 변수에서 기인하는 경우를 포함하여.
• 대상 밀도의 측도가 0인 불연속성을 공식적으로 보장하는 저수준의 확률 프로그래밍 언어를 설계하는 것.
• 연속 및 불연속 변수를 자동으로 분류하고 런타임에 경계를 초과하는지 탐지하는 컴파일러 기반의 기법을 개발하는 것.
• 불연속성 위치를 수동으로 지정하지 않고도 특수화된 추론 엔진(예: DHMC)을 확률 프로그래밍 시스템에 통합하는 것.
• 가우스 혼합 모델과 무거운 尾 조각별 분포에서의 실증적 평가를 통해 프레임워크의 실용적 효과성을 입증하는 것.

제안 방법

• LF-PPL은 모델 문법에 수학적 제약 조건을 적용하여, 연속밀도 함수의 불연속성이 항상 측도가 0이 되도록 보장함으로써, 불연속성 인식 추론 알고리즘에 대한 타당성을 유지한다.
• 이 언어는 명시적 제어 흐름(예: if-else 문)을 포함한 일阶 저수준 문법을 사용하여, 이산 및 연속 변수를 포함한 혼합 유형의 변수를 표현한다.
• 새로운 컴파일러 기반 기법은 모델을 정적 분석하여 밀도 함수에서 불연속성이 발생하는 변수를 식별하고, 런타임에 경계를 초과하는지 점검하는 코드를 삽입한다.
• 이 프레임워크는 불연속 해밀턴 몽테카를로(DHMC)와 같은 추론 엔진의 구현을 지원하며, 이는 좌표별 적분기를 사용하여 불연속성이 존재하는 상황에서도 효율성을 유지한다.
• 컴파일러 파이프라인은 LF-PPL 프로그램을 실행 가능한 추론 코드로 변환하여 기존의 확률 프로그래밍 백엔드와의 통합을 가능하게 한다.
• 번역 규칙를 통한 형식적 검증을 통해 의미론적 정확성과 측도가 0인 불연속성 보장을 보장한다.

실험 결과

연구 질문

• RQ1 비미분 가능 밀도의 불연속성이 항상 측도가 0이 되도록 공식적으로 보장할 수 있는 저수준의 확률 프로그래밍 언어를 설계할 수 있는가?
• RQ2 컴파일러 기반 기법이 모델의 밀도 함수에서 불연속성을 유도하는 변수를 자동으로 식별할 수 있는가?
• RQ3 런타임에서 불연속성 경계를 초과하는 것을 탐지할 수 있는가? 이는 비미분 가능 모델에서 효율적 추론을 가능하게 한다.
• RQ4 이러한 컴파일러 파이프라인을 통해 DHMC와 같은 특수화된 추론 엔진을 확률 프로그래밍 언어 내에서 효과적으로 자동화할 수 있는가?
• RQ5 LF-PPL에 DHMC를 통합함으로써 비미분 가능 모델에서 표준 HMC 및 기타 기준 대비 측정 가능한 성능 향상이 이루어지는가?

주요 결과

• LF-PPL에 구현된 DHMC 추론 엔진은 10^5개의 샘플에서 평균 제곱오차(MSE)가 유사한 수준이었고, PyMC3의 NUTS와 메트로폴리스-위너-지브스를 사용한 결과와 유사한 성능을 보였다.
• 불연속성이 존재하는 고차원 조각별 모델에서 DHMC는 표준 HMC보다 최악의 평균 절대오차(WMAE) 측면에서 뛰어난 성능을 보였으며, 특히 차원 수가 증가할수록 두드러졌다.
• 표준 HMC는 차원 수 증가에 따라 빠르게 성능 저하를 보였지만, DHMC는 좌표별 적분기 설계 덕분에 샘플당 안정적인 효율성을 유지했다.
• 컴파일러 기반 기법은 런타임에 불연속성 경계를 성공적으로 탐지하여, 사용자가 불연속성 위치를 수동으로 기입하지 않더라도 DHMC가 정확하게 작동할 수 있도록 했다.
• LF-PPL의 형식적 의미론은 언어로 작성된 모든 모델가 측도가 0인 불연속성 밀도를 가짐을 보장하여, 불연속성 인식 추론 알고리즘의 사용을 정당화한다.
• 실증 결과는 LF-PPL이 비미분 가능 모델에 대해 자동으로 효율적인 추론을 가능하게 하며, 고도의 추론 엔진을 PPL에 통합하는 것이 실현 가능하다는 것을 확인한다.