[논문 리뷰] Learning Probabilistic Programs

Yura Perov, Frank Wood|arXiv (Cornell University)|2014. 07. 09.

Bayesian Modeling and Causal Inference참고 문헌 30인용 수 6

한 줄 요약

이 논문은 고차수 확률적 프로그래밍 언어에서 베이지안 추론을 사용하여 관측된 데이터 샘플에서 자동으로 생성 확률 프로그램 텍스트를 학습하는 방법을 제안한다. 계층적 사전 분포를 가진 프로그램 텍스트에 대한 확률적 추론으로 프로그램 합성 문제를 다루며, 베르누이 분포와 같은 분포에 대해 데이터와 다른 알려진 샘플러를 사용하여 샘플러 프로그램을 성공적으로 추론한다. 이는 MCMC 추론이 비정상적인 분포로 일반화될 수 있음을 강력한 경험적 결과로 보여준다.

ABSTRACT

We develop a technique for generalising from data in which models are samplers represented as program text. We establish encouraging empirical results that suggest that Markov chain Monte Carlo probabilistic programming inference techniques coupled with higher-order probabilistic programming languages are now sufficiently powerful to enable successful inference of this kind in nontrivial domains. We also introduce a new notion of probabilistic program compilation and show how the same machinery might be used in the future to compile probabilistic programs for efficient reusable predictive inference.

연구 동기 및 목표

• 관측된 데이터 샘플에서 확률적 프로그래밍 언어가 자동으로 생성 모델 프로그램을 추론할 수 있는지 조사하기.
• 베이지안 추론을 프로그램 텍스트에 적용하여, 베르누이 분포와 같은 효율적인 샘플링 절차를 발견할 수 있는지 탐색하기.
• 기존의 추론 파ip라인을 건너뛰고 직접 사후 분포 샘플을 생성하는 프로그램 텍스트를 학습하는 확률적 프로그램 컴파일링 프레임워크를 개발하기.
• 계층적 생성 사전 분포를 프로그램 텍스트에 적용하여 오직 샘플 데이터만으로도 다양한 분포 유형 간의 일반화가 가능할지 평가하기.
• 수세기 동안 수작업으로 개발된 효율적인 샘플링 알고리즘(예: 마르사글라 또는 박스-밀러 방법)을 자동으로 발견할 수 있는 기반 마련하기.

제안 방법

• 프로그램 텍스트에 대해 계층적 생성 모델을 정의하여 확률적 프로그램의 구조와 복잡성에 대한 사전 신뢰를 표현한다.
• 관측된 데이터 샘플에 조건부로 프로그램 텍스트의 사후 분포에서 샘플을 추출하기 위해 마르코프 체인 몬테카를로(MCMC) 추론을 사용한다.
• 실행 시간 인터프리터를 통해 프로그램 텍스트를 평가하며, 요약 통계를 통해 출력 분포가 관측된 데이터와 일치하는지 확인한다.
• 일급 함수와 평가(eval) 기능을 포함한 고차수 언어 기능을 활용하여 재귀적이고 모듈화된 프로그램 구조를 가능하게 한다.
• 한 개의 분포에 대한 샘플러 프로그램을 제외한 나머지 분포에 대해 알려진 샘플러 프로그램을 사용하여, 관측된 샘플만으로 제외된 분포의 프로그램 텍스트를 추론하는 데 사용되는 '하나 제외' 실험 설계를 사용한다.
• 기존의 추론 파이프라인을 건너뛰고 직접 관심 있는 사후 분포 샘플을 생성하는 새로운 프로그램을 학습함으로써 확률적 프로그램 컴파일링을 지원한다.

실험 결과

연구 질문

• RQ1 고차수 확률적 프로그래밍 언어에서 프로그램 텍스트에 대한 MCMC 추론이 관측된 데이터 샘플에서 생성 모델을 성공적으로 추론할 수 있는가?
• RQ2 프로그램 구조에 대한 계층적 사전 분포가 오직 샘플 데이터와 다른 분포에 대한 알려진 샘플러만을 사용하여 신규 분포 유형(예: 베르누이)으로의 일반화를 가능하게 할 수 있는가?
• RQ3 수작업으로 개발된 알고리즘(예: 마르사글라 또는 박스-밀러 방법)과 유사한 효율적인 샘플링 절차를 프로그램 텍스트에 대한 확률적 추론을 통해 자동으로 발견하는 것이 가능한가?
• RQ4 직접 사후 샘플을 생성하는 프로그램 텍스트를 학습함으로써 확률적 프로그램 컴파일링을 어느 정도 달성할 수 있는가? 이는 명시적 추론을 생략하는 방식이다.
• RQ5 프로그램 텍스트에 대한 생성 사전 분포를 사용함으로써 추론가 더 읽기 쉽게, 간결하고 재사용 가능한 샘플링 절차로 수렴하는가?

주요 결과

• 하나 제외 실험에서 오직 관측된 샘플과 다른 분포에 대한 알려진 샘플러만을 사용하여 베르누이 분포에 대한 샘플러 프로그램을 성공적으로 추론하였다.
• 추론된 프로그램 텍스트는 진짜 데이터 분포와 일치하는 요약 통계를 생성하여 강력한 일반화 성능을 보였다.
• 경험적 결과로 MCMC 추론이 복잡하고 고차원적인 확률적 프로그램 공간을 효과적으로 탐색하고 사후 확률이 높은 프로그램을 찾을 수 있음을 보여주었다.
• 고차수 확률적 프로그래밍 언어에서 eval 지원 기능을 통해 프로그램 구조에 대한 강력하고도 영리한 추론이 가능하며, 이는 자동으로 샘플링 절차를 발견할 수 있음을 보여주었다.
• 추론된 컴파일된 샘플러는 정확한 사후 분포에 매우 가까웠으며, 이는 확률적 프로그램 컴파일링이 새로운 패러다임으로 가능하다는 것을 시사한다.
• 결과적으로 이전에 수십 년에 걸쳐 수작업으로 개발된 효율적인 샘플링 알고리즘의 자동 발견이 이제는 확률적 추론을 통해 가능해질 수 있을 것임을 시사한다.