[논문 리뷰] Inference Compilation and Universal Probabilistic Programming

Tuan Le, Atılım Güneş Baydin외 1명|arXiv (Cornell University)|2016. 10. 31.

Bayesian Modeling and Causal Inference인용 수 33

한 줄 요약

이 논문은 보편적 확률 프로그래밍을 위한 추론 컴파일을 소개하며, 깊이 있는 신경망을 순차적 중요도 샘플링을 위한 제안 분포로 훈련시켜 복잡한 생성 모델에서 빠른 근사 추론을 가능하게 한다. 이 방법은 확률 프로그램을 신경망 아키텍처로 컴파일하여 적응적으로 제안을 생성하며, 모델 재학습이 필요 없이 혼합 모델과 캡차 해결 작업에서 상당한 속도 향상을 달성한다.

ABSTRACT

We introduce a method for using deep neural networks to amortize the cost of inference in models from the family induced by universal probabilistic programming languages, establishing a framework that combines the strengths of probabilistic programming and deep learning methods. We call what we do "compilation of inference" because our method transforms a denotational specification of an inference problem in the form of a probabilistic program written in a universal programming language into a trained neural network denoted in a neural network specification language. When at test time this neural network is fed observational data and executed, it performs approximate inference in the original model specified by the probabilistic program. Our training objective and learning procedure are designed to allow the trained neural network to be used as a proposal distribution in a sequential importance sampling inference engine. We illustrate our method on mixture models and Captcha solving and show significant speedups in the efficiency of inference.

연구 동기 및 목표

• 보편적 확률 프로그래밍 언어에서 추론의 높은 계산 비용을 깊이 있는 신경망을 사용해 암시적으로 줄이는 것.
• 모델의 역행이 필요 없이 임의의 확률 프로그램의 구조에 맞게 맞춤형 신경 제안 네트워크를 생성하는 방법을 개발하는 것.
• 모델에서 생성된 무한한 스트림의 합성 데이터에 대해 신경망을 훈련시켜 효율적이고 확장 가능한 추론을 가능하게 하는 것.
• 깊이 학습 추론의 속도를 유지하면서도 생성 모델의 해석 가능성 유지.
• 보편적 확률 프로그래밍의 표현력과 신경망 추론의 효율성을 결합하는 프레임워크 제공.

제안 방법

• 확률 프로그램을 LSTM 코어, 관측 변수를 위한 임bedding 레이어, 잠재 변수를 위한 제안 레이어를 갖는 신경 아키텍처로 컴파일한다.
• 확률 프로그램에서 샘플된 무한한 스트림의 합성 데이터를 사용해 신경망을 엔드 투 엔드로 훈련시킨다.
• 추론 중에는 훈련된 네트워크가 순차적 중요도 샘플링에서 사용하는 제안 분포 $ q(\mathbf{x}|\mathbf{y};\phi) $ 를 파arameter화한다.
• 관측 임베딩은 프로그램 트레이스에 따라 구성 가능한 신경망을 통해 처리되며, 모든 시간 단계에 입력하거나 첫 번째 단계에만 입력하는 옵션이 있다.
• 각 실행 트레이스에 대해 아키텍처가 실시간으로 재구성되어 다양한 프로그램 구조에 적응 가능하도록 한다.
• 훈련 목표는 제안 네트워크가 진정한 사후분포를 근사하도록 하여 중요도 가중치의 분산을 최소화한다.

실험 결과

연구 질문

• RQ1 임의의 보편적 확률 프로그래밍에서 순차적 중요도 샘플링을 위한 효과적인 제안 분포로 신경망을 훈련시킬 수 있는가?
• RQ2 모델의 역행이 필요 없이 주어진 확률 프로그램의 구조에 맞게 신경 아키텍처를 자동으로 적응시킬 수 있는가?
• RQ3 다양한 관측 임베딩 전략(예: 단일 입력 대비 순환 입력)이 훈련 효율성과 성능에 미치는 영향은 무엇인가?
• RQ4 이 프레임워크는 혼합 모델과 캡차와 같은 복잡한 모델에서 정확도를 유지하면서도 상당한 속도 향상을 달성할 수 있는가?
• RQ5 생성 모델이 진짜 데이터 분포와 완전히 일치하지 않을 때 이 방법의 정확도는 얼마나 견고한가?

주요 결과

• 이 방법은 혼합 모델과 캡차 해결 작업 모두에서 훈련된 신경 제안 네트워크를 통해 추론 효율성을 상당히 향상시켰다.
• 관측 임베딩을 첫 번째 시간 단계에만 입력하는 방식은 모든 단계에 입력하는 것과 동일한 성능를 보였음에도 불구하고 약 3배 더 오래 훈련되는 등 더 느린 훈련을 유도했다.
• 이 접근법은 관측 공간에서 잠재 공간으로의 비선형 사후 근사값을 효과적으로 학습하여 복잡한 모델에서 정확한 추론을 가능하게 했다.
• 모델의 잘못된 특정화에 대해 어느 정도 견고하지만, 생성 모델의 사전 분포가 실제 데이터 분포와 일치하지 않을 경우 성능이 저하되며, 수동 조정이 필요하다.
• 실행 트레이스마다 신경 아키텍처를 효과적으로 재구성할 수 있어 다양한 프로그램 구조를 동적으로 처리할 수 있었다.
• 무한한 스트림의 합성 데이터에 의존함으로써 훈련 데이터에 과적합되는 것을 방지했지만, 생성 모델이 너무 좁거나 校정되지 않은 경우 모델의 잘못된 특정화 위험은 여전히 존재한다.