[논문 리뷰] Automatic Reparameterisation of Probabilistic Programs

Maria I. Gorinova, Dave Moore외 1명|arXiv (Cornell University)|2019. 06. 07.

Machine Learning and Algorithms참고 문헌 23인용 수 4

한 줄 요약

이 논문은 확률적 프로그래밍에서 추론의 안정성과 효율성을 향상시키기 위해 중심화 및 비중앙화 파rameterization 간에 동적으로 전환하는 자동 재매개변수화를 제안한다. iHMC와 변분 추론 기반 매개변수화(VIP)라는 두 가지 알고리즘을 도입하여 고정된 매개변수화 방식을 능가하며, 특히 독일 신용 모델과 같은 도전적인 모델에서 기울기 평가당 효과적 샘플 수가 최대 3배 높아짐을 보였다.

ABSTRACT

Probabilistic programming has emerged as a powerful paradigm in statistics, applied science, and machine learning: by decoupling modelling from inference, it promises to allow modellers to directly reason about the processes generating data. However, the performance of inference algorithms can be dramatically affected by the parameterisation used to express a model, requiring users to transform their programs in non-intuitive ways. We argue for automating these transformations, and demonstrate that mechanisms available in recent modeling frameworks can implement non-centring and related reparameterisations. This enables new inference algorithms, and we propose two: a simple approach using interleaved sampling and a novel variational formulation that searches over a continuous space of parameterisations. We show that these approaches enable robust inference across a range of models, and can yield more efficient samplers than the best fixed parameterisation.

연구 동기 및 목표

• 확률적 프로그래밍에서 비최적의 모델 매개변수화로 인한 열악한 추론 성능 문제를 해결하기 위해.
• 비중앙화 및 관련 재매개변수화를 자동화하여 수동으로 비직관적인 모델 재작성의 필요성을 줄이기 위해.
• 사전에 최적 형태를 알지 못하더라도 추론 알고리즘이 동적으로 최적의 매개변수화를 선택하거나 학습할 수 있도록 하기 위해.
• 모델 명시와 추론 효율성 간의 분리를 가능하게 하여 사용자가 통계적 가정에만 집중할 수 있도록 하기 위해.

제안 방법

• 현대 확률적 프로그래밍 프레임워크의 효과 처리 메커니즘을 활용하여 잠재 변수에 이遍적 변환(예: 비중앙화)을 자동으로 적용한다.
• 중심화 및 비중앙화 매개변수화를 번갈아 가며 HMC 단계를 수행하는 이종 HMC(iHMC)를 제안하여 혼합 성능을 향상시킨다.
• 연속된 매개변수화 공간을 탐색하는 새로운 변분 추론 방법인 변분적으로 추론된 매개변수화(VIP)를 도입하며, 비중앙화는 특수 케이스로 포함된다.
• 모델 매개변수와 재매개변수화 매개변수(λ)를 동시에 최적화하기 위해 평균장 변분 근사(approximation)를 사용하며, λ는 비중앙화의 정도를 제어한다.
• 기울기 기반 최적화를 통해 매개변수화 초모수를 조정하여 최적 구성의 자동 발견을 가능하게 한다.
• 모든 방법에서 HMC 효율성을 향상시키기 위해 변분 사후분포를 사용해 대각 예조건화를 적용한다.

실험 결과

연구 질문

• RQ1 자동 재매개변수화는 다양한 확률적 모델에서 추론의 안정성과 효율성을 향상시킬 수 있는가?
• RQ2 고정된 인간에 의한 설계된 방식보다 추론 알고리즘이 동적으로 더 나은 매개변수화를 발견할 수 있는가?
• RQ3 VIP를 통해 연속적인 매개변수화 탐색이 중심화 또는 비중앙화 형태와 같은 이산적 선택에 비해 더 높은 성능을 낼 수 있는가?
• RQ4 ELBO는 재매개변수화된 모델에서 사후 기하학과 샘플링 효율성의 신뢰할 수 있는 대체 지표로 사용될 수 있는가?
• RQ5 샘플링 효율성과 수렴성 측면에서 자동 재매개변수화는 수동 비중앙화 방식보다 어떻게 비교되는가?

주요 결과

• iHMC는 모든 데이터셋에서 최상의 고정 매개변수화(CP-HMC 또는 NCP-HMC)와 동일하거나 그 이상의 성능을 보였으며, 독일 신용 데이터셋에서는 기울기 평가당 효과적 샘플 수가 3.0±0.2로 뛰어나 타당성을 입증했다.
• VIP-HMC는 독일 신용 데이터셋에서 5.6±0.6 ESS/∇를 기록하여 CP-HMC와 NCP-HMC보다 3배 이상 높은 샘플링 효율성을 확보했으며, 이는 뛰어난 효율성을 보여주었다.
• VIP는 의미 있고 해석 가능한 매개변수화를 발견했다: 대부분의 변수는 중심화(λ=0) 또는 비중앙화(λ=1)로 설정되었지만, 독일 신용과 같은 복잡한 경우에서는 혼합된 구성이 나타났다.
• ELBO는 샘플링 효율성과 잘 연관되어 있음을 확인하여, 모델의 조건화 상태 예측 및 자동 재매개변수화 가이드로의 ELBO 사용이 타당함을 입증했다.
• 평균적으로 VIP-HMC는 최상의 고정 매개변수화와 동일하거나 그 이상의 성능를 보였으며, 이는 자동 탐색이 우수한 구성을 발견할 수 있음을 확인했다.