[논문 리뷰] Embarrassingly parallel MCMC using deep invertible transformations

Diego Mesquita, Paul Blomstedt외 1명|arXiv (Cornell University)|2019. 03. 11.

Markov Chains and Monte Carlo Methods참고 문헌 17인용 수 5

한 줄 요약

이 논문은 복잡한 부분사후분포를 근사하기 위해 딥 역전환 가능한 정규화 흐름(Real NVP)을 사용하는 비체적보존 집합 곱(NAP, non-volume-preserving aggregation product)을 제안한다. 부분사후분포를 다룰 수 있는 형태로 변환함으로써, 안정적이고 통신 비용이 낮은 중요도 샘플링을 통해 결과를 조합할 수 있게 하여, 통신 비용이 일정한 고차원, 다모달, 이질적인 환경에서 최신 기술을 초월한다.

ABSTRACT

While MCMC methods have become a main work-horse for Bayesian inference, scaling them to large distributed datasets is still a challenge. Embarrassingly parallel MCMC strategies take a divide-and-conquer stance to achieve this by writing the target posterior as a product of subposteriors, running MCMC for each of them in parallel and subsequently combining the results. The challenge then lies in devising efficient aggregation strategies. Current strategies trade-off between approximation quality, and costs of communication and computation. In this work, we introduce a novel method that addresses these issues simultaneously. Our key insight is to introduce a deep invertible transformation to approximate each of the subposteriors. These approximations can be made accurate even for complex distributions and serve as intermediate representations, keeping the total communication cost limited. Moreover, they enable us to sample from the product of the subposteriors using an efficient and stable importance sampling scheme. We demonstrate the approach outperforms available state-of-the-art methods in a range of challenging scenarios, including high-dimensional and heterogeneous subposteriors.

연구 동기 및 목표

• 대규모 분산 데이터셋에 대해 MCMC를 효율적으로 확장할 수 있도록, 통신 비용이 낮은 병렬 베이지안 추론을 가능하게 하는 데 목적이 있다.
• 기존의 쉽게 병렬화할 수 있는 MCMC 방법들이 중심화된 부분사후분포 샘플이 필요로 하며, 높은 통신 비용이나 낮은 근사 정확도 문제를 겪는 한계를 극복하는 데 목적이 있다.
• 복잡한 고차원 또는 이질적인 부분사후분포에서도 높은 정확도를 유지하면서, 집합 과정에서의 통신 및 계산 비용을 최소화하는 방법을 개발하는 데 목적이 있다.
• 역전환 가능한 변환을 통해 다루기 쉬운 밀도 표현을 활용하여, 중요도 샘플링을 통해 안정적이고 효율적인 사후분포 집합을 가능하게 하는 데 목적이 있다.

제안 방법

• 실제 NVP(정규화 흐름) 모델을 사용하여 복잡한 부분사후분포를 더 단순하고 다룰 수 있는 잠재공간으로 매핑하는 가역적이고 일대일 대응 변환을 학습한다.
• 변환 공식을 사용하여 각 부분사후분포의 밀도를 근사함으로써, 잠재공간에서 정확한 로그밀도 값을 평가할 수 있도록 한다.
• 각 부분사후분포의 변환된 밀도의 곱을 취하여, 잠재공간에서의 공동 근사 사후분포를 형성한다.
• 변환된 부분사후분포 샘플을 제안 분포로 사용하여 중요도 샘플링을 통해 결합된 사후분포에서 샘플링한다.
• 샘플링/중요도 재표본 추출을 적용하여 최종 근사 공동 사후분포에서 가중치가 부여된 샘플을 확보한다.
• 네트워크 아키텍처에 대한 약한 가정 하에 중요도 샘플링 추정기의 분산이 유한함을 증명함으로써 안정성을 보장한다.

실험 결과

연구 질문

• RQ1 딥 역전환 변환을 사용하여 복잡한 부분사후분포를 효율적인 병렬 MCMC를 위해 저차원의 중간 표현으로 만들 수 있는가?
• RQ2 정규화 흐름을 부분사후분포 표현에 사용함으로써, 기존 방법 대비 안정적이고 저비용의 중요도 샘플링을 통한 집합이 가능한가?
• RQ3 기존 방법이 실패하는 고차원 또는 다모달 사후분포 상황에서 제안된 방법은 어떻게 성능을 발휘하는가?
• RQ4 부분사후분포 샘플 수에 관계없이 통신 비용이 일정한가? 이는 대규모 분산 시스템에 적합한가?
• RQ5 이질적인 부분사후분포 환경에서, 기존의 파라미터 기반, 커널 밀도, 또는 가우시안 프로세스 근사 방법과 비교해 정확도 및 효율성 측면에서 어떻게 성능을 내는가?

주요 결과

• NAP는 고차원 환경에서 최신 기술을 크게 뛰어넘었으며, 희귀 카디널리티 이벤트 실험에서 RMSE 0.71×10⁻³을 기록했고, PARAM의 0.11×10⁻¹ 및 PART의 0.27×10⁻²보다 우수했다.
• 로지스틱 회귀 실험에서 p=25일 때 NAP는 평균 제곱오차 337.28을 기록했고, PART(117.10), PARAM(33.36), SP(476.90), NP(43.47), CON(32.59)를 모두 앞섰다.
• 고차원 케이스(p=100)에서는 NAP가 합리적인 오차 426.95를 유지했지만, SP의 오차는 18,378.86으로 급격히 증가하여 고차원에서의 불안정성을 보였다.
• NAP는 희귀 카디널리티 이벤트 모델에서와 같이 일부 분할에서 데이터가 희소하여 부분사후분포가 극적으로 다를 수 있는 매우 이질적인 부분사후분포를 다루는 데 뛰어난 강건성을 보였다.
• NAP의 통신 비용은 부분사후분포 샘플 수에 관계없이 일정하다. 통신되는 것은 샘플이 아니라 학습된 정규화 흐름 파라미터이기 때문이다.
• 이론적 분석을 통해 NAP에서 사용된 중요도 샘플링 기법이 약한 가정 하에 안정적이며, 시험 함수에 대한 추정치의 분산이 유한하다는 점을 확인했다.