[논문 리뷰] On Contrastive Learning for Likelihood-free Inference

Conor Durkan, Iain Murray외 1명|arXiv (Cornell University)|2020. 02. 10.

Model Reduction and Neural Networks인용 수 21

한 줄 요약

이 논문은 일반적인 대비 학습 프레임워크 아래에서 두 가지 주요한 우도 없는 추론 방법—스코어 기반 비율 추정(SRE)과 노멀라이징 플로우 기반 사후 추정(SNPE-C)—을 통합하며, 동일한 목표로 훈련될 경우 이들이 동치임을 보여준다. 주요 기여는 두 방법이 동일한 대비 목표를 최적화함을 보여주어 직접 비교가 가능하게 하고, 실용적 권고를 내릴 수 있게 한다. 특히 SNPE-C는 정규화된 밀도 출력 덕분에 사후 샘플링에서 우수한 성능을 보인다.

ABSTRACT

Likelihood-free methods perform parameter inference in stochastic simulator models where evaluating the likelihood is intractable but sampling synthetic data is possible. One class of methods for this likelihood-free problem uses a classifier to distinguish between pairs of parameter-observation samples generated using the simulator and pairs sampled from some reference distribution, which implicitly learns a density ratio proportional to the likelihood. Another popular class of methods fits a conditional distribution to the parameter posterior directly, and a particular recent variant allows for the use of flexible neural density estimators for this task. In this work, we show that both of these approaches can be unified under a general contrastive learning scheme, and clarify how they should be run and compared.

연구 동기 및 목표

• 두 주요 유형의 우도 없는 추론 방법—분류를 통한 밀도 비율 추정(SRE)과 조건부 밀도 추정(SNPE-C)—간의 관계를 명확히 하는 것.
• 이 두 방법을 하나의 대비 학습 프레임워크 아래 통합하여 그 본질적 동치성을 드러내는 것.
• 사후 샘플링과 시뮬레이션 효율성과 관련하여 각 방법을 언제 사용할지에 대한 실용적 지침을 제공하는 것.
• 밀도가 유한 지지 집합을 가진 사전을 사용할 경우 SNPE-C에서 높은 기각률이 발생하는 등 우도 없는 추론 분야의 열린 과제를 규명하는 것.

제안 방법

• SRE와 SNPE-C를 특수한 케이스로 포함하는 일반적인 대비 학습 프레임워크를 제안한다.
• 이중 분류 목표를 사용하여 밀도 비율 $ r(\mathbf{x}, \bm{\theta}) = \frac{p(\mathbf{x}|\bm{\theta})}{p(\mathbf{x})} $를 추정하며, 이는 사후 $ p(\bm{\theta}|\mathbf{x}) $에 비례한다.
• SNPE-C를 분류기의 재매개변수화를 통한 조건부 밀도 추정기로 재해석하여 대비 학습 설정으로 재구성한다.
• 두 방법 모두에 대해 $(\mathbf{x}, \bm{\theta})$ 쌍을 동일한 표현 공간으로 매핑하기 위해 공유 신경망 인코더를 사용한다.
• SRE를 다중 클래스 분류로 일반화함으로써 훈련의 안정성과 성능을 향상시킨다.
• 동일한 훈련 코드베이스와 목표를 사용하여 SRE와 SNPE-C를 직접 비교함으로써 공정한 평가를 보장한다.

실험 결과

연구 질문

• RQ1 SRE와 SNPE-C는 본질적으로 다른 방법인가, 아니면 공통의 학습 프레임워크 아래 통합될 수 있는가?
• RQ2 분류기를 조건부 밀도 추정기로 재매개변수화하는 것이 우도 없는 설정에서 추론 품질에 상당한 영향을 미치는가?
• RQ3 실제로 i.i.d. 샘플링(SNPE-C)과 MCMC(SRE)의 샘플링 효율성은 어떻게 비교되는가?
• RQ4 우도 없는 추론에서 분류기 기반 접근과 밀도 추정기 기반 접근 간의 실용적 트레이드오프는 무엇인가?
• RQ5 밀도가 유한 지지 집합을 가진 사전을 사용할 경우 SNPE-C의 기각률은 어떻게 행동하며, 사후 샘플링에 어떤 영향을 미치는가?

주요 결과

• SRE와 SNPE-C는 동일한 대비 목표로 훈련될 경우 수학적으로 동치이며, 둘 다 동일한 밀도 비율 추정 작업을 최적화한다.
• 동일한 목표와 코드베이스로 훈련되었을 때 SNPE-C는 SRE와 유사한 성능을 달성하며, 이는 이론적 통합의 타당성을 검증한다.
• SNPE-C는 정규화된 밀도 출력 덕분에 효율적인 i.i.d. 사후 샘플링을 가능하게 하며, 이는 SRE에서는 제공되지 않는다.
• 유사한 성능에도 불구하고, 사전이 유한 지지 집합을 가질 경우 SNPE-C는 높은 기각률(예: 약 1%의 수용률)을 보이며, 이로 인해 i.i.d. 샘플링이 MCMC보다 최대 100배 느려질 수 있다.
• M/G/1 작업에서 SRE는 SNL을 능가하며, 관측값의 차원이 높을 경우 관측 밀도를 모델링할 필요가 없기 때문에 우수한 성능을 보인다.
• 연구 결과 MCMC 샘플링은 SNPE-C의 기각률이 너무 높을 경우에도 여전히 타당한 대안임을 확인했지만, 가능할 경우 i.i.d. 샘플링이 우선시되어야 한다.