[논문 리뷰] An Easy to Interpret Diagnostic for Approximate Inference: Symmetric Divergence Over Simulations

Justin Domke|arXiv (Cornell University)|2021. 02. 25.

Gaussian Processes and Bayesian Inference참고 문헌 23인용 수 5

한 줄 요약

이 논문은 변분 추론과 라플라스 방법과 같은 근사 추론 방법을 위한 시뮬레이션 기반 진단법을 제안한다. 이 방법은 반복적인 시뮬레이션 데이터셋에서 진짜 결합 모델과 추론된 근사 사후분포 사이의 대칭 킬비블레르-라이블러 발산을 사용한다. 이 방법은 마진널 리크리티 계산이 필요 없으며, 해석 가능하고 스칼라 형태의 오차 추정을 가능하게 하여 평균 추론 정확도를 실용적이고 자동화된 방식으로 측정할 수 있다.

ABSTRACT

It is important to estimate the errors of probabilistic inference algorithms. Existing diagnostics for Markov chain Monte Carlo methods assume inference is asymptotically exact, and are not appropriate for approximate methods like variational inference or Laplace's method. This paper introduces a diagnostic based on repeatedly simulating datasets from the prior and performing inference on each. The central observation is that it is possible to estimate a symmetric KL-divergence defined over these simulations.

연구 동기 및 목표

• 변분 추론과 라플라스 방법과 같은 渐近적으로 근사적인 추론 방법에 대해 신뢰할 수 있는 진단법이 부족한 문제를 해결하기 위해, 기존 MCMC 수렴 진단법을 적용할 수 없는 방법들에 대비한다.
• 사전 분포에서 추출한 시뮬레이션된 데이터셋들에 대해 근사 사후분포의 평균 정확도를 수량화하는 진단법을 개발한다.
• 마진널 리크리티 $p(\mathbf{x})$ 계산이 필요 없는 스칼라 형태이면서 해석 가능한 추론 오차 측정법을 제공한다.
• 랜덤 시드를 평균화하여 비결정론적 추론 방법에 대해서도 진단법을 확장함으로써, 해석 가능성 유지한다.
• 중요도 가중치 기반 변분 추론을 포함한 현대 추론 기법들에 적용 가능한 프레임워크를 제공하기 위해 근사 사후분포의 구조를 활용한다.

제안 방법

• 사전분포와 우도에서 다수의 데이터셋 $(\mathbf{z}, \mathbf{x}) \sim p(\mathbf{z}, \mathbf{x})$ 을 시뮬레이션한다.
• 각 시뮬레이션된 $\mathbf{x}$ 에 대해 추론을 수행하여 근사 사후분포 $q(\mathbf{z}|\mathbf{x})$ 를 구한다.
• 다음과 같은 로그 비율의 차이를 사용하여 대칭 KL 발산 $\mathrm{SKL}(p(\mathbf{z},\mathbf{x}) \| q(\mathbf{z},\mathbf{x}))$ 를 계산한다: $d = \log \frac{p(\mathbf{z},\mathbf{x})}{q(\mathbf{z}|\mathbf{x})} - \log \frac{p(\tilde{\mathbf{z}},\mathbf{x})}{q(\tilde{\mathbf{z}}|\mathbf{x})}$, 여기서 $\tilde{\mathbf{z}} \sim q(\mathbf{z}|\mathbf{x})$ 이다.
• 시뮬레이션 전반에 걸쳐 $d$ 의 기대값을 추정하여 대칭 발산을 도출한다. 이는 정규화 항을 상쇄시키며, 마진널 리크리티 계산을 피한다.
• 랜덤 시드를 평균화하여 비결정론적 추론 방법을 다룰 수 있도록 확장하며, 진단법을 $\mathbb{E}_{\bm{\omega}}[\mathrm{SKL}(q(\mathbf{z},\mathbf{x}|\bm{\omega}) \| p(\mathbf{z},\mathbf{x}))]$ 로 정의한다.
• 중요도 가중치 기반 추론에 적합하게 하기 위해 가중치가 부여된 샘플을 사용하여 발산 추정치를 계산한다.

실험 결과

연구 질문

• RQ1 근사 추론 방법의 평균 오차를 스칼라 형태로 해석 가능한 측정법으로 제공할 수 있는 시뮬레이션 기반 진단법을 구성할 수 있는가?
• RQ2 보통 계산이 불가능한 마진널 리크리티 $p(\mathbf{x})$ 가 필요 없이 대칭 KL 발산을 어떻게 추정할 수 있는가?
• RQ3 이 진단법은 확률적 추론 방법인 스토케스틱 변분 추론과 같은 비결정론적 추론 방법에 적용할 수 있는가?
• RQ4 이 진단법은 근사 사후분포의 모드 찾기 오차와 모드 커버리지 오차를 효과적으로 포착할 수 있는가?
• RQ5 이 진단법은 중요도 가중치 기반 변분 추론 및 기타 현대 추론 기법으로 확장할 수 있는가?

주요 결과

• 제안된 진단법은 마진널 리크리티 $p(\mathbf{x})$ 계산이 필요 없이, 시뮬레이션된 데이터셋에 대해 평균 추론 오차를 스칼라 형태로 해석 가능한 측정법으로 제공한다.
• 대칭 KL 발산은 정규화 상수를 상쇄시키며 실용적인 계산이 가능한 기대값 $\mathbb{E}[d]$ 를 통한 로그 비율의 차이를 통해 추정할 수 있다.
• 실험을 통해 표준 변분 추론, 라플라스 방법, 중요도 가중치 기반 변분 추론 등 다양한 방법에 대해 진단법이 효과적임을 입증하였다.
• 랜덤 시드를 평균화함으로써 비결정론적 추론일 경우에도 진단법이 유효하고 해석 가능하다.
• 숨겨진 변수나 조건부 변수를 포함한 모델에도 진단법을 확장할 수 있어, 복잡한 확률 모델에 대한 적용 범위를 넓혔다.
• 진단법는 본질적으로 빈도주의적 접근이며, 시뮬레이션된 데이터에 대한 평균 성능을 측정하므로, 단일 관측 데이터셋에 대한 베이지안적 해석에는 직접적인 한계가 있다.