[논문 리뷰] Challenges and Opportunities in High-dimensional Variational Inference

Akash Kumar Dhaka, Alejandro Catalina외 4명|OpenBU (Boston University)|2021. 03. 01.

Gaussian Processes and Bayesian Inference참고 문헌 28인용 수 4

한 줄 요약

이 논문은 고차원 베이지안 사후분포 근사에서의 변분 추론을 향상시키기 위한 프레임워크를 제안한다. 밀도비의 사전점근적 꼬리 행동을 중요도 샘플링 도구를 사용해 분석함으로써, 특히 정규화 흐름을 포함한 유연한 변분 가족과 함께 사용할 때 독립형 KL 발산이 고차원에서 가장 신뢰성 있고 정확한 근사 결과를 제공함을 밝혀냈다. 반면 질량 커버링 발산인 포함형 KL은 불안정성과 수렴 성능 열 劣로 인해 실패한다.

ABSTRACT

Current black-box variational inference (BBVI) methods require the user to make numerous design choices -- such as the selection of variational objective and approximating family -- yet there is little principled guidance on how to do so. We develop a conceptual framework and set of experimental tools to understand the effects of these choices, which we leverage to propose best practices for maximizing posterior approximation accuracy. Our approach is based on studying the pre-asymptotic tail behavior of the density ratios between the joint distribution and the variational approximation, then exploiting insights and tools from the importance sampling literature. Our framework and supporting experiments help to distinguish between the behavior of BBVI methods for approximating low-dimensional versus moderate-to-high-dimensional posteriors. In the latter case, we show that mass-covering variational objectives are difficult to optimize and do not improve accuracy, but flexible variational families can improve accuracy and the effectiveness of importance sampling -- at the cost of additional optimization challenges. Therefore, for moderate-to-high-dimensional posteriors we recommend using the (mode-seeking) exclusive KL divergence since it is the easiest to optimize, and improving the variational family or using model parameter transformations to make the posterior and optimal variational approximation more similar. On the other hand, in low-dimensional settings, we show that heavy-tailed variational families and mass-covering divergences are effective and can increase the chances that the approximation can be improved by importance sampling.

연구 동기 및 목표

• 고차원 베이지안 사후분포 근사에서 변분 목표함수와 근사 가족을 선택하는 데 있어 원칙적인 지침이 부족한 문제를 해결하기 위해.
• 일반적으로 저차원에서 통용되는 변분 추론에 대한 통찰이 고차원 환경에서는 왜 실패하는지 탐구하기 위해.
• 사전점근 수렴 행동을 기반으로 블랙박스 변분 추론(BBVI) 방법의 신뢰성 평가를 위한 개념적이고 경험적인 프레임워크를 개발하기 위해.
• 다양한 사후 차원 범위에서 변분 추론을 최적화하기 위한 실질적인 권고 사항을 실무자에게 제공하기 위해.
• 중요도 샘플링 보정(예: PSIS)이 다양한 조건에서 근사 정확도를 얼마나 향상시키는지 평가하기 위해.

제안 방법

• 진짜 사후분포와 변분 근사 간의 밀도비 $ w(\theta) = p(\theta,Y)/q(\theta) $ 의 사전점근적 꼬리 행동을 분석한다.
• 중요도 샘플링에서 유래한 Pareto $ k $ 진단을 활용해 BBVI에서의 기울기 추정기와 발산 추정기의 신뢰성을 평가한다.
• 다양한 발산(독립형/포함형 KL, $ \chi^2 $, $ \alpha $-발산, 꼬리 적응형 $ f $-발산)과 변분 가족(Gaussian, Student-$ t $, 정규화 흐름)을 경험적으로 평가한다.
• 포스테리어어드브에서 얻은 시뮬레이션 및 실제 데이터셋을 사용해 다양한 방법 간의 사후 모멘트 추정과 예측 가능도를 비교한다.
• PSIS(Pareto-스무스드 중요도 샘플링)를 적용해 사후 기대값을 보정하고 정확도 향상을 평가한다.
• 모델 재매개변수화를 통해 사후 구조를 변분 가족과 일치시켜 근사 정확도를 향상시킨다.

실험 결과

연구 질문

• RQ1 이론적으로 매력적이지만 고차원 사후분포에서 정확도 향상을 이루지 못하는 질량 커버링 변분 목표함수(예: 포함형 KL)는 왜 실패하는가?
• RQ2 밀도비의 사전점근 행동이 블랙박스 변분 추론에서 기울기 추정기의 신뢰성에 어떻게 영향을 미치는가?
• RQ3 다양한 사후 차원에서 다양한 발산(예: 독립형 대비 포함형 KL)의 상대적 강점과 약점은 무엇인가?
• RQ4 중요도 샘플링 보정(예: PSIS)이 $ \hat{k} $ 진단에서 불안정성을 나타낼 경우, 근사 정확도 향상에 얼마나 기여하는가?
• RQ5 정규화 흐름과 재매개변수화 전략은 고차원 사후분포 근사의 안정성과 정확도에 어떻게 영향을 미치는가?

주요 결과

• 독립형 KL 발산은 고차원 환경에서 기울기 추정기의 변동성이 낮고 최적화 안정성이 높아 포함형 KL 및 기타 질량 커버링 발산보다 항상 뛰어난 성능을 보인다.
• 고차원 사후분포($ D > 10 $)에서는 정규화 흐름과 독립형 KL, PSIS 보정을 조합한 방법이 다양한 데이터셋에서 가장 정확한 사후 근사 결과를 제공한다.
• 저차원 환경($ D \leq 10 $)에서는 체중 꼬리가 두꺼운 변분 가족(예: Student-$ t $)과 질량 커버링 발산이 근사 정확도 향상에 기여하며 중요도 샘플링의 효과를 강화할 수 있다.
• Pareto $ \hat{k} $ 진단은 불안정한 추정기를 신뢰성 있게 식별한다: 높은 $ \hat{k} $ 값은 수렴 불량과 원시 추정치 및 PSIS 보정 추정치의 신뢰도 저하를 나타낸다.
• PSIS 보정은 평균 및 공분산 추정치의 상대 오차를 크게 감소시키며, 특히 정규화 흐름 근사에서 그 효과가 두드러진다. 이는 $ \hat{k} $ 가 높더라도 여전히 유용함을 보여준다.
• 사후 구조를 변분 가족과 일치시키는 모델 재매개변수화(예: 급속도가 빠른 사후분포의 경우)는 중간 차원에서도 근사 정확도를 극적으로 향상시킬 수 있다.