[논문 리뷰] Stochastic Stein Discrepancies

Jackson Gorham, Anant Raj외 1명|arXiv (Cornell University)|2020. 07. 06.

Markov Chains and Monte Carlo Methods참고 문헌 37인용 수 7

한 줄 요약

이 논문은 표준 스틸 산란도(Stein discrepancies)의 계산 비용을 줄이기 위해 부분 표본화된 스틸 연산자 근사를 사용하는 계산적으로 효율적인 대안인 확률적 스틸 산란도(Stochastic Stein Discrepancies, SSDs)를 제안한다. SSDs는 확률 1로 표준 SDs와 동일한 수렴 제어 성질을 유지하며, 편향이 있는 MCMC 튜닝, 샘플러 선택, 확률적 SVGD 등의 응용에서 가능성의 평가 횟수를 수십만 배까지 줄일 수 있고, 이로 인해 유사한 추론 품질을 제공한다.

ABSTRACT

Stein discrepancies (SDs) monitor convergence and non-convergence in approximate inference when exact integration and sampling are intractable. However, the computation of a Stein discrepancy can be prohibitive if the Stein operator - often a sum over likelihood terms or potentials - is expensive to evaluate. To address this deficiency, we show that stochastic Stein discrepancies (SSDs) based on subsampled approximations of the Stein operator inherit the convergence control properties of standard SDs with probability 1. Along the way, we establish the convergence of Stein variational gradient descent (SVGD) on unbounded domains, resolving an open question of Liu (2017). In our experiments with biased Markov chain Monte Carlo (MCMC) hyperparameter tuning, approximate MCMC sampler selection, and stochastic SVGD, SSDs deliver comparable inferences to standard SDs with orders of magnitude fewer likelihood evaluations.

연구 동기 및 목표

• 스틸 연산자가 비용이 많이 드는 가능성 항목이나 포텐셜을 포함할 경우 표준 스틸 산란도를 계산하는 데 드는 높은 계산 비용을 해결하기 위해.
• 스틸 연산자를 부분 표본화함으로써 이론적 보장을 잃지 않고도 확장 가능한 수렴 모니터링을 가능하게 하기 위해.
• 비유계 도메인에서 스틸 변분 기울기 하강법(SVGD)의 수렴성에 대한 열린 질문을 해결하기 위해.
• 실제 베이지안 추론 및 MCMC 응용 분야에서 표준 스틸 산란도의 실용적이고 확장 가능한 대안을 제공하기 위해.
• SSDs가 표준 SDs와 유사한 추론 품질을 제공하면서도 계산 비용을 수십만 배까지 줄일 수 있음을 실험적으로 입증하기 위해.

제안 방법

• 스틸 연산자를 가능성 항목 또는 포텐셜의 무작위 부분집합을 사용해 추정함으로써 표준 스틸 산란도의 부분 표본화 근사를 제안한다.
• 이론적 분석을 통해 SSDs가 표준 SDs의 거의 확실한 수렴 제어 성질을 유지함을 보여주며, 스틸 연산자가 확률적으로 근사되더라도 동일한 성질을 갖는다.
• 지수족 모델과 일반 통계 모델에서 스틸 연산자의 구조를 활용하여 효율적인 부분 표본화를 가능하게 한다.
• 전체 가능성 평가가 비용이 너무 많이 드는 경우에, 확률적 SVGD와 편향이 있는 MCMC 방법에서의 수렴 모니터링에 SSDs를 적용한다.
• 비유계 상태 공간을 다룰 수 있도록 이론적 프레임워크를 확장하여, 비유계 도메인에서의 SVGD의 거의 확실한 수렴성을 증명한다.
• 실무에서의 효율적 구현을 위해 경험 위험 최소화 원리를 활용하여 이 discrepancy를 최적화한다.

실험 결과

연구 질문

• RQ1 스틸 연산자의 부분 표본화 근사는 표준 스틸 산란도의 수렴 모니터링 성질을 유지할 수 있는가?
• RQ2 부분 표본화 노이즈가 존재하는 상황에서도 확률적 스틸 산란도는 거의 확실한 수렴 제어 성질을 유지하는가?
• RQ3 SSDs는 확률적 SVGD나 편향이 있는 MCMC와 같은 확장 가능한 추론 방법에 효과적으로 사용될 수 있는가?
• RQ4 비유계 도메인에서의 SVGD의 이론적 수렴 행동은 어떻게 되며, 이를 엄밀하게 증명할 수 있는가?
• RQ5 실제로 SSDs와 표준 SDs의 추론 품질과 계산 효율성은 어떻게 비교되는가?

주요 결과

• 확률적 스틸 산란도(Stochastic Stein Discrepancies, SSDs)는 스틸 연산자가 부분 표본화되어도 표준 스틸 산란도와 동일한 거의 확실한 수렴 제어 성질을 유지한다.
• 편향이 있는 MCMC, 샘플러 선택, 확률적 SVGD 실험에서 SSDs가 가능성 평가 횟수를 수십만 배까지 줄이며 표준 SDs와 유사한 추론 품질을 달성한다.
• 논문은 비유계 도메인에서 스틸 변분 기울기 하강법(SVGD)의 거의 확실한 수렴성을 증명함으로써 열린 질문을 해결한다.
• 실험 결과로 SSDs가 전체 가능성 계산이 불가능한 확장 가능한 추론 파이프라인에서 비수렴 상태를 신뢰성 있게 탐지하고 진행 상황을 모니터링하는 데 효과적임을 보여준다.
• SSDs의 이론적 프레임워크는 부분 표본화 하에서도 수렴 모니터링이 확률 1로 유효함을 보장하여 실용적 구현에 강건함을 제공한다.
• SSDs는 효율적인 초모수 튜닝과 근사 MCMC에서의 샘플러 선택을 가능하게 하며, 확장 가능하고 신뢰할 수 있는 산란도 측정법을 제공한다.