[논문 리뷰] A Contour Stochastic Gradient Langevin Dynamics Algorithm for Simulations of Multi-modal Distributions

Wei Deng, Guang Lin외 1명|arXiv (Cornell University)|2020. 10. 19.

Markov Chains and Monte Carlo Methods참고 문헌 58인용 수 7

한 줄 요약

이 논문은 에너지 기반 하위영역 가중치를 사용한 동적 중요도 샘플링을 통해 다중모달 타겟 분포를 평탄하게 만드는 확장 가능한 적응형 SGMCMC 알고리즘인 Contour Stochastic Gradient Langevin Dynamics (CSGLD)를 제안한다. 자가 조정 가중치를 통해 모드 간 탐색 균형을 맞추어 딥러닝에서 수렴 속도를 가속하고 국소 최적점에서의 갇힘 현상을 방지하며, 안정성과 유일한 고정점 수렴에 대한 이론적 보장을 제공한다. CIFAR10 및 CIFAR100에서 SGLD와 reSGLD를 능가한다.

ABSTRACT

We propose an adaptively weighted stochastic gradient Langevin dynamics algorithm (SGLD), so-called contour stochastic gradient Langevin dynamics (CSGLD), for Bayesian learning in big data statistics. The proposed algorithm is essentially a \emph{scalable dynamic importance sampler}, which automatically \emph{flattens} the target distribution such that the simulation for a multi-modal distribution can be greatly facilitated. Theoretically, we prove a stability condition and establish the asymptotic convergence of the self-adapting parameter to a {\it unique fixed-point}, regardless of the non-convexity of the original energy function; we also present an error analysis for the weighted averaging estimators. Empirically, the CSGLD algorithm is tested on multiple benchmark datasets including CIFAR10 and CIFAR100. The numerical results indicate its superiority to avoid the local trap problem in training deep neural networks.

연구 동기 및 목표

• 비볼록이고 다중모달 사후분포를 가진 딥 네트워크 학습에서 기존 SGLD의 느린 혼합 속도와 국소 최적점 갇힘 문제를 해결하기 위해.
• 기존 MCMC의 평탄한 히스토그램 샘플링 원리를 스트로스틱 그래디언트 환경으로 확장하여 대규모 데이터에서의 확장 가능한 베이지안 추론을 위해.
• 에너지 경관을 평탄하게 하고 모드 간 탐색을 향상시키기 위해 동적으로 가중치를 조정하는 안정적이고 적응형 알고리즘을 개발하기 위해.
• 비볼록 환경에서 자가 적응 매개변수의 수렴성과 안정성을 이론적으로 확립하기 위해.
• CIFAR10 및 CIFAR100과 같은 복잡한 데이터셋에서 국소 최적점 회피 및 더 나은 불확실성 정량화 성능을 실증적으로 검증하기 위해.

제안 방법

• CSGLD는 고정된 에너지 대역폭 Δu를 사용해 샘플 공간을 에너지 기반 하위영역으로 분할하고, 각 영역에 대해 적응형 가중치 θ(i)를 할당하여 타겟 밀도를 평탄하게 한다.
• 가중치 밀도 ϖ_θ(x) ∝ π(x)/Ψ_θ^ζ(U(x))를 사용하며, 여기서 Ψ_θ(U(x))는 에너지 U(x)에 대한 조각별 상수 함수이고, ζ는 평탄화 정도를 제어한다.
• 학습률 ω_k를 사용한 스트로스틱 근사 방법을 통해 잠재 벡터 θ를 갱신하여, 비볼록 환경에서도 고정점 수렴을 보장한다.
• 고에너지 영역에서 수렴 속도를 가속하기 위해 고차수 오차 항 ω_{k+1}^2 1_{i≥J_U(x_{k+1})}ρ을 도입하였으며, 이후 Deng 등 (2022)의 더 가용성 있는 방법으로 대체된다.
• 편향이 평탄한 타겟에 의해 유도되는 것을 보정하기 위해 적응형 가중치를 사용한 중요도 샘플링을 적용하여 원래 사후분포 하에서 기대값을 정확하게 추정한다.
• CSGHMC 및 saCSGHMC와 같은 확장에서는 동작량과 가중치 감소를 통합하여 비전 데이터셋에서의 성능을 향상시킨다.

실험 결과

연구 질문

• RQ1 에너지 하위영역 기반의 동적 중요도 샘플링 접근법이 딥러닝에서 다중모달 사후분포의 혼합 속도 향상에 기여하는가?
• RQ2 CSGLD의 적응형 가중치 갱신이 에너지 함수의 비볼록성에도 불구하고 안정성과 고유한 고정점 수렴을 보장하는가?
• RQ3 복잡한 데이터셋에서 딥 네트워크 학습 시 CSGLD가 국소 최적점 회피에서 SGLD 및 reSGLD보다 우월한가?
• RQ4 평탄화 매개변수 ζ와 분할 수 m가 알고리즘의 안정성과 수렴 속도에 미치는 영향은 무엇인가?
• RQ5 고차수 오차 항 또는 새로운 가용성 있는 갱신 방식이 고에너지 영역에서 수렴을 향상시키면서도 안정성을 해치지 않는가?

주요 결과

• CSGLD는 에너지 하위영역을 기반으로 가중치를 적응적으로 조정하여 타겟 분포를 효과적으로 평탄하게 하여 다중모달 사후분포에서 탐색 성능을 크게 향상시킨다.
• 이론적 분석을 통해 비볼록 에너지 함수 조건 하에서도 자가 적응 매개변수 θ가 유일한 고정점으로 수렴한다는 것이 확인되었다.
• CIFAR10 및 CIFAR100에서 CSGLD는 국소 최적점 회피에서 SGLD 및 reSGLD를 능가하며, 딥러닝에서 불확실성 정량화 성능이 뛰어나다는 것을 입증하였다.
• 적절한 분할 수(10–1000)를 사용할 경우 이론적 이론적 근사 오차와 수치적 안정성 간 균형을 이루며 안정적인 수렴을 달성한다.
• Deng 등 (2022)의 가용성 있는 갱신 방식은 편향 매개변수 ρ가 필요 없게 하여 실용성과 고에너지 영역에서의 수렴 성능을 향상시켰다.
• 실증 결과에 따르면, CIFAR10에선 ζ = 1×10^6, CIFAR100에선 ζ = 3×10^6를 사용할 경우 뛰어난 성능을 기록하여 복잡한 데이터 분포에 효과적으로 적응함을 시사한다.