[논문 리뷰] Towards reduction of autocorrelation in HMC by machine learning

Akinori Tanaka, Akio Tomiya|arXiv (Cornell University)|2017. 12. 11.

Generative Adversarial Networks and Image Synthesis참고 문헌 31인용 수 18

한 줄 요약

이 논문은 라티스 양자장 이론 시뮬레이션에서 자가상관을 감소시키기 위해 가우시안-베르누이 제한형 볼츠만 기계(GRBM)를 통합한 새로운 HMC 변종인 볼츠만 기계 보조 하이브리드 몬테카를로(BHMC)를 제안한다. HMC에서 생성된 구성에 대해 GRBM을 훈련시켜 BHMC는 샘플링 속도를 향상시키며, 3D φ⁴ 이론의 대칭 및 비대칭 상에서 통합 자가상관 시간이 각각 2.0–2.5로 나타나 표준 HMC(4.4–2.8)보다 상당히 낮은 상관성을 보이며, 통계적 오차 내에서 정확한 기대값을 유지한다.

ABSTRACT

In this paper we propose new algorithm to reduce autocorrelation in Markov chain Monte-Carlo algorithms for euclidean field theories on the lattice. Our proposing algorithm is the Hybrid Monte-Carlo algorithm (HMC) with restricted Boltzmann machine. We examine the validity of the algorithm by employing the phi-fourth theory in three dimension. We observe reduction of the autocorrelation both in symmetric and broken phase as well. Our proposing algorithm provides consistent central values of expectation values of the action density and one-point Green's function with ones from the original HMC in both the symmetric phase and broken phase within the statistical error. On the other hand, two-point Green's functions have slight difference between one calculated by the HMC and one by our proposing algorithm in the symmetric phase. Furthermore, near the criticality, the distribution of the one-point Green's function differs from the one from HMC. We discuss the origin of discrepancies and its improvement.

연구 동기 및 목표

• 라티스 양자장 이론 시뮬레이션에서 HMC의 자가상관을 줄이기 위해, 이는 샘플링 효율성과 효과적 표본 크기를 제한한다.
• 양자 chromodynamics(QCD) 및 관련 모델에서의 임계 둔화 문제를 해결하기 위해 기계학습을 활용해 분리 속도를 가속화한다.
• HMC와 생성 모델(GRBM)을 조합한 하이브리드 알고리즘을 개발하여 자가상관 시간이 짧은 구성 상태를 생성한다.
• 3D φ⁴ 이론에서 표준 HMC와의 비교를 통해 주요 관측량과 자가상관 성질을 검증한다.
• 특히 임계점 근처에서 GRBM 기반 샘플링이 혼합성을 향상시키면서 물리적 관측량을 유지할 수 있는지 조사한다.

제안 방법

• HMC에서 생성된 구성에 기반해 목표 분포 e^{-S[φ]}를 모델링하기 위해 가우시안-베르누이 제한형 볼츠만 기계(GRBM)를 도입한다.
• HMC 구성에 기반해 블록 기반 기반 마르코프 체인 몬테카를로(Gibbs sampling)와 확률적 경사 하강법을 사용해 GRBM을 훈련시켜 기저 확률 분포를 학습한다.
• 훈련된 GRBM을 HMC의 제안 분포로 사용한다: GRBM 샘플링을 통해 신규 구성 상태를 생성한 후, 정확성을 보장하기 위해 메트로폴리스-하스팅스 수락/기각 단계를 거친다.
• 행동 S[φ] = ∑ₙ [−½φₙΔφₙ + ½m²φₙ² + λ/4! φₙ⁴]를 사용하여 8³ 격자 부피에서 3D φ⁴ 이론에 수정된 HMC(BHMC)를 적용한다.
• 혼합 효율성을 측정하기 위해 한점 그린 함수 〈φ〉/V와 행동 밀도 〈S〉/V의 통합 자가상관 시간 τ_int를 계산한다.
• 대칭 상과 비대칭 상 모두에서 BHMC 결과를 표준 HMC와 비교하며, 임계 근처의 행동도 포함한다.

실험 결과

연구 질문

• RQ1 훈련된 GRBM이 라티스 양자장 이론의 HMC 시뮬레이션에서 자가상관을 효과적으로 감소시킬 수 있는가?
• RQ2 행동 밀도 〈S〉/V와 한점 그린 함수 〈φ〉/V와 같은 주요 물리 관측량이 BHMC와 표준 HMC 간에 일관된가?
• RQ3 표준 HMC가 임계 둔화 문제를 겪는 임계 영역에서 BHMC는 어떻게 성능을 발휘하는가?
• RQ4 두 점 그린 함수와 같은 고차 관측량에서 BHMC와 HMC 간에 차이가 있는가?
• RQ5 GRBM 기반 제안 분포가 평형 분포에 편향을 유도하지 않고도 샘플링 효율성을 향상시킬 수 있는가?

주요 결과

• BHMC는 대칭 상에서 통합 자가상관 시간 τ_int를 2.0 ± 0.1로 줄였고, 비대칭 상에서는 2.5 ± 0.2로 나타났다. 이는 표준 HMC의 4.4 ± 0.3 및 2.8 ± 0.2와 비교할 때 상당한 감소를 보였다.
• 대칭 상에서 BHMC(0.50 ± 0.04)와 HMC(0.48 ± 0.03) 간에 행동 밀도 〈S〉/V의 기대값이 일치했으며, 비대칭 상에서는 BHMC(−2.73 ± 0.04)와 HMC(−2.70 ± 0.03) 간에도 일치하였다.
• 대칭 상에서 BHMC(0.00 ± 0.04)와 HMC(0.00 ± 0.05) 간에 한점 그린 함수 〈φ〉/V의 기대값이 일치했고, 비대칭 상에서도 BHMC(−3.95 ± 0.03)와 HMC(−3.94 ± 0.04) 간에 일치하였다.
• 대칭 상에서 두 점 그린 함수에 약간의 차이가 나타나, GRBM 근사에 의해 유도된 고차 상관에서 잠재적인 편향이 존재할 수 있음을 시사한다.
• 임계점 근처에서 BHMC의 한점 그린 함수 분포가 HMC와 다름을 보이며, 임계점 근처에서 GRBM 근사가 붕괴될 수 있음을 나타낸다.
• 임계점 근처에서 한점 함수 분포의 차이점은 GRBM의 표현 능력 부족 또는 임계 영역에서의 일반화 부족으로 기인하며, 향상된 아키텍처나 훈련 전략이 필요함을 시사한다.