[論文レビュー] Towards reduction of autocorrelation in HMC by machine learning

Akinori Tanaka, Akio Tomiya|arXiv (Cornell University)|Dec 11, 2017

Generative Adversarial Networks and Image Synthesis参考文献 31被引用数 18

ひとこと要約

本稿では、格子場理論シミュレーションにおける自己相関を低減するために、ガウス・ベルヌーイ制限ボルツマンマシン（GRBM）を統合した、ハイブリッド・モンテカルロ（HMC）の新規変種、ボルツマンマシン支援ハイブリッド・モンテカルロ（BHMC）を提案する。HMCが生成した配置を用いてGRBMを学習することで、BHMCはサンプリングを高速化し、3D φ⁴理論の対称的・対称性破れ相において、それぞれ2.0–2.5の統合自己相関時間（τ_int）を達成する。これは標準HMC（4.4–2.8）と比較して相関が著しく低減されており、統計誤差の範囲で正確な期待値を保持している。

ABSTRACT

In this paper we propose new algorithm to reduce autocorrelation in Markov chain Monte-Carlo algorithms for euclidean field theories on the lattice. Our proposing algorithm is the Hybrid Monte-Carlo algorithm (HMC) with restricted Boltzmann machine. We examine the validity of the algorithm by employing the phi-fourth theory in three dimension. We observe reduction of the autocorrelation both in symmetric and broken phase as well. Our proposing algorithm provides consistent central values of expectation values of the action density and one-point Green's function with ones from the original HMC in both the symmetric phase and broken phase within the statistical error. On the other hand, two-point Green's functions have slight difference between one calculated by the HMC and one by our proposing algorithm in the symmetric phase. Furthermore, near the criticality, the distribution of the one-point Green's function differs from the one from HMC. We discuss the origin of discrepancies and its improvement.

研究の動機と目的

• 格子場理論のHMCシミュレーションにおける自己相関を低減すること。これは、サンプリング効率と有効サンプルサイズを制限する。
• 格子QCDおよび関連モデルにおける臨界遅れの問題を、機械学習を活用して自己相関の高速化によって解決すること。
• HMCと生成モデル（GRBM）を組み合わせたハイブリッドアルゴリズムを開発し、自己相関時間が短い配置を生成すること。
• 3D φ⁴理論を用いて、BHMCの妥当性を標準HMCと比較して検証すること。
• GRBMに基づくサンプリングが、特に臨界付近で物理的観測量を保持しながら混合性を向上させられるかを調査すること。

提案手法

• HMCが生成した配置から、ターゲット分布 e^{-S[φ]} をモデル化するためのガウス・ベルヌーイ制限ボルツマンマシン（GRBM）を導入する。
• HMCの配置を用いて、ブロックギブスサンプリングと確率的勾配更新を用いてGRBMを学習し、潜在的な確率分布を学習する。
• 学習済みGRBMをHMCのプロポーザル分布として使用する：GRBMによるサンプリングで新しい配置を生成し、正しさを保証するためのメトロポリス・ハスティングスの受容/拒否ステップを実施する。
• 8³格子体積を用いて、作用 S[φ] = ∑ₙ [−½φₙΔφₙ + ½m²φₙ² + λ/4! φₙ⁴] を持つ3D φ⁴理論に、変更を加えたHMC（BHMC）を適用する。
• 1点関数 〈φ〉/V と作用密度 〈S〉/V の統合自己相関時間 τ_int を計算し、混合効率を定量化する。
• 対称相および対称性破れ相において、BHMCの結果を標準HMCと比較する。臨界付近の挙動も含む。

実験結果

リサーチクエスチョン

• RQ1 学習済みGRBMは、格子場理論のHMCシミュレーションにおける自己相関を効果的に低減できるか？
• RQ2 作用密度 〈S〉/V や1点関数 〈φ〉/V といった主要な物理的観測量が、BHMCと標準HMCの間で一貫しているか？
• RQ3 臨界領域では、標準HMCが臨界遅れを示す中で、BHMCはどのように性能を発揮するか？
• RQ4 2点関数のような高次相関関数において、BHMCとHMCの間に差異があるか？
• RQ5 GRBMに基づくプロポーザルは、平衡分布にバイアスを導入することなく、サンプリング効率を向上させられるか？

主な発見

• BHMCでは、対称相で τ_int = 2.0 ± 0.1、対称性破れ相で τ_int = 2.5 ± 0.2 を達成した。標準HMCはそれぞれ 4.4 ± 0.3 および 2.8 ± 0.2 であった。
• 対称相では、BHMCの作用密度期待値 〈S〉/V は 0.50 ± 0.04、HMCは 0.48 ± 0.03 であり、一貫している。対称性破れ相では、BHMCが −2.73 ± 0.04、HMCが −2.70 ± 0.03 であり、一貫している。
• 対称相では、1点関数 〈φ〉/V がBHMCで 0.00 ± 0.04、HMCで 0.00 ± 0.05 であり、一貫している。対称性破れ相では、BHMCが −3.95 ± 0.03、HMCが −3.94 ± 0.04 であり、一貫している。
• 対称相では2点関数にわずかな差が見られ、GRBM近似によって高次相関にバイアスが生じる可能性がある。
• 臨界点付近では、BHMCにおける1点関数の分布がHMCと異なることが判明し、GRBM近似が臨界領域で崩壊する可能性を示唆している。
• 臨界付近での1点関数分布の差は、GRBMの表現能力不足または臨界領域における一般化性能の悪さに起因するとされ、より優れたアーキテクチャやトレーニング法の導入が求められる。