[論文レビュー] Scaling Up Machine Learning For Quantum Field Theory with Equivariant Continuous Flows

Pim de Haan, Corrado Rainone+2 more|arXiv (Cornell University)|Oct 6, 2021

Computational Physics and Python Applications被引用数 12

ひとこと要約

本稿では、量子場の理論、特に$φ^4$格子理論における高次元確率分布からのサンプリングのための浅い、等長性を満たす連続正規化流れを提案する。正確な空間的および内部的対称性を最小限のアーキテクチャに手作業で特徴を組み込むことで、realNVPと比較して$32\times32$格子上での有効サンプルサイズを1%から66%に向上させ、臨界遅れの著しい低減を達成した。

ABSTRACT

We propose a continuous normalizing flow for sampling from the high-dimensional probability distributions of Quantum Field Theories in Physics. In contrast to the deep architectures used so far for this task, our proposal is based on a shallow design and incorporates the symmetries of the problem. We test our model on the $\\phi^4$ theory, showing that it systematically outperforms a realNVP baseline in sampling efficiency, with the difference between the two increasing for larger lattices. On the largest lattice we consider, of size $32\ imes 32$, we improve a key metric, the effective sample size, from 1% to 66% w.r.t. the realNVP baseline.

研究の動機と目的

• 格子量子場理論のマルコフ連鎖モンテカルロ（MCMC）サンプリングにおける臨界遅れを軽減するため、機械学習を用いて提案分布を改善すること。
• 空間的（回転、反転、並進）および内部的（$\phi \mapsto -\phi$）のすべての関連対称性を尊重する正規化流れモデルを開発し、サンプリング効率を向上させること。
• 手作業で特徴を設計した浅い、対称性に配慮したアーキテクチャが、生成的モデリングの分野における深く、エンドツーエンドで学習されたモデルを上回ることを示すこと。
• 正確な等長性の重要性をアブレーションスタディにより検証し、対称性操作の下でのモデルの対数尤度不変性を比較すること。

提案手法

• 本モデルは、連続正規化流れを用い、ベクトル場が格子場配置の手作業で設計された特徴量に作用する浅い等長性を持つニューラルネットワークによってパラメータ化されたODEベースの変換を利用する。
• 流れは、全二面体群$D_4$（回転および反転）および$\mathbb{Z}_2$内部対称性（$\phi \mapsto -\phi$）に関して等長性を満たすように構築され、変換されたサンプルが同一の対数尤度を持つことを保証する。
• ベクトル場は球面調和関数にインspiredされた特徴マップと、対称性代数を尊重する重みテンソル$W$を用いて定義され、流れは$\frac{d\phi}{dt} = f_\theta(\phi(t))$に従う。
• 変数変換の公式を用いて対数尤度を計算し、変分目的を用いて尤度最大化によりモデルを訓練する。
• 分布誤差を補正するために、学習済みの流れを提案分布として用いたメトロポリス・ハスティングスの受容・拒否ステップを適用する。
• 対称性違反は、サンプルとその対称性変換された像の対数尤度を比較することで定量化され、正確な不変性が適切な等長性を示している。

実験結果

リサーチクエスチョン

• RQ1 浅く、対称性に配慮した正規化流れは、エンドツーエンドで学習された深層モデルを上回る性能を示せるか？
• RQ2 空間的および内部的対称性における正確な等長性は、サンプリング効率の向上と臨界遅れの低減にどの程度寄与するか？
• RQ3 標準的なrealNVPフローが対称性を保存しない場合、サンプリング性能が劣化するか、その劣化は定量的に評価可能か？
• RQ4 等長性を満たすか非等長性の流れを用いた場合、格子サイズの増大に伴う有効サンプルサイズのスケーリングはどのように変化するか？
• RQ5 等長性による性能向上は、異なる格子サイズおよび物理的観測量に対して一貫して有効であるか？

主な発見

• $32\times32$格子上では、提案された等長性を満たす流れにより、realNVPベースラインと比較して有効サンプルサイズが1%から66%に向上し、サンプリング効率の顕著な向上を示した。
• すべての格子サイズにおいて、等長性を満たすモデルのメトロポリス・ハスティングスステップの受容率が顕著に高く、臨界遅れの低減が確認された。
• モデルの対数尤度は、正方形格子の全8つの対称性（回転、反転、並進）に対して不変であり、正確な等長性が確認された。一方、realNVPはトレーニング後でさえも測定可能な対称性違反を示した。
• アブレーションスタディの結果、空間的または内部的対称性の等長性を削除すると性能に顕著な低下が見られ、両方の対称性が最適なサンプリングに不可欠であることが確認された。
• 2点自己相関関数$\chi_2$および逆ポール質量$m_pL$の推定物理的観測量は、すべてのモデルで一貫しており、期待値と一致しており、生成されたサンプルの正しさが検証された。
• realNVPよりもはるかに少ないパラメータ数で優れた性能を達成したため、分野固有の対称性を組み込むことで、深層アーキテクチャの必要性が低下することが示唆された。