[論文レビュー] Learning Trivializing Gradient Flows for Lattice Gauge Theories

Simone Bacchio, Pan Kessel+2 more|arXiv (Cornell University)|Jan 1, 2022

Particle physics theoretical and experimental studies被引用数 1

ひとこと要約

本稿では、連続的正規化フローを用いてルシュラーの摂動的構成を改善することで、格子ゲージ理論における自明化勾配フローを学習するハイブリッド機械学習手法を提案する。アドジョイント法を用い、摂動的初期化のもとでフローの係数関数を学習することで、14パラメータのみで競争力ある性能を達成した。これは従来のディープラーニングモデルと比べて数個のオーダーも少ない。これにより、より高速な学習と解釈可能性が実現され、標準的な格子場理論ツールと互換性を保ったままである。

ABSTRACT

We propose a unifying approach that starts from the perturbative construction of trivializing maps by Lüscher and then improves on it by learning. The resulting continuous normalizing flow model can be implemented using common tools of lattice field theory and requires several orders of magnitude fewer parameters than any existing machine learning approach. Specifically, our model can achieve competitive performance with as few as 14 parameters while existing deep-learning models have around 1 million parameters for $SU(3)$ Yang--Mills theory on a $16^2$ lattice. This has obvious consequences for training speed and interpretability. It also provides a plausible path for scaling machine-learning approaches toward realistic theories.

研究の動機と目的

• 量子場理論の数値的解析において大きな障害となる、格子ゲージ理論シミュレーションにおけるクリティカルスローニングを克服すること。
• 高次元の場空間におけるサンプリングの悪さによりスケーリングに失敗する、ディープラーニングベースの自明化写像の限界を乗り越えること。
• ルシュラーの摂動的勾配フロー構成と、特に連続的正規化フローを含む現代の機械学習を統合すること。
• 従来のディープラーニング手法と同等またはそれ以上の性能を維持しつつ、モデルの複雑さと学習コストを低減すること。
• 特別なMLライブラリに依存せず、標準的な格子場理論ツールを用いてスケーラブルで解釈可能かつ効率的なシミュレーションを可能にすること。

提案手法

• ルシュラーの摂動的勾配フローを出発点とし、フローの係数関数をフロータイムの学習可能な関数としてパラメータライズする。
• 連続的正規化フローを用いて自明化写像をモデル化し、フローはニューラルネットワークまたはスプラインでパラメータ化されたベクトル場によって定義する。
• フローのパラメータを確率的勾配降下法で最適化し、目的関数 C(θ) = ⟨SFθ(V)⟩ を最小化することで、作用を定数（自明化）に近づける。
• アドジョイント状態法を適用して、損失関数のフローのパラメータに関する勾配を効率的に計算し、エンドツーエンドの学習を可能にする。
• 1ループあたり10個のノットを用いた3次スプライン補間により係数関数を表現し、非線形的で柔軟なフローの進化を可能にする。
• 特別なディープラーニングフレームワークに依存せず、標準的な格子場理論ツールを用いてモデルを実装する。

実験結果

リサーチクエスチョン

• RQ1 学習された勾配フローは、格子ゲージ理論におけるルシュラーの摂動的自明化写像を上回ることができるか？
• RQ2 わずか O(10) パラメータの連続的正規化フローは、約100万パラメータを持つディープラーニングモデルと同等またはそれ以上の性能を達成できるか？
• RQ3 摂動的初期化は、高次元の場空間における学習の安定性と収束性を顕著に向上させるか？
• RQ4 特別なMLライブラリに依存せず、標準的な格子場理論ツールで実装可能か？
• RQ5 パラメータ数とモデルアーキテクチャの変更が、学習された自明化写像の性能とスケーラビリティにどのように影響するか？

主な発見

• 提案手法は、16²格子上のSU(3)ヤンミルズ理論において、最先端のディープラーニングモデルが要する約100万パラメータと比べて、わずか14パラメータで競争力ある性能を達成した。
• 3次スプラインと高次ループモーメントを用いたモデルB（420パラメータ）は、性能と収束性の点で既存のディープラーニングモデルを著しく上回った。
• フローの係数関数は学習中に著しく非自明なものとなり、ルシュラーの線形近似を超える複雑な非摂動的補正をモデルが学習していることが示された。
• ルシュラー展開からの摂動的初期化は、高次元場空間における学習の安定性と初期段階の性能を顕著に改善し、現実的な理論への機械学習のスケーリングにおける主要なボトルネックを克服した。
• この手法は、標準的な格子場理論ツールと完全に互換性があり、特別なディープラーニングライブラリを必要としないため、アクセシビリティと既存のシミュレーションパイプラインへの統合が容易になった。
• スプラインのノット数を10を超えて増加させても利得は著しく減少し、係数関数あたり10ノットが最適性能を達成するのに十分であることが示された。