[論文レビュー] Flow-based sampling for multimodal and extended-mode distributions in lattice field theory

Daniel C. Hackett, Chih‐Chen Hsieh+8 more|arXiv (Cornell University)|Jul 1, 2021

Gaussian Processes and Bayesian Inference参考文献 4被引用数 35

ひとこと要約

論文は格子場理論における多峰分布をモデル化する Flow-based 手法を開発し、従来のサンプラーを用いた複合拡張を提案して、効率的で正確なサンプリングを実現します。さらに、モード崩壊を回避する学習スキームを分析し、2次元実スカラー場理論での評価を行います。

ABSTRACT

Recent results have demonstrated that samplers constructed with flow-based generative models are a promising new approach for configuration generation in lattice field theory. In this paper, we present a set of training- and architecture-based methods to construct flow models for targets with multiple separated modes (i.e.~vacua) as well as targets with extended/continuous modes. We demonstrate the application of these methods to modeling two-dimensional real and complex scalar field theories in their symmetry-broken phases. In this context we investigate different flow-based sampling algorithms, including a composite sampling algorithm where flow-based proposals are occasionally augmented by applying updates using traditional algorithms like HMC.

研究の動機と目的

• 格子場理論における多峰分布を伴うサンプリングの課題を動機づけ、解決する。
• explicit mode knowledge を持たずに、複数の分離したモードを表現できる Flow-based モデルを開発する。
• 正確性を保ちつつモード間の混合を改善するために、複合的および拡張された MCMC スキームを提案する。
• モード崩壊や内側尾部の過小評価を回避する学習戦略を調査する。
• 構築した多峰 Flow モデルを2次元の実数スカラー場理論に適用し、サンプリング効率を評価する。

提案手法

• 更新ベースの MCMC と逆 KL 自訓練を用いた Flow-based サンプリングの総括。
• モード崩壊や内側の尾部過小評価など、多峰サンプリングの病理を分析する。
• 混合と対称混合を用いた多峰 Flow モデルの構築。
• フォワード KL やアディアバティブ再訓練など、モード崩壊を緩和する学習戦略。
• Flow ベースの提案と HMC 更新を組み合わせた複合 MCMC によるモード跳躍の強化。
• 2D の格子スカラー場理論への適用と、Flow-based MCMC および拡張スキームの評価。

実験結果

リサーチクエスチョン

• RQ1 Flow-based モデルを訓練して、格子場理論における多峰ターゲット分布を正確に表現するにはどうすればよいか。
• RQ2 多峰ターゲットの Flow 訓練でモード崩壊を防ぐ効果的な戦略は何か。
• RQ3 混合と対称性ベースの混合構成は全モードの頑健なカバーを提供できるか。
• RQ4 複合または拡張 MCMC スキームは、純粋な Flow ベースや従来の MCMC と比較して、多峰理論のサンプリング効率においてどう違いがあるか。

主な発見

• Flow モデルは2D 実数スカラー場理論における二峰分布を表現できるが、内側の尾部を過小評価して純粋な Flow ベースの MCMC に影響を及ぼす可能性がある。
• モードを含む Flow モデルの混合および単一モデルの対称混合は、すべてのモードをカバーできる。
• Flow 提案と HMC 更新を組み合わせた拡張 MCMC は、Flow ベースの MCMC 単独よりも効率的なサンプリングと信頼性を提供する。
• フォワード KL、アディアバティブ再訓練、Flow 距離正則化などの学習戦略は、モード崩壊を緩和し、多峰カバレッジを改善する。
• Flow ベースの提案と従来の更新を併用する複合サンプリングアルゴリズムは、多峰設定で純粋な HMC および Flow ベースの MCMC を上回る。