[論文レビュー] Wavelet Conditional Renormalization Group

Tanguy Marchand, Misaki Ozawa+2 more|arXiv (Cornell University)|Jul 11, 2022

Gaussian Processes and Bayesian Inference参考文献 71被引用数 13

ひとこと要約

ウェーブレット条件付き再正則化群（WC-RG）は、物理的または宇宙論的データセットから高次元エネルギー関数を推定するためのマルチスケール手法であり、ウェーブレットに基づくエネルギー関数を用いて、粗視化された場に条件付けられた微細スケール自由度の条件付き確率をモデル化する。この手法は相転移付近での臨界的遅れを回避し、φ⁴モデルや弱い重力レンズ場のような系における長距離相互作用や重たい尾を持つ分布を捉えることができるため、局所的ポテンシャルモデルを凌駕する。

ABSTRACT

We develop a multiscale approach to estimate high-dimensional probability distributions from a dataset of physical fields or configurations observed in experiments or simulations. In this way we can estimate energy functions (or Hamiltonians) and efficiently generate new samples of many-body systems in various domains, from statistical physics to cosmology. Our method -- the Wavelet Conditional Renormalization Group (WC-RG) -- proceeds scale by scale, estimating models for the conditional probabilities of "fast degrees of freedom" conditioned by coarse-grained fields. These probability distributions are modeled by energy functions associated with scale interactions, and are represented in an orthogonal wavelet basis. WC-RG decomposes the microscopic energy function as a sum of interaction energies at all scales and can efficiently generate new samples by going from coarse to fine scales. Near phase transitions, it avoids the "critical slowing down" of direct estimation and sampling algorithms. This is explained theoretically by combining results from RG and wavelet theories, and verified numerically for the Gaussian and $φ^4$ field theories. We show that multiscale WC-RG energy-based models are more general than local potential models and can capture the physics of complex many-body interacting systems at all length scales. This is demonstrated for weak-gravitational-lensing fields reflecting dark matter distributions in cosmology, which include long-range interactions with long-tail probability distributions. WC-RG has a large number of potential applications in non-equilibrium systems, where the underlying distribution is not known {\it a priori}. Finally, we discuss the connection between WC-RG and deep network architectures.

研究の動機と目的

• 物理的場または配置の高次元データセットからハミルトニアン（エネルギー関数）を推定するスケーラブルでマルチスケールな手法の開発。
• 波形に基づく粗視化と条件付き確率モデリングを活用して、相転移付近でのモンテカルロサンプリングにおける臨界的遅れ問題を克服すること。
• 弱い重力レンズマップに見られるような、長距離相互作用と重たい尾を持つ分布を有する複雑な多体系をモデル化すること。
• 局所的ポテンシャル近似を超える理論的根拠に基づいたエネルギーベースの生成モデルを提供すること。
• マルチスケール再正則化群理論と生成モデリングにおけるディープラーニングアーキテクチャの間の関係を確立すること。

提案手法

• 直交ウェーブレット基底を用いて、微視的エネルギー関数をスケール依存の相互作用エネルギーの和に分解する。
• 各スケールで、粗視化された場に条件付けられた微細スケール場の条件付き確率を、ウェーブレットに基づくエネルギー関数を用いて推定する。
• Empirical とモデル分布間のKLダイバージェンスを最小化するために勾配降下法を適用し、並進、反転、回転などの対称性を相互作用行列に組み込む。
• 熱力学的統合と線形回帰を用いて、ガウス基準モデルとターゲットモデルの間を補間することで、非ガウス的エネルギー項を推定する。
• ハット関数とReLU活性化関数を、フィールドの境界で非線形ポテンシャルをモデル化し、特に重たい尾を持つ分布のフィールド値を制限する。
• 粗いスケールから細かいスケールへと段階的に訓練を行い、粗いスケールから細かいスケールへと伝搬することで、効率的なサンプリングを可能にする。

実験結果

リサーチクエスチョン

• RQ1 ウェーブレットに基づくマルチスケール手法は、相転移付近での高次元エネルギー関数の推定とサンプリングにおいて、臨界的遅れを回避できるか？
• RQ2 ウェーブレットに基づく条件付きエネルギーモデルは、物理的および宇宙論的場における長距離相互作用と重たい尾を持つ分布をどの程度正確に捉えることができるか？
• RQ3 ウェーブレットに基づくエネルギー関数は、複雑な多体系を表現するにあたり、局所的ポテンシャルモデルを超えてどの程度一般化できるか？
• RQ4 提案されたWC-RGフレームワークと生成モデリングにおけるディープニューラルネットワークアーキテクチャとの関係は何か？
• RQ5 WC-RGは、非ガウス的統計を示す非平衡系、例えば弱い重力レンズマップを効果的にモデル化できるか？

主な発見

• WC-RGは、臨界点（β ≈ 0.67）付近のφ⁴モデルにおいて、従来のモンテカルロ手法が相関時間の発散により失敗する状況でも、臨界的遅れを効果的に回避した。
• φ⁴モデルのエネルギー関数の推定において高い精度を達成し、図10および11に示すように、再構築されたエネルギープロファイルが真のエネルギー関数とよく一致した。
• 弱い重力レンズデータに対しては、23個のハット関数とReLUエッジ関数を用いたWC-RGモデルが、収束マップの長距離尾を持つほぼラプラス分布を効果的に捉えた。
• 最適性能にほぼ達するには、78,126個のうち約3,000個のトレーニングサンプルしか必要としなかったため、データ効率が非常に高かった。
• 対称性を強制したウェーブレットに基づく相互作用行列の使用により、パラメータ数が削減され、特に回転および反転不変性を有する系において一般化性能が向上した。
• [0,1]の10ステップのλで熱力学的統合を実施したことで、非ガウス的エネルギー項の推定が正確に行われ、非ガウス的領域における手法のロバストネスが裏付けられた。