[论文解读] Wavelet Conditional Renormalization Group

Tanguy Marchand, Misaki Ozawa+2 more|arXiv (Cornell University)|Jul 11, 2022

Gaussian Processes and Bayesian Inference参考文献 71被引用 13

一句话总结

小波条件重整化群（WC-RG）是一种多尺度方法，通过使用基于小波的能量函数建模给定粗粒化场的细尺度自由度的条件概率，从物理或宇宙学数据集中估计高维能量函数。该方法避免了相变附近的关键减速现象，并通过捕捉长程相互作用和重尾分布，在φ⁴模型和弱引力透镜场等系统中优于局部势能模型。

ABSTRACT

We develop a multiscale approach to estimate high-dimensional probability distributions from a dataset of physical fields or configurations observed in experiments or simulations. In this way we can estimate energy functions (or Hamiltonians) and efficiently generate new samples of many-body systems in various domains, from statistical physics to cosmology. Our method -- the Wavelet Conditional Renormalization Group (WC-RG) -- proceeds scale by scale, estimating models for the conditional probabilities of "fast degrees of freedom" conditioned by coarse-grained fields. These probability distributions are modeled by energy functions associated with scale interactions, and are represented in an orthogonal wavelet basis. WC-RG decomposes the microscopic energy function as a sum of interaction energies at all scales and can efficiently generate new samples by going from coarse to fine scales. Near phase transitions, it avoids the "critical slowing down" of direct estimation and sampling algorithms. This is explained theoretically by combining results from RG and wavelet theories, and verified numerically for the Gaussian and $φ^4$ field theories. We show that multiscale WC-RG energy-based models are more general than local potential models and can capture the physics of complex many-body interacting systems at all length scales. This is demonstrated for weak-gravitational-lensing fields reflecting dark matter distributions in cosmology, which include long-range interactions with long-tail probability distributions. WC-RG has a large number of potential applications in non-equilibrium systems, where the underlying distribution is not known {\it a priori}. Finally, we discuss the connection between WC-RG and deep network architectures.

研究动机与目标

• 开发一种可扩展的多尺度方法，用于从物理场或构型的高维数据集中估计能量函数（哈密顿量）。
• 通过利用基于小波的粗粒化和条件概率建模，克服蒙特卡洛采样在相变附近的关键减速问题。
• 对具有长程相互作用和重尾分布的复杂多体系统进行建模，例如宇宙学弱透镜图中的系统。
• 提供一种理论基础坚实的基于能量的生成模型，其泛化能力超越局部势能近似。
• 建立多尺度重整化群理论与深度学习架构在生成建模中的联系。

提出的方法

• 使用正交小波基将微观能量函数分解为各尺度依赖的相互作用能量之和。
• 在每个尺度上，使用基于小波的能量函数估计给定粗粒化场的细尺度场的条件概率。
• 应用梯度下降最小化经验分布与模型分布之间的KL散度，同时在相互作用矩阵上施加对称性（平移、反射、旋转）。
• 使用热力学积分和线性回归，通过在高斯参考模型与目标模型之间插值来估计非高斯能量项。
• 在场的边界处使用帽函数和ReLU激活函数来建模非线性势能并限制场值，尤其适用于重尾分布。
• 从最粗到最细尺度逐级进行训练，通过从粗到细尺度的传播实现高效采样。

实验结果

研究问题

• RQ1 基于小波的多尺度方法是否能避免在相变附近估计和采样高维能量函数时的关键减速现象？
• RQ2 基于小波的条件能量模型在物理和宇宙学场中，对长程相互作用和重尾分布的捕捉能力如何？
• RQ3 基于小波的能量函数在表征复杂多体系统方面，其泛化能力在多大程度上超越了局部势能模型？
• RQ4 所提出的WC-RG框架与生成建模中的深度神经网络架构之间存在何种关系？
• RQ5 WC-RG能否有效建模具有非高斯统计特性的非平衡系统，如弱引力透镜图？

主要发现

• WC-RG 在φ⁴模型临界点附近（β ≈ 0.67）成功避免了关键减速现象，而传统蒙特卡洛方法因相关时间发散而失效。
• 该方法在估计φ⁴模型能量函数方面表现出高精度，重建的能量分布曲线与真实能量函数高度吻合，如图10和图11所示。
• 对于弱引力透镜数据，采用23个帽函数和ReLU边界函数的WC-RG模型能有效捕捉收敛图的长尾、近似拉普拉斯分布。
• 模型仅需约3,000个训练样本（占总78,126个样本的少数）即可达到近似最优性能，展现出优异的数据效率。
• 通过施加对称性的基于小波的相互作用矩阵显著减少了参数数量并提升了泛化能力，尤其在具有旋转和反射对称性的系统中表现更优。
• 在[0,1]区间内使用10个λ步长的热力学积分，可准确估计非高斯能量项，验证了该方法在非高斯区域的鲁棒性。