[论文解读] Simulations of state-of-the-art fermionic neural network wave functions with diffusion Monte Carlo

Max Wilson, Nicholas Gao+3 more|arXiv (Cornell University)|Mar 23, 2021

Quantum many-body systems参考文献 25被引用 8

一句话总结

本文提出 Fermi Net*，一种通过扩散蒙特卡洛（DMC）方法优化的费米子神经网络波函数，实现了费米子系统基态能量计算的最先进精度。通过修改网络架构以消除冗余计算，并改进 KFAC 优化方法，作者在铍到氖原子及碳阳离子（C⁺）体系上实现了优于以往方法（包括使用传统波函数形式的常规 DMC）的性能表现。

ABSTRACT

Recently developed neural network-based \emph{ab-initio} solutions (Pfau et. al arxiv:1909.02487v2) for finding ground states of fermionic systems can generate state-of-the-art results on a broad class of systems. In this work, we improve the results for this Ansatz with Diffusion Monte Carlo. Additionally, we introduce several modifications to the network (Fermi Net) and optimization method (Kronecker Factored Approximate Curvature) that reduce the number of required resources while maintaining or improving the modelling performance. In terms of the model, we remove redundant computations and alter the way data is handled in the permutation equivariant function. The Diffusion Monte Carlo results exceed or match state-of-the-art performance for all systems investigated: atomic systems Be-Ne, and the carbon cation C$^+$.

研究动机与目标

• 通过扩散蒙特卡洛（DMC）方法，提升基于神经网络的费米子系统波函数的精度。
• 通过去除冗余元素并优化排列等变层中的数据流，对 Fermi Net 架构进行优化。
• 更有效地结合变分蒙特卡洛（VMC）与 DMC，应用克罗内克-分解近似曲率（KFAC）优化器。
• 证明在充分优化后，基于神经网络的 Ansatz 可超越传统波函数在 DMC 中的表现。

提出的方法

• 通过移除成对相互作用项中的对角线元素，并重构排列等变函数中的数据流，改进 Fermi Net 架构以减少计算冗余。
• 在变分蒙特卡洛（VMC）中应用改进的 KFAC 优化器，该优化器包含梯度裁剪、分解的 Tikhonov 正则化以及自适应学习率。
• 实现一种新型 DMC 算法，以神经网络波函数作为试探波函数，结合固定节点近似与基于格林函数的传播方法。
• 采用混合工作流：首先通过 KFAC 优化的 VMC 优化波函数，随后通过 DMC 进一步精炼，以减少变分偏差。
• 采用批处理、并行化的 DMC 方案，结合重要性采样与通过行走者权重重加权，以保持统计效率。
• 在 DMC 中引入改进的能量估计器，考虑试探能量与局部能量的差异，以提升收敛性与稳定性。

实验结果

研究问题

• RQ1 当与 DMC 结合时，基于神经网络的费米子波函数是否能在费米子系统上实现低于传统 Ansatz 的能量估计？
• RQ2 对 Fermi Net 的架构修改（如移除冗余项）如何影响计算效率与模型性能？
• RQ3 在 VMC 中使用 KFAC 优化波函数，能在多大程度上提升 DMC 输入态的质量？
• RQ4 使用现代神经网络 Ansatz 的 DMC 是否能超越以往在 Be-Ne 与 C⁺ 等原子体系中的最先进方法？
• RQ5 在高度表达的神经网络波函数上，固定节点 DMC 方法是否能有效应用而不引入显著偏差？

主要发现

• 经 DMC 优化的 Fermi Net* 模型在所有测试体系（铍至氖及碳阳离子 C⁺）中均实现了最先进能量估计。
• 改进后的 Fermi Net 架构通过移除成对相互作用中的冗余对角线项，并优化排列等变层中的数据流，显著降低了计算开销。
• 结合改进 KFAC 优化器的 VMC 与后续 DMC 应用，相比基线 Fermi Net，显著降低了变分能量偏差。
• 使用神经网络 Ansatz 的 DMC 结果优于或匹配以往最先进方法，证明了神经波函数在高精度量子蒙特卡洛模拟中的有效性。
• 在优化后的神经网络波函数上应用固定节点近似并未导致性能下降，表明试探波函数具有强鲁棒性与低偏差。
• 在 KFAC 优化器中引入自适应学习率与梯度裁剪，提升了训练稳定性与收敛速度，从而改善了最终波函数的质量。