[论文解读] $O(N^2)$ Universal Antisymmetry in Fermionic Neural Networks

Tianyu Pang, Shuicheng Yan+1 more|arXiv (Cornell University)|May 26, 2022

Neural Networks and Applications被引用 4

一句话总结

本文提出了一种针对费米子神经网络的 $O(N^2)$ 通用反对称性构造方法，通过使用基于排列等变多电子神经网络的成对反对称化方案，取代了原有的 $O(N^3)$ 斯莱特行列式。该方法利用连续逼近器实现了对任意反对称波函数（包括基态）的通用逼近，同时降低了计算成本，且保持了模型的表达能力。

ABSTRACT

Fermionic neural network (FermiNet) is a recently proposed wavefunction Ansatz, which is used in variational Monte Carlo (VMC) methods to solve the many-electron Schrödinger equation. FermiNet proposes permutation-equivariant architectures, on which a Slater determinant is applied to induce antisymmetry. FermiNet is proved to have universal approximation capability with a single determinant, namely, it suffices to represent any antisymmetric function given sufficient parameters. However, the asymptotic computational bottleneck comes from the Slater determinant, which scales with $O(N^3)$ for $N$ electrons. In this paper, we substitute the Slater determinant with a pairwise antisymmetry construction, which is easy to implement and can reduce the computational cost to $O(N^2)$. We formally prove that the pairwise construction built upon permutation-equivariant architectures can universally represent any antisymmetric function. Besides, this universality can be achieved via continuous approximators when we aim to represent ground-state wavefunctions.

研究动机与目标

• 解决费米子网络在 $N$-电子体系中因斯莱特行列式导致的 $O(N^3)$ 计算瓶颈问题。
• 开发一种计算效率更高的斯莱特行列式替代方案，同时保持对反对称函数的通用逼近能力。
• 证明基于排列等变神经网络的成对反对称化能够通用表示任意反对称波函数，包括基态。
• 通过将计算复杂度从 $O(N^3)$ 降低至 $O(N^2)$，实现费米子网络类模型在更大分子体系中的可扩展应用。
• 在无需哈特ree-fock初始化的情况下，通过小原子体系的实证结果，验证所提方法的可行性与可扩展性。

提出的方法

• 用基于两个多电子神经网络 $\phi_A$ 和 $\phi_B$ 的成对反对称化构造，替代费米子网络中的斯莱特行列式。
• 将波函数构造为 $\psi_{\textrm{pair}}(x) = \det\left[ \mathcal{A} \circ F(x_i, x_j) \right]$，其中 $F$ 是由反对称化成对项构成的矩阵。
• 采用排列等变神经网络 $\phi_A(x_j; \{x_{\setminus j}\})$ 和 $\phi_B(x_j; \{x_{\setminus j}\})$，其对除第 $j$ 个电子外的所有电子排列保持不变。
• 对由 $\phi_A$ 和 $\phi_B$ 导出的函数矩阵 $F(x_i, x_j)$ 应用成对反对称化算子 $\mathcal{A}$。
• 证明该成对构造的模型族在表达能力上严格优于单行列式费米子网络，且可通用表示任意反对称函数。
• 建立通用逼近理论，证明通过连续逼近器可实现对基态波函数的通用逼近，而此类逼近器可通过有限容量神经网络实现。

实验结果

研究问题

• RQ1 成对反对称化方案是否能在保持反对称函数通用逼近能力的前提下，替代费米子网络中的斯莱特行列式？
• RQ2 所提出的 $O(N^2)$ 构造是否仍能通过连续逼近器表示基态波函数？
• RQ3 新构造的计算复杂度是否降低至 $O(N^2)$，同时保持表达能力？
• RQ4 该方法是否可无缝扩展至其他基于行列式的 Ansatz（如 PauliNet）？
• RQ5 在小原子体系上，成对构造的实证性能与费米子网络相比如何？

主要发现

• 所提出的成对反对称化方法实现了 $O(N^2)$ 的计算复杂度，将标准费米子网络中 $O(N^3)$ 的瓶颈显著降低。
• 理论证明该成对构造的模型族可通用表示任意反对称函数，包括基态波函数。
• 即使使用连续逼近器，该方法仍保持通用逼近能力，而此类逼近器可通过有限容量神经网络实现。
• 在锂（Li）、铍（Be）、硼（B）、碳（C）和氮（N）原子上的实证结果表明，该成对构造能获得接近精确值的基态能量估计，其中 $\psi''_{\textrm{pair}}$ 对 Li 和 Be 的能量估计与精确值相差小于 $0.001$ 哈特里。
• 对于更大的原子（如 B、C、N），由于能量偏差较大，表明需要更高模型容量，提示需采用更复杂的网络架构。
• 该方法与现有费米子网络和 PauliNet 架构兼容，可实现最小架构改动的直接集成。