[论文解读] Supplementing Recurrent Neural Network Wave Functions with Symmetry and Annealing to Improve Accuracy

Mohamed Hibat-Allah, Roger G. Melko+1 more|arXiv (Cornell University)|Jul 28, 2022

Quantum many-body systems被引用 13

一句话总结

该论文提出了一种具有对称性与退火增强的复数循环神经网络（cRNN）波函数，以改进受挫量子自旋系统基态能量的估算。通过整合U(1)和点群对称性（例如$C_{2d}$），并采用带有伪温度调度的变分退火方法，该方法在尺寸$\geq 14\times14$的三角晶格二维海森伯模型中，实现了低于DMRG的变分能量，证明了在强关联、存在符号问题的系统中具有更优的精度。

ABSTRACT

Recurrent neural networks (RNNs) are a class of neural networks that have emerged from the paradigm of artificial intelligence and has enabled lots of interesting advances in the field of natural language processing. Interestingly, these architectures were shown to be powerful ansatze to approximate the ground state of quantum systems. Here, we build over the results of [Phys. Rev. Research 2, 023358 (2020)] and construct a more powerful RNN wave function ansatz in two dimensions. We use symmetry and annealing to obtain accurate estimates of ground state energies of the two-dimensional (2D) Heisenberg model, on the square lattice and on the triangular lattice. We show that our method is superior to Density Matrix Renormalisation Group (DMRG) for system sizes larger than or equal to $14 imes 14$ on the triangular lattice.

研究动机与目标

• 提升受符号问题困扰的量子多体系统中循环神经网络（RNN）波函数ansatz的精度。
• 解决非酉哈密顿量在变分蒙特卡洛（VMC）优化中陷入局部极小值的挑战。
• 证明对称性整合与变分退火能显著提升受挫自旋系统中的收敛性与能量估算精度。
• 建立一种可扩展的基于RNN的方法，使其在大系统尺寸下超越传统方法（如DMRG）。

提出的方法

• 采用二维张量化门控复数RNN（cRNN）波函数，沿之字形路径进行自回归采样，以建模自旋构型。
• 网络采用二维递推关系，通过张量运算结合邻近自旋与隐藏状态，以编码二维相关性。
• 将对称性——包括U(1)自旋旋转不变性、正方晶格上的$C_{4v}$对称性以及三角晶格上的$C_{2d}$对称性——显式嵌入波函数架构中，以提升变分精度。
• 引入一种变分退火方案，使用起始温度为$T_0 = 0.25$并逐步降低至零的伪温度，以在VMC优化过程中帮助逃离局部极小值。
• 通过自适应矩优化器（Adam）配合学习率调度来优化变分参数，并应用Marshall符号规则以加速收敛。
• 通过重要性采样，利用自回归采样生成的 uncorrelated 样本计算能量估算。

实验结果

研究问题

• RQ1 具有对称性感知的RNN波函数是否能在受挫量子自旋系统中超越标准变分方法？
• RQ2 变分退火是否能提升非酉哈密顿量在VMC中的收敛性与能量估算精度？
• RQ3 所提出的RNN ansatz在大尺寸二维海森伯模型的受挫晶格中的表现与DMRG相比如何？
• RQ4 在强受挫系统（如三角晶格海森伯模型）中，对称性与退火的结合是否为必要条件？

主要发现

• 所提出的对称性与退火增强的cRNN波函数在$14\times14$与$16\times16$三角晶格海森伯模型中，实现了低于DMRG的基态能量估算。
• 在三角晶格中，该方法在系统尺寸$\geq 14\times14$时优于DMRG，且在$6\times6$至$16\times16$晶格范围内均确认了能量改善。
• 采用$T_0 = 0.25$与$N_{\rm warmup} = 1000$的退火策略显著提升了受挫三角晶格中的收敛性与能量估算精度，而在非受挫正方晶格中则无明显优势。
• 在三角晶格中引入$C_{2d}$与自旋宇称对称性，相比仅使用$U(1)$对称性，可显著降低变分能量。
• 该方法保持了稳定性与可扩展性，训练在P100 GPU上完成，且在$16\times16$系统尺寸内均实现收敛。
• 应用Marshall符号规则可加速收敛，且不影响RNN与DMRG计算中最终的能量精度。