[论文解读] Iterative Retraining of Quantum Spin Models Using Recurrent Neural Networks

Christopher C. Roth|arXiv (Cornell University)|Mar 9, 2020

Quantum many-body systems参考文献 32被引用 23

一句话总结

本文提出了一种迭代微调方法，通过将晶格平移映射到循环神经网络（RNN）的时间步长，利用RNN模拟大规模量子自旋系统，从而在逐层扩展模型的同时高效学习一维和二维体系的基态。该方法通过在不断扩大的晶格上迭代微调单一模型，利用平移不变性与对称性约束，实现了对大体系基态能量的精确估计。

ABSTRACT

Modeling quantum many-body systems is enormously challenging due to the exponential scaling of Hilbert dimension with system size. Finding efficient compressions of the wavefunction is key to building scalable models. Here, we introduce iterative retraining, an approach for simulating bulk quantum systems that uses recurrent neural networks (RNNs). By mapping translations in the lattice vector to the time index of an RNN, we are able to efficiently capture the near translational invariance of large lattices. We show that we can use this symmetry mapping to simulate very large systems in one and two dimensions. We do so by 'growing' our model, iteratively retraining the same model on progressively larger lattices until edge effects become negligible. We argue that this scheme generalizes more naturally to higher dimensions than Density Matrix Renormalization Group.

研究动机与目标

• 为解决强关联量子多体系统因希尔伯特空间呈指数增长而带来的模拟挑战。
• 开发一种可扩展的方法，用于在一维和二维体系中模拟体量子系统，同时最小化边界效应。
• 通过将晶格系统的平移不变性映射到RNN的时间动力学，实现对RNN中空间平移的利用。
• 通过迭代微调实现对非常大体系的波函数试探态的高效、数据高效的训练。
• 与传统方法（如密度矩阵变分法）相比，该方法在高维体系中具有天然可推广性。

提出的方法

• 使用循环神经网络（RNN）参数化变分波函数，将格点自旋映射到时间步长，以编码平移不变性。
• 采用基于自回归RNN的试探态，其中波函数通过格点上条件概率的乘积计算得到。
• 使用变分蒙特卡洛结合随机梯度下降，采用Adam优化器最小化能量期望值。
• 实施迭代微调：通过在每个边缘增加两个电子，将同一模型在逐步扩大的晶格上重新训练，并从先前的检查点进行初始化。
• 通过平均对称变换后的状态以及使用循环相位平均，实现对物理对称性（如平移、自旋旋转）的强制约束。
• 通过在损失函数中加入伪熵正则化项和磁化惩罚项，提升优化稳定性与泛化能力。

实验结果

研究问题

• RQ1 通过将空间索引映射到时间维度，RNN能否有效编码量子自旋系统中的平移不变性？
• RQ2 在逐步扩大的晶格上对单一RNN模型进行迭代微调，能否在一维和二维量子自旋系统中获得准确的基态能量估计？
• RQ3 通过在对称操作上平均，后处理强制对称性是否能提升基于RNN的波函数试探态的泛化能力与精度？
• RQ4 迭代微调方案是否能有效减少边界效应，并比传统方法更高效地模拟大体系中的体性质？
• RQ5 伪熵正则化项与磁化惩罚项的引入，对基于RNN的量子波函数优化中的收敛性与性能有何影响？

主要发现

• 迭代微调方法通过逐步扩展晶格尺寸并重用相同模型架构，成功模拟了大规模的一维和二维量子自旋系统。
• 在一维80自旋体系中，该方法获得的基态能量估计与已知基准结果一致，能量在10,000次训练步长内实现收敛。
• 在二维体系中，该方法应用于6×6晶格，并通过迭代微调将模型扩展至30×30体系，能量估计在2,000次微调步长后趋于稳定。
• 采用对称性强制的波函数范数显著提升了泛化能力，对称化模型在不同晶格尺寸下表现出更一致的性能。
• 引入伪熵正则化项与磁化惩罚项后，希尔伯特空间的采样更加均匀，且在迭代微调过程中收敛速度加快。
• 与标准RNN训练相比，该方法在稳定性与可扩展性方面表现更优，尤其在传统方法（如DMRG）受限的高维体系中优势明显。