[论文解读] Autoregressive Transformer Neural Network for Simulating Open Quantum Systems via a Probabilistic Formulation

Di Luo, Zhuo Chen+2 more|arXiv (Cornell University)|Sep 11, 2020

Quantum many-body systems参考文献 80被引用 9

一句话总结

本文提出一种基于正算子值测度（POVM）的概率化公式与自回归Transformer神经网络相结合的方法，用于模拟开放量子系统的动力学。通过实现精确采样和可处理的密度估计，该方法能够准确追踪一维和二维量子模型中的实时动力学与稳态，其性能优于基于RBM的方法，尤其在具有挑战性的参数区域表现更优，并可高效求解高维概率微分方程。

ABSTRACT

The theory of open quantum systems lays the foundations for a substantial part of modern research in quantum science and engineering. Rooted in the dimensionality of their extended Hilbert spaces, the high computational complexity of simulating open quantum systems calls for the development of strategies to approximate their dynamics. In this paper, we present an approach for tackling open quantum system dynamics. Using an exact probabilistic formulation of quantum physics based on positive operator-valued measure (POVM), we compactly represent quantum states with autoregressive transformer neural networks; such networks bring significant algorithmic flexibility due to efficient exact sampling and tractable density. We further introduce the concept of String States to partially restore the symmetry of the autoregressive transformer neural network and improve the description of local correlations. Efficient algorithms have been developed to simulate the dynamics of the Liouvillian superoperator using a forward-backward trapezoid method and find the steady state via a variational formulation. Our approach is benchmarked on prototypical one and two-dimensional systems, finding results which closely track the exact solution and achieve higher accuracy than alternative approaches based on using Markov chain Monte Carlo to sample restricted Boltzmann machines. Our work provides general methods for understanding quantum dynamics in various contexts, as well as techniques for solving high-dimensional probabilistic differential equations in classical setups.

研究动机与目标

• 为解决由于希尔伯特空间维度指数增长导致的开放量子系统模拟计算复杂度过高的问题。
• 开发一种机器学习方法，准确捕捉开放量子系统中的实时动力学与稳态，特别是在二维系统中。
• 克服现有生成模型（如RBM）在处理复数量子态时的局限性。
• 提出一种支持精确采样与高效优化的框架，适用于高维量子动力学。
• 将该方法推广至更广泛的应用，包括有限温度动力学与费米子输运问题。

提出的方法

• 采用自回归Transformer神经网络表示量子态，通过基于POVM的概率化公式参数化概率振幅。
• 采用前向-后向梯形积分方案，高效模拟Liouvillian超算符的动力学。
• 使用变分公式寻找稳态，提升收敛性与准确性。
• 引入自旋弦态（String States）以在自回归架构中恢复部分对称性，增强对局域关联的描述能力。
• 该方法支持精确采样与可处理的密度评估，避免了RBM中常用的马尔可夫链蒙特卡罗方法所固有的统计噪声。
• 通过从Lindblad方程导出的可微分损失函数进行训练，实现神经网络参数的端到端优化。

实验结果

研究问题

• RQ1 自回归Transformer神经网络能否在高维希尔伯特空间下准确模拟开放量子系统的实时动力学？
• RQ2 在具有挑战性的参数区域中，该方法与基于RBM的方法相比，在准确性和采样效率方面表现如何？
• RQ3 自旋弦态在提升自回归量子态模型中局域关联与对称性表示方面，其改进程度如何？
• RQ4 时间演化与定点优化相结合，是否能比单独使用任一方法获得更优的稳态精度？
• RQ5 该概率神经网络框架能否推广至求解超越量子力学的高维概率微分方程？

主要发现

• 该方法在模拟一维与二维横向场伊辛模型和海森堡模型时表现出高精度，能紧密跟踪精确解。
• 在1 < g/γ < 2.5的参数区域——此前RBM方法难以处理的区域——该方法展现出显著提升的准确性。
• 使用八个对称的自旋弦态，其性能可与更深更宽的Transformer（2层，隐藏维度64）相媲美，证明了对称性恢复的有效性。
• 先进行动力学时间演化，再进行定点优化，相比仅使用定点优化，能获得更准确的稳态，且整体计算成本更低。
• 该方法支持精确采样与可处理的密度评估，克服了基于MCMC的RBM方法固有的统计噪声限制。
• 该框架可推广至闭合量子系统、有限温度动力学以及具有环境耦合的费米子输运问题。