[論文レビュー] Autoregressive Transformer Neural Network for Simulating Open Quantum Systems via a Probabilistic Formulation

Di Luo, Zhuo Chen+2 more|arXiv (Cornell University)|Sep 11, 2020

Quantum many-body systems参考文献 80被引用数 9

ひとこと要約

本稿では、正の自己随伴作用素値測定（POVM）を用いた確率的定式化と組み合わせた自己回帰的Transformerニューラルネットワークを導入し、開放量子系のダイナミクスをシミュレートする手法を提案する。正確なサンプリングと取り扱いやすい密度推定を可能にすることで、1次元および2次元の量子モデルにおけるリアルタイムダイナミクスと安定状態を高精度に追跡でき、特に困難なパrameter領域においてもRBMベースの手法を上回り、高次元の確率的微分方程式の効率的解法を可能にする。

ABSTRACT

The theory of open quantum systems lays the foundations for a substantial part of modern research in quantum science and engineering. Rooted in the dimensionality of their extended Hilbert spaces, the high computational complexity of simulating open quantum systems calls for the development of strategies to approximate their dynamics. In this paper, we present an approach for tackling open quantum system dynamics. Using an exact probabilistic formulation of quantum physics based on positive operator-valued measure (POVM), we compactly represent quantum states with autoregressive transformer neural networks; such networks bring significant algorithmic flexibility due to efficient exact sampling and tractable density. We further introduce the concept of String States to partially restore the symmetry of the autoregressive transformer neural network and improve the description of local correlations. Efficient algorithms have been developed to simulate the dynamics of the Liouvillian superoperator using a forward-backward trapezoid method and find the steady state via a variational formulation. Our approach is benchmarked on prototypical one and two-dimensional systems, finding results which closely track the exact solution and achieve higher accuracy than alternative approaches based on using Markov chain Monte Carlo to sample restricted Boltzmann machines. Our work provides general methods for understanding quantum dynamics in various contexts, as well as techniques for solving high-dimensional probabilistic differential equations in classical setups.

研究の動機と目的

• ヒルベルト空間次元の指数的増大に起因する、開放量子系シミュレーションの計算複雑性の低減を目的とする。
• 特に2次元系において、リアルタイムダイナミクスと安定状態を高精度に捉える機械学習的手法の開発を目的とする。
• 複素数値の量子状態に不適切であるとされる既存の生成モデル（例：RBM）の限界を克服することを目的とする。
• 正確なサンプリングと高次元量子ダイナミクスにおける効率的最適化を可能にするフレームワークの構築を目的とする。
• 本手法を、有限温度ダイナミクスやフェルミオン輸送問題を含む、より広範な応用分野へ一般化することを目的とする。

提案手法

• 量子状態は、POVMに基づく確率的定式化を用いてパrameter化された自己回帰的Transformerニューラルネットワークで表現される。
• Liouvillianスーパーオペレーターのダイナミクスを効率的にシミュレートするために、前進後退台形積分スキームが採用される。
• 収束性と精度の向上を図るため、安定状態を求めるために変分的定式化が用いられる。
• 自己回帰的アーキテクチャにおける部分的対称性の回復を図るため、ストリング状態（String States）が導入され、局所的相関の記述が向上する。
• 正確なサンプリングと取り扱いやすい密度評価が可能となり、RBMで用いられるマルコフ連鎖モンテカルロ法に内在する統計的ノイズを回避する。
• Lindblad方程式から導出された微分可能な損失関数を用いて学習が行われ、ニューラルネットワークパrameterのエンドツーエンド最適化が可能となる。

実験結果

リサーチクエスチョン

• RQ1 自己回帰的Transformerニューラルネットワークは、高次元ヒルベルト空間を持つ開放量子系のリアルタイムダイナミクスを高精度にシミュレートできるか？
• RQ2 特に困難なパrameter領域において、本手法はRBMベースの手法と比較して、精度とサンプリング効率の点で優れているか？
• RQ3 ストリング状態（String States）は、自己回帰的量子状態モデルにおける局所的相関および対称性の表現をどの程度改善できるか？
• RQ4 時間発展演算子と固定点最適化の組み合わせは、単独で用いる場合よりも、より高精度な安定状態を得られるか？
• RQ5 本確率的ニューラルネットワークフレームワークは、量子力学を越えて、高次元の確率的微分方程式の解法へ一般化可能か？

主な発見

• 本手法は、1次元および2次元の横磁場イジング模型およびヘイゼンベルグ模型において高い精度を達成し、正確な解とよく一致する。
• RBM手法が困難であった領域 1 < g/γ < 2.5 において、本手法は顕著に高い精度を示す。
• 8つの対称的ストリング状態を用いることで、2層・隠れ層次元64のより深い、広いTransformerと同等の性能が達成され、対称性回復の有効性が示された。
• 時間発展演算子によるダイナミクスとその後に続く固定点最適化を組み合わせることで、固定点最適化単独よりも高精度な安定状態が得られ、全体の計算コストも削減された。
• 正確なサンプリングと取り扱いやすい密度評価が可能となり、RBMベースのMCMC手法に内在する統計的ノイズの制限を克服した。
• 本フレームワークは、閉じた量子系、有限温度ダイナミクス、環境結合を伴うフェルミオン輸送問題へも一般化可能である。