[論文レビュー] Neural Network Evolution Strategy for Solving Quantum Sign Structures

Ao Chen, Kenny Choo+2 more|arXiv (Cornell University)|Nov 11, 2021

Quantum, superfluid, helium dynamics被引用数 6

ひとこと要約

本論文は、勾配フリーの最適化手法である進化戦略（ES）を用いて訓練される離散的符号補助ネットワークを用いて、波動関数の振幅とその符号構造を分離するニューラルネットワーク変分アンザッツを提案する。この手法は、符号構造の学習を改善し、3次元のフラストレーテッド・ピロクロールヘイゼンベルグ模型において、DMRGと同等の変分エネルギーを達成し、従来のNQS手法を上回る性能を示し、スケーラビリティと精度の向上を実証した。

ABSTRACT

Feed-forward neural networks are a novel class of variational wave functions for correlated many-body quantum systems. Here, we propose a specific neural network ansatz suitable for systems with real-valued wave functions. Its characteristic is to encode the all-important rugged sign structure of a quantum wave function in a convolutional neural network with discrete output. Its training is achieved through an evolutionary algorithm. We test our variational ansatz and training strategy on two spin-1/2 Heisenberg models, one on the two-dimensional square lattice and one on the three-dimensional pyrochlore lattice. In the former, our ansatz converges with high accuracy to the analytically known sign structures of ordered phases. In the latter, where such sign structures are a priory unknown, we obtain better variational energies than with other neural network states. Our results demonstrate the utility of discrete neural networks to solve quantum many-body problems.

研究の動機と目的

• ニューラルネットワークを用いて、量子多体系の波動関数における符号構造を正確に表現・最適化する課題に取り組む。
• 実数値波動関数における連続的位相を持つニューラルネットワーク状態の限界を克服するため、離散的符号ネットワークを導入する。
• 勾配フリーの進化的アルゴリズム（ES）を用いて、微分不能な符号ネットワークの有効な訓練を可能にする。
• 特に符号構造が未知の3次元モデルにおいて、フラストレーションを示す量子スピン系における変分エネルギーの精度を向上させる。
• 提案されたアーキテクチャと最適化戦略により、大規模系におけるスケーラビリティと性能向上を実証する。

提案手法

• 変分波動関数は ψ(σ) = ψ_b(σ) × ψ_h(σ) と因数分解され、ψ_b は振幅を扱うベースネットワーク、ψ_h は離散的符号補助ネットワークである。
• 符号補助ネットワークはバイアスなしの1層畳み込みアーキテクチャを採用し、位相の和を用いて離散的符号出力を生成する：φ(σ) = arg(∑j e^{iv_j(σ)}）。
• 符号ネットワークの出力は ±1 に量子化され、連続的複素位相ネットワークに見られる余分な位相因子を回避する。
• 非微分可能な符号ネットワークの最適化に、勾配フリーの進化戦略（ES）が用いられる。
• ベースネットワークは標準的なバックプロパゲーションで訓練され、符号ネットワークは独立してESで最適化され、振幅と符号の共同最適化が可能になる。
• 本手法は2次元正方形格子および3次元ピロクロールヘイゼンベルグ模型でテストされ、ED、DMRG、および従来のNQS手法と性能を比較した。

実験結果

リサーチクエスチョン

• RQ1 進化戦略で訓練された離散的符号ネットワークは、フラストレーションを示す量子スピン系における変分エネルギーの精度を向上させることができるか？
• RQ2 符号構造を微分不能な離散的ネットワークとして分離することで、連続的位相を持つニューラルネットワーク状態に比べて学習が向上するか？
• RQ3 提案手法は、符号構造が未知の3次元フラストレーション系において、DMRGと同等の変分エネルギーを達成できるか？
• RQ4 ベースネットワークと符号補助ネットワークの組み合わせは、変分波動関数の表現力と精度にどのように影響を与えるか？
• RQ5 ESで最適化された符号ネットワークは、特に3次元格子において大規模系にスケーリング可能か？

主な発見

• ESで最適化された離散的符号ネットワークは、3次元ピロクロールヘイゼンベルグ模型において、変分エネルギーの精度を著しく向上させ、従来のすべてのNQS研究を上回った。
• 4×2³のピロクロール格子において、相対的エネルギー誤差が0.003%にまで低下し、正確な基底状態との重なりの二乗が0.998に達した。これは高い忠実度を示している。
• 全テストクラスターサイズにおいて、前例の最高性能NQS手法（SR）を上回り、無限大サイズへの外挿においても非ゼロのエネルギー利得を示した。
• 4×2²×3より大きな系サイズにおいて、DMRGの精度に近づく変分エネルギーを達成した。これは、大規模系へのスケーラビリティを示している。
• 符号補助ネットワークは符号と振幅の両方の学習を改善し、いずれの成分を精錬してもエネルギー誤差が減少し、重なりが増加することを示した。
• 離散的符号ネットワークの使用により、連続的位相NQSに見られる余分な位相因子が排除され、より効率的かつ正確な最適化が可能になった。