[論文レビュー] TensorNetwork on TensorFlow: A Spin Chain Application Using Tree Tensor Networks

Ashley Milsted, Martin Ganahl+3 more|arXiv (Cornell University)|May 3, 2019

Quantum many-body systems被引用数 14

ひとこと要約

本稿では、TensorFlow 上のオープンソースの TensorNetwork ライブラリを用いて、薄いトーラス上の2次元量子スピン格子系の基底状態を近似するためのツリー・テンソル・ネットワーク（TTN）アルゴリズムを提示する。GPU を使用することで CPU と比較して最大 100 倍の高速化が達成され、結合次元 χ ∈ [32, 256] の範囲で計算スケーリングが O(χ⁴) となることが示され、量子多体系のテンソルネットワークシミュレーションにおける GPU アクceleration の有効性が強調されている。

ABSTRACT

TensorNetwork is an open source library for implementing tensor network algorithms in TensorFlow. We describe a tree tensor network (TTN) algorithm for approximating the ground state of either a periodic quantum spin chain (1D) or a lattice model on a thin torus (2D), and implement the algorithm using TensorNetwork. We use a standard energy minimization procedure over a TTN ansatz with bond dimension $χ$, with a computational cost that scales as $O(χ^4)$. Using bond dimension $χ\in [32,256]$ we compare the use of CPUs with GPUs and observe significant computational speed-ups, up to a factor of $100$, using a GPU and the TensorNetwork library.

研究の動機と目的

• TensorNetwork ライブラリを用いて、薄いトーラス上の2次元量子スピン格子系の基底状態を近似するためのツリー・テンソル・ネットワーク（TTN）アルゴリズムを実装すること。
• TensorNetwork フレームワークを通じて、テンソルネットワークシミュレーションにおける GPU と CPU の性能差を実証すること。
• TensorFlow の微分プログラミング機能を活用して、量子多体系の TTN に基づくエネルギー最小化のスケーラブルで効率的な実装を提供すること。
• 将来的な MPS や MERA といったより複雑なテンソルネットワークアルゴリズムの実装の基盤となる例として機能すること。

提案手法

• TTN は、スケールの異なる長さに対応する層に分かれた規則的な二分木構造となっており、スミット分解を用いた効率的な圧縮が可能である。
• 変分的アンザッツを用いて基底状態を近似し、標準的な最適化手法を用いて TTN パrameter におけるエネルギー最小化を実行する。
• テンソルの畳み込みと特異値分解（SVD）は TensorFlow バックエンドで計算され、自動微分と GPU アクセceleration が可能となる。
• 各等長変換 w に対して環境テンソル E を計算し、SVD を用いて w = VU† により更新する。計算コストは O(χ⁴) に比例する。
• 代替手法として、E†E の固有値分解を用いる方法が検討され、SVD のコストを O(χ³) に低下させるが、数値精度を半分に削減する代償が伴う。
• アルゴリズムは、128×5 スピン格子上の横磁場イジング模型（h = 2.9）を用いてベンチマークされ、結合次元 χ ∈ [32, 256] を使用した。

実験結果

リサーチクエスチョン

• RQ1 TensorFlow 上の TensorNetwork ライブラリを用いて、2次元量子スピン系の基底状態近似のためのツリー・テンソル・ネットワーク（TTN）をどの程度効率的に実装できるか？
• RQ2 TensorNetwork フレームワークを用いて、TTN の計算を CPU から GPU に移行することで、どの程度の性能向上が達成できるか？
• RQ3 特に SVD とテンソル畳み込みの計算スケーリングが O(χ⁴) である TTN アルゴリズムについて、CPU と GPU の実行におけるスケーリング特性はどのように比較できるか？
• RQ4 環境テンソルの二乗の固有値分解を用いた代替更新スキームは、計算コストを低減しつつも数値的安定性を維持できるか？
• RQ5 O(χ⁴) スケーリングを示すテンソルネットワークシミュレーションにおいて、GPU や TPU といったハードウェアアクセラレータは、どの程度の性能向上をもたらすか？

主な発見

• TensorNetwork を GPU で使用することで、結合次元 χ ∈ [32, 256] の範囲で、単一の CPU と比較して計算時間を最大 100 倍短縮できる。
• TTN アルゴリズムの計算コストは、テンソル畳み込みと SVD の両方において、理論的期待と一致して O(χ⁴) に比例する。
• GPU 上の TensorNetwork は、大きな χ に対して CPU と比較して 100 倍の高速化を達成し、テスト範囲内では GPU 実行のスケーリングが概ね O(χ³) に保たれる。
• E†E の固有値分解を用いる代替手法により、SVD のコストを O(χ⁴) から O(χ³) に低下させることができ、計算コストの削減が見込まれるが、数値精度が半減する。
• 初期の実験結果から、将来の TPU 最適化により、現在の GPU の性能を上回る性能向上が得られる可能性があり、特に χ の値が高くなると顕著である。
• TTN の手法は、MERA や MPS よりも概念的に単純で、2次元系への一般化性に優れ、スケーリング特性とハードウェアアクセラレーションの可能性を兼ね備えている。