[論文レビュー] On Stability of Tensor Networks and Canonical Forms

Yifan Zhang, Edgar Solomonik|arXiv (Cornell University)|Jan 5, 2020

Quantum many-body systems参考文献 36被引用数 5

ひとこと要約

本稿は、テンソルネットワークにおけるサイト単位の摂動下での誤差拡大について理論的境界を提示し、特にcanonical formsがDMRGなどのテンソルネットワークアルゴリズムにおける数値的安定性と達成可能な精度を著しく向上させることを示している。環境行列のノルムに結びつく最悪ケースおよび平均ケースの誤差境界を導出し、canonical formsが環境行列の特異値に依存する要因によって最悪ケース誤差を低減することを明らかにした。特に、大きな特異値が支配的である場合には顕著である。

ABSTRACT

Tensor networks such as matrix product states (MPS) and projected entangled pair states (PEPS) are commonly used to approximate quantum systems. These networks are optimized in methods such as DMRG or evolved by local operators. We provide bounds on the conditioning of tensor network representations to sitewise perturbations. These bounds characterize the extent to which local approximation error in the tensor sites of a tensor network can be amplified to error in the tensor it represents. In known tensor network methods, canonical forms of tensor network are used to minimize such error amplification. However, canonical forms are difficult to obtain for many tensor networks of interest. We quantify the extent to which error can be amplified in general tensor networks, yielding estimates of the benefit of the use of canonical forms. For the MPS and PEPS tensor networks, we provide simple forms on the worst-case error amplification. Beyond theoretical error bounds, we experimentally study the dependence of the error on the size of the network for perturbed random MPS tensor networks.

研究の動機と目的

• テンソルネットワークの局所的摂動がネットワーク状態全体の誤差にどの程度拡大するかを定量化すること。
• MPSおよびPEPSにおいて特に顕著な、canonical formsによる数値的安定性の利点を分析すること。
• 摂動下におけるテンソルネットワーク表現の理論的最悪ケースおよび平均ケースの誤差境界を導出すること。
• 結合次元およびネットワークサイズが誤差拡大およびcanonical formsの有効性に与える影響を評価すること。
• ランダムなMPSおよびPEPSテンソルネットワークにおける数値実験を通じて理論的境界を検証すること。

提案手法

• 環境行列（ネットワークの特定のテンソルサイトと残りのネットワークとの関係を記述）を用いて、最悪ケース誤差拡大の境界を導出する。
• 環境行列によって誘導される2次系を用いて、一般のテンソルネットワークにおける最悪ケース摂動誤差を特徴付ける。
• 特異値分解および等長環境の性質を用いて、canonical formsとその条件数を分析する。
• 均一な分散を持つランダム摂動を用いて平均ケース誤差境界を導出し、モンテカルロサンプリングにより検証する。
• 単一サイトおよび全サイト摂動下における、ランダムMPSにおけるcanonical形式と一般形式の間の誤差比を比較する数値実験を実施する。
• スケーリングされた摂動を用い、相対誤差比を計算することで、結合次元およびネットワークサイズの変動に伴うcanonical化による安定性の向上を評価する。

実験結果

リサーチクエスチョン

• RQ1 単一のテンソルサイトにおける局所的摂動が、全体のテンソルネットワーク状態の誤差にどの程度拡大するか？
• RQ2 canonical formsはテンソルネットワークにおける最悪ケース誤差拡大をどの程度低減するか？
• RQ3 誤差拡大は環境行列の特異値にどのように依存するか？
• RQ4 ランダムで同一分布に従う摂動下での平均ケース誤差挙動は何か？理論的予測とシミュレーションの一致度はいかがなっているか？
• RQ5 MPSおよびPEPSにおいて、canonical formsの利点は結合次元およびネットワークサイズにどのようにスケーリングされるか？

主な発見

• 単一サイト摂動の場合、canonical formsは誤差を $\frac{\|\bm{M}\|_{2}\|\bm{\mathcal{T}}\|_{F}}{\|\bm{M}\cdot\bm{\mathcal{T}}\|_{F}}$ の要因で低減する。ここで $\bm{M}$ は環境、$\bm{\mathcal{T}}$ は摂動を受けたサイトを表す。
• 全サイト摂動の場合、最悪ケース誤差低減要因は $\frac{\|\bm{M}\|_{2}\|\bm{\mathcal{T}}\|_{F}}{\sqrt{D}\|\bm{M}\cdot\bm{\mathcal{T}}\|_{F}}$ であり、$D$ は畳み込みモードの次元を表す。
• 結合次元が大きくなるほど、誤差低減の恩恵が増大し、特に環境行列の最大特異値が支配的である場合（例：指数関数的に減少する特異値）に顕著である。
• 数値実験により、canonical formsが著しく低い誤差比を示すことが確認され、結合次元が $D=256$ を超えて増加するに従いその利点が拡大することが示された。
• 結合次元が制御されていない状況では、誤差比 $R$ はネットワークサイズ $N$ と共に増加し、canonical formsは $N$ が大きい場合により顕著な安定性の優位性を示す。
• 平均ケース誤差シミュレーションにより理論的予測が確認され、異なる $D$ において、シミュレートされた平均相対誤差と理論的平均相対誤差が良好に一致した。