[论文解读] On Stability of Tensor Networks and Canonical Forms

Yifan Zhang, Edgar Solomonik|arXiv (Cornell University)|Jan 5, 2020

Quantum many-body systems参考文献 36被引用 5

一句话总结

本文推导了在逐位扰动下张量网络中误差放大的理论界，表明规范形式能显著提升张量网络算法（如DMRG）的数值稳定性和可实现精度。本文建立了与环境矩阵范数相关的最坏情况和平均情况误差界，证明规范形式可将最坏情况误差降低为与环境矩阵奇异值相关的因子，尤其在大奇异值占主导时效果更显著。

ABSTRACT

Tensor networks such as matrix product states (MPS) and projected entangled pair states (PEPS) are commonly used to approximate quantum systems. These networks are optimized in methods such as DMRG or evolved by local operators. We provide bounds on the conditioning of tensor network representations to sitewise perturbations. These bounds characterize the extent to which local approximation error in the tensor sites of a tensor network can be amplified to error in the tensor it represents. In known tensor network methods, canonical forms of tensor network are used to minimize such error amplification. However, canonical forms are difficult to obtain for many tensor networks of interest. We quantify the extent to which error can be amplified in general tensor networks, yielding estimates of the benefit of the use of canonical forms. For the MPS and PEPS tensor networks, we provide simple forms on the worst-case error amplification. Beyond theoretical error bounds, we experimentally study the dependence of the error on the size of the network for perturbed random MPS tensor networks.

研究动机与目标

• 量化张量网络中单个张量位点的局部扰动如何放大为网络态的全局误差。
• 分析规范形式在张量网络（尤其是MPS和PEES）中带来的数值稳定性优势。
• 推导张量网络表示在扰动下的理论最坏情况和平均情况误差界。
• 评估键维数和网络规模对误差放大及规范形式有效性的影响。
• 通过随机MPS和PEPS张量网络的数值实验验证理论界。

提出的方法

• 利用描述张量位点与网络其余部分关系的环境矩阵，推导最坏情况误差放大的界。
• 利用由环境矩阵诱导的二次系统，表征一般张量网络中局部扰动误差的最坏情况。
• 应用奇异值分解和等距环境性质，分析规范形式及其条件性。
• 通过具有同方差的随机扰动推导平均情况误差界，并通过蒙特卡洛采样验证。
• 在随机MPS上进行数值实验，比较单一位点和所有位点扰动下规范形式与一般形式的误差比。
• 采用缩放扰动并计算相对误差比，以评估在不同键维数和网络规模下规范化的稳定性增益。

实验结果

研究问题

• RQ1 单个张量位点的局部扰动如何放大为整体张量网络态的误差？
• RQ2 规范形式在多大程度上减少了张量网络中最坏情况的误差放大？
• RQ3 误差放大如何依赖于环境矩阵的奇异值？
• RQ4 在随机、独立同分布的扰动下，平均情况误差行为如何？理论预测与模拟结果的匹配程度如何？
• RQ5 在MPS和PEPS中，规范形式的优势如何随键维数和网络规模变化？

主要发现

• 对于单一位点扰动，规范形式将最坏情况误差降低为因子 $\frac{\|\bm{M}\|_{2}\|\bm{\mathcal{T}}\|_{F}}{\|\bm{M}\cdot\bm{\mathcal{T}}\|_{F}}$，其中 $\bm{M}$ 为环境矩阵，$\bm{\mathcal{T}}$ 为扰动位点。
• 对于所有位点扰动，最坏情况误差降低因子为 $\frac{\|\bm{M}\|_{2}\|\bm{\mathcal{T}}\|_{F}}{\sqrt{D}\|\bm{M}\cdot\bm{\mathcal{T}}\|_{F}}$，其中 $D$ 为收缩模态的维数。
• 当环境矩阵的最大奇异值占主导时（例如奇异值呈指数衰减），误差降低优势随键维数增加而增强。
• 数值实验表明，规范形式显著降低了误差比，且当键维数超过 $D=256$ 后优势进一步增大。
• 在未受控的键维数设置下，误差比 $R$ 随网络规模 $N$ 增大而增加，且规范形式在较大 $N$ 时展现出更显著的稳定性优势。
• 平均情况误差模拟结果与理论预测一致，模拟得到的平均相对误差与理论预测值在不同 $D$ 下高度吻合。