[论文解读] Changing the topology of Tensor Networks

Stefan Handschuh|arXiv (Cornell University)|Mar 7, 2012

Tensor decomposition and applications参考文献 12被引用 10

一句话总结

本文提出了一种直接的、非近似的算法，通过使用奇异值分解（SVD）系统性地重新配置边，实现张量网络拓扑的变换，能够在张量链（TC）和张量列车（TT）格式之间进行转换。该方法在保持精确表示的同时，最小化了内存和计算成本，数值实验表明，即使在大规模网络中，相对误差也低于 5.96×10⁻⁸。

ABSTRACT

In many applications, it is needed to change the topology of a tensor network directly and without approximation. This work will introduce a general scheme that satisfies these needs. We will describe the procedure by two examples and show its efficiency in terms of memory consumption and speed in various numerical experiments. In general, we are going to provide an algorithm to add an edge to a tensor network as well as an algorithm to remove an edge unless the resulting network is a connected graph.

研究动机与目标

• 开发一种直接的、非近似的张量网络拓扑变换方法，无需计算完整张量。
• 实现在连通图结构张量网络之间的精确转换，特别是从张量链（TC）到张量列车（TT）格式的转换。
• 通过将循环网络转换为树状结构，降低计算复杂度和内存使用。
• 提供一种稳定、高效的张量操作框架，避免一般张量网络中循环带来的约束。

提出的方法

• 该算法采用基于 SVD 的顺序边重配置：首先在 TC 格式中合并相邻张量，然后逐步将边向中心移动。
• 每一步通过将两个张量收缩形成的矩阵进行 SVD 分解，生成一个秩更低的新张量网络。
• 当使用完整的 SVD 秩时，该过程能精确保留原始张量；通过截断较小的奇异值，可实现受控的近似。
• 通过应用类似的基于 SVD 的边变换，该方法可推广至其他张量网络格式。
• 利用柯西-施瓦茨不等式和三角不等式推导误差界，估算截断对整体张量表示的影响。
• 该方法避免了完整张量的计算，因此可扩展至直接计算不可行的大规模网络。

实验结果

研究问题

• RQ1 是否可以不通过近似或计算完整张量，直接改变张量网络的拓扑结构？
• RQ2 如何仅通过局部操作，将循环张量网络（如 TC）精确转换为树状结构网络（如 TT）？
• RQ3 SVD 截断对拓扑转换精度的影响是什么？
• RQ4 与 HOSVD 或 ALS 等替代方法相比，所提方法在内存和计算成本方面有何差异？
• RQ5 在拓扑转换过程中，截断引入的误差是否可以被界定并控制？

主要发现

• 当使用完整的 SVD 秩时，该算法在数值实验中实现了从 TC 到 TT 格式的精确转换，相对误差低于 5.96×10⁻⁸。
• 对于 SVD 截断精度为 10⁻¹⁰ 的近似转换，所有测试维度下的平均相对误差均低于 5×10⁻⁸。
• 转换后的 TT 秩随网络规模逐渐增加，从 d=4 时的 18.67 增至 d=30 时的 34.21，表明具有良好的可扩展性。
• 从 TT 重新转换回 TC 时，原始结构得以保持，平均秩接近初始 TC 秩，验证了结果的一致性。
• 利用柯西-施瓦茨不等式和三角不等式推导出的误差估计，能精确界定 SVD 截断对最终张量表示的影响。
• 在精确转换方面，该方法在速度和内存效率上优于全张量计算或迭代优化方法（如 ALS、DMRG）。