[论文解读] Geometric Structures in Tensor Representations (Final Release)

Antonio Falcó, Wolfgang Hackbusch+1 more|arXiv (Cornell University)|May 12, 2015

Tensor decomposition and applications参考文献 24被引用 10

一句话总结

本文通过证明具有固定或有界树基秩的张量集合构成解析巴拿赫流形，建立了基于树结构的张量表示的几何结构，从而为高维问题提供了严格的微分几何框架。本文将狄拉克-弗伦克尔变分原理推广至拓扑张量巴拿赫空间，并证明了在这些流形中最佳逼近的存在性。

ABSTRACT

The main goal of this paper is to study the geometric structures associated with the representation of tensors in subspace based formats. To do this we use a property of the so-called minimal subspaces which allows us to describe the tensor representation by means of a rooted tree. By using the tree structure and the dimensions of the associated minimal subspaces, we introduce, in the underlying algebraic tensor space, the set of tensors in a tree-based format with either bounded or fixed tree-based rank. This class contains the Tucker format and the Hierarchical Tucker format (including the Tensor Train format). In particular, we show that the set of tensors in the tree-based format with bounded (respectively, fixed) tree-based rank of an algebraic tensor product of normed vector spaces is an analytic Banach manifold. Indeed, the manifold geometry for the set of tensors with fixed tree-based rank is induced by a fibre bundle structure and the manifold geometry for the set of tensors with bounded tree-based rank is given by a finite union of connected components. In order to describe the relationship between these manifolds and the natural ambient space, we introduce the definition of topological tensor spaces in the tree-based format. We prove under natural conditions that any tensor of the topological tensor space under consideration admits best approximations in the manifold of tensors in the tree-based format with bounded tree-based rank. In this framework, we also show that the tangent (Banach) space at a given tensor is a complemented subspace in the natural ambient tensor Banach space and hence the set of tensors in the tree-based format with bounded (respectively, fixed) tree-based rank is an immersed submanifold. This fact allows us to extend the Dirac-Frenkel variational principle in the framework of topological tensor spaces.

研究动机与目标

• 使用有根树和极小子空间建立子空间基张量格式的几何框架。
• 在拓扑张量空间中，将具有固定或有界树基秩的张量集合表征为解析巴拿赫流形。
• 在自然条件下，证明有界树基秩张量流形中最佳逼近的存在性。
• 利用树基格式的流形几何，将狄拉克-弗伦克尔变分原理推广至张量巴拿赫空间。
• 通过张量格式为高维PDE和最小化问题的数值求解提供微分几何基础。

提出的方法

• 使用有根树表示层次张量格式，极小子空间的维数定义树基秩。
• 定义两类：具有固定树基秩的张量（单一流形）和有界树基秩的张量（有限个流形的并集）。
• 应用纤维丛理论，证明固定秩张量的流形几何及有界秩集合的连通分支。
• 在树基格式中引入拓扑张量空间，作为代数张量空间在巴拿赫范数下的完备化。
• 利用包含映射的导数，证明有界秩张量的流形是浸入子流形。
• 通过将动力学投影到流形的切空间，利用狄拉克-弗伦克尔原理推导出时间依赖的哈特ree方法。

实验结果

研究问题

• RQ1 如何利用有根树和极小子空间表征基于树的张量表示的几何结构？
• RQ2 在拓扑张量空间中，具有固定或有界树基秩的张量集合的微分几何时态为何？
• RQ3 具有有界树基秩的张量集合在环境拓扑张量空间中是否允许最佳逼近？
• RQ4 能否利用树基格式的流形结构将狄拉克-弗伦克尔变分原理推广至张量巴拿赫空间？
• RQ5 具有有界树基秩的张量在树基格式中的切空间与环境张量巴拿赫空间之间有何关系？

主要发现

• 具有固定树基秩的张量集合构成一个解析巴拿赫流形，其几何结构由纤维丛结构诱导。
• 具有有界树基秩的张量集合是有限个连通分支的并集，每个连通分支均为固定树基秩张量的流形。
• 在具有有界树基秩的树基格式中，任意张量处的切空间是环境张量巴拿赫空间的补子空间。
• 有界秩张量流形到环境空间的包含映射是浸入映射，从而确认了其流形结构。
• 在自然条件下，有界树基秩张量流形中存在最佳逼近，确保了变分方法的收敛性。
• 时间依赖的哈特ree方法被推导为流形上投影动力系统的解，满足狄拉克-弗伦克尔变分原理。