[论文解读] About Notations in Multiway Array Processing

Jérémy E. Cohen|arXiv (Cornell University)|Nov 4, 2015

Tensor decomposition and applications参考文献 22被引用 11

一句话总结

本文提出了一套统一且一致的多维数组处理符号系统，区分了与基无关的张量积（⊗）与与基相关的克罗内克积（⊞），重新定义了向量化和矩阵化以消除排列歧义，并证明这些符号能简化表达式并阐明张量代数中数组正态分布律的性质。

ABSTRACT

This paper gives an overview of notations used in multiway array processing. We redefine the vectorization and matricization operators to comply with some properties of the Kronecker product. The tensor product and Kronecker product are also represented with two different symbols, and it is shown how these notations lead to clearer expressions for multiway array operations. Finally, the paper recalls the useful yet widely unknown properties of the array normal law with suggested notations.

研究动机与目标

• 解决多维数组处理、量子物理和代数几何等领域中张量符号使用缺乏共识的问题。
• 通过使用不同符号，解决张量积（⊗）、克罗内克积（⊞）和外积之间的混淆。
• 通过重新定义向量化和矩阵化算子，使其与张量积性质保持一致，从而消除由排列引起的错误。
• 为表达多线性运算和张量分解提供更清晰、更一致的框架。
• 展示在所提出的符号系统下，数组正态分布律在统计张量分析中的实用价值。

提出的方法

• 将张量积（⊗）定义为向量空间之间的与基无关运算，可推广至任意阶张量。
• 引入克罗内克积（⊞）作为在固定基下张量积的矩阵级实现。
• 重新表述向量化和矩阵化，使得 vec(a ⊗ b) = a ⊞ b，避免传统表达中 vec(a ⊗ b) = b ⊞ a 的排列问题。
• 使用不同符号：⊗ 表示一般张量积，⊞ 表示克罗内克积，并避免使用模糊的 ∘ 符号表示外积。
• 将新符号系统应用于推导更简洁的张量运算表达式，并形式化数组正态分布律。
• 证明线性算子在张量空间上的作用可通过 ⊗p 映射构成张量空间，从而为算子空间的符号 ⊗_i U_i 提供理论依据。

实验结果

研究问题

• RQ1 如何通过统一符号系统解决不同领域在多维数组处理中张量符号使用不一致的问题，以提升表达的清晰性与一致性？
• RQ2 向量化和矩阵化中的排列问题对张量代数表达式有何影响，如何通过符号系统消除该问题？
• RQ3 张量积（⊗）与克罗内克积（⊞）在数学与计算角色上存在哪些差异，为何必须使用不同的符号加以区分？
• RQ4 在一致的张量符号框架下，数组正态分布律是否能更有效地表达与应用？
• RQ5 所提出的符号系统在多大程度上简化了张量分解与多线性模型的推导与解释？

主要发现

• 所提出的符号系统通过确保 vec(a ⊗ b) = a ⊞ b，避免了传统表达中 vec(a ⊗ b) = b ⊞ a 的排列错误，从而消除了向量化与矩阵化中的排列错误。
• 将与基无关的张量积（⊗）与与基相关的克罗内克积（⊞）明确区分，使张量表达式更清晰、更一致。
• 在新符号系统下，Hoff 定义的数组正态分布律变得更加透明且易于应用，尤其在含噪声的张量分解场景中优势明显。
• 该框架自然且一致地表达了张量空间上线性算子的表示，通过 ⊗p 映射证明了 ⊗_i U_i 作为张量空间的合理性。
• 新符号系统与量子物理和代数几何领域的既有惯例兼容，增强了跨学科交流能力。
• 本文提供了形式化证明：张量积空间上线性算子的空间本身即为张量空间，从而验证了符号 ⊗_i U_i 的合理性。