[论文解读] Complexity of the Fourier transform on the Johnson graph

Rodrigo Iglesias, Mauro Natale|arXiv (Cornell University)|Apr 20, 2017

Tensor decomposition and applications参考文献 12被引用 3

一句话总结

本文提出了一种快速傅里叶变换（FFT）风格的算法，用于计算约翰逊图 $J(n,k)$ 上的傅里叶变换，通过将基变换矩阵分解为 $n-1$ 个稀疏正交矩阵，每个矩阵每列最多仅有两个非零元素。该方法将复杂度从 $inom{n}{k}^2$ 降低至 $O(ninom{n}{k})$，当 $k$ 显著大于 $ extstyle\sqrt{n}$ 时，显著优于先前的界限，并实现了对同型投影和谱分量的高效计算。

ABSTRACT

The set $X$ of $k$-subsets of an $n$-set has a natural graph structure where two $k$-subsets are connected if and only if the size of their intersection is $k-1$. This is known as the Johnson graph. The symmetric group $S_n$ acts on the space of complex functions on $X$ and this space has a multiplicity-free decomposition as sum of irreducible representations of $S_n$, so it has a well-defined Gelfand-Tsetlin basis up to scalars. The Fourier transform on the Johnson graph is defined as the change of basis matrix from the delta function basis to the Gelfand-Tsetlin basis. The direct application of this matrix to a generic vector requires $\binom{n}{k}^2$ arithmetic operations. We show that --in analogy with the classical Fast Fourier Transform on the discrete circle-- this matrix can be factorized as a product of $n-1$ orthogonal matrices, each one with at most two nonzero elements in each column. This factorization shows that the number of arithmetic operations required to apply this matrix to a generic vector is bounded above by $2(n-1) \binom{n}{k}$. As a consequence, we show that the problem of computing all the weights of the irreducible components of a given function can be solved in $O(n \binom{n}{k})$ operations, improving the previous bound $O(k^2 \binom{n}{k})$ when $k$ asymptotically dominates $\sqrt{n}$ in a non-uniform model of computation. The same improvement is achieved for the problem of computing the isotypic projection onto a single component. The proof is based on the construction of $n-1$ intermediate bases, each one parametrized by certain pairs composed by a standard Young tableau and a word. The parametrization of each basis is obtained via the Robinson-Schensted insertion algorithm.

研究动机与目标

• 开发一种高效算法，用于计算约翰逊图 $J(n,k)$ 上的非交换傅里叶变换，该变换在排名数据的谱分析与编码理论中具有应用。
• 降低在 $X = \binom{[n]}{k}$ 上函数的同型投影与谱分量的代数复杂度，尤其当 $k$ 的增长速度超过 $\sqrt{n}$ 时。
• 将 FFT 范式（最初用于 $\mathbb{Z}/2^n\mathbb{Z}$ 等阿贝尔群）推广至非阿贝尔群作用于组合结构（如约翰逊图）的情形。
• 构建由标准杨表与二进制字串参数化的中间正交基，以实现傅里叶变换矩阵的分层稀疏分解。

提出的方法

• 作者定义了 $n-1$ 个中间正交基 $B_1, \dots, B_{n-1}$，每个基由高度不超过 2 的标准杨表与 $\{1,2\}$ 中的字串共同参数化。
• 每个基变换矩阵 $[B_{i-1}]_{B_i}$ 的构造保证每列最多仅有两个非零元素，从而确保每步计算成本较低。
• 该构造依赖于 Robinson-Schensted 插入算法，其中每个基标记中的水平行对应于通过插入二进制字串字母而生成的杨表序列。
• 完整的傅里叶变换被实现为 $n-1$ 个此类稀疏矩阵的乘积，从而可在 $O(n\binom{n}{k})$ 次操作内应用于向量。
• 逆变换通过相同的分解方式类似计算，从而实现正向与逆向变换的高效计算。
• 该方法可通过变换至 Gelfand-Tsetlin 基、置零不属于目标同型子空间的分量，再变换回原基，实现对同型投影的高效计算。

实验结果

研究问题

• RQ1 能否在相对于维度 $inom{n}{k}$ 的次二次时间内计算约翰逊图上的非交换傅里叶变换，类似于循环群上的经典 FFT？
• RQ2 对称群在 $inom{[n]}{k}$ 上的作用具有何种结构特性，使得其基变换矩阵可被分解为分层稀疏形式，以转换至 Gelfand-Tsetlin 基？
• RQ3 如何利用 Robinson-Schensted 插入算法构造中间基，以支持复杂度为 $O(n\binom{n}{k})$ 的快速变换？
• RQ4 当 $k \gg \sqrt{n}$ 时，$O(n\binom{n}{k})$ 的复杂度界是否优于现有方法，特别是在计算同型分量或其范数时？
• RQ5 是否存在一种高效算法，可在 $n$ 与 $inom{n}{k}$ 的多项式时间内预计算 $n-1$ 个稀疏过渡矩阵 $[B_{i-1}]_{B_i}$？

主要发现

• 约翰逊图上的傅里叶变换可在 $O(n\binom{n}{k})$ 次算术运算内完成，显著优于朴素的 $inom{n}{k}^2$ 界。
• 该变换被分解为 $n-1$ 个正交矩阵的乘积，每个矩阵每列最多仅有两个非零元素，从而可高效应用于向量。
• 在预计算过渡矩阵后，对单个不可约分量的同型投影可在 $O(n\binom{n}{k})$ 次操作内完成。
• 所有同型分量的平方权重 $\|f_a\|^2$ 的计算最多可在 $(2n-1)\binom{n}{k}$ 次操作内完成。
• 在非均匀计算模型下，当 $k$ 渐近主导 $ extstyle\sqrt{n}$ 时，该方法优于先前 $O(k^2\binom{n}{k})$ 的同型分量计算复杂度界。
• 作者推测，过渡矩阵 $[B_{i-1}]_{B_i}$ 可在 $O(n^c \binom{n}{k})$ 时间内预计算，其中 $c$ 为某常数，尽管尚未提供此类算法。