[论文解读] On Multilinear Forms: Bias, Correlation, and Tensor Rank

Abhishek Bhrushundi, Prahladh Harsha+3 more|arXiv (Cornell University)|Apr 24, 2018

Mathematical Approximation and Integration参考文献 10被引用 1

一句话总结

本文建立了有限域 F2 上多线性形式的偏差、其与低次多项式之间的相关性，以及相关 d 维张量的张量秩之间的紧密联系。证明了随机 d-线性形式与次数不超过 d/2 的多项式之间的相关性呈指数级衰减，并表明低张量秩意味着高偏差——由此可导出新的张量秩下界，包括有限域乘法张量的 3.52k 下界，与目前对 F2 上任意显式 3-张量所知的最佳下界一致。

ABSTRACT

In this paper, we prove new relations between the bias of multilinear forms, the correlation between multilinear forms and lower degree polynomials, and the rank of tensors over $GF(2)= \{0,1\}$. We show the following results for multilinear forms and tensors. 1. Correlation bounds : We show that a random $d$-linear form has exponentially low correlation with low-degree polynomials. More precisely, for $d \ll 2^{o(k)}$, we show that a random $d$-linear form $f(X_1,X_2, \dots, X_d) : \left(GF(2)^{k} ight)^d ightarrow GF(2)$ has correlation $2^{-k(1-o(1))}$ with any polynomial of degree at most $d/10$. This result is proved by giving near-optimal bounds on the bias of random $d$-linear form, which is in turn proved by giving near-optimal bounds on the probability that a random rank-$t$ $d$-linear form is identically zero. 2. Tensor-rank vs Bias : We show that if a $d$-dimensional tensor has small rank, then the bias of the associated $d$-linear form is large. More precisely, given any $d$-dimensional tensor $$T :\underbrace{[k] imes \ldots [k]}_{ ext{$d$ times}} o GF(2)$$ of rank at most $t$, the bias of the associated $d$-linear form $$f_T(X_1,\ldots,X_d) := \sum_{(i_1,\dots,i_d) \in [k]^d} T(i_1,i_2,\ldots, i_d) X_{1,i_1}\cdot X_{1,i_2}\cdots X_{d,i_d}$$ is at least $\left(1-\frac1{2^{d-1}} ight)^t$. The above bias vs tensor-rank connection suggests a natural approach to proving nontrivial tensor-rank lower bounds for $d=3$. In particular, we use this approach to prove that the finite field multiplication tensor has tensor rank at least $3.52 k$ matching the best known lower bound for any explicit tensor in three dimensions over $GF(2)$.

研究动机与目标

• 建立 F2 上张量秩、多线性形式偏差与低次多项式相关性之间的紧密定量关系。
• 证明随机 d-线性形式与次数至多为 d/2 的多项式之间的相关性呈指数级衰减。
• 通过偏差-秩关联开发一种证明非平凡张量秩下界的新方法。
• 将此方法应用于有限域乘法张量，证明其在 F2 上的张量秩下界为 3.52k。
• 深化对显式张量秩下界，特别是目前仍理解不足的 3 维张量的理解。

提出的方法

• 通过分析秩为 t 的 d-线性形式恒为零的概率，证明随机 d-线性形式偏差的近最优界。
• 建立一个一般不等式：若 d-张量的秩 ≤ t，则其关联的多线性形式的偏差至少为 (1 − 1/2^{d−1})^t。
• 利用偏差-秩关联，通过上界估计特定张量的偏差，从而推导张量秩的下界。
• 通过上界估计有限域乘法张量的偏差，结合线性代数与随机矩阵的秩分布，将该方法应用于该张量。
• 利用 MRRW bound 于二元码及线性子空间的性质，推导出核空间维数的下界，从而得到张量秩的下界。
• 利用如下事实：若偏差较小，则核的对偶空间的最小距离必须较大，从而迫使核的维数变大，这又意味着张量秩较高。

实验结果

研究问题

• RQ1 随机 d-线性形式 f: (F2^k)^d → F2 与次数至多为 d/2 的多项式之间的相关性如何？其随 d 和 k 如何衰减？
• RQ2 F2 上 d 维张量的张量秩与其关联多线性形式的偏差之间有何关系？
• RQ3 偏差-秩关联能否用于证明显式张量张量秩的非平凡下界？
• RQ4 与秩为 t 的张量关联的 d-线性形式可实现的最小偏差是多少？该界有多紧？
• RQ5 该方法能否对基本张量（如有限域乘法张量）的张量秩给出改进的下界？

主要发现

• 当 d ≪ 2^{o(k)} 时，随机 d-线性形式 f: (F2^k)^d → F2 与任意次数至多为 d/2 的多项式的相关性至多为 2^{-k(1−o(1))}。
• 对于任意在 F2 上秩至多为 t 的 d 维张量 T，其关联的 d-线性形式 fT 的偏差至少为 (1 − 1/2^{d−1})^t。
• F2 上的有限域乘法张量的张量秩至少为 3.52k，与目前对 F2 上任意显式 3-张量所知的最佳下界一致。
• 矩阵乘法张量 Mn 的张量秩至少为 3n²/(4 log₂(4/3)) ≥ 1.8n²，该结果由其偏差的上界 n·2^{-3n²/4} 推导得出。
• 该证明技术依赖于通过高斯二项式系数与并集界，对随机矩阵具有给定秩的概率进行上界估计。
• 该方法建立了一种新的、通用的通过偏差分析证明张量秩下界的方法，适用于任意显式张量。