[论文解读] Barriers for Rank Methods in Arithmetic Complexity

Klim Efremenko, Ankit Garg+2 more|arXiv (Cornell University)|Oct 26, 2017

Complexity and Algorithms in Graphs参考文献 42被引用 16

一句话总结

本文建立了算术复杂性中秩方法的首个无条件障碍，证明其无法证明三维张量的超线性张量秩下界，或对d次多项式的超多项式Waring秩下界。作者通过矩阵多项式的符号秩分析表明，秩方法在本质上受限于Ω_d(n^{⌊d/2⌋})的界，解释了为何尽管取得了显著进展，这些方法在已知的线性和多项式界处停滞不前。

ABSTRACT

Arithmetic complexity is considered simpler to understand than Boolean complexity, namely computing Boolean functions via logical gates. And indeed, we seem to have significantly more lower bound techniques and results in arithmetic complexity than in Boolean complexity. Despite many successes and rapid progress, however, challenges like proving super-polynomial lower bounds on circuit or formula size for explicit polynomials, or super-linear lower bounds on explicit 3-dimensional tensors, remain elusive. At the same time, we have plenty more "barrier results" for failing to prove basic lower bounds in Boolean complexity than in arithmetic complexity. Finding barriers to arithmetic lower bound techniques seem harder, and despite some attempts we have no excuses of similar quality for these failures in arithmetic complexity. This paper aims to add to this study. We address rank methods, which were long recognized as encompassing and abstracting almost all known arithmetic lower bounds to-date, including the most recent impressive successes. Rank methods (or flattenings) are also in wide use in algebraic geometry for proving tensor rank and symmetric tensor rank lower bounds. Our main results are barriers to these methods. In particular, 1. Rank methods cannot prove better than $Ω_d (n^{\lfloor d/2 floor})$ lower bound on the tensor rank of any $d$-dimensional tensor of side $n$. (In particular, they cannot prove super-linear, indeed even $>8n$ tensor rank lower bounds for any 3-dimensional tensors.) 2. Rank methods cannot prove $Ω_d (n^{\lfloor d/2 floor})$ on the Waring rank of any $n$-variate polynomial of degree $d$. (In particular, they cannot prove such lower bounds on stronger models, including depth-3 circuits.)

研究动机与目标

• 通过证明秩方法无法获得更强的下界，识别并形式化秩方法——算术复杂性中一类主导技术——的局限性。
• 解释为何尽管在近期下界结果中广泛应用且取得成功，秩方法仍未能突破张量秩与Waring秩的已知界限。
• 为算术复杂性中的秩方法提供一个正式且无条件的障碍结果，与布尔复杂性中更推测性或条件性的障碍形成对比。
• 探讨秩方法是否可被扩展或推广，并提出这些方法范围之外的新研究方向。
• 形式化秩方法与代数几何技术（尤其是展平与对称张量秩）之间的联系。

提出的方法

• 分析矩阵多项式的符号秩，其中元素为多重线性或齐次多项式，以界定其在特定点上求值结果的秩。
• 使用线代技术，将矩阵多项式的符号秩与在特定点上求值结果的秩联系起来。
• 将秩方法表述为从对称多项式空间到矩阵空间的线性映射L，目标是界定像空间的秩。
• 建立任何基于此类框架的秩方法，其在张量秩与Waring秩上的下界均受限于Ω_d(n^{⌊d/2⌋})。
• 利用齐次多项式已知的分解定理，界定矩阵多项式的齐次秩，并推导出紧致性结果。
• 将这些技术应用于证明：秩方法无法超越三维张量（例如，无法超过8n）或深度-3电路的已知界限。

实验结果

研究问题

• RQ1 秩方法能否证明三维张量张量秩的超线性下界？
• RQ2 对于n元d次齐次多项式，秩方法可达到的最紧下界是多少？
• RQ3 分析中使用的分解定理是否紧致？还是可被改进以获得更强的障碍？
• RQ4 符号秩框架能否被推广至非线性或低次映射L，以突破这些障碍？
• RQ5 秩方法与代数几何展平技术之间的联系能在多大程度上被形式化并加以利用？

主要发现

• 秩方法无法对任意d维、边长为n的张量的张量秩证明优于Ω_d(n^{⌊d/2⌋})的下界。
• 特别地，秩方法无法证明三维张量张量秩的超线性，甚至无法证明优于8n的下界。
• 秩方法无法对n元d次齐次多项式的Waring秩证明Ω_d(n^{⌊d/2⌋})的下界。
• 秩方法所获得的下界与随机多项式的实际复杂度相差约二次方，而后者已知可导致超多项式公式大小下界。
• 矩阵多项式的符号秩为秩方法的局限性提供了紧致刻画，其分析依赖于多项式求值的线代性质。
• 本文猜想分析中使用的分解几乎紧致，齐次秩可能接近(d+1−ε)r（对任意ε>0），表明该障碍接近最优。