[论文解读] The Limits of Depth Reduction for Arithmetic Formulas: It's all about the top fan-in

Mrinal Kumar, Shubhangi Saraf|arXiv (Cornell University)|Nov 26, 2013

Complexity and Algorithms in Graphs被引用 3

一句话总结

本论文首次为顶点扇入 $ o(\log n) $ 的齐次深度-4 算术电路建立了超多项式下界，采用了一种改进的深度约化技术。此外，论文进一步证明当顶点扇入为 $ \Omega(\log n) $ 时，深度约化无法进一步改进，这意味着深度约化与移位偏导数方法的结合不足以证明一般算术公式的下界。

ABSTRACT

In recent years, a very exciting and promising method for proving lower bounds for arithmetic circuits has been proposed. This method combines the method of {\it depth reduction} developed in the works of Agrawal-Vinay [AV08], Koiran [Koi12] and Tavenas [Tav13], and the use of the shifted partial derivative complexity measure developed in the works of Kayal [Kay12] and Gupta et al [GKKS13a]. These results inspired a flurry of other beautiful results and strong lower bounds for various classes of arithmetic circuits, in particular a recent work of Kayal et al [KSS13] showing superpolynomial lower bounds for {\it regular} arithmetic formulas via an {\it improved depth reduction} for these formulas. It was left as an intriguing question if these methods could prove superpolynomial lower bounds for general (homogeneous) arithmetic formulas, and if so this would indeed be a breakthrough in arithmetic circuit complexity. In this paper we study the power and limitations of depth reduction and shifted partial derivatives for arithmetic formulas. We do it via studying the class of depth 4 homogeneous arithmetic circuits. We show: (1) the first {\it superpolynomial lower bounds} for the class of homogeneous depth 4 circuits with top fan-in $o(\log n)$. The core of our result is to show {\it improved depth reduction} for these circuits. (2) We show that improved depth reduction {\it is not possible} when the top fan-in is $Ω(\log n)$. In particular this shows that the depth reduction procedure of Koiran and Tavenas [Koi12, Tav13] cannot be improved even for homogeneous formulas, thus strengthening the results of Fournier et al [FLMS13] who showed that depth reduction is tight for circuits, and answering some of the main open questions of [KSS13, FLMS13].

研究动机与目标

• 为顶点扇入有界的齐次深度-4 算术电路建立超多项式下界。
• 研究深度约化技术与移位偏导数方法结合用于一般算术公式时的局限性。
• 确定当顶点扇入为 $ \Omega(\log n) $ 时，齐次公式是否可能实现改进的深度约化。
• 解决先前研究中关于深度约化紧致性及 $ \Sigma\Pi\Sigma\Pi^{[t]} $ 电路下界问题的开放疑问。
• 探讨这些结果对算术电路复杂性中下界证明的启示，特别是对一般齐次公式的适用性。

提出的方法

• 为顶点扇入 $ o(\log n) $ 的齐次深度-4 电路引入一种改进的深度约化过程，从而实现更强的下界。
• 应用移位偏导数复杂性度量来分析所构造多项式的偏导数的秩。
• 构造一个多项式族 $ \mathcal{P}_{t,n} $，其要求 $ \Sigma\Pi\Sigma\Pi^{[t/20]} $ 电路的顶点扇入至少为 $ n^{\Omega(n/t)} $。
• 通过使用变量系数的这些多项式的线性组合，构建一个单一多项式 $ \mathcal{Q}_n $，使其无法被 $ \Sigma\Pi\Sigma\Pi^{[a]} $ 电路在 $ \omega(\log n) \leq a \leq n/800 $ 范围内高效计算。
• 利用插值和投影论证，表明任何计算 $ \mathcal{Q}_n $ 的此类电路的顶点扇入必须至少为 $ 2^{\Omega(n \log n / a)} $。
• 通过证明当顶点扇入为 $ \Omega(\log n) $ 时深度约化是紧致的，即无法进一步改进。

实验结果

研究问题

• RQ1 能否通过改进的深度约化与移位偏导数方法，为顶点扇入 $ o(\log n) $ 的齐次深度-4 电路证明超多项式下界？
• RQ2 是否可能在已知界限之外，对齐次算术公式改进深度约化过程？
• RQ3 当与深度约化结合时，移位偏导数方法在证明一般算术公式下界方面存在哪些局限性？
• RQ4 能否为 $ \Sigma\Pi\Sigma\Pi^{[\log n]} $ 电路建立非平凡下界，这类电路是关键的中间类？
• RQ5 Koiran 和 Tavenas 的深度约化技术对于齐次公式是否仍为紧致，还是可进一步优化？

主要发现

• 本论文首次为顶点扇入 $ o(\log n) $ 的齐次深度-4 电路建立了超多项式下界，具体表明 $ \Sigma\Pi\Sigma\Pi^{[t/20]} $ 电路的下界为 $ 2^{\Omega(n \log n / t)} $。
• 论文证明当顶点扇入为 $ \Omega(\log n) $ 时，改进深度约化是不可能的，表明 Koiran-Tavenas 深度约化对齐次公式而言已是紧致的。
• 多项式族 $ \mathcal{Q}_n $ 的构造表明，任何计算它的 $ \Sigma\Pi\Sigma\Pi^{[a]} $ 电路的顶点扇入必须至少为 $ 2^{\Omega(n \log n / a)} $，其中 $ \omega(\log n) \leq a \leq n/800 $。
• 结果表明，当前的深度约化与移位偏导数框架不足以证明一般（齐次）算术公式的超多项式下界。
• 论文通过证明深度约化无法在已知界限内进一步改进，即使在齐次情形下，解决了 [KSS13] 和 [FLMS13] 中的开放问题。
• 结果隐含了 $ \Sigma\Pi\Sigma\Pi^{[t]} $ 公式的层次定理，表明增加顶点扇入会带来严格更强的表达能力。