[论文解读] Beyond Natural Proofs: Hardness Magnification and Locality

Lijie Chen, Shuichi Hirahara+4 more|arXiv (Cornell University)|Nov 19, 2019

Complexity and Algorithms in Graphs被引用 4

一句话总结

本文研究了硬度放大作为克服电路复杂性中自然证明障碍的策略，表明MCSP（最小电路大小问题）的稍超线性下界可推导出自然证明的不存在性。文章识别出一种‘局部性障碍’，解释了为何已知的下界技术在应用于放大时往往失效，并证明某些放大定理可通过推导出强电路下界，从而排除高效的机器学习算法。

ABSTRACT

Hardness magnification reduces major complexity separations (such as $\mathsf{\mathsf{EXP}} subseteq \mathsf{NC}^1$) to proving lower bounds for some natural problem $Q$ against weak circuit models. Several recent works [OS18, MMW19, CT19, OPS19, CMMW19, Oli19, CJW19a] have established results of this form. In the most intriguing cases, the required lower bound is known for problems that appear to be significantly easier than $Q$, while $Q$ itself is susceptible to lower bounds but these are not yet sufficient for magnification. In this work, we provide more examples of this phenomenon, and investigate the prospects of proving new lower bounds using this approach. In particular, we consider the following essential questions associated with the hardness magnification program: Does hardness magnification avoid the natural proofs barrier of Razborov and Rudich [RR97]? Can we adapt known lower bound techniques to establish the desired lower bound for $Q$?

研究动机与目标

• 研究硬度放大是否能够规避Razborov与Rudich提出的自然证明障碍。
• 评估现有下界技术（如多项式逼近、随机限制）在通过放大实现强复杂度分离方面的可行性。
• 识别并形式化一种‘局部性障碍’，该障碍限制了已知技术在基于放大的证明中的适用性。
• 建立硬度放大、自然证明的不存在性以及高效学习算法不可能性的联系。
• 对不同电路类（如AC⁰、TC⁰等）及问题（如MCSP、MKtP）的放大边界进行系统性分析。

提出的方法

• 将主要复杂度分离问题（如EXP ⊈ NC¹）约化为在弱电路模型下对自然问题Q的下界证明。
• 引入一个势函数Φ，用于追踪随机限制过程中电路大小和预言机活动的变化，从而分析公式大小的减少。
• 对预言机电路应用随机限制（ρ），表明每轮限制中势函数Φ按因子k/cF下降，从而以高概率得到一个极小的公式。
• 利用切比雪夫不等式，界定在t轮限制后仍保留大量活跃变量的概率。
• 通过将未受限制的变量固定为0，构造一个困难输入x*，表明由此产生的公式无法在具有高电路复杂度的输入上计算MCSP。
• 证明：若MCSP具有稍超线性大小的电路，则自然证明不存在，且高效学习算法也被排除。

实验结果

研究问题

• RQ1 硬度放大定理能否避开自然证明障碍？
• RQ2 已知的下界技术（如多项式逼近、随机限制）在多大程度上可被调整以通过放大证明强下界？
• RQ3 预言机和局部性在何种程度上削弱了标准下界方法在放大框架中的有效性？
• RQ4 那些能推导出强电路下界的放大定理，是否也排除了高效学习算法的存在？
• RQ5 何种结构性限制（如局部性障碍）阻止了现有技术在基于放大的下界证明中的直接应用？

主要发现

• MCSP的稍超线性大小电路下界可推出自然证明的不存在性，意味着放大可规避自然证明障碍。
• 某些放大定理不仅推导出强最坏情况下的电路下界，还排除了相关问题中高效学习算法的存在。
• 识别出一种‘局部性障碍’：现有放大定理表明，问题Q在具有小扇入预言机门的模型下可被高度高效的电路实现，而标准下界技术通常可推广至此类模型。
• Razborov-Smolensky多项式逼近方法及其他已知技术因对预言机添加具有不变性，无法通过放大获得强下界。
• 对于大小为N²⁻ε且自适应度τ = o(log N / log log N)的预言机公式，每轮限制中势函数Φ按因子k/cF下降，从而以高概率得到一个依赖于O(log³N)个变量的公式。
• 在t = O(log N / log log N)轮随机限制后，剩余公式依赖于O(log³N)个变量，且至少含有N^{ε/2−o(1)}个未受限制的变量，从而可构造出一个破坏MCSP可计算性的困难输入。