[论文解读] Information Complexity versus Corruption and Applications to Orthogonality and Gap-Hamming

Amit Chakrabarti, Ranganath Kondapally+1 more|arXiv (Cornell University)|May 4, 2012

Complexity and Algorithms in Graphs参考文献 23被引用 3

一句话总结

本文建立了信息复杂度与通信复杂度中平滑扰动技术之间的基础性联系，证明在矩形输入分布下，信息复杂度包含了平滑扰动界。该结果被应用于在均匀分布下证明正交性问题的信息复杂度达到最优的 Ω(n) 下界，解决了Gap-Hamming-Distance分析中的一个关键挑战，引入了新颖的技术手段。

ABSTRACT

Three decades of research in communication complexity have led to the invention of a number of techniques to lower bound randomized communication complexity. The majority of these techniques involve properties of large submatrices (rectangles) of the truth-table matrix defining a communication problem. The only technique that does not quite fit is information complexity, which has been investigated over the last decade. Here, we connect information complexity to one of the most powerful "rectangular" techniques: the recently-introduced smooth corruption (or "smooth rectangle") bound. We show that the former subsumes the latter under rectangular input distributions. We conjecture that this subsumption holds more generally, under arbitrary distributions, which would resolve the long-standing direct sum question for randomized communication. As an application, we obtain an optimal $Ω(n)$ lower bound on the information complexity---under the {\em uniform distribution}---of the so-called orthogonality problem (ORT), which is in turn closely related to the much-studied Gap-Hamming-Distance (GHD). The proof of this bound is along the lines of recent communication lower bounds for GHD, but we encounter a surprising amount of additional technical detail.

研究动机与目标

• 建立随机通信复杂度中信息复杂度与平滑扰动技术之间的正式关系。
• 通过证明在矩形分布下信息复杂度包含平滑扰动界，解决随机通信复杂度中的长期直接和问题。
• 将此理论联系应用于推导在均匀分布下正交性问题信息复杂度的最优 Ω(n) 下界。
• 通过信息论方法与精细的技术分析，扩展近期对Gap-Hamming-Distance的通信复杂度下界研究。

提出的方法

• 作者通过分析通信协议的结构及其信息论代价，证明在矩形输入分布下信息复杂度包含平滑扰动界。
• 他们提出一种基于中心极限定理和半正态分布性质的新型反集中度论证，用于界定正交性问题分析中的逃逸概率。
• 证明过程涉及构造正态分布的混合分布以建模扰动输入下内积的行为，利用大 n 时的分布收敛性。
• 通过正态分布的尾部界和集中度论证，推导出关键不等式，特别是通过条件期望和方差控制来界定 Pr[|Q| > (c+α)b]。
• 分析依赖于反证法：假设反集中度引理不成立，将导致在 δ → 0 时出现不一致的尾部界，从而证明引理成立。
• 该方法将信息论工具与经典通信复杂度技术相结合，特别是将近期针对Gap-Hamming-Distance的方法适配到信息复杂度框架中。

实验结果

研究问题

• RQ1 在矩形输入分布下，信息复杂度是否包含平滑扰动界？
• RQ2 信息复杂度技术能否用于推导在均匀分布下正交性问题的最优下界？
• RQ3 信息复杂度与随机通信复杂度中的直接和问题之间存在何种关系？
• RQ4 如何利用涉及半正态和正态分布的反集中度论证来界定通信协议中的逃逸概率？
• RQ5 在信息复杂度的框架下，平滑扰动技术在多大程度上可以推广到非矩形分布？

主要发现

• 在矩形输入分布下，信息复杂度包含平滑扰动界，为通信复杂度中的下界提供了统一的框架。
• 在均匀分布下，正交性问题的信息复杂度被确立为最优的 Ω(n) 下界，与已知的通信复杂度下界一致。
• 反集中度引理的证明依赖于正态分布尾部界的反证法，表明逃逸概率不可能过大。
• 分析表明，内积 Q 的分布收敛于正态分布的混合分布，从而实现精确的尾部估计。
• 该结果意味着信息复杂度自然捕捉了直接和性质，为复合函数的下界提供了清晰的路径。
• 本文开发的技术框架为解决随机通信复杂度的一般直接和猜想提供了可行路径。