[论文解读] Exponential lower bounds on fixed-size psd rank and semidefinite extension complexity

Hamza Fawzi, Pablo A. Parrilo|arXiv (Cornell University)|Nov 11, 2013

Complexity and Algorithms in Graphs参考文献 12被引用 5

一句话总结

本文为一类特定的半定规划——在固定块大小 $d$ 的分块对角正定锥 $({\bf S}^d_+)^r$ 上的半定规划——建立了 psd 秩和半定扩展复杂度的指数下界。通过新颖的矩阵稀疏模式结果以及受 Kaibel 和 Weltge 启发的归纳论证，作者证明了在该设定下，切割多面体需要指数级大的公式表示，推广了 Fiorini 等人关于线性规划下界的结论，并排除了 $d=2$ 时存在小型二阶锥公式的可能性。主要贡献在于对固定大小的 SDP 提升建立了强有力的指数下界，揭示了在组合优化中结构化 SDP 公式表示的固有局限性。

ABSTRACT

There has been a lot of interest recently in proving lower bounds on the size of linear programs needed to represent a given polytope P. In a breakthrough paper Fiorini et al. [Proceedings of 44th ACM Symposium on Theory of Computing 2012, pages 95-106] showed that any linear programming formulation of maximum-cut must have exponential size. A natural question to ask is whether one can prove such strong lower bounds for semidefinite programming formulations. In this paper we take a step towards this goal and we prove strong lower bounds for a certain class of SDP formulations, namely SDPs over the Cartesian product of fixed-size positive semidefinite cones. In practice this corresponds to semidefinite programs with a block-diagonal structure and where blocks have constant size d. We show that any such extended formulation of the cut polytope must have exponential size (when d is fixed). The result of Fiorini et al. for LP formulations is obtained as a special case when d=1. For blocks of size d=2 the result rules out any small formulations using second-order cone programming. Our study of SDP lifts over Cartesian product of fixed-size positive semidefinite cones is motivated mainly from practical considerations where it is well known that such SDPs can be solved more efficiently than general SDPs. The proof of our lower bound relies on new results about the sparsity pattern of certain matrices with small psd rank, combined with an induction argument inspired from the recent paper by Kaibel and Weltge [arXiv:1307.3543] on the LP extension complexity of the correlation polytope.

研究动机与目标

• 将线性规划扩展复杂度的指数下界推广至具有结构化分块对角约束的半定规划公式。
• 分析在 $({\bf S}^d_+)^r$ 上具有分块对角结构的半定规划的表达能力，其中 $d$ 为固定值。
• 确定对于切割多面体，是否存在小型半定公式，特别是那些适用于高效计算的公式。
• 建立即使在固定块大小的结构化 SDP 中，也无法为切割多面体提供多项式大小公式的结论。
• 通过 psd 秩和稀疏模式分析，将 Fiorini 等人关于 LP 下界框架推广至 SDP 设置。

提出的方法

• 作者分析了通信复杂度中的关键矩阵——唯一不相交矩阵 $\operatorname{UDISJ}(n)$ 的 psd 秩。
• 基于块结构的递归分解，推导出任意 $n \times n$ 非负矩阵 $M$ 在 $({\bf S}^d_+)^r$ 上 psd 秩至多为 $d$ 时的值的上界。
• 关键技术组件是一个关于小 psd 秩矩阵稀疏模式的引理，表明某些零模式会限制分解的支持集。
• 采用归纳论证方法，受 Kaibel 和 Weltge 关于 LP 扩展复杂度工作的启发，界定覆盖块结构中非零元素所需的矩形数量。
• 证明利用了如下事实：若对某个 $a$ 有 $M_{a,\bar{a}} = 0$，则对应的分解分量必须满足特定的核与像包含关系。
• 通过将值的上界与已知的 $\operatorname{UDISJ}(n)$ 的指数值相结合，导出 psd 秩的指数下界。

实验结果

研究问题

• RQ1 能否将线性规划扩展复杂度的指数下界推广至具有结构化分块对角约束的半定规划公式？
• RQ2 当 $d$ 为固定常数时，切割多面体在 $({\bf S}^d_+)^r$ 上的最小半定公式大小是多少？
• RQ3 SDP 的分块对角结构（可实现高效计算）是否允许对难解组合多面体构造多项式大小的公式？
• RQ4 在固定 $d$ 的分块对角分解下，唯一不相交矩阵 $\operatorname{UDISJ}(n)$ 的 psd 秩如何随 $n$ 增长？
• RQ5 能否将用于 LP 扩展复杂度的技术适配至 SDP 设置，以证明强下界？

主要发现

• 对于任意固定的 $d \geq 1$，唯一不相交矩阵 $\operatorname{UDISJ}(n)$ 的 psd 秩满足 $\operatorname{rank}_{{\bf S}^d_+}(\operatorname{UDISJ}(n)) \geq \frac{1}{(3^d - 1)^{1 - 1/d}} \left( \left(1 - 3^{-d}\right)^{-1/d} \right)^n$，其随 $n$ 指数增长。
• 当限制在固定 $d$ 的 $({\bf S}^d_+)^r$ 上的半定规划时，完全图 $K_n$ 的切割多面体需要大小为指数级的扩展公式，推广了 $d=1$ 时 Fiorini 等人关于 LP 下界的结论。
• 当 $d=2$ 时，下界给出 $\operatorname{rank}_{{\bf S}^2_+}(\operatorname{UDISJ}(n)) \geq \frac{1}{\sqrt{8}} \left( \sqrt{\frac{9}{8}} \right)^n$，表明二阶锥规划无法提供小型公式。
• 任意 $n \times n$ 非负矩阵 $M$ 在 $({\bf S}^d_+)^r$ 上 psd 秩至多为 $d$ 时，其值被限制在 $(3^d - 1)^{\lfloor(n-1)/d\rfloor + 1}$ 以内，对于固定的 $d$，该值在 $n$ 上为次指数增长。
• 该证明依赖于一个新颖的稀疏模式引理，表明若对某个 $a$ 有 $M_{a,\bar{a}} = 0$，则对应的分解矩阵必须满足特定的核与像包含关系，从而限制了可覆盖的非零元素数量。
• 该结果意味着即使在固定块大小的结构化 SDP 中，也无法高效表示切割多面体，凸显了在高效构造难解组合问题的 SDP 公式时存在的根本性障碍。