[论文解读] Probabilistic analysis of the Grassmann condition number

Dennis Amelunxen, Peter Bürgisser|arXiv (Cornell University)|Dec 12, 2011

Point processes and geometric inequalities参考文献 33被引用 7

一句话总结

本文首次对一般凸可行性问题的Grassmann条件数进行了平均情况分析，利用Grassmann流形上的黎曼几何，将条件数与正则锥的球面内在体积联系起来。结果表明，对于i.i.d.标准正态矩阵，其期望对数条件数满足 $\mathbb{E}[\ln\mathscr{C}(A)] < 1.5\ln n + 1.5$，将概率性分析从线性规划扩展至更广泛的凸优化问题。

ABSTRACT

We analyze the probability that a random m-dimensional linear subspace of R^n both intersects a regular closed convex cone C\subseteq R^n and lies within distance αof an m-dimensional subspace not intersecting C (except at the origin). The result is expressed in terms of the spherical intrinsic volumes of the cone C. This allows us to perform an average analysis of the Grassmann condition number \C(A) for the homogeneous convex feasibility problem \exists x\in C\setminus 0 : Ax=0. The Grassmann condition number is a geometric version of Renegar's condition number, that we have introduced recently in [SIOPT 22(3):1029-1041, 2012]. We thus give the first average analysis of convex programming that is not restricted to linear programming. In particular, we prove that if the entries of A\in R^{m imes n} are chosen i.i.d. standard normal, then for any regular cone C, we have E[ln\C(A)]&lt;1.5 ln(n)+1.5. The proofs rely on various techniques from Riemannian geometry applied to Grassmann manifolds.

研究动机与目标

• 将条件数的概率性分析从线性规划扩展至一般凸可行性问题。
• 分析具有i.i.d.标准正态分布条目的随机矩阵的期望对数Grassmann条件数。
• 建立条件数与正则凸锥的球面内在体积之间的联系。
• 为齐次凸可行性问题（包括第二类锥规划与半定规划）提供几何化的平均情况复杂度分析。

提出的方法

• 利用Grassmann流形 $\mathrm{Gr}_{n,m}$ 建模 $\mathbb{R}^n$ 中的 $m$-维子空间，将其视为凸可行性问题的输入。
• 基于与正则锥 $C$ 及其对偶 $\breve{C}$ 的交集，定义原始与对偶可行子空间。
• 通过分析矩阵 $A$ 的零空间到病态子空间集合 $\Sigma_m(C)$ 的距离，研究条件数 $\mathscr{C}(A)$，其中 $\Sigma_m(C)$ 是仅在原点与 $C$ 相交的子空间。
• 应用管公式与Grassmann流形上的积分几何，计算随机子空间位于 $\alpha$ 距离内于 $\Sigma_m(C)$ 的概率，从而将其与锥 $C$ 的球面内在体积联系起来。
• 利用流形上的几何概率与曲率积分，结合黎曼微分几何的结果，对期望对数条件数进行上界估计。
• 分析依赖于病态输入集合的勒贝格测度为零的事实，从而保证了几乎必然的适定性。

实验结果

研究问题

• RQ1 对于具有i.i.d.标准正态条目的随机 $m \times n$ 矩阵 $A$，当可行性问题涉及正则凸锥 $C$ 时，其对数Grassmann条件数的期望值是多少？
• RQ2 Grassmann条件数如何与锥 $C$ 的球面内在体积相关联？
• RQ3 能否将凸规划中条件数的概率性分析从线性规划扩展至包括第二类锥规划与半定规划？
• RQ4 随机 $m$-维子空间位于距离 $\alpha$ 内于病态集合 $\Sigma_m(C)$ 的概率是多少？该概率如何影响条件数？
• RQ5 锥 $C$ 的几何不变量（如其内在体积）如何影响凸可行性问题的平均情况复杂度？

主要发现

• 当 $A \in \mathbb{R}^{m \times n}$ 的条目为i.i.d.标准正态分布时，对于任意正则锥 $C$，其期望对数Grassmann条件数满足 $\mathbb{E}[\ln\mathscr{C}(A)] < 1.5\ln n + 1.5$。
• 随机 $m$-维子空间位于距离 $\alpha$ 内于病态集合 $\Sigma_m(C)$ 的概率上界为 $\varepsilon \cdot \exp(n/m)$，其中 $\varepsilon$ 为小的误差项。
• Grassmann条件数在几何上由 $A$ 的零空间到Grassmann流形中可行区域边界的距离表征。
• 该分析精确建立了条件数与锥 $C$ 的球面内在体积之间的联系，将先前结果推广至非线性凸规划。
• 该方法对所有正则锥均适用，包括非负卦限（线性规划）、Lorentz锥（第二类锥规划）与正定锥（半定规划）。
• 该结果首次为非线性凸规划提供了平均情况复杂度分析，突破了仅限于线性规划的限制，标志着对Smale数值算法分析两阶段方案的重要扩展。