[论文解读] Probabilistic Recovery of Multiple Subspaces in Point Clouds by Geometric lp Minimization

Gilad Lerman, Teng Zhang|arXiv (Cornell University)|Feb 9, 2010

Remote Sensing and LiDAR Applications参考文献 38被引用 16

一句话总结

本文提出了一种基于几何 lp 最小化的方法，用于从包含异常值的点云中恢复多个低维子空间，表明当 0 < p ≤ 1 时，在特定条件下可实现对所有子空间及最优 l0 子空间的精确恢复；而当 p > 1 时，即使近似恢复也从根本上不可能，从而确立了子空间聚类和 RANSAC 类算法的理论极限。

ABSTRACT

We assume data independently sampled from a mixture distribution on the unit ball of the D-dimensional Euclidean space with K+1 components: the first component is a uniform distribution on that ball representing outliers and the other K components are uniform distributions along K d-dimensional linear subspaces restricted to that ball. We study both the simultaneous recovery of all K underlying subspaces and the recovery of the best l0 subspace (i.e., with largest number of points) by minimizing the lp-averaged distances of data points from d-dimensional subspaces of the D-dimensional space. Unlike other lp minimization problems, this minimization is non-convex for all p&gt;0 and thus requires different methods for its analysis. We show that if 01 and p&gt;1, then we show that both all underlying subspaces and the best l0 subspace cannot be recovered and even nearly recovered. Further relaxations are also discussed. We use the results of this paper for partially justifying recent effective algorithms for modeling data by mixtures of multiple subspaces as well as for discussing the effect of using variants of lp minimizations in RANSAC-type strategies for single subspace recovery.

研究动机与目标

• 理论分析在何种条件下可从含异常值的点云中恢复多个子空间。
• 研究 lp 最小化在同时恢复所有 K 个潜在子空间及最优 l0 子空间中的作用。
• 阐明 lp 最小化在子空间恢复中的根本局限性，特别是当 p > 1 时。
• 为近期在多子空间建模中使用 lp 类型最小化的方法提供理论依据。
• 评估 lp 变体在 RANSAC 类策略中用于单子空间恢复的影响。

提出的方法

• 将数据建模为 K+1 个分量的混合：K 个在 d 维子空间上的均匀分布，以及一个在整个单位球上的均匀分布，代表异常值。
• 将恢复问题表述为在 D 维空间中最小化点到 d 维子空间的 lp 平均距离。
• 分析所有 p > 0 情况下 lp 最小化问题的非凸性，需采用标准凸优化之外的专门技术。
• 建立在不同 p 值下，精确恢复所有子空间及最优 l0 子空间的理论条件。
• 利用几何与概率论证，推导出实现可靠恢复所需的点数边界。
• 讨论这些结果对实际算法的影响，包括 RANSAC 变体和多子空间聚类方法。

实验结果

研究问题

• RQ1 在何种条件下，可对 0 < p ≤ 1 的 lp 最小化方法精确恢复所有 K 个潜在子空间？
• RQ2 为何当 p > 1 时，即使近似也无法实现最优 l0 子空间的精确恢复？
• RQ3 对于所有 p > 0，lp 最小化问题的非凸性如何影响子空间恢复的理论可行性？
• RQ4 可为使用 lp 变体进行单子空间恢复的 RANSAC 类算法推导出哪些理论保证？
• RQ5 本文的结果如何解释或限制现有多子空间聚类算法的有效性？

主要发现

• 当 0 < p ≤ 1 时，在适当的采样条件下，理论上可精确恢复所有 K 个潜在子空间。
• 当 0 < p ≤ 1 时，最优 l0 子空间（包含最多点的子空间）也可被精确恢复。
• 当 p > 1 时，所有子空间及最优 l0 子空间的精确恢复和近似恢复在根本上都是不可能的。
• 所有 p > 0 情况下 lp 最小化问题的非凸性，要求采用超越凸松弛方法的专门分析技术。
• 结果为某些基于 lp 的算法在多子空间聚类中的经验成功提供了理论依据。
• 研究结果凸显了在 RANSAC 类策略中使用 p > 1 变体的关键局限性，此时恢复甚至近似都无法实现。