[论文解读] Fast L1-NMF for Multiple Parametric Model Estimation

Mariano Tepper, Guillermo Sapiro|arXiv (Cornell University)|Oct 18, 2016

NMR spectroscopy and applications参考文献 1被引用 6

一句话总结

本文提出了一种无参数的、加速的基于L1-NMF的双聚类框架，用于从RANSAC生成的模型假设中估计多个参数化模型。通过将RANSAC输出重新表述为一致性矩阵并应用快速L1-NMF，该方法能够稳健地识别相交的内点集及其模型参数，而无需强制要求模型互不相交，在大规模数据集上的处理速度相比标准RANSAC最高可提升60倍。

ABSTRACT

In this work we introduce a comprehensive algorithmic pipeline for multiple parametric model estimation. The proposed approach analyzes the information produced by a random sampling algorithm (e.g., RANSAC) from a machine learning/optimization perspective, using a extit{parameterless} biclustering algorithm based on L1 nonnegative matrix factorization (L1-NMF). The proposed framework exploits consistent patterns that naturally arise during the RANSAC execution, while explicitly avoiding spurious inconsistencies. Contrarily to the main trends in the literature, the proposed technique does not impose non-intersecting parametric models. A new accelerated algorithm to compute L1-NMFs allows to handle medium-sized problems faster while also extending the usability of the algorithm to much larger datasets. This accelerated algorithm has applications in any other context where an L1-NMF is needed, beyond the biclustering approach to parameter estimation here addressed. We accompany the algorithmic presentation with theoretical foundations and numerous and diverse examples.

研究动机与目标

• 为解决在存在噪声和异常值的数据中估计多个参数化模型的挑战，特别是当模型可能发生交叠时。
• 克服标准RANSAC的局限性，后者专为单模型拟合设计，在多模型场景下对伪异常值敏感。
• 开发一种基于L1-NMF的无参数双聚类方法，用于从RANSAC生成的模型假设中识别一致的内点模式。
• 加速L1-NMF计算以实现对大规模数据集的可扩展性，从而使其应用范围超越当前框架。
• 通过探索实值对象-模型距离矩阵替代二值一致性矩阵，来消除硬阈值化步骤中的关键超参数。

提出的方法

• 该方法将RANSAC生成的模型假设转换为一致性矩阵，其中每个条目表示一个数据点是否属于某模型的共识集。
• 在该一致性矩阵上应用无参数的L1-NMF算法，以提取代表内点集及其关联模型的双聚类。
• L1-NMF的公式具有稀疏性和鲁棒性，天然地处理重叠的内点集，而无需强制要求模型互不相交。
• 提出一种加速的L1-NMF算法，采用迭代阈值化和活动集策略，以提升中大型问题的收敛速度。
• 通过在双聚类步骤恢复的内点集上进行最小二乘回归，估计最终的模型参数。
• 该框架在2D和3D几何拟合任务上进行了评估，包括直线、圆和平面的估计，使用了Pozzoveggiani和Piazza Bra等真实世界数据集。

实验结果

研究问题

• RQ1 L1-NMF能否在无需预先知道模型数量的情况下，有效将RANSAC生成的模型假设聚类为一致的内点-模型对？
• RQ2 如何利用RANSAC输出中的固有一致性来提升鲁棒性并降低对伪异常值的敏感性？
• RQ3 加速的L1-NMF算法在多大程度上可扩展至大规模数据集，同时保持多模型估计的准确性？
• RQ4 放宽非相交模型假设是否能提升在具有重叠结构的真实世界数据上的性能？
• RQ5 能否用实值距离矩阵替代二值一致性矩阵，以消除共识矩阵构建中的硬阈值化步骤？

主要发现

• 在处理完整的108,750个点的Pozzoveggiani 3D数据集时，该方法相比标准RANSAC最高可实现60倍的速度提升，且随着数据集规模增大，性能差距进一步扩大。
• 在Piazza Bra数据集上，使用82,831×24,841偏好矩阵的ARSE（加速RANSAC与L1-NMF结合）在远小于16,567×2,040矩阵的RSE上表现更优，表明其在矩阵规模上具有亚线性缩放特性。
• 该方法成功恢复了复杂城市场景中的3D平面，包括Pozzoveggiani钟楼，该结构仅在完整数据集上因点云密度足够而被正确估计。
• 加速的L1-NMF算法在偏好矩阵规模上表现出亚线性扩展，表明其在计算效率和大规模问题可扩展性方面具有显著优势。
• 该框架天然支持相交模型，避免了现有方法中常见的非重叠内点集强制约束。
• 该方法在多个数据集的子采样版本上均保持高精度，显示出对数据稀疏性和噪声的强鲁棒性。