[论文解读] Outlier-Robust Estimation: Hardness, Minimally Tuned Algorithms, and Applications

Pasquale Antonante, Vasileios Tzoumas+2 more|arXiv (Cornell University)|Jul 29, 2020

Anomaly Detection Techniques and Applications被引用 4

一句话总结

本文提出了两种统一的鲁棒估计公式——广义最大一致性（G-MC）与广义截断最小二乘法（G-TLS）——并证明了在最坏情况下，鲁棒估计问题是不可逼近的。文章提出了两种最小调参的算法ADAPT与GNC，能够动态分离内点与外点，无需事先知晓噪声统计信息，在机器人应用中实现了实时性能，并在80–90%外点率下保持鲁棒性，适用于网格配准、形状对齐与位姿图优化等任务。

ABSTRACT

Nonlinear estimation in robotics and vision is typically plagued with outliers due to wrong data association, or to incorrect detections from signal processing and machine learning methods. This paper introduces two unifying formulations for outlier-robust estimation, Generalized Maximum Consensus (G-MC) and Generalized Truncated Least Squares (G-TLS), and investigates fundamental limits, practical algorithms, and applications. Our first contribution is a proof that outlier-robust estimation is inapproximable: in the worst case, it is impossible to (even approximately) find the set of outliers, even with slower-than-polynomial-time algorithms (particularly, algorithms running in quasi-polynomial time). As a second contribution, we review and extend two general-purpose algorithms. The first, Adaptive Trimming (ADAPT), is combinatorial, and is suitable for G-MC; the second, Graduated Non-Convexity (GNC), is based on homotopy methods, and is suitable for G-TLS. We extend ADAPT and GNC to the case where the user does not have prior knowledge of the inlier-noise statistics (or the statistics may vary over time) and is unable to guess a reasonable threshold to separate inliers from outliers (as the one commonly used in RANSAC). We propose the first minimally tuned algorithms for outlier rejection, that dynamically decide how to separate inliers from outliers. Our third contribution is an evaluation of the proposed algorithms on robot perception problems: mesh registration, image-based object detection (shape alignment), and pose graph optimization. ADAPT and GNC execute in real-time, are deterministic, outperform RANSAC, and are robust up to 80-90% outliers. Their minimally tuned versions also compare favorably with the state of the art, even though they do not rely on a noise bound for the inliers.

研究动机与目标

• 解决机器人与视觉领域中因传感器噪声或错误匹配导致的数据关联常被外点污染的根本挑战。
• 研究鲁棒估计的计算难度，证明即使使用准多项式时间算法，该问题仍不可逼近。
• 设计无需事先知晓内点噪声统计或用户指定阈值的最小调参算法，实现多种机器人应用中的鲁棒性能。
• 在真实世界感知任务中评估所提算法，证明其性能与鲁棒性优于当前最先进方法（如RANSAC与DCS）。

提出的方法

• 提出两种统一的公式：适用于稀疏外点剔除的广义最大一致性（G-MC）与适用于连续外点处理的广义截断最小二乘法（G-TLS）。
• 提出ADAPT，一种基于自适应截断的组合算法，通过迭代识别并移除最不一致的测量值来求解G-MC问题。
• 提出GNC（渐进非凸性），一种基于同伦的G-TLS方法，通过一系列非凸子问题逐步改变代价函数形状，实现鲁棒性增强。
• 设计最小调参变体ADAPT-MinT与GNC-MinT，利用残差分布上的Cramér–von Mises检验等统计检验方法动态估计内点阈值。
• 在ADAPT-MinT中设计聚类分离子程序，利用排序后残差的直径检测内点与外点聚类之间的自然分界。
• 在GNC-MinT中使用卡方拟合优度检验（Chi2Fit）判断平方残差是否符合假设内点模型下的卡方分布，实现自动阈值选择。

实验结果

研究问题

• RQ1 鲁棒估计的根本计算极限是什么？是否可能在多项式或准多项式时间内逼近最优内点集合？
• RQ2 能否设计适用于通用场景的鲁棒估计算法，而无需事先知晓内点噪声统计或用户指定的阈值？
• RQ3 ADAPT与GNC的最小调参变体在真实世界机器人应用中与SOTA方法（如RANSAC与DCS）相比表现如何？
• RQ4 ADAPT与GNC在保持精度与实时性能的前提下，能够处理多高的外点率（如80–90%）？
• RQ5 在不同感知任务中，所提算法在不同外点水平下如何平衡真正例与假正例的外点检测率？

主要发现

• 本文证明了在最坏情况下，鲁棒估计问题是不可逼近的，即使使用准多项式时间算法，确立了根本性的计算难度极限。
• ADAPT与GNC实现了实时性能，在所有评估任务中均优于RANSAC，在网格配准、形状对齐与位姿图优化中可保持高达80–90%外点率下的鲁棒性。
• 最小调参变体ADAPT-MinT与GNC-MinT在无需用户定义噪声边界或核函数大小的情况下达到具有竞争力的性能，在某些场景下甚至优于调优后的基线方法。
• GNC与GNC-MinT在大多数数据集中实现了超过90%的真正例率与10–20%的最低假正例率，仅在高外点场景下出现轻微退化。
• 在CSAIL与Garage 3D SLAM数据集中，GNC-MinT在90%外点率下仍保持高精度，展现出强大的鲁棒性与极低的调参需求。
• GNC-MinT中的Chi2Fit检验通过将残差平方幅值与卡方分布对比，成功识别出内点分布，实现无需先验知识的自动阈值设定。