[論文レビュー] Outlier-Robust Estimation: Hardness, Minimally Tuned Algorithms, and Applications

Pasquale Antonante, Vasileios Tzoumas+2 more|arXiv (Cornell University)|Jul 29, 2020

Anomaly Detection Techniques and Applications被引用数 4

ひとこと要約

本稿では、外れ値に頑健な推定のための2つの統一的定式化—一般化最大一致（G-MC）と一般化切り捨て最小二乗法（G-TLS）—を導入し、外れ値に頑健な推定が最悪ケースにおいて近似不能であることを証明する。また、事前のノイズ統計情報が不要で、反復的にインライヤーとアウ tiers を動的に分離する最小限のチューニングを要するアルゴリズム ADAPT と GNC を提案し、ロボティクス応用分野（メッシュ登録、形状整合、ポーズグラフ最適化など）で 80–90% の外れ値に対してもリアルタイム性能と頑健性を達成する。

ABSTRACT

Nonlinear estimation in robotics and vision is typically plagued with outliers due to wrong data association, or to incorrect detections from signal processing and machine learning methods. This paper introduces two unifying formulations for outlier-robust estimation, Generalized Maximum Consensus (G-MC) and Generalized Truncated Least Squares (G-TLS), and investigates fundamental limits, practical algorithms, and applications. Our first contribution is a proof that outlier-robust estimation is inapproximable: in the worst case, it is impossible to (even approximately) find the set of outliers, even with slower-than-polynomial-time algorithms (particularly, algorithms running in quasi-polynomial time). As a second contribution, we review and extend two general-purpose algorithms. The first, Adaptive Trimming (ADAPT), is combinatorial, and is suitable for G-MC; the second, Graduated Non-Convexity (GNC), is based on homotopy methods, and is suitable for G-TLS. We extend ADAPT and GNC to the case where the user does not have prior knowledge of the inlier-noise statistics (or the statistics may vary over time) and is unable to guess a reasonable threshold to separate inliers from outliers (as the one commonly used in RANSAC). We propose the first minimally tuned algorithms for outlier rejection, that dynamically decide how to separate inliers from outliers. Our third contribution is an evaluation of the proposed algorithms on robot perception problems: mesh registration, image-based object detection (shape alignment), and pose graph optimization. ADAPT and GNC execute in real-time, are deterministic, outperform RANSAC, and are robust up to 80-90% outliers. Their minimally tuned versions also compare favorably with the state of the art, even though they do not rely on a noise bound for the inliers.

研究の動機と目的

• センサーノイズや誤ったマッチングによりデータ関連が頻繁に外れ値によって損なわれるロボティクスおよびビジョン分野における、外れ値に頑健な推定の根本的課題に取り組む。
• 外れ値に頑健な推定の計算的困難性を調査し、準多項式時間アルゴリズムでさえも近似不能であることを証明する。
• インライヤーのノイズ統計情報やユーザー指定のしきい値を事前に必要としない最小限のチューニングを要するアルゴリズムを開発し、多様なロボティクス応用分野で頑健な性能を実現する。
• 提案されたアルゴリズムを実世界の認識タスクで評価し、RANSAC や DCS といった最先端手法と比較して優れた性能と頑健性を示す。

提案手法

• スパースな外れ値除去に適した一般化最大一致（G-MC）と連続的な外れ値処理に適した一般化切り捨て最小二乗法（G-TLS）の2つの統一的定式化を導入する。
• G-MC 問題を解くために、適応的トリミングに基づく組み合わせ的アルゴリズム ADAPT を提案。反復的に最も整合性のない測定値を特定・削除することで処理を進める。
• G-TLS に対して、ホモトピーに基づく GNC（段階的非凸化）法を提案。コスト関数の形状を段階的に変更することで、非凸部分問題の系列を通じて段階的に頑健性を強化する。
• 残差分布にクラメール＝ヴァン・ミーゼス検定を適用することで、インライヤーのしきい値を動的に推定する最小限のチューニング版 ADAPT-MinT と GNC-MinT を設計する。
• ADAPT-MinT に、ソート済みの残差の直径を用いてインライヤーとアウターラークラスタの自然な分割を検出するクラスタリング分離サブルーチンを実装する。
• GNC-MinT ではカイ二乗適合度検定（Chi2Fit）を用い、仮定されたインライヤーモデル下での残差の二乗が期待されるカイ二乗分布と一致するかを評価し、事前の知識なしに自動的にしきい値を決定可能にする。

実験結果

リサーチクエスチョン

• RQ1 外れ値に頑健な推定の根本的計算限界は何か？ また、多項式時間または準多項式時間で最適なインライヤー集合を近似することは可能か？
• RQ2 インライヤーのノイズ統計情報やユーザー指定のしきい値を事前に必要としない一般用途向けのアルゴリズムを設計できるか？
• RQ3 ADAPT および GNC の最小限のチューニング版が、RANSAC や DCS といった最先端手法と比較して、実世界のロボティクス応用でどのように性能を発揮するか？
• RQ4 ADAPT および GNC は、80–90% の高い外れ値率ですら、正確性とリアルタイム性能を維持できるか？
• RQ5 さまざまな認識タスクにおける異なる外れ値レベルにおいて、提案されたアルゴリズムは真陽性率と偽陽性率のバランスをどのようにとるか？

主な発見

• 本稿では、外れ値に頑健な推定が最悪ケースにおいて近似不能であることを証明し、準多項式時間アルゴリズムでさえも同様に近似不能であることを示し、根本的な計算困難限界を確立する。
• ADAPT および GNC は、すべての評価タスクでリアルタイム性能を達成し、RANSAC よりも優れた性能を示し、メッシュ登録、形状整合、ポーズグラフ最適化において 80–90% の外れ値率に対しても頑健性を維持する。
• 最小限のチューニング版である ADAPT-MinT および GNC-MinT は、ユーザー定義のノイズ範囲やカーネルサイズを必要とせず、競争力ある性能を発揮し、一部の設定ではチューニング済みのベースラインを上回る。
• GNC および GNC-MinT は、ほとんどのデータセットで 90% を超える真陽性率（90%以上）と、10–20% の低い偽陽性率を達成し、高外れ値環境下でもわずかな劣化にとどまる。
• CSAIL および Garage 3D SLAM データセットにおいて、GNC-MinT は 90% の外れ値率でも高い正確性を維持し、強い耐性と最小限のチューニングを示す。
• GNC-MinT における Chi2Fit 検定は、残差の二乗大きさをカイ二乗分布と比較することで、事前の知識なしにインライヤー分布を的確に同定し、自動しきい値決定を可能にする。