[論文レビュー] Fast L1-NMF for Multiple Parametric Model Estimation

Mariano Tepper, Guillermo Sapiro|arXiv (Cornell University)|Oct 18, 2016

NMR spectroscopy and applications参考文献 1被引用数 6

ひとこと要約

本稿では、RANSACが生成するモデル仮説から一貫したパターンを活用することで、パラメータを必要とせず高速化されたL1-NMFに基づくバイクラスタリングフレームワークを、複数のパrametricモデル推定に提案する。RANSACの出力を共通認識行列に再定式化し、高速なL1-NMFを適用することで、非交差モデルの制約を課さずに、重複するインライアセットとモデルパラメータを堅牢に同定する。標準RANSACと比較して、大規模データセットでは最大60倍の高速化を達成する。

ABSTRACT

In this work we introduce a comprehensive algorithmic pipeline for multiple parametric model estimation. The proposed approach analyzes the information produced by a random sampling algorithm (e.g., RANSAC) from a machine learning/optimization perspective, using a extit{parameterless} biclustering algorithm based on L1 nonnegative matrix factorization (L1-NMF). The proposed framework exploits consistent patterns that naturally arise during the RANSAC execution, while explicitly avoiding spurious inconsistencies. Contrarily to the main trends in the literature, the proposed technique does not impose non-intersecting parametric models. A new accelerated algorithm to compute L1-NMFs allows to handle medium-sized problems faster while also extending the usability of the algorithm to much larger datasets. This accelerated algorithm has applications in any other context where an L1-NMF is needed, beyond the biclustering approach to parameter estimation here addressed. We accompany the algorithmic presentation with theoretical foundations and numerous and diverse examples.

研究の動機と目的

• ノイズと外れ値を含むデータにおいて、モデルが重複する可能性がある状況を含め、複数のパrametricモデルを推定する課題に対処すること。
• 単一モデルのフィッティングを目的とした標準RANSACの限界を克服すること。特に、複数モデルの状況では疑似外れ点の影響を強く受ける。
• RANSACが生成するモデル仮説の間で一貫したインライアパターンを特定する、L1-NMFに基づくパラメータフリーのバイクラスタリング手法を開発すること。
• 大規模データセットへのスケーラビリティを向上させるために、L1-NMFの計算を高速化し、現在のフレームワークを超えて広く応用可能にする。
• 二値の共通認識行列の代わりに、実数値のオブジェクト-モデル距離行列を用いることで、ハードスレッショルドの必要性を排除すること。

提案手法

• RANSACが生成するモデル仮説を、各データポイントがどのモデルの共通認識集合に属するかを示す共通認識行列に変換する。
• この共通認識行列にパラメータフリーのL1-NMFを適用し、インライアセットとそれに対応するモデルを表すバイクラスタを抽出する。
• L1-NMFの定式化によりスパarsityとロバストネスが促進され、モデルの非交差性を強制しないまま、重複するインライアセットを自然に処理できる。
• 中規模および大規模問題における収束速度を向上させるために、反復的スレッショルド処理とアクティブセット戦略を用いたL1-NMFの高速化アルゴリズムを導入する。
• バイクラスタリングステップで回復されたインライアセットに対して、最小二乗回帰を用いて最終的なモデルパラメータを推定する。
• 本フレームワークは、PozzoveggianiやPiazza Braといった実世界のデータセットを用いた2次元および3次元の幾何的フィッティングタスク（直線、円、平面の推定）において評価されている。

実験結果

リサーチクエスチョン

• RQ1 RANSACが生成するモデル仮説を、あらかじめモデル数を知らずに、整合性のあるインライア-モデルペアにクラスタリングするためにL1-NMFを効果的に使用できるか？
• RQ2 RANSAC出力に内在する一貫性を活用することで、疑似外れ点への感受性を低減し、より高いロバストネスを達成できるか？
• RQ3 加速されたL1-NMFアルゴリズムは、複数モデル推定の精度を維持したまま、大規模データセットにどの程度スケーリングできるか？
• RQ4 非交差モデルの仮定を緩和することで、重複構造を有する実世界データにおける性能が向上するか？
• RQ5 共通認識行列作成におけるハードスレッショルド処理を、重要なハイパーパramータを排除する実数値の距離行列に置き換えられるか？

主な発見

• 108,750点のPozzoveggiani 3Dデータセット全体を処理する際、本手法は標準RANSACと比較して最大60倍の高速化を達成しており、データサイズが増加するにつれて性能差が拡大する。
• Piazza Braデータセットでは、82,831×24,841のペ referring行列を用いたARSE（加速RANSAC＋L1-NMF）が、16,567×2,040の小さな行列を用いたRSEを上回り、行列サイズに対して非線形的（サブラインア）にスケーリングしている。
• 本手法は、複雑な都市景観における3次元平面の回復に成功しており、Pozzoveggianiの鐘楼は、点密度が十分に高い場合にのみ正しく推定可能である。
• 加速L1-NMFアルゴリズムは、ペ referring行列サイズに対してサブラインアにスケーリングするため、大規模問題への計算効率とスケーラビリティが非常に高い。
• 本フレームワークは自然に重複するモデルを処理でき、従来の手法で一般的に見られるインライアセットの非交差性を強制する人工的な制約を回避する。
• 本手法は、データセットの複数の部分サンプル版においても高い精度を維持しており、データのスパarsityやノイズに対してもロバストであることが示された。