[論文レビュー] Initialization and Coordinate Optimization for Multi-way Matching

Da Tang, Tony Jebara|arXiv (Cornell University)|Nov 2, 2016

Graph Theory and Algorithms参考文献 22被引用数 4

ひとこと要約

本稿では、多方向マッチングのための座標最適化アルゴリズムを提案する。この手法は、ペアワイズ類似度スコアの最大スパニングツリー（MST）を用いて置換行列を初期化することで、悪い局所最適解を回避する。MSTの辺に沿って反復的にマッチングを更新することで、わずかなノイズ仮定のもとで高い確率で最適または近似的に最適な性能を達成する。コンピュータビジョンおよびNLPのベンチマークにおいて、CMU HouseおよびHotelデータセットで0%の誤差を達成し、先行手法を上回る性能を発揮する。

ABSTRACT

We consider the problem of consistently matching multiple sets of elements to each other, which is a common task in fields such as computer vision. To solve the underlying NP-hard objective, existing methods often relax or approximate it, but end up with unsatisfying empirical performance due to a misaligned objective. We propose a coordinate update algorithm that directly optimizes the target objective. By using pairwise alignment information to build an undirected graph and initializing the permutation matrices along the edges of its Maximum Spanning Tree, our algorithm successfully avoids bad local optima. Theoretically, with high probability our algorithm guarantees an optimal solution under reasonable noise assumptions. Empirically, our algorithm consistently and significantly outperforms existing methods on several benchmark tasks on real datasets.

研究の動機と目的

• コンピュータビジョンおよび関連分野における複数の集合間での一貫性のある多方向マッチングというNP困難な問題に取り組む。
• 現実的なノイズレベル下で性能が劣る既存の緩和ベース手法の限界を克服する。
• 悪い局所最適解を避けるために、知的初期化を用いた直接最適化アプローチを開発する。
• 妥当なノイズ仮定のもとで最適性に関する理論的保証を提供する。
• ステレオマッチング、繰り返し構造、クロスドメインタスクにおいて、優れた性能を実証的に示す。

提案手法

• エッジの重みが要素集合間のペアワイズ類似度スコアを表す無向グラフを構築する。
• このグラフの最大スパニングツリー（MST）を計算し、初期化に適した信頼性の高いペアワイズアラインメントを特定する。
• MSTのエッジを用いて置換行列を初期化し、座標更新のための堅牢な出発点を確保する。
• ハンガリアン法を用いて各ステップで正確な二部マッチングを最適化することで、1つのペアワイズマッチングずつを最適化する反復的座標上昇法を適用する。
• 収束を向上させるために、MSTに沿った貪欲な順序付け（プリム法またはクラスカル法）を用いて更新の順序を決定する。
• 理論的分析により、ノイズグラフにおけるMSTのボトルネック重みが小さい場合、高い確率で最適性が保証されることを示す。

実験結果

リサーチクエスチョン

• RQ1 緩和手法に依存せずに、多方向マッチングのための座標降下法が高い性能を達成できるか？
• RQ2 座標最適化が悪い局所最適解に収束するのを防ぐために、初期化をどのように設計すべきか？
• RQ3 どのようなノイズ条件下で、提案手法が最適または近似的に最適な解を保証できるか？
• RQ4 MSTベースの初期化は、複雑な構造を有する実世界のデータセットにおいて、顕著に性能を向上させるか？
• RQ5 この手法はコンピュータビジョンをはるかに超えて、NLPなどの他の分野へ一般化可能か？

主な発見

• 提案手法は、30点のステレオランドマークアラインメントにおいて、CMU HouseおよびCMU Hotelデータセットで0%の誤差率を達成した。これは、先行手法が一貫して達成できなかった結果である。
• 高ノイズ（RBF設定）下でも、本手法は100%の正確性を維持するが、ランダム初期化では平均3.90%の誤差を示した。
• 繰り返し構造を有するBuildingデータセット（1画像あたり28キーポイント）において、RBFおよびアラインメント設定の両方で、ベースラインのPermutation Synchronizationを上回った。
• MSTベースの初期化は不可欠である：初期化が不十分な場合、CMU Houseでは平均3.90%の誤差を示すが、適切に初期化された場合、0%の誤差を達成する。
• 理論的分析により、ノイズグラフにおけるMSTのボトルネック重みが小さい場合、高い確率で最適性が保証されることを確認した。
• 本手法はコンピュータビジョンをはるかに超えて一般化可能であり、文の分類を目的とした自然言語処理データセットでも、ベースラインを上回る性能を発揮した。