[論文レビュー] Discrete Energy Minimization, beyond Submodularity: Applications and Approximations

Shai Bagon|arXiv (Cornell University)|Oct 27, 2012

Advanced Image and Video Retrieval Techniques参考文献 120被引用数 3

ひとこと要約

本学位論文は、従来の滑らかさを促進するモデルを超えて、特にコントラスト強調型および任意のPotts型エネルギーを含む、困難な非下位単調な離散エネルギーの最適化のための新規な近似アルゴリズムを提案する。代数的コarseningとエネルギーに配慮した補間を組み合わせた統一的なマルチスケールフレームワークを導入し、3次元再構成、クラスタリング、インタラクティブセグメンテーションなどの多様なビジョンタスクにおいて、大規模で効率的な最適化を可能にした。本手法は、従来の手法よりも2桁大きい問題に対して実証的に成功を収めた。

ABSTRACT

In this thesis I explore challenging discrete energy minimization problems that arise mainly in the context of computer vision tasks. This work motivates the use of such "hard-to-optimize" non-submodular functionals, and proposes methods and algorithms to cope with the NP-hardness of their optimization. Consequently, this thesis revolves around two axes: applications and approximations. The applications axis motivates the use of such "hard-to-optimize" energies by introducing new tasks. As the energies become less constrained and structured one gains more expressive power for the objective function achieving more accurate models. Results show how challenging, hard-to-optimize, energies are more adequate for certain computer vision applications. To overcome the resulting challenging optimization tasks the second axis of this thesis proposes approximation algorithms to cope with the NP-hardness of the optimization. Experiments show that these new methods yield good results for representative challenging problems.

研究の動機と目的

• 実際の応用において、表現力と精度に優れた非下位単調でコントラスト強調型エネルギーの使用を促すために、その有効性を示すこと。
• このようなエネルギーの最適化がNP困難であるという性質に対処し、実用的でスケーラブルな近似アルゴリズムを開発すること。
• 離散マルチスケール最適化と代数的マルチグリッド手法を統合し、粗いスケールから細かいスケールへのエネルギー最小化を可能にすること。
• 複雑なデータ、例えば中国文字や身体部位をよりよくモデル化できる、表現力があり滑らかでないエネルギー関数の学習を可能にすること。
• 提案されたフレームワークを用いた任意のPottsエネルギー最小化が、クラスタ数を事前に知らなくても、無教師学習でクラスタ数を回復できることを示すこと。これは、標準的なクラスタリング手法の主な制限を克服する。

提案手法

• 代数的エネルギーに基づく補間を用いて、変数またはラベルをコarseningする統一的な離散マルチスケールフレームワークを提案し、元のエネルギーの構造を保持する。
• スケール間のエネルギーに配慮した補間を導入し、固定の規則ではなくエネルギー構造に適応したコarseningを実現する。
• 相関クラスタリングを任意のPottsエネルギー最小化の特殊ケースとして再定式化し、離散最適化ツールの利用を可能にする。
• 既存の離散最適化技術（例：LP緩和、メッセージパッシング）を拡張し、大規模なラベル空間および非下位単調項を扱えるようにする。
• 行列演算によって定義されるコarsening手順を開発する：$\mathbf{V}^{\hat{c}}_{\boldsymbol{\alpha},\boldsymbol{\beta},\ldots} = \sum_{\alpha,\beta,\ldots} \mathbf{V}^{f}_{\alpha,\beta,\ldots} \hat{P}_{\alpha\boldsymbol{\alpha}} \hat{P}_{\beta\boldsymbol{\beta}} \cdots$。これにより、代数的マルチグリッド手法と正式に接続される。
• 本フレームワークを3次元形状再構成、インタラクティブセグメンテーション、無教師クラスタリングに適用し、大規模問題においてスケーラビリティと正確性を示した。

実験結果

リサーチクエスチョン

• RQ1 コントラスト強調型で非下位単調なエネルギーは、ビジョンタスクにおいて滑らかさを促進するエネルギーよりも、より高いモデリング精度を提供できるか？
• RQ2 NP困難であるにもかかわらず、大規模で非下位単調な離散エネルギー最小化を効率的に近似できるか？
• RQ3 統一的なマルチスケールフレームワークは、複雑なエネルギーの内在するマルチスケール構造を露わにし、効果的な最適化に活用できるか？
• RQ4 任意のPottsエネルギー最小化が、クラスタ数を事前に知らなくても、無教師学習でクラスタ数をどの程度正確に回復できるか？
• RQ5 代数的マルチグリッド手法の原則を、ビジョンアプリケーションにおける離散マルチスケール最適化にどのように適応できるか？

主な発見

• 提案されたマルチスケールフレームワークにより、既存手法よりも最大2桁多い変数数の離散エネルギー最適化が可能となり、大規模問題におけるスケーラビリティを実証した。
• 任意のPottsエネルギー最小化による相関クラスタリングは、クラスタ数を入力として必要とせず、無教師学習の顔認識およびスケッチタスクでクラスタ数を正確に回復した。
• 3次元形状再構成（運動および照明の手がかりから）において、数千のラベルを含む困難なエネルギーに対しても、良好な経験的近似を達成した。
• スケール間のエネルギーに配慮した補間により、コarsening中に重要なエネルギー特徴を保持することで、収束性と解の品質が向上した。
• 下位単調性の制約なしに離散エネルギーを学習することで、中国文字や身体部位認識などのタスクで、データ統計をよりよく捉えるコントラスト強調項が一般化性能を向上させた。
• コarseningの代数的定式化により、離散マルチスケール最適化と数値PDEソルバーの間の正式な橋渡しがなされ、既存のマルチグリッド技術の応用が可能になった。