[論文レビュー] Supervised Descent Method for Solving Nonlinear Least Squares Problems in Computer Vision

Xuehan Xiong, Fernando De la Torre|arXiv (Cornell University)|May 3, 2014

Advanced Image Fusion Techniques参考文献 45被引用数 44

ひとこと要約

本論文は、非線形最小二乗問題を解くためにヤコビアンやヘッセ行列の計算を必要とせずに、教師ありの方法で一般化された勾配写像とスケーリング係数を学習する新しい最適化フレームワーク、Supervised Descent Method (SDM) を提案する。SDM は最適な軌道に基づいてトレーニングし、学習された更新ルールによって新しい入力に一般化することで、顔の特徴検出やその他のアライメントタスクで最先端の性能を達成する。

ABSTRACT

Many computer vision problems (e.g., camera calibration, image alignment, structure from motion) are solved with nonlinear optimization methods. It is generally accepted that second order descent methods are the most robust, fast, and reliable approaches for nonlinear optimization of a general smooth function. However, in the context of computer vision, second order descent methods have two main drawbacks: (1) the function might not be analytically differentiable and numerical approximations are impractical, and (2) the Hessian may be large and not positive definite. To address these issues, this paper proposes generic descent maps, which are average "descent directions" and rescaling factors learned in a supervised fashion. Using generic descent maps, we derive a practical algorithm - Supervised Descent Method (SDM) - for minimizing Nonlinear Least Squares (NLS) problems. During training, SDM learns a sequence of decent maps that minimize the NLS. In testing, SDM minimizes the NLS objective using the learned descent maps without computing the Jacobian or the Hessian. We prove the conditions under which the SDM is guaranteed to converge. We illustrate the effectiveness and accuracy of SDM in three computer vision problems: rigid image alignment, non-rigid image alignment, and 3D pose estimation. In particular, we show how SDM achieves state-of-the-art performance in the problem of facial feature detection. The code has been made available at www.humansensing.cs.cmu.edu/intraface.

研究の動機と目的

• ヤコビアンやヘッセ行列の計算が非現実的で、関数が解析的導関数を持たない場合に、ニュートン法 や Levenberg-Marquardt 法といった2次最適化法の限界を克服すること。
• ヤコビアン やヘッセ行列を明示的に計算する必要のない、非線形最小二乗問題のための強力で高速かつ信頼性の高い最適化手法を開発すること。
• 最適な最適化軌道に基づく教師ありトレーニングを通じて、一般化された勾配写像を学習し、新しい入力に一般化可能にする。
• リプシッツ連続性および局所単調性の仮定の下で、提案手法の収束条件を証明すること。
• 顔の特徴検出、画像アライメント、3次元ポーズ推定といった重要なコンピュータビジョンタスクで最先端の性能を示すこと。

提案手法

• SDM は、最適な最適化軌道から、一般化された勾配写像（R_k）とスケーリング係数を教師ありで学習する。各更新は、学習された行列と残差項（y - h(x)）の線形結合で表される。
• 勾配やヘッセ行列の計算を避けるために、ラベル付きの最適化パスから直接勾配方向を学習する。これにより、SIFT や HOG のような微分不能な特徴に対しても適用可能である。
• 各パラメータ更新は Δx = R_k * (y - h(x_k)) として計算され、R_k は学習された行列で、(y - h(x_k)) は残差誤差である。この仕組みにより、高速な推論が可能である。
• 勾配写像は、複数の最適化ステップにわたって真の最小値との距離を最小化する教師あり回帰目的でトレーニングされる。
• 局所的リプシッツ連続性および残差関数の局所的単調性が満たされれば、収束が理論的に保証される。
• 異なる初期パラメータ推定値にわたって一般化可能である。これは、多様な初期パラメータ推定値に適用可能な共通の勾配写像セットを学習するためである。

実験結果

リサーチクエスチョン

• RQ1 教師あり学習アプローチは、コンピュータビジョンにおける非線形最小二乗最適化で、繰り返しのヘッセ行列やヤコビアン計算を効果的に置き換えられるか？
• RQ2 学習された勾配写像が最適解への収束を保証する条件は何か？
• RQ3 一般化された勾配写像は、多様な初期パラメータ設定に一般化可能であり、画像アライメントやポーズ推定で最先端の性能を達成できるか？
• RQ4 微分不能な特徴設定において、SDM は Levenberg-Marquardt や Lucas-Kanade といった従来手法と比べてどのように性能を発揮するか？
• RQ5 明示的なヘッセ行列の逆行列計算なしに、SDM は高次元パrameter空間をどの程度効果的に処理できるか？

主な発見

• SDM は顔の特徴検出において最先端の性能を達成し、ベンチマークデータセットで既存手法を上回る。
• ヘッセ行列 やヤコビアンの計算を一切行わず、SIFT や HOG のような微分不能な特徴に対しても信頼性高く収束する。
• 理論的分析により、残差関数が局所的リプシッツ連続であり、勾配写像が特定のノルムおよび符号制約を満たす場合、SDM が収束することが証明された。
• トレーニング軌道から得た共通の勾配写像セットを学習することで、異なる初期パラメータ推定値にわたって一般化可能である。
• 実験的結果から、剛体および非剛体画像アライメントタスクにおいて、標準的な Levenberg-Marquardt や Lucas-Kanade 手法よりも高速かつ高精度であることが示された。
• 学習された勾配方向のおかげで、非凸的かつ悪条件な問題に対してもロバストである。これは、ニュートン型手法に一般的に見られる負の曲率の問題を回避できるためである。