[論文レビュー] Optimizing Over Radial Kernels on Compact Manifolds

Sadeep Jayasumana, Richard Hartley+3 more|arXiv (Cornell University)|Dec 13, 2014

Morphological variations and asymmetry参考文献 13被引用数 6

ひとこと要約

本稿では、サポートベクターマシンフレームワーク内において、コンpactなリーマン多様体上—特にn次元球面、グラスマン多様体、ケネディの形状多様体—における正定値径相カーネルの全クラスにわたる原理的最適化手法を提案する。径相カーネルを単純なパラメトリック形式で表現することで、最適なカーネルパラメータを自動的に学習可能となり、オブジェクト認識、顔認識、行動認識、形状認識のタスクにおいて、固定カーネル（例：ガウス型RBF）を著しく上回る性能を達成する。

ABSTRACT

We tackle the problem of optimizing over all possible positive definite radial kernels on Riemannian manifolds for classification. Kernel methods on Riemannian manifolds have recently become increasingly popular in computer vision. However, the number of known positive definite kernels on manifolds remain very limited. Furthermore, most kernels typically depend on at least one parameter that needs to be tuned for the problem at hand. A poor choice of kernel, or of parameter value, may yield significant performance drop-off. Here, we show that positive definite radial kernels on the unit n-sphere, the Grassmann manifold and Kendall's shape manifold can be expressed in a simple form whose parameters can be automatically optimized within a support vector machine framework. We demonstrate the benefits of our kernel learning algorithm on object, face, action and shape recognition.

研究の動機と目的

• コンピュータビジョン分野におけるリーマン多様体データに対する多様で原理的な正定値カーネルの選択肢の不足に取り組む。
• バンド幅の手動チューニングを要する固定カーネル（例：ガウス型RBF）の限界を克服する。
• 事前に定義された基本カーネルに依存せずに、コンパクトな多様体上での最適な径相カーネルパラメータを自動で学習する統一フレームワークを開発する。
• 非ユークリッド的データに対する多様なビジョンタスクで分類性能を向上させる、原理的なカーネル選択を可能にする。
• カーネルの形自体を学習することで、固定で手作業で選ばれたカーネルよりも優れた性能が得られることを示す。

提案手法

• n次元球面、グラスマン多様体、ケネディの形状多様体上での正定値径相カーネルを、統一的なパラメトリック形式で特徴付ける。
• カーネル関数を多様体上の測地線距離の関数として表現することで、カーネル族のパラメータ化を可能にする。
• パラメトリックカーネルをサポートベクターマシン（SVM）フレームワークに統合し、エンドツーエンドの最適化を実現する。
• 勾配ベースまたは逐次的最適化戦略を用いて、SVM分類器と同時にカーネルパラメータを最適化する。
• コンパクトな多様体の構造を活用し、パrameter空間全体でカーネルが正定値のままであることを保証する。
• 交差検証とランダムな分割を用いて、複数のデータセットにおける汎化性能を評価する。

実験結果

リサーチクエスチョン

• RQ1 コンパクトなリーマン多様体上での径相カーネルは、学習フレームワーク内で自動最適化が可能な形でパラメータ化可能か？
• RQ2 固定パラメータ（例：バンド幅）を超えて、カーネルの形自体を学習することは、ガウス型RBFのような固定カーネルを用いる場合よりも優れた分類性能をもたらすか？
• RQ3 提案手法は、多様体値データに対して既存の手法（GDA、GGDA、MKL）と比較してどのように異なるか？
• RQ4 本手法は、形状、顔、行動など非ユークリッド的データを含む多様なコンピュータビジョンタスクに一般化可能か？
• RQ5 ヒューリスティクスや事前に定義された基本カーネル集合に依存せずに、最適な径相カーネルを原理的に学習する方法は存在するか？

主な発見

• YT-Celebrity顔認識データセットでは72.00%の正確度を達成し、次善の手法（ガウス型カーネルを用いたMKL）の71.40%を上回った。
• バレエ行動認識データセットでは78.05%の正確度を達成し、前回最良結果であった76.97%（ガウス型カーネルを用いたMKL）を上回った。
• リーディングバタフライデータセットにおけるバタフライ種別識別では63.98%の正確度を達成し、最先端のProcrustesガウス型カーネルの60.37%を著しく上回った。
• オックスフォード-IITペットデータセット（形状のみを用いたネコ対イヌの識別）では80.87%の正確度を達成し、Procrustesガウス型カーネルの77.34%を上回った。
• 評価されたすべてのデータセットおよびタスクにおいて、GDA、GGDA、固定カーネルを用いたSVM、MKLといったベースライン手法を、本手法は一貫して上回った。
• 結果から、カーネルの形自体を学習することで顕著な性能向上が得られ、多様体上での原理的なカーネル最適化の重要性が裏付けられた。