[論文レビュー] Regression-based Hypergraph Learning for Image Clustering and Classification

Sheng Huang, Dan Yang+2 more|arXiv (Cornell University)|Mar 14, 2016

Face and Expression Recognition参考文献 37被引用数 5

ひとこと要約

本稿では、画像クラスタリングおよび分類の性能を向上させるために、スパースかつ協調的回帰モデルを用いて高品質なハイパーグラフを構築する新しいフレームワーク、回帰ベースのハイパーグラフ（RH）を提案する。RHをハイパーグラフスペクトルクラスタリングおよびトランスダクティブ学習に統合することで、6つのベンチマーク画像データベースにおいて最先端の性能を達成し、従来の近隣ベースのハイパーグラフ手法に比べて優れたロバスト性と正確性を示している。

ABSTRACT

Inspired by the recently remarkable successes of Sparse Representation (SR), Collaborative Representation (CR) and sparse graph, we present a novel hypergraph model named Regression-based Hypergraph (RH) which utilizes the regression models to construct the high quality hypergraphs. Moreover, we plug RH into two conventional hypergraph learning frameworks, namely hypergraph spectral clustering and hypergraph transduction, to present Regression-based Hypergraph Spectral Clustering (RHSC) and Regression-based Hypergraph Transduction (RHT) models for addressing the image clustering and classification issues. Sparse Representation and Collaborative Representation are employed to instantiate two RH instances and their RHSC and RHT algorithms. The experimental results on six popular image databases demonstrate that the proposed RH learning algorithms achieve promising image clustering and classification performances, and also validate that RH can inherit the desirable properties from both hypergraph models and regression models.

研究の動機と目的

• 近隣ベースのハイパーグラフ構築法の限界、特にノイズに敏感で真のデータ関係を捉えきれない点を是正すること。
• スパース表現（SR）および協調的表現（CR）の強力な識別力とノイズ耐性を活用し、より正確なハイパーグラフを構築すること。
• スペクトルクラスタリングおよびトランスダクションなどの既存のハイパーグラフ学習パラダイムに回帰ベースのハイパーグラフ学習を統合できる汎用性の高いフレームワークを開発すること。
• 提案されたRHSCおよびRHTモデルの有効性を、多様な画像データセット上で検証し、クラスタリングおよび分類タスクにおける性能向上を示すこと。

提案手法

• 回帰ベースのハイパーグラフ（RH）フレームワークは、各サンプルを他のすべてのサンプルとの回帰システムとしてモデル化し、回帰係数を用いてサンプル間の相関を測定することでハイパーグラフを構築する。
• 各サンプルとその上位m個の相関度の高いサンプルがハイパーエッジを形成し、ハイパーエッジ内の平均相関度を重みとして用いる。
• スパース表現（L1正則化回帰）および協調的表現（L2正則化回帰）を用いて2つのRHインスタンスを生成し、これによりL1-HSC/L1-HTおよびL2-HSC/L2-HTアルゴリズムが得られる。
• RHモデルは、ハイパーグラフスペクトルクラスタリング（HSC）およびハイパーグラフトランスダクション（HT）という2つの古典的ハイパーグラフ学習フレームワークに統合され、RHSCおよびRHTが形成される。
• 性能最適化のため、回帰用の正則化パラメータβと、ラベル誤差とハイパーグラフ分割損失のバランスを取るためのλを採用する。
• ハイパーエッジ長さtは、複数のデータセットで実験的に調整され、クラスタリングおよび分類精度を最大化するように設定される。

実験結果

リサーチクエスチョン

• RQ1 回帰ベースのハイパーグラフ構築法は、従来の近隣ベースの手法に比べて、画像クラスタリングおよび分類の文脈で真のデータ関係をよりよく捉えることができるか？
• RQ2 スパース表現と協調的表現の性質は、画像学習タスクにおけるハイパーグラフ構築の品質にどのように影響を与えるか？
• RQ3 多様な画像データセットで頑健な性能を達成するための最適なハイパーパrameter設定β、λ、tは何か？
• RQ4 RHフレームワークは、実世界のビジョン応用において、ハイパーグラフモデルと回帰モデルの望ましい特性をどれほど効果的に統合できるか？

主な発見

• 提案されたRHSCおよびRHTモデルは、ORL、AR、COIL20、ETH80、Scene15、Caltech256の6つの代表的画像データベースで最先端の性能を達成した。
• L1-HSCおよびL2-HSCは、パラメータβに対して高いロバスト性を示し、データセットに応じて最適なβ値が10−5から10−1の範囲に収まることが判明。高いクラスタリング精度およびNMIスコアが達成された。
• L1-HTおよびL2-HTはλ > 1のとき最良の分類性能を示し、異なるデータセットで最適なハイパーエッジ長さtは5から35の範囲に分布した。
• RHフレームワークは、特にノイズ環境下でも従来の近隣ベースのハイパーグラフ手法を常に上回り、関連するサンプル選択における優れたヒットレートを示した。
• 本手法はSRおよびCRの強力な識別力を活かし、k-NNベースの手法に比べてより正確でノイズに強いハイパーグラフ構築が可能である。
• 実験結果により、RHは複雑なデータ関係を効果的に捉えており、非教師ありクラスタリングおよび半教師あり分類タスクの両方で性能向上が確認された。