[論文レビュー] Fast Inference in Sparse Coding Algorithms with Applications to Object Recognition

Koray Kavukcuoglu, Marc’Aurelio Ranzato+1 more|arXiv (Cornell University)|Oct 18, 2010

Sparse and Compressive Sensing Techniques参考文献 18被引用数 196

ひとこと要約

本稿では、スパースコーディングアルゴリズムからの最適スパースコードを近似する、高速でフォワードプロパゲーション型のニューラルネットワークベースの回帰器である予測スパース分解（PSD）を提案する。基本関数と予測子を同時に学習させることで、正確な最適化手法に比べて100倍以上の高速化を達成しながら、オブジェクト認識タスクでの認識精度を同等または上回り、安定的で滑らかな表現を用いたリアルタイム推論を可能にする。

ABSTRACT

Adaptive sparse coding methods learn a possibly overcomplete set of basis functions, such that natural image patches can be reconstructed by linearly combining a small subset of these bases. The applicability of these methods to visual object recognition tasks has been limited because of the prohibitive cost of the optimization algorithms required to compute the sparse representation. In this work we propose a simple and efficient algorithm to learn basis functions. After training, this model also provides a fast and smooth approximator to the optimal representation, achieving even better accuracy than exact sparse coding algorithms on visual object recognition tasks.

研究の動機と目的

• スパースコーディングアルゴリズムにおける推論の高い計算コストが、リアルタイムビジョンシステムへの応用を制限する問題に対処すること。
• 認識性能を損なわせることなく、高速で滑らかで正確な最適スパース表現の近似器を開発すること。
• 得られる表現がスパースであり、かつ容易に予測可能であるように、基本関数と予測子を同時に学習すること。
• 動的変化する入力（例えば動画フレーム）に対して、正確な最適化手法と比較して表現の安定性を向上させること。
• 階層的ビジョンシステムにおけるオブジェクト認識のための効率的で畳み込み可能なスパースコーディングの適用を可能にすること。

提案手法

• 画像パッチ Y からスパース表現 Z へのマッピングを実行する非線形フォワードプロパゲーション型回帰器 F(Y; G, W, D) = G·tanh(WY + D) を提案する。
• 基本行列 B と回帰器を同時に学習するための複合損失関数を用いる：||Y - BZ||² + λ||Z||₁ + α||Z - F(Y; P_f)||²。
• 双曲正接非線形性を導入することで、過剰に定義された非直交基底に対してもスパース出力を可能にする。
• 単位ノルムの基底スケーリングを補償するための対角行列 G を導入し、再構成の一貫性を確保する。
• すべてのパラメータ（B, G, W, D）をエンドツーエンドで最適化し、再構成誤差、スパarsity、予測誤差を同時に最小化する基本関数と予測子を生成する。
• 訓練済みの予測子を、ReLUに類似した整流と平均プーリングを施した後にSVM分類器を用いる畳み込み特徴抽出パイプラインに適用する。

実験結果

リサーチクエスチョン

• RQ1 フォワードプロパゲーション型ニューラルネットワークを、計算コストを低く抑えながらスパースコーディングアルゴリズムからの最適スパースコードを高い精度で予測できるように学習できるか？
• RQ2 基本関数と予測子の共同学習によって、スパースでありながら容易に予測可能な表現が得られるか？
• RQ3 近似であるにもかかわらず、予測された表現が正確なスパースコーディングアルゴリズムを上回る認識精度を達成できるか？
• RQ4 自然な動画シーケンスにおいて、予測された表現の安定性は正確な最適化手法のものと比べてどうか？
• RQ5 実世界のオブジェクト認識タスクにおいて、推論速度、スパarsity、認識精度の間にはどのようなトレードオフが生じるか？

主な発見

• PSD予測子は、最も高速な正確なスパースコーディングアルゴリズム（特徴符号法）に比べ、特徴抽出で100倍以上の高速化を達成し、最適なスパarsityレベルでは800倍を超える高速化を実現した。
• 近似であるにもかかわらず、PSD予測子は、最適化されたスパースコーディングアルゴリズムでさえも上回る、Caltech-101データセットにおけるオブジェクト認識精度を達成した。
• 予測された表現は時間的により安定しており、正確な最適化手法に比べ、連続する動画フレーム間の符号遷移率が著しく低く、滑らかな動的特性を示した。
• 基本関数と予測子の共同学習により、一般化性能が向上し、クラスあたり30枚の訓練画像での性能（53%の正確度）が優れた結果を示した。
• 局所的で方向性を持つエッジ様の基本関数を学習することで、空間的に異なる位置で効率的に共有可能な畳み込み特徴マップの冗長性を低減した。
• 複合損失関数により、スパースかつ非常に予測可能な基本関数と予測子を学習可能となり、効率的で正確な推論が実現した。