[論文レビュー] What you need to know about the state-of-the-art computational models of object-vision: A tour through the models

Seyed‐Mahdi Khaligh‐Razavi|arXiv (Cornell University)|Jul 10, 2014

Advanced Image and Video Retrieval Techniques参考文献 59被引用数 8

ひとこと要約

本論文は、物体視覚のための最先端の計算モデルについて包括的なサーベイを提供しており、学習パラダイム（教師あり、教師なし、手作業で設計されたもの）、アーキテクチャの深さ（浅いか深いか）、学習メカニズムに基づいて分類している。各モデルがタスクに適した視覚特徴をどのように抽出するかについて、直感的かつ技術的な洞察を提供しており、特に数百万枚の画像でトレーニングされた最近のデータ駆動型モデルに焦点を当てている。これらのモデルは手動でのチューニングなしに情報豊富な表現を学習する。

ABSTRACT

Models of object vision have been of great interest in computer vision and visual neuroscience. During the last decades, several models have been developed to extract visual features from images for object recognition tasks. Some of these were inspired by the hierarchical structure of primate visual system, and some others were engineered models. The models are varied in several aspects: models that are trained by supervision, models trained without supervision, and models (e.g. feature extractors) that are fully hard-wired and do not need training. Some of the models come with a deep hierarchical structure consisting of several layers, and some others are shallow and come with only one or two layers of processing. More recently, new models have been developed that are not hand-tuned but trained using millions of images, through which they learn how to extract informative task-related features. Here I will survey all these different models and provide the reader with an intuitive, as well as a more detailed, understanding of the underlying computations in each of the models.

研究の動機と目的

• 物体視覚研究分野における多様な計算モデルを統合的かつアクセスしやすい形で概説すること。
• 視覚的特徴抽出における教師あり、教師なし、ハードウェアで固定されたモデルの違いを明確にすること。
• 浅いモデルと深い階層的モデルの背後にある計算メカニズムを説明すること。
• 現代のモデルにおける大規模な画像データセットからのエンドツーエンド学習へのシフトを強調すること。
• モデル設計の選択をコンテキスト化することで、コンピュータビジョン、神経科学、機械学習のコミュニティの理解を橋渡しすること。

提案手法

• 教師あり、弱教師あり、教師なし、または学習を行わない（手動でチューニングされた）モデルに基づいて、物体視覚モデルを分類すること。
• 特に複数層の特徴抽象化を持つ深層ネットワークを含む階層的アーキテクチャを持つモデルを分析すること。
• 手動でのエンジニアリングなしに大規模な画像データセット上でエンドツーエンドでトレーニングされるモデルが、どのように特徴を学習するかを検討すること。
• サルの視覚系の解剖学的構造にインspiredされたモデルと、工学的直感に基づいて設計されたモデルを比較すること。
• 異なるモデルタイプにわたる特徴抽出メカニズムについて、直感的かつ技術的な説明を提供すること。
• 視覚化と概念的記述を用いて、深層ネットワークの各層を通過する間に特徴がどのように進化するかを説明すること。

実験結果

リサーチクエスチョン

• RQ1 物体視覚システムにおける教師あり、教師なし、手作業で設計されたモデルの主な違いは何ですか？
• RQ2 特徴抽出における深層階層的モデルと浅いモデルの間には、アーキテクチャおよび機能面でどのような相違がありますか？
• RQ3 大規模な画像データは、手動での特徴エンジニアリングなしに現代の物体視覚モデルをトレーニングする上で、どのような役割を果たしていますか？
• RQ4 サルの視覚系にインspiredされたモデルと、完全に工学的に設計されたモデルは、性能と生物学的妥当性の観点でどのように比較できますか？
• RQ5 最先端の物体視覚モデルにおける特徴抽出プロセスの背後にある、根幹の計算原則は何ですか？

主な発見

• 現代の物体視覚モデルは、数百万枚の画像を用いたエンドツーエンド学習に依存する傾向が強まっており、情報豊かでタスク固有の特徴を自動的に学習する。
• 複数層の特徴抽象化を持つ深層階層的モデルは、1〜2層の浅いモデルに比べて優れた特徴抽象化を示す。
• 教師なしおよび自己教師ありモデルは、完全に教師ありアプローチに対する強力な代替手段として台頭しており、人為的ラベル依存度を低減している。
• SIFT や HOG のような手作業でチューニングされた非学習型モデルは、解釈可能性やロバスト性が重視される特定のタスクにおいても依然として関連性がある。
• サルの視覚系にインspiredされたモデルは、生物学的妥当性に優れることが多いが、最も先端の深層学習モデルに比べて性能は劣ることがある。
• 本論文は、物体視覚モデルの設計空間を明確にする分類法を確立しており、研究者が特定の用途に適したモデルを選択するのを支援している。