[論文レビュー] Multipartite Pooling for Deep Convolutional Neural Networks

Arash Shahriari, Fatih Porikli|arXiv (Cornell University)|Oct 20, 2017

Machine Learning and Data Classification参考文献 32被引用数 8

ひとこと要約

本論文は、Fisher判別分析を用いて特徴をクラススケール空間に射影する新しい深層学習プーリング戦略、マルチパーティットプーリングを提案する。これにより、データ駆動型で判別意識を持つ畳み込み特徴のランク付けが可能となり、MNIST、CIFAR-10、CIFAR-100、SVHNのベンチマークにおいて、maxプーリング、平均プーリング、確率的プーリングを常に上回る優れた汎化性能を達成する。

ABSTRACT

We propose a novel pooling strategy that learns how to adaptively rank deep convolutional features for selecting more informative representations. To this end, we exploit discriminative analysis to project the features onto a space spanned by the number of classes in the dataset under study. This maps the notion of labels in the feature space into instances in the projected space. We employ these projected distances as a measure to rank the existing features with respect to their specific discriminant power for each individual class. We then apply multipartite ranking to score the separability of the instances and aggregate one-versus-all scores to compute an overall distinction score for each feature. For the pooling, we pick features with the highest scores in a pooling window instead of maximum, average or stochastic random assignments. Our experiments on various benchmarks confirm that the proposed strategy of multipartite pooling is highly beneficial to consistently improve the performance of deep convolutional networks via better generalization of the trained models for the test-time data.

研究の動機と目的

• 従来のプーリング手法（max、平均、確率的）が判別意識を欠き、訓練とテストの間で汎化がうまくいかないという限界を解決する。
• クラスラベルから学習された共有のデータ駆動型射影を用いて、訓練とテストのプーリング統計を結びつけることで、モデルの汎化性能を向上させる。
• 畳み込み特徴のクラス固有の判別力に基づいてランク付けする、決定論的で適応的なプーリング戦略を開発する。
• 共有の射影行列を用いて訓練段階とテスト段階の両方で一貫した特徴選択基準を確保することで、訓練誤差とテスト誤差の差を縮小する。
• 判別スコアに基づくプーリングが、よりロバストで汎化性の高い深層ニューラルネットワークモデルを実現することを示す。

提案手法

• Fisher判別分析を用いて、特徴をクラス数に相当する次元の低い空間に射影し、クラスに配慮した表現を可能にする。
• 一対多ランク付けを用いて、各特徴と全クラス間のペアワイズ区別スコアを計算し、それらを特徴ごとのグローバル区別スコアに集約する。
• マルチパーティットランク付けを適用し、全クラスにわたる特徴の判別力に基づいた分離可能性をスコア化する。
• 計算された区別スコアに基づき、各プーリングウィンドウ内で上位スコアの特徴を選択し、max/平均/確率的選択に代える。
• Kullback-Leibler発散を用いて、訓練データセット上で射影行列Aを学習し、特徴分布の整合性を確保する。
• テスト時にも同じ射影行列Aを適用することで、訓練と推論の間の統計的一致性を維持し、汎化性能を向上させる。

実験結果

リサーチクエスチョン

• RQ1 クラスレベルの判別的情報を組み込んだプーリング戦略は、深層畳み込みネットワークにおける汎化性能の向上に寄与するか？
• RQ2 マルチパーティットプーリングは、max、平均、確率的プーリングと比較して、テスト精度と汎化ギャップの点で優れているか？
• RQ3 データ駆動型で判別に基づく特徴ランク付けは、訓練とテストのパフォーマンスの乖離を低減するか？
• RQ4 提案手法は、特にCIFAR-100のようなクラス数が多いデータセットにおいて、過学習をどの程度防止できるか？
• RQ5 決定論的なマルチパーティットプーリングは、確率的プーリングと比較して、数値的安定性とパフォーマンスの一貫性の点で優れているか？

主な発見

• マルチパーティットプーリングは、MNIST、CIFAR-10、CIFAR-100、SVHNの全データセットにおいて、テスト誤差の点でmax、平均、確率的プーリングを一貫して上回る。
• CIFAR-10では、マルチパーティットプーリングにより訓練集合と検証集合の間のテスト誤差ギャップが縮小され、maxプーリングよりも優れた汎化性能を示している。
• クラス数が多いCIFAR-100においても、マルチパーティットプーリングはmaxプーリングよりも低いテスト誤差を達成しており、クラスの複雑さに対してもロバストであることが示された。
• SVHNでは、マルチパーティットプーリングは確率的プーリングと同等のテスト誤差を達成しているが、決定論的な性質のおかげでより高い数値的安定性を示している。
• マルチパーティットプーリングの訓練損失とテスト損失の曲線は、maxプーリングと比較して著しく一致しており、過学習の低減と汎化性能の向上を裏付けている。
• 同じ射影行列とスコア関数を訓練段階と推論段階で使用することで、本手法は一般化ギャップを効果的に低減している。