[論文レビュー] Network of Experts for Large-Scale Image Categorization

Karim Ahmed, Mohammad Haris Baig+1 more|arXiv (Cornell University)|Apr 20, 2016

Advanced Neural Network Applications参考文献 31被引用数 21

ひとこと要約

本論文は、大規模画像分類のための木構造の「エキスパートネットワーク」（NofE）を提案する。共有畳み込みトランクが一般特徴を学習し、類似クラスのサブセットに特化した分岐へと分岐する。この手法は、クラスの分割とモデルパラメータを同時にEnd-to-Endで学習し、計算コストの増加が最小限であるにもかかわらず、CIFAR100で最先端の精度を達成した。

ABSTRACT

We present a tree-structured network architecture for large scale image classification. The trunk of the network contains convolutional layers optimized over all classes. At a given depth, the trunk splits into separate branches, each dedicated to discriminate a different subset of classes. Each branch acts as an expert classifying a set of categories that are difficult to tell apart, while the trunk provides common knowledge to all experts in the form of shared features. The training of our "network of experts" is completely end-to-end: the partition of categories into disjoint subsets is learned simultaneously with the parameters of the network trunk and the experts are trained jointly by minimizing a single learning objective over all classes. The proposed structure can be built from any existing convolutional neural network (CNN). We demonstrate its generality by adapting 4 popular CNNs for image categorization into the form of networks of experts. Our experiments on CIFAR100 and ImageNet show that in every case our method yields a substantial improvement in accuracy over the base CNN, and gives the best result achieved so far on CIFAR100. Finally, the improvement in accuracy comes at little additional cost: compared to the base network, the training time is only moderately increased and the number of parameters is comparable or in some cases even lower.

研究の動機と目的

• 複雑な分類タスクを特化したサブ問題に分解することで、大規模画像分類の精度を向上させること。
• 従来のCNNでは区別が難しい、データ駆動型の類似クラスのグループ化（「専門分野」として呼ぶ）を学習すること。
• 汎用ネットワークからの共有特徴を活用して、個々のエキスパート分岐の微調整と性能を向上させること。
• 共有トランクと特化したエキスパート分岐を統合した統一モデルをEnd-to-Endで訓練できること。
• このアプローチが、モデルサイズや訓練時間の著しい増加を伴わずに精度を向上させることを示すこと。

提案手法

• 共有畳み込みトランクがK個のエキスパート分岐に分岐する木構造のネットワークを用いる。各分岐は互いに排他的なクラスサブセットを担当する。
• 汎用ネットワークを最初に訓練し、画像をK個の「専門分野」グループに分類する。クラスの分割は、ネットワーク重みとともに1つの損失関数によって同時に学習される。
• 汎用ネットワークを訓練した後、最終畳み込み層を特徴トランクとして使用し、K個の別個のエキスパート分岐を接続する。各分岐はクラスのサブセットで訓練される。
• 全NofEモデルは、元のCクラス全体に対してグローバルなソフトマックス層を用いてEnd-to-Endで微調整され、すべてのパラメータが同時に更新可能になる。
• 任意の既存のCNNと互換性があり、最終全結合層を特化したエキスパート構造に置き換えることで適用可能である。
• 標準的なデータオーグメンテーションと学習率スケジューリングを用い、汎用ネットワークを最初に訓練し、その後にエキスパートを統一的な最適化プロセスで微調整する。

実験結果

リサーチクエスチョン

• RQ1 データ駆動型のクラス分割（「専門分野」としてのグループ化）を学習することで、細分化画像認識タスクの分類精度が向上するか？
• RQ2 エキスパート間で共通の特徴トランクを共有することで、エキスパートを初期から訓練するのと比較して、一般化性能が向上し、収束が速くなるか？
• RQ3 提案されたEnd-to-End訓練スキームが、クラスグループ化とネットワークパラメータを同時に最適化し、標準CNNを上回る性能を達成できるか？
• RQ4 NofEアーキテクチャは、大規模ベンチマークで高い精度を達成する一方で、モデルの複雑さを維持するか、あるいは低減できるか？
• RQ5 CIFAR100 や ImageNet といった標準ベンチマークにおいて、NofE手法は最先端のモデルと比較してどうなるか？

主な発見

• エキスパートネットワーク（NofE）は、CIFAR100でトップ-1精度87.3％を達成し、発表当時、新たな最先端の結果を樹立した。
• AlexNet、VGG、ResNet、GoogLeNetの4つの異なるアーキテクチャに対して、NofEフレームワークに適応することで、ベースCNNの精度が向上した。
• NofEモデルは、訓練時間のわずかな増加と、ベースモデルと同等または少ないパラメータ数で、この向上を達成した。
• 汎用ネットワークの特徴からNofEを微調整することで、ランダム初期化やImageNet事前学習初期化よりも著しく優れた性能が得られ、共有トランクの価値を示した。
• この手法は汎用的であり、既存の任意のCNNに対して、最終全結合層を木構造のエキスパートアーキテクチャに置き換えることで適用可能である。
• アブレーションスタディにより、専門分野と汎用ネットワークの同時学習が重要であることが確認された。汎用ネットワークを別個に訓練すると、性能が劣化した。