[論文レビュー] Training Group Orthogonal Neural Networks with Privileged Information

Yunpeng Chen, Xiaojie Jin+2 more|arXiv (Cornell University)|Jan 24, 2017

Advanced Neural Network Applications参考文献 14被引用数 10

ひとこと要約

本論文は、トレーニング中に特権的なセグメンテーションアノテーションを活用することで、深層畳み込みニューラルネットワーク（CNN）における特徴の多様性と一般化性能を向上させるグループ直交畳み込みニューラルネットワーク（GoCNN）を提案する。前景領域と背景領域に基づいてグループ化された畳み込みフィルタ間の直交性を強制することにより、GoCNNはより分離された、診断的特徴を学習し、トレーニングデータの10%にセグメンテーションアノテーションが提供されている状況で、ImageNet上でのResNet-152よりも1.2%の絶対的トップ1精度向上を達成する。

ABSTRACT

Learning rich and diverse representations is critical for the performance of deep convolutional neural networks (CNNs). In this paper, we consider how to use privileged information to promote inherent diversity of a single CNN model such that the model can learn better representations and offer stronger generalization ability. To this end, we propose a novel group orthogonal convolutional neural network (GoCNN) that learns untangled representations within each layer by exploiting provided privileged information and enhances representation diversity effectively. We take image classification as an example where image segmentation annotations are used as privileged information during the training process. Experiments on two benchmark datasets -- ImageNet and PASCAL VOC -- clearly demonstrate the strong generalization ability of our proposed GoCNN model. On the ImageNet dataset, GoCNN improves the performance of state-of-the-art ResNet-152 model by absolute value of 1.2% while only uses privileged information of 10% of the training images, confirming effectiveness of GoCNN on utilizing available privileged knowledge to train better CNNs.

研究の動機と目的

• トレーニング中に深層CNNにおける固有の特徴多様性を向上させるための原理的で整合性のある手法の欠如に対処すること。
• 特に画像セグメンテーションアノテーションという特権情報が、単一のCNNモデルにおける特徴多様性を明示的に促進できるかどうかを検討すること。
• 背景特徴とより豊富なアノテーションが、ディープラーニングにおけるオブジェクト認識に寄与するかどうかを調査すること。
• グループごとの直交性を用いて、前景と背景の分離された表現を学習する新しいアーキテクチャを開発すること。

提案手法

• セグメンテーションアノテーションを特権情報として用い、畳み込みフィルタを前景領域と背景領域に基づいてグループ化する、深層CNNアーキテクチャであるGoCNNを提案する。
• 異なるグループが出力する特徴マップ間の直交性を強制することで、重複を低減し、表現の多様性を向上させる。
• 前景と背景のための特徴学習を明確に分離し、グループ出力間の相関を最小限に抑えるために、抑制損失を導入する。
• 標準的なクロスエントロピー損失に加え、グループごとの直交性正則化を組み合わせて、エンドツーエンドでモデルを訓練する。
• アノテーションはトレーニング時でのみ使用され、推論時には不要であるため、標準的なモデルでデプロイ可能である。
• ResNetなどの標準CNNに適用し、標準的な畳み込み層の代わりにGoCNNモジュールを統合する。

実験結果

リサーチクエスチョン

• RQ1 特権的なセグメンテーションアノテーションは、単一の深層CNNにおける特徴多様性を効果的に向上させることができるか？
• RQ2 分離された前景および背景表現を学習することで、画像分類における一般化性能が向上するか？
• RQ3 背景情報は、ディープラーニングモデルにおけるオブジェクト認識に有用であるか？
• RQ4 インスタンスセグメンテーションのようなより豊富なアノテーションは、分類ネットワークのトレーニングを顕著に改善できるか？

主な発見

• トレーニングデータの10%にセグメンテーションアノテーションが提供されている状況で、GoCNNはImageNet上でのResNet-152よりも1.2%のトップ1精度向上を達成する。
• ImageNet-0.1mサブセットでは、80%の特権情報が与えられた場合に48.6%のトップ1精度を達成し、アノテーションカバレッジの増加に伴い一貫した改善が見られた。
• フルImageNetで10%の特権情報が与えられた場合、GoCNNはトップ1誤差をResNet-152の23.0%から21.8%に削減した。
• モデルは未学習のテスト画像に対しても、前景および背景の診断的特徴を学習しており、耐性と分離性の両方を示している。
• 実験により、背景特徴がオブジェクト認識に有意に寄与することが確認され、背景が無関係であるという仮定に疑問を呈する。
• 本研究は、セグメンテーションアノテーションが特権情報として使用された場合、分類性能を顕著に向上させられることを初めて示した証拠を提供する。