[論文レビュー] To Balance or Not to Balance: An Embarrassingly Simple Approach for Learning with Long-Tailed Distributions.

Junjie Zhang, Lingqiao Liu+2 more|arXiv (Cornell University)|Dec 10, 2019

Anomaly Detection Techniques and Applications被引用数 2

ひとこと要約

本論文では、特徴抽出部と分類器にネットワークを分離し、両者にクラスバランスサンプリングを適用するとともに、ランダムサンプリング下での補助自己教師ありタスクを特徴抽出部に導入することで、長尾視覚データセット上で深層ニューラルネットワークを訓練するシンプルだが効果的な手法を提案する。複雑な構成要素を用いずに、過学習を軽減し、尾部クラスの一般化性能を向上させることで、最先端の性能を達成する。

ABSTRACT

Real-world visual data often exhibits a long-tailed distribution, where some ''head'' classes have a large number of samples, yet only a few samples are available for ''tail'' classes. Such imbalanced distribution causes a great challenge for learning a deep neural network, which can be boiled down into a dilemma: on the one hand, we prefer to increase the exposure of tail class samples to avoid the excessive dominance of head classes in the classifier training. On the other hand, oversampling tail classes makes the network prone to over-fitting, since head class samples are often consequently under-represented. To resolve this dilemma, in this paper, we propose a simple-yet-effective auxiliary learning approach. The key idea is to split a network into a classifier part and a feature extractor part, and then employ different training strategies for each part. Specifically, to promote the awareness of tail-classes, a class-balanced sampling scheme is utilised for training both the classifier and the feature extractor. For the feature extractor, we also introduce an auxiliary training task, which is to train a classifier under the regular random sampling scheme. In this way, the feature extractor is jointly trained from both sampling strategies and thus can take advantage of all training data and avoid the over-fitting issue. Apart from this basic auxiliary task, we further explore the benefit of using self-supervised learning as the auxiliary task. Without using any bells and whistles, our model achieves superior performance over the state-of-the-art solutions.

研究の動機と目的

• ヘッドクラスが支配的でテールクラスが過小に表現される現実世界の視覚データセットにおける長尾クラス分布の課題に対処すること。
• テールクラスの露出を増やすことと、過剰サンプリングによる過学習を防ぐことのトレードオフである訓練のジレンマを解消すること。
• 複雑なデータ拡張やアーキテクチャの変更に依存せずに、レア（テール）クラスにおけるモデルの一般化性能を向上させること。
• 特徴抽出部に対して補助学習タスクを介して、クラスバランスサンプリングとランダムサンプリングを組み合わせた有効性を検証すること。

提案手法

• ネットワークを特徴抽出部と分類器に分割することで、各コンponentに独立した訓練戦略を適用可能にする。
• 分類器と特徴抽出部の両方をクラスバランスサンプリングで訓練することで、過小表現のテールクラスへの認識を高める。
• 特徴抽出部に対して、通常のランダムサンプリングを用いた補助訓練タスクを導入し、すべてのデータから学習できるようにし、レアクラスへの過学習を回避する。
• 両方のサンプリング方式を組み合わせて特徴抽出部を共同最適化することで、バランスサンプリングの利点と全データ露出の利点を活かす。
• 自己教師あり学習を補助タスクとして活用することで、追加のラベルを必要とせずに特徴品質を向上させる。
• 本手法は、複雑な構成要素や装飾的要素を一切用いず、戦略的なサンプリングと補助監視に依存する。

実験結果

リサーチクエスチョン

• RQ1 異なるサンプリング方式を用いたシンプルな二重訓練戦略が、長尾視覚認識タスクの性能向上に寄与するか？
• RQ2 補助タスクを介してクラスバランスサンプリングとランダムサンプリングを組み合わせることで、テールクラス学習における過学習が軽減されるか？
• RQ3 自己教師あり学習を補助タスクとして用いることで、不均衡な状況下での特徴表現がどの程度向上するか？
• RQ4 複雑なデータ処理やモデル工学を用いない場合、本手法は最先端のアプローチと比較してどの程度優れているか？

主な発見

• 本手法は、複雑なデータ拡張やモデル変更を用いずに、長尾視覚ベンチマークで最先端の性能を達成した。
• 分類器と特徴抽出部の両方でクラスバランスサンプリングを用いることで、テールクラスの認識精度が顕著に向上した。
• ランダムサンプリング下での補助訓練タスクにより、特徴抽出部がレアクラスへの過学習を回避し、より良い一般化性能を発揮した。
• 自己教師あり学習を補助タスクとして用いることで性能がさらに向上し、不均衡な状況下における自己教師あり事前学習の有効性が示された。
• 損失再重み付けや高度なデータサンプリング技術といった追加のコンponentsがなくても、既存のアプローチを上回る性能を発揮した。