[論文レビュー] Label-Aware Distribution Calibration for Long-tailed Classification

Chaozheng Wang, Shuzheng Gao+5 more|arXiv (Cornell University)|Nov 9, 2021

Anomaly Detection Techniques and Applications参考文献 38被引用数 5

ひとこと要約

本稿では、長尾分類のための新しい手法であるラベル認識型分布キャリブレーション（LADC）を提案する。LADCは、類似した代表的なヘッドクラスから統計的知識を転移することで、尾部クラスの特徴分布をキャリブレーションする。特徴空間におけるクラス間類似度を活用し、キャリブレーションされた分布から合成サンプルを生成することで、既存手法に比べて尾部クラスの性能を顕著に向上させ、画像およびテキストのベンチマークで最先端の結果を達成した。

ABSTRACT

Real-world data usually present long-tailed distributions. Training on imbalanced data tends to render neural networks perform well on head classes while much worse on tail classes. The severe sparseness of training instances for the tail classes is the main challenge, which results in biased distribution estimation during training. Plenty of efforts have been devoted to ameliorating the challenge, including data re-sampling and synthesizing new training instances for tail classes. However, no prior research has exploited the transferable knowledge from head classes to tail classes for calibrating the distribution of tail classes. In this paper, we suppose that tail classes can be enriched by similar head classes and propose a novel distribution calibration approach named as label-Aware Distribution Calibration LADC. LADC transfers the statistics from relevant head classes to infer the distribution of tail classes. Sampling from calibrated distribution further facilitates re-balancing the classifier. Experiments on both image and text long-tailed datasets demonstrate that LADC significantly outperforms existing methods.The visualization also shows that LADC provides a more accurate distribution estimation.

研究の動機と目的

• データスパarsityと分布推定のバイアスによって、ニューラルネットワークの尾部クラスにおける性能低下を是正すること。
• 代表的なヘッドクラスから尾部クラスへの転移可能な知識を探索し、不足しているクラスの特徴分布推定を改善すること。
• 特徴空間におけるクラス間類似度を活用した分布キャリブレーション機構を開発し、尾部クラスの表現学習を強化すること。
• キャリブレーションされた分布に基づく新しいサンプリング戦略を通じて、分類器の再バランスを図り、過学習と分布マッチングの不一致を低減すること。
• 再重み付けやデータオーグメンテーションに依存せず、長尾画像およびテキスト分類ベンチマークで最先端の性能を達成すること。

提案手法

• LADCは学習を2段階に分ける。まず、表現学習を強化するため、データオーグメンテーション（再バランスミックスアップとRandAugment）を用いてバックボーンを訓練する。
• 2段階目では、各尾部クラスについて、特徴の平均と共分散の類似度に基づき、最も類似したm個のヘッドクラスを特定する。
• 各尾部クラスについて、最も類似したヘッドクラスの平均と共分散行列を組み合わせることで、キャリブレーションされた分布を計算する。各次元で特徴がガウス分布に従うと仮定する。
• これらのキャリブレーションされた分布から新しい訓練インスタンスをサンプリングし、分類器の再バランスを図り、尾部クラスのデータスパarsityを軽減する。
• キャリブレーションされたサンプルを用いて分類器の是正をさらに向上させる新しい分類器再バランス技術、LWS-Plusを導入する。
• 類似クラスは共通の特徴統計（平均と分散）を共有すると仮定することで、ヘッドクラスから尾部クラスへの知識転送を可能にする。

Figure 1: Visualization for the cosine similarities between the means (a) or variances (b) of classes in the feature space of CIFAR10-LT. The feature vectors are computed by the ResNet-32 backbone. The first four classes including $airplane$ , $automobile$ , $bird$ , and $cat$ are head classes, whil

実験結果

リサーチクエスチョン

• RQ1 特徴空間におけるクラス間類似度を活用することで、長尾クラスの分布推定を改善できるか？
• RQ2 ヘッドクラスから尾部クラスへの統計的知識の転送は、分類モデルの一般化性能を向上させ、バイアスを低減するか？
• RQ3 類似したヘッドクラスからのキャリブレーションされた特徴分布を用いることで、従来の再重み付けやデータオーグメンテーションに依存せずに尾部クラスの性能を向上させられるか？
• RQ4 既存の2段階学習手法と比較して、ラベル認識型分布キャリブレーションは尾部クラスの正確性と分布マッチングの不一致低減の両面で優れているか？
• RQ5 キャリブレーションされた分布からのサンプリング戦略が、過学習をどれほど低減し、分類器の再バランスをどれほど向上させるか？

主な発見

• 不均衡要因200のCIFAR100-LTにおいて、LADCはcRTを用いてトップ1正解率55.24％を達成し、次善の手法（LAS）を2.12ポイント上回った。
• 不均衡要因100のCIFAR100-LTにおいて、LADCはLWS-Plusを用いて54.00％の正解率を達成し、ベースラインのLWS手法を1.41ポイント上回った。
• LADCは不均衡要因200、100、50の複数の条件で一貫した向上を示し、長尾歪度の程度が異なる状況でも頑健であることを確認した。
• 可視化結果から、LADCは類似ヘッドクラスの特徴統計に尾部クラスの特徴統計を一致させることで、より正確な分布推定を実現していることが確認された。
• 本手法は、画像およびテキストの長尾分類データセットにおいて、ドメインを跨いで一般化性を示し、最先端の性能を達成した。
• アブレーションスタディの結果、分布キャリブレーションとLWS-Plusの組み合わせが、単体の各コンポonentよりも優れた分類器再バランスを実現することが確認された。

Figure 2: Overview of our proposed LADC method. In Stage 1, we train the backbone with Representation Enhancement. In Stage 2, we freeze the backbone and modify the classifier by re-sampling with distribution calibration and LWS-Plus training.