[論文レビュー] Towards Calibrated Model for Long-Tailed Visual Recognition from Prior Perspective

Zhengzhuo Xu, Zenghao Chai+1 more|arXiv (Cornell University)|Nov 6, 2021

Retinal Imaging and Analysis被引用数 15

ひとこと要約

本論文は、長尾視覚認識におけるキャリブレーションを向上させるために、2つの新規手法—Uniform Mixup (UniMix) と Bayes Bias (Bayias)—を提案する。UniMix は、テール優先の混合係数と逆数サンプリングを用い、より多くのヘッド・テール混合サンプルを生成する。一方、Bayias は修正された交差エントロピー損失を用いて、訓練集合とテスト集合間の事前分布の不一致を是正する。両手法の組み合わせは、CIFAR-LT、ImageNet-LT、iNaturalist 2018 で最先端の性能を達成し、キャリブレーションと精度の両方を向上させる。

ABSTRACT

Real-world data universally confronts a severe class-imbalance problem and exhibits a long-tailed distribution, i.e., most labels are associated with limited instances. The na\\"ive models supervised by such datasets would prefer dominant labels, encounter a serious generalization challenge and become poorly calibrated. We propose two novel methods from the prior perspective to alleviate this dilemma. First, we deduce a balance-oriented data augmentation named Uniform Mixup (UniMix) to promote mixup in long-tailed scenarios, which adopts advanced mixing factor and sampler in favor of the minority. Second, motivated by the Bayesian theory, we figure out the Bayes Bias (Bayias), an inherent bias caused by the inconsistency of prior, and compensate it as a modification on standard cross-entropy loss. We further prove that both the proposed methods ensure the classification calibration theoretically and empirically. Extensive experiments verify that our strategies contribute to a better-calibrated model, and their combination achieves state-of-the-art performance on CIFAR-LT, ImageNet-LT, and iNaturalist 2018.

研究の動機と目的

• データの不均衡によって引き起こされる、深層モデルの長尾視覚認識におけるキャリブレーション不良および一般化性能の低さを是正すること。
• 標準のミキシング手法が長尾設定でキャリブレーションに失敗する根本的要因を特定すること。この要因は、ヘッド・ヘッドペアの過剰生成にある。
• 少数クラスの一般化を向上させるために、ヘッド・テール混合を促進する新しいデータ拡張戦略（UniMix）を提案すること。
• 訓練集合とテスト集合間の事前分布の不一致を是正するため、Bayes Bias (Bayias) を導入すること。
• UniMix と Bayias を統合した単一のトレーニングフレームワークを構築し、より良好なキャリブレーションと高い精度を持つモデルを実現すること。

提案手法

• 長尾シナリオにおけるミキシング手法のキャリブレーション不良を分析するための ξ-Aug の概念を導入し、過剰なヘッド・ヘッドペア生成が根本的問題であると特定する。
• ラベル事前分布を考慮した混合係数 ξ*i,j ∼ U(π_yi, π_yj, α, α) を用いた Uniform Mixup (UniMix) を設計し、混合過程で少数クラスを優遇する。
• ミキシングデータ生成時にヘッド・テールペアの選択確率を高める逆数サンプリング戦略を実装する。
• Bayes Bias (Bayias) を log(π_i) - log(π'_i) として定義し、ここで π_i は訓練時の事前分布、π'_i はテスト時の事前分布である。この定義により、事前分布の不一致を是正する。
• 標準の交差エントロピー損失に Bayias をクラス固有のバイアス項として追加し、事後分布推定を改善する。
• UniMix と Bayias を統合した単一のトレーニングパイプラインを構築し、キャリブレーションと精度の両方を同時に向上させる。

実験結果

リサーチクエスチョン

• RQ1 なぜ標準的なミキシング手法は、長尾視覚認識の文脈でモデルのキャリブレーションに失敗するのか？
• RQ2 長尾データセットにおける少数クラスの一般化を向上させるために、データ拡張をどのように再設計すべきか？
• RQ3 訓練集合とテスト集合間の不一致したラベル事前分布によって生じる本質的バイアスとは何か？ そして、そのバイアスはどのように是正できるか？
• RQ4 改善されたデータ拡張と事前分布に配慮した損失補正を組み合わせることで、より良好なキャリブレーションを持つモデルが得られるか？
• RQ5 異なるキャリブレーション戦略を組み合わせた場合、それらは干渉し合うのか、それとも相乗効果を生じるのか？

主な発見

• UniMix はヘッド・テール混合サンプルの割合を増加させることで、ヘッドクラスの過信を軽減し、モデルのキャリブレーションを顕著に改善する。
• Bayes Bias (Bayias) は、訓練集合とテスト集合間の事前分布の不一致を是正し、より正確な事後分布推定を実現する。
• UniMix と Bayias の組み合わせは、CIFAR-100-LT-100 で最先端の精度（48.3%）とキャリブレーション性能（ECE 1.44%）を達成する。
• ImageNet-LT では、先行する最先端手法と比較して優れた性能を示し、強力な一般化性能を示す。
• UniMix と Bayias を併用することで、単体での使用よりも優れたキャリブレーションが得られ、精度に劣化は見られない。
• 実験的結果から、キャリブレーションが悪い手法を組み合わせると逆効果となる可能性があることが示され、キャリブレーションの一貫性の重要性が強調される。