[論文レビュー] Cross-Domain Empirical Risk Minimization for Unbiased Long-tailed Classification

Beier Zhu, Yulei Niu+2 more|arXiv (Cornell University)|Dec 28, 2021

Domain Adaptation and Few-Shot Learning被引用数 6

ひとこと要約

本稿では、偏りのない長尾分類を達成するために、不均衡な分布とバランスの取れた分布の両方で経験的リスクを同時に最小化する、新たな学習枠組みであるCross-Domain Empirical Risk Minimization (xERM) を提案する。不均衡ドメインからの真のラベルとバランスドモデルからの予測値を組み合わせることで、xERMは頑健で公平な特徴表現を学習し、長尾分類とバランスド分類の両方のテストセットで最先端の手法を上回る性能を発揮する。これは、性能向上がバイアス操作によるものではなく、特徴表現の向上に起因することを示している。

ABSTRACT

We address the overlooked unbiasedness in existing long-tailed classification methods: we find that their overall improvement is mostly attributed to the biased preference of tail over head, as the test distribution is assumed to be balanced; however, when the test is as imbalanced as the long-tailed training data -- let the test respect Zipf's law of nature -- the tail bias is no longer beneficial overall because it hurts the head majorities. In this paper, we propose Cross-Domain Empirical Risk Minimization (xERM) for training an unbiased model to achieve strong performances on both test distributions, which empirically demonstrates that xERM fundamentally improves the classification by learning better feature representation rather than the head vs. tail game. Based on causality, we further theoretically explain why xERM achieves unbiasedness: the bias caused by the domain selection is removed by adjusting the empirical risks on the imbalanced domain and the balanced but unseen domain. Codes are available at https://github.com/BeierZhu/xERM.

研究の動機と目的

• 既存の長尾分類手法が、テスト分布の仮定に応じて「ヘッド」クラスか「テイル」クラスを優遇するという、見過ごされがちなバイアスを是正すること。
• バランスドテストセットのみを最適化するのでなく、不均衡ドメインとバランスドドメインの両方のテスト分布で偏りのない性能を達成する学習枠組みを提案すること。
• 実験的および理論的に、性能向上がクラスバイアスの再配分によるものではなく、より良い特徴表現によるものであることを示すこと。
• 長尾学習におけるドメイン選択に起因する交絡バイアスを除去するための因果フレームワークを提供すること。

提案手法

• xERMは、不均衡な学習ドメインからの真のラベルを用いた経験的リスク最小化と、バランスドモデルの予測値を用いた別のリスク最小化の2つの項を組み合わせる。前者はヘッドクラスの性能維持に、後者はテイルクラスの不足学習を是正するために使用される。
• 2つの損失を適応的重み付けを用いて同時に最適化することで、どちらのドメインにも過剰に重みを置くのを防ぎ、バランスの取れたバイアス低減を実現する。
• ドメイン選択に起因する交絡バイアスを形式的に除去するための因果フレームワークを導入する。両ドメインは学習時に同時に出現できないため、このバイアスを除去する必要がある。
• バランスドモデルの予測値を、実際のバランスドデータを必要とせずに、未知のバランスドドメインの代理として用いることで、モデルは公平な事前分布を学習できる。
• 本手法はさまざまなバックボーンアーキテクチャと互換性があり、RIDEのようなアンサンブルモデルに対しても、アーキテクチャの変更なしに性能向上をもたらす。

実験結果

リサーチクエスチョン

• RQ1 現在の長尾分類性能向上は、本当に本質的な改善なのか、それとも「ヘッド」から「テイル」クラスへのバイアスの移動に過ぎないのか？
• RQ2 モデルは、不均衡なテスト分布とバランスドなテスト分布の両方で、一方を優遇せずに高い性能を同時に達成できるか？
• RQ3 既存手法による性能向上は、より良い特徴表現によるものか、単にクラスバイアスの再配分によるものか？
• RQ4 因果フレームワークは、長尾学習におけるドメイン選択に起因するバイアスを効果的に除去できるか？

主な発見

• xERMは、ImageNet-LT、Places365-LT、iNaturalist 2018 といった複数のベンチマークで、長尾テストセットおよびバランスドテストセットの両方で最先端の性能を達成した。
• iNaturalist 2018 データセットでは、xERM ${}_{\!P\!C}$ が70.4%のマニーショットリcallを達成し、BBNのような他のバランスドモデルが49.4%に低下するのを大きく上回った。
• CIFAR100-LT-IB-100 では、xERM ${}_{\!T\!D\!E}$ が不均衡比100の条件下でトップ1正答率62.2%を達成し、すべてのショットレジームでベースラインを上回った。
• Places365-LT では、xERM が54.2%の高精度を維持し、XE（精度：39.9%）とPC（精度：73.3%）を合わせた性能を上回った。
• アブレーションスタディの結果、xERMの向上は単に分類器の再重み付けによるものではなく、特徴表現の向上に起因することが示された。分類器のみを再訓練した場合、性能向上はわずかであった。
• RIDEのようなアンサンブルモデルにおいても、xERMはすべてのショットレジームで精度、リcall、F1スコアを一貫して向上させ、新しいSOTAを樹立した。