[論文レビュー] SelecMix: Debiased Learning by Contradicting-pair Sampling

Inwoo Hwang, Sang-Jun Lee+5 more|arXiv (Cornell University)|Nov 4, 2022

Machine Learning and Data Classification被引用数 4

ひとこと要約

SelecMixは、同じラベルだがバイアス特徴が異なる例、あるいは異なるラベルだがバイアス特徴が類似する例（矛盾するペア）に対してmixupを適用することで、バイアスが衝突する訓練サンプルを生成するデバイアス学習手法を提案する。バイアス特徴を容易に学習できるようにする補助的コントラストモデルを訓練することで、明示的なバイアスラベルや分離表現を必要とせずにこれらのペアを同定する。この手法により、ベンチマークデータセットにおいて、特にラベルノイズやバイアス衝突例が少ないデータ環境下でも最先端の性能を達成する。

ABSTRACT

Neural networks trained with ERM (empirical risk minimization) sometimes learn unintended decision rules, in particular when their training data is biased, i.e., when training labels are strongly correlated with undesirable features. To prevent a network from learning such features, recent methods augment training data such that examples displaying spurious correlations (i.e., bias-aligned examples) become a minority, whereas the other, bias-conflicting examples become prevalent. However, these approaches are sometimes difficult to train and scale to real-world data because they rely on generative models or disentangled representations. We propose an alternative based on mixup, a popular augmentation that creates convex combinations of training examples. Our method, coined SelecMix, applies mixup to contradicting pairs of examples, defined as showing either (i) the same label but dissimilar biased features, or (ii) different labels but similar biased features. Identifying such pairs requires comparing examples with respect to unknown biased features. For this, we utilize an auxiliary contrastive model with the popular heuristic that biased features are learned preferentially during training. Experiments on standard benchmarks demonstrate the effectiveness of the method, in particular when label noise complicates the identification of bias-conflicting examples.

研究の動機と目的

• 深層ニューラルネットワークが、特に強力な特徴が不足している場合に、バイアスのある訓練データから誤った相関関係を学習する問題に対処すること。
• 複雑な生成モデルや分離表現に依存せずに、効果的なバイアス衝突例を生成するデータ拡張手法を開発すること。
• 矛盾するペアを用いた選択的拡張により、分布シフトやラベルノイズ下でもモデルの一般化性能を向上させること。
• 特にバイアス衝突例が少ない状況においても、標準的なデバイアスベンチマーク上で手法の有効性を検証すること。

提案手法

• SelecMixは、矛盾するペア（i）同じラベルだがバイアス特徴が異なる例、（ii）異なるラベルだがバイアス特徴が類似する例）に対してmixupを適用する。
• バイアス特徴への依存を強化するために、一般化された教師付きコントラスト（GSC）損失を用いて補助的コントラストモデルを訓練し、このようなペアの同定を可能にする。
• 補助モデルの埋め込み空間を用いてバイアス特徴の類似度を測定し、明示的なバイアスラベルを必要とせずに矛盾するペアを選択する。
• mixupはこれらのペアに対して選択的に適用され、λがmin(λ, 1−λ)に設定される対称的な重み付け戦略により、選択されたサンプルを優遇する。
• デバイアスモデルは補助モデルと同時に訓練され、拡張データを用いてロバスト性を向上させる。
• この手法により、バイアス衝突例が頻繁にmixupに選ばれるため、明示的な再重み付けなしに、それらの例の影響力を暗黙的に高めている。

実験結果

リサーチクエスチョン

• RQ1 明示的なバイアスラベルや分離表現を必要とせずに、mixupを効果的にバイアス衝突例の生成に適応できるか。
• RQ2 矛盾するペアに基づく選択的mixup戦略は、標準的なmixupや他のデータ拡張ベースラインと比較して、デバイアスにどの程度優れているか。
• RQ3 GSC損失を用いた補助的コントラストモデルは、ペア選択のためのバイアス特徴類似度の測定をどの程度向上させるか。
• RQ4 ラベルノイズが、真のバイアス衝突例の検出を複雑にする状況において、SelecMixはどの程度頑健か。
• RQ5 訓練データにバイアス衝突例が少ない場合でも、SelecMixは優れた性能を維持できるか。

主な発見

• SelecMixは、標準的なデバイアスベンチマークにおいて先行手法を上回り、バイアス比0.5%のColored MNISTデータセットで70.80%の正確度を達成した。これは、アンサンブルmixupの58.07%を大きく上回る。
• バイアス比0.5%のBFFHQデータセットでは、SelecMixが77.40%の正確度を達成し、LISA（58.93%）やアンサンブルmixup（56.20%）を著しく上回った。
• ラベルノイズが存在する状況でも、SelecMixは強固な性能を維持し、他の手法が劣化するのとは対照的に、頑健性を示した。
• アブレーションスタディにより、選択的mixup戦略とGSC損失の両方が不可欠であることが確認され、特にGSC損失がバイアス特徴類似度の測定を向上させた。
• バイアス比5%のCorrupted CIFAR-10では、SelecMixが91.57%の正確度を達成し、LISA（88.73%）やアンサンブルmixup（82.12%）を上回った。
• すべてのテストデータセットおよびバイアス比において一貫した向上が得られ、特にバイアス衝突例が少ない状況で顕著な効果を示しており、効果的な暗黙的再重み付けが実現されている。