[論文レビュー] MaskTune: Mitigating Spurious Correlations by Forcing to Explore

Saeid Asgari Taghanaki, Aliasghar Khani+5 more|arXiv (Cornell University)|Sep 30, 2022

Machine Learning and Data Classification被引用数 20

ひとこと要約

MaskTune は、訓練済みモデルが発見した最も識別的な特徴をマスクして新しい入力特徴の探索を強制し、監督なしに虚偽相関への依存を減らす single-epoch finetuning 手法である。

ABSTRACT

A fundamental challenge of over-parameterized deep learning models is learning meaningful data representations that yield good performance on a downstream task without over-fitting spurious input features. This work proposes MaskTune, a masking strategy that prevents over-reliance on spurious (or a limited number of) features. MaskTune forces the trained model to explore new features during a single epoch finetuning by masking previously discovered features. MaskTune, unlike earlier approaches for mitigating shortcut learning, does not require any supervision, such as annotating spurious features or labels for subgroup samples in a dataset. Our empirical results on biased MNIST, CelebA, Waterbirds, and ImagenNet-9L datasets show that MaskTune is effective on tasks that often suffer from the existence of spurious correlations. Finally, we show that MaskTune outperforms or achieves similar performance to the competing methods when applied to the selective classification (classification with rejection option) task. Code for MaskTune is available at https://github.com/aliasgharkhani/Masktune.

研究の動機と目的

• 深層モデルにおける虚偽の入力特徴への過度な依存を、虚偽のラベルの注釈を用いずに動機付け、対処する。
• 追加の特徴の探索を強制するマスキングベースのfinetuning手法を提案する。
• 多様なデータセットにおける虚偽相関への堅牢性と、選択的分類への適用性を示す。
• マスキングがモデルの複雑さと挙動をどのように変えるかについて、経験的および理論的洞察を示す。

提案手法

• 元のデータ上でERMモデルを訓練する。
• 各トレーニングサンプルに対してxGradCAMを用いて特徴重要度マップを計算する。
• 閾値マップとアップサンプリングを用いて最も識別的な領域をマスクする（上位寄与をマスクする）。
• マスクされたデータセット上で小さな学習率で1エポックのファインチューニングを行う。
• 新しい補完的特徴の発見を促すためにマスキングを繰り返す。
• 任意で元のモデルとMaskTuneモデルをアンサンブルして選択的分類を行う。」],
• research_questions:[

実験結果

リサーチクエスチョン

• RQ1 最初に発見された識別的特徴を single-epoch finetune 中にマスクすることで、監督なしで虚偽相関への依存を減らせるだろうか？
• RQ2 MaskTune はより広い入力特徴の学習を促し、堅牢性を向上させ、選択的分類における信頼できる棄却を可能にするか？
• RQ3 異なる虚偽相関を持つデータセットおよび選択的分類の状況で、MaskTune はどのように性能を示すか？

主な発見

• MaskTune は biased MNIST、CelebA、Waterbirds、Background Challenge データセットで競合手法を上回るか同等の性能を示す。
• MaskTune はグループ監視なしで CelebA および Waterbirds における最悪グループの精度を向上させつつ、全体の精度を高く維持する。
• MaskTune は選択的分類の性能を改善し、CIFAR-10、SVHN、Cats vs. Dogs でカバレッジレベルを跨いで強力な結果を達成する。
• この手法は訓練中やモデル選択時に虚偽特徴の注釈やサブグループラベルを必要としない。
• MaskTune は説明可能性マップで可視化されるように、より広い入力特徴の依存を高める。
• 理論的検討では、マスキングはモデルの複雑さを高め、過剛性パラメトリック領域で探索を強制することが示される。