[論文レビュー] The Clever Hans Mirage: A Comprehensive Survey on Spurious Correlations in Machine Learning

Wenqian Ye, Jiang, Luyang+17 more|arXiv (Cornell University)|Feb 20, 2024

Neural Networks and Applications被引用数 12

ひとこと要約

この調査は機械学習における偽相関を正式に定義し、それらを緩和するための分類と手法を調査し、データセット、指標、将来の課題を論じる。

ABSTRACT

Back in the early 20th century, a horse named Hans appeared to perform arithmetic and other intellectual tasks during exhibitions in Germany, while it actually relied solely on involuntary cues in the body language from the human trainer. Modern machine learning models are no different. These models are known to be sensitive to spurious correlations between non-essential features of the inputs (e.g., background, texture, and secondary objects) and the corresponding labels. Such features and their correlations with the labels are known as "spurious" because they tend to change with shifts in real-world data distributions, which can negatively impact the model's generalization and robustness. In this paper, we provide a comprehensive survey of this emerging issue, along with a fine-grained taxonomy of existing state-of-the-art methods for addressing spurious correlations in machine learning models. Additionally, we summarize existing datasets, benchmarks, and metrics to facilitate future research. The paper concludes with a discussion of the broader impacts, the recent advancements, and future challenges in the era of generative AI, aiming to provide valuable insights for researchers in the related domains of the machine learning community.

研究の動機と目的

• 機械学習における偽相関の正式な定義を提供する。
• 最先端の緩和手法の包括的な分類を提供する。
• 偽相関に関するデータセット、ベンチマーク、および評価指標を要約する。
• この領域の課題、今後の方向性、基盤モデルの役割について論じる。

提案手法

• グループラベル (y,a) とグループ集合 G = Y × A の正式な定義を導入する。
• 緩和手法をデータ操作、表現学習、学習戦略、その他の手法に分類する。
• データ増強、概念/擬似ラベルの発見、原因介入、不変学習、特徴の分離、コントラスト学習を調査する。
• 最適化ベースの手法、アンサンブル学習、同定→緩和、ファインチューニング戦略、敵対的学習を議論する。
• データセットと指標の概要を提供し、頑健性指標として worst-group accuracy を強調する。

Figure 2 : Hospital tags, strips, and medical devices exemplify several unknown group labels in the MIMIC-CXR dataset, which might spuriously correlate with the ground truth diagnosis results.

実験結果

リサーチクエスチョン

• RQ1 機械学習における偽相関の正式な定義は何であり、それらをどのように検出・特徴づけできるか？
• RQ2 データ操作、表現学習、学習戦略全体で偽相関を緩和する現在の手法を最適に整理する分類体系は何か？
• RQ3 偽相関に対する頑健性を評価するために使用されるデータセットと指標は何で、それらのトレードオフは何か？
• RQ4 グループラベル依存性や基盤モデルを含む、偽相関を緩和する際の主要な課題と将来の方向性は何か？

主な発見

• 偽相関の正式な定義が提供され、偽属性とグループへの対応付けが含まれる。
• データ操作、表現学習、学習戦略、およびその他の手法に跨る緩和アプローチの包括的な分類が提案される。
• 本調査は worst-group パフォーマンスおよび関連指標の評価に用いられる一般的なデータセットと指標を要約する。
• worst-group と平均精度のトレードオフを論じ、グループラベル依存性やスケーラビリティなどの課題を強調する。
• 基盤的な議論は偽相関をドメイン一般化、不変学習、Group Robustness、ショートカット学習と結びつける。