[論文レビュー] Selecting Data Augmentation for Simulating Interventions

Maximilian Ilse, Jakub M. Tomczak+1 more|arXiv (Cornell University)|May 4, 2020

Domain Adaptation and Few-Shot Learning参考文献 43被引用数 22

ひとこと要約

本稿では、ドメイン一般化のためのデータ拡張を指針とする因果フレームワークを提案し、干渉をシミュレートすることで、ドメインとラベルの間の誤った相関関係を弱める有効な拡張が可能であることを示している。ドメイン分類器を用いてドメイン固有の特徴に影響を与えるがラベル関連特徴に影響を与えない拡張を選び出すことで、PACS、Colored MNIST、Rotated MNISTの複数のベンチマークで、既存のドメイン一般化手法を上回る性能を発揮する。

ABSTRACT

Machine learning models trained with purely observational data and the principle of empirical risk minimization \citep{vapnik_principles_1992} can fail to generalize to unseen domains. In this paper, we focus on the case where the problem arises through spurious correlation between the observed domains and the actual task labels. We find that many domain generalization methods do not explicitly take this spurious correlation into account. Instead, especially in more application-oriented research areas like medical imaging or robotics, data augmentation techniques that are based on heuristics are used to learn domain invariant features. To bridge the gap between theory and practice, we develop a causal perspective on the problem of domain generalization. We argue that causal concepts can be used to explain the success of data augmentation by describing how they can weaken the spurious correlation between the observed domains and the task labels. We demonstrate that data augmentation can serve as a tool for simulating interventional data. We use these theoretical insights to derive a simple algorithm that is able to select data augmentation techniques that will lead to better domain generalization.

研究の動機と目的

• 観測データにおけるドメインとラベルの間の誤った相関がドメイン一般化モデルの失敗を引き起こすという問題に対処すること。
• 医療画像やロボット工学などの応用分野における理論的ドメイン一般化手法とヒューリスティックベースのデータ拡張実践の間のギャップを埋めること。
• 観測データのみを用いて、因果推論に基づき、データ拡張を干渉のシミュレーションツールとして形式化すること。
• ドメイン固有の交絡要因を弱めるために、ドメイン一般化を向上させるデータ拡張手法を選択する実用的アルゴリズムの開発

提案手法

• ドメイン変数におけるdo-計算の干渉とデータ拡張の関係を形式化するため、干渉拡張の等長性を導入する。
• 隠れた交絡要因を含む構造的因果モデル（SCM）を用い、ドメイン（d）とラベル（y）の間の誤った相関をモデル化する。ここでdはyと因果的に関係のない高次元特徴（hd）に影響を与える。
• 各拡張がドメイン特徴（hd）のドメイン変数dへの予測力をどれだけ効果的に低下させるかを評価するために、ドメイン分類器を用いた選択アルゴリズムを提案する。
• データ拡張を対称性群（例：色のジャマ、回転）からのランダムサンプリングとして適用し、変換がラベルyの非子孫にのみ作用するようにすることで、タスク関連特徴を保持する。
• 選択された拡張のみを用いて経験的リスク最小化（ERM）によりモデルを学習し、ラベル関連特徴に悪影響を及ける破壊的組み合わせを回避する。
• PACS、Colored MNIST、Rotated MNISTの3つのベンチマークで評価し、10の最先端ドメイン一般化手法と比較する。

実験結果

リサーチクエスチョン

• RQ1 do-計算の干渉が利用できない状況において、データ拡張を干渉のシミュレーション手法として形式的に正当化できるか？
• RQ2 タスク関連特徴に悪影響を与えることなく、ドメインとラベルの間の誤った相関を弱めるデータ拡張手法をどのように選択できるか？
• RQ3 隠れた交絡要因が存在する状況で、データ拡張がドメイン一般化をどのように向上させるかの因果的メカニズムは何か？
• RQ4 ドメイン分類器の性能に基づいて拡張を選び出すことで、標準的または無差別な拡張よりも優れた一般化性能が得られるか？

主な発見

• 提案手法DA（Data Augmentation selection）は、3つのベンチマークすべてで最高の平均正答率を達成した：PACSで74.9%、Colored MNISTで74.1%、Rotated MNISTで95.9%。
• DAは、色やスタイルが誤った手がかりとなる『スケッチ』および『アートペインティング』のテストドメインにおいて、ERMおよびすべての10のSOTAドメイン一般化手法を顕著に上回った。
• すべてのデータ拡張手法を同時に使用すると、PACSで16.1%、Colored MNISTで8.7%、Rotated MNISTで25.4%の正答率低下が生じ、無差別な拡張が性能を損なうことを示した。
• アブレーションスタディにより、一部の拡張（例：PACSにおけるランダム回転）は、ラベルが変わっていなくても有用な方向性に基づく特徴を破壊することが確認された。
• この手法は、『スケッチ』ドメインで色の摂動が誤った相関を弱めることが適切に特定できた。
• 因果フレームワークにより、特定の拡張が失敗する理由が説明された：ラベルyと因果的に関係する特徴（hy）を破壊しているためで、たとえラベルが保存されていなくてもそうなる。