[論文レビュー] Adaptive Risk Minimization: A Meta-Learning Approach for Tackling Group Distribution Shift

Marvin Zhang, Henrik Marklund+4 more|arXiv (Cornell University)|Jul 6, 2020

Domain Adaptation and Few-Shot Learning参考文献 42被引用数 25

ひとこと要約

本論文では、データグループ間の分布シフトに適応できるメタラーニングフレームワークである適応的リスク最小化（ARM）を提案する。訓練時に多様なシミュレートされたグループ分布シフトの下で性能を最適化することで、画像分類ベンチマークにおけるグループ分布シフトの設定で、先行する耐性・不変性・適応手法よりも1–4%高いテスト精度を達成する。

ABSTRACT

A fundamental assumption of most machine learning algorithms is that the training and test data are drawn from the same underlying distribution. However, this assumption is violated in almost all practical applications: machine learning systems are regularly tested under distribution shift, due to changing temporal correlations, atypical end users, or other factors. In this work, we consider the setting where the training data are structured into groups and there may be multiple test time shifts, corresponding to new groups or group distributions. Most prior methods aim to learn a single robust model or invariant feature space to tackle this group shift. In contrast, we aim to learn models that adapt at test time to shift using unlabeled test points. Our primary contribution is to introduce the framework of adaptive risk minimization (ARM), in which models are optimized for post adaptation performance on training batches sampled from different groups, which simulate group shifts that may occur at test time. We use meta-learning to solve the ARM problem, and compared to prior methods for robustness, invariance, and adaptation, ARM methods provide consistent gains of 1-4% test accuracy on image classification problems exhibiting group shift.

研究の動機と目的

• 実世界の機械学習応用において、テストデータが訓練データとグループ固有の分布で異なるというグループ分布シフトの課題に対処すること。
• 固定された耐性または不変表現に依存するのではなく、ラベルなしテストポイントを用いてテスト時に動的に適応できる手法を開発すること。
• メタラーニングを用いて訓練中にこのようなシフトをシミュレートすることで、複数の未知のグループシフト下での一般化を向上させること。
• 異なるグループ分布の下での適応後性能を明示的に最適化することで、耐性・不変性・適応の分野における既存手法を上回ること。

提案手法

• 訓練バッチを異なるグループからサンプリングし、テスト時の分布シフトを模擬することで、適応後のモデル性能を最適化する訓練目的として、適応的リスク最小化（ARM）を導入する。
• メタラーニングを用いて、推論時にラベルなしテストデータのみを用いて、新しいグループ分布に素早く適応できるモデルを訓練する。
• 各サポートセットが特定のグループ分布からの少数のラベル付き例から構成される、複数のグループシフトを表すサポートセットを訓練する。
• テスト時に、新しいグループからのラベルなしテストポイントを用いて、少数のショット適応ステップでモデルをファインチューニングし、適応後のリスクを最小化する。
• メタ目的を、訓練中にシミュレートされたすべてのグループシフトにおける適応後期待リスクの最小化として定式化する。
• 二段階最適化プロセスを活用：内側のループでサポートセット上でモデルを適応し、外側のループで全グループにおける適応後リスクを最小化するようにモデルパラメータを更新する。

実験結果

リサーチクエスチョン

• RQ1 ラベルなしデータを用いてテスト時に適応するメタラーニングモデルは、グループ分布シフト下でより優れた一般化を達成できるか？
• RQ2 不変表現を学ぶ手法や単一の耐性モデルを学ぶ手法と比較して、提案されたARMフレームワークは、分布シフト下でのテスト精度でどのように差をつけるか？
• RQ3 訓練時に適応後性能を最適化することで、多様なグループシフトシナリオにおいて一貫した改善が得られるか？
• RQ4 テスト時に適応できる能力が、未知のグループ分布下での性能低下をどの程度軽減するか？

主な発見

• グループ分布シフトを伴う画像分類タスクにおいて、耐性・不変性・適応に注力した先行手法よりも、ARMは一貫して1–4%高いテスト精度を達成する。
• グループシフトを示す複数のベンチマークデータセットにおいて優れた性能を発揮し、多様で未知のグループ分布に対して強い耐性を示す。
• メタラーニングにより、新しいグループからの少数のラベルなし例のみを用いて、テスト時に効果的な適応が可能であり、推論時にラベル付きデータを必要としない。
• グループ分布シフトが顕著に大きい状況下でARMのパフォーマンス向上が顕著に現れ、実世界の展開状況での有効性を示している。
• 不変リスク最小化や標準的なドメイン一般化手法を上回り、適応性能を明示的に最適化することで優位性を発揮している。
• アブレーションスタディにより、ARMの成功の鍵は訓練時にグループシフトをシミュレートし、適応後性能を最適化することにあると確認された。