[論文レビュー] Adaptive Risk Minimization: Learning to Adapt to Domain Shift

Marvin Mengxin Zhang, Henrik Marklund+4 more|arXiv (Cornell University)|Jul 6, 2020

Domain Adaptation and Few-Shot Learning被引用数 28

ひとこと要約

本論文は、ラベルなしテストデータを用いてテスト時におけるドメインシフトにモデルを適応させるためのフレームワークである適応的リスク最小化（ARM）を導入する。訓練ドメイン上で適応戦略をメタラーニングすることで、分布シフトを伴う画像分類ベンチマークにおいて、先行手法よりも1–4%の精度向上を達成する。

ABSTRACT

A fundamental assumption of most machine learning algorithms is that the training and test data are drawn from the same underlying distribution. However, this assumption is violated in almost all practical applications: machine learning systems are regularly tested under distribution shift, due to changing temporal correlations, atypical end users, or other factors. In this work, we consider the problem setting of domain generalization, where the training data are structured into domains and there may be multiple test time shifts, corresponding to new domains or domain distributions. Most prior methods aim to learn a single robust model or invariant feature space that performs well on all domains. In contrast, we aim to learn models that adapt at test time to domain shift using unlabeled test points. Our primary contribution is to introduce the framework of adaptive risk minimization (ARM), in which models are directly optimized for effective adaptation to shift by learning to adapt on the training domains. Compared to prior methods for robustness, invariance, and adaptation, ARM methods provide performance gains of 1-4% test accuracy on a number of image classification problems exhibiting domain shift.

研究の動機と目的

• 訓練データとテストデータの分布が不一致であるために、標準的な機械学習モデルが分布シフトの下で失敗するという限界を解消すること。
• 入力出力関係がすべてのドメインで一貫すると仮定する不変表現学習の欠陥を克服すること。これは、関係が変化する場合には失敗する。
• ハンドライティング認識や医療画像処理などの応用において現実的である、新しいドメインからのラベルなし例のみを用いて効果的なテスト時適応を可能にすること。
• 訓練ドメインでのパフォーマンスだけでなく、推論時における適応の能力まで最適化する統合フレームワークの開発。
• メタラーニングで学習した適応戦略が、多様な分布シフトベンチマークにおいて、標準的なERMおよび不変性に基づく手法を上回ることを実証すること。

提案手法

• 未確認ドメインへの効果的な適応を可能にする訓練目的として、適応的リスク最小化（ARM）を提案。ラベルなしテストデータを用いて、未確認ドメインへの適応を最適化する。
• メタラーニングを用いて、訓練ドメインのセット上でモデルを訓練し、ラベルなしテストバッチのファインチューニングにより、新しいドメインに迅速に適応できるようにする。
• 文脈的メタラーニングを用いてARMを具体化。適応は、テスト入力バッチの統計（例：バッチ正規化）によって誘導される。
• 二段階最適化によりARM目的を適用：内側のループでモデルをテストバッチ上で適応し、外側のループで適応後の期待リスクを最小化するようにモデルパラメータを更新する。
• ストリーミング設定への拡張。モデルが到着するラベルなしデータに段階的に適応するよう設計し、実際の応用で高速収束を示す。
• 正規化層（例：BatchNorm）とARMを統合し、効率的な適応を可能にするARM-BNバージョンを構築。実験ではこのバージョンが使用された。

実験結果

リサーチクエスチョン

• RQ1 ラベルなしデータのみを用いて、テスト時におけるドメインシフトに効果的に適応できるモデルを訓練できるか？（テストラベルは不要）
• RQ2 ARMによるメタラーニング適応は、不変表現学習および標準的なERMと比較して、多様な分布シフトシナリオにおいてどれほど頑健か？
• RQ3 ラベルなしテストデータを用いた適応能力が、実世界の分布シフトを伴う複数のベンチマークで一貫したパフォーマンス向上をもたらすか？
• RQ4 ARMは、画像劣化、異なるユーザーのハンドライティング変動、医療画像の分布シフトなど、さまざまなタイプのドメインシフトに一般化可能か？
• RQ5 ストリーミング設定において、適応ステップ数や到着するデータポイント数の増加に伴い、ARMのパフォーマンスはどのようにスケーリングするか？

主な発見

• ARM手法は、ドメインシフトを伴う画像分類ベンチマークにおいて、先行する最先端手法よりも1–4%の絶対的精度向上を達成する。
• Wildsベンチマークにおいて、ARM-BNはRxRx1（87.2%の精度）およびCamelyon17で顕著な性能向上を示し、ERMおよび不変性に基づく手法を上回る。
• ストリーミング設定では、Tiny ImageNet-Cで50個未満のラベルなしテストポイントで強力なパフォーマンスを達成し、高速かつ効果的な適応を示している。
• ARM-BNはFMoWでは性能が低く、適応戦略は特定のデータ分布に適合させる必要があることを示しており、多様な適応ツールの必要性を強調している。
• 複数のデータセットにおいて平均的および最悪ケースの両方のパフォーマンスで一貫した向上を示しており、頑健性の向上が確認されている。
• 実験結果は、入出力関係がドメイン間で変化する状況でも、メタラーニングで学習した適応戦略が有効であることを確認しており、不変性に基づく手法が失敗する領域でも有効である。